logo
繁体
繁体

“虚拟”英国女王将在圣诞节发表讲话,深度造假技术惹争议

据英国广播公司报道,今年英国电视台第4频道的另类圣诞致辞将由一位“以假乱真”的女王来提供。

(图源:Burst Shopify)

当女王在BBC和ITV(英国独立电视公司)上发表她的传统讲话时,她的数码替身将在第4频道分享她的“想法”。

白金汉宫对BBC表示,对此次直播不予置评。而第4频道表示,此举的目的是对数字时代的假新闻发出“严厉警告”。

深度造假技术(Deepfake technology)可以用来制作令人信服但完全是虚构的视频内容,并经常被用来传播虚假信息。

BBC的王室记者Nicholas Witchell对此不以为然:”模仿女王的东西数不胜数。这个平平无奇罢了。这声音听起来就是这样——这是模仿她的拙劣尝试。让人不安的是,人们用视频技术试图让她的讲话对上她的口型。”

虽然目前的技术来说,制造“深度假音”不在话下,但这次配音将由英国女演员Debra Stephenson配音。这位电视明星曾在2020年复播的讽刺小品节目《吐槽大会》中为君主的木偶配音。

Stephenson说:”作为一名女演员,这是令人兴奋的,但一旦想到这种技术可能还会被运用于其他领域,就感到有些可怕。”

这种深度造假技术是由奥斯卡获奖的VFX工作室Framestore制作的。这项技术在2018年初首次崭露头角。当时,一位开发者改编了尖端的人工智能技术,创建了一个软件,将一个人的脸换成了另一个人的脸。然而,此后这个过程变得愈发容易了。

现在有许多应用程序只需要一张照片,就可以将好莱坞演员的脸替换成用户的脸。但今年早些时候,微软推出了一款能够识别深度造假的工具。

微软公司表示,他们希望能帮助打击虚假信息,但专家警告说,由于技术的进步,打假工具可能会被逐渐淘汰。

《Deep Fakes》和《Infocalypse》的作者Nina Schick告诉BBC,人们越来越担心深度造假技术可能以其他恶意方式被利用。“尽管它提供了巨大的商业和创意机会,从娱乐至通信,改变了整个行业,但它也是一项将被武器化的技术。如果这项技术被恶意使用,人工智能生成的合成媒体,或称深度造假,将形成更多的视觉虚假信息。”