纽约时报作者Daniel Victor报道，一种可以让老照片动起来的工具，以及使用AI换脸技术的汤姆·克鲁斯视频迅速走红，数字模拟再次让人眼前一亮的同时，再次引发了争议。
很多人担心真人视频与电脑生成的赝品难以区分，最近又出现了两个吸引了数百万用户的新产品，更令人担忧。
首先，一名视觉效果艺术家与一名汤姆·克鲁斯的模仿者合作，制作了相似度惊人的克鲁斯模拟视频。这些视频是在AI技术的帮助下完成制作的，被称为“深度伪造”（deepfakes），2月底在TikTok、Twitter和其他社交网络上获得了数百万次播放。
几天后，以追踪“金州杀手”（Golden State Killer）身份而闻名的在线族谱网站MyHeritage，提供了一个工具，可以对亲人的旧照片进行数字动画改造，制作出一个循环播放的短视频，视频中可以看到人们摇头或微笑。
该公司表示，截至周一，使用这个名为“深深的怀旧”（Deep Nostalgia）工具制作的动画已经超过2600万张。
这些视频使人们再次关注到合成媒体技术的潜力，这有可能导致广告和娱乐行业的重大改革。但是这项技术也会再次引起对这类视频合法性的质疑，包括滥用到色情图像中的担忧。
被疯传的汤姆·克鲁斯 模拟TikTok视频的创建者表示，使用该技术所需的专业知识，给这种技术的滥用带来了难度，开发图片动画工具的MyHeritage公司表示，它已经设置了防止滥用的措施。
专家们表示，这两个例子并不会令人过分担忧，但由此带出的有关这项技术的未来，在这项技术仍处于起步阶段时，应该予以考虑。
萨姆·格雷戈里是专注于视频道德使用的非营利组织Witness的项目总监，也是人工智能专家，他说：“虽然’深深的怀旧‘本身无害，但它是这套工具的一部分，潜在的威胁性非常大。”
用数字技术模仿汤姆·克鲁斯并非易事。制作这些视频的比利时视觉效果艺术家克里斯·乌姆，在接受采访时说，这些视频需要大量的专业知识和时间。
你在视频中看到的大部分是汤姆·克鲁斯模仿者，迈尔斯·费雪的身体和声音，他对该演员的举止和声音了如指掌，即使没有经过处理，他也已经很像汤姆·克鲁斯了。在视频中，只有脸的部分，从额头到下巴，是属于真正的汤姆·克鲁斯的。
克里斯·乌姆花了两个月的时间调试他的电脑模型，来创建克鲁斯先生的面部表情，首先给它输入随机的面部视频，然后才把注意力集中在克鲁斯先生身上。克里斯每一分钟的视频都要花上24小时去制作，微调眼睛聚焦等细节。
他说，即使技术有所改进，像这样的视频也需要大量的手工操作和熟练的模仿者。
他说：“我们俩就像一个小型的好莱坞工作室，这不是你在家用电脑上按下一个按钮就能做到的事情。”
Deep Nostalgia工具是由特拉维夫的人工智能公司D-ID为MyHeritage开发的，D-ID的首席执行官吉尔·佩里表示，该公司只与它信任的、不会滥用这项技术的合作伙伴合作，而且它与MyHeritage已经有了四年的合作关系。
使用该工具制作的视频带有水印，借此表明它们不是真实的，而且这些视频不包括音频。佩里表示，这些措施使得这些视频更难用于不良目的。
他说，深深的怀旧技术“只是我们能够做的事情的冰山一角，这项技术在很多方面的潜力是无穷的。”
当乐观主义者谈论这项技术的优势时，他们往往会提到它在宣传方面的用途，宣传的时候放一张脸，可以帮助建立更直观的情感联系。
一个非政府组织，制作了一段关于2017年被谋杀的墨西哥记者哈维尔·巴尔德斯·卡德纳斯的视频，在视频中，他为自己的被害声讨正义。17岁的杰昆·奥利弗在佛罗里达州帕克兰一所高中的大规模枪击案中被谋杀，2018年，他的父母通过数字手段将他复活，用于宣传枪支安全立法的视频中。
澳大利亚维多利亚州的警方，利用一名2012年自杀身亡的警官传达了有关心理健康支持的信息。
去年上映的纪录片《欢迎来到车臣》讲述了车臣的反同性恋清洗运动，该影片使用了这种技术保护了高危车臣人的身份。
这种效果也可以用在好莱坞，帮助演员增龄或减龄，或改善电影和电视节目中不同语言的配音，使嘴唇运动与屏幕上的语言紧密一致。跨国公司的高管在称呼说不同语言的员工时也可以显得更自然。
但批评人士担心，随着技术的改进，这项技术会被进一步滥用，特别是用于制作将一个人的脸贴在另一个人身上的色情作品。
《深度造假：即将到来的信息末日》（Deepfakes： the Coming Infocalypse）一书的作者妮娜·希克说，最早的深度造假色情作品需要花费数个小时，因此名人是典型的目标。但随着技术越来越先进，制作视频所需的素材要求会越来越低，这会让更多的妇女和儿童面临风险。
据BuzzFeed News报道，即时通讯应用Telegram上有一款工具，用户可以通过上传一张照片中创建模拟裸照，这款工具已经被用了数十万次。
妮娜说：“这将成为一个会影响到所有人的问题，尤其是那些没有资源保护自己的人。”
这项技术还可能对全球事务产生不稳定的影响，因为政客们可以声称，有些真实视频也是假的，这就是法律教授罗伯特·切斯尼和丹妮尔·西特伦所说的，“说谎者的红利”。
在加蓬，反对派领导人称，2019年总统阿里·邦戈·翁丁巴发表的新年讲话视频是伪造的，目的是为了掩盖健康问题。去年，一位在圣路易斯地区竞选众议院席位的共和党候选人声称，乔治·弗洛伊德在警方控制期间死亡的视频是经过数字化处理的。
人工智能专家格雷戈里说，随着技术的进步，它将得到更广泛的应用，它的影响已经很明显了。
他说：“当不考虑用途的有害或有益时，人们总是想做出尽可能完美的深度伪造。”
在介绍深深的怀旧工具时，MyHeritage会征求用户的同意，要求用户“请在你自己的照片上使用这个功能，而不是在未经允许的情况下使用其他活着的人的照片”。
创作了汤姆·克鲁斯深度伪造作品的克里斯说，他与这位演员或他的代表并没有联系过。
当然，已经去世的人没法同意在视频中出现。那么死去的人，尤其是通过数字技术复活名人是否合理，就显得很重要了，就像复活艺术家鲍勃·罗斯来促销激浪汽水，或者去年金·卡戴珊从她丈夫那里收到复活的父亲罗伯特·卡戴珊作为她的礼物一样。
深度伪造研究人员亨利·阿吉尔设想了这样一个未来：我们自己的声音可以被Amazon Alexa等助手所用，让我们在去世后仍能与所爱的人保持联系。或者，就像《黑镜》中的一集里设想的那样，我们人格的各个方面都可以在死后被模拟出来，由我们在社交媒体上的声音中整合出来。
但这引出了一个棘手的问题，他说：“在哪些情况下，我们需要征得死者的同意才能将他们复活？”
阿吉尔说：“这些问题会让你觉得不舒服，有些东西感觉有点不对劲或令人不安，但很难知道这是因为它们是新出现的，还是暗示了人们对某些深层次问题的直觉。”
