在一项新研究中发现，使用深度伪造视频剪辑所制作出的虚构电影翻拍片段，会引导参与者错误地记忆这些电影情节；然而，相同的虚假记忆率也出现在对这些虚假电影的简单文字描述中。研究发表者为爱尔兰科克大学（University College Cork）和爱尔兰科学基金会软件研究中心Lero的吉利安·墨菲（Gillian Murphy）及其同事，于2023年7月6日在期刊《PLOS ONE》上发表。
深度伪造视频（Deepfake Video）是使用人工智能技术改变片段中一个人的声音或面部特征的剪辑。近年来，制作深度伪造的工具变得更加便宜和易得，引发了对其潜在创作应用和风险的广泛讨论，如传播虚假信息和操纵观众的记忆。
为了探索深度伪造技术的潜在风险和益处，墨菲和同事邀请了436名参与者完成了一项在线调查，其中包括观看由不同演员主演的虚构电影翻拍的深度伪造视频，例如威尔·史密斯（Will Smith）在《黑客帝国》中扮演原本由基努·里维斯（Keanu Reeves）饰演的角色尼奥，布拉德·皮特（Brad Pitt）和安吉丽娜·朱莉（Angelina Jolie）在《闪灵》的翻拍中主演。研究中的其他虚构翻拍还包括《夺宝奇兵》和《惊奇队长》。
为了对比，参与者还观看了真实的翻拍片段，包括《查理和巧克力工厂》、《全面回忆》、《凯莉》和《古墓丽影》。在某些情况下，参与者阅读了对翻拍的文字描述，而非观看深度伪造视频。参与者直到调查结束后才被告知深度伪造视频的虚假性。
与先前的研究一致，深度伪造视频和文字描述都引发了对虚假翻拍的错误记忆，平均约有49%的参与者认为每个虚构翻拍是真实存在的。许多参与者表示，他们记得这些虚构翻拍比原作更好。然而，从文字描述中产生的虚假记忆率也同样高，这表明深度伪造技术在扭曲记忆方面可能并不比其他工具更强大。
大多数参与者表示对深度伪造技术用于重新演绎电影感到不安，他们提到的担忧包括不尊重艺术完整性和破坏电影的共同社交体验。
这些发现有助于未来深度伪造技术在电影中的设计和监管。
作者补充道：“尽管深度伪造技术因多种原因引发关注，如非自愿色情和欺凌，但本研究表明，它们并没有独特地扭曲我们对过去记忆的能力。尽管深度伪造在本研究中导致人们产生了相当高的虚假记忆率，但我们使用简单的文字同样能够达到相似的效果。实质上，这项研究表明，我们不需要技术上的进步来扭曲记忆，我们可以很容易、有效地使用非技术手段实现。”
Comments