印尼政府：视频是深度伪造的

人工智能（AI）技术制作的名人“恶搞”视频已不新鲜，但近来两段名人“说中文”的视频因其以假乱真的效果在网上热传。据新加坡8频道11月1日报道，印尼政府部门日前专门澄清了一段印尼总统佐科“说中文”的视频，称其是深度伪造视频。

“说中文”视频网络热传

综合印尼都会电视台、《罗盘报》报道，印尼社交媒体最近流传一段印尼总统佐科以流利中文发表演讲的视频。他在这段长约1分钟的视频中说，“女士们、先生们，我曾经是一个商人出身，22年之久……我不喜欢事情变得更加复杂，我喜欢事情简单而且高效。我不喜欢被欺负，希望公平对待，我坚持原则，反对欺凌和不公。平等和尊严是我追求的目标，期望公正待遇。”视频的背景音还有观众的笑声。

制作：环视频/李林芝

“各种数字平台上以视频形式流传着总统佐科用流利普通话发表讲话的视频。”印尼通信和信息技术部上月末发表声明称，该部信息应用司司长杰拉潘澄清，这段视频是误导性编辑的结果。他说，这段视频和美国与印尼协会2015年11月13日上传的视频相似，视觉上看，两段视频完全相同，但假视频是用深度伪造技术制作而成的。

印尼社交媒体最近流传一段印尼总统佐科以流利中文发表演讲的视频截图

杰拉潘说，在2015年的原视频中，佐科并未说中文。他提醒民众在获取可能被操纵的信息时要小心，并警告不要通过数字平台传播任何形式的恶作剧内容或假消息。他还呼吁民众在获取信息时必须参考可信消息来源，如政府网站及可信的媒体。

嘴型、音色都对得上

美国流行歌手泰勒·斯威夫特（被中国歌迷称为“霉霉”）说一口流利普通话的视频近日也在社交媒体上疯传。在这段视频中，泰勒·斯威夫特在一个看似脱口秀的节目中用地道的中文讲述最近游历：“我最近去了很多地方，比如意大利，还有法国和日本。”她在视频中大谈专辑制作与自己的音乐，如“现在我可以回去重新审视我的旧作品，我从它们所在的地方挖掘出那些歌曲，并联系了我喜欢的艺术家”。关注中国的网站“中国项目”称，泰勒·斯威夫特说中文的视频使用的是AI工具。

新加坡《海峡时报》称，不少网民对这段同样由深度伪造技术制作的视频的真实性感到神奇。看画面，泰勒·斯威夫特“说中文”时，嘴型都能卡点对上；听声音，技术形成的声线也与泰勒·斯威夫特的非常像。报道称，还有中国粉丝希望他们喜欢的外国节目能提供由AI制作的中文版本。

深度伪造技术目前已被广泛用于不同场景、不同目的。在中国社交媒体上，相声演员郭德纲“说英文”的视频播放量非常高。“音色、口型都对得上。”有网友评论说。还有名人主动使用类似技术，比如纽约市长亚当斯，他用AI制作出会说普通话、乌尔都语和意第绪语的“自己”，来为市民提供语音服务。

需要“被控制在正轨”

这也让人们担忧随之而来的陷阱。彭博社发现，深度伪造技术已成为美国选举周期中政治宣传的一部分。佛罗里达州州长德桑蒂斯的总统竞选团队6月发布了一张带有攻击性的宣传图片，图片中德桑蒂斯的对手特朗普拥抱并亲吻前总统首席医疗顾问福奇。美国共和党全国委员会4月发布了一张深度伪造的宣传图片，将美国总统拜登第二任期内的美国描绘成世界末日。

10月7日哈马斯袭击以色列后，有人担忧深度伪造视频出现得更加频繁。《纽约时报》称，新一轮巴以冲突爆发后，各国监管部门都有对人工智能生成虚假内容并操纵舆论的关注。“这项技术的确在战争中发挥了作用，不过，是以一种不同的方式”，《纽约时报》称，虚假信息研究人员发现，巴以相关新闻中人工智能生成的信息没有想象中那么多，有说服力的就更少了。然而，真假内容混杂传播会导致人们认为真实的图像、视频和音频反而不真实。

《海峡时报》称，有人呼吁将这项技术的发展控制在正轨。马来西亚《星报》提到，一些国家已经对其作出监管，中国已经要求对深度合成服务进行适当标记，避免混淆。