“霉霉”在线直播带货？美国的AI换脸诈骗又升级了！

2024-01-11 14:01

AI换脸换声技术再被骗子们利用，这次直接把霉霉拿来当代言人欺骗粉丝。

最近，脸书上流传着一条泰勒·斯威夫特（Taylor Swift）的直播带货视频。霉霉坐在钢琴面前，向大家推销法国高端炊具品牌Le Creuset（酷彩），还说作为“霉霉的新年大放送”，会向20位粉丝免费赠送一套炊具。

结果，这一视频被曝是由人工智能换脸生成，Le Creuset炊具也是山寨货，目的是骗粉丝钱。

在视频中，“霉霉”对着镜头说：“嘿你们好，我是泰勒·斯威夫特。由于包装出错，有3,000套Le Creuset炊具套装无法正常线下销售，转向线上出售。有一个好消息分享给你们，我与Le Creuset联手进行促销——有20位忠实粉丝将免费获得赠送的炊具套装。”

而事实上，这个视频中的“霉霉”并不是真的泰勒·斯威夫特，甚至也不是真人。目前，人工智能换脸换声的技术几乎可以完全复制某人的外表和声音，看上去真人无异，这被称作是“深度造假”（Deepfake）。

网络骗子利用网络上随处可见的公众人物公开视频和音频内容，剪辑之后通过软件合成此类素材，让人真假难辨。同时，“霉霉”还会引导用户点击广告下方的按钮来完成购买。

目前还不清楚谁是这些骗局的幕后黑手。发布该视频的脸书账户名为“最赚钱的股票”。

虽然泰勒·斯威夫特与Le Creuset公司并没有直接的代言或营销关系，但她倒有可能的确是该品牌的粉丝。

Le Creuset曾在自家的社交媒体上分享了一张泰勒·斯威夫特Netflix 纪录片《美国小姐》的截图，图中泰勒·斯威夫特在她的厨房里使用该品牌生产的烤箱。该烤箱的零售价高达625美元。

可以肯定的是，泰勒·斯威夫特并非社交媒体诈骗唯一牵扯到的名人。美国商业改善局去年4月曾警告，随着人工智能技术变得更加成熟，此类“深度造假”的诈骗正在增加。

该局曾表示：“在购买商品之前，请花一点时间重新检查帖子和社交媒体账户。” “这些照片和视频很可能是假的。如果你购买了不合格或不存在的产品，你就会损失金钱（通常比你想象的还要多）。”

值得注意的是，著名演员汤姆·汉克斯和哥伦比亚广播公司早间节目主持人盖尔·金的形象，都曾被不法分子用来兜售与他们无关的产品。

盖尔·金在她自己的Instagram账户上转发了一家名为Artipet公司的虚假减肥视频，并发表声明称，她与该公司及所谓的产品没有任何关系，并警告她的粉丝不要“被这些人工智能视频愚弄”。

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

2024-01-28 18:01

2024-01-09 19:01

2024-01-07 18:01

2024-01-06 18:01

2024-01-06 18:01

2023-12-13 17:12

2023-12-02 07:12

2023-11-26 18:11