深度造假（Deepfake）最新受害者出现了——全球顶流，泰勒·斯威夫特（Taylor Swift，中文绰号“霉霉”）。近乎是在一夜之间，X、Facebook等社交平台上便充斥了大量虚假“不雅照片”，而且浏览量已经高达上千万！尽管最早传播这些图片的账号已被封禁，但照片的流传仍未彻底阻断。据九派新闻报道，泰勒·斯威夫特正在考虑对生成这些图片的网站采取法律行动。“X”平台表示正在“积极删除相关图片”。Facebook方面，母公司Meta一名发言人称：这些内容违反了我们的政策，我们正在将其从我们的平台上删除，并对发布该内容的账户采取行动。但也有网友说，这不是删除的问题，这些照片一开始就不应该出现在这些平台上。对此Meta也做出了回应，表示“会继续监测并及时删除违规内容”。在26日白宫记者会上，发言人让-皮埃尔被问及此事时表示，“我们对此类图像流传感到担忧，更确切地说，是虚假图像，这令人担忧。”“虽然社交媒体公司在内容管理方面可以独立做出决定，但我们认为他们在执行自己规则方面可以发挥重要作用，以防止错误信息和未经同意的真实人物私密图像传播。”让-皮埃尔说。她还补充说，网络上的执法不严对女性影响更大，她们是受到网络骚扰和欺凌的主要目标。让-皮埃尔称，这并不是新问题，是拜登和哈里斯政府从上任第一天起就优先考虑的问题，“我们对此非常重视。再一次，这让我们感到担忧。”值得一提的是，这不是泰勒·斯威夫特第一次被AI“造假”。据澎湃新闻1月17日报道，就在不久前，由人工智能生成的假泰勒·斯威夫特（Taylor Swift）带货广告在社交媒体Facebook上传播。“嘿你们好，我是泰勒·斯威夫特。由于包装出错，有3000套Le Creuset（中文名译为‘酷彩’）炊具套装无法正常线下销售，转向线上出售。有一个好消息分享给你们，我与Le Creuset联手进行促销——有20位忠实粉丝将免费获得赠送的炊具套装。”
AI生成的泰勒·斯威夫特推销Le Creuset炊具视频
涉事公司对此迅速做出回应称，Taylor Swift没有参与任何消费者赠品活动，所有关于产品促销的活动均来自官方社交活动。AI“深度造假”技术合成了她的声音，并将声音与她的形象和Le Creuset广告片段拼凑在一起。当受害者被引导至虚假网站后，会被要求支付9.96美元的运费。但号称免费送的厨具不会真的送出去。
Facebook母公司Meta也对这一欺诈活动迅速做出了回应。此后，Meta表示已经删除该广告。深度造假（Deepfake）是英文“Deep learning”（深度学习）和“Fake”（伪造）的混成词，指利用深度学习技术生成合成图像、音频或视频的技术。美国布法罗大学“媒体取证实验室”的计算机科学教授吕思伟（Siwei Lyu）表示，“霉霉”这起“深度造假”诈骗活动很可能是利用文字转语音服务制作的。这类工具可将脚本转译成声音，并用唇语同步程序将其合成至视频片段。编辑|何小桃 毕陆名 盖源源
校对|程鹏
封面图片来源：视频截图
每日经济新闻综合九派新闻、澎湃新闻、公开消息
感谢关注每日经济新闻，每天都有精彩资讯
#掘金大赛# 【上证指数暴涨3%，多位选手收益率创新高！比赛报名火热，零风险赢大奖！】周四，A股反弹行情火爆，上证指数收盘上涨3.03%，中字头、上海本地股表现出色，中国石油罕见涨停。每日经济新闻APP举办的掘金大赛第27期比赛中，目前报名火热，多位选手火速参赛。收盘，第一名“北纬20°”收益率27.20%，第二名“天府银行”收益率22.84%，第三名“每经网友43028”收益率19.40%。对于目前的行情，有优秀选手认为，目前先看短线行情，是否走出中线行情还需观察，上证指数2950点附近有压力。第27期比赛周一开始，报名时间为1月20日至1月31日，比赛时间为1月22日至2月2日。比赛结束正收益选手获现金奖励，前十名选手现金奖励丰厚。立即下载安装每日经济新闻APP报名参赛，比赛为模拟炒股，零风险赢现金大奖，还能学习高手投资技巧！
