霉霉AI色情照在网上疯传,惊动白宫,催促立法阻止造黄谣
话说,自从马斯克入驻推特(现改名X)平台之后,包括IBM、苹果和迪士尼在内,许多大型企业都宣布不继续在X上投放广告,这也让X上的广告生态急速恶化。
人们戏称,现在的X上只剩下两种推广,一种是虚拟货币交易,另一种是包括AI换脸、AI脱衣等功能的成人软件。
Low得不行……
(示意图)
这些改变也反应到了X的内容上。
上周三,几张AI绘制的泰勒·斯威夫特(Taylor Swift)的露骨假照片在X上疯传。
(泰勒·斯威夫特的露骨贴文)
这些AI伪造的照片大多都是以橄榄球场为主题,每张伪造照片中,霉霉浑身被涂红。
照片的来源尚不清楚,但根据照片中的水印来看,这些照片应该来自一个存在多年的成人网站,该网站专门发布这些Deepfake(深度伪造)技术制作的假冒名人裸照。
(泰勒·斯威夫特)
这几张伪造照片发布后,立刻引起了全网轰动。在发布照片的账户被封之前,这些照片被观看了超过4500万次。
泰勒·斯威夫特在Google平台上的搜索量大增。
根据统计,在与泰勒·斯威夫特相关的搜索中,AI、Deepfake等词条的搜索数据飙升,“NSFW(不适合上班时间浏览)”的搜索量更是上升了2700%,
简单来说,这几张照片让全世界疯狂……
(图片来自Google)
包括《时代》杂志和《纽约时报》在内,多家权威媒体第一时间对这件事进行了报道。
(《时代》)
(《纽约时报》)
甚至连白宫都被惊动了。
白宫新闻秘书在星期五告诉媒体,他们对泰勒·斯威夫特在网上发生的事感到震惊,国会应该采取行动。
(相关报道)
在造成如此大的轰动之后,X平台也发表了声明,
表示平台正在“积极删除”这些图像,并将对参与传播这些图像的账户采取“适当的行动。”
但泰勒·斯威夫特的粉丝群体,Swifties表示,X平台根本就是不作为,这些照片之所以能被删除,靠得全是粉丝们的努力!
原来在“Taylor Swift AI”这个标签在X上爆发后,粉丝开始在这个话题里发布大量关于她的正面帖子洗版:
讨厌泰勒·斯威夫特的男人绝对是垃圾。
他们无法忍受一个坚强、成功的女人。
所有发布这些图片的人都应该被夹了。
(图片来自X)
其中一位网友向媒体分享了证据,正是通过她们的举报,才让两个分享照片的账户被平台封禁。
(图片来自X)
如今事情终于渐渐停息,在X平台上,也再搜不到相关的照片了。
但在另一方面,泰勒·斯威夫特也并非2024年,第一个遭遇这种事件的明星了。
再早几天,17岁的新晋漫威演员索契尔·戈麦斯(Xochitl Gomez)也公开表示,她在X上发现了自己的伪造露骨照片,她向X平台举报后,照片却并没有被删除。
(索契尔·戈麦斯)
这两个人的遭遇也让很多女性感到异常的愤怒,甚至感同身受。
根据2023年发布的Deepfakes现状报告显示,
自2019年以来,在AI技术的推动下,被篡改的照片数量增加了550%,这些照片中的绝大多数都是色情内容,女性更是占此类内容目标的99%。
在这样的网络氛围下,美国政府却始终没有出台一项合理的法律进行监管。
2023年,美国民主党议员莫雷尔提出了拟议的《防止亲密图像深度伪造法案》,该法案规定未经同意分享深度伪造色情内容为非法行为。
他表示,这些图像和视频可能造成不可挽回的情感、经济和声誉伤害——不幸的是,女性受到的影响尤其严重。
共和党议员也少见地同意了这些看法,并表示如今AI技术的发展确实已经超过了人类的掌控。
(美国议员转发了泰勒·斯威夫特的新闻)
其实相比这些明星来说,更需要这些法律的,是每一个普通的女性。大多数的人没有数百万粉丝,当她们遭遇这些情况时,不会有那么多人保护她们,为她们举报、辩护。
在这种情况下,政府和平台都有责任尽快推出有效的管理办法,尤其是平台,更应该发挥其监管功能,别让这个“X”真的沦为一个色情符号了……