华裔姑娘被换脸成色X片主角，崩溃想跳楼！2年后她开始反击！

2024-05-28 20:05

点击蓝字"纽约消费指南"→ 点击右上角“...”→ 点选“设为星标 ★” ，不错过任何精彩！

华裔妹子 Breeze Liu 今年28岁，2013年从中国移居到美国生活，大学毕业后在硅谷工作，是一名妥妥的高材生。

2020年4 月的一个下午，一位朋友给Breeze打电话，说有人在网上发布了有关她的色X视频。Breeze的第一反应是这肯定是朋友眼花了啊，自己从来没有拍过这种视频，更别提上传了。

但很快，顺着朋友给的链接，她在一个点击量非常高的成人网站上看到了这段经过修改的视频，其中的女主角就是她的脸，这段视频在她不知情下录制，并在经过了deepfake技术后制作成了色X视频。

Deepfakes（深度伪造），一种AI生成图像，通常使用真人的面孔和身份，目前在网上激增。该术语由 Reddit 用户于 2017 年创造，现已扩展到包括其他数字创作中。最近一项研究发现，98% 的Deepfake 视频都是色X视频，其中 99% 的目标是女性。

Breeze 当时大脑一片空白，抑制住了呕吐的冲动，无比恶心。

“我很痛苦，”她说。“我感到非常羞辱，非常孤独。”

因为太过震惊，刚看完了视频的她一度走到父母公寓楼的屋顶上，告诉自己她不再有任何活下去的理由。“我满脑子想的就是，我还不如死了好。”

在发现视频后的十天里，她一下子瘦了12 磅，“我试图过正常的生活，但内心深处，每一秒我都在尖叫，”她说。“我忍不住去想，每个在街上经过我身边的人都看过这段视频吗？”

在冷静下来后，她先是与一位她怀疑的始作俑者对峙。这个人是Breeze 两年前从加州大学伯克利分校毕业前认识的一名学生。他当时跟她短暂约会又分手了，因此Breeze 怀疑他想用这种方法“羞辱她”。

后者承认了自己的恶劣举动，并从那个成人网站上删除了这段视频，但随后很快，他又在数百个其他网站上分享了类似的视频。

她决定报警。

她拨通了加州伯克利警方的电话，并上报了制作该视频的人的名字。

但令她震惊的是，警方第一时间询问她是否曾经卖淫或用裸体视频换取金钱。在她报警后三个月，警方结束了调查，他们告诉她，他们无能为力。

此后，Breeze 最终发现了 800 多个包含她的深度伪造内容的链接，但联系一个网站一个网站的删除，费时费力不说，有时网站还会互相踢皮球，其中一些网站没有做出任何回应，还有一些直接拒绝删除，有一个甚至回复她：“这只是一个愚蠢的男孩犯了一个小错误。”

警方不作为，网站不作为，但Breeze不打算就这么算了。她知道，除了她，一定还有不少受害者被这种事情伤害，她希望能做点儿什么让这样的噩梦不再发生。

“除非我改变整个系统，否则获得正义对我来说是不可能的。”

Breeze一直在硅谷工作，她对这种技术非常熟悉。她开始了她的反击。

2022年，Breeze 辞去了科技风险投资家的工作，用自己的积蓄创办了位于旧金山的公司 Alecto AI，该公司采用面部识别技术进行反向图像搜索，帮助用户根据自己的肖像定位深度造假视频和其他内容，然后与主要平台合作将其删除。

图片截自alectoai.com，版权属于原作者

官网上Breeze勇敢分享了自己的遭遇

图片截自alectoai.com，版权属于原作者

当 Alecto 发现未经授权的内容匹配时，它会与经过验证的用户和平台合作删除该内容。该公司目前正处于试点阶段的早期阶段，因此只能访问有限的数据集。

“我无法控制国会或执法部门的行为，”Breeze 说。“但我们都应该能够控制的一件事，就是我们自己的在线图像的主控权。我正在建立的是第一道防线，让受害者重新获得力量。”

Breeze 介绍，有些做deepfake的公司通过广告和订阅来赚钱，然后还有另一类，那就是搜索引擎，比如谷歌和Bing。它们将流量引导到这些网站和这些应用程序上，它们通过接受来自那些deepfake公司的广告来赚钱。因此，谷歌在很大程度上是这个肮脏的生态系统的一部分，受害者几乎没有追索权。

Breeze 联系了谷歌和Bing。

谷歌承认还有改进的空间，但该公司的任何相关人员都不愿意与她正式谈论此事。谷歌确实给了她一份声明，说，“我们理解这些内容可能会多么令人痛苦，我们致力于在现有的保护措施基础上为受影响的人提供帮助，”Bing 的发言人也说了类似的话，但实质性的做出了什么举动，未可知。

Breeze 表示，谷歌确实知道如何在需要时做正确的事情。如果你问谷歌，我该如何自杀？然后它不会给你一步一步的指示。相反，它会引导你拨打自杀帮助热线。因此，谷歌可以在愿意的时候承担社会责任。

“但在这种情况下，它似乎对那些不遗余力羞辱妇女和女孩并从中赚钱的公司完全漠不关心。令人惊讶的是，这是一种未经同意的性骚扰和侵犯，而且并不明显违法。”

问题就在这儿了，技术的进步比法律快得多。

目前，美国还没有针对深度伪造色X内容的制作和传播的法律，而借助日益先进且易于使用的人工智能工具，深度伪造色X内容可以在几分钟内创建出来。

受害者可以通过民事赔偿途径起诉谷歌或deepfake的公司，但《通信规范法》第 230 条又保护科技公司免受这些民事诉讼，或者说它似乎保护了这些公司。

Breeze 认为，最好的补救办法并不是刑法，而是修改第230条，以便公司可以被起诉，这样公司就必须自我监管。

去年，当拜登总统签署有关人工智能的行政命令时，Breeze 也受到了邀请。