AI换脸制作淫秽视频, 4000位顶级名流中招 !

作者：张小磊，来源：新行情

“AI换脸”技术暗藏诸多隐患。

近日，有报道称，在欧洲当前五个访问量最大的深度伪造（deepfake）网站上，有近4000位名人被AI换脸成色情内容的主角。

据调查，这五个网站三个月的浏览量达到了1亿次。受害者包括女演员、电视明星、音乐家、Youtube网红等。

“感觉像一种侵犯。有人把这些照片拼在一起，我看不到他们，但他们却能看到这种想象版本、伪造版本的我，感觉真的很邪恶。”受害者英国电视四台新闻频道主持人凯茜·纽曼说。

值得注意的是，早在2017年，一个名叫“deepfakes”的Reddit用户就曾运用“AI换脸”技术，把《神奇女侠》的女主角盖尔·加朵( Cal Gadot )的脸，嫁接到一个成人电影女星的身上。

此后，这项“想看谁演AV就看谁演AV”的技术便被一些不法分子利用起来。

2021年，台湾知名网红小玉被曝出利用“AI换脸”技术，将艺人郑家纯（鸡排妹）、女主播张龄予等人头像移植到色情片AV女优身上，再后制成色情视频贩卖获利。

甚至还有网友发现了蔡依林、郭书瑶、陈意涵等大牌明星艺人的换脸色情视频。

2023年7月，一名拥有百万粉丝的网红女主播陈岚发布视频称，她遭遇了恶意Ps和AI换脸，照片被人做成了色情照片和视频，并在网上公开出售。

另一位百万粉丝网红女主播杜悦也曾遇到类似情况。

她们经过调查发现，在一些社交平台上，有人宣称自己可出售网红和明星的换脸色情素材。

杜悦提供的一张价格表显示，从50万粉丝以下到1000万粉丝以上，对应的换脸色情视频售价在30元到50元不等。

据悉，卖家出售换脸的色情素材主要分为两种模式，一种是利用明星的公开照片“去衣”；另一种是把明星的脸换到色情图片和视频中。

值得一提的是，3月24日上午，@央视新闻发布了一则“涉黄AI换脸案”的新闻。

据了解，2020年起，虞某在互联网上发现了有一个AI换脸的技术软件，通过学习，他掌握了换脸技术。

偶然间，他在网络上看到有一些网络群组在传播一些淫秽色情视频，他立刻有了通过换脸软件制作一些淫秽色情视频牟利的想法。

他在社交软件上创建了“浏览群”，用来传播“AI换脸”的淫秽视频，用户付费即可进入。此外，他还创建了“私人定制群”，根据客户需要定制换脸的视频，根据时长以及视频的难度大小收取相应的费用。

经过调查发现虞某制作淫秽视频1200多部、图片1600多张。

2023年7月，杭州互联网法院对这起公益诉讼案进行审理，这也是我国首例关于“AI换脸”侵犯公民个人信息公益诉讼案的审理判决。

2023年11月，杭州市萧山区人民法院判决被告人虞某犯制作、传播淫秽物品牟利罪，判处有期徒刑七年三个月，并处罚金6万元。

对于“AI换脸”用于淫秽视频，不少人表示非常担忧。

有网友表示，假如我的前男友或者前夫，对我依然怀恨在心，正好可以通过这项不那么复杂的技术，将我的头安在色情片女主角身上，然后在社交媒体进行传播，以此来羞辱我怎么办？

还有网友称，这项技术目前还只是刚刚发展起来，未来随着技术越来越成熟，那会不会对更多女性会造成伤害？

也有人表示，技术无善恶但有边界，须在法律规制内使用。