“能看到脸的都能换”，有人换暗恋女生的脸……他AI换脸制作淫秽视频，获刑7年多！技术人员建议：隐私不要随意发

2024-03-24 14:03

“AI换脸”相信大家都不陌生。只需要一张照片，通过人工智能深度合成技术，任何人都能成为视频中的主人公，甚至连表情和动作都能以假乱真。

然而，这项新技术，却让一些人产生了不良想法，杭州的虞某就利用“AI换脸”软件生成大量淫秽视频进行传播，被换脸的有不少女明星等公众人物，虞某甚至还提供换脸定制服务。

“只要能看到的脸都能换”

还有人用暗恋女生换脸

据央视新闻，2022年8月，杭州市萧山警方在网上巡查中获取一条线索，辖区内有人利用AI技术制作淫秽视频在网上进行大量传播，警方依法对此立案侦查，并迅速抓获了犯罪嫌疑人虞某，随后该案被移送至杭州市萧山区人民检察院审查起诉。

检察机关调查发现，虞某从2020年开始接触“AI换脸”软件，起初，他想通过在网上推广该项技术以及相关的软件来获利，但是，一段时间过后关注他的人却很少，一次偶然的机会，虞某看到有人在社交群组中发布淫秽信息来吸引他人关注，于是他也动起了类似念头。

据虞某供述，为了吸引更多的关注和流量，他在社交软件上创建了“浏览群”和“私人定制群”，“浏览群”主要用来传播“AI换脸”的淫秽视频吸引、招揽观看者，其中包括一些经过虞某换脸的视频，当有人提出“定制换脸”的需求，虞某会将这些人引入所谓“私人定制群”。

据检察机关调查，虞某一边通过传播换脸的淫秽视频来“吸粉引流”，同时又通过出售“AI换脸”软件和提供所谓“AI换脸”的私人定制服务，在不到半年的时间里就获利数万元。而被“AI换脸”侵害人脸敏感信息的受害者，不仅包括多位知名公众人物，还有很多不特定的普通人。

据检察机关调查，虞某根据“AI换脸”视频的长度、清晰度等难易条件，按照5分钟300元、10分钟500元等标准来收取定制的费用。虞某声称，“只要能看到脸的都能换”。

据检察机关了解，虞某的客户要求“定制”换脸的对象不仅包括一些知名的公众人物，也有生活中的普通人，其中就有人提出想要定制自己暗恋女生的换脸视频，而对于这些未经同意就擅自侵犯他人敏感信息的违法行为，虞某也是来者不拒。

2023年7月28日，该案在杭州互联网法院一审公开审理。2023年11月，杭州市萧山区人民法院判决被告人虞某犯制作、传播淫秽物品牟利罪，判处有期徒刑七年三个月，并处罚金6万元。

有人专门做AI换脸培训、教程

技术人员建议：隐私不要随便发

据中新网，还有人做起了专门的代理、培训生意。一位提供AI数字人代理服务的业内人士表示，购买AI数字人视频制作教程会附送3个人物素材，“可以克隆任何人。”当被问及是否会涉及肖像权争议时，他表示，“不会，我们做的是俄罗斯的人，在外网去找的素材没问题的”。

类似教程在电商平台上也很常见。在电商交易平台上输入“AI美女”，即可看到“新手日入2000+”“5分钟制作视频”“赶快做个账号吧”等极具诱导性的宣传语，多以网盘的形式发货，标价在几元至几十元间。

据江苏新闻，在手机应用商店中，有数十款软件可以实现“AI换脸换声”的效果，且基本都在用户协议中标明“仅供娱乐使用”。这类软件的换脸效果并不逼真，相似度只能达到5到6分。比如某款软件，拍下记者面部照片后，就能生成出一段记者变身“特种战士”的视频。

制作、发布此类视频是否存在法律风险呢？法律专家表示，用AI技术为他人换脸换声甚至翻译成其他语言并发布视频，可能涉嫌害当事人的著作权、肖像权和声音权。

另外，技术人员建议大家尽量不要把个人的隐私数据随意发到公共互联网上，如果有一些不法分子想要对你的家人实施诈骗，采集到数据以后还是比较容易实现的。

编辑|王月龙盖源源
校对|卢祥勇
每日经济新闻综合自央视新闻、江苏新闻、中新网
感谢关注每日经济新闻，每天都有精彩资讯

【Kimi概念股火爆，选手们火速报名参赛！第31期比赛下周开始，零风险赢大奖！】周五，Kimi概念多只个股涨停，成为“最靓的仔”。在每日经济新闻APP举办的掘金大赛中，很多选手抓住了机会。第31期比赛从周六开始报名，有优秀选手认为，现在市场结构性机会多，报名参赛获奖胜率高。比赛报名时间为3月23日至4月10日，比赛时间为3月25日至4月12日。比赛结束正收益选手获现金奖励，前十名选手现金奖励丰厚。立即下载安装每日经济新闻APP报名参赛，比赛为模拟炒股，零风险赢现金大奖，还能学习高手投资技巧！

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq