888元“变脸杨幂”，AI黑灰产盯上明星

公众号新闻

2023-06-15 11:06

一方面，可观的收益驱动着“明星脸”黑灰产市场的生长；另一方面，由于技术的进步和部分传播渠道的隐匿性，大大增加了艺人的维权难度。

“

文｜《财经》记者姚佳莹

编辑｜郭丽琴

换成“杨幂脸”的成本可能不到千元。

近期，多个商家直播间被曝光使用AI换脸技术，将杨幂、迪丽热巴等明星的脸置换到商家主播脸上，并登上热搜。

北京市京师律师事务所律师李源多次代理知名明星艺人的肖像权、名誉权纠纷案件。他表示， AI换脸技术目前给艺人群体带来很多烦恼。

财经E法调查发现，在淘宝平台上，部分售卖高清人脸图片素材、提供AI绘画服务的商家，还同时私下提供AI实时换脸技术。买家可通过月付、年付或永久使用等方式购买相关服务，价格从数百元到2万元不等。其中一位商家表示，888元便能永久获得一个明星实时换脸模板，“明星的换脸模板我们已经训练好了，可以直接使用，有数十个可以挑选”。

由于明星、网红的高知名度和脸部素材的强可及性，成了黑灰产中技术提供者、服务购买者的主要目标：“杨幂、迪丽热巴们”进入直播间卖货、热舞，甚至出现在淫秽视频中。

一方面，可观的收益驱动着“明星脸”黑灰产市场的生长；另一方面，由于技术的进步和部分传播渠道的隐匿性，大大增加了艺人的维权难度。

电商商家表面售卖的是图片素材

明星频频“被换脸”

最近数月，AI换脸为明星的相关词条频频登上热搜，包括“AI换脸杨幂等明星卖货或涉侵权”“男网红合成迪丽热巴视频被打”等。

近期，某博主在短视频平台上利用AI换脸技术，将电视剧一些片段的中男主角的脸置换为自己的脸，这出“亲密戏码”在网上引起了广泛争论。

目前，该博主的账号已被封禁。李源表示，无论是否以盈利为目的使用明星艺人肖像，均属于侵犯肖像权行为，在上述案例中，该博主不仅侵犯了肖像权，也给明星名誉造成贬损，可能承担更重的赔偿责任。

据李源介绍，以往，侵犯明星艺人肖像权的情况主要有两种，其一是未经过许可，在产品或服务的介绍或广告中使用了明星艺人的肖像，这种商业使用容易造成消费者误解，以为明星艺人与商家提供的产品或服务相关，属于虚假代言；其二是部分主体使用剪辑或拼接的手段，在明星艺人的肖像上进行涂写，或者通过抠图将其形象拼接至其他照片。侵犯名誉权的行为则分为侮辱和诽谤。

而AI换脸的兴起，直接挑战的是“有图有真相”“眼见为实”的思维定势。李源表示，当下AI技术发展日趋成熟，能做到以假乱真的效果。平台、甚至业内人士都没办法分辨照片或视频是否为真实拍摄。团队有时完全无法辨认一些照片是否是明星艺人本人，只有向其本人核实，“甚至明星本人由于时间长，都无法确定自己是否拍摄过相关照片或视频。”李源说。

除了蹭明星脸公开博取关注，当黑灰产业开始利用AI换脸技术，将明星、网红的脸大量安置到淫秽视频中，将对明星/网红的名誉造成极大负面影响，而其隐匿传播的特点，更增加了明星们维权的难度。

李源介绍，团队此前处理过不少黑灰产业利用AI换脸侵权的案件：不止一位女性艺人肖像被不法分子使用AI换脸技术放于淫秽视频中，并被广泛地传播，艺人维权的难度很大。

网红“Caro赖赖”在抖音平台上拥有近450万粉丝。4月，赖赖便经历了被黑灰产业盗脸的烦恼。4月底，赖赖在微博上发布自述，称其脸被盗用并安置在淫秽视频的女主角脸上。

“Caro赖赖”在微博上介绍，有不法分子在境外社交平台上冒充其身份注册了账号，大量搬运其在抖音平台上的原创内容，在积攒到一定粉丝数时，便开启会员订阅方式贩卖视频。而这些所谓会员可见的视频，均是通过AI换脸技术，将她的脸安置在色情照片或视频的女性脸上。“我曾看到过一个网红名单，表里密密麻麻写满了我熟悉的名字。他们根据博主的粉丝量级进行分类，假视频价格在30-50元不等。”赖赖称，“但只要你花200元就可以进群，进群后可以享受永久半价。”

赖赖曾想通过法律途径维权，但她发现相关账号IP地址均在海外，即使部分视频传到国内聊天群里，也已经过多次转手，难以找到源头。赖赖认为，造黄谣的成本已经低到难以想象。她想知道，这些像机器人一样的账号ID背后到底是谁？“很可怕，只需一张网上的自拍或一条露脸视频，任何女孩都有可能成为受害者。”赖赖称。

财经E法发现，目前，在淘宝平台上，仍存在不少售卖明星脸部模型的商家，他们或是打着售卖高清头像图片素材的幌子，或声称提供“AI绘画”服务，成为“换脸”黑灰产业链中的一环。

商家月入十万

目前，使用“AI换脸”的关键词无法在淘宝平台上检索到相关产品和服务，但换为相近关键词“深度合成素材”、“人工智能合成”等仍能检索到不少提供换脸服务的商家。这些商家表面售卖的是图片素材，实际上提供的是AI实时换脸服务，涵盖电脑和app端。

例如，某商家在商品页面提供了迪丽热巴、杨幂、刘诗诗等一线女星的多角度高清脸部素材，经财经E法问询，商家售卖的商品技术是明星实时脸部模型，共有数十个明星脸部模型可供挑选。买家若要换上这些模型，需要购买商家“开发”的AI实时换脸软件。

根据商家提供的软件服务介绍，该软件可以更高效地运作，通过实时深度计算技术，仅需看着镜头便可与许多名人和公众人物换脸。

换脸的成本并不高。该商家提供了不同版本的套餐，主要区别是脸部捕捉角度的范围大小，根据3D捕捉角度从正面60度进阶至正面140度，价格分别为888-18888元不等。其中，基础版本888元便可永久使用一个脸部模型，而18888元的版本除了有超过10个明星脸部模型，还可免费定制专人专模。在财经E法质疑逼真效果后，该商家展示了多个效果视频，“图片素材都是高清的，效果肯定是有的”。

该商家声称，明星的模型已训练完毕，可直接使用，还可根据用户需求定制专人模型。“如果想换脸为其他人，我们需要现做模型，让定制脸和买家脸能融合，工期大概是7-15天。”

条件是买家需提供视频和照片素材。据该商家介绍，需要提供被换脸对象在正常光线下的正脸、侧脸、侧下方、侧上方等各个角度，拍摄距离保持在30厘米以上，且需保证拍摄到被换脸对象的喜怒哀乐等各个表情，“3分钟左右的视频即可”该商家表示。制作一个素人模型为2600-6000元。

该商家并非对换脸可能造成的侵权一无所知，为应对客户对侵权的担忧，该商家还推出了生成人脸的服务。在产品介绍中，商家提到，由于大多数客户在直播时容易涉及侵权问题，可按客户要求“生成一张世界上不存在的人脸，五官可以按照客户的期望或者模仿某个人物更改”。

换脸服务为这些商家创造了可观的利润。上述商家商品页面显示，杨幂和迪丽热巴的实时脸部模型成交量最多，均超过了100单。

在财经E法向另一位商家表达了“换脸”明星的需求后，得到了“添加v对接技术”的回复。

该商家提供的“移花接木”技术同样通过开发软件体现，售价为5000元，可永久使用软件中的十多个名人模型，包括杨幂、马斯克等。该商家表示：“光这些模型都值不少钱，我不会亏我的顾客的，我有什么技术也都给你们了。”

当财经E法表达了价格较高后，该商家展示了其交易记录，“它就值这个钱，你找其他人也是同样的价位，我们干这行的了解这技术的价值。”仅从其交易记录来看，6月至今，该商家已进账近3万，“我上个月成交了10万，这个月到现在也7万多了”，该商家表示。

商家向财经E法展示的AI换脸技术

如何护“脸”？

李源表示，明星的工作属性难以避免要露出肖像和姓名。如何保护明星肖像不被非法盗用为AI换脸素材，目前并没有太好的办法。“我们只能建议明星艺人在非公开场合，比如说生活场景里尽量做好保护。很多明星艺人，基本上除了工作时间，其他时间都很少出门”。

财经E法在中国裁判文书网上已检索到多个与AI换脸有关的案例。

5月底，上海鱼腥草信息科技有限公司（下称“鱼腥草公司”）新增多份肖像权纠纷裁判文书，均因该公司运营的某款换脸手机APP未经许可，擅自使用多位网红的的影像作品，将其制作为融脸视频模板，提供给用户使用。天眼查信息显示，鱼腥草公司因侵犯肖像权、著作权多次被起诉，其中包括多名网红。

网红四月便是其中一位被“换脸”的网红。四月是抖音平台上一名国风汉服视频创作者，在平台上发布了超过800个汉服着装表演视频，拥有约380万粉丝，在平台上获得点赞7800万。

裁判文书显示，鱼腥草公司运营的换脸APP内共有9段四月的造型视频模板。“我们在发现该APP上有四月的换脸视频模板，便马上委托律师全网搜索类似的侵权行为、收集证据，还好发现早、处理得及时，对博主的影响不大。”四月团队的工作人员向财经E法表示。

财经E法发现，鱼腥草公司运营的APP内还提供了多种风格的换脸模板，包括“气质美女”“中国汉服”“梦中男神”等，其中不乏刘亦菲、张柏芝等明星。用户仅需上传一张正面人脸照片，即可将自己的脸置换到明星脸上，从而享有明星在影视剧、写真等各类场景的妆发造型。若要解锁使用APP中所有视频模板，需支付68-198元不等的VIP服务费成为会员。

裁判文书显示，法院认为，涉案视频除脸部特征外，动作、背景、视频角度与四月等网红发布的视频均高度雷同，部分视频存在明显的“换脸”痕迹。鱼腥草公司将多位网红的视频制作为融脸模板后上架供其注册用户换脸使用，破坏了四月等网红肖像的完整性，是利用信息技术手段伪造等方式侵害原告的肖像权。法院认定，鱼腥草公司侵害了四月等的肖像权。在四月的案件中，最终法院判决，鱼腥草公司在“换颜”APP“古风汉服”造型视频模块中显著位置刊登向吴晨（即四月）赔礼道歉的声明，道歉声明持续时间三天；并赔偿吴晨经济损失及合理维权费用等共计5000元。

四月团队的工作人员介绍，团队法务起诉了一个运营换脸软件的企业，对方还声称并非故意，想要私下和解“明知可能侵权还进行商业运营，看来这类企业的营收并不低”。

但四月团队拒绝与这类企业合作。“将博主肖像作品授权给这类企业，毕竟不了解肖像会被哪些人使用、怎么使用。”

李源亦表示，一般情况下，没有明星艺人会授权自身AI脸部模型的使用。“肖像比较敏感，属于权利人的生物特征，其中包含了艺人本身的身份信息，如果授权他人使用一部分特征存在安全隐患。一个正常、合规的平台不会有这样的交易，明星艺人肯定也不愿和违规平台达成任何合作。”

出路还是AI服务的合规化。

目前，2022年12月发布的《互联网信息服务深度合成管理规定》明确，对于AI提供人脸等生物识别信息编辑功能的，应进行安全评估，并依法告知被编辑的个人，取得其单独同意，同时，对于生成或编辑的内容，应在合理位置进行显著标示，向公众提示深度合成情况。

中国政法大学传播法研究中心副主任朱巍表示，AI技术“为恶”，主要是相关规定没有落实到位的结果。“还是要从技术合规入手，用户自行辨别是否内容为AI合成的难度很大，因此应加强AI服务提供者、技术支持者相关责任的落实”。

责编 | 张雨菲

本文为《财经》杂志原创文章，未经授权不得转载或建立镜像。如需转载，请添加微信：caijing19980418

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章