“AI相机”翻红后，新规来了

本文经授权转载自

中国新闻周刊

（ID：chinanewsweekly)

作者：吴利婷

AIGC（生成式人工智能）卷向写真行业，在国内C端有了蹿红的应用，“45AI”“妙鸭相机”在朋友圈裂变传播，引来数万网友围观尝鲜。其逼真的生成效果、绝对的价格优势，令网友戏称“妙鸭九块九，照相馆P一宿”。

备受关注的同时，隐私安全、知识产权、肖像权、售后保障等将生成式人工智能监管问题再次抛出。

8月8日国家网信办就《人脸识别技术应用安全管理规定（试行）（征求意见稿）》公开征求意见。《征求意见稿》提出，只有在具有特定的目的和充分的必要性，并采取严格保护措施的情形下，方可使用人脸识别技术处理人脸信息。此前，七部门联合发布的《生成式人工智能服务管理暂行办法》8月15日正式实施， 对促进生成式人工智能健康发展，防范服务风险提出要求。

系列新规将行，对AIGC平台有何影响？业内又将如何看待？

AI人像的门槛

流行是个圈，在“人像”产品赛道同样适用。

据公开报道，去年11月，一款名为Lensa的AI自动生成头像功能在美国上线，最高单日下载量超过1500万。在国内，“换脸式”的玩法也早就诞生过FACE U、ZAO等现象级应用。

从H5换脸年代照、军装照，到妙鸭相机有何不同？人工智能专家、华中科技大学王然老师告诉《中国新闻周刊》，“其本质上是AI技术升级、产品运营思维转变的结果。”

王然分析称，从技术的底层逻辑上看，“记”比“换”更难，以妙鸭相机为例，生成式人工智能需要学习大量的数据，用户输入的20+张图片，覆盖不同光线条件和场景，加之数据分身采集叠加像素点形成“数据增强”，继而构建出完整的人物三维特征，形成与真人更像的“标准答案”，保证了输出结果的确定性和稳定性。从目的上看，H5应用强调在移动端即时传播，AIGC的实用性则更强。

“之前的‘换脸’类应用属于‘人脸迁移 ’，贴合程度不高，而今的AI写真不断优化标签生成出更加逼真的底层模型。” 一头部平台AIGC产品经理孟宇告诉《中国新闻周刊》，更大的不同是，像“45AI”“妙鸭相机”一开始就设定了10元左右的付费使用门槛，意味着用户免费、流量变现的商业模式已经过去。

腾讯广告和腾讯营销洞察发布的一份报告显示，当前写真市场高潜人群超1亿，目标人群突破两亿。孟宇总结，AI换脸本轮翻红的原因有两点，首先是用户多为女性，满足了变美心智的需求，好的体验是引发自传播的第一步。在产品设计上，妙鸭相机规定了每邀请1名好友可以获得价值0.5元的5个钻石的奖励机制，更增加了用户社交分享的意愿。

（图/图虫创意）

阿里云智能集团董事长张勇曾断言，基于AIGC各方面技术支撑、大模型支撑重做一遍行业服务，一定能带来不仅是一种创新性的客户体验、客户服务满足，同时也会让我们的生产范式、工作范式、生活范式发生很多变化。

值得一提的是，对于少部分目标客户而言，AI相机也命中了线下市场的硬性需求。采访中，一位男性用户反馈道，“在AI相机生成一次证件照，省去了出门、化妆、换装的过程，而且随时可以下载，我觉得这会代替一个行业。”

摄影师危矣？

拍照的时候，摄影师张晨习惯时刻关注模特的情绪，捕捉光影中人物细微的变化。过去的十年，凭借着这份洞察和技艺，他的快门下定格了数千人具体、生动、独特的瞬间⋯⋯

面对AI带来的行业震荡，张晨非常自信地表示，自己并不担心被AI取代。

对此，王然提出，“AI基于历史数据学习生成的内容更接近行业的 ‘平均值’，会替换掉摄影行业中缺乏创意，简单重复的工作。”

“目前AIGC最有可能替代的是类似海马体、天真蓝里人工修图的劳动力，传统的证件照审美显然在AIGC时代丧失优势。”孟宇说，这让摄影师、修图师、造型师重新审视自己的核心竞争力，也让人们重新思考起拍照的意义。

刚拍完一组母婴照的黄康云告诉《中国新闻周刊》，拍写真是为了记录一些重要时刻，“我看重的是真实的生活，以及对真实生活的感受。”比如记录宝宝成长历程的写真集，放松、神态自然，这些东西是我想要的，童真童趣AI给不了。

目前，由于技术原因，AI生成的照片中也会有体态不自然、面部表情单一等情况，依旧和真人摄影有差距。采访中，不少顾客都表明，人们同样珍惜通过化妆变漂亮的过程。

（图/图虫创意）

“一次性提交那么多个人照片，不明去向，平台如果缺乏监管很有可能会泄露隐私。”黄康云说。

事实上，上线之初，妙鸭相机就因“我方可以任何形式、任何媒体或技术无论现在已知或以后开发使用您的内容⋯⋯”等霸王条款被推至风口浪尖。在新声明中，平台虽承诺用户所上传的照片只会用于数字分身制作，不会提取也不会用于识别和其他用途，且分身制作完成后自动删除，但实际执行情况，暂不得而知。

据妙鸭相机微信公众号，妙鸭背后的AI模型为“提香”。专家认为，此类应用技术和场景复制壁垒较低。相较于网络社交、游戏等万亿市场规模，照片编辑软件还有很大发展空间。目前AIGC行业还属于起步阶段，行业未来，拼的是技术创新以及谁更合法合规运营。

严守最后的密码

技术创新的同时，带来了监管难题， AI换脸诈骗、侵犯他人名誉权的例子历历在目。人们不禁质疑，真的还敢用AI相机么？

“平台删除用户照片后，其脸部的关键特征其实已经被获取，在不整容的前提下，人脸数据仍是我们‘最后的一道生物密码’。”王然提醒道。大模型的算力亦离不开有效的数据训练，这样的训练包括收集适量的训练数据，过程中的数据安全及技术伦理同样存在隐忧。数据泄露的风险长久以来都是红客与黑客之间的一场博弈。

孟宇补充道，“一旦平台采用相似度超90％的元素模板生成写真，并面向用户收费，还会有侵犯外观专利的风险。”

这些因素都是悬在AIGC玩家头上的达摩克里斯之剑。

正当人们讨论平台用户协议能否建立起用户信任之时，《征求意见稿》提出，人脸识别技术使用者处理人脸信息，应当事前进行个人信息保护影响评估，并对处理情况进行记录。对该技术使用的必要性和安全性前提作出要求。

业内人士认为，这样的法律框架约束，对于我国生成式人工智能在包括人脸识在内的各领域基础研发、垂直落地应用以及相关生态的规范化形成上都是有利的。

《中国新闻周刊》发现，系列新规中，另一个人们所关心的生成式人工智能作品的版权问题仍没有定论。

目前大多数国家依然按照传统的著作权规定来界定生成作品的版权，对比完全由人工智能独立创作或按照自然人输入的提示词生成的作品，很难在法律上被界定。

“生成式人工智能的版权问题本身是一个伪命题，当‘弱人工智能’发展为‘强人工智能’，生成内容的过程可解释，因果性更强的时候，我们才有可能来确权。”王然说。眼下，获取流量关注之后，AIGC平台们需考虑的是生存与发展两道难题。

（图/Unsplash）

王然提出，AI算力需要很大的硬件成本，平台们应该在各自领域推出更多“锤子应用”，实现可持续发展。监管部门应该收集和分析更多的案例，与平台方探索更多 B 端的合作应用创新。用户则可提高数据素养，参与与平台、媒介、其他用户的交互，与促进平台迭代相互作用。

编辑：马敏

读完点个【在看】👇

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章