9.9元拍写真,你敢用吗
说起AI,许多人将“危险”“不可控”“或将替代人类”挂在嘴上,可在实际使用时,又忍不住真香了。
当下,各类AI应用可谓层出不穷。
最近爆火的妙鸭,就是这样一款主打“AI写真”的应用:仅需9.9元,一键下单,你就可以获得几乎与海马体照相馆等相似的同款写真照。比起传统照相馆,它便宜又简单。
在妙鸭相机的介绍中,用户仅需上传20张以上、包括人脸的半身照,就可以制作专属的数字分身,随后挑选喜欢的写真模板,用户便能下载高质量的个人写真照。
妙鸭相机
火到什么程度?上传照片后,写真的生成需要等。有用户表示,高峰期的时候,甚至要等五六个小时或更久。
热捧之下,麻烦也随即出现。用户发现,妙鸭的使用协议有“霸王条款”嫌疑,而这可能“取走”用户们的脸。
具体说,用户提供的20张以上包括人脸的高清照,乃至后续生成的“数字分身”,按照早前协议,妙鸭可以“任何形式任何范围使用”。
妙鸭此前的用户协议是这样描述的:“您特此授权我方在全世界(包括元宇宙等虚拟空间)范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可,使得我方可以任何形式、任何媒体或技术(无论现在已知或以后开发)使用您的内容。”
被质疑后,妙鸭于7月20日更新协议,包括“服务完成后,系统将自动删除上述信息,不予留存”。
7月20日,妙鸭发布声明表示上传的照片在制作完成后会自动删除
用户的脸暂时不必担心被“取走”了。但妙鸭此事揭示的是,在AI产品的潮流掀起序幕的时候,我们个人的隐私与数据安全受到新的威胁,这也才刚刚起了个头。
妙鸭是什么
在妙鸭相机出圈之前,美图秀秀、B612咔叽等软件也推出过相关AI写真/头像产品,但都没有像妙鸭相机这样受到欢迎。
AI绘画资深爱好者德里克文告诉南风窗,这是因为妙鸭相机的产品营销、用户体验、付费意愿这几部分做得不错。
更巧妙的是,把AI绘画“用于写真,只有半身像而不出现手,这其实是一个很好的产品思路”。德里克文向南风窗解释,AI绘画有个明显的缺陷——对手、脚,还有一些细节部分很难刻画好,这也是妙鸭相机在介绍中提醒用户只上传半身照的原因之一。
AIGC产品经理杜安则认为,妙鸭相机的写真风格本身也具有传播性,这是运营层面的亮点。而类似服务的产品很难做到妙鸭相机的逼真感,所以在AI图像生成产品中也就只有它出圈了。
妙鸭相机有多种写真风格供用户挑选
深究妙鸭相机背后的技术,其实是一种叫做LoRa模型的微调技术。大部分AI绘画喜爱者会自学相关软件,人工训练这种模型,生成定制化的图像。
可以这么理解,AI绘画是基于参数量极高、动辄1-2GB的大模型,而LoRa参数小,往往只有几十KB,可以对大模型生成的图片进行快捷的风格定制。
“妙鸭相机其实是设置了自动化训练的流程,将人工训练中调参的部分自动处理了,本质都是‘上传图片—处理数据—训练’这样一个流程。” 杜安解释道。
妙鸭相机简化了人工操作的部分,让AI写真触手可得。
但德里克文认为,普通人亲自上手、自己进行模型训练实际不难。在社交平台上,他展示了仅使一款插件,就将一张马斯克照片和另一张外国人照片进行了换脸的案例。
用马斯克的照片套入模版成图
“只要有人做整合包,普通人也可以进行模型训练”,进而制作出高质量的AI写真照。不过,德里克文也表示,这个设想在当下可能受限于用户的设备配置,“普通人上手应该不难,难的是硬件条件”。
妙鸭相机争议背后
7月17日,妙鸭相机官方公众号发文介绍这款小程序,并附上使用入口,三天过后,用户质疑过度索取隐私权限就被媒体先后报道。
妙鸭相机原始的授权许可里写道:“您特此授予我方在全世界(包括元宇宙等虚拟空间)范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可,使得我方可以任何形式、任何媒体或技术(无论现在已知或以后开发)使用您的内容。”
妙鸭相机原始授权许可
随后,妙鸭相机团队发布“《用户服务协议》更新说明”,表明用户所上传的照片只会用于数字分身制作,不会提取也不会用于识别和其他用途,且分身制作完成后自动删除。
垦丁律师事务所主任律师张延来告诉南风窗,最初《用户服务协议》的写法其实“并未明显违反法律强制性规定,但它是否能具备法律效力要看具体情况”,其中需要考虑平台是否对此条款进行了合理提示,以及具体使用用户信息的方式等。
在回应用户质疑后,新《用户服务协议》除了添加妙鸭相机团队“更新说明”里强调的内容,还在后面提到:“AI生成内容的所有权归您所有,您授予我方有权以向您本人展示AI生成内容为目的进行使用。”
这样的说法在知识产权归属上模棱两可。张延来解释,AIGC生成内容的权利归属在目前的法律规定中也无明确定论。妙鸭相机的约定是将权利交给用户,但平台为了把生成的内容向用户展示,需要获得对应的使用授权,这个约定相对比较合理。他认为,在实际中可以采取这类平台和用户自行约定的形式。
在正式使用妙鸭相机之前,用户需要勾选是否同意《用户服务协议》和《隐私政策》。用户协议通常是约定平台和用户基于平台服务形成的权利义务关系,例如服务内容、费用、行为规范、违约责任等。隐私政策则是对用户个人信息和隐私如何处理和保护做出的约定及声明。
相比美图秀秀、B612咔叽等自拍软件,妙鸭相机确实在隐私保护问题上不够敏感。例如,美图秀秀的“百变AI头像”服务需要用户知晓《AI头像活动协议》,B612咔叽的“AI写真”服务则需要用户同意《AI功能服务协议》。
张延来解释,从内容上看,《AI头像活动协议》基本上是一个专门围绕用户头像信息如何使用的特殊约定,可以视为隐私政策的一个组成部分。
妙鸭相机的隐私困局
一波未平,一波又起。妙鸭又被上海消保委“点名”。
7月26日,上海市消保委工作人员使用妙鸭相机后指出,该小程序“在付款页面以灰色小字标注的‘一旦购买成功,不支持退款’涉嫌侵害消费者的公平交易权。”
妙鸭相机付款页面灰色小字注明:一旦购买成功,不支持退款
同日,妙鸭相机在社交媒体上对此回应,相比第一次回应下的用户留言,其社交媒体账号下开始出现多条用户要求注销账号的评论。对于是否注销成功的问题,有网友只回复“后面再登录上去就没有数字分身的照片了”。
“被遗忘权”,也同样是数据安全法律中一项重要的权益。
平台是否能做到将上传照片完全删除?德里克文和杜安都表示,在技术层面是可以完成的,但实际“要看公司自己存不存(照片)了”,杜安说。
德里克文认为,这种AI写真存在的两个风险:第一,如果用户资料泄露或者被用作其他的大模型进行牟利,在现实层面,我们没有很好的制约手段。第二,如果有居心不良的人窃取了LoRa模型,再配合AI语音和数字人技术,理论上可以做出以假乱真的视频。
在妙鸭相机的使用要求下,用户需要提交20张照片,美图秀秀、B612咔叽等软件的相关服务要求则各不一样,有的是3-10张,有的是7-15张。德里克文向南风窗解释,想要实现比较逼真的图片效果,LoRa模型训练至少需要20张,数据量越少,越不像本人。
妙鸭相机需要用户提供20张及以上照片
杜安解释了不同产品要求不同的原因,“一般为了降低用户门槛,面向消费者的产品要求用户上传的照片数量会少些”。上传的照片数量越多越利于模型训练,但也会面临被利用的风险。
而在使用中,妙鸭相机也没有对上传照片是否为本人照片进行审核,极有可能出现盗用他人照片的情况。
不过,张延来表示,从法律角色上看,妙鸭相机是一个技术特征较强的网络服务提供者,可以主张技术中立,一般情况下,对用户盗用他人照片的行为不承担责任。
在妙鸭相机平台的《用户服务协议》中也明确提出,用户需要保证对于所上传内容拥有相应的合法权利,或已取得他人合法授权并有权用于本服务,否则造成的一切后果及损失皆有用户承担。这也提醒用户在上传图像时要自我审查,防止违规犯法。
而面对他人盗用图片,用户想要维权,协议里也有提到,除了本人通过司法、行政等救济途径向侵权行为人追偿,如果需要平台协助,也可提供一定帮助。
“平台在这个过程中可以做的主要有两个方面,一是向法院等裁判机构提供侵权用户身份信息,二是提供侵权用户具体侵权行为的证据。”张延来说。
编辑 | 向由
排版 | 茜雯
更多资讯
年轻态演讲节目
《后日谈》
生活不ending,人生后日谈。
南风窗新媒体 出品
未经授权 禁止转载
欢迎分享至 朋友圈
投稿、投简历:[email protected]
广告、商务合作: Fengyx778
记得星标!点点在看让理性的声音传得更远
微信扫码关注该文公众号作者