Redian新闻
>
数字人的最大“隐忧”!半年诈骗2亿,Deepfake骗局再次引爆互联网

数字人的最大“隐忧”!半年诈骗2亿,Deepfake骗局再次引爆互联网

科技


文/VR陀螺 林德


数字人,是构成元宇宙的要素之一。随着AI、面部识别以及3D建模和动作/表情捕捉相关技术的发展,近两年,虚拟数字人以各种身份形象出现在我们的视野中。然而当Avatar与真人越来越接近,不只看起来像,连表情、声音都能和真人一摸一样,那未来这些技术被用来作恶的风险也将大大提升。


前段时间,凭一言之力左右币圈的狗狗币之父马斯克以新身份“币圈慈善家”的形象在Youtube、推特发起一个送钱项目--给我你的币,我给你每天30%的回报率。


图源:网络


科技企业家变大慈善家?事出反常必有妖,做慈善这显然是不可能的。



 “名人”诈骗层出不穷,

 以假乱真的DeepFake 



这一片段是诈骗团队利用DeepFake,也就是深伪技术换脸“导”出的一场戏。通过截取马斯克在TED采访的视频,并为其配音,为的就是推出BitVex比特币诈骗平台。(BitMex是一个正规比特币交易平台)


“绝对不是我本人!”马斯克本尊辟谣(图片:推特)


除此之外,诈骗分子还伪造了方舟投资(Ark Invest)CEO凯瑟琳·伍德、以太坊联合创始人查尔斯·霍斯金森等多位币圈名人推荐BitVex的视频。


图源:worldnews


虽然此骗局很快被拆穿,但作为币圈大粉头,马斯克也不是第一次因被假冒而下场辟谣了,从去年5月至今年年初,假冒马斯克的视频层出不穷。


去年,SpaceX诈骗案敛金超1000万美元,今年年初光是靠DeepFake技术换脸马斯克喊出“给我一个币,我给你两个”的骗局在一周内就达到24.3万美元,光是年初到现在诈骗总额高达3000万美元(约人民币2亿)。


假冒交易网站中有马斯克的换脸视频
图源:网络


比起过去单纯的利用文字、语音包这类诈骗手段,动态视频显然更具有说服力,这一桩桩假名人诈骗事件都再次把DeepFake骗局推上热搜。


什么是Deepfake?


Deepfake深伪技术指深度学习(Deep Learning)+Fake(伪造)的合成词,现在专门指基于AI的图像、音频等合成技术的应用,其中最为大众熟知的形式就是AI换脸。


Deepfake技术的发展,离不开一个于2014年提出的关键深度学习技术GAN,生成对抗网络。GAN由两个互相博弈的神经网络组成,可以简单地把这项技术理解成一种无监督,用来训练生成模型的框架。在这个自动训练框架下,加以结合其他图像深度学习模型、自动编码器等可以实现通过大量的图片对目标人脸替换。


根据目前主流说法,Deepfake技术主要分为四类:重现、替换、编辑和合成。


  • 重现:对目标人物表情、身体、五官、头部等运动的图像的重新生成;
  • 替换:面部转移,面部交换等;
  • 编辑:通过添加、更改或删除目标身份的属性。例如,更换目标对象的衣服、胡子、年龄、体重、颜值和甚至种族、肤色;
  • 合成:没有目标人物的基础上由AI创建角色。   


图源:网络


在GAN被提出的三年后,一名Reddit用户deepfakes于2017年12月发布了轰动一时的当红女演员斯嘉丽·约翰逊等的非法色情换脸视频,Deepfake一词开始被大众熟知。


同时,比起一帧一帧换脸的传统模式,2019年开始以Deepfake技术为主的开源软件FaceApp、ZAO、Github开源代码等的兴起,一经发布便在网络掀起第一轮“换脸”热潮。


至此之后,网络上开始出现大量Deepfake技术生成的换脸视频。


 触手可及,Deepfake是把双刃剑 



Deepfake的开源技术、以及“傻瓜式”实时换脸软件的兴起使得极具娱乐性的一些应用,例如换脸Cosplay火爆全网。自2019年兴起的以ZAO为代表的换脸视频软件开始,Deepfake变得触手可及。根据创业公司Deeptrace的数据,从2019年10月到2020年6月,网络上的Deepfake视频的数量增加了330%。


ZAO的换脸视频,一夜之间“全民Cosplay”

图源:北美生活引擎


不仅是影视剧的制作例如换角、补拍,在对已故之人的“重现”上Deepfake技术也能大展身手。


重现爱因斯坦(图源:PARTIPOST)


在国内目前主流的各大社交媒体平台,微博、抖音、快手、B站等,也可以看到Deepfake技术无处不在。


病毒式传播,B站上的明星换脸二创视频
图源:bilibili


比起国内流行的换脸二创形式,在海外社交媒体上,扛起海外流行大旗是披着AR滤镜外衣的Deepfake应用。从哭脸滤镜到笑脸滤镜,魔性的滤镜让用户陷入“恶搞狂欢派对”。


Tiktok上超热门哭脸滤镜
图源:mashable


从个人发散到明星,这些二次创作都在一定程度上为明星、作品带来新的热度的同时,也为平台带来了更多的流量,Deepfake技术在推动娱乐文化的发展上有着非常大的优势。


除了娱乐化应用之外,在元宇宙的相关版块上,Deepfake技术也能发挥其积极价值。


目前元宇宙赛道中,除硬件、软件之外,还有一条热门赛道——元宇宙原住民,虚拟人,虚拟主播、虚拟偶像、虚拟主持人、虚拟记者等各色职业的虚拟人层出不穷。


今年新任的韩国总统尹锡悦使用Deepfake创建虚拟形象AI Yoon在网络走红
图源:SCMP


Deepfake的技术特点正好符合创造虚拟人、虚拟化身的要点。Deepfake技术在GAN的加持下,可以对虚拟人的面部运动进行进一步优化,并且基于图像深度学习模型使得Deepfake技术拥有大量面部信息,这对优化未来虚拟化身而言无疑提供了大量的学习范本。


但在这项技术变得越来越普及且越来越难辨真假的同时,人们对Deepfake技术的担忧也越来越多。根据2021年的韩国成均馆大学的研究论文,Microsoft的Azure认知服务对高达78%的Deepfake视频均无法辨认。


Deepfake的威胁


除了前文提到的马斯克等名人诈骗案之外,Deepfake被用于非法谋利的案件日益增多。


  • 不正当竞争:今年年初在领英上,70多家公司被曝利用Deepfake技术生成的虚拟人物作虚假销售账户,以此扩展业务同时减少在雇用人员上的支出;
  • 诈骗:犯罪分子通过Deepfake技术伪造母公司负责人声音导致英国新能源公司的CEO被诈骗超20万美元;
  • 造假:国外选举期间,网络上出现大量“政治视频”,其中许多利用Deepfake技术发表政治声明,从而动摇、影响选举局面等。


假特朗普呼吁采取行动应对气候变化,说服人们在请愿书签字。虽然很假,但上当者颇多

图源:InfoQ


  • 报复:不仅是个人,对于企业以及明星而言,Deepfake影片成为新兴的报复性工具,Deepfake编造的不实消息,让人们的肖像权、名誉权等权益受到危害。例如,Deepfake 色情影片也已经被用来勒索女性记者和新闻工作者,印度记者 Rana Ayyub曾经曝光过被Deepfake视频勒索的行为。


某马来西亚政治家因一段涉嫌从事同性恋活动的影片而被判入狱,但后来证实影片为Deepfake伪造......诸如此类的故事正在不断上演。


Tiktok上的假阿汤哥
图源:Tiktok


去年,德国媒体Mixed曾发表过一篇文章,关于创建一个Deepfake视频需要多长时间。根据作者的实验,他使用DeepFaceLab开源软件进行测试,从提取视频中的人脸照片到验证人脸(大约650张照片),再到约17个小时的AI训练,将钢铁侠小罗伯特唐尼与马斯克进行换脸。


图源:Mixed


 虽然换脸效果相对较粗糙,但作为一个非专业人士在没有专业工具,庞大的数据集和预训练模型的基础下,在几天时间内制造出上述程度的Deepfake视频意味着如今人工智能进化的脚步使得Deepfake技术变得更加容易。除了自己摸索之外,更是有卖家在某二手交易平台出售相关技术、教程等,Deepfake技术的门槛一降再降。


图源:燃财经


即使有些Deepfake视频并没有出神入化到足以令人信服的地步,但想象一下,在Deepfake技术的升级,以及如今信息泄露的情况,如果不法分子利用你身边人的照片,从而导演出一场无限逼真的戏,那会有多可怕?


因此为了解决不断升级的Deepfake技术带来的隐私和安全问题,软件、平台和政策都在积极地采取措施。


从2019年开始,各国、各平台便开始针对Deepfake出台一些新的保障政策:


  • 今年6月,Google 修改平台政策,禁止开发者使用其 Colaboratory 平台的服务进行 Deepfake 项目的研究;
  • 2020年,Meta全面禁止 deepfake 类视频的传播;
  • 2020年,国内印发的《法治社会建设实施纲要(2020 - 2025年)》进一步要求,对深度伪造等新技术应用,制定和完善规范管理办法;
  • 美国2019年正式签署生效的2020财年国防批准法当中包含了和 deepfake 相关的条文。
  • ......


不过即使是在政策加持下,Deepfake伪造视频就像是打地鼠一般,平台的监管往往赶不上生成视频的速度,为此Meta、微软、谷歌等科技公司都开始使用“魔法打败魔法”策略,着手开发监测Deepfake技术的内容模型。


但这场AI之间的攻防战,同时会使Deepfake技术再次升级,根据数据表示,Deepfake技术的检测仍然具有3%的错误率。在海量的生成视频中,3%也将造成大量的伪造视频的传播。未来的Deepfake将迎来更多的挑战,如何保障Deepfake技术的合理运用的道路还需要更多的探索。


文章参考:
https://zhuanlan.zhihu.com/p/346035443;
https://www.pingwest.com/a/259251;
https://www.donews.com/article/detail/5192/28117.html



  第一时间了解XR资讯  

  关注VR陀螺官网(vrtuoluo.cn)


VR陀螺的联系方式:

商务合作 | 投稿 :

西瓜(微信号 18659030320)

六六(微信号 13138755620)

寻求免费曝光:
六六(微信号 13138755620)
投稿邮箱:[email protected]


推荐阅读



微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
阿里再战互联网冰河期:组织调整半年后,什么才是阿里未来新引擎?猴痘再次引发经验医学 vs. 循证医学的大辩论,这次争到“新英格兰医学杂志”。你支持哪一方?上机数控“勉力”投资150亿,光伏行业产能扩张过快或存隐忧中国人的上半年,中国人的下半年诈骗20亿,卷款跑路!最“爱国”的大忽悠,终于摊牌了APEX 1/8灰少女:替换欧派+大长腿,可动人偶首次引入肤感漆!金管局再出手!游戏股逆市大涨,五千亿巨头创新高!互联网保险龙头大跌为了把 Deepfake 关进笼子,各大公司都拼了不用开火不洗锅,它才是懒人的“隐藏技”!酥香能拉丝,连吃3天不过瘾智能座舱力拼「差异化」,各路芯片玩家再次引领新潮流欢迎加入IEEE元宇宙/IEEE全球元宇宙大会精彩内容 - Part A专注工艺机理,有望造就工业互联网“隐形冠军”【中亚行】(五):帖木儿帝国的都城撒马尔罕“周末”应该说at the weekend还是on the weekend?李伯虎院士:我国开启工业互联网2.0新阶段 | 工业互联网迈向新征程“失效”港交所、三年亏12亿,Keep能否兑现“线上健身第一股”?Women Want Pepper Spray To Keep Safe, But Buying It Isn’t Easy【财富大餐】金融数据出炉 “亮点”与“隐忧”你好,虚拟数字人 | 数字进化论上海有望解封了?欢迎加入IEEE元宇宙/IEEE全球元宇宙大会精彩内容 - Part B刘亚东:用互联网思维规范互联网治理道不同不相為謀红遍亚洲女明星诈骗25亿被捕?人生超狗血:六国混血美貌惊人,当小三被封杀我们为什么对父母“报喜不报忧”?药明康德大股东再套现90亿,资本纷纷撤退下,CXO隐忧重重硬核观察 #680 互联网之父想要去中心化的互联网,但不要区块链【6.24今日折扣】LF折扣专场:Lancôme兰蔻粉水套装/Kérastase卡诗滋养套装史低价!SPF夏季折扣专场!忽而初夏的深夜食堂马斯克的撞脸兄弟是AI换脸?Deepfake无限接近真实有啥后果?每日优鲜就地解散,中国互联网对资本意志的最后幻想也一起拜拜了Keep更新招股书:年营收16.2亿 要做港股运动科技第一股移民局再次强调I-485体检报告,年底将加快审批节奏减少签证浪费猛涨59%!互联网板块大反攻,基金经理重磅发声:“国内互联网行业最差时候已经过去了!”今天早上忙了几个小时
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。