后 Sora 时代的深度伪造,「AI换脸术」怎么防?
最近,谷歌发布了一款多模态视频模型,只需要输入一张人物静态照片,一段语音,就可以得到一段长达 10 秒的演讲视频,口型和面部表情自然,甚至连相应的手势都很丰富。不经让人再次感叹,我们离一个深度伪造(Deepfake)就可以以假乱真的世界是不是更近了?
答案是肯定的。
「线上 Deepfake 攻击的案例正在呈指数级增长,我们在东南亚部分国家发现,一年的时间理,Deepfake 的攻击案例占比就从百分之零点几上升到超过 5%。」
这是姚伟斌的观察。姚伟斌在蚂蚁数科从事安全科技的研发工作。蚂蚁数科旗下面向海外的安全科技品牌 ZOLOZ,可以用生物识别技术解决「你是谁」的身份识别问题。
随着深度伪造技术的发展以及深度伪造攻击成本大幅下降,姚伟斌和同事如今面临的局面是,整个黑产(网络犯罪)都在进行数字化转型。
普通人被攻击的可能性也大大增加了。比如很多人都会遇到一个场景——线上开户注册,线上开户注册通常分 3 步,第一步是拍脸部照片;第二步是活体检测,比如转脸、眨眼;第三步是和证件比对。而黑产也在进步,他们会用AI工具生成高度相似的假人脸,与认证系统斗智斗勇,他们更会直接绕过前端摄像头,直接将虚假人像信息注入系统,暗中「调包」。
如何抵御这样的攻击?安全科技有哪些发展,普通人又可以做哪些事来保护自己?姚伟斌给出了详细的解答。
以下是完整对谈音频,不要错过。
编审/东君
视觉设计/Mori
排版、运营/Siti
更多有趣问题
欢迎来声动活泼找答案
微信扫码关注该文公众号作者
戳这里提交新闻线索和高质量文章给我们。
来源: qq
点击查看作者最近其他文章