10分钟骗走400万！骗子手里的AI，把所有人都耍了
骗子对于AI技术的运用之快、运用程度之高令人咋舌——AI换脸、AI换声，拦截微信号，几乎无一不出自AI技术之手。
这两年，AI换脸已经不是新鲜事。
AI技术一秒整容，baby的脸变成热巴，这样的视频从一开始的惊掉下巴到如今的见怪不怪。
有些直播间发现商机，干脆用AI换脸的杨幂、迪丽热巴在直播间卖货。
小到恶搞名人，自娱自乐。
比如，之前有国外网友用Midjourney生成“教皇穿羽绒服”，图片质量之高完全做到了以假乱真，被浏览了2800多万次，还引起了不小的骚动。
前不久，日本的一位女议员在网上大火。
在大部分人的印象中，议员这个职位总是严肃并且保守的，根据网上的信息，这位女议员是日本内阁的“厚生劳动大臣”。
作为日本内阁中重要的职位之一，这位女议员却过于“赏心悦目”了。
外表和身份所带来的反差感，让这位女议员在推特上积累了超高的人气，只要有她的照片，随便一发都能带来几百万点击量。
还有美国前总统川普被警察逮捕，编写的有鼻子有眼，而且有图有真相。
就冲这酷似视频截图的画质，很多人似乎认为川普真被抓了。
大到一张AI图片，就能让股价暴跌。
就在这周一，美国国防部五角大楼爆炸、浓烟滚滚的造假照片在网上疯传，引起了不小恐慌。
由于当下没有可以交叉比对的新闻报道，很多网友都信以为真。
而当AI“以假乱真”的作图技术，遇到ChatGPT“瞬间写作”的能力，会发生什么？
结果是，更放飞自我了。
前不久，估计很多刀哥读者也看到这样一条新闻—— 22岁的加拿大小哥为了在韩国顺利出道，以防弹少年团的朴智旻为模版，整容了12次，花费了上百万。
每日邮报报道，最后不幸丧命。
在这条新闻下面，很多人痛批韩娱的畸形审美、整容就是圈钱，结果被证实是AI炮制的假新闻。
甚至你会发现，有了AI的“加持”，流量就能轻松拿捏。
甘肃平凉市公安局崆峒分局网安大队发现，多达21个网站上同步出现了一条本地“新闻”：《痛心！甘肃一火车撞上修路工人，致9人死亡。》
如此骇人听闻的标题外加大体量的集中报道，这条“新闻”的点击量迅速爆炸。
在时间、地点都对得上的情况下，搭配AI强大的算法，谣言满天飞。
当骗子拥有AI，成功率飙到100%
比如在10分钟骗走430万这个诈骗中，核心涉及了AI换脸以及语音合成这两个技术。
有关AI 换脸软件，多数是AI深度伪造（Deepfake）技术的化身，最初源于一个名为 “deepfakes” 用户。
Deepfake 最初的用法，局限性还较大，只能对已有视频进行后期“换脸”。
比如，把《射雕英雄传》里的朱茵换成杨幂，五年前就实现了。
原理就是把视频分割成一张张连续图片，将每一张图片中的脸进行替换，最后将全部替换后的图片再合成视频。
然而随着 AI 技术的逐渐发展，最让人担心的事情还是发生了：用 AI 可以实时“换脸”了。
比如，下面这个换脸速度和逼真程度，只有一个字：绝。
甚至成本也越来越低，合成一个动态视频，成本也仅在2元至10元。
有行业内人士爆料，“客户”往往是成百上千购买，牟利空间巨大。
至于面向更精准、更实时的大型直播平台，视频实时换脸的全套模型购买价格在3.5万元，甚至不存在延迟、也不会有bug。
至于像语音合成方面，技术效果也是越来越逼真。
比如，过去骚扰电话只是诈骗，但现在就算诈骗不成，骗子通过骚扰电话录音等来提取你的声音，获取素材后进行声音合成。
这样一来，你的声音样本就被骗子轻松提取。
前段时间，微软发布了新模型VALL·E：只需3秒，就可以复制任何人的声音，甚至连环境背景音都能模仿。
没想到，在他转账之后迅速被拉黑，最后发现视频原来是AI伪造的。
不久之前，西班牙的一家电影制作公司也遭受了AI电话的诈骗，诈骗者伪装成著名演员“卷福”。
大佬主动找上门，这让这家电影公司很兴奋。
但“AI卷福”说，“我对你们很感兴趣，但需要公司先转20万英镑（约170万人民币）的定金，之后再谈具体的合作细节。”
三天前，美国CBS电视台的电视新闻杂志节目60 Minutes，现场展示了黑客是怎样克隆声音来骗过同事，并成功窃取护照信息的。
小到在网购、兼职、刷单的小钱 ，大到冒充客服、投资理财人员等身份，获取银行卡账号密码直接转一大笔账...
当骗子拥有AI，诈骗成功率几乎到了100%。
AI的发展速度让外界始料未及，唱衰和警告的声音也越来越多。
五天前，英国首相苏纳克针对AI安全性发出的一则警告：英国将带头限制AI可能带来的危险。
马斯克更极端，甚至把AI比作未来人类文明最大的风险之一，威胁程度远高于车祸、飞机失事、毒品泛滥等，甚至比核武器都要危险得多。
这次AI诈骗全国爆发，更让人觉得AI一旦作恶，就会让人防不胜防。
但这件事，或许并不能完全甩锅给AI本身。
首先，对待新科技，大忽悠们总是比普通人具有更灵敏的嗅觉。
比如，在比特币出现之时，普通人当成谈资和新闻，可很快就有犯罪团伙将其用于洗钱。
结 语：
快播创始人王欣在法庭上发表的“技术无罪论”，但出狱后的王欣修正了他的观点：“技术是无罪的，但人会犯错”。
不得不承认，AI骗局对大部分普通老百姓来说，简直就是灾难。
过去我们一直说，“杀猪盘”的骗子不敢视频，冒充公检法的骗子不敢视频。
但如今，图片、声音、视频都可以造假。
OpenAI CEO在美国国会听证会上大声呼吁，世界应该要设立可以规范和监管AI 的独立机构。
乐观的想，AI诈骗门槛越来越低，不就意味着用AI反诈的成本也在降低？
如今，谁更了解AI，谁就决定了AI的“角色”。
不如让技术解决技术，用立法打败魔法。
【金错刀粉丝交流群】火热纳新中！
在这里你可以：
了解爆品商业案例
探讨最新社会热点
发掘创业背后故事
还有不定期红包等你拿
动动手指，长按下图
添加刀小妹微信，备注“进群”即可
微信扫码关注该文公众号作者