儿子打电话索要巨款救急，老夫妻打完钱才知道，是骗子用AI声音假扮的？！

话说前段时间，加拿大发生了一起很奇特的诈骗案。

一天，一对老夫妇突然接到一个电话，是他们的儿子Perkin打来的。

儿子打电话是为了向他们求助，

他说自己出了车祸，撞死一名外交官，就要进监狱了。

（示意图）

夫妇俩一听说儿子出事了，都心急如焚。

就在这时，Perkin的律师又给他们打来电话，表示为了打官司，现在急需2.1万加元的律师费。

夫妇二人没多想，赶快帮儿子戳到2.1万加元，

并按照要求把现金兑换成了比特币，转账到指定的账户。

转账后，夫妇俩稍稍放下心来，

但安静下来之后，两人琢磨起儿子之前打来的电话，居然觉得有些不对劲儿，

因为在电话里，儿子的声音听起来有些怪怪的。

就在当天晚上，Perkin给父母打了一个电话，

父母一问，这才发现儿子根本没在白天给他们打过电话，更没出车祸需要打官司，

夫妇俩终于明白过来，他们受骗了。

（示意图）

他们赶快向加拿大警方报案，

但儿子Perkin表示，付款时没有安全保障措施，那笔钱已经没了，也没办法追回。

得知父母受骗后，Perkin一直有一个疑问——

他想不明白那通冒充自己的电话是怎么回事，据说声音跟他特别像。

根据警方的初步调查，骗子使用了AI技术，模仿Perkin的声音给他的父母打电话行骗。

Perkin不确定骗子是如何找到他的声音样本，

不过据推测，他曾在油管上发过跟雪地摩托有关的视频，骗子有可能是从视频里提取了他的声音样本。

像Perkin父母这样被骗子用“冒名顶替”的方式诈骗的情况，在世界各国都呈现上升趋势。

今年2月，美国联邦贸易委员会发布的一份调查报告指出，

2022年，美国因诈骗案损失了88亿美元，

其中，最常见的诈骗方式就是“冒名顶替”，跟Perkin父母的情况类似。

而AI技术的发展，给这类犯罪行为提供了便利。

从几年前开始，用AI合成声音诈骗的案件就已经出现了，2019年就发生过一起非常典型的案件。

一家英国能源公司的CEO接到“老板”的电话，这位“老板”是德国母公司的CEO,

“老板”让他马上把22万欧元转账到一家匈牙利供应商的银行账户，他乖乖照做了。

但转账过程中，这位CEO发现了蹊跷的地方。

“老板”一共给他打了三通电话，第一次让他转账，第二次告诉他已经把这笔钱报销了，第三次则让他再付一笔钱。

这位CEO发现，所谓的“报销”并没有完成，而且来自德国的“老板”是用一个奥地利号码给他打电话的。

起疑之后，这位CEO并没有付第二笔钱，也报了警，

但他已经转账的第一笔钱，已经从那个匈牙利的银行账户转移到另一个墨西哥的银行账户，之后又被转移到其他地方，早就无法追回了。

警方经过调查发现，当初给这位CEO打电话的“老板”根本不是老板本人，而是骗子用AI技术合成了老板的声音。

受骗的CEO表示，电话中“老板”带着一丝德国口音，还有别具个人特色的音调，非常像真的。

之前的AI技术被骗子利用，已经足够他们行骗，

最近，GPT-4在各国都掀起一阵热潮，如果有人恶意运用更高级的AI技术，带来的后果将不堪设想。

这种棘手的情况已经引起一些研发AI语音技术的公司关注。

比如AI语音模仿和合成研发公司ElevenLabs，

他们发现在匿名论坛网站4chan上，有网友用他们研发的AI语音合成器VoiceLab合成名人的声音，表达种族歧视等不当言论。

今年1月，ElevenLabs公司在官方推特上连发多篇帖子，提出一种解决方案。

他们表示，为了对付那些将AI语音合成器VoiceLab用于不良目的的人，他们研发了一种工具，

人们可以利用这个工具，验证音频是否是用他们公司的AI技术合成的。

而且他们发现，绝大多数骗子都会匿名使用VoiceLab，所以今后VoiceLab将只能付费使用，

虽然付费不一定能防止诈骗，但这样能迫使他们留下付款账户等信息，从而产生一定的震慑效果，让骗子不得不三思而行。

美国联邦贸易委员会也新成立了一个技术办公室，调查各个公司研发的AI技术用途，以及各公司是不是在想办法降低AI技术被恶意运用的风险。

美国联邦贸易委员会的发言人Juliana Gruenwald对媒体表示，他们已经发现在社交媒体上，类似的诈骗行为正以惊人的速度增加。

“我们还担心深伪技术（deepfakes）和其他基于AI技术的合成内容，它们越来越容易被创建和传播，可以被用于诈骗。”

（深伪技术是一种使用AI的人体图像合成技术，合成目标图像或视频的方式。）

“生成看似真实的视频、照片、音频和文本的AI工具，会推动这种趋势。”

“这让骗子更容易作案，行骗也更方便快捷。”

AI技术本身并没有问题，

可是一旦被别有用心的人利用，

带来的麻烦就让人防不胜防......

ref：

https://www.businessinsider.com/couple-canada-reportedly-lost-21000-in-ai-generated-voice-scam-2023-3

https://www.ftc.gov/news-events/news/press-releases/2023/02/new-ftc-data-show-consumers-reported-losing-nearly-88-billion-scams-2022

https://www.forbes.com/sites/jessedamiani/2019/09/03/a-voice-deepfake-was-used-to-scam-a-ceo-out-of-243000/?sh=1731101e2241

https://twitter.com/elevenlabsio/status/1620443097057607681?s=20

--------------------

各位小伙伴们

微信公众号规则又进行了调整

事儿君也不得不跟大家求个三连

希望大家多多点击“在看”

喜欢的话也点个分享和赞

这样事儿君的推送才能继续出现在你的订阅列表

与大家继续分享每个开怀大笑或拍案惊奇的好故事