Redian新闻
>
儿子打电话索要巨款救急,老夫妻打完钱才知道,是骗子用AI声音假扮的?!

儿子打电话索要巨款救急,老夫妻打完钱才知道,是骗子用AI声音假扮的?!

公众号新闻

微信的规则进行了调整

希望大家看完故事多点“在看”,喜欢的话也点个分享

这样事儿君的推送才能继续出现在你的订阅列表里

才能继续跟大家分享每个开怀大笑或拍案惊奇的好故事啦~




话说前段时间,加拿大发生了一起很奇特的诈骗案。


一天,一对老夫妇突然接到一个电话,是他们的儿子Perkin打来的。


儿子打电话是为了向他们求助,

他说自己出了车祸,撞死一名外交官,就要进监狱了。


(示意图)


夫妇俩一听说儿子出事了,都心急如焚。

就在这时,Perkin的律师又给他们打来电话,表示为了打官司,现在急需2.1万加元的律师费。


夫妇二人没多想,赶快帮儿子戳到2.1万加元,

并按照要求把现金兑换成了比特币,转账到指定的账户。


转账后,夫妇俩稍稍放下心来,

但安静下来之后,两人琢磨起儿子之前打来的电话,居然觉得有些不对劲儿,

因为在电话里,儿子的声音听起来有些怪怪的。


就在当天晚上,Perkin给父母打了一个电话,

父母一问,这才发现儿子根本没在白天给他们打过电话,更没出车祸需要打官司,

夫妇俩终于明白过来,他们受骗了。


(示意图)


他们赶快向加拿大警方报案,

但儿子Perkin表示,付款时没有安全保障措施,那笔钱已经没了,也没办法追回。


得知父母受骗后,Perkin一直有一个疑问——

他想不明白那通冒充自己的电话是怎么回事,据说声音跟他特别像。


根据警方的初步调查,骗子使用了AI技术,模仿Perkin的声音给他的父母打电话行骗。


Perkin不确定骗子是如何找到他的声音样本,

不过据推测,他曾在油管上发过跟雪地摩托有关的视频,骗子有可能是从视频里提取了他的声音样本。




像Perkin父母这样被骗子用“冒名顶替”的方式诈骗的情况,在世界各国都呈现上升趋势。


今年2月,美国联邦贸易委员会发布的一份调查报告指出,

2022年,美国因诈骗案损失了88亿美元,

其中,最常见的诈骗方式就是“冒名顶替”,跟Perkin父母的情况类似。



而AI技术的发展,给这类犯罪行为提供了便利。

从几年前开始,用AI合成声音诈骗的案件就已经出现了,2019年就发生过一起非常典型的案件。


一家英国能源公司的CEO接到“老板”的电话,这位“老板”是德国母公司的CEO,

“老板”让他马上把22万欧元转账到一家匈牙利供应商的银行账户,他乖乖照做了。



但转账过程中,这位CEO发现了蹊跷的地方。

“老板”一共给他打了三通电话,第一次让他转账,第二次告诉他已经把这笔钱报销了,第三次则让他再付一笔钱。

这位CEO发现,所谓的“报销”并没有完成,而且来自德国的“老板”是用一个奥地利号码给他打电话的。


起疑之后,这位CEO并没有付第二笔钱,也报了警,

但他已经转账的第一笔钱,已经从那个匈牙利的银行账户转移到另一个墨西哥的银行账户,之后又被转移到其他地方,早就无法追回了。


警方经过调查发现,当初给这位CEO打电话的“老板”根本不是老板本人,而是骗子用AI技术合成了老板的声音。

受骗的CEO表示,电话中“老板”带着一丝德国口音,还有别具个人特色的音调,非常像真的。




之前的AI技术被骗子利用,已经足够他们行骗,

最近,GPT-4在各国都掀起一阵热潮,如果有人恶意运用更高级的AI技术,带来的后果将不堪设想。


这种棘手的情况已经引起一些研发AI语音技术的公司关注。


比如AI语音模仿和合成研发公司ElevenLabs,

他们发现在匿名论坛网站4chan上,有网友用他们研发的AI语音合成器VoiceLab合成名人的声音,表达种族歧视等不当言论。


今年1月,ElevenLabs公司在官方推特上连发多篇帖子,提出一种解决方案。



他们表示,为了对付那些将AI语音合成器VoiceLab用于不良目的的人,他们研发了一种工具,

人们可以利用这个工具,验证音频是否是用他们公司的AI技术合成的。


而且他们发现,绝大多数骗子都会匿名使用VoiceLab,所以今后VoiceLab将只能付费使用,

虽然付费不一定能防止诈骗,但这样能迫使他们留下付款账户等信息,从而产生一定的震慑效果,让骗子不得不三思而行。




美国联邦贸易委员会也新成立了一个技术办公室,调查各个公司研发的AI技术用途,以及各公司是不是在想办法降低AI技术被恶意运用的风险。


美国联邦贸易委员会的发言人Juliana Gruenwald对媒体表示,他们已经发现在社交媒体上,类似的诈骗行为正以惊人的速度增加。

“我们还担心深伪技术(deepfakes)和其他基于AI技术的合成内容,它们越来越容易被创建和传播,可以被用于诈骗。”


(深伪技术是一种使用AI的人体图像合成技术,合成目标图像或视频的方式。)



“生成看似真实的视频、照片、音频和文本的AI工具,会推动这种趋势。”

“这让骗子更容易作案,行骗也更方便快捷。”




AI技术本身并没有问题,

可是一旦被别有用心的人利用,

带来的麻烦就让人防不胜防......





ref:

https://www.businessinsider.com/couple-canada-reportedly-lost-21000-in-ai-generated-voice-scam-2023-3

https://www.ftc.gov/news-events/news/press-releases/2023/02/new-ftc-data-show-consumers-reported-losing-nearly-88-billion-scams-2022

https://www.forbes.com/sites/jessedamiani/2019/09/03/a-voice-deepfake-was-used-to-scam-a-ceo-out-of-243000/?sh=1731101e2241

https://twitter.com/elevenlabsio/status/1620443097057607681?s=20


--------------------






各位小伙伴们

微信公众号规则又进行了调整

事儿君也不得不跟大家求个三连

希望大家多多点击“在看

喜欢的话也点个分享


这样事儿君的推送才能继续出现在你的订阅列表

与大家继续分享每个开怀大笑或拍案惊奇的好故事






微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
继续deadhang,越来越多的证据了注意!邮寄支票被盗!金额$600却被扣$9000!! 骗子用这"技术"盗窃多起账户突增巨款,美国老夫妇被骗7万美元汇去中国3位小学生相约跳楼!2名身亡,1名给爸爸打完电话后放弃…深圳最牛钉子户:夫妻联手得1700万拆迁款,分完钱后妻离子散注意!邮寄支票千万要谨慎!金额$600却被扣$9000!骗子用这"技术"盗窃多起...药神还是骗子?牛津归国博士研制抗癌药物被拘押!患者联名血书,他说:我不为了赚钱......不想被骗就别接!匿名电话和这【5个区号】99.99999%是骗子 一听就上当帐户突增巨款!?原来是诈骗!加州老夫妇不慎被骗近7万...突发!大温中国男子Metrotown和印度骗子打成一团!警方出动,对方竟然携武器军刀!差点丧命!微档---凯恩斯1917年入境美国最高8万!加州抵押贷款救助计划扩大!帮房主还房贷!如何申请看这里三观震碎!那个“坑苦中国股民”的骗子,抛妻弃女,带二奶携巨款跑陆了!杀猪盘新手段 网络热恋男友要寄金子 日裔老人被骗4万 加州10大骗局 杀猪盘占3成…这个信号 确定就是骗子美国入境档案---朱汝瑾李静贞特别推荐一个视频深圳最牛钉子户:夫妻联手得1700万拆迁款,分完钱后妻离子散,到底是怎么一回事?北加夫妻打了针狂犬疫苗,医院账单:$22万!餐馆发大水,华裔老板机智搬出6袋50磅大米救急,成功度过艰难一晚!邮寄支票被"洗"!金额$600却被扣$9000 骗子用这"技术"盗窃多起嫁入豪门前的考验?一女子转账100万,自证“不是骗子”太吓人了!骗子用这招!纽约华人存在美国和留在国内的钱都被清空!$20万美元一针!加州夫妻打狂犬疫苗收到天价医疗账单后傻眼日本大叔为实现“人生重启”,改名换姓,放弃工作,跑到海岛给陌生老夫妻当儿子?!那些电话推销“高新落户”的人,是不是骗子?究竟谁才是骗子?你是那个敢于说真话的孩子吗?布碌仑宾臣墟华裔老夫妻争吵打架,64岁妻袭击81岁老夫被逮捕當年在京廣東人如何滿足舌尖的需求买房噩梦!每月支出$7800,安省小夫妻打2份工,连产假也不敢休!年入200亿元!中国夫妻打造美国第一中餐品牌,还在全球开了2000家店狗狗上学后委屈窝在角落,老师打电话给主人:快接孩子回家!澳洲苹果用户注意!警惕Apple Pay新骗局!收到这种短信的,99%是骗子!帐户突增巨款!加州老夫妇不慎被骗近7万知名男演员“生日早上跟骗子打了36分钟电话”我撞死人需要钱…AI「拟真儿子声」骗走老夫妻2万元
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。