注意！骗子利用AI模拟女儿声音，妈妈差点被骗！

国际科技财经博客移民网络热点娱乐民生时事公众号

Redian新闻

>公众号

公众号新闻

2023-04-14 01:04

各位亲爱的小伙伴，您一定看过这类的解说视频，里面解说的声音似乎出现在不同的频道。其实，这种声音都是通过AI合成出来的。只要输入文字，AI不但能自动转成语音，甚至会自动判断停顿，语气，上下文的关系等等。

本来AI的快速发展应该是造福人类，但是，不法分子也看到了科技给他们带来的犯罪机会。

亚利桑那州的一位名叫詹妮弗·德斯特法诺的母亲分享了一个听起来太真实的绑架骗局的故事。

这使用AI来克隆声音的新型骗局。

詹妮弗说，她最近接到一个陌生号码的电话，她本来没打算接听。但是她15岁的女儿布里安娜正在滑雪旅行，她担心可能是紧急情况，所以她接了电话。

（被AI克隆了声音的布里安娜）

詹妮弗说:“听筒里是我女儿哭喊的声音，她在说‘妈妈’。”

“我说，‘好吧，发生什么事了?她说，‘妈妈，这些坏人害了我，帮帮我，帮帮我。’”

詹妮弗在回忆起这一令人毛骨悚然的事件时说：“我从未怀疑过那就是她。这是最让我抓狂的地方。”

一个男人接过了电话，詹妮弗说，这名男子准确地描述了事情将如何“发展下去”。

那个神秘的来电者威胁说：“你会打电话报警，你打电话给任何人，我要给她灌满毒品。我要用我的方式对待她，我要把她送到墨西哥。”

此时，詹妮弗已经被吓得浑身发抖。她都能听到女儿在背后恳求:“妈妈，帮帮我。请帮帮我。帮帮我，’然后大叫起来。”

骗子最初要求100万美元的“赎金”，但在詹尼佛说她“没钱”后，他把数字降到了5万美元。

在拨打了911和丈夫的电话后，他们确认布里安娜在滑雪旅行中安然无恙。

然而，在整个通话过程中，詹尼佛都坚信自己的女儿处于危险之中。“这完全是她的声音，”这位亚利桑那州人描述道。这是她的语调变化。她就是这样哭的。”

（詹尼佛与女儿）

事实证明，她的女儿从来没有说过这些话，她的声音是通过AI模拟设计的。

目前，高科技骗子的身份尚不清楚，但计算机科学专家表示，语音克隆技术已经发展到可以通过最简短的语音片段来重建某人的语气和说话方式。

亚利桑那州立大学(Arizona State University)计算机科学教授、人工智能权威苏巴拉奥·坎邦帕蒂(Subbarao Kambhampati)解释说:“一开始，它需要大量的样本。”“现在有很多方法可以让你只用三秒钟的声音就做到这一点。三秒。在这三秒钟内，它可以接近你的确切发音。”

根据教授的说法，有了足够大的样本量，人工智能就可以模仿一个人的“变化”以及他们的“情绪”。

詹尼佛说她的女儿曾经接受过关于体育和在校内的采访，里面有她大量的声音。

事实上，联邦调查局专家警告说，骗子经常在社交媒体上找到他们的目标。

负责联邦调查局凤凰城办公室的助理特工丹·梅奥(Dan Mayo)说：“如果你把(你的信息)公开，你就是在让自己被这样的人欺骗。“他们会寻找那些拥有尽可能多关于你的信息的公开档案，一旦他们掌握了这些信息，他们就会对你进行深入调查。”

上个月，抖音用户贝丝·罗伊斯(Beth Royce)据称接到了一个神秘男子的电话，要求她支付1000美元，否则就杀了她与此同时，在12月，社交媒体用户切尔西·盖茨接到了一个类似的电话，对方是一名男子，威胁说如果她不拿出同样的钱，就会杀死她的母亲——她还听到了她母亲在哭泣的声音。的妹妹。与此同时，背景中一直可以听到一个女人的啜泣声。

在这两起案件中，受害者都支付了赎金，因为害怕打电话的人会伤害他们的家人。

END