Redian新闻
>
太可怕了,AI模仿15岁女儿声音求救,差点骗走妈妈100万美金!这哪个当母亲的能不上当啊?
avatar

太可怕了,AI模仿15岁女儿声音求救,差点骗走妈妈100万美金!这哪个当母亲的能不上当啊?

vincentilia
楼主 (北美华人网)
美国亚利桑那州女子珍妮佛(Jennifer DeStefano)近来接到电话,被通知15岁女儿遭到绑架,对方要求100万美元赎金,吓得她不知所措,没想到竟然是有心人士用AI软体模仿女儿声音向她诈骗,女儿其实没有被绑架。
身为人母的珍妮佛向媒体表示,她近来接到一通陌生电话,原本不打算接,但因为15岁女儿正在外地度假,担心发生突发状况所以接起,结果听到女儿的声音哭着向她求救,她急忙问对方怎么了,突然从电话那头听到一个男人的声音,命令女儿乖乖躺在地上。
那名男子后来接起电话,向珍妮佛表示,他已经绑架了女儿,如果敢报警或是通知任何人,他就会对女儿不利,甚至把人送到墨西哥,让家人永远都找不到下落。
珍妮佛表示,当她和男子交涉时,附近友人赶紧帮忙报案并且找人,4分钟后成功与女儿联系上,发现人明明很安全,让她气得立即挂断诈骗者电话,后来证实诈骗电话的声音可能是使用AI软体模仿。
珍妮佛表示,"那个声音听起来完全就是我女儿,连哭得方式都一样,所以我完全不会怀疑是假的,才让我陷入这个诡异的状况",她希望她的故事能帮忙提醒大众,小心有心人士会使用类似方法进行诈骗,"最好要有只有你们之间知道的话题,这样才能确保不会被AI给骗了"。
avatar
westlake
2 楼
这标题误导啊,明明没有骗到手
avatar
crystalyysu
3 楼
家长和子女之间,要说好一个secret code, 找个容易记住但是别人不容易猜到的词就好,无论是孩子给家长打电话要钱求救啥的,还是有人跟孩子说家长有事,请他/她帮忙去接孩子,问一下code, 说不出来的接当骗子处理。
avatar
Cumberbitch
4 楼
“ 吓得她不知所措,没想到竟然是有心人士用AI” 这叫有心人士?这是别有用心人士吧
avatar
落地无声
5 楼
“ 吓得她不知所措,没想到竟然是有心人士用AI” 这叫有心人士?这是别有用心人士吧
Cumberbitch 发表于 2023-04-12 13:47

我竟然被你最后一句话逗笑了
avatar
jedi2006
6 楼
这个ai,也需要有data来train的吧?那就是事先采集了她女儿的声音,如果连哭声都一模一样,那这怎么搜集来的?身边的熟人干的?
avatar
采花小盗
7 楼
这标题误导啊,明明没有骗到手
westlake 发表于 2023-04-12 13:35

你的注意点太奇特了
avatar
coalpilerd
8 楼
正牌绑架犯会很愤怒的,老纸绑个人容易吗,又得有车载着,又得有房放着;生意都被你们这群零成本伪造声音恐吓家属的家伙搞坏了。
avatar
hxx093020
9 楼
有link吗?
avatar
olivia0216
10 楼
这个ai,也需要有data来train的吧?那就是事先采集了她女儿的声音,如果连哭声都一模一样,那这怎么搜集来的?身边的熟人干的?
jedi2006 发表于 2023-04-12 13:50

从社交平台啊
avatar
poppyjasper
11 楼

要3千有可能,100万去银行也抢不到啊
avatar
中美律师集团
12 楼
关键是骗子怎么知道这个女孩在外地的。我第一反应是social media,女孩可能share了各种信息,完全可以拼凑出真实姓名,大概住哪个区,现在在外地,可能她还上传了视频可以用于声音合成 。教孩子保护隐私刻不容缓。
avatar
BeHappy78
13 楼
关键是骗子怎么知道这个女孩在外地的。我第一反应是social media,女孩可能share了各种信息,完全可以拼凑出真实姓名,大概住哪个区,现在在外地,可能她还上传了视频可以用于声音合成 。教孩子保护隐私刻不容缓。
中美律师集团 发表于 2023-04-12 13:58

連哭都一樣, 女兒還上傳了自己哭的視頻?? 不會是女兒自己想要錢吧
還真有 https://www.resemble.ai/
avatar
curiousmonkey
14 楼
这个ai,也需要有data来train的吧?那就是事先采集了她女儿的声音,如果连哭声都一模一样,那这怎么搜集来的?身边的熟人干的?
jedi2006 发表于 2023-04-12 13:50

很大概率这些人家里有googlehome或其他的在线speaker
avatar
心跳的希望
15 楼
应该是身边人干的吧,知道女儿不在身边,知道女儿的声音,包括哭声
avatar
fridec2
16 楼
不少公司在做 AI Voice Cloning,只要给几段 1 分钟长的声音,AI 就能把 accent 的特征学习下来。
https://play.ht/voice-cloning/
https://beta.elevenlabs.io/blog/voice-conversion/
avatar
fridec2
17 楼
https://www.youtube.com/watch?v=17_xLsqny9E
比如这个,在不同人声音之间无缝切换,Steve Jobs,Bill Gates,卡戴珊。。。
avatar
frogette
18 楼
回复 1楼vincentilia的帖子
随着AI的发展,家长以后更需要越来越保护好孩子隐私,孩子的照片、录像绝对不要post到社交媒体上
avatar
hhmouse
19 楼
好可怕。
avatar
麦麦
20 楼
还好联系上了,要是女儿正好没看手机,后果不堪设想
avatar
zsmlrco
21 楼
我之前还傻傻的为了好玩,在某网站训练了自己的语音ai,需要读50句话,出来和真人一模一样。幸好是英语ai,至少骗不到我父母。
avatar
zglove21
22 楼
N多新闻报道,诈骗集团用AI做视频,做成子女的样子和声音,和老人现场视屏通话,骗钱。这都多少年了
avatar
jianliu67
23 楼
这个ai,也需要有data来train的吧?那就是事先采集了她女儿的声音,如果连哭声都一模一样,那这怎么搜集来的?身边的熟人干的?
jedi2006 发表于 2023-04-12 13:50

就是,这个故事听上去很假。
avatar
jianliu67
24 楼
从社交平台啊
olivia0216 发表于 2023-04-12 13:58

社交平台上连哭声都有?
avatar
rosemary
25 楼
回复 1楼vincentilia的帖子
随着AI的发展,家长以后更需要越来越保护好孩子隐私,孩子的照片、录像绝对不要post到社交媒体上
frogette 发表于 2023-04-12 14:55

现在的小孩好多梦想当网红, 就算不当网红也离不开这些社交媒体,因为周围的同龄人都在玩.
avatar
tuer
26 楼
这标题误导啊,明明没有骗到手
westlake 发表于 2023-04-12 13:35

有什么误导的,吓得我不知道怎么删视频了,以后什么都不能放网上了
avatar
arizaq
27 楼
微软的今年新技术 Vall-E 号称听三秒钟就能模仿任何人说话。
https://finance.yahoo.com/news/microsoft-unveils-ai-simulate-voice-112136270.html
avatar
chufanpeng
28 楼
这个ai,也需要有data来train的吧?那就是事先采集了她女儿的声音,如果连哭声都一模一样,那这怎么搜集来的?身边的熟人干的?
jedi2006 发表于 2023-04-12 13:50

现在手机音频的电子设备就每时每刻在你的身边,你随便说个什么,一打开电脑,YouTube就给你推来了
avatar
Majiama2022
29 楼
有照片,让ai搞一段视频通话诈骗更逼真,更容易了。保护隐私和对ai相关的立法刻不容缓。
avatar
yweili
30 楼
你们去B站看,一堆AI声音,比如用早年周杰伦的声音train了模型之后来唱他近年出的新歌。
相关阅读
爱琴海(Aegean Sea),日出生辉印度文明乃至欧洲文明自古以来比东亚文明高的原因就是小心!人工智能开始"骗"人!模仿家人求救,执法部门表示对这种骗局束手无策请教一下送3岁的小女孩什么礼物比较合适?只会中文和英文,能去韩国旅游吗?太可怕了,西雅图两个小学校长被发现吸毒并携枪八一个中东大叔的感情生活所以也不要相信大投行CEO多牛,看看瑞典最大养老基金CEO的神操作!入美籍后,国内身份证还能用吗?咖啡慕斯巧克力蛋糕(Chocolate Cake with Coffee Mousse)才上了两个月班就又想辞职了有没有孩子上美国的军校的妈妈,可以分享一下吗?好文共享太可怕了,在纽约地铁上差点被强奸!男的作案工具都掏出来了!来一组内娱首次高速慢镜头分享老马的卧室曝光,只有一个床垫川普: 法院官员为他登记时,哭着向他说 " 对不起 "国内那个武汉妈妈被网络攻击,太可怕了中国,一个老实人,被菲律宾骗彩礼邓文迪之女不走妈妈老路,22岁和男友洗手间自拍,对方是谁?三国谋臣多早卒,陈登舍命吃生鱼中国女留学生被注射毒品谋杀! 生前多次求救,美国大学赔偿500万美金推特:Legacy blue checks will be removed soon模仿15岁女儿声音求救!妈被勒100万美元崩溃,竟是“诈骗电话”中国女留学生被注射毒品谋杀! 生前多次求救,美国大学赔偿500万美金……急问Chat GPT? 中国只会玩监控AI!迈富时、第四范式、米高化工、耐看娱乐、武汉有机5家港IPO上市备案补充材料要求(2023年5月12日—2023年5月18日)这,谁能不上当啊?《利剑玫瑰》全阵容官宣,迪丽热巴、金世佳领衔主演,概念海报也出来了像一幅插页【粉色单品】粉FBI警告:慎用公共 USB充电口充手机 可能会掏空你的银行注意!骗子利用AI模拟女儿声音,妈妈差点被骗!Elon Musk:This is the fundamental reason why Tesla was the first【粉色单品】去年开始爱上粉色。入了两件“妈妈救我!”3秒模仿孩子声音!AI语音诈骗横行,有人险被骗100万美金!AI模仿15岁女儿声音求救,妈被勒索100万美元崩溃,竟是"诈骗电话"看最近版上挺多小伙伴回国,请问上海的物价已经这样了吗?抽血检查,太可怕了
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。