Redian新闻
>
太可怕了,AI模仿15岁女儿声音求救,差点骗走妈妈100万美金!这哪个当母亲的能不上当啊?
avatar

太可怕了,AI模仿15岁女儿声音求救,差点骗走妈妈100万美金!这哪个当母亲的能不上当啊?

vincentilia
楼主 (北美华人网)
美国亚利桑那州女子珍妮佛(Jennifer DeStefano)近来接到电话,被通知15岁女儿遭到绑架,对方要求100万美元赎金,吓得她不知所措,没想到竟然是有心人士用AI软体模仿女儿声音向她诈骗,女儿其实没有被绑架。
身为人母的珍妮佛向媒体表示,她近来接到一通陌生电话,原本不打算接,但因为15岁女儿正在外地度假,担心发生突发状况所以接起,结果听到女儿的声音哭着向她求救,她急忙问对方怎么了,突然从电话那头听到一个男人的声音,命令女儿乖乖躺在地上。
那名男子后来接起电话,向珍妮佛表示,他已经绑架了女儿,如果敢报警或是通知任何人,他就会对女儿不利,甚至把人送到墨西哥,让家人永远都找不到下落。
珍妮佛表示,当她和男子交涉时,附近友人赶紧帮忙报案并且找人,4分钟后成功与女儿联系上,发现人明明很安全,让她气得立即挂断诈骗者电话,后来证实诈骗电话的声音可能是使用AI软体模仿。
珍妮佛表示,"那个声音听起来完全就是我女儿,连哭得方式都一样,所以我完全不会怀疑是假的,才让我陷入这个诡异的状况",她希望她的故事能帮忙提醒大众,小心有心人士会使用类似方法进行诈骗,"最好要有只有你们之间知道的话题,这样才能确保不会被AI给骗了"。
avatar
westlake
2 楼
这标题误导啊,明明没有骗到手
avatar
crystalyysu
3 楼
家长和子女之间,要说好一个secret code, 找个容易记住但是别人不容易猜到的词就好,无论是孩子给家长打电话要钱求救啥的,还是有人跟孩子说家长有事,请他/她帮忙去接孩子,问一下code, 说不出来的接当骗子处理。
avatar
Cumberbitch
4 楼
“ 吓得她不知所措,没想到竟然是有心人士用AI” 这叫有心人士?这是别有用心人士吧
avatar
落地无声
5 楼
“ 吓得她不知所措,没想到竟然是有心人士用AI” 这叫有心人士?这是别有用心人士吧
Cumberbitch 发表于 2023-04-12 13:47

我竟然被你最后一句话逗笑了
avatar
jedi2006
6 楼
这个ai,也需要有data来train的吧?那就是事先采集了她女儿的声音,如果连哭声都一模一样,那这怎么搜集来的?身边的熟人干的?
avatar
采花小盗
7 楼
这标题误导啊,明明没有骗到手
westlake 发表于 2023-04-12 13:35

你的注意点太奇特了
avatar
coalpilerd
8 楼
正牌绑架犯会很愤怒的,老纸绑个人容易吗,又得有车载着,又得有房放着;生意都被你们这群零成本伪造声音恐吓家属的家伙搞坏了。
avatar
hxx093020
9 楼
有link吗?
avatar
olivia0216
10 楼
这个ai,也需要有data来train的吧?那就是事先采集了她女儿的声音,如果连哭声都一模一样,那这怎么搜集来的?身边的熟人干的?
jedi2006 发表于 2023-04-12 13:50

从社交平台啊
avatar
poppyjasper
11 楼

要3千有可能,100万去银行也抢不到啊
avatar
中美律师集团
12 楼
关键是骗子怎么知道这个女孩在外地的。我第一反应是social media,女孩可能share了各种信息,完全可以拼凑出真实姓名,大概住哪个区,现在在外地,可能她还上传了视频可以用于声音合成 。教孩子保护隐私刻不容缓。
avatar
BeHappy78
13 楼
关键是骗子怎么知道这个女孩在外地的。我第一反应是social media,女孩可能share了各种信息,完全可以拼凑出真实姓名,大概住哪个区,现在在外地,可能她还上传了视频可以用于声音合成 。教孩子保护隐私刻不容缓。
中美律师集团 发表于 2023-04-12 13:58

連哭都一樣, 女兒還上傳了自己哭的視頻?? 不會是女兒自己想要錢吧
還真有 https://www.resemble.ai/
avatar
curiousmonkey
14 楼
这个ai,也需要有data来train的吧?那就是事先采集了她女儿的声音,如果连哭声都一模一样,那这怎么搜集来的?身边的熟人干的?
jedi2006 发表于 2023-04-12 13:50

很大概率这些人家里有googlehome或其他的在线speaker
avatar
心跳的希望
15 楼
应该是身边人干的吧,知道女儿不在身边,知道女儿的声音,包括哭声
avatar
fridec2
16 楼
不少公司在做 AI Voice Cloning,只要给几段 1 分钟长的声音,AI 就能把 accent 的特征学习下来。
https://play.ht/voice-cloning/
https://beta.elevenlabs.io/blog/voice-conversion/
avatar
fridec2
17 楼
https://www.youtube.com/watch?v=17_xLsqny9E
比如这个,在不同人声音之间无缝切换,Steve Jobs,Bill Gates,卡戴珊。。。
avatar
frogette
18 楼
回复 1楼vincentilia的帖子
随着AI的发展,家长以后更需要越来越保护好孩子隐私,孩子的照片、录像绝对不要post到社交媒体上
avatar
hhmouse
19 楼
好可怕。
avatar
麦麦
20 楼
还好联系上了,要是女儿正好没看手机,后果不堪设想
avatar
zsmlrco
21 楼
我之前还傻傻的为了好玩,在某网站训练了自己的语音ai,需要读50句话,出来和真人一模一样。幸好是英语ai,至少骗不到我父母。
avatar
zglove21
22 楼
N多新闻报道,诈骗集团用AI做视频,做成子女的样子和声音,和老人现场视屏通话,骗钱。这都多少年了
avatar
jianliu67
23 楼
这个ai,也需要有data来train的吧?那就是事先采集了她女儿的声音,如果连哭声都一模一样,那这怎么搜集来的?身边的熟人干的?
jedi2006 发表于 2023-04-12 13:50

就是,这个故事听上去很假。
avatar
jianliu67
24 楼
从社交平台啊
olivia0216 发表于 2023-04-12 13:58

社交平台上连哭声都有?
avatar
rosemary
25 楼
回复 1楼vincentilia的帖子
随着AI的发展,家长以后更需要越来越保护好孩子隐私,孩子的照片、录像绝对不要post到社交媒体上
frogette 发表于 2023-04-12 14:55

现在的小孩好多梦想当网红, 就算不当网红也离不开这些社交媒体,因为周围的同龄人都在玩.
avatar
tuer
26 楼
这标题误导啊,明明没有骗到手
westlake 发表于 2023-04-12 13:35

有什么误导的,吓得我不知道怎么删视频了,以后什么都不能放网上了
avatar
arizaq
27 楼
微软的今年新技术 Vall-E 号称听三秒钟就能模仿任何人说话。
https://finance.yahoo.com/news/microsoft-unveils-ai-simulate-voice-112136270.html
avatar
chufanpeng
28 楼
这个ai,也需要有data来train的吧?那就是事先采集了她女儿的声音,如果连哭声都一模一样,那这怎么搜集来的?身边的熟人干的?
jedi2006 发表于 2023-04-12 13:50

现在手机音频的电子设备就每时每刻在你的身边,你随便说个什么,一打开电脑,YouTube就给你推来了
avatar
Majiama2022
29 楼
有照片,让ai搞一段视频通话诈骗更逼真,更容易了。保护隐私和对ai相关的立法刻不容缓。
avatar
yweili
30 楼
你们去B站看,一堆AI声音,比如用早年周杰伦的声音train了模型之后来唱他近年出的新歌。
相关阅读
太可怕了,西雅图两个小学校长被发现吸毒并携枪三国谋臣多早卒,陈登舍命吃生鱼爱琴海(Aegean Sea),日出生辉请教一下送3岁的小女孩什么礼物比较合适?《利剑玫瑰》全阵容官宣,迪丽热巴、金世佳领衔主演,概念海报也出来了中国女留学生被注射毒品谋杀! 生前多次求救,美国大学赔偿500万美金好文共享推特:Legacy blue checks will be removed soon八一个中东大叔的感情生活所以也不要相信大投行CEO多牛,看看瑞典最大养老基金CEO的神操作!注意!骗子利用AI模拟女儿声音,妈妈差点被骗!“妈妈救我!”3秒模仿孩子声音!AI语音诈骗横行,有人险被骗100万美金!只会中文和英文,能去韩国旅游吗?中国女留学生被注射毒品谋杀! 生前多次求救,美国大学赔偿500万美金……邓文迪之女不走妈妈老路,22岁和男友洗手间自拍,对方是谁?Chat GPT? 中国只会玩监控AI!咖啡慕斯巧克力蛋糕(Chocolate Cake with Coffee Mousse)AI模仿15岁女儿声音求救,妈被勒索100万美元崩溃,竟是"诈骗电话"印度文明乃至欧洲文明自古以来比东亚文明高的原因就是太可怕了,在纽约地铁上差点被强奸!男的作案工具都掏出来了!迈富时、第四范式、米高化工、耐看娱乐、武汉有机5家港IPO上市备案补充材料要求(2023年5月12日—2023年5月18日)这,谁能不上当啊?来一组内娱首次高速慢镜头分享小心!人工智能开始"骗"人!模仿家人求救,执法部门表示对这种骗局束手无策【粉色单品】去年开始爱上粉色。入了两件看最近版上挺多小伙伴回国,请问上海的物价已经这样了吗?有没有孩子上美国的军校的妈妈,可以分享一下吗?才上了两个月班就又想辞职了FBI警告:慎用公共 USB充电口充手机 可能会掏空你的银行川普: 法院官员为他登记时,哭着向他说 " 对不起 "中国,一个老实人,被菲律宾骗彩礼抽血检查,太可怕了老马的卧室曝光,只有一个床垫急问国内那个武汉妈妈被网络攻击,太可怕了【粉色单品】粉模仿15岁女儿声音求救!妈被勒100万美元崩溃,竟是“诈骗电话”像一幅插页入美籍后,国内身份证还能用吗?Elon Musk:This is the fundamental reason why Tesla was the first
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。