用AI伪造校长声音发表种族言论马里兰高中体育主管被捕

2024-04-27 00:04

https://support.apple.com/gift-card-scams?cid=mc-nav-giftcard-giftcardlp-uschinapress-01232024

警方周四（25日）表示，马里兰州一所高中的体育主管被指控使用人工智能（AI）冒充校长，录制了一段包括种族主义和反犹主义言论的录音。

美联社报道，巴尔的摩县警方提交的指控文件显示，派克斯维尔高中（Pikesville High School）体育主管达赞·达里安（Dazhon Darien）1月与校长谈话，得知自己的合同不会续签后，伪造了校长的声音。

警方称，校长当时对达里安的工作表现表示出担忧，包括一起针对达里安的盗窃事件调查，这起调查中达里安被指使用学校资金向他的室友支付费用。

派克斯维尔高中标识。（图片来源：美联社）

警方写道，达里安使用AI技术伪造了一段音频片段，听起来好像校长表示对非裔学生和他们的应试能力感到失望。这段音频中还包括校长对犹太人和两名“根本不应该聘用”的教师的轻蔑之词。

法庭文件称，这段音频在社交媒体上迅速传播，产生了“深远的影响”，导致校长被停职。警方表示，这段录音还使得校长和他的家人面临“他人伤害的严重风险”，警察也因此在他的房子里提供了安全保障。

警方称，这段录音还在社交媒体上引发了一波充满仇恨的信息，学校前台因此接到大量电话。这所高中的活动因此被中断了一段时间，一些教职员工感到不安全。

法庭文件显示，达里安面临的指控包括盗窃、扰乱学校活动、跟踪和报复证人。

巴尔的摩县检察官斯科特·谢伦伯格（Scott Shellenberger）说，这似乎是他的办公室在全美范围内发现的首例此类案件。他表示，马里兰州议会可能需要更新州相关法律，以便能监管对新兴技术的不当利用。

根据对达里安的指控，巴尔的摩县警探请专家对音频进行了分析。

法庭文件显示，科罗拉多大学丹佛分校的一名教授告诉警方，音频文件“含有AI生成内容的痕迹，这些内容是经过人工编辑的，加入了真实的噪音背景”。

加州大学伯克利分校的一位教授表示，“多个录音通过未知的软件拼接在一起”。

法庭文件称，一名巴尔的摩县警探发现，达里安使用了OpenAI和Bingchat等大型AI工具来生成内容。

警方周四表示，达里安目前被关押在当地的一所监狱，保释金为5000美元。

巴尔的摩县警局局长罗伯特·麦卡洛（Robert McCullough）说，达里安周三晚在当地的机场被捕，当时他正准备登机。麦卡洛称，达里安被拦下是因为他登机时携带有枪支，之后警员得知有对他的逮捕令。

精选 · 推荐

旧金山动物园将迎来中国大熊猫

国际能源署看好新能源车

华人电信诈骗团伙猖獗

戳“阅读原文”举报礼品卡诈骗

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

用AI伪造校长声音发表种族言论 马里兰高中体育主管被捕