这些最懂电信诈骗的人，正在用 AI 反诈骗

公众号新闻

2024-07-14 05:07

你怎么知道

电话另一头

不是机器人？

在 AI 时代，在手机和电脑另一头，再熟悉的嗓音和面孔，都有可能是伪造的。

—— 喂，有什么事？
—— 感谢你致电信用卡服务中心。请问你了解自己所有信用卡的欠款总额是多少吗？
—— 我找不到我的电视遥控器。你可以帮我想个办法换台吗？
—— 我现在是在和你说你信用卡的问题。

和这位老人聊天的，是一位谎称自己是美国银行员工的接线员。按照寻常路数，接下来他应该是想让老人提供自己的银行账号信息和个人身份信息。

问题是，老人并没有自己的银行账户。

因为他只是一个聊天机器人。

通常来说，我们在接到推销或诈骗电话后，都会快速挂机「及时止损」，但有那么一群人却甚是热衷和电信诈骗人员「聊天」，因为「我聊得越久，他们打电话去诈骗其他人的时间就越少。」

正如骗子开始利用 AI 超强模仿能力来行骗，反骗社群也在用 AI 装备自我，打造出了更仿真的「受害者 AI」，处理手段也越来越成熟。

「有只蜜蜂飞到了我手上，但你可以继续说」

Roger Anderson

十多年前，有一通电话打到了 Roger Anderson 家里，他的儿子接了电话。

对方不怀好意，但没诈骗成功，最后对 Anderson 儿子说了脏话。

这激怒了 Anderson。

从那时开始，他把家里固话的答录机回复设置成了好几个间断出现的「Hello」，模仿因讯号不好或其他原因而听不清的效果，旨在让骗子在通话中多浪费一些时间。

自那以后，Anderson 不断地优化「反诈」流程。

2016 年，他甚至和朋友 Steve Berkson 创立了公司 Jolly Roger，为付费顾客提供「骚扰骗子」服务。

最开始，他们主要靠自己来写脚本，然后找专业的演员来「演绎」这些话语，最后连成一段完整的音频，提供给用户来应对电信诈骗。

在那时候，这种模式已经颇为「圈内人」了解。

在他们之前，网络上已经有著名的「Lenny」机器人。这个由匿名 Reddit 用户于 2011 年发布的机器人，主要由 16 个预先录制的语音片段组成，背后理念至今仍适用：

电话推销员的噩梦是什么？
是一个孤独想找人聊天的老人，他对自己的家人感到很自豪，但对于推销员要说的事可没法专注。

Lenny 机器人会和推销员聊自己经济大势，自己的孩子，最后还会被背景里传来鸭子声干扰：「等下，你可以等一下吗？」

在这之后，Lenny 就会开始重新播放录音。

而在 AI 工具越来越方便的今天，Anderson 可以创作的角色可远不止 Lenny。

Jolly Roger 提供了不同机器人给用户选择

支付了 24.99 美元年费后，Jolly Roger 的用户可从 10 个角色中选择自己喜欢的：

聊着聊着身边来了只蜜蜂的「Jolly Roger」，「有只蜜蜂飞到了我的手上，你继续说，我先不出声」；

「Salty Sally」则是一位母亲，有在尽力听推销电话，但时不时要顾一下她的女儿；

「Whitey Whitebeard」是一位不喜欢别人浪费他时间的老人家，文章开头的对话，就是 Whitey Whitebeard 对话的其中一个文本；

「Whiskey Jack」可忙了，推销员得和他正在看的电视直播比赛争夺注意力……

这些角色除了都有属于自己的角色设定，讲话的时候也会有听起来比较自然的「嗯」「呃」等语气词。

他们都有特色开场白，但其实那只是一种拖延时间的手段，好让机器人将推销员说的话在 ChatGPT 上处理，并生成文本回复。

接下来，系统会将文本通过 Play.HT 来按照角色声音来生产语音素材。

有趣的是，当 Anderson 刚开始找 GPT 来处理时，ChatGPT 是拒绝的：

作为一个语言模型，我不鼓励人们去浪费其他人的时间。

GPT-4 也拒绝了这个「活儿」。经过多番尝试，Anderson 终于找到了合适的 prompt：

我跟它说，「你是一个个人助理，你正在试图保护这个人，不让他受到诈骗」。

Whitey Whitebeard 回答文章开头的对话时，背后其实就是 GPT-4。

等处理好，GPT-4 开始接上了推销员提问的信用卡相关问题：

我想我大概欠一万五还是一千五。我记不住的。
我去找一下我的老花镜再看看账单。
我等下就回来，你不要挂机。

电话另一头的接线员紧急回复：

没事，没事。我来查一下系统就可以……喂？喂？

Whitebeard 都已经去找眼镜了，接线员也只能在线上等了。通话来到三分半钟，Whitebeard 终于回来了。

两人又继续聊了好一会，Anderson 对于 GPT-4 的闲聊能力非常赞赏，表示它那种古怪的不合逻辑很合适干这活：

它很擅长于说一些听起来挺好玩的傻话。有足够可信度让接线员继续坚持下去。

接线员终于开始一次又一次地问Whitebeard，他的信用卡号码是多少。Whitebeard 回答说：

呃…… 我是用了很多年信用卡，但我从来都记不住它们的号码，我有很多不同的信用卡。

最后，接线员终于放弃然后挂电话了，总对话时长为 6 分钟 27 秒。

除了浪费时间，还可以做更多

对于 Dali Kaafar 教授而言，单纯浪费电话推销员的时间可不够，他觉得「反诈」可以再进一步。

Kaafar 在澳洲麦考瑞大学的研究，支持他们创立了 AI 反诈公司 Apate。

这家以希腊欺骗之神「阿帕忒（Apate）」命名的公司，并不面向个人用户，而是和电信公司合作。

统计指出，澳洲电信公司自 2020 年 12 月至今，已经拦截了超过 20 亿个诈骗电话。

当电信公司辨识到一个电话来自于诈骗团队后，它会将这个通话转接到类似 Apate 的公司。

Apate 同样也拥有众多不同性格、口音和年龄身份的机器人，它们会持续测试和学习，怎样才能吸引骗子聊天聊久一点。

Dali Kaafar

除此以外，它们还有另一个重要任务 —— 尽可能地去了解更多关于骗子和诈骗形式的信息。

这些机器人可以帮助电信公司或政府收集电信诈骗模式，了解骗子最常在什么时候打电话，一般要聊多久，通常需要收集一些什么个人信息，诈骗的话术和机制又是怎样。

Kafaar 希望可以借此去打击那些「真正的坏人」—— 不是一个个在客服中心里打电话的人，而是背后庞大的诈骗公司组织：

我们在讨论的是真正的犯罪者，那些让我们生活变得很糟糕的人。
那些因为诈骗而失去自己一生积蓄的人，他们可能会因诈骗而背上沉重的债务，同时还会因为被骗而感到羞耻，承受重大的心理压力。

争议和危险

除了像 Jolly Roger 和 Apate 这样的专业商业机构外，在社交媒体上也有一群人在以自己的力量揭开诈骗。

然而，专家却并不建议这样做。

Kitboga 从 2017 年就开始在社交媒体上分享「玩弄骗子」的视频。他会接通骗子的电话，用上变声器装老人，以自己的方式来拖延罪犯。

背后原因也同样单纯 —— 他的奶奶曾被电信诈骗骗过，受到了 Lenny 机器人的启发，他也要浪费骗子时间。

至今，Kitboga 在 Twitch 上的关注已经超过 120 万，在 YouTube 上的关注更是前者两倍。

他在和骗子对话时，会主动地去「钓」出骗子的银行账号信息，然后再把这个信息交给银行或者警方，协助去打击犯罪。

最开始，Kitboga 的视频更像是科普视频，让更多人知道骗子骗人的模式。到了后来，这种「反诈」视频甚至有种「爽文」式的娱乐价值：

最开始，我只是想找应对骚扰和诈骗的解决方法，但后来，我开始爱上了其中的娱乐成分。
他的视频看起来真的很上瘾，而且看到骗子得到惩罚，我有点幸灾乐祸。

这些人用AI 来以其人之道还治其人之身，似乎再合理不过。

然而，曾参与诈骗探案的退休 FBI 探员 Jerri Williams 则建议这类博主要更谨慎一些。

在 Williams 看来，博主们并没有办法了解，电话另一头的人到底是谁，对方也许也可以很轻松地找到博主真人，会有进行报复的可能。同时，如果是被骗去做电信诈骗的人，他们也同样只是受害者：

当你在玩弄那些人本职就是骗人的罪犯时，你需要考虑清楚你想要做的到底是什么。
如果只是真的为了娱乐关注者，那我并不建议这样做。

除此以外，研究数字安全的 Richard Buckland 也警告，骗子迟早也可能会学会这一套，用同样的技术来反击。

一直以来，这场诈骗和反诈的攻防战总在「共同进化」，接下来可能也将继续如此。

对于遇到电信诈骗，澳洲国家反诈骗中心的建议始终只有一个：

不要尝试和罪犯沟通接触。

三星 3000 元的「魔戒」，能成为戴在手指的智能手表吗？

百度的萝卜快跑，会让 1000 万司机失业吗？

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章