杀猪盘被AI大模型套路，倒贴520块钱，骗子破大防

2022-12-16 06:12

机器之心报道

编辑：张倩、陈萍

一个爆梗频出的 AI，让骗子破了大防。

提起「杀猪盘」，很多人都恨得牙痒痒。这是一种流行于网络上的电信诈骗方式。诈骗分子准备好人设、交友套路等「猪饲料」，将社交平台称为「猪圈」，在其中寻找被他们称为「猪」的诈骗对象，通过建立恋爱关系，即「养猪」。最后骗取钱财，即「杀猪」。

由于诈骗分子身处海外，这种诈骗案件通常很难破获，受害人的几十万甚至上百万钱财就这么打了水漂，心理也遭受重创。

B 站 up 主 @图灵的猫表示，最近他也有几位朋友遭遇了杀猪盘。于是，他决定「用魔法打败魔法」：利用一个用 B 站评论训练出的 AI 和骗子聊天，看看 AI 如何与骗子斗智斗勇。最终，他不仅没有损失钱财，反而从骗子手里赚到了 520 块钱红包。

视频地址：https://www.bilibili.com/video/BV1qD4y1h7io/

为了让骗子上钩，作者在多个社交平台注册了账号，并根据公安部和反诈中心发布的受害者画像，为账号定位了单身、多金、高学历乖乖女等身份标签。这样的人设让他收获了大量私信。

为了精准地识别出骗子，避免误伤普通人，只有满足以下条件的人才会进入与 AI 聊天的环节：

最终，有 5 位嫌疑人「脱颖而出」。作者展示了 AI 与其中一位嫌疑人的对话。

第一天的对话以「摸清家底」为主，嫌疑人和 AI 都向对方展示了自己的财力。其间，AI 爆梗频出，连「北京爷吉祥」、「师傅，你是做什么工作的」这种梗都知道。最后，嫌疑人玩了一招欲擒故纵，以「主持公司会议」为由结束了对话。

第二天，嫌疑人开启了套近乎模式，利用从朋友圈找到的蛛丝马迹找共同话题，双方从养猫聊到《了不起的盖茨比》，又聊到哲学。

对于这些话题，AI 大部分都能接住，但偶尔也会露出马脚，比如在谈到《了不起的盖茨比》时会机械地给出百科信息。不过，嫌疑人似乎并没有深究这些破绽。

第四天，嫌疑人开始把话题往恋爱方向引，企图确立关系。这时，爆点来了：由于嫌疑人的一句话触发了关键词「只因」，AI 直接抛出了爆梗——「小黑子，露出鸡脚了吧」。

然而，嫌疑人还是没有怀疑……

就这么聊了三周之后，嫌疑人放出了大招：给红包。对此，AI 欣然收下并客套了几句。

但当嫌疑人装可怜，想从 AI 这里得到些关心时，AI 的回应显得有些无厘头。

不过，嫌疑人还是没有起疑，而是继续秀人设，而 AI 则是继续用梗聊天。

最终，图穷匕见，嫌疑人开始假装困难，企图骗 AI 投钱。

在 AI 坚持说自己没钱的过程中，嫌疑人还会使出各种手段。

在发现骗术无法得逞之后，嫌疑人还企图让 AI 删除聊天记录，以增加警察办案的难度。

最终，嫌疑人破防，拒收 AI 的所有信息，对话到此结束。

当然，这种用魔法打败魔法的事情之前也发生过。此前，小米手机上的小爱同学因为接诈骗电话上过热搜，在 MIUI 内置设有 AI 通话功能，在通话设置选项里开启防骚扰后，若骚扰电话被记录黄页且该骚扰电话打进来时，小爱同学会自动帮机主接听，有时候还能帮你跟骗子聊上好几分钟。

用 AI 接骚扰电话看起来就是此类问题的最终解决方法，只不过事物的发展讲究一个螺旋上升，后来骚扰电话一方也用上了 AI，变成了 AI 对打，再后来大模型来了，双方的互动变得更加精彩。这个爆梗频出的 AI，背后也是由大模型来支撑的。

与骗子斗智斗勇的 AI，背后是如何做到的？

该 AI 是基于源 1.0，其是浪潮人工智能研究院推出的一款中文巨量语言模型，具有 2457 亿参数，包含全球最大的中文数据集——5.02TB。源 1.0 可以完成多项任务，包括对话、续写故事，新闻生成…… 最主要的是，它是开源的。

地址：https://air.inspur.com/

模型搞定了，图灵的猫又面临一个新问题。由于微信聊天是多轮对话形式，而对于 AI 来说，它们往往不记得自己或对方上一句说了什么，聊起天来前言不搭后语的，很容易让人怀疑对方是不是真人。

为了解决这一问题，图灵的猫表示他参考了序列模型中 LSTM 思想，为系统增加了记忆机制，这样一来 AI 能够实现简单的长短期对话记忆，比如昨天聊过的内容、上一轮聊过的内容，AI 都会进行参考。

此外，为了让 AI 说出的话更像真人，图灵的猫还加入了一种基于 Prompt Example 的先验规则，引导 AI 来针对性地学习如何交流，尤其是在给定诈骗场景的任务下。

其中 example 语料主要抽取自 B 站和贴吧的热门评论，这样一来，AI 可以学习网友的金句和梗，使得在双方对话过程中没有那么生硬。

最后，图灵的猫使用开源的 Wechaty 框架在云上搭建后端，基于本地的 python 脚本调用 puppet 服务，让 AI 无缝接入微信。只要登录预先注册好的微信号，AI 就可以回复任意私聊或群聊了。

在这当中，为了保证 AI 足够拟人，图灵的猫还是花了一点心思，做了很多小技巧。比如让这个 AI 发布以假乱真的朋友圈；对每条信息的回复设置一下间隔；模拟人类真实的打字速度；会用一些聊天表情替换文字（还不支持表情包）；当对方一口气说了很多话时，AI 会进行连续语句拼接，读取成一句话，然后进行回复。一番优化下来，这个 AI 反手从骗子手里赚回 520 块钱。