【新智元导读】杀猪盘有套路，AI也有套路。AI对上骗子，用魔法打败魔法，让人拍手称快。
B站up主「图灵的猫」曾做过一期AI小姐姐大战杀猪盘骗子的视频，近日，这个视频已经突破了200万播放量！作为B站知名科技区KOL，「图灵的猫」的视频一向人气很高。为什么这一期的流量尤其之高呢？这是因为，用AI对话机器人让骗子一步一步露出马脚的过程，实在看得人大快人心！你知道，全国有多少人收到过诈骗信息吗？4.38亿！这个数字占人口总数的32%，相当于每三个人中，就有一人受到过诈骗信息的骚扰。同时，随着技术的发展，诈骗分子的手段也越来越新奇，杀猪盘、网络兼职、疫情诈骗、虚拟投资诈骗层出不穷。被诈骗的对象也不仅限于老人和小孩，有不少高知、白领、大学生，都是诈骗的受害者。更有甚者，深陷网络杀猪盘的女性受害者，既破了财，精神上还遭受了极大打击，甚至付出了生命的代价。诈骗分子玩的是哪些新套路？如何辨别新型诈骗手段？我们又该怎么利用AI技术护身防骗？AI反诈论坛，教你利用AI技术，以魔法打败「魔」法！此次论坛由新智元CEO杨静女士主持，邀请到浪潮信息算法研究员张辉博士，以及B站AI领域头部UP主「图灵的猫」共同参与讨论。
很多人都觉得，受害人上当，是因为不够聪明。
可是，有那么多白领和高知，他们的知识修养和文化水平都不低，怎么还会上当呢？张辉博士介绍说，人会受骗，是因为一个人再怎么渊博，也不可能拥有全面的知识，不可能了解所有的诈骗案例。而再聪明的人，都难免有感情用事的时候。在某些氛围或场合下，就无法理智地做出判断。在反诈知识的储备上，它比人充分得多，因为经过大数据学习，它见过太多的诈骗案例。而且，人虽然会感情用事，但AI在任何时刻都是理智的。甭管是和什么人，在什么环境下聊天，AI统统一视同仁，既不会见钱眼开，也不会冲动做事。所以，面对网络诈骗，AI可以充当人的助手，衍生人的能力，补足人的弱点。
诈骗案中，非常可恶的一种就是杀猪盘。杀猪盘的很多案例，看起来都触目惊心。
许多向往爱情的「乖乖女」，在婚恋网站上不幸跌进杀猪盘的陷阱，以为自己开启了一段爱情童话，殊不知自己在对方眼里不过就是待宰的「猪」。设立人设，寻找猎物，剧本撰写，专职聊天，再到技术支持，专业骗钱等，杀猪盘的每个环节都有分工，施骗过程如同一条工业流水线。这些受害人，轻则遭受几十万、上百万的财产损失，重则付出生命的代价……2019年，海南一位24岁的女生结束了自己的生命，她在遗书上这么写道：「亲爱的爸爸妈妈，原谅女儿在今日选择结束自己的生命……被骗了20几万元无力偿还，挪用了爸爸6万7千元，借了十几万贷款，还欠朋友们几万元，你们养育我这么多年，我却做了这些对不起你们的事……我只能选择了结自己这一生……」面对这类案件，大家的第一反应往往都是受害人太过单纯，可怜又可笑。但如同我们在开头讲到的，这是一种偏见。
B站知名up主「图灵的猫」，曾经采用了浪潮的源技术，再用B站评论对AI进行微调，训练出来一个像魔法一样的反诈AI。这个视频在B站，已经获得了将近200万的播放量。
在论坛中，杨静女士向「图灵的猫」提问道：什么会有这样一个想法呢？「图灵的猫」解释道，首先是因为，在最近几年，人工智能的对话模型进步非常大。既然技术进步这么快，连骗子诈骗都开始用AI，那能不能发扬「科技向善」的理念，做一个可用的反诈AI呢？经过调研以及和浪潮的合作，他和团队决定尝试做了一个反杀猪盘AI。开始，他们用的是最初的API模型，虽然对话能力不错，但是在场景化的表达上，就不太好了。为了让AI表现更自然，他们在B站、贴吧的热门评论中，找了很多语料，去给模型微调。因为这些评论相当于回复和被回复的对话关系，就像我们平时在网上聊天一样，而基于这种关系，就可以更好地去发掘和利用它们，抽取出语言的形式，然后让AI模仿。在测试中，这个AI的效果非常不错，视频在B站已经有了接近200万的播放。「图灵的猫」认为，自己做的事最大的意义，就是提高公众对于杀猪盘的警惕，并且提供一种利用技术进行反诈的思路。杨静女士接着提问道：那反诈AI是如何在与骗子的对话中，识别出杀猪盘的套路呢？图灵的猫回答说，杀猪盘的套路都是有限的，很多骗子会用固定种类的借口来「杀猪」 。在AI的后台，就可以设立一个监控系统，一旦触发了某些关键词，就可以认为去观察和干预。而对于不同关键词，骗子都是有一套逻辑的，我们就可以让AI反着这个逻辑，有一套对应的话术，诱导骗子露出马脚，帮助破案。杨静女士向「图灵的猫」问出一个大家都很感兴趣的问题：怎么能让诈骗犯意识不到，与自己对话的是一个AI呢？「图灵的猫」解释道：首先，「源1.0」模型本身的知识储备就非常大，而基于这个模型的知识储备，就可以做一些更深层的应用。比如，可以用一些短字数的评论去训练和引导AI，让它更加拟人。如此一来，「小源」就区别于那些动辄发表长篇大论的长文本AI，可以用短句和分段表述，聊起天来就更加日常。其次，在「杀猪盘」中，对于不同关键词，骗子都是有一套逻辑的。而我们恰恰可以让AI反着这个逻辑，为骗子准备一套话术。那在「图灵的猫」的项目中，浪潮的源1.0发挥了怎样的作用呢？张辉博士解释道，源1.0在反诈AI中承担的是对话引擎，也就是说，对于对面聊天的这个人提出的任何问题，都是由源大模型给的答案。源1.0是一个预训练模型，注重通用性的聊天，但是在反诈AI中，就要达到有目的的聊天，剧本式的聊天，场景化的聊天。这时候，源1.0就可以很方便地外挂知识库，或者外挂语料库，这样，我们就可以实时更新知识、更新剧本、更新场景，开发出非常多人设稳定、自由交流通畅，而且能达到有目的对话的引擎或机器人。
项目地址：https://github.com/Turing-Project/AntiFraudChatBot杨静女士又提问道：作为反诈AI的大脑和灵魂，源1.0大模型为什么在高频的闲聊和知识对话中，表现得如此智能？张辉博士回答说，作为一个预训练的语言模型，源1.0之所以具备全才的大脑和有趣的灵魂，是因为学习了大量数据量，达到了5TB。这5TB的高质量数据，来源于2017年到2021年之间，互联网开源的800多TB文本数据。在过滤筛选后，浪潮筛选出来了这5TB的精华。而学习过大量文本数据以后，源1.0大模型已经具备非常好的语言知识和通用的领域知识，非常全才。相比GPT-3，「源1.0」在参数规模上领先了40%，在训练数据集规模上领先了近10倍为了支持开发者，浪潮已经建了源大模型开源开放平台。目前有2800多位开发者入驻了该平台，进行了各种有意思的上层AI应用。此外，平台不仅开源了推理API，还开源了非常多的数据集代码，并且向开发者提供低代码或者零代码。不需要具备算法专业的知识，就可以开发出非常多有意思的应用，浪潮也非常欢迎大家去试用。
模型官网：https://air.inspur.com/home可以期待，在未来，我们的算法基础平台会进一步升级，面对骗子，我们能够「道高一丈」。而杨静女士提问道：无论是源1.0，还是最近的ChatGPT，对话起来都接近真人。我们知道，很多金融机构和电商平台，都会配有自己的AI客服助手。而现在这些厉害的AI模型，会不会被犯罪分子利用呢？张辉博士回答说，现在还无法杜绝所有人都不用，但至少可以做到以下三点——第一，开放平台在从申请到审核到使用的流程中，都会有非常强的跟进措施，保障开发者开发的AI应用是经过审核的，是合情合理的。第三，目前已经上线的这些客服，主要的功能还是辅助用户进行流程性的咨询，比如如何退款，如何修改密码，而闲聊功能只占其中很小的一块。
现在很多新模型的参数动辄就是千亿，而源1.0预训练大模型的基础模型是2547亿。这么大的规模，性能的提升就会依赖超大的训练成本，因此源1.0训练了五年。杨静女士提问道：炼丹五年，完全体AI的预训练需要至少八位数的算力成本，能不能给大家普及一下大规模算力的实现过程，以及智算普惠释放的新价值？张辉博士回答，我们的大模型学习了五年的互联网文本，但是它的学习速度其实很快，并不需要像人那样，真的学习五年。
论文地址：https://arxiv.org/abs/2110.04725训练中，使用了2000多块GPU卡，整个训练的时间是16天左右，学习了5TB互联网上的高质量文本数据。当然，并不是每个企业都花费巨大的算力资源，来训练这样一个自用大模型。算力大模型现在可以作为一个算法的基础设施，就相当于AI能力的发电厂。这种预训练大模型，其实是一次训练、广泛赋能，就像接入电力一样。在浪潮的开放平台上进行注册，就像插入一个插座一样，经过非常简单的调用，就可以使用预训练大模型的AI能力。
在论坛最后，杨静女士提问对两位专家提问道：未来的诈骗方式还会如何演进？AI技术在反诈上又能演进出哪些反套路？张辉博士回答说：未来，骗子肯定会不断翻新花样，而我们的反诈技术，也会越来越先进。那时候的AI反诈技术不仅会帮助警察，还会帮到普通人。我们可以饱含期待。而浪潮作为一个有社会担当的企业，一直在强调科技向善、科技助善。例如，浪潮有一个助盲的项目，通过多模态识别、视觉识别，让盲人听到声音，还能把这些图像识别的内容转化成语音，让他们自由地交谈。「图灵的猫」表示，针对现在的疫情，AI或许可以为大家提供一些居家的健康监测，比如接触阳性的概率、平时的血氧饱和度、体温等。把这些大数据汇总分析后，或许会对独居老人和小孩提供预警，甚至主动对社区、派出所、医院报警或者告警。总之，随着未来AI技术的进步，这些产品会更变得更完善、更普及，保障更多弱势群体的生命安全和财产安全，然后惠及每个人，提高我们的生活质量。其实在国外也有不少，我相信随着未来AI技术的再次进步，这些产品能够做到更完善更普及，对于更多弱势群体来保障他们的生命生活，然后是财产安全，最后是生活质量，以及最后普及到每个人身上。https://www.bilibili.com/video/BV1qD4y1h7io/?spm_id_from=333.337.search-card.all.click
