产业观察 | 科技应向善，AI不能被滥用

和你语音通话甚至视频对话的，可能不是本人！近期，利用人工智能“换声”“换脸”实施电信诈骗引发全网关注。以AI为代表的新一代信息技术就像一把双刃剑，我们在享受其带来的便利和效率的同时，也应追根溯源，对数据安全和治理引起高度重视。

在美国某软件公司的网站，上传任何人的一段简短音频，数分钟后就能让这个声音说指定的任何话了。不仅如此，还有会讲中国脱口秀的“马斯克”，翻唱周杰伦的AI孙燕姿。AI技术日新月异，不仅大幅降低了使用成本，还让诈骗变得更容易和更加隐蔽。在自然语言和人脸识别上，中国有海量训练好的数据，基于AI大模型的小样本学习，效率很高、成本很低。这就让AI这柄“双刃剑”，一面向善，一面向恶。

向善，可以根据故去者的音频，让他们继续“活”在当下，例如“邓丽君”演绎的新歌；根据逝去亲人的生前录音，让他们在今天的场景中再现，以慰思念；向恶，则可以利用AI技术合成亲人声音实施诈骗，比如利用AI语音技术伪造紧急情况，骗取关心自己的亲人交出现金或私人信息。

面对AI诈骗，个人要提高防范意识。相比传统电信诈骗，AI诈骗更加隐蔽和逼真，更加高效和精准，也更加难以防范和追查。在生成AI面前，大多数人没有防范意识，“朋友”的脸和“朋友”的声音就是信任的来源。面对AI诈骗，传统的防诈技术还无法及时拦截、预警。要防范此类诈骗，首先还是要当事人自己有警惕之心，避免个人信息被盗用。

面对AI诈骗，应追根溯源，提升数据治理水平。一方面，相关监管部门的防诈措施要跟上，加快防诈的技术管理手段升级，识别并及时发出警示；要扩大宣传广而告之新型AI诈骗的特点，提示风险，提供识别手段。另一方面，要从法律法规、产业自律和AI接口管理等多个层面入手，堵住AI技术背后的危害源头，切断AI诈骗的灰色产业链，使AI应用合理合法。今年4月份，国家网信办就《生成式人工智能服务管理办法（征求意见稿）》公开征求意见，其中第五条就对提供服务方有规定，要求利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人，承担该产品生成内容生产者的责任，履行个人信息保护义务。

面对AI诈骗，还要见招拆招，“魔高一尺道高一丈”。例如各行各业对身份认证的基础需求加快了人脸识别等AI技术的应用，给不法分子通过图片、3D打印等物理方式攻击突破人脸识别系统进行资金盗取诈骗提供可乘之机。针对人脸识别攻击，我们要在技术上进行多模态融合防护。多模态生物识别技术相较于单一生物特征，通过设计融合算法，综合人脸几何特征、声纹、虹膜等多种特征，弥补某些生物特征容易被伪造的弱点，提升识别精确度，可以形成对人脸识别攻击的技术防御。

在防止AI技术被滥用的同时，我们对AI这样新一代信息技术的应用不能因噎废食。ChatGPT等前沿AI技术对社会生产力的推动作用显而易见，面对新技术变革，我们除了积极拥抱，更要心怀敬畏，提升风控能力，令其为推动产业数字化转型、提升实体经济服务质效发挥更大的作用。