安全大模型层出不穷，网安行业也忍不住了

科技

2023-10-17 12:10

安全 GPT 什么时候能迎来它的“惊艳时刻”？

作者丨李扬霞

编辑丨陈彩娴

卷渠道、卷客户、卷项目、卷技术，网络安全行业的“卷”已经不是什么秘密了。

有人说网络安全行业是IT行业最后的朝阳产业；也有人说安全行业市场盘子就这么大，谁都想分一块蛋糕，还有新的厂商加入进来，已经快卷死了。

安全项目的无限内卷和低价就体现了内卷暗黑的一面。一位做众测的业内人士曾告诉AI科技评论，有的大客户，会拉来好几家安全公司一起竞争，大家打的头破血流，最后还是价低者得，但服务质量却不敢苟同。

另一方面，我们也看到安全各种新概念、新理论、新场景不断被提出，新产品、新方案、新应用也不断被实践，但最后结果就是产品同质化严重，都没有激起足以让行业眼前一亮的水花。

随着今年GhatGPT的爆火，大家认为所有行业都值得用GPT重塑一遍。那么安全行业也值得用GPT重塑一遍吗？GPT之于安全到底能干什么？这又对行业带来什么影响？会不会对安全产业造成颠覆性的影响？

安全行业已经沉寂很长一段时间，安全GPT是否是激起安全行业水花的那一块石头？

为什么安全行业亟需要

抓住GPT这个“救星”

前段时间，一则思科（CSCO）宣布收购网络安全软件公司Splunk的新闻刷屏安全圈，总价约280亿美元（2047亿元人民币），这是思科公司有史以来最大一笔收购，同时也是IT行业2023年规模最大的收购案。

而对于Splunk，只做了一个产品的公司，就能收获这么高的价值，这是国内安全行业无论如何都不敢想象的。

为什么这则消息让国内一众安全厂商都为之一振。我们可以从中国网络安全产业营业额看到一些端倪，目前整个网络安全市场的营业额也不超过千亿。另外，从A股各大上市安全公司来看，整个市值加起来不到2000亿人民币，而亏损更成了共性问题。

根据数说安全CSRadar平台估算，近五年网络安全项目量持续增长，但增速逐年下降。

安全行业亟需来一剂强心针。

当GhatGPT以迅雷不及掩耳之势冲到大众眼前的时候，多位业内人士都表示受到了很大冲击。

那么问题来了，安全行业也值得用GPT来重塑一遍吗？

有一部分人认为，安全GPT只是追热点没有意义，还是换汤不换药，没有新技术。而另一部分人则认为这是足以颠覆行业的技术。

AI科技评论拜访了安恒信息高级副总裁兼研究院院长王欣以及奇安信集团副总裁 Q-GPT安全机器人负责人张卓、360数字安全集团安全GPT产品负责人杨玉奇，他们几乎一致地认为GPT是一项影响世界、影响行业的新技术，但同时也提出了他们的担忧。

王欣认为大模型是会改变安全行业未来的格局的，他认为如果一些安全厂商只是拿安全GPT蹭个热点投点广告费将是没有任何意义的，因为最终将回归到价值本质。那些只认为安全GPT是一个蹭热点的机会的企业，核心是是否真正领悟到大模型技术将给行业带来的革命性的变化。

王欣对AI科技评论表示，现在安恒信息在实践大模型的同时，更重点关注并实践以大模型为核心的Ai Agents（AI智能体）。我们认为智能体将实现更加贴合安全行业的人机协同，一方面大模型有更良好自然语言的交互能力、泛化能力、推理能力，但在一定程度上如幻觉等问题也是客观存在的，另外一方面在安全工作中，除了善思考，还需要通过“手”、“脚”处理具体的工作任务。而以大模型为核心的 AI Agents（AI智能体），包含了规划的能力、记忆的能力以及使用工具的能力，可以很好地解决大模型当前存在的一些客观问题，同时也更符合安全工作的业务需求场景。

奇安信集团副总裁、Q-GPT安全机器人负责人张卓也认为，安全大模型要形成改变行业的生产力，就不能仅仅停留在类ChatGPT的问答对话框形式，而应该是一个聪明的机器人，即“虚拟安全专家”，成为真正的工业级大模型。

张卓对AI科技评论表示，大模型的第一个层级叫做对话式交流式的层级，这种方式是通过问答方式来把我们的知识进行传播、分享、联系和生成的；第二级是工业级，能够在具体业务领域、行业领域我们能够自动的去执行和完成特定的和领域相关的任务。目前奇安信推出了Q-GPT安全机器人，就是帮助安全专家执行复杂任务，能全天候地工作。未来第三级是全面级，比如说生成下一代的天眼、下一代的天擎等等，目前第三级距离我们还有一些距离。

同时他也担心开放式的安全大模型，可能存在重要安全数据泄露的问题。

数据显示，在使用ChatGPT的员工中大多数会泄露数据，其中11%的数据为企业敏感数据。数据是企业的核心资产，给GPT等大模型投喂数据，泄露只是风险之一。

360数字安全集团安全GPT产品负责人杨玉奇表示，安全行业肯定值得用GPT重塑一遍，现在GPT给我带来的感受已经从当时的震撼回归到理性了，这是一个新的范式，能做到以前做不到的事情，根据这些能力本身我们就应该尝试重塑各行各业。但是这里面唯一的风险就是，未来能走多远取决于大模型到底有多大能力。目前大模型整体表现出的能力还没有达到“惊艳”的程度。

虽然关于大模型的担忧和关注，都是不可忽视的。但是随着这场关于大模型的“竞赛”愈演愈烈，越来越多的行业开始部署GPT大模型。而垂直领域（行业）人工智能也将迎来大发展，比如医疗、教育、投资、警务、安全等等。

大模型已经走向了千行百业，安全行业也必须抓住这次新技术的机遇，从而提振行业。

用好AI技术，能颠覆安全产业吗？

谈论如何用好AI技术之前，我们不妨讨论一下，网络安全能用大模型做什么？

大模型最大的优势在于自然语言的处理能力上，在网络安全领域，AI大模型可以在增强网络安全分析、检测、策略制定等方面极大的提升智能化的能力。

比如：通过AI大模型不仅可以分析海量非结构化文本，发现网络安全威胁的迹象；还可通过机器学习快速发现未知的网络攻击模式并建立检测模型；同时可以借助强化学习进行的红蓝对抗找出安全漏洞；通过上下文关联进行更有效的网络安全决策、风险评估、资源分配和制定安全策略；自然语言交互方式，可以降低对运营人员的专业要求，提高运营效率，帮助企业实现降本增效等。

据AI科技评论了解，目前微软、360、深信服、安恒信息、启明星辰、绿盟、奇安信、长亭科技、美亚柏科等都已经发布了自己的安全大模型。但各家安全大模型的侧重点都有所不同。

举例来说，安恒恒脑·安全垂域大模型通过增量预训练、微调等多种方式让大模型掌握各安全领域内生知识，利用大模型调度小模型、知识图谱、安全能力插件实现安全运营专家、安全渗透专家、安全培训导师等安全角色。在安恒信息研究院院长王欣看来，因为人工智能是一个拟人化学科，所以对它（安全大模型）赋予的意义也偏向于人。目前，该平台以智能辅助形式已运用于刚刚结束的成都大运会及杭州亚运会，安全运营成效提升70%以上。

而360则是依托安全大模型打造了一套智能中枢系统，同时给智能中枢系统配备了“手眼”和“工具”，手和眼主要是指API接口，分别负责操控工具和反馈结果，工具主要是指各类安全产品和系统。通过自然语言指挥各类安全产品和系统完成运营任务。目前，依托360安全大模型的智能中枢系统通过扮演“安全问答专家”和“安全运营专家”两大角色来辅助企业安全运营。

奇安信认为，作为垂直领域的大模型，安全大模型不能依托于公开的通用型数据，而是需要依托强大的安全专家团队，海量非公开的安全领域知识、专业经验，包括安全日志、文档、知识库、情报类数据，以及丰富的实战攻防和重保经验等，再结合大模型持续训练，才能深入对应安全的应用场景中，发挥出强大的智能分析和高效的自动研判能力，辅助甚至替代专家完成智能研判、智能溯源、智能处置等工作，从而提升安全运营效率。

在安全大模型训练的路线选择上，有的厂商选择微调，而另一部分选择做预训练。王欣表示：“安全行业的大模型不一定要从0开始训练，但需要通过“精”和“专”的安全领域知识数据进行增量预训练。一些企业仅通过微调来打造“安全大模型”，虽然投入的成本很低，但是无法达成很好的效果。”

杨玉奇认为走的快的不一定就走的远，如果开始的太早，没有选择对路线，那么也会面临时间和算力全都浪费掉的风险，有时候做微调可能更符合现实场景。

那么到底怎么样才算是用好AI技术呢？在杨玉奇看来，大模型有三点长处：第一点是语言理解做的很好，改变了交互方式，但是这个东西并不足以改变世界；第二点是处理形式化的语言，所有的编程语言都是形式化语言，所以在辅助人分析程序的能力方面表现很不错，比如研判安全告警里面的脚本语言；第三点是思维链，这是大模型“涌现”的典型例子，就是“似乎”真的可以像人一样思考了，例如大模型可以自己拆解任务，有逻辑关系的思考步骤，形成一整个思考过程。

杨玉奇表示在安全领域，AI未来两三年可以实现以下三个方面：第一，替人分析告警，很快就可以分析出来和人相同结论的告警、能溯源出同样结论的溯源结果。第二，发现人都发现不了的未知的攻击。第三，做到全自动化值守，就像人一样将告警拆解成单个任务，并调用不同的工具去获取结果，同时根据结果去做处置。

虽然GPT技术在安全领域的应用已经取得了一定的成果，但也存在一定的局限性，就像杨玉奇所说还没有达到“惊艳时刻”，这中间还是有一个过程的。

例如，GPT模型可能会受到对抗性攻击的影响。攻击者可以通过生成具有误导性的文本，来欺骗GPT模型，从而影响其判断。还有，GPT模型在处理敏感信息时，可能会泄露用户的隐私。或者在处理复杂安全问题时，可能无法达到人类专家的水平。此外，GPT技术在处理大量数据时，可能会遇到计算资源和时间的限制。

网络安全行业是一个涉及到众多方面的复杂领域。除了安全技术之外，还包括政策、管理、人员等多个方面。因此，GPT虽然可以在某些技术应用上发挥作用，但无法替代安全领域中许多其他领域的专业知识和技能。

因此，尽管GPT技术在安全领域具有一定的应用价值，但要完全颠覆安全行业仍需时日，GPT技术在安全领域的应用仍需进一步优化和完善。

从卷渠道、卷客户、卷项目、卷技术到如今的卷安全大模型，AI科技评论认为真正的卷应该是正向的意识形态，意味着无论自身还是同行都能越卷越向上，如果“内卷”就相当于“烧钱”、“推出越来越同质化的产品“以及”无用的精益求精”，那么这些内卷，只会让行业进入“停滞不前的漩涡”。

关注网络安全领域、大模型、AIGC等领域的读者，可联系何思思：微信ericahss1224

更多内容，点击下方关注：

未经「AI科技评论」授权，严禁以任何方式在网页、论坛、社区进行转载！

公众号转载请先在「AI科技评论」后台留言取得授权，转载时需标注来源并插入本公众号名片。

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章

安全大模型层出不穷，网安行业也忍不住了

未经「AI科技评论」授权，严禁以任何方式在网页、论坛、社区进行转载！公众号转载请先在「AI科技评论」后台留言取得授权，转载时需标注来源并插入本公众号名片。

未经「AI科技评论」授权，严禁以任何方式在网页、论坛、社区进行转载！

公众号转载请先在「AI科技评论」后台留言取得授权，转载时需标注来源并插入本公众号名片。