容联云发布赤兔大模型,一次由内而外的自我重塑|甲子光年
用大模型把产品重做一遍。
作者|刘杨楠
编辑|栗子
就在上周,行业大模型队伍再添一员。
7月8日,在2023世界人工智能大会上,容联云举办了以“数智进化、越级向上”为主题的“生成式营销服务与大模型”论坛。
论坛现场,容联云正式发布面向企业应用的垂直行业多层次大语言模型“赤兔大模型”,并发布容联云“生成式智能营销服一体化工作空间——机器猫”和“生成式一体化智能客服平台”,推动企业营销和服务数智化转型。
作为云通讯领域的老兵,容联云很早就开始探索智能化道路:2017年,容联云发布了语音+文本机器人,此后也持续在人工智能技术上进行产品和解决方案的产业落地探索;2021年,容联云收购客户关系管理软件服务商过河兵科技和数据智能服务商诸葛智能。
此后,容联云形成“通讯+数据+智能”的技术底座。“通讯建立沟通的物理通路,触达客户,各种各样的数据在通讯过程中传递,我们可以基于这些数据来训练模型,进行智能化探索,从而形成内部的技术闭环。”容联云AI研究院院长刘杰解释道。
然而,由于技术不成熟,基于传统NLP技术的人工智能沟通技巧十分拙劣,常被用户调侃为“人工智障”。而大模型的出现,让人工智能和人类的交互过程真正有了“灵光乍现”的瞬间,智能客服、智能营销等领域也迎来了全新的时代。
「甲子光年」与一众媒体共同采访了容联云COO熊谢刚与容联云AI研究院院长刘杰,试图拆解赤兔大模型的专业性与商业化落地能力,并交流了容联云对国内大模型市场的思考。
1.赤兔大模型:“更懂行”的大模型
ChatGPT发布前,容联云就在尝试探索AIGC技术。ChatGPT发布后,容联云内部便按下了AIGC的加速键。
容联云联合原有的存量客户共同尝试用ChatGPT回答各个场景的问题。他们惊讶地发现,GPT大模型几乎能替代传统客服40%的工作量。长远来看,大模型将赋予智能客服行业全新的生命力。
早年间,基于传统NLP技术的智能客服常因沟通能力不足被人调侃为“人工智障”。“技术挑战通常来自于认知层面。”刘杰表示。
刘杰认为,传统AI能力在会话洞察上会面临很多问题。“传统模型由于模型规模和技术的约束,会面临知识缺失、语义偏差等问题,进而导致我们在人工数据上投入很多运营成本,从而加大了我们的投入成本和开发周期。”刘杰表示。
针对上述问题,通用大模型表现出超过传统模型的处理能力。但刘杰清晰地意识到,通用的AI大模型并不能解决所有问题。
他表示,AI大模型有很多能力,但是并没有覆盖所有能力。尤其在企业的具体场景中,有一些特定的应用能力需求,能否将模型能力进行场景化、应用化适配,是通用大模型走向实际应用落地的重要挑战。例如,在内容可控性方面,企业服务场景大多要求内容严肃、严谨,对内容合规和信息准确性有很高要求,而大模型是基于大量知识开放式生成内容,如何让二者需求匹配便是很大的挑战。
此外,部署通用大模型需要投入大量成本,“我们能不能让大模型在to B场景下实现规模化、合理化、务实化地落地也是非常重要的挑战”。
针对上述问题,容联云招兵买马,将技术团队注入新鲜血液,用半年时间推出了“赤兔大模型”。
容联云将大模型命名为“赤兔”颇有深意。“首先,赤兔是一匹马,古人骑马送信,使马肩负了传递信息,促进沟通的重要职能;其次,赤兔是一匹很强的马,符合容联云对大模型的定位和预期;第三,赤兔是懂业务的马,是垂直领域、面向战场作战的战马,服务了很多领域的‘头部客户’,如吕布、关羽。”刘杰解释道。
赤兔大模型采用多层次设计思路——首先构建通用模型,通过开源和公开数据获得通用知识和基础能力;其次收集高质量的领域数据构建领域模型,以解决特定领域的问题;在业务逻辑和流程上提供智能化服务时,基于业务数据和知识构建高质量的业务模型。
据刘杰介绍,不同层次的模型会配置不同的参数规模,在实际落地场景中,更多是用十亿级参数规模的模型来完成服务。
赤兔大模型有四大核心能力——懂交流、会分析、有知识、能执行。
懂交流:在沟通智能2.0的目标下,赤兔大模型能够进行多维度、细粒度的理解和分析,更动态化地理解客户同时做更好的内容生成和生产。 会分析:赤兔大模型能够在客服、营销场景下对问题进行更高维度的分析、处理,做更深层次的知识辅助。 有知识:除模型预训练阶段纳入的通用知识外,模型外部还有很多动态化、业务化的知识,赤兔大模型则能灵活运用外部知识做一些深度的分析和决策。 能执行:传统AI主要通过应答、对话提供信息反馈,赤兔大模型则能借助外部系统的调用,执行特定动作,自主决定需要调用哪些能力,执行哪些动作,从而相对自动地完成任务。
据刘杰介绍,沟通智能已经进入2.0时代,在赤兔大模型加持下,沟通智能2.0将在AI基础能力、会话分析洞察、对话能力、人机协同四个方面有大幅提升。
AI基础能力方面,智能客服依赖的上下文意图、情感识别、实体识别、信息抽取、相似问生成等能力均可通过AI大模型替换或做能力补充; 会话分析洞察方面,AI大模型可对沟通记录进行质检标记、主动分析座席工作行为,自动生成最佳实践SOP,极大挖掘呼叫中心大量会话信息的潜在价值; 对话能力方面,基于赤兔大模型丰富的参数和强大的内容生成能力,能够支持智能客服实现更加个性化的问答回复; 人机协同方面,企业可以利用大模型做AI助手的工程化设计,从坐席话务前中后不同环节辅助陪伴坐席更好、更高效的完成业务。
2.以业务应用为主导
用大模型把产品重做一遍
3.专注金融,把金融行业做深,做透
END.
微信扫码关注该文公众号作者