工业大模型驱动的AInnoGC正加速落地，三大产品助力制造行业智能化。智东西9月4日报道，9月1日，国内“AI+制造”解决方案供应商创新奇智举办发布会，交出了自己的答卷。会上，创新奇智发布了“奇智孔明AInnoGC”工业大模型产品矩阵，围绕其自研的工业大模型AInno-15B发布了大模型服务引擎，以及三款生成式AI应用产品：工业机器人任务编排应用“奇智明达ChatRobot”、企业私域数据分析应用“奇智明数ChatBI”、企业私域知识问答应用“奇智明睿ChatDoc”。“奇智孔明AInnoGC”产品矩阵的核心——工业大模型AInno-15B，基于深度学习Transformer Decoder架构，结合蒸馏开源免费大模型和其自有的工业知识库训练得到，拥有150亿以上参数，拥有行业化、轻量化、多模态等特点，具备工业知识归纳生成、工业数据分析、自动化任务编排等能力。
▲创新奇智CTO张发恩介绍AInno-15B大模型
据其近日发布的2023年上半年财报显示，截至6月30日的6个月，创新奇智“AI+制造”业务板块收入达6.11亿元，同比增长81.3%。这离不开创新奇智在AI制造领域的长期深耕，也为其提供了工业领域垂类大模型研发和落地生产的基础。创新奇智CTO张发恩在会上称，目前有很多C端大模型获得了上线许可，但大模型的技术并不局限于C端应用。公司认为，在其专注的工业和制造业等企业服务中，客户对于企业智能化转型等也有很大的需求。而面向C端的通用大模型在面对企业服务领域的B端需求时，会面临数据安全、缺乏专业知识、双向访问及灵活部署等挑战。创新奇智的思路，则是聚焦工业，在开源大模型的基础上设计适合工业的垂类大模型参数结构，基于积累的工业信息进行增量训练。随后，为了更好地落地企业，公司以工业大模型为核心自研AIGC能力，并开发工业场景或企业服务中的应用，即ChatX系列产品。张发恩称，上半年公司AInnoGC 相关业务已在工厂物流、智造BI、智造实训等多个领域落地，为企业带来了更高效、智能化的生产方式，为行业的转型升级注入了新的活力。创新奇智工业大模型产品矩阵的行业价值正在逐步展现，为企业实现数字化转型提供了有力支撑。
会上，创新奇智依次发布了工业大模型AInno-15B、大模型服务引擎以及三个基于该模型和服务引擎的ChatX应用，并进行了现场演示。张发恩介绍道，公司曾报告AI技术从1.0的分析式阶段，到如今2.0的生成式阶段的演进。创新奇智现在的整体思路，是在坚持1.0和2.0同时进行的基础上持续不断地推进2.0的研发，形成AI技术双塔，为未来做储备。工业大模型AInno-15B是“站在巨人的肩膀上”，从Llama 2、Falcon、Bloom等开源大模型中蒸馏一部分知识，再结合自己设计的参数结构和积累的工业知识数据做训练。经过Pretrain、SFT和RLHF三个训练步骤，依次使模型获得更懂工业、支持问答交互和答案更标准的能力。在能力评估方面，AInno-15B在中国信通院的发布的《大规模预训练模型技术应用评估方法：模型和应用》标准符合性验证中，39项能力测试中的31项获得了5分满分。张发恩称，大模型是能力的源泉，而要把它的能力发挥出来，还需要中间层，也就是工具链，来将大模型和应用层连接起来。AInnoGC大模型服务引擎作为面向企业的生产和应用管线，具有指令数据、模型精调、模型服务、提示工程等功能。技术方面，该引擎支持并行计算、私有化部署，可用性较高。
▲张发恩介绍大模型服务引擎
应用层的ChatX系列产品包括ChatDoc、ChatBI和ChatRobot，分别专注于知识问答、数据分析以及工业机器人任务编排，均基于最底层的AInno-15B大模型和中间层服务引擎构建。1、企业私域知识问答应用“奇智明睿ChatDoc”ChatDoc类似于工业领域专属的ChatGPT，能够回答工业领域垂类问题，或是在搭载私域数据库后回答企业私域的问题。据介绍，ChatDoc基于私域数据库部署，支持用户外挂新的数据库，通过信息的存储和检索，归纳并生成回复，它具备三个特点：智能总结、答案溯源、简单易用。创新奇智技术副总裁郭江亮演示了如何通过4个步骤，利用ChatDoc打造企业专属大模型。当询问“创新奇智实训平台的优势有哪些”时，它会基于AInno-15B给出答案，具备行业知识，但是不够专业和准确。
▲外挂数据集前，ChatDoc提供的回答
为了打造具有实训知识的专属大模型，首先第一步是上传一份关于智造实训的数据。平台提供了本地上传、链接导入和数据抽样三种方式。
▲上传数据集，打造企业专属大模型
上传数据后，第二步平台会基于AInno-15B和新上传的数据库启动再训练，经过预训练、培训、精调、强化学习等步骤，生产出智能实训专属大模型。第四步，基于已经部署的服务和预置应用模板，这里选择的是知识库机器人模板，构建出新的智能实训专家ChatDoc应用。此时再询问它同样的问题，得到的答案和刚才相比，已经具备了智能实训相关领域的知识，更加准确、具体。
▲外挂数据集后，ChatDoc提供的回答
此外，ChatDoc也提供了API接口，只需要在目标场景中加入一行SDK代码，便可以集成ChatDoc应用。
▲用户可通过一行代码集成ChatDoc
集成后的应用也支持外挂新数据，用户不需要回到ChatDoc原始页面，只需在集成后的应用中上传文档，就能方便地实现数据更新。上传AGV机器人维护手册的文档后，询问“AGV常规保养有哪些内容”，就得到了基于新上传的文档总结生成的答案。ChatBI专注于企业私域数据分析。对于大量的结构化数据，传统的静态报表难以满足企业高度动态的需求，如何快速理解一些临时性需求的意图，并从大量的数据中提取出有效信息，是该应用研发的背景。据介绍，ChatBI具备三个特点，包括自然语言对话式交互、SQL语句准确生成以及自动数据分析和展现。技术方面，通过词表优化、位置编码、提示工程、强化学习、意图识别等方面的提升，在公开数据集Spider、Chase-C等上的测试表明，其SQL语句生成能力优于GPT-3.5。创新奇智高级技术总监温哲立对ChatBI进行了现场演示。首先，提出“查看8月份整体生产情况”的需求，数秒后，ChatBI会给出一份数据报表、一张饼图、相应的SQL语句以及运行结果。
▲ChatBI可帮助总结生产情况
随后，追问“各产品的计划达成情况”，ChatBI会根据上下文的语境，同步将计划数量和实际生产数量做一个对比，给出一个差分图，让用户可以更直观地看到计划产量和实际产量的差别。接着，输入第三个问题“查看SUV每天的产量情况”，ChatBI给出一个折线图，将SUV每天的产量计划和实际产量做对比，用户可以直观地看出在什么时段，其产能出现下滑的情况。最后，提出“分析一下这几天产量不达标的原因”，ChatBI会根据汽车行业的知识以及AInno-15B思维链的功能，推理出SUV产量不达标的原因可能有生产供应、生产线故障或员工出勤这几个方面的原因。基于这三个方面，它会自动去数据库中查询相关数据，并对查询出的结果从每个方面进行逐个分析，最后总结原因，并给出相应的意见和建议。这里它分析，2023年8月SUV产量不达标主要是轮胎的供应短缺导致的，产线故障和员工缺勤属于次要的原因，同时给出加强和轮胎供应商沟通的建议。
▲ChatBI在分析员工出勤的情况
3、工业机器人任务编排应用“奇智明达ChatRobot”ChatRobot则聚焦在工业制造业上，可以理解人的意图，针对工业机器人进行任务编排。据介绍，ChatRobot具备三个特点：自然语言对话式交互、复杂意图理解以及大模型任务编排。它可以自动将包含多个环节的复杂指令拆解为机器人可执行的具体步骤，将模糊的指令具象化，再去驱动整个机械装置执行一条条指令，实现机器人执行效率的提升。张发恩称，现在建设一条生产线，要花费一两年的时间和几十或几百亿元的成本，但未来，设备联调、试产、陪产等工作可以逐步智能化、自动化，由大模型驱动，大大降低时间和金钱成本。随后，张发恩对ChatRobot进行了现场演示。首先，提出“取一瓶咖啡”的需求，系统自动生成了对该任务设计的步骤规划。
▲ChatRobot根据“取一瓶咖啡”的指令，分解出的执行步骤
规划完成后，ChatRobot便驱动AGV小车开始依次执行分解任务。现场布置了两个货架，ChatRobot首先驱动小车抵达第一个货架进行检索。
▲ChatRobot驱动AGV小车在第一个货架前检索
检索无果后，ChatRobot又驱动小车前往第二个货架。检测到目标后，驱动机械臂取下咖啡，并驱动小车前往用户所在地点，调整机械臂的姿态将咖啡递出。
▲ChatRobot检索到咖啡，驱动机械臂取下
任务完成后，ChatRobot会询问是否还需要其他帮助，得到“不用了，谢谢”的回答后，它推测出用户的意图是“让AGV小车返回原始位置”，随后再次进行任务规划，并驱动小车返回。
▲ChatRobot驱动机械臂将咖啡交给发令人
早在今年3月，创新奇智就已对外透露开始利用大模型服务工业企业。5月，在中关村智能制造创新发展论坛上，信通院等联合发布了《工业数字化/智能化2023白皮书》，提出“打造工业智能体”的趋势。白皮书中提到，工业智能体包含4个主要元素，工业装备、工业网络、工业软件和工业数据。张发恩称，创新奇智的AInno-15B工业大模型和ChatX系列生成式AI产品可以在这4元素中都做到赋能企业。
▲张发恩介绍工业企业智能化转型的新需求
从落地的角度来看，创新奇智认为通用大模型在企业服务领域面临着数据安全、缺乏专业知识、双向访问及灵活部署等4个方面的挑战。
▲通用大模型在企业服务领域面临4个方面的挑战
首先，传统工业特别是制造业，各个公司的“人机料法环”，即制造产品的人员、设备、原材料、所使用的方法以及所处的环境等信息有很大的保密需求，需要私有化部署。今年3月，三星员工拿机密工艺数据去询问ChatGPT，就造成了商业机密泄露的事件发生。因此，通用大模型以云端部署的服务在B端是具有一定缺陷的。其次，通用大模型更多的是通用知识，缺乏资深的工业领域知识。在这个方面，创新奇智长期深耕工业领域，有场景、行业上的背景优势。张发恩谈道，不以行业和场景为目标的应用，是难以在垂直领域落地的。比如像生产率、良品率、瑕疵率、过检率这些指标，在不同的行业、不同的企业中的标准并不一致，所以在工业领域大模型的基础上，支持用户外挂自己的数据库等私有化部署也尤为重要。此外，通用大模型，尤其是国外的产品，还面临着双向访问的问题，如ChatGPT不向中国开发服务。最后，工业企业对大模型的部署有灵活性上的要求，需要根据客户的算力情况对窗口上下文长度等进行动态的调整。在数据和参数量方面，市面上常见的是7B、13B、34B等规模的大模型，15B的参数量是其在迭代过程中得到的最合适的规模。张发恩援引ChatGPT首席科学家Angel的一次演讲，称“大模型很重要，但大模型也不能唯参数论”，不能仅靠一个模型的参数来判断它的能力。
▲创新奇智针对工业企业转型需求和通用大模型局限性的应对思路
创新奇智在去年报告了从AI1.0到2.0的演进，从决策、识别、感知等进化到智能化水平更高的分析、生成能力。除了直接赋能企业之外，为了帮助企业新入职员工快速上手、掌握AI相关的技能，创新奇智的智能制造实训中心也是加速AInnoGC落地的一大组成部分。据重庆职业技术公共实训中心智能制造项目负责人杨杰介绍，目前整个实训中心已经启用搭载了奇智孔明AIGC产品的教学平台，在教师端和学生端都有多方面的应用。据称，此前其教师备课需要3-5天时间，现在借助奇智孔明教学平台，搜集资料等耗费的时间大幅缩减，只需1-2天就可以整理出一份合格的课程资料；在学生端，学生可以借助这个学习助手快速总结文章的重点、主题等。杨杰认为，未来实训中心的关键是要通过实训领域的知识库生成属于我们自己需要的ChatDoc应用。另外，她看好以ChatRobot为代表的智能机器人在实训中心的应用，“实训中心目前也入驻了很多服务型的机器人， 看了ChatRobot的演示，希望未来有更多更加聪明的、能够理解我们意图的智能机器人入驻实训中心，给我们产生更多更加高质量的人机互动。”
▲发布会后的圆桌论坛上，杨杰等人介绍实训基地和工业软件的落地情况
实训基地项目，也融入了很多面向工业机器人的培训课程和相关实训设备。发那科机器人公司的公共教育负责人何炯称，发展AI时代的智能型机器人，关键在于一个能力足够强大的AI大脑，让机器人能够理解人类的语言、思维和意图。这能够改变目前企业中人和机器设备比较程式化的交互方式，进一步提升工业生产中的自动化水平。在智能实训场景之外，大模型落地的另一场景是工业软件。据创新奇智CPO李凡介绍，公司旗下的子公司奥利普奇智主要聚焦于智造运营管理系统MOM，其中包括了一系列的工业软件的组合，如智造执行、质量管理、设备管理、能源管理等，目前已在食品饮料和新材料等行业实现了较好的落地。李凡认为，创新奇智在工业软件落地方面有两大优势。其一，具备客户基础和市场基础，在客户对其产品体系接受度高的前提下，嵌入新的“奇智孔明”系列产品矩阵。其二，由于对客户的整体数据结构非常了解，因此在自研软件的过程中，能够更好地针对客户去私有化定制。ChatBI目前已经集成到其面向制造业的解决方案AMI中，在部分客户侧完成了落地。“AI+制造”增收81.3%
“双塔”布局助力业务扩张
8月31日，创新奇智公布了2023年中期业绩报告，截至6月30日的6个月，该公司营收达9.24亿元，同比增长43.1%；“AI+制造”业务板块收入达6.11亿元，同比增长81.3%，营收占比提升至66.1%。自2018年成立开始，创新奇智就专注于AI赋能实体经济，尤其是工业数字化转型及制造业高质量发展，在钢铁冶金、面板半导体、3C高科技、工程建筑、汽车装备、能源电力、食品饮料和新材料、智造实训等细分领域持续进行“1*N”场景复制和“1+N”场景扩张，推动制造业收入连续增长。除了此次发布的基于生成式AI的“AInnoGC工业大模型技术平台”外，创新奇智还拥有基于决策式AI的“MMOC人工智能技术平台”，二者共同组成其技术双塔布局，实现从AI1.0到AI2.0时代的技术跃迁，为客户提供从感知到分析到决策生成的完整AI技术能力。
▲张发恩介绍创新奇智的AI技术双塔布局
2023年上半年，创新奇智在持续强化MMOC人工智能技术平台的基础上，以工业大模型为核心持续丰富AI产品与解决方案。在落地层面，以数据智能场景为例，ChatBI作为一款基于大模型技术构建的智能产品，在AI2.0时代进一步向各行业领域延伸。在生产线分析、数据抽取等不同的业务场景，ChatBI通过优化分析流程，降低分析门槛，不断提升数据分析的效率。在工业机器人场景，ChatRobot通过将用户输入的自然语言指令拆解为机器人可以理解的任务，并将任务翻译为机器人可以执行的指令，实现从人类的自然语言到机器语言之间的转化，为工业领域的智能化和自动化提供强有力的支撑。在复杂的工业生产场景中，ChatRobot可以精准响应各种指令需求，通过先进的视觉算法和大模型技术，实现工业机器人的智能控制和自主操作。在文档信息处理场景，ChatDoc能够敏捷地从海量文档中筛选、定位并精准概括信息，迅速给出确切回答。ChatDoc在2023年上半年取得了显著的成长，大模型的先进技术优化了文档检索和信息提取的流程。无论是通过关键词还是具体问题，用户都能便捷地从庞杂的文档库中找到所需信息，极大地提高了工作效率。财报显示，创新奇智上半年的研发成本为2.23亿元，同比增加2.4%，主要来源于业务扩张所带来的整体研发投入增长。未来，创新奇智将在生成式模型领域持续研发投入，进一步推进AIGC技术产品落地，助力制造业企业数字化、智能化升级。财报称，面向ChatBI产品，将通过预训练技术不断迭代，同时优化模型吞吐量以支持生产级数据库，实现对数据安全有需求的客户进行私有化部署；面向ChatDoc产品，将持续优化模型知识理解能力、支撑客户对文档问答的复杂推理能力；面向ChatRobot产品，为了实现更高程度的产线自动化，将持续研究大模型在异构智能体的调度协作能力。随着大模型及相关技术不断迭代成熟，向AGI的方向靠近，用户和市场对于大模型的接受度会越来越高。制造业智能化、自动化是提升竞争力的必由之路，而拥有全栈生成式AI技术的创新奇智在这一过程中也具有足够的优势。
近日，文心一言等C端大模型通过备案全面开放引发关注，但传统制造业等对智能化转型的需求也不容忽视。创新奇智在AI1.0的基础上拥抱变革，深挖企业私有化部署等痛点，注重保护商业机密、提升产品可用性，推出一系列工业大模型驱动的产品矩阵，以其专业知识和场景优势应对行业挑战，为制造行业提供了丰富的生成式AI解决方案。在赋能企业的同时，创新奇智也注重人才的发展，通过智能实训中心对教学手段、教学成果进行赋能，让学员在不同的工业场景中得到AI实训，在未来进入各自产业领域中时，有更大的科技能量注入。未来，制造业在生成式AI的驱动下将更多地智能化、数字化，产生更多的创新场景。产品迭代和市场需求将共同推进技术的发展，迸发出强大的生命力。
（本文系网易新闻•网易号特色内容激励计划签约账号【智东西】原创内容，未经账号授权，禁止随意转载。）
9月14-15日，大模型与AIGC时代首场AI芯片峰会——2023全球AI芯片峰会（GACS 2023）将在深圳湾万丽酒店举行。目前，清华大学教授、中国半导体行业协会副理事长魏少军领衔45+位嘉宾将带来主题演讲和讨论。其中，峰会主会场将进行开幕式、AI芯片架构创新专场、AI大算力芯片专场和高能效AI芯片专场；分会场将进行深圳集成电路政策交流会（邀请制）、AI芯片分析师论坛（付费制）和智算中心算力与网络高峰论坛。在主会场和分会场外，同期也开设有小型展区。
