除了行业的发展趋势,田奇也谈到了盘古大模型的进展和趋势。田奇称,华为盘古大模型正在推动人工智能开发从“作坊式”到“工业化”升级。据介绍,2019-2021年,华为开始了盘古大模型的立项研发,并在2021年4月份开发出了盘古基础大模型,随后又陆续发布了多个盘古行业大模型系列。譬如,2021年9月份,开发了盘古药物分子大模型;2022年6月,盘古矿山大模型;2022年11月份,盘古气象、海浪、金融OCR等领域大模型发布。“大模型是AI产业快速发展的必然选择,行业正在从‘大炼模型’转向‘炼大模式’。”田奇称,传统AI时代,不同场景对应不同小模型,一个场景一个模型,模型参数小,泛化性差。大模型时代,大模型吸取海量知识,适配多业场景,多个场景一个模型,模型参数大,泛化性强。譬如,GPT-2,参数为15亿,到了GPT-3,参数为1750亿。盘古大模式,参数达到了千亿级。Switch Transformer,参数已达到了16000亿。多参数,可以掌握海量知识背后的逻辑,有极高泛化能力;同时,还可以降低研发成本,自监督学习,减少标注数据,解决人工标注成本高,周期长,准确度不高问题。据介绍,华为盘古大模型,具有优秀的泛化能力,可以充分挖掘数据内的联系,达到更高的泛化性能;高效样本筛选能力,可以海量无标注样本筛选,节省80%以上人力标注代价;小样本/零样本能力,自动化数据增强,数据挖掘算法,实现零训练样本下缺陷样本识别,较传统方法发现率提升2-3倍;低门槛AI开发,提供自动化工作流,自动数据处理,自动化调参,自动化生成模型,减少对AI开发工程师专业依赖。“AI for Industries(工业人工智能)是人工智能新的爆点,盘古行业大模型正在加速落地,赋能千行百业智能升级。”田奇称。