黑马入局！昆仑万维版ChatGPT「天工」通过自家程序员面试，首发就敢现场演示
梦晨 金磊 发自 凹非寺
量子位 | 公众号 QbitAI
什么样的AI，能通过自家公司的程序员面试？
刚刚出炉的国产大模型「天工」做到了，黑马，绝对是黑马。
其开发商昆仑万维的CEO方汉在与量子位合作的首发直播中透露：
对天工模拟过校招算法工程师的第一轮面试，可以很流畅地通过。
△天工回答算法题示例
如果你开始好奇天工是什么，不如请先它来一段自我介绍：
除了在编程语言上经受住面试级别的考验之外，在自然语言上天工还特别修炼过中文。
天工团队投入大量资源攻克了中文语料库的质量瓶颈,从数十万亿的数据中清洗、筛选出了3万亿个单词数据用于训练大模型。
开发团队认为，优质的中文语料库让「天工」作为国产AI,在“更懂中文”这件事上具备天然的优势，更符合本土用戶的使用偏好。
天工自己倒是对此挺谦虚的，看来不仅学会了中文，还学会了谦虚的传统美德。
那么天工的中文水平到底如何，在首发直播中就进行了现场实时演示，不是放录像，是当场把问题敲进去那种。
大模型作为新一代生产力工具，首先要考察的就是能不能在工作场景中帮到大家。
方汉表示天工在文本生成和文案撰写上的表现令他惊喜，并现场展示了三个场景。
首先是很多人都头疼的写周报，可以让天工直接搭一个框架出来，避免疏漏。
对于直接生成可用文本方面，选择的问题是写一个电商运营的招聘JD。
天工给出结果后，方汉评价“没有一到两年的HR工作经验是很难写这么完整的”。
接下来要考验的是天工的创意能力，毕竟新晋独角兽Jasper.ai就是靠AI创意营销起家，AI有了这方面能力商业化就有了保障。
直播中由于时间关系，只展示了编写二次元mmorpg游戏广告文案一个例子。
不过方汉补充道“由于每个人输入的条件和上下文不同，生成的结果也会千差万别，对广告文案工作非常有帮助。”
直播过程中，除了官方准备的问题，网友也在弹幕中提出各种刁钻问题。
比如脑筋急转弯问题，天工也没有被难住，表现出一定逻辑能力。
还有一些灵魂拷问，天工给出的回答也都符合道德和人类价值观。
更有意思的是，量子位CEO孟鸿在现场也向天工提出了一个尖锐的问题：
我是一个自媒体创作者，现在有个大公司请我评测他们的产品，但是这个产品客观上有亮点也有不足，我应该怎么做才能既不把自己的路走窄了，又坚守自己的节操？
从结果上来看，天工确实是做到了“既要又要”，是一个“三观比较正”的AI了。
天工，是如何炼成的？
在看过天工的能力之后，想必很多朋友们都会好奇，它到底是如何炼成的。
对此，昆仑万维也毫不掩饰地将背后的“秘笈”给亮了出来。
首先便是“大力出奇迹”的大模型，而且还是双千亿参数的那种：
千亿预训练基座模型
千亿RLHF模型
千亿预训练基座模型，是指至少有一个千亿参数的深度学习模型，可以游刃有余地应对语言生成、文本分类、机器翻译等自然语言处理任务。
千亿RLHF模型，是指基于“Reinforcement Learning with Human Feedback（RLHF）”强化学习方法的一种模型。
RLHF模型可以视为一种特殊的交互式机器学习框架，可以通过人类的反馈来优化模型的性能，由此可以更好地处理不确定性和稀疏性问题。
而在二者的“强强联手”之下，大模型的优势便凸显了出来。
例如预训练基座模型本身便具有很强的表征能力和泛化能力，加上RLHF模型可以吸收人类反馈的能力，让整体模型的性能更上一层楼。
不仅如此，在决策过程的可解释性、模型的鲁棒性和稳定性，以及处理更多的学习任务方面，这种方式的操作也起到了一定提高作用。
而除了模型层之外，在算法层方面，天工也有自己的独到之处。
众所周知，目前市面上许多类ChatGPT产品的背后，所采用的基本上都是Transformer架构的自然语言处理模型。
简单来说，它包括多层Transformer编码器和解码器，自注意力机制，预训练和微调等技术。
而天工团队首次在此基础之上，引入了蒙特卡洛搜索树算法，名震一时的AlphaGo背后便是结合了这一算法。
其一般分为选择、扩展、模拟和回溯四个过程，核心思想总结来说就是把资源放在更值得搜索的分枝上。
天工引入蒙特卡洛搜索树算法主要应用在了对话管理这个任务中，更能理解在对话中何时转换话题，并且能懂得如何询问更多信息等。
这也就是天工拥有超强记忆能力、能够支持1万字以上文本对话、20轮交互，而且过程可以非常自然的原因了。
但除了模型和算法之外，天工的“利刃”还不仅于此。
中国最大GPU集群加持
数据和算力，亦是这轮ChatGPT、大模型之战的关键所在。
在数据方面，天工所采用的策略是“开源的力量”——凝聚了百位开源社区AI科学家。
也正因如此，天工从数十万亿的数据中，最终清洗、筛选出了近3万亿单词的数据。
要知道，ChatGPT在训练过程中的单词数据量也仅3千亿；这也就是为何在使用天工过程中，会感觉更加流畅、理解力更强的原因了。
那么面对如此庞大的数据训练量，接踵而至的老大难问题，便是算力了。
对此，昆仑万维方汉在直播过程中非常自信地表示：
天工的算力是基于中国最大的GPU集群之一。
这也就是ChatGPT在支持十轮对话的时候，天工能够达到20多轮的原因所在了。
但若是纵览昆仑万维在技术上的布局，就不难发现，天工的诞生并非是一蹴而就的事情。
因为早在2020年昆仑万维便已然入局，累计投入了已达数亿元人民币、数百人参与研发。
并且在2022年发布AIGC全系列算法模型的同时，就开源了百亿级参数模型，积累了广泛的开发者好评与社区共创。
而至于为何选择在这个时间节点发布天工，方汉表示：
是综合考虑了技术水平和用户需求后做出的选择。
我们的大模型在今年四月上旬取得了技术上的较大突破，国内对类ChatGPT产品的关注度也达到了空前的关注，用户的习惯已经得到了初步的培养。
因此在这个时间节点推出，便可以很好地满足用户的现实需求。
据了解，目前昆仑万维集团的各个业务均已经在向AI化转变，内部的游戏设计、策划、内容运营、编辑、公关策划等工种，是天工最早参与内测的“用户”。
在未来，昆仑万维也有计划向B端用户开放API接口。
总而言之，有大数据、有大算力、有大模型，昆仑万维在国产ChatGPT之战上的前行道路，是值得期待一波了。
最后，很多小伙伴都关心如何抢先体验，目前官方已开始邀请测试，官网链接放在下边了（或者点击文末“阅读原文”）。
另外量子位还有一波读者福利：我们获得了5个邀请码，请大家留言跟自己想和「天工」互动的问题，4月21日18:00前点赞高的5个读者将获得，请大家留意私信。
天工官方地址：
https://tiangong.kunlun.com/
直播回放地址：
https://live.baidu.com/m/media/pclive/pchome/live.html?room_id=8207784475
— 完 —
《中国AIGC算力产业全景报告》征集启动
AIGC算力需求爆发，谁将在此次算力产业变革中脱颖而出？
量子位《中国AIGC算力产业全景报告》和《最值得关注的AIGC算力玩家》正式启动对外征集，期待有更多优秀的机构产品、案例与技术能够被大众看到。
点这里👇关注我，记得标星哦～
微信扫码关注该文公众号作者