东北大学发布TechGPT2.0大语言模型

随着大模型时代的到来，大模型与知识图谱融合的工作日益成为当前研究的热点。为了对这项工作提供研究基础，东北大学知识图谱研究组于2023年6月发布了TechGPT-1.0大模型。

在TechGPT-1.0基础上，经过几个月的努力，东北大学知识图谱研究组发布功能更全、性能更好的TechGPT-2.0大模型。TechGPT-2.0延续了TechGPT-1.0以“知识图谱构建”与“智能问答”为核心的构建目标，在继承TechGPT-1.0全部功能的基础上，对其多项功能进行了增强，同时扩充了新的功能。

Introduction

TechGPT-2.0 在继承了TechGPT-1.0 的能力上进行了重要的改进，具有以下几项新增亮点功能：

一、TechGPT-2.0 对医学领域文本的处理能力取得了显著提升。TechGPT-2.0在处理医学文本时能够更全面地理解上下文信息，能够对疾病、药物、专业术语等实体的进行更准确识别，还能够理解医学文本中的复杂关系、疾病诊断、治疗方案等内容。这种全面的医学分析能力使得模型可以用于协助医生阅读医学文献、提供患者诊断建议等应用场景，从而提高医学领域的信息处理效率和准确性。

二、TechGPT-2.0 能够更好地理解和解释法律文本，包括法规、合同和案例法等。TechGPT-2.0通过学习法律用语和结构，能够更准确地捕捉文本中的法律关系和条款，为用户提供更有深度和专业性的法律分析。这使得TechGPT-2.0模型在法律领域中的应用前景更为广泛，可以用于解决自动化合同审查、法规遵循检查等任务。

三、TechGPT-2.0 增强了对嵌套实体的抽取能力。即TechGPT-2.0可以更灵活地处理实体之间的复杂关系，深入挖掘文本中的层次结构，提高了对复杂文本的理解和生成能力。例如，在医学文献中，可能存在嵌套的实体关系，如疾病的亚型、药物的剂量信息等，TechGPT-2.0 能够更好地捕捉这些信息，并在生成回应时更准确地反映上下文的语境。

四、TechGPT-2.0 在幻觉、不可回答问题、长文本处理、以及与人类价值观对齐方面进行了强化。TechGPT-2.0通过对话和理解上下文，能够更好地理解人类的感受和价值观，并在回应中考虑这些因素。此外，TechGPT-2.0能够支持最大长度12K的文本输入，这使得模型能够更好地与人类用户进行交互，更好地满足用户的需求和期望，进一步提升了人机交互的质量和用户体验。

五、TechGPT-2.0使用华为昇腾910A服务器、华为Mindspore框架、以及Mindformer套件进行开发，采用分布式训练方案，使用服务器数量为4机*8卡（32G），具有更低的部署硬件要求。目前TechGPT-2.0的部署在使用NVIDIA的显卡并使用float16的情况下显存仅需15G，INT8量化下显存占用8G，INT4量化下显存仅需5G。因此，用户使用NAVID 4090单机单卡、或昇腾910A单机单卡就可以部署TechGPT-2.0模型。

总体而言，TechGPT 2.0 在继承了 TechGPT 1.0 的全部特性的同时，通过增加多领域、多任务的数据，展现出了嵌套实体的抽取、幻觉回答、回答不可回答问题和回答长文本问题的能力。这些改进使得模型更适用于广泛的应用场景，为用户提供了更准确、更深入的信息处理和生成能力。

Model

Link

我们目前对外提供TechGPT-1.0与TechGPT2-Atom版本的在线服务：http://techgpt.neukg.com/

作为一个学术组织，我们无法长期提供模型的在线服务功能，当前的体验系统存在着随时下线的可能。因此建议大家后续通过开源权重自行体验，共同创建更好的中文大模型开源环境。

Example

TechGPT-2.0 在保留了TechGPT-1.0 模型的通用能力、实体识别能力以及三元组抽取能力的基础上，能够完成更为复杂的嵌套实体识别，并在医学、法律领域展现出优秀的能力，此外对幻觉、不可回答问题以及长文本问题有着较好的解决能力。

下面展示了TechGPT-2.0 的几个新增能力的样例。

医学NER

Assistant: 

实体名:先天畸形, 实体类型:疾病

实体名:发育障碍, 实体类型:临床表现

实体名:上、下呼吸道梗阻, 实体类型:疾病

实体名:膈疝, 实体类型:疾病

实体名:肺部受压迫, 实体类型:临床表现

实体名:肺, 实体类型:身体

实体名:呼吸衰竭, 实体类型:疾病

Assistant: 

实体名:毒蕈, 实体类型:微生物类

实体名:高锰酸钾, 实体类型:药物

实体名:活性炭, 实体类型:药物

实体名:硫酸镁, 实体类型:药物

实体名:导泻, 实体类型:医疗程序

实体名:二巯基丙磺酸钠, 实体类型:药物

实体名:肌内注射, 实体类型:医疗程序

实体名:阿托品, 实体类型:药物

实体名:肌内注射, 实体类型:医疗程序

实体名:阿托品, 实体类型:药物

嵌套NER

Assistant: 

实体名:弥漫性肺损伤, 实体类型:疾病

实体名:肺泡萎陷, 实体类型:临床表现

实体名:肺泡, 实体类型:身体

实体名:机械通气, 实体类型:医疗程序

实体名:压力的平台, 实体类型:医疗设备

实体名:肺泡持续扩张, 实体类型:临床表现

实体名:气体不同时间常数, 实体类型:医学检验项目

实体名:肺泡通气/灌流, 实体类型:医疗程序

实体名:肺内分流, 实体类型:临床表现

实体名:肺内, 实体类型:身体

Assistant: 

实体名:出血, 实体类型:临床表现

实体名:凝血因子, 实体类型:身体

实体名:凝血因子大量被消耗, 实体类型:临床表现

实体名:血小板, 实体类型:身体

实体名:血小板减少, 实体类型:临床表现

实体名:继发纤溶亢进, 实体类型:疾病

实体名:出血, 实体类型:临床表现

Assistant:

实体名: 女人树，实体类型：影视作品

实体名: 田迪，实体类型：人物

实体名: 中国，实体类型：国家

实体名: 女人树，实体类型：图书作品

实体名: 子页，实体类型：人物

Assistant: 

实体名: 俄罗斯，实体类型：国家

实体名: 德国，实体类型：国家

实体名: 芬兰，实体类型：地点

实体名: 芬兰空军，实体类型：机构/人物

实体名: 芬兰，实体类型：国家

Assistant: 

2012年9月份

2012年底

2013年底

Assistant: 

（2015）泰兴商初字第123号民事判决书

（2015）泰中商四终字第73号民事判决

Assistant: 

没有权利。根据你的描述，老人的遗嘱是明确的将遗产留给了其他兄弟姐妹，而你并没有继承权；同时你作为丈夫的前妻和儿子的母亲也没有任何的法定继承人资格来分割遗产。因此，你没有权利去争抢这个遗产份额。

Assistant: 

工伤赔偿项目包括：医疗费、住院伙食补助费、停工留薪期工资、护理费、交通费等。具体赔偿金额需要根据实际情况来确定的。建议您先申请劳动能力鉴定，确定伤残等级后按照伤残等级计算赔偿数额。

Assistant: 

饮酒后驾车属于危险驾驶行为。根据《中华人民共和国道路交通安全法》的规定：未取得机动车驾驶证、机动车驾驶证被吊销或者机动车驾驶证被暂扣期间驾驶机动车的处二百元以上二千元以下罚款，可以并处十五日以下拘留。

同时，如果造成事故构成犯罪的，还要承担刑事责任。具体来说，酒后驾驶情节严重的，可能会面临拘役的处罚；而醉驾致人死亡或重伤的，则可能会被判处三年以上七年以下的有期徒刑。因此，建议您不要酒驾，以免给自己和他人带来不必要的伤害和损失。

Assistant: 

您描述的症状主要包括胃部不适症状如恶心、呕吐以及肚子痛，建议立即就医确诊病因并采取合适的治疗方法。以下是一些可能帮助您的方法和建议：

* 首先应该考虑是否是因为最近吃了什么不健康的食物或饮料导致消化不良所引起。如果是这样，可以避免这些食物以促进消化吸收。此外，可以考虑喝一杯温水以刺激肠胃运动，或者使用小苏打来缓解酸碱失衡问题（请咨询医生）。

* 如果以上方案无效或是其他原因引起的疼痛等病症持续存在并且影响日常生活时间较长的话最好去医院检查一下是否存在某种疾病感染，进行相应的处理方式会因具体病情而异。同时需要评估治疗费用负担的能力状况，以免造成经济损失。

* 在生病期间饮食选择上需要注意营养均衡的选择多样化多样的食品组合，避免过量或不当搭配的情况产生不良反应。例如食用易腐烂变质食物要加强注意；辛辣刺激性食物需减少甚至禁食等等。

Assistant: 

抗生素药物是目前治疗中耳炎比较常用的，可酌情选。也可以配合一些局部治疗的方法，比如消炎型的滴耳液医治，如孩子耳痛流黄水的症状严重，建议选用一些镇痛药缓解症状，要是伴随发高烧的情况，那么根据孩子的症状使用药物，严重的情况请尽快去医院进行救治，存在耳膜穿孔的情况家长可考虑可孩子手术治疗，期间注意让孩子充分休息，并且多吃许多蔬菜水果。

Assistant:

病情分析：您好！根据您的描述来看，您目前情况考虑为术后恢复期的问题指导意见：建议您可以适当进食一些易消化的食物，如粥、面片、馄饨等，同时注意补充蛋白质及维生素C的摄取，以促进伤口愈合，提高免疫力，预防感染的发生。祝您早日康复！

Assistant: 

实际上，地球并没有安装任何的“行星引擎”。这是一个常见的误解或谣言来源之一。以下是一些详细的解释：

首先需要明确的是，我们通常所说的“行星引擎”指的是一种人造卫星上的推进系统，它通过使用燃料和氧化剂来产生推力以使卫星在轨道上运动并维持其运行状态的一种装置。这些推进系统的类型包括化学火箭、核反应堆等。然而，这种类型的设备并不存在于地球的表面或者大气层中。相反地，它们是由人类设计和建造的用于太空探索和研究的工具。因此，我们不能说地球上安装了任何形式的“行星引擎”。

其次，即使将这个问题看作是指地球上存在某种类似于外星文明的先进技术，我们也无法确定该文明是否真的拥有类似星际飞船这样的交通工具以及它们的运作方式是什么样的。这涉及到许多科学和技术难题，如宇宙物理学、生命起源等等，而这些问题的答案目前还没有被完全解决。因此，关于外星人存在的证据仍然非常有限且难以证明，而所谓的“行星引擎”也只是虚构的概念而已。

综上所述，没有确切的数据表明地球上有安装在地面上的任何“行星引擎”的存在。这只是一个流传已久但无根据的说法。

Assistant: 

没有一个“最好”的烹饪学校，因为每个人对“好”的定义不同。但是以下是一些受欢迎和有影响力的学校：

1. 北京厨艺学院（Beijing Culinary College）- 该校是中国最古老的厨师培训机构之一，成立于1956年。它提供各种课程，包括中餐、西餐、糕点等。该学校的师资力量强大，许多学生毕业后成为知名餐厅的主厨或餐饮企业高管。

2. 上海交通大学附属高级职业技术学院（Shanghai Jiao Tong University Affiliated Vocational Technical School of Advanced Professional Technology and Arts） - 这所院校位于上海，是一所综合性的职业教育机构。该校拥有多个专业领域，其中包括烹饪艺术。该校注重实践教学，为学生提供了丰富的实习机会和实践经验。

3. 广东省粤菜文化研究院（Guangdong Province Guangzhou Chinese Cookery Culture Research Institute）- 这是一所专注于广东菜肴文化的研究机构和培训中心。该校的课程涵盖了从基础到高端的菜肴制作技巧，以及中国传统饮食文化和历史背景等方面的知识。该校还与多家著名酒店合作，为学员提供实际操作的机会。

4. 四川成都川味厨房职业技能培训学校（Chengdu Sichuan Kitchen Skills Training School）- 位于四川成都的一家私立学校，专门教授川菜烹饪技艺。该校的教学方法独特，强调理论与实践相结合，让学生能够快速掌握川菜的制作方法和技巧。此外，该校也开设了其他相关领域的课程，如中式面点、点心等。

以上是一些备受欢迎和有影响的烹饪学校，但选择哪个学校取决于个人兴趣和专业需求。在选择时需要考虑学费、地理位置、师资力量等因素。

Assistant: 

没有一种职业是“最好”的，因为每个人都有自己的兴趣、技能和目标。然而，以下是一些被认为是最有前途的职业：

1. 数据科学家/数据分析师 - 随着数字化时代的到来，对数据的需求越来越高，因此数据科学成为了一个非常热门的领域。数据科学家可以帮助企业分析大量数据并做出明智的决策。

2. 网络安全专家 - 在数字时代，网络攻击变得越来越多样化且复杂。网络安全专业人员需要保护企业和个人免受黑客和其他威胁的攻击。

3. 医生 - 尽管医疗保健行业面临着许多挑战，但医生仍然是最受欢迎的职业之一。随着人口老龄化和健康意识的提高，人们对医生的需求和期望也在不断增加。

4. 金融顾问 - 由于金融市场的复杂性和高风险性，金融顾问的需求也日益增长。他们可以为客户提供投资建议和指导，以帮助他们实现财务目标和规划未来。

5. 开发工程师 - 编程是一项非常有前景的工作，尤其是在技术领域。开发工程师可以在各种行业中工作，包括软件公司、游戏工作室等。

6. 教师 - 虽然教育行业的竞争激烈，但是教师是一个稳定的职业选择，而且对于那些喜欢与孩子互动的人来说也是一个很好的选择。

7. 律师 - 作为法律领域的重要角色，律师能够为客户解决问题并提供咨询服务。虽然这个职位的竞争也很大，但它仍然被视为一项很有前途的职业。

总之，以上这些职业都是目前被广泛认为是最有前途的职业之一。当然，还有很多其他的职业也非常有价值，具体取决于个人的兴趣和能力。

Assistant: 

<善德女王, 主演, 金南佶>

<善德女王, 导演, 金根洪>

<善德女王, 编剧, 金英贤>

<善德女王, 主演, 李瑶媛>

<善德女王, 主演, 高贤贞>

<善德女王, 主演, 严泰雄>

<善德女王, 主演, 朴艺珍>

<善德女王, 导演, 朴弘均>

<善德女王, 主演, 俞承豪>

Assistant: 

<张开建, 民族, 汉族>

<张建, 国籍, 中国>

<张开建, 出生地, 山东梁山>

<张开建, 毕业院校, 北京大学>

<张开建, 出生日期, 1953年11月>

Assistant: 

<义勇军进行曲, 作词, 田汉>

<义勇军进行曲, 作曲, 聂耳>

Assistant: 

无法确定，因为到那时还没有选举。

Assistant: 

无法确定，因为房价受多种因素影响。

Assistant: 

无法回答，因为没有提供具体的年份信息。需要知道哪个赛季的中超联赛才能确定哪一支球队进球最多。

Assistant: 

浅谈金岭铁矿的爆破效果分析及其对经济效益的影响——以金岭铁矿为例

Assistant: 

为提高雷达目标的检测性能，提出了一种新的基于混合稀疏基(MSG)字典学习算法的微波成像重建模型。该模型利用了信号和噪声之间的相关性来提取出一组特征向量，然后通过在训练样本上建立一个MSG字典对特征向量进行分类，从而实现对目标回波信息的恢复。实验结果表明，所提算法具有较高的鲁棒性、较强的抗噪能力以及较低的计算复杂度，能够有效地改善目标检测效果。

Assistant: 

如果您正在寻找一处舒适、安全且具有投资价值的住宅，那么我们诚挚地邀请您来参观我们的楼盘——XX小区！

首先，让我们来看看这个区域的地理位置。XX小区位于市中心的黄金地段，交通便利，周边商业配套齐全，生活便捷。同时，这里也是教育资源丰富的区域之一，拥有多所优质学校，为孩子的成长提供了良好的保障。

其次，我们来看看这个小区的建筑风格。XX小区采用现代化的设计理念，建筑外观简洁大方，内部装修豪华精致，让您感受到家的温馨与舒适。此外，小区内还配备了完善的安保系统，24小时保安巡逻，为您和家人的安全保驾护航。

最后，让我们来看一下这个小区的投资价值。由于地处繁华商圈，加上优质的物业管理和服务，XX小区的房价一直处于高位，升值潜力巨大。而且，随着城市的发展，未来房价还将持续上涨，是您投资的不二之选。

总之，XX小区是一个集居住、工作和教育于一体的完美选择。无论是自住还是出租，都是您的理想之地。欢迎前来看房，我们将竭诚为您提供最优质的服务！

Assistant: 

冬日白雪皑皑落，

寒风凛冽吹不停。

银装素裹山岗色，

美景如画在眼前。

Assistant: 

母爱是世间最伟大的力量之一，它像一股温暖的阳光照耀着我们的心灵深处，让我们感受到生命的美好与温暖。母爱是一种无私的奉献、一种无微不至的关怀，它是人类生命中最为珍贵的财富。

母亲是我们人生中最重要的人之一，她给予我们生命，抚育我们的成长，陪伴我们在人生的道路上前行。母亲的爱如同春雨般滋润着每一个人的心灵，给我们带来无尽的温馨和感动。无论是在生活中还是工作中，我们都需要母亲的支持和理解，因为她们总是默默地为我们付出一切。

母爱的影响不仅仅体现在情感上，它还能够改变一个人的命运和生活方式。一个有良好家庭教育的孩子往往会更加自信、勇敢、独立，因为他们在成长的过程中得到了父母的关爱和支持；而缺乏母爱的孩子则往往容易变得自卑、内向、孤僻，甚至产生心理问题。因此，母爱对于孩子的成长和发展具有重要的作用。

同时，母爱也是推动社会进步的重要因素。在一个家庭中，如果父母都能够以身作则地传递爱心和责任感，那么整个社会的道德水平也会得到提高。这种爱的传承不仅可以帮助孩子们树立正确的人生观和价值观，还可以促进家庭的和谐稳定和社会的稳定发展。

总之，母爱是人类最美好的礼物之一，它不仅仅是一种情感的表达，更是一种责任的体现。作为子女，我们要学会感恩母亲的恩情，珍惜这份宝贵的亲情；作为家长，我们也要时刻关注子女的身心健康，为他们创造良好的生活和学习环境。只有这样，才能让母爱在我们的生命中发挥出更大的价值和意义。

经过我们的微调，目前TechGPT-2.0对其不知道的问题会直接进行不可回答的回复，对与人类价值观相悖的问题会进行否定回答并给出合理建议。

Summarization

和TechGPT-1.0相比，TechGPT-2.0 在许多方面进行了改进，新模型具有更强的知识图谱构建能力、以及智能问答能力。尤其是在嵌套NER以及医学、法律领域能力的提升，并且模型对幻觉等边界问题以及长文本问题的回答也得到了改善。

目前，我们对TechGPT的改进研究仍在持续进行中，如外挂知识库、大模型与知识图谱融合、长文本问题优化等方向。

项目负责人：任飞亮

核心开发人员：王嘉岐、常宇莹、李中（排名不分先后）

其他开发人员：邵沁杰、安宁、马琦、黑磊