Redian新闻
>
通过与 GPT 对话实现零样本信息抽取

通过与 GPT 对话实现零样本信息抽取

公众号新闻
目前通用大模型取代为特定任务定制训练的专属模型的趋势逐渐显露,这种方式使AI模型应用的边际成本大幅下降。由此提出一个问题:不经过训练来实现零样本信息抽取是否可行?

息抽取技术作为构建知识图谱的重要一环,如果完全不需要训练就可以实现,将使数据分析的门槛大幅降低,有利于实现自动化知识库构建。

我们通过对GPT-3.5用提示工程的方法建立一个通用的零样本IE系统——GPT4IE(GPT for Information Extraction),发现GPT3.5能够自动从原始句子中提取结构化信息。支持中英文,工具代码已开源。

工具网址:https://cocacola-lab.github.io/GPT4IE/  

代码:https://github.com/cocacola-lab/GPT4IE



1

背景介绍

信息抽取(Information Extraction,IE)目标是从无结构文本中抽取结构化信息,包括实体-关系三元组抽取(Entity-relation Extract, RE)、命名实体识别(Named Entity Recognition, NER)和事件抽取(Event Extraction, EE)[1][2][3][4][5]。许多研究已经开始依赖IE技术来自动化进行零样本/少样本工作,例如clinical IE [6]。

近来大规模预训练语言模型(Large Pre-trained Language Model, LLMs)在许多下游任务上都表现极佳,甚至仅仅通过几个例子作为引导而不需要微调就能实现。由此我们提出一个问题:仅通过提示来实现零样本IE任务是否可行? 我们尝试对GPT-3.5用提示的方法建立一个通用的零样本IE系统——GPT4IE(GPT for Information Extraction)。在与GPT3.5和提示的结合下,它能够自动从原始句子中提取结构化信息。



2

技术框架

设计了特定任务的提示模板(task-specified prompt template), 然后将用户的输入填充模板中特定的槽值 (slot),形成提示(prompt),输入GPT-3.5中,进行IE。支持的任务有三种:RE、NER和EE,且这三种任务均支持中英文双语。用户需要输入句子和制定抽取类型列表(即关系列表、头实体列表、尾实体列表、实体类型列表或者事件列表)。具体如下:

RE任务的目标是从文本中抽取三元组,比如“(China, capital, Beijing)”, “(《如懿传》, 主演, 周迅)”。其要求的输入格式如下(带“*”的代表非必填项,我们为这些选项都设置了默认值,但是为了灵活性支持用户自定义指定列表,后同):

  • Input Sentence: 输入文本

  • Relation type list (rtl)* : ['关系类型1', '关系类型2', ...]

  • Subject type list (stl)* : ['头实体类型1', '头实体类型2', ...]

  • Object type list (otl)* : ['尾实体类型1', '尾实体类型2', ...]

  • OpenAI API key: OpenAI API 密钥(我们在Github中提供了部分可用key,以供示例使用。)

NER任务旨在从文本中抽取实体,例如“(LOC, Beijing)” , “(人物, 周恩来)”。在NER任务上,输入格式如下:

  • Input Sentence: 输入文本

  • Entity type list (etl)* : ['实体类型1', '实体类型2', ...]

  • OpenAI API key: OpenAI API 密钥

EE任务旨在从纯文本中提取事件,例如“{Life-Divorce: {Person: Bob, Time: today, Place: America}}“ , “{竞赛行为-晋级: {时间: 无, 晋级方: 西北狼, 晋级赛事: 中甲榜首之争}}”。输入格式如下:

  • Input Sentence: 输入文本

  • Event type list (etl)* : {'事件类型1': ['论元角色1', '论元角色2', ...], ...}

  • OpenAI API key: OpenAI API 密钥



3

工具使用示例

3.1 RE示例一

输入:

Input Sentence: Bob worked for Google in Beijing, the capital of China.

rtl: ['location-located_in', 'administrative_division-country', 'person-place_lived', 'person-company', 'person-nationality', 'company-founders', 'country-administrative_divisions', 'person-children', 'country-capital', 'deceased_person-place_of_death', 'neighborhood-neighborhood_of', 'person-place_of_birth']

stl: ['organization', 'person', 'location', 'country']

otl: ['person', 'location', 'country', 'organization', 'city']

输出:

3.2 RE示例二

输入:

Input Sentence: 《如懿传》是一部古装宫廷情感电视剧,由汪俊执导,周迅、霍建华、张钧甯、董洁、辛芷蕾、童瑶、李纯、邬君梅等主演。

rtl: ['所属专辑', '成立日期', '海拔', '官方语言', '占地面积', '父亲', '歌手', '制片人', '导演', '首都', '主演', '董事长', '祖籍', '妻子', '母亲', '气候', '面积', '主角', '邮政编码', '简称', '出品公司', '注册资本', '编剧', '创始人', '毕业院校', '国籍', '专业代码', '朝代', '作者', '作词', '所在城市', '嘉宾', '总部地点', '人口数量', '代言人', '改编自', '校长', '丈夫', '主持人', '主题曲', '修业年限', '作曲', '号', '上映时间', '票房', '饰演', '配音', '获奖']

stl: ['国家', '行政区', '文学作品', '人物', '影视作品', '学校', '图书作品', '地点', '历史人物', '景点', '歌曲', '学科专业', '企业', '电视综艺', '机构', '企业/品牌', '娱乐人物']

otl: ['国家', '人物', 'Text', 'Date', '地点', '气候', '城市', '歌曲', '企业', 'Number', '音乐专辑', '学校', '作品', '语言']

输出:

3.3 NER示例一

输入:

Input Sentence: Bob worked for Google in Beijing, the capital of China.

etl: ['LOC', 'MISC', 'ORG', 'PER']

输出:

3.4 NER示例二

输入:

Input Sentence: 在过去的五年中,致公党在邓小平理论指引下,遵循社会主义初级阶段的基本路线,努力实践致公党十大提出的发挥参政党职能、加强自身建设的基本任务。

etl: ['组织机构', '地点', '人物']

输出:

3.5 EE示例一

输入:

Input Sentence: Yesterday Bob and his wife got divorced in Guangzhou.

etl: {'Personnel:Elect': ['Person', 'Entity', 'Position', 'Time', 'Place'], 'Business:Declare-Bankruptcy': ['Org', 'Time', 'Place'], 'Justice:Arrest-Jail': ['Person', 'Agent', 'Crime', 'Time', 'Place'], 'Life:Divorce': ['Person', 'Time', 'Place'], 'Life:Injure': ['Agent', 'Victim', 'Instrument', 'Time', 'Place']}

输出:

3.6 EE示例二

输入:

Input Sentence:: 在2022年卡塔尔世界杯决赛中,阿根廷以点球大战险胜法国。

etl: {'组织行为-罢工': ['时间', '所属组织', '罢工人数', '罢工人员'], '竞赛行为-晋级': ['时间', '晋级方', '晋级赛事'], '财经/交易-涨停':['时间', '涨停股票'] , '组织关系-解雇': ['时间', '解雇方', '被解雇人员']}

输出:

3.7 EE示例三(一个有意思的错误示例)

输入:

Input Sentence:: 我今天和他离婚了

etl: {'组织行为-罢工': ['时间', '所属组织', '罢工人数', '罢工人员'], '竞赛行为-晋级': ['时间', '晋级方', '晋级赛事'], '财经/交易-涨停':['时间', '涨停股票'] , '组织关系-解雇': ['时间', '解雇方', '被解雇人员']}

输出:

明显上面的输出使错误的,自定义etl为: {'离婚': ['时间', '人物']},输出为:

参考文献
  1. Erik F. Tjong Kim Sang. 2002. Introduction to the CoNLL-2002 shared task: Language-independent named entity recognition. In COLING-02: The 6th Conference on Natural Language Learning 2002 (CoNLL-2002).
  2. Lev Ratinov and Dan Roth. 2009. Design challenges and misconceptions in named entity recognition. In Proceedings of the thirteenth conference on computational natural language learning (CoNLL-2009), pages 147–155.
  3. Zhepei Wei, Jianlin Su, Yue Wang, Yuan Tian, and Yi Chang. 2019. A novel cascade binary tagging framework for relational triple extraction. arXiv preprint arXiv:1909.03227.
  4. Hengyi Zheng, Rui Wen, Xi Chen, Yifan Yang, Yunyan Zhang, Ziheng Zhang, Ningyu Zhang, Bin Qin, Ming Xu, and Yefeng Zheng. 2021. Prgc: Potential relation and global correspondence based joint relational triple extraction. arXiv preprint arXiv:2106.09895.
  5. Fayuan Li, Weihua Peng, Yuguang Chen, Quan Wang, Lu Pan, Yajuan Lyu, and Yong Zhu. 2020a. Event extraction as multi-turn question answering. In Findings of the Association for Computational Linguistics: EMNLP 2020, pages 829–838, Online. Association for Computational Linguistics.
  6. Monica Agrawal, Stefan Hegselmann, Hunter Lang, Yoon Kim, and David Sontag. 2022. Large language models are zero-shot clinical information extractors. arXiv preprint arXiv:2205.12689.

更多内容,点击下方关注:

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
摄影大师镜头下的日本街头GPT微软发布Visual ChatGPT:视觉模型加持ChatGPT实现丝滑聊天用GPT打败GPT?AutoGPT将AI进程推向了新高度!|GGViewOpenAI 团队对话实录:ChatGPT 很酷,但它还很糟糕首次:微软用GPT-4做大模型指令微调,新任务零样本性能再提升ChatGPT讲座:ChatGPT并不神秘,但ChatGPT很神奇澜舟科技招聘:社招全职与实习,NLP算法(预训练/信息抽取/机器翻译)等方向二年级选课,忽闻一夜 GPT 来,千课 万课 AI 开实话实说,30+之后就爱看姐姐搞定小奶狗GPT-4.0对战GPT-3.5:GPT-3.5简直弱爆了!!!为什么所有公开的对 GPT-3 的复现都失败了?复现和使用 GPT-3/ChatGPT,你所应该知道的ImageNet零样本准确率首次超过80%,地表最强开源CLIP模型更新既然这样,那我就实话实说了……最高法个人信息指导性案例:涉及人脸信息、身份证信息、社交媒体账号、手机验证码等刑法保护的公民个人信息韦神出的这道题火了,GPT美股SPAC|创新排放监测提供商 Spectaire Inc. 将通过与 SPAC合并上市Gpt 4一出,谁与争锋K8s + SpringBoot实现零宕机发布涉川 普封口费案成人片女星:最近我的周边卖得很火爆 有新证人 川 普今天不会被捕 川 普封口费案 第五大道大楼前现零星支持者美股SPAC|亚洲全方位生育服务提供商 NewGenIvf 宣布计划通过与 SPAC 合并在纳斯达克上市ImageNet零样本准确率首次超过80%!OpenCLIP:性能最强的开源CLIP模型美股SPAC|领先的干细胞生命科学公司 GIO World Health Ltd通过与 SPAC合并上市2022南美南极行(5)巴西 里约热内卢亲测可用!无需等待,按这个方法注册微软 New Bing自带GPT-4秒通过!比GPT-3香多了!AAAI2023 | 基于统一语义匹配的通用信息抽取框架-USM为何不能暂停 AI 研发?杨立昆、吴恩达对话实录ICLR 2023 | 基于视觉语言预训练模型的医疗图像小样本学习及零样本推理性能研究飞起飞落,岁月静好美股SPAC|领先的高级电动摩托车制造商 SRIVARU 将通过与 Mobiv Acquisition Corp 合并上市集成ChatGPT后必应日活量首破亿!微软推出Azure OpenAI ChatGPT 服务,GPT-4下周发布折扣服装分销公司 SVES 宣布计划通过与 Relativity Acquisition Corp. 的合并上市渔歌子:实现零代码模型推理部署,Graphcore PopRT正式推出民调显示过半受访者称曾经历过与枪支有关的事件ChatGPT通过谷歌程序员面试,薪资达18.3万美元!ChatGPT通过谷歌程序员面试,薪资达18.3万美元!AAAI2023 | 百度+中科院提出USM:一种信息抽取的大一统方法优酷八年错过与失去想让孩子通过做EMT进而达到进医学院目的的请注意以下的事情。
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。