Redian新闻
>
浙大提出KnowPAT框架:大模型的知识偏好对齐与垂域应用

浙大提出KnowPAT框架:大模型的知识偏好对齐与垂域应用

科技
©PaperWeekly 原创 · 作者 | 张溢弛
单位 | 浙江大学计算机科学与技术学院
研究方向 | 知识图谱、大语言模型


前言

将大语言模型(LLM)用于垂直领域完成问答(QA)、对话(Dialogue)等任务是当前大语言模型研究和落地的重点。对于一些知识密集型的垂直场景,我们往往还拥有领域知识图谱(KG)作为辅助的外部知识源。如何利用好领域知识图谱来完成特定领域的大模型 QA,是一个复杂而且充满挑战的问题。
传统的检索增强+有监督微调(SFT)的范式存在两项问题,一是作为特定领域的落地应用,LLM 需要是用户友好的,需要用合适的语气和风格生成人类能够接受的回答。二是在检索外部知识的时候,检索召回的知识中可能存在一定的噪声,即对结果无意义的知识,模型需要有良好的判断能力才能避免“误用”检索得到的知识。
本文将介绍一个 LLM 的知识偏好对齐框架 KnowPAT,用来同时解决上述两个问题。在 KnowPAT 中,上面两项问题都被定义成了 LLM 的偏好问题,一方面,大模型拥有特定的风格偏好(Style Preference)来生成特定的知识,另一方面,大模型拥有知识偏好(Knowledge Preference)来选择检索到的知识。
而为了更好地落地应用于实际的场景,大模型的偏好应该与人类的偏好进行对齐,以提升生成回答的质量。KnowPAT 统一了两种偏好的对齐,并将作为外部知识源的领域知识图谱引入到了对齐的过程中,以实现 Knowledgeable 的对齐。

论文标题:

Knowledgeable Preference Alignment for LLMs in Domain-specific Question Answering

论文链接:

https://arxiv.org/abs/2311.06503

项目主页:

https://github.com/zjukg/KnowPAT



KnowPAT的具体设计

如图所示,KnowPAT 的整个 pipeline 主要分成以下三个部分。
第一部分是无监督的三元组链接,这一部分的主要作用是基于输入的问题从知识图谱中检索出相关的三元组,但是由于输入问题和知识图谱之间没有非常有效的监督信号,所以这个过程中检索出来的多条知识不一定全部是对问题有用的。传统的检索增强方式会将这些检索到的知识包装成 prompt 并输入模型,这就需要模型能够有良好的判断能力,从检索上来的知识中选择有用的部分加以利用。这就需要后面提到的知识偏好的对齐。
第二部分是知识偏好集的构建,为了让模型的偏好和人类的偏好对齐,我们需要在原本的数据集基础上为每条 QA 对构建偏好集。偏好集中的每个问题将对应多个不同质量的回答,同时用人类的偏好对其进行排序。
构建的偏好集又分为两个部分,分别是风格偏好集和知识偏好集。对于风格偏好集,KnowPAT 采用不同的 LLM 生成不同质量的回答。对于知识偏好集,KnowPAT 采用了不同质量的知识三元组作为背景知识输入 LLM 中以获得不同质量的答案。两种偏好集中,每个问题对应的多个答案将根据人工定义的偏好规则进行打分。

第三部分是模型的微调和对齐,KnowPAT 在基础的有监督微调的基础上,增加了新设计的对齐损失,同时 KnowPAT 在对齐损失中增加了一项自适应的动态权重来控制偏好集中不同回答在对齐损失中的权重。



实验探究

KnowPAT 在华为提供的云产品领域问答数据集上进行了实验,选取了 15 种不同的 LLM 模型以及微调和对齐的方法作为基线模型,并通过自动化指标测评、人工测评等多种方式对模型的结果进行了评估。可以看到,模型相比于基线方法而言,在华为的领域问答场景中取得了明显的提升。

同时也进行了消融实验验证每个模块设计的有消息,此外,KnowPAT 设计了通用能力保留实验来验证了模型在领域外的各项能力的保留情况。

可以看到,相比于其他基线模型而言,KnowPAT 方法进行对齐的模型在各种通用能力上的保留程度也总体更好一些。


更多阅读



#投 稿 通 道#

 让你的文字被更多人看到 



如何才能让更多的优质内容以更短路径到达读者群体,缩短读者寻找优质内容的成本呢?答案就是:你不认识的人。


总有一些你不认识的人,知道你想知道的东西。PaperWeekly 或许可以成为一座桥梁,促使不同背景、不同方向的学者和学术灵感相互碰撞,迸发出更多的可能性。 


PaperWeekly 鼓励高校实验室或个人,在我们的平台上分享各类优质内容,可以是最新论文解读,也可以是学术热点剖析科研心得竞赛经验讲解等。我们的目的只有一个,让知识真正流动起来。


📝 稿件基本要求:

• 文章确系个人原创作品,未曾在公开渠道发表,如为其他平台已发表或待发表的文章,请明确标注 

• 稿件建议以 markdown 格式撰写,文中配图以附件形式发送,要求图片清晰,无版权问题

• PaperWeekly 尊重原作者署名权,并将为每篇被采纳的原创首发稿件,提供业内具有竞争力稿酬,具体依据文章阅读量和文章质量阶梯制结算


📬 投稿通道:

• 投稿邮箱:[email protected] 

• 来稿请备注即时联系方式(微信),以便我们在稿件选用的第一时间联系作者

• 您也可以直接添加小编微信(pwbot02)快速投稿,备注:姓名-投稿


△长按添加PaperWeekly小编



🔍


现在,在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧


·
·

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
北大提出RestGPT框架,通过RESTful API控制真实应用的AgentDeepSpeed框架:大纲和资料梳理Redis之父用纯C语言代码实现Telegram Bot框架6014 血壮山河之随枣会战 南昌之战 7上海·香港 | Knowledge Transfer(KT)知识转化论坛(沪港场):人工智能夏婳:两情难相知(十三)2023年OpenHarmony智慧教育装备领域应用白皮书发布画你所想!北航港大提出DiffSketcher:基于扩散模型的文本驱动矢量化手绘草图合成几何纹理重建新SOTA!浙大提出SIFU:单图即可重建高质量3D人体模型AAAI 2024 | 武大提出神经元分类全新框架,联合学习神经元骨架与大脑回路拓扑结构小红书搜索团队提出全新框架:验证负样本对大模型蒸馏的价值西工大提出全新「群聊式」无人机控制框架!类人对话交互、主动环境感知、自主实体控制科研上新 | 大模型推进科研边界;大模型的道德价值对齐;优化动态稀疏深度学习模型;十亿规模向量搜索的高效更新那红豆,那玫瑰工业异常检测大模型来了!哈工大提出Myriad:利用视觉专家进行工业异常检测的大型多模态模型把ChatGPT塞进副驾驶!清华、中科院、MIT联合提出Co-Pilot人机交互框架:完美把控乘客意图AAAI 2024 | 小红书搜索团队提出全新框架:验证负样本对大模型蒸馏的价值微软提出KOSMOS-2.5,能阅读「文本密集图像」的多模态大语言模型无需偏好数据也能RLHF?腾讯AI Lab提出对抗式偏好对齐方法2024年或成国产大模型应用爆发年!有道再推多款大模型产品及应用阿里夸克蒋冠军:大模型应用要解决知识正确性问题「迷思科技」获数千万Pre-A轮融资,自主掌握第三代压力传感芯片,推进多领域应用|36氪首发NeurIPS 2023 | 任意模型都能蒸馏!华为诺亚提出异构模型的知识蒸馏方法本土国产剧导演崛起,视觉系与垂类导演怎么选?看Vivian 转的视频和为人父转的柴静《和圣战分子对话》视频AAAI 2024 | 浙大赵天成博士团队提出全新评测基准OVDEval,全面审视开放词汇目标检测模型的泛化能力36氪首发|OpenCSG完成数千万元天使轮融资,打造大模型开源社区与垂直行业模型顶刊TIP 2023!浙大提出:基于全频域通道选择的的无监督异常检测免费《大模型应用实践》实训营第二周课程来啦!这次百度算法工程师团队手把手教你构建大模型应用,另有第一周干货回顾!免费大模型实战课|首周聚焦百度智能云千帆大模型平台使用,《大模型应用实践》实训营11月16日开讲!传字节成立AI应用新部门Flow;淘天集团筹建大模型团队;浪潮信息开源千亿级大模型丨AIGC大事日报現在的網路世界有點冷清媲美RLHF!复旦NLP组提出基于表征工程的生成式语言大模型人类偏好对齐百川、智谱均融资超20亿;百度发布文心4.0;科大讯飞净利润下降82%;360将推出Agent框架;财务和医生将被AI取代……埃泰克,掌握全栈Know-how,从BCM到车身域|金球奖入围公示
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。