©PaperWeekly 原创 · 作者 | 张溢弛
前言
将大语言模型(LLM)用于垂直领域完成问答(QA)、对话(Dialogue)等任务是当前大语言模型研究和落地的重点。对于一些知识密集型的垂直场景,我们往往还拥有领域知识图谱(KG)作为辅助的外部知识源。如何利用好领域知识图谱来完成特定领域的大模型 QA,是一个复杂而且充满挑战的问题。传统的检索增强+有监督微调(SFT)的范式存在两项问题,一是作为特定领域的落地应用,LLM 需要是用户友好的,需要用合适的语气和风格生成人类能够接受的回答。二是在检索外部知识的时候,检索召回的知识中可能存在一定的噪声,即对结果无意义的知识,模型需要有良好的判断能力才能避免“误用”检索得到的知识。本文将介绍一个 LLM 的知识偏好对齐框架 KnowPAT,用来同时解决上述两个问题。在 KnowPAT 中,上面两项问题都被定义成了 LLM 的偏好问题,一方面,大模型拥有特定的风格偏好(Style Preference)来生成特定的知识,另一方面,大模型拥有知识偏好(Knowledge Preference)来选择检索到的知识。而为了更好地落地应用于实际的场景,大模型的偏好应该与人类的偏好进行对齐,以提升生成回答的质量。KnowPAT 统一了两种偏好的对齐,并将作为外部知识源的领域知识图谱引入到了对齐的过程中,以实现 Knowledgeable 的对齐。论文标题:
Knowledgeable Preference Alignment for LLMs in Domain-specific Question Answering
https://arxiv.org/abs/2311.06503
https://github.com/zjukg/KnowPAT
KnowPAT的具体设计
如图所示,KnowPAT 的整个 pipeline 主要分成以下三个部分。第一部分是无监督的三元组链接,这一部分的主要作用是基于输入的问题从知识图谱中检索出相关的三元组,但是由于输入问题和知识图谱之间没有非常有效的监督信号,所以这个过程中检索出来的多条知识不一定全部是对问题有用的。传统的检索增强方式会将这些检索到的知识包装成 prompt 并输入模型,这就需要模型能够有良好的判断能力,从检索上来的知识中选择有用的部分加以利用。这就需要后面提到的知识偏好的对齐。第二部分是知识偏好集的构建,为了让模型的偏好和人类的偏好对齐,我们需要在原本的数据集基础上为每条 QA 对构建偏好集。偏好集中的每个问题将对应多个不同质量的回答,同时用人类的偏好对其进行排序。构建的偏好集又分为两个部分,分别是风格偏好集和知识偏好集。对于风格偏好集,KnowPAT 采用不同的 LLM 生成不同质量的回答。对于知识偏好集,KnowPAT 采用了不同质量的知识三元组作为背景知识输入 LLM 中以获得不同质量的答案。两种偏好集中,每个问题对应的多个答案将根据人工定义的偏好规则进行打分。第三部分是模型的微调和对齐,KnowPAT 在基础的有监督微调的基础上,增加了新设计的对齐损失,同时 KnowPAT 在对齐损失中增加了一项自适应的动态权重来控制偏好集中不同回答在对齐损失中的权重。
实验探究
KnowPAT 在华为提供的云产品领域问答数据集上进行了实验,选取了 15 种不同的 LLM 模型以及微调和对齐的方法作为基线模型,并通过自动化指标测评、人工测评等多种方式对模型的结果进行了评估。可以看到,模型相比于基线方法而言,在华为的领域问答场景中取得了明显的提升。同时也进行了消融实验验证每个模块设计的有消息,此外,KnowPAT 设计了通用能力保留实验来验证了模型在领域外的各项能力的保留情况。
可以看到,相比于其他基线模型而言,KnowPAT 方法进行对齐的模型在各种通用能力上的保留程度也总体更好一些。
如何才能让更多的优质内容以更短路径到达读者群体,缩短读者寻找优质内容的成本呢?答案就是:你不认识的人。
总有一些你不认识的人,知道你想知道的东西。PaperWeekly 或许可以成为一座桥梁,促使不同背景、不同方向的学者和学术灵感相互碰撞,迸发出更多的可能性。
PaperWeekly 鼓励高校实验室或个人,在我们的平台上分享各类优质内容,可以是最新论文解读,也可以是学术热点剖析、科研心得或竞赛经验讲解等。我们的目的只有一个,让知识真正流动起来。
📝 稿件基本要求:
• 文章确系个人原创作品,未曾在公开渠道发表,如为其他平台已发表或待发表的文章,请明确标注
• 稿件建议以 markdown 格式撰写,文中配图以附件形式发送,要求图片清晰,无版权问题
• PaperWeekly 尊重原作者署名权,并将为每篇被采纳的原创首发稿件,提供业内具有竞争力稿酬,具体依据文章阅读量和文章质量阶梯制结算
📬 投稿通道:
• 投稿邮箱:[email protected]
• 来稿请备注即时联系方式(微信),以便我们在稿件选用的第一时间联系作者
• 您也可以直接添加小编微信(pwbot02)快速投稿,备注:姓名-投稿
△长按添加PaperWeekly小编
🔍
现在,在「知乎」也能找到我们了
进入知乎首页搜索「PaperWeekly」
点击「关注」订阅我们的专栏吧