深入研讨语言模型中知识的生命周期，ACL 2024 Workshop征稿启动

知识一直是各种自然语言处理（NLP）应用的重要前提条件，通常来源于结构化知识源（如知识库和词典）或非结构化知识源（如维基百科文档）。最近，研究人员发现，语言模型通过预训练已经拥有了大量知识：大型语言模型（LLMs）可以用来生成常识性知识和问题回答的事实知识背景。尽管结果令人鼓舞，但仍有一些悬而未决的问题： 

• 这些知识从何而来？

• 语言模型知道多少？我们如何量化知识的数量？

• 这些知识可靠吗？LMs是否自知？

• 如果有些知识是错误的，我们能修正吗？我们如何在不损害LMs推理能力的情况下修正知识？

• 我们如何用特定领域知识增强LMs？我们如何利用知识帮助LMs自我纠错？ 

我们的研讨会探讨语言模型中知识的生命周期：1) 通过语言模型预训练的知识出现；2) 外部知识的注入；3) 知识的更新和修改；4) 知识的探测和生成。 

目前，关注这一生命周期不同阶段的研究人员分散在NLP的不同子领域中：探测知识和编辑知识通常与可解释性轨道相关，而注入知识通常是特定应用，讨论范围涵盖对话、问答、信息提取或总结等。我们的研讨会旨在聚集这些研究人员，促进合作，以更全面地了解这一问题。例如，LLMs 自身在典型的知识密集型任务（如信息提取）中未能取得成功，本研讨会旨在识别这一差距并提出可能的解决方案。如果我们能量化预训练中LMs所知的内容（或者我们能让LMs变得精确并真实），那么我们可能能以更有针对性和精确的方式注入知识。 

我们的研讨会还紧密关联着涉及LM研究的一些核心挑战：减少幻觉、提高可解释性以及使模型可扩展。尽管这些挑战仍然是开放的问题，但显然知识在其中发挥了关键作用：1) 在生成过程中提供来源归属或相关知识可以减少幻觉；2) 能够定位并追踪知识有助于洞悉LM的内部工作机制；3) 能够高效适应领域知识或整合更新的事实，提高了扩展性。 

在我们的研讨会上，我们邀请了来自学术界和工业界的演讲者分享他们在这些问题上的经验和观点。我们还将举办一个Panel Discussion，以激发讨论并从观众中收集问题。

研讨会主页：

https://knowledgeable-lm.github.io/

以上是各项截止日期的表格，所有截止时间均为世界协调时UTC-12h（“地球上任何地方”）。请注意各个阶段的最终日期，确保按时提交相关材料。

 让你的文字被更多人看到