微软发布 Guidance 语言,用于控制大语言模型
最近,微软推出了一种名为 Guidance 的领域专属语言,旨在增强开发人员管理当代语言模型的能力。这个新框架将诸如生成、提示和逻辑控制等任务集成到一个统一的开发流程中。
据 GitHub 存储库的介绍,这门编程语言使开发人员能够“将生成、提示和逻辑控制组织到一个连续的流中,从而与语言模型实际处理文本的方式相匹配”。它可以与 Hugging Face 模型等提供程序无缝集成,并集成基于智能种子的生成缓存系统和令牌修复,从而优化提示边界并消除词汇切分过程中的偏见。正则模式指引(pattern guides)则进一步强化了格式约束,保证提示可以正常完成。
微软法国公司首席技术兼网络安全官 Philippe Limantour 写道:“用户可以无缝地合并生成、提示和逻辑控制,从而创建一个连续的流,与语言模型固有的文本处理机制保持一致。”
对于微软推出 Guidance,外界的反应也比较积极。根据哥伦比亚大学和沃顿商学院客座讲师 Jesus Rodriguez 的说法,Guidance 旨在为开发人员提供“一种简单而全面的语法,用于构建复杂的语言模型工作流”,降低 LLM 的复杂性。
这个框架还没有完全完成。当前,针对该框架的扩展需求还包括:更多的 LLM 支持、更好的 LangChain集成以及支持 OpenAI 函数调用。
Guidance 是扩展语言模型功能这个工具生态系统的一部分。像 LangChain 和 Haystack 这类框架的出现,已经简化了将模型集成到应用程序中的过程。Handlebars、语言模型查询语言(LMQL)以及 Nvidia 的 NeMo Guardrails 也被用于减轻 LLM 的不利影响。
原文链接:
https://www.infoq.com/news/2023/06/guidance-microsoft-language/
相关阅读:
大语言模型综合能力测评报告 2023(https://www.infoq.cn/minibook/vWO39J1tlb9xlSaIJoI6)
大语言模型进化之谜:涌现现象的挑战与争议 (https://www.infoq.cn/article/gjLJp08IHUUD8ShahHZ3)
浪潮之巅,如何让大语言模型走向金融应用新纪元 (https://www.infoq.cn/video/eJmFPe7oGOoQi4flItDe )
声明:本文为 InfoQ 翻译,未经许可禁止转载。
点击底部阅读原文访问 InfoQ 官网,获取更多精彩内容!
对话贾扬清、关涛、张伯翰:AI 平民化趋势下,数据架构将被彻底颠覆?
对话开源泰斗陆首群教授:中国开源发展应追求0到1的爆发性创新,而不是0到0的假创新
离职员工窃取源代码,半年狂赚1.5 亿;美团“1元现金”火速收购光年之外;53岁周鸿祎清华读博:重新学习做一个工程师|Q 资讯
微信扫码关注该文公众号作者