Redian新闻
>
微软开源TypeChat库,给大语言模型换种提示,一行代码安装

微软开源TypeChat库,给大语言模型换种提示,一行代码安装

公众号新闻

机器之心报道

编辑:陈萍

借助 TypeChat,可以很容易地获得类型良好的结构化数据。

在过去的几个月里,我们已经见证了围绕最新一波大语言模型掀起的讨论热潮。很多人以对话的方式与大模型进行交流,这也是最直接的方式。

但这一方式面临一个问题:如何将这些模型最好地集成到现有的应用程序界面中仍然存在很大的问题。

换句话说,我们如何利用人工智能将用户的请求转化为应用程序能够处理的内容?以及我们如何确保我们的应用程序是安全的,并且进行的工作可以让开发者和用户都信赖?

为了解决上述问题,微软开源了一个名为 TypeChat 的实验性库,它可以很容易地获得类型良好的结构化数据, 其在自然语言与应用程序模式(application schema)和 API 之间建立起了一座桥梁。


项目地址:https://github.com/Microsoft/TypeChat

目前,TypeChat 已经与 OpenAI API 和 Azure OpenAI 服务进行了一些非常基本的集成。

网友表示:「借助 TypeChat,AI 能输出准确的 JSON 以与人类研发的系统集成。」


「TypeChat 将 prompt 工程替换为 schema 工程:无需编写非结构化的自然语言 prompt 来描述所需输出的格式,而是编写 TS 类型定义。」


还有网友表示 TypeChat 是迈向未来的一大步。


TypeChat 介绍

只需一行代码就能启动并运行 TypeChat:


至于为何构建 TypeChat 库,微软表示,当前人们可以与 LLM 进行对话交流,在这当中,需要解析语言,然而,人类输入的语言和 LLM 理解的语言在结构上差别很大,典型的软件很难从原始文本中重建语言。

TypeChat 可以帮助 LLM 以 JSON 的形式响应,并且响应结果非常合理:例如用户要求将这句话「我可以要一份蓝莓松饼和一杯特级拿铁咖啡吗?」转化成 JSON 格式,TypeChat 响应结果如下:


微软表示,他们一直在提示符中使用 TypeScript 类型,可以说,给定一个提示和 TS 类型,聊天机器人就会使用这些类型构造一个新提示:


以下是将 TypeChat 连接到 LLM 并确定句子是否定、中性还是肯定的基本代码。

//./src/sentimentSchema.ts

// The following is a schema definition for determining the sentiment of a some user input.

export interface SentimentResponse { /** The sentiment of the text. */ sentiment: "negative" | "neutral" | "positive";}

//./src/main.ts

import * as fs from "fs";import * as path from "path";import dotenv from "dotenv";import * as typechat from "typechat";import {SentimentResponse} from "./sentimentSchema";

// Load environment variables.dotenv.config ({ path: path.join (__dirname, "../.env") });

// Create a language model based on the environment variables.const model = typechat.createLanguageModel (process.env);

// Load up the contents of our "Response" schema.const schema = fs.readFileSync (path.join (__dirname, "sentimentSchema.ts"), "utf8");const translator = typechat.createJsonTranslator<SentimentResponse>(model, schema, "SentimentResponse");

// Process requests interactively.typechat.processRequests ("😀>", /*inputFile*/undefined, async (request) => { const response = await translator.translate (request); if (!response.success) { console.log (response.message); return; } console.log (`The sentiment is ${response.data.sentiment}`);});

TypeChat 可以以多种不同的方式使用。目前微软讨论的方式主要是使用数据模式将用户意图转换为结构化响应;然而,TypeChat 还可以使用 API 模式来构建基本程序。

想要体验的小伙伴,可以上手试试了。

参考链接:
https://microsoft.github.io/TypeChat/blog/introducing-typechat/




© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:[email protected]

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
解锁通用听觉人工智能!清华电子系联合火山语音,开源全新认知导向听觉大语言模型微软发布 Guidance 语言,用于控制大语言模型什么,巴赫穆特失守了?不写代码,一句提示生成整个代码库,GPT-Engineer项目火了开源版 GPT-4 代码解释器,可安装任意 Python 库,本地终端运行那些移民到北极圈可怜的老中们!深度学习三巨头之一 Yann LeCun:大语言模型带不来 AGI如何优化ChatGLM-6B?一行代码就行 | 最“in”大模型5075 血壮山河之武汉会战 黄广战役 7WAIC 2023 | 微软Office产品团队技术负责人蔡玮鑫:Copilot中大语言模型应用实践经验改写游戏规则!Meta开源大语言模型Llama 2,可免费商用;微软Copilot定价每月每用户30美元 | 环球科学要闻CVPR 2023 大牛演讲:改动一行代码,PyTorch训练三倍提速!这些技术是关键!不写代码,一句提示生成整个代码库,它在 GitHub 爆火【城事】巴黎市长将重修Châtelet 广场以方便行人破局之作:首部开源 AIGC 软件工程应用电子书《构筑大语言模型应用:应用开发与架构设计》Meta开源Code Llama,号称编程领域 “最先进的大语言模型”GitHub热榜登顶:开源版GPT-4代码解释器,可安装任意Python库,本地终端运行大型语言模型专场上线!四位AI新青年直播讲解MiniGPT-4、LLaVA、Gorilla以及大型语言模型Token危机ICCV 2023 | 基于预训练视觉语言模型和大语言模型的零样本图像到文本生成学习生成式大语言模型,东北大学自然语言处理实验室有一堂课郁郁葱葱的中央公园巨好用的 Git 代码托管仓库,一行命令即可安装Stability AI进军编程领域,发布首个用于代码生成的大语言模型硬核观察 #1070 社区批评 Meta 滥用“开源”来称呼其新大语言模型仅8670行代码,Linux内核第一版 (v0.01) 开源代码解读C# 和 TypeScript 之父亲自带队开源 TypeChat,又一 AI 技术瓶颈被攻破?商汤大模型全面升级!「商量SenseChat 2.0」大语言模型疯狂上分闲来无事(小小说)给大语言模型“开个眼”,看图说话性能超CLIP!斯坦福等新方法无需多模态预训练丨开源PromptBench: 首个大语言模型提示鲁棒性的评测基准巴黎市长将重修Châtelet 广场以方便行人仅 8670 行代码,Linux 内核第一版 (v0.01) 开源代码解读改动一行代码,PyTorch训练三倍提速,这些「高级技术」是关键微软开源的大模型太强了,数学推理超ChatGPT,论文、模型权重全部公开CVPR 2023 | 改动一行代码,PyTorch训练三倍提速,这些高级技术是关键
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。