Redian新闻
>
ChatGPT 的 10 种集成模式:从开源 AI 体验平台 ClickPrompt 中受到的启发

ChatGPT 的 10 种集成模式:从开源 AI 体验平台 ClickPrompt 中受到的启发

科技

和国内外的很多公司一样,在 Open AI 公司开放了 ChatGPT API 接口之后,我们也在探索如何去结合到业务中。而在探索的过程中,我们发现了一个问题,大部分的业务人员并不了解 AI 的能力,所以我们开源构建了 ClickPrompt,以使 “普通人” 能更方便地了解 ChatGPT。

围绕于我们短暂的开发旅程,我们思考了一些有意思的 ChatGPT 相关的集成模式,这些模式方便我们后续在国内的其它 LLM(大语言模型)中使用。

于是,便邀请了 ChatGPT 和我(Phodal)写了一篇文章 来进行总结。

如果你也对 Prompt 工程感兴趣,欢迎加入 ClickPrompt:https://github.com/prompt-engineering/click-prompt


ClickPrompt 的 ChatGPT 集成

须知:在国内的服务器,似乎无法集成 OpenAI,所以需要一个国外的服务器。

在开发 ClickPrompt 的过程中,我们试着做了一些有意思的事件:

  • 提供简单的问题(Prompt)模板,以方便新手学习。

  • 提供繁杂问题的模板,可以一步步学习如何提问。

  • 集成了 HuggingFace,可以实时在线生成 Stable Diffusion 图片。

  • 结合 ChatGPT 来自动生成 Stable Diffusion 的 Prompt。

  • 独立的 ChatGPT 聊天页面。

  • 探索更多的 Prompt 工程方式。

我们依旧和许多团队一样在探索更多的可能性。

无限的场景,无限的可能

如大家所知,ChatGPT 可用于多种自然语言处理场景,包括:

  1. 聊天机器人,解决问题,提供建议。

  2. 自然语言生成,生成高质量文章等。

  3. 情感分析,分析用户评论和反馈。

  4. 语言翻译,将一种语言翻译成另一种语言。

  5. 自然语言理解,帮助机器理解和处理自然语言。

  6. ……

当然了,ChatGPT 的场景不限于上面这几个,我们也见到了非常有意思的和架构设计、法律法规检查等一系列有意思的场景。

ChatGPT 集成模式

对应的模式列表:

生成器模式

使用 prompt 生成器生成特定输入,提高 ChatGPT 回答准确度和全面性。例如,使用 prompt 生成器生成法律咨询问题,ChatGPT 回答法律问题;在问答领域中,使用预定义的问题模板作为输入,生成相应的回答,能够提高 ChatGPT 的回答准确度和全面性。

生成器模式是我们最早设计的强化 Prompt 场景,它非常容易实现,只需要预设好一些模板,就能很好地工作。

上图便是我们构建生成器的一个场景。

系统集成模式

将 ChatGPT 与其他系统集成,实现数据交换和通信。例如,将 ChatGPT 与电子邮件系统集成,自动回复邮件;在电商平台中,ChatGPT 可以与订单系统穿插,以便处理用户的购物咨询和下单请求。

在 ClickPrompt 中,我们通过集成 HuggingFace 来实现,一个简单的场景,生成图形的功能,如下图所示:

PS:由于,我们是开源项目,穷,所以都是用免费的服务器。

管道模式:

在 ChatGPT 中定义处理流程,对每个输入进行处理并生成输出。例如,将 ChatGPT 用于自动化客服,对用户的问题进行分类和回复;在客服领域中,ChatGPT 可以通过管道模式实现意图识别、实体识别、回答生成等一系列流程。

在 ClickPrompt 中,我们预期通过 ChatGPT 来与人类交互,对每一步的输入和输出校正,进而完善系统的架构设计:

上图是我们正在探索的 DDD 场景,当然写得不行。

目标引导模式

将对话分成场景,并为每个场景设定目标,引导 ChatGPT 生成相关回答。例如,将 ChatGPT 用于旅游规划,引导用户选择目的地并提供相关信息;在旅游领域中,ChatGPT 可以根据场景(如酒店预订、景点推荐)来生成相应的回答。

在 ClickPrompt 中,我们通过 ChatGPT 来生成 Stable Diffusion 的 tag,进而完善文本到图形的转换:

随后,通过 ChatGPT 来生成 tag,再结合其它模式。

协同模式

将 ChatGPT 与其他 AI 技术集成,生成更人性化的回答。例如,将 ChatGPT 与情感分析技术集成,生成更符合用户情感的回答;在语音助手中,ChatGPT 可以与语音识别技术协同,能够更好地理解用户的语义和情感,并生成更加自然的回答。

在 ClickPrompt 中,我们还想做的事情就是通过接入语音功能,来实现语音直转文本,进而输出。

迁移学习模式:

通过将已经学习到的知识应用于新任务中,来改善模型性能和加快学习速度的一种机器学习方法。例如,将预先训练好的 ChatGPT 模型与公司或行业特定的语料库进行微调,以适应特定领域和任务的需求,从而快速构建智能客服机器人。

由于 ChatGPT 训练周期的问题,总存在一些知识老旧的问题。因为在日常的场景中,我们也可以让 ChatGPT 中阅读一些文章,围绕于这些文章,输出新的洞见。

混合模式:

将多个不同类型的模型组合,提高回答准确度和全面性。在问答领域中,将检索模型、知识图谱模型和生成模型混合使用,可以提高回答的准确度和覆盖范围。

我们还在寻找合适的案例,来结合这种模式。

转换器模式:

使用转换器将输入转换为 ChatGPT 可理解的格式,提高ChatGPT对输入的理解和处理能力。例如,使用语音转换器将语音转换为 ChatGPT 可理解的文本格式,从而实现语音交互。

简单来说,就是将步骤转换为格式,通过 ChatGPT 进行格式转换,如在我们的例子中,有一个使用 ChatGPT 实现 i18n 的代码转换。

强化学习模式(ChatGPT 推荐)

我们还没展开研究,不过,理论上是可行的。

基于增量学习的 ChatGPT: 使用增量学习技术对ChatGPT进行训练和调整,提高回答准确度和全面性。例如,将ChatGPT用于股票投资,使用增量学习技术对ChatGPT进行训练和调整,从而实现更精准的股票推荐和投资建议。

基于深度强化学习的 ChatGPT: 使用深度强化学习技术优化ChatGPT的响应速度和回答质量,提高对话质量。例如,将ChatGPT用于智能家居,使用深度强化学习技术优化ChatGPT的响应速度和回答质量,从而实现更快速、准确的家居控制和交互体验。

验证模式(ChatGPT 推荐)

我们还没展开研究,不过,理论上是可行的。

安全模式: 为保护用户隐私和系统安全,对敏感信息进行脱敏、加密等处理,防止恶意攻击和数据泄露。例如,在医疗健康领域中,ChatGPT 用于病例诊断和病情分析时,需要对患者隐私信息进行保护。

自我监督模式: 利用 ChatGPT 自身生成的回答作为监督信号,对模型进行自我监督和调整,提高回答准确度。例如,将 ChatGPT 用于自动化翻译,利用自我监督模式对模型进行调整,从而实现更准确的翻译结果。

其它

硅基生物在这一波中,挺好玩的。

欢迎来加入我们探索无限可能:https://github.com/prompt-engineering

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
下载量暴增10倍!微软必应集成ChatGPT后需求大爆发;4省份上调最低工资标准;淘宝已屏蔽ChatGPT关键词丨邦早报Prompt Engineer也保不住工作了!Midjourney发布图片生成Prompt功能“Describe”【Locker Room】春季了,你不运动一下吗?快来lockerroom 看看吧!ChatGPT讲座:ChatGPT并不神秘,但ChatGPT很神奇ChatGPT 编写模式:如何高效地将思维框架赋予 AI ?厉害了我的 ChatGPT, 弱一文详解Prompt学习和微调(Prompt Learning & Prompt Tuning)元旦,南加州:Field of LightPrompt Engineering全面自动化:LeCun看了沉默,ChatGPT看了直呼内行FastTrack Universität 2023莱比锡大学公立语言项目招生简章如何构建结合 ChatGPT 的半自动化编程:以 ClickPrompt “步步惊心” 示例开始赚钱模式:微软ChatGPT版新必应加广告了芒格带来的启发:电商平台有无护城河?比亚迪发布高端车,特斯拉新年大降价chatgpt 说顾城剽窃PK chatgpt 的诗评chatGPT. 一本正经胡说八道微信回应头像褪色,部分C刊不准隐瞒ChatGPT使用,微软推进裁员,Opera新版集成ChatGPT,这就是今天的其它大新闻!苹果「余额宝」 四天吸金 69 亿元;微软拟 10 倍价推私有版 ChatGPT;ChatGPT 「建国」做女王 | 极客早知道一个程序员的成功故事:从开源工具到75亿美元的软件帝国今天回校上学,临走前把一件事做完。。集成ChatGPT后必应日活量首破亿!微软推出Azure OpenAI ChatGPT 服务,GPT-4下周发布Chatgpt 4 要release 了微软推出集成ChatGPT的新版必应,官方称其有时会误报所找到的信息ChatGPT带来的启发 - 现在虽时兴公派留俄,但英语比任何时候都重要ClickPrompt:一站式 Prompt 学习、设计与运行工具(开源),支持 ChatGPT 等ChatGPT版必应被华人小哥攻破,一句话「催眠」问出所有Prompt开源版ChatGPT来了?多数任务效果超越GPT3,已开源!中国人民大学卢志武:ChatGPT对多模态通用生成模型的重要启发【Locker Room】LOL联赛?篮球全明星?Lockerroom有什么新活?2022生成模型进展有多快?新论文盘点9类生成模型代表作德国的中餐馆这是Meta版ChatGPT雏形?开源、一块GPU就能跑,1/10参数量打败GPT-3NeurIPS 2022 | 这个图像生成模型启发于电动力学!PFGM:泊松流生成模型吴恩达联手OpenAI上线免费课程:一个半小时学会ChatGPT Prompt工程吴恩达联手 OpenAI 上线免费课程:一个半小时学会 ChatGPT Prompt 工程莫非下一条真正的大鱼是它?ChatGPT火爆,最全prompt工程指南登GitHub热榜,标星4.7k!ChatGPT带火AI芯片,赚翻了的英伟达发布新核弹:ChatGPT专用GPU,让推理提速10倍!ChatGPT宣布建国做女王!网友灵魂拷问:谁来给女王写prompt?
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。