Redian新闻
>
a16z:巧用“幻觉”的应用架构思考

a16z:巧用“幻觉”的应用架构思考

公众号新闻

关注并将「人人都是产品经理」设为 ★ 星标

每天早上更新,与你一起成长

就在最近,a16z发布的文章里提出了“概率性产品”这一概念,那么,什么是“概率性产品”?在生成式AI的发展背景下,产品开发者、设计师们又该如何看待“概率性产品”的出现?一起来看看作者的解读。


生成式 AI 作为一种概率计算机,能够产生多样且不确定性的输出。这些多样的输出开启了一个新的产品类别:概率性产品。

a16z 最近发布文章提出“概率性产品”,并根据用户对不确定性的接受度将产品分为三类。

笔者希望借这篇文章带来 Gen-AI 技术对产品设计和用例的思考,生成式 AI 的不确定性正在成为和用户交互的变量。

生成式内容不确定性下的三类产品:

  1. 受益于不确定性的产品

  2. 可容忍概率性输出的产品

  3. 需要准确输出的产品。

1)当我们还在诟病大模型会产生幻觉的时候,未曾想象概率性的不确定内容恰恰会成为其区别于冰冷计算机的变量所在。

生成式内容的概率性像是赋予了 AI 以意识,更适用于与人更近的交互层和更需要创造力的领域(游戏、艺术创造、创新研究等)。

2)在 AI 的世界里,硬币有了多面。

在产品设计的不同架构层或流程服务里,大模型的应用会更组合模块化,用模糊理解模糊,在非关键点上提供更多新鲜感,提取的信息在精确层上进行数理计算,相信会很快看到这样的产品。

3)当人的创造力枯竭,大模型成为早期的脑洞来源。

然而像科学家异想天开的创造同样需要依赖长期探索的积累,通过训练领域模型让其产生更高质量的不确定性内容,是创业者值得思考的事情。

4)对于一个产品架构而言,随机与确定解决不同的问题,应当互补融合。

平衡也是一门艺术。

生成式人工智能的一个显著特点是它是“概率计算机”的首批产物,能够产生多样且非确定性的输出。有些人期望这些系统表现得像传统系统一样,对其产生的“幻觉”提出了抱怨,然而,这些抱怨忽略了关键点。输出的多样性(包括幻觉)恰恰是这里的特别之处。事实上,它们开启了一个全新的产品设计类别:概率性产品。

所谓概率性产品,指的是具有非确定性和经常出现新特性的产品。

社交网络就是概率性产品的一个例子。

这些网络上出现的新行为通常是无法预测的,只能被观察到。

a16z 将产品类别和产品用例分为三类来思考:

  1. 受益于不确定性的产品;

  2. 可容忍概率性输出,但不一定从不确定内容收益的产品;

  3. 需要准确性输出的产品。

第一类是那些受益于不确定性的产品。比如像 Midjourney 和 Stable Diffusion 这样的热门图像模型,它们之所以神奇,是因为它们会生成各种各样的输出。

这整个生成式媒体类别之所以能够产生惊人的结果,正是因为平台是非确定性的。

AI 伴侣类别也属于这一组,因为产品的整体价值在于其与人类非常相似的不可预测的互动;失去非确定性的输出将削弱产品体验。该领域中的另一个例子可能包括辅助购物,因为 AI 提供的意外和不寻常的服装推荐正是能够塑造个人风格和品味的关键。

第二类产品可以容忍概率性输出,但不一定从平台的非确定内容中受益。例如,考虑那些生成现有内容的产品,只要生成内容的要点准确无误,生成内容的方式变化通常是可以接受的。

举个例子,预测数值(例如股票组合表现)需要更高的准确性,而生成书面内容可以具有更大的变化范围而不会损失价值。甚至代码生成也能容忍一定的变化,只要代码按预期工作即可。

最后,还有大量需要确定性输出的用例。这些例子包括从财务预测到税务计算再到驾驶路线等,基本上涵盖了所有需要明确答案的领域。

我们还可以将个别产品分为根据对概率性输出的容忍程度进行划分的产品架构。

例如,想象一个旨在帮助您申报税务的 AI 助手。这样的助手可以分为三个子系统,各个子系统对底层平台有不同的期望。

  • 在人机交互界面,自带不确定性基因的 LLM 能够完成与用户更弹性的聊天并收集用户税收相关信息。

  • 其次,将用户信息作为背景信息能够作为税务引擎输入系统,而对用户背景信息的整理具有一定的包容性,可以接受不确定信息的输入。

  • 最后,实际的税务计算可以且应该在一个传统引擎上完成,该引擎不受 LLM 的限制,从而确保输出的准确性。

一句话,新的计算架构需要新的产品架构,LLM 和生成式 AI Pipeline 平台的不确定性创造了独特的机遇和要求,产品和用例在设计输出多样性时要仔细考虑。尤其对于产品研究者和设计师们,在利用并设计这些新功能的交互体验时,需要认真考虑这一点。

参考材料:https://t.co/MHEajKedFW

作者:Vela,Yihao,Leo

微信公众号:深思SenseAI(ID:gh_a54fc6d3826c)

题图来自 Pixabay ,基于 CC0 协议


产品经理是一个充满挑战和创造力的职业,需要不断的摄入新的“营养”,才能跟上时代的浪潮。如果你想提高自己的产品能力以及获得求职上的帮助,让自己在未来更能胜任产品经理的工作。

起点课堂每周开办的产品经理公开课就是你的“不二之选”。

你可以学习到竞品分析、需求分析、作品集制作、面试攻略、职业规划、能力提升等各方面的知识和技巧,让你在产品领域更加游刃有余。

👇限时免费,报完即止,扫码或点击阅读原文报名!

▼ 点击「阅读原文」了解更多详情

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
复杂业务系统的通用架构设计法则论文速读、口语教练,这是网易有道「子曰」大模型的应用答卷SOFAServerless 应用架构助力业务10倍效率提升,探索微服务隔离与共享的新平衡|QConA16Z最新分析,AI抓住医疗降价的5个命门!|前哨假装会投资很危险的!段永平今年精彩分享:所谓“商业直觉”不是天赋,应该是理性思考的结果风投大佬A16Z及它对企业价值评估指标:生命周期总价值与获客成本台湾走走(四):走进阿里山JAMA丨人工智能/ChatGPT在临床诊断中的应用:到底是挑战、还是机遇?!今晚周末有料直播:聊聊《齐俊杰看财经》创作始末以及当前市场的应用探索AI时代的应用工程化架构演进,一人公司时代还有多远?白莲花编剧背后的故事移动技术在儿科临床研究中的应用巧用 MyBatis Plus 实现数据权限控制a16z的游戏赛道调研报告,揭示生成式AI引发的游戏革命LLM in Medical Domain: 一文速览大语言模型在医学领域的应用20部国产科幻观察:有“幻”缺“科”、IP依赖症、主靠末世与AI【提示】加强区块链在实体经济、公共服务及城市治理等领域的应用,上海发布这一实施方案被电话手表收割的一生:小时候用“小天才”,老了用“老天才”?一手实测腾讯混元大模型:重逻辑降幻觉,鹅厂自家应用已加持五十七 高考造一座“幻城”:“只有河南”,用戏剧讲述黄河故事云原生场景下高可用架构的最佳实践直播预告 | metaPPI计算平台及其在大分子理性设计中的应用a16z 创始人:AI 是「终极媒体」A16Z万字长文:我们正在进入计算的第三个时代【专题速递】MD-VQA、AB实验、音视频质量建设以及在手机上的应用探索大模型智能:众安保险基于 AIGC 的应用实践腾讯混元大模型亮相:全链路自研,聚焦应用死磕“幻觉”提升工作效率!巧用 Ansible 实现自动化运维~破局之作:首部开源 AIGC 软件工程应用电子书《构筑大语言模型应用:应用开发与架构设计》复杂业务系统的通用架构设计装战天使“幻刃.紫兰”:高机动义腿+特战面罩的成品机娘!高级进阶:复杂业务系统的通用架构设计五十八 外流复习一下关系图
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。