logo
Redian新闻
>公众号
>
打造ChatGPT平替，成本暴降95%！OpenAI硬核更新下月发布，视觉API要来

打造ChatGPT平替，成本暴降95%！OpenAI硬核更新下月发布，视觉API要来

公众号新闻


  新智元报道  

编辑：桃子 好困
【新智元导读】为了吸引更多开发者，OpenAI正在计划一波重大更新，并且让构建ChatGPT应用的成本降低多达20倍！

天下开发人员，苦OpenAI模型价格久矣。
路透爆料称，在11月6日首届开发者大会上，OpenAI将推出年度重磅更新：
在开发工具中增加内存存储（memory storage）功能，让API成本大幅降价95%。
也就是说，开发者苦等的福音终于来了，未来能够以更低成本、更快速度用GPT模型构建应用。
另外，OpenAI还计划推出「视觉」能力加持的全新开发工具。
这样，开发者可以构建「分析图像」和「描述图像」更强大的应用。
这些新功能的开放，最终指向着一个共同的目标：构建大模型加持的AI智能体。
OpenAI此举正沿着Sam Altman设想一步步推进，不仅在用户中打开市场，同时还要成为一个提供热门开发者平台的公司。

OpenAI把价格打下来了

去年11月，ChatGPT横空出世，吸引了全球数亿人使用，创下消费级应用用户数增长里程碑。
除了网页版，ChatGPT还推出了iOS版，以及安卓版程序。
这样客观的下载量，将为OpenAI带来一些盈利。内部高管预计，今年将带来2亿美元的收入，24年将有10亿美元到账。
可见，ChatGPT在消费者群里中已经打下了江山，但在开发圈子里，让开发者基于OpenAI技术构建业务，却面临重重挑战。
在首席执行官Altman看来，让OpenAI成为其他构建应用程序公司不可或缺的一部分，是公司的战略目标之一。
他与开发者会面，急切地表达基于OpenAI模型构建新生态系统的愿望。
目前，GPT模型能力已经融入到了，美版「饿了么」DoorDash、写作助手Jasper等无数应用程序中。
但，这还远远不够。
6月，Sam Altman在AI开发平台Humanloop的首席执行官采访中，曾透露了自家的未来产品路线图。
其中提到了一点是「有记忆的API」（Stateful API）——目前大部分token被浪费在上文的传输中，将来会有一个能够记住对话历史的API版本。
这恰恰与添加「内存存储」的想法不谋而合。增加这一功能可以优化成本的原因有以下几点：
- 新的缓存功能与LangChain的记忆链（Memory Chain）原理类似，可以将之前的对话历史转化为嵌入式向量进行存储。新的会话内容只需在增量标记中进行处理，而无需重新输入整个上下文。
- 预设的角色和功能也无需重新输入，只需进行相似性搜索即可。
- 在模型计算过程中，CUDA图形只需查看增量，而无需以历史聊天记录为基础，再次进行全局浏览。
简而言之，这将大大优化token数量。
所谓的「有记忆的API」的计划发布，能够使模型通过记住查询的对话历史，进而创建应用程序成本更低。
这可能会大大削减，开发人员需要支付API费用。
根据OpenAI官网上的定价，目前，用GPT-4处理一页文档可能需要10美分，具体取决于输入和输出的长度和复杂性。
另一个更新是视觉API，允许开发者构建可以分析图像的软件。
这也标志着，OpenAI继续向前推进多模态能力重要的一步，未来必定还会有音频、视频能力的加入。

抓住开发者， 在做了

为了吸引更多开发者，OpenAI也做出了很多努力。
去年，专门聘用了第一位负责建立OpenAI与开发者关系的工程师Logan Kilpatrick。
他常常会更新一些利好开发者的工具和内容。
微调用户界面现在支持在用户界面中进行端到端作业创建，无需代码即可启动作业。
还有，OpenAI即将发布OpenAI Python SDK的1.0版本。
发布API 使用情况仪表板的更新，有助于更清楚地了解哪些模型在推动使用情况，而且总体上应该更加可靠。
除此之外，可以看到OpenAI面向开发者，做了很多模型适配、用户界面等各种工作的优化。
而所有的这些，都是为了吸引更多开发者来付费使用OpenAI的模型。
根据PitchBook的数据，今年各家AI初创公司已经获得了超过200亿美元的投资。
虽然其中很多都依赖OpenAI提供的技术，但这些初创公司也在努力使它们使用的模型更加多样化，比如采用Llama这种开源方案。而这也使得OpenAI必须将自己与谷歌等资金雄厚的竞争对手区分开来。
据路透社报道，保持开发者的满意度一直是OpenAI的关注重点。
然而，即便ChatGPT在消费者中取得了巨大成功，但OpenAI在赢得其他公司或开发者的支持上，却并没有那么顺利。
比如备受期待的ChatGPT插件系统，在最初引发了一大波热潮之后，用户和开发者的兴趣便急剧下降。
随后Sam Altman也承认，插件并没有像想象中那样获得市场的认可。

价格一览

GPT-4
GPT-3.5 Turbo
微调模型
参考资料：
https://www.reuters.com/technology/openai-plans-major-updates-lure-developers-with-lower-costs-sources-2023-10-11/




微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
来源: qq
点击查看作者最近其他文章
相关阅读
“真的离谱！”自己拍的照片被视觉中国告侵权，还要赔8万多元！知名摄影师要求解释，视觉中国最新回应…ChatGPT每天烧掉500万元！OpenAI被曝已在破产边缘营收有望突破 10 亿美元！OpenAI 发布 ChatGPT 企业版，开启疯狂变现之路 ？它号称 ChatGPT 最强平替，大更新后表现如何 | 附体验链接OpenAI史诗级更新！最强大模型炸场，128K上下文、价格暴降2/3，还能定制专属GPTChatGPT之父首次「剧透」GPT-5/6 ， OpenAI还想改变一切王者GPT-4已来，32k上下文！OpenAI首届开发者大会最新爆料，全新UI可定制GPT，xAI大模型大范围可用有钞能力功能不设限！OpenAI推ChatGPT企业版，开抢微软生意重磅！OpenAI 在 ChatGPT 内推出语言和图像功能OpenAI被曝“在憋大招”：构建ChatGPT应用成本暴降95%专业测评：这么多GPT平替，哪一款最香？芯和半导体苏周祥：打造Chiplet专属EDA工具，全面支持2.5D/3DIC的Chiplet设计丨GACS 2023DALL·E 3辣眼图流出！OpenAI 22页报告揭秘：ChatGPT自动改写PromptOpenAI终于Open一回：DALL-E 3论文公布、上线ChatGPT，作者一半是华人厉害国的党争吹尽黄沙不见金（七十八）：重责GPT-4 Turbo更强更便宜，GPTs、GPT商店最大亮点，这是OpenAI首个开发者日无限访问GPT-4！史上最强企业版ChatGPT上线，3.2万token，OpenAI颠覆打工人沐潼开门红后，朝夕光年又一款TeamRPG下月发布，还是开放世界？传OpenAI下月推出重大更新以削减开发者成本；《生成式人工智能服务安全基本要求》公开征求意见丨AIGC日报OpenAI扔出DALL·E 3！能画画的ChatGPT要来了：简单提示，讲出“超级向日葵刺猬”连环画起底 ChatGPT 之父被 OpenAI 开除内幕，一个大反转要来了？把钱挡在门外！OpenAI宣布：暂停开放ChatGPT付费用户注册OpenAI回应ChatGPT服务故障；新研究以99%准确率识别ChatGPT生成化学论文；三星发布自研大模型丨AIGC日报一 个隐藏的致命杀手——羊水栓塞现场直击OpenAI开发者大会：GPT-4 Turbo、用户自定义GPT、GPT商店，一切都是硅谷新王的架势中国医药界腐败的来龙去脉OpenAI大佬甩出「喵喵GPT」调戏黑客！分享ChatGPT成功的秘密：极限压榨GPU资源ChatGPT让ChatGPT吐槽宕机；OpenAI对竞争对手Anthropic的合并要约被拒丨AIGC日报縱使相逢應不識(下)把钱挡在门外！OpenAI宣布：暂停开放ChatGPT付费用户注册，原因竟是...OpenAI突发更新！GPT-3.5正式开放「微调」，人人可打造专属ChatGPT｜附最全官方指南ShareGPT平替！利用苏格拉底提问模拟器更好地蒸馏ChatGPT对话能力现场直击一文总结！OpenAI开发者大会，史上最强GPT-4 Turbo发布，AI圈地震微软OpenAI联手围剿英伟达，首款自研AI芯片下月发布！
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章，不代表同意其说法或描述，仅为提供更多信息，也不构成任何建议。文章信息的合法性及真实性由其作者负责，与Redian.news及其运营公司无关。欢迎投稿，如发现稿件侵权，或作者不愿在本网发表文章，请版权拥有者通知本网处理。