重磅!ChatGPT官方API发布:输出100万词只要2.7美金,成本砍掉90%
OpenAI还在不断改进其ChatGPT模型,并希望将增强功能也提供给开发人员。
使用该gpt-3.5-turbo模型的开发人员将始终获得OpenAI发布的稳定模型,同时仍然可以灵活地选择特定模型版本。例如,今天发布的gpt-3.5-turbo-0301,它至少会在6月1日之前推出特定版本,OpenAI会将gpt-3.5-turbo在4月更新到新的稳定版本。
API地址:
https://api.openai.com/v1/chat/completions
OpenAI官方宣布,其发布的ChatGPT模型系列与ChatGPT产品中使用的模型相同,对于许多非聊天应用场景,这仍然是他们的最佳模型。
一些早期的开发人员,从“text-davinci-003”模型迁移至“gpt-3.5-turbo”只需根据提示进行少量调整。
一般情况下,GPT模型数据使用的是电子邮件文本、推特信息、博客、新闻等信息中的非结构化文本,这些文本在模型中表现为一系列的“Tokens”,tokens可以被看作将文本切分成的若干个片段,1000个tokens大约是750个单词。
而ChatGPT则改为使用一系列消息和元数据的新格式。在底层,输入仍然以tokens序列呈现给模型,模型使用的原始格式就变为一种聊天标记语言ChatML的新格式。
OpenAI创建了一个新端点来与ChatGPT模型进行交互。
例如一个简单的字符串“ChatGPT is great!”,就被编码为六个tokens:“Chat”、“G”、“PT”、“ is”、“ great”、“!”.
OpenAI提供了一种工具来检查解释一串文本需要多少标记,并介绍称一般的经验法则是一个token通常对应于约4个字符。
OpenAI还将为希望控制特定型号版本和系统性能的用户提供专用实例(Dedicated instances),也就是希望通过API运行大量数据的开发人员。
默认情况下,开发人员是按照需求来付费,并且这些需求会执行在共享的计算基础设施之上。使用专用实例,开发人员将按照时间段支付,分配计算基础设施的费用,而这些基础设施就是专门为这些开发人员保留的。
专用实例下,开发人员可以更好地控制使用的模型,包括希望它响应请求需要的时间以及与机器人对话可以持续多长时间等。
对于每天运营超过4.5亿tokens的开发人员来说,专用实例可能性价比更高。
此外,这一条件下还可以根据硬件性能直接优化开发人员的工作负载,这可以显著降低与共享基础设施相关的成本。
此前已经有几家公司接入ChatGPT API来创建聊天界面。
照片分享应用Snap,本周推出通过ChatGPT API接入的“My AI for Snapchat+”功能,其提供了一个友好的、可定制的聊天机器人。用户通过手机就可以与它聊天获得建议,并在几秒内为朋友写一个笑话。
单词背诵应用Quizlet推出了Q-Chat,可以让学生通过有趣的聊天体验中提供的学习材料,来提出相应问题获得知识。
生鲜电商平台Instacart计划在今年晚些时候推出“Ask Instacart”,这一功能可以帮助用户在询问食物相关问题时获得一些想法,例如用户可以问“对我的孩子来说,什么是健康的午餐?”
跨境电商平台Shopify的新购物助手,将会根据购物者的需求进行个性化推荐,通过扫描数百万种产品来简化应用程序内购物的步骤,以快速找到买家正在寻找的东西。
除了引人关注的ChatGPT API外,OpenAI AI驱动的语音转文本模型也可以通过API接入,该公司正在对其开发人员服务条款进行一些重要更改。
微信扫码关注该文公众号作者