Redian新闻
>
豆包大模型价格出炉!超高并发,“后付费”支持每分钟万次请求

豆包大模型价格出炉!超高并发,“后付费”支持每分钟万次请求

公众号新闻
允中 发自 凹非寺
量子位 | 公众号 QbitAI

近期,火山引擎官网更新了豆包大模型的定价详情,全面展示豆包通用模型不同版本、不同规格的价格信息。

在模型推理定价大幅低于行业价格的基础上,豆包通用模型的 TPM(每分钟Tokens)、RPM(每分钟请求数)均达到国内最高标准。以豆包主力模型pro-32k为例,价格比行业低99%,TPM限额则高达同规格模型的2.7倍到8倍。

图:豆包系列模型“后付费”定价信息

官方信息显示:在按照 Tokens 实际使用量计算费用的“后付费”模式下,豆包通用模型-pro、豆包通用模型-lite的32k及以下窗口版本,模型限流为10K RPM和800K TPM(以RPM和TPM其中之一到达上限为准)。国内其他主流模型的TPM限额大多在100K到300K之间,RPM则是在60到120区间,轻量级模型的RPM限额相对较高,但仅仅在300到500之间。

按照10K RPM限额计算,企业客户平均每秒可以同时调用167次豆包通用模型,从而满足绝大多数业务场景在生产系统的大模型应用需求。这一标准,已经达到OpenAI为高级别客户(Tier4及Tier5等级客户)提供的RPM上限。

在算力挑战更大的长文本模型上,豆包通用模型pro和lite的128k版本,模型限流为1K RPM和400K TPM,同样大幅高于国内其他的128k长文本模型。

此外,豆包大模型公布了最新的“预付费”模型单元价格。“预付费”是以调用某个特定模型的TPM配额,企业购买后无需再为Tokens消耗付费,提前为可以预见的流量波动规划好算力。

图:豆包系列模型“预付费”模型单元价目表

豆包通用模型pro-32k为例:

按照 “预付费”模型单元价格计算,10K TPM的包月价格为2000元。10K*60*24*30=43200K。即432000K Tokens的价格为2000元,平均价格为0.0046元/千Tokens。

按照“后付费”模式计算:在模型推理的计算成本中,推理输入通常占绝大部分比例,业界一般认为推理输入是输出的5倍。根据豆包通用模型 pro-32k 推理输入0.0008元/千Tokens、推理输出0.002元/千Tokens计算,模型推理的综合价格为0.001元/千Tokens。

火山引擎方面表示,豆包大模型为客户提供了灵活、经济的付费模式,“后付费”即可满足绝大多数企业客户的业务需求,助力企业以极低成本使用大模型、加速大模型的应用落地。

“豆包模型的超低定价,来源于我们有信心用技术手段优化成本,而不是补贴或是打价格战争夺市场份额。”火山引擎总裁谭待认为,“羊毛出在猪身上”在企业市场行不通,技术驱动的极致性价比才能真正创造价值。

火山引擎与字节跳动豆包大模型团队正在密切合作,将持续优化模型效果和推理成本,为企业和开发者提供更好模型、更低成本和更易落地的平台支持。

附:火山引擎官网的模型服务价格文档
https://www.volcengine.com/docs/82379/1099320

—  —

点这里👇关注我,记得标星哦~

一键三连「分享」、「点赞」和「在看」

科技前沿进展日日相见 ~ 


微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
老便宜了!字节跳动豆包大模型开始营业,一元钱能买125万Tokens,月活用户量达2600万字节豆包大模型发布!“比行业价格低99%”,对话火山引擎总裁谭待go高并发之路——go语言如何解决并发问题余承东透露江淮合作新车型,对标劳斯莱斯/微软生成式 AI 开发中心支持 GPT-4o /阿里云、百度主力模型价格大降/深扒大模型价格战:15家45款模型比拼,谁真便宜谁“打幌子”?中国大模型价格战背后的真相一周必读丨大模型价格战燃起;6·18拉力赛开跑,你打算买买买吗?大模型价格战,还能再狠一点百川智能王小川:大模型价格战是好事;智源发布全球首个低碳万亿语言模型Tele—FLM丨AIGC日报字节发布豆包大模型,内部人士回应微软中国AI团队赴美,TikTok创作者诉美联邦政府,长城炮回应事故,这就是今天的其他大新闻!此心安处是吾乡再回首 (二十五)大模型价格战警示:创新是必修课go高并发之路—go语言如何解决并发问题豆包大模型团队发布全新Detail Image Caption评估基准,提升VLM Caption评测可靠性豆包大模型家族发布、火山方舟升级,火山引擎如何打造全栈AI技术服务?iPhone 和 iPad 将升级眼球追踪功能;字节豆包大模型全面开启商业化;蔚来第二品牌发布首款新车 | 极客早知道《来到遥远的地方》&《三春序》大模型价格战背后的真相祈雨国家卫健委:2024年将推进“先诊疗后付费”等新模式!依靠信用,“花呗”版看病真的来了!意味着什么?AI大模型价格战开打,一年决胜负?OpenAI发布新旗舰模型GPT-4o;字节跳动正式发布豆包大模型|AIGC周观察第四十三期豆包大模型深度体验,除了便宜,还有哪些亮点?大模型价格进入“厘”时代,豆包大模型定价每千tokens仅0.8厘降价!免费!圈地!大模型价格战卷到飞起“小爱同学”接入豆包大模型,小米SU7已搭载;宁德时代、比亚迪竞赛超充,动力电池将进入6C时代丨汽车交通日报21.99 万元起,蔚来发布乐道汽车/微软内部人士回应中国AI团队赴美/字节发布豆包大模型英伟达市值一天暴涨1.6万亿,黄仁勋身家超6000亿;阿里降价97%、百度宣布免费,AI大模型价格战“杀疯了”丨AI周报三星中国 AI 合作:豆包大模型奥特曼昨晚放话也要把大模型价格打下来!微软一夜革新生产力:Copilot 贯穿全场、小模型持续炸街go高并发之路——缓存击穿字节跳动打响大模型价格战?价格比同行低99.3%,称不用亏损换收入王小川:不烧钱推AI应用、大模型价格战是云厂商的游戏个人感慨之121 世道太黑暗
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。