Redian新闻
>
等不来自家大模型,火山引擎先搭了一个模型​「货架」|最前线

等不来自家大模型,火山引擎先搭了一个模型​「货架」|最前线

公众号新闻

还没有自研模型基座,那先就拉AI强者组局。



周鑫雨

编辑邓咏仪

来源智能涌现(ID:AIEmergence)

封面来源IC photo
尚未推出自研模型基座的字节跳动,先和第一梯队的模型厂商攒了个局。
6月28日,字节跳动云服务平台火山引擎推出了大模型服务平台“火山方舟”,面向企业提供包括精调、评测、推理等在内的模型服务。
这个时间点并不算早。此前,BTA、商汤、360等国内互联网企业已经纷纷推出了MaaS(模型服务)平台,抢占先发优势。多数MaaS平台的服务模式大同小异:以厂商自研的通用大模型或数个行业大模型为基座,再推出相应的模型服务。
姗姗来迟的字节走的是差异化路线。没有自研模型基座,那就拉强者组局——火山方舟宛如国内第一梯队模型厂商的“陈列柜”,集成了智谱AI、MiniMax、百川智能、出门问问、复旦大学MOSS、IDEA研究院、澜舟科技七家科技公司及科研机构的大模型。
火山引擎总裁谭待
性价比、低成本是火山方舟强调的第一个特性。
随着AI赛道从大炼模型的投入期,逐渐到了落地场景的应用期,愈来愈多做AI应用的厂商开始重视模型服务的“性价比”。火山引擎总裁谭待在采访中指出:“一个企业未来一定会在多个场景应用多个模型,因为每个模型在不同场景性价比是不一样的。”
与此同时,火山引擎智能算法负责人吴迪判断,训练大模型很昂贵,但是从长期来看,模型的推理开销会超过训练开销。
谭待在访谈中打了个比方:大模型好比工资高的博士,不少应用场景则好比小学数学题,付费让博士去解小学数学题显然是不合理的——这也迫使不少厂商选择精调后的中小模型,在获得媲美大模型效果的同时,降低推理成本。
组团合作的亮点在于,可让用户像搭积木一样选择适应自身业务需求、且具高性价比的模型组合。与此同时,火山方舟还提供了模型精调和评测服务,客户可同时对接多家大模型,并通过自动化和人工评估精调后的模型效果。
数据安全,则是火山方舟强调的第二个特点。
大模型私有化部署是目前最为安全的方案,也是国内客户更容易接受的形式,但也意味着企业将承担更高的部署成本。为此,火山方舟推出了大模型安全互信计算方案,用计算隔离、存储隔离、网络隔离、流量审计等方式保证模型的机密性、完整性和可用性——简而言之,就是给不同企业的数据分别建了保险柜。
但相对地,企业也需要牺牲部分的训练推理速度。吴迪指出,大模型安全互信计算方案适用于对训练和推理延时要求较低的客户;火山正在与英伟达合作,基于英伟达新一代硬件探索安全方案。
不过,卖模型弹药的字节,最终仍会亲自上大模型的战场。强调火山引擎本身不训练模型的同时,谭待表示:“字节内部其他团队,如果做好了模型,大概也会上到方舟平台上对外提供,它在方舟上就是众多模型的一个。”

36氪旗下AI公众号

真诚推荐你关注

来个“分享、点赞、在看”👇

火山引擎搭建一个模型“货架”

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
独家丨理想汽车智算中心进展:牵手火山引擎,定址山西灵丘,预计三季度建设完成王坚或将正式回归阿里云,阿里云重整旗鼓|最前线英伟达,在大模型浪潮下躺赢|最前线罗德湖闲步第 五 章巴奴再回应重新上架「天价土豆」:搭建产业链需要花钱,土豆会继续迭代|最前线长城举报比亚迪热销车型蒸发排放不达标|最前线未来一年4K修复百部经典港片 | 抖音、火山引擎、中国电影资料馆发起“经典香港电影修复计划”“视象新生”火山引擎视频云&AIGC技术大会开幕在即行业观察|火山引擎,不做自有大模型的逻辑和打法火山引擎首次发布自研视频芯片,“抖音同款”走向千行百业抖音亲自下场搞配送,先搭算法班子|前线拜登公布碳排放新规,要求火电厂减排90%|最前线李开复的新AI公司登陆大模型战场,百亿级模型已内测|最前线火山引擎给大模型造大底座!MiniMax、智谱AI等已登陆菜鸟开放自营业务​「菜鸟速递」,董事长蔡崇信首次亮相发声|最前线Midjourney进军中国属实,上线QQ频道内测|最前线冷却的不止季节(57)— 狗吠「360智脑大模型4.0」正式发布,支持文生视频,已接入360全家桶|最前线钮祜禄·Meta:发布最强开源新模型Llama 2,拉拢微软做盟友|最前线未曾到过的新疆“视象新生”火山引擎视频云&AIGC技术大会邀你踏入新“视界”国产特斯拉正式出口加拿大|最前线腾讯云发布多个行业大模型解决方案,提供MaaS服务|最前线“视象新生”火山引擎视频云& AIGC 技术大会开幕在即 | Q 推荐对话火山引擎马茜——如何更好平衡“性能、成本、画质”这三角的关系?网易游戏520发布会落幕,《蛋仔派对》UGC玩法延展至更多游戏|最前线字节造芯新进展:编码提升30%、转码“以一当百”,将服务火山引擎百度智能云:千帆大模型平台接入Llama2等33个模型,推理成本可降低50%火山引擎发布“火山方舟”;微信广告上线看一看焦点卡片广告;美特斯邦威以3亿元出售房产自救……发发奇恢复增长,奢侈品电商又行了?|最前线火山引擎推出大模型平台;云知声提交上市申请;联通推出首个运营商大模型丨AIGC大事日报多语言、异构计算,火山引擎开源多媒体框架 BMF,完全兼容 FFmpeg传比亚迪电池配套欧版特斯拉,官方:不予置评|最前线水调歌头 春收入五月
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。