Redian新闻
>
谷歌的又一波反击!开放大语言模型PaLM API

谷歌的又一波反击!开放大语言模型PaLM API

公众号新闻

机器之心报道

编辑:小洲

事到如今,OpenAI 的 ChatGPT 在 AI 社区的统治地位已经无需多言。特别是 OpenAI 开放 ChatGPT 的 API 之后,在开发者社区掌握了极大的话语权。

反观谷歌那边,在第一波发布 Bard 失利之后,一直处于沉默状态。

但在今日,谷歌组织了第二波反击:开放自家的大语言模型 API 「PaLM API」,此外今天谷歌还发布了一款帮助开发者快速构建 AI 程序的工具 MakerSuite。谷歌表示,此举是为了帮助开发者们快速构建生成式 AI 应用。


但略为遗憾的是,谷歌目前是向选定的开发人员提供这些工具,而非全面开放。

基于 PaLM 模型的 API

毫无疑问,PaLM API 是今天谷歌发布的公告的核心。

谷歌介绍称,PaLM API 是 Google 大型语言模型的入口,可用于各种应用程序。它将为开发者提供面向对轮交互而优化的模型,如内容生成与对话。它也能为开发者提供摘要、分类等多种任务的通用模型。


从名字可以开出,此次开放的大语言模型 API 是基于谷歌去年发布的 PaLM。这是谷歌基于 Pathways 系统训练的一个 5400 亿参数的大型语言模型。

为了训练这个模型,谷歌动用了 6144 块 TPU,让 Pathways 在两个 Cloud TPU v4 Pods 上训练 PaLM。

强大的系统和算力投入带来了惊艳的结果。谷歌在数百个语言理解和生成任务上评估了 PaLM,发现它在大多数任务上实现了 SOTA 少样本学习性能,可以出色地完成笑话解读、bug 修复、从表情符号中猜电影等语言、代码任务。

随着规模的增加,模型在处理多个任务时的性能逐渐提高,而且还在不断解锁新的能力

关于 PaLM,读者们可以查看论文《PaLM: Scaling Language Modeling with Pathways》。

此外,谷歌公告称,后续会开放更多规模与功能不同的模型。PaLM 是谷歌选择的第一个版本,所以后续我们也可以期待下 LaMDA API 等。

MakerSuite 工具

在过去的几年里,谷歌一直在构建和部署大型语言模型 —— 从将 MUM 引入搜索到在 AI Test Kitchen 中使用 LaMDA 构建 APP。谷歌表示,开发人员必须使用不同的工具来完成任务,例如制作和迭代 prompt、生成合成数据以及精调自定义模型。

MakerSuite 是一种简化此工作流程的工具,让用户将能够根据 prompt 进行迭代,使用合成数据扩充数据集,并轻松调整自定义模型。当你准备好编程时,MakerSuite 允许将 prompt 导出为你最喜欢的语言和框架(如 Python 和 Node.js)的代码。

谷歌表示,借助 MakerSuite,你能够直接在浏览器中快速测试和迭代调整后的模型。


最后补充一句我们观察到的结果:谷歌今日的两篇博客发布后,似乎已经引起了一些人的不满:并非全面开放、也没有定价。也许,可以说相比之前 ChatGPT API 的开放,谷歌这一波反击,也略显失败。


原文链接:https://blog.google/technology/ai/ai-developers-google-cloud-workspace/

探寻隐私计算最新行业技术,「首届隐语开源社区开放日」报名启程


春暖花开之际,诚邀广大技术开发者&产业用户相聚活动现场,体验数智时代的隐私计算生态建设之旅,一站构建隐私计算产业体系知识:

  • 隐私计算领域焦点之性

  • 分布式计算系统的短板与升级策略

  • 隐私计算跨平台互联互通

  • 隐语开源框架金融行业实战经验

3月29日,北京·798机遇空间,隐语开源社区开放日,期待线下面基。

点击阅读原文,立即报名。

© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:[email protected]

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
可复现、自动化、低成本、高评估水平,首个自动化评估大模型的大模型PandaLM来了谷歌发大模型PaLM 2对抗GPT-4,生成式AI融入谷歌搜索,急切反击背后,搜索摇钱树要倒?荒诞华夏的操蛋事单卡就能跑的大模型等效GPT-3!Meta发布大语言模型LLaMA,大小从7B到65B不等Stable Diffusion公司重磅开源大语言模型StableLM,又爆火了!第二次徒步圣路,750公里葡萄牙之路+英国之路:D30~惊魂难定大语言模型(LLM)分布式训练框架总结对标GPT-4!谷歌发布大语言模型PaLM 2,可在手机运行,云、搜索、电邮等一网打尽!全民K歌《我是你的格桑花》我们做了一个大模型测试集「Z-Bench」,300个问题全方位考察大语言模型能力Meta最新语言模型LLaMA论文研读:小参数+大数据的开放、高效基础语言模型阅读笔记大语言模型,中国这次能不能支棱起来?为什么现在的大语言模型(LLM)都是Decoder-only的架构?大语言模型: 新的摩尔定律?从LLM到MLLM,多模态大规模语言模型KOSMOS-1赋予了语言模型看见世界的能力​发布大模型PaLM 2,谷歌背水一战|甲子光年终结者最强大脑!谷歌发布史上最大「通才」模型PaLM-E,5620亿参数,看图说话还能操控机器人谷歌不服输:大模型PaLM2剑指GPT-4,Bard会写20种代码,推出办公助手「Duet A​I」为什么我不吃益生菌类补品?大语言模型沸腾:文心一言「重塑」百度丨智氪首款人类粪便制成的口服药获美国FDA批准;谷歌本周将发布最新大语言模型PaLM 2|环球科学要闻由ChatGPT反思大语言模型(LLM)的技术精要王兴投资王慧文 ChatGPT 项目;谷歌发布全球最大视觉语言模型 PaLM-E;自如考虑赴港上市 | 极客早知道谷歌的野心:通用语音识别大模型已经支持100+语言ChatGPT爆火,LeCun心态崩了!称大语言模型是邪路,Meta模型3天惨遭下线重磅!谷歌全新语言模型PaLM 2挑战GPT-4;格力:孟羽童已离职;阿里巴巴取消CTO职位丨邦早报必应发狂了! LeCun马库斯齐喷ChatGPT:大语言模型果然是邪路?早财经丨格力称孟羽童已离职;天舟六号与空间站完成交会对接;谷歌发布AI语言模型PaLM 2,挑战GPT-4“文心一言”未至先火,大语言模型加持将开启百度发展新纪元性能超越GPT-4!谷歌推出大语言模型PaLM 2,全面升级Bard反击ChatGPT|环球科学要闻7 Papers & Radios | Meta「分割一切」AI模型;从T5到GPT-4盘点大语言模型吃在邮轮UC伯克利发布大语言模型排行榜!Vicuna夺冠,清华ChatGLM进前5谷歌I/O开发者大会发布全新大语言模型,反超GPT-4!办公全家桶炸裂升级,还带来了首款折叠屏手机NLP大规模语言模型推理实战:大语言模型BLOOM推理工具测试实践与效果分析实录
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。