logo
Redian新闻
>公众号
>
Meta开源Code Llama，号称编程领域 “最先进的大语言模型”

Meta开源Code Llama，号称编程领域 “最先进的大语言模型”

公众号新闻
出品 | OSC开源社区（ID：oschina2013)
Meta 昨日开源了号称是编程领域 “最先进的大语言模型”——Code Llama，可根据代码和自然语言提示生成代码和有关代码的自然语言，支持多种主流编程语言，包括 Python、C++、Java、PHP、Typescript (Javascript)、C# 和 Bash。
Code Llama 完全免费，可用于研究和商业用途，并已在 GitHub 发布：https://github.com/facebookresearch/codellama。
Code Llama 基于 Llama 2 大语言模型打造，提供了三种模型：

  • Code Llama - 基础代码模型

  • Code Llama - Python - 专门针对 Python 进行优化

  • Code Llama - Instruct - 专门用于理解自然语言指令

运行示例

  • 根据自然语言生成代码

  • 解释代码功能 / 结构

Code Llama 提供了三种不同大小的模型，分别具有 7B、13B 和 34B 参数，可以用于代码补全和调试。每个模型都使用 500B 代码 tokens 和代码相关数据进行训练，此外 7B 和 13B 基础模型和指令模型经过了中间填充 (FIM) 功能的训练，支持在现有代码中插入代码的功能。
Meta 表示这三种不同大小模型满足了不同的服务和延迟要求。例如，7B 模型可以在单个 GPU 上运行。34B 模型返回最佳结果并提供更好的编码辅助，但较小的 7B 和 13B 模型速度更快，更适合需要低延迟的任务，例如实时代码补全。
根据 Meta 提供的数据，Code Llama 在流行的编码基准测试 HumanEval 和 Mostly Basic Python Programming (MBPP) 上的性能优于现有解决方案，并与 ChatGPT 相当。
相关链接：https://ai.meta.com/blog/code-llama-large-language-model-coding/

往期推荐



微软Excel集成Python，龟叔参与架构制定
一份基于开源软件的解决方案，坑了我 2 万元 ！
对标华为鸿蒙OS？小米自研操作系统疑曝光


这里有最新开源资讯、软件更新、技术干货等内容

点这里 ↓↓↓ 记得 关注✔ 标星⭐ 哦


微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
来源: qq
点击查看作者最近其他文章
相关阅读
长篇小说《如絮》第一百四十三章 旧金山-2005年 第一步大语言模型综述全新出炉：51页论文带你盘点LLM领域专业化技术苹果AIGC招兵买马！挖角Meta，数十个大语言模型岗位招聘大模型竞争突然升级！亚马逊 CEO 亲自监督、组建新的核心技术团队，集中优势资源打造“最具野心”的大语言模型人手一个编程助手！北大最强代码大模型CodeShell-7B开源，性能霸榜，IDE插件全开源大型语言模型专场上线！四位AI新青年直播讲解MiniGPT-4、LLaVA、Gorilla以及大型语言模型Token危机张晓燕：金融领域正迎来大语言模型的巨大机遇硬核观察 #1070 社区批评 Meta 滥用“开源”来称呼其新大语言模型开源打败闭源？Meta即将推出开源代码生成平台Code Llama，剑指OpenAI Codex微软开源TypeChat库，给大语言模型换种提示，一行代码安装给大语言模型“开个眼”，看图说话性能超CLIP！斯坦福等新方法无需多模态预训练丨开源阿里云开源通义千问多模态视觉模型，号称“远超同等规模通用模型表现”外星人和troll的关系？现在的空气污染指数是190大语言模型真能“理解”语言吗？她明说： 就是限制最先进的芯片！微软发布 Guidance 语言，用于控制大语言模型MetaMath：新数学推理数据集揭秘，让大语言模型突破逆转诅咒逼近GPT-4，AI编程要革命！Meta开源史上最强代码工具Code Llama一文速览大语言模型在分子领域中的探索MIT惊人再证大语言模型是世界模型！LLM能分清真理和谎言，还能被人类洗脑开源打败闭源？Meta 即将推出开源代码生成平台 Code Llama，剑指 OpenAI Codex破局之作：首部开源 AIGC 软件工程应用电子书《构筑大语言模型应用：应用开发与架构设计》如何看待陈丹琦等大佬创建的大语言模型会议COLM？对战GPT，Meta开源Code Llama!!!引入大语言模型、首个支持国产算力生态，全新开源RL框架RLLTE来了解锁通用听觉人工智能！清华电子系联合火山语音，开源全新认知导向听觉大语言模型ICCV 2023 | 基于预训练视觉语言模型和大语言模型的零样本图像到文本生成MIT惊人证明：大语言模型就是「世界模型」？吴恩达观点再被证实，LLM竟能理解空间和时间面向真实用户需求的中文大语言模型评测第二期（LLMEVAL-2）发布改写游戏规则！Meta开源大语言模型Llama 2，可免费商用；微软Copilot定价每月每用户30美元 | 环球科学要闻Stability AI进军编程领域，发布首个用于代码生成的大语言模型知乎 CEO 周源回应匿名功能下线；腾讯光子收购英国游戏开发商；Meta 开发新文生图大模型，号称业界最佳 | 极客早知道莲花，超脱红尘纽约州莫霍克山屋(Mohonk Mountain House)，湖边山顶
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章，不代表同意其说法或描述，仅为提供更多信息，也不构成任何建议。文章信息的合法性及真实性由其作者负责，与Redian.news及其运营公司无关。欢迎投稿，如发现稿件侵权，或作者不愿在本网发表文章，请版权拥有者通知本网处理。