开源日报 | 微软AI程序员登场,马斯克开源Grok;Open-Sora全面开源
欢迎阅读 OSCHINA 编辑部出品的开源日报,每天更新一期。
# 2024.3.18
今日要点
马斯克开源 Grok
马斯克旗下的 xAI 正式宣布在 Apache 2.0 协议下开源了大模型 Grok-1 的基本模型权重和网络架构。其参数量达到 3140 亿,远超 Meta 的 Llama 2 的 700 亿、Mistral 8x7B 的 120 亿以及 OpenAI GPT-3.5 的 1750 亿;这也是迄今参数量最大的开源大语言模型。
根据介绍,Grok 基础模型基于大量文本数据进行训练,未针对任何特定任务进行微调。其架构于 2023 年 10 月使用 JAX 和 Rust 之上的自定义训练堆栈开发,融合了神经网络设计的创新方法。该模型将 25% 的权重用于给定 token,旨在提高效率和有效性。
历时 20 年,GnuCOBOL 已达到工业成熟度
OCamlPro 创始人兼 GnuCOBOL 贡献者 Fabrice Le Fessant 表示,经过 20 年的发展,开源 GnuCOBOL“已经达到了工业成熟度,可以在所有环境中与专有产品竞争。”
今日观察
今日推荐
https://github.com/JanDeDobbeleer/oh-my-posh
事件点评
每日项目榜
获取新鲜开源资讯
网罗全球开源软件
畅读硬核技术文章
品味高级趣味梗图
「设为星标」⭐
微信扫码关注该文公众号作者
戳这里提交新闻线索和高质量文章给我们。
来源: qq
点击查看作者最近其他文章