Redian新闻
>
致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑

致敬TempleOS,有开发者创建了启动Llama 2的操作系统,网友:8G内存老电脑就能跑

公众号新闻

机器之心报道

编辑:杜伟

不得不说,Llama 2 的「二创」项目越来越硬核、有趣了。

自 Meta 发布开源大模型 Llama 2 以来,围绕着该模型的「二创」项目便多了起来。

此前 7 月,特斯拉前 AI 总监、重回 OpenAI 的 Andrej Karpathy 利用周末时间,做了一个关于 Llama 2 的有趣项目 llama2.c,让用户在 PyTorch 中训练一个 baby Llama 2 模型,然后使用近 500 行纯 C、无任何依赖性的文件进行推理。


今天,在 Karpathy llama2.c 项目的基础上,又有开发者创建了一个启动 Llama 2 的演示操作系统,以及一个调用用户模式助手进行 Llama 2 推理的内核模块。该项目名为 Llama 2 Everywhere(简称为 L2E)。

不过,作者也表示,当前的系统要求是 512MB RAM 和 x86_64(64 位)PC,可用性有待提升。

同时,这个项目还藏有一些彩蛋,比如《毁灭战士》游戏,不过必须解答谜题才能找到它。


项目地址:https://github.com/trholding/llama2.c

Andrej Karpathy 也转发了这个新项目,表示它具备了「独立运行、二进制、便携和可启动」等特性。他预计自己的 llama2.c 项目将走向成功,这个新项目扩展了想象力。


L2E 得到了各路网友的认可,有人表示,这真是太棒了。基本上可以在任何旧笔记本上启动,并且可以仅在 CPU 上运行,8G 内存就够了,16G 更好。


也有人觉得该项目非常像为上帝开发的操作系统 TempleOS(它由已故天才程序员 Terry Davis 独自开发),但项目作者表示自己只是对 Terry 和 TempleOS 的致敬。

L2E 仅仅使用 Linux 内核和一些知识构建了一个操作系统,与 Terry 从头开始构建的操作系统存在天壤之别。


接下来了解一下 L2E 项目的初衷、Demo 和特性。

L2E 项目介绍

项目作者表示,L2E 旨在确保其在各种设备上的兼容性,比如在 chromebook 上启动、在企业高密度 unikernel 上部署。

未来,通过利用大量具备适度硬件要求的网络化、分布式和自协调的小规模专业 LLM,该项目有潜力释放超越单个大规模 LLM 的群体智慧。

目前,L2E 显著的用例是在不同文本源上训练小规模模型,包括教科书、开放书籍和 SlimPajama 语料库等。这些经过训练的模型使用 L2E 进行部署,从而作为可启动实例在老旧过时的学校计算机上运行。这种部署方案可在互联网连接有限或网络不可用的学校图书馆或教室中发挥重要价值。

项目的最终目标是创建一个包容性的 AI 生态系统,能够适应多样化的环境,并在全球范围内为个人和社区赋能。

此外通过使用各种硬件遥测数据训练,希望模型能够学会解释传感器输入并根据从传感器输入中收集的 insight 来控制执行器。这一研究方向可能会在自动化、太空、机器人和物联网等领域发挥作用,而 L2E 将对弥合 AI 和物理系统之间的差距发挥关键作用。

L2E Demo 展示

项目作者展示了启动 Llama 2 的一些示例。

如下为 Linux 内核的 L2E 操作系统,现在可以在计算机上真正启动并推理 Llama 2 模型了。



此外可以做 cat /dev/llama 并回显 "Sudo make me a sandwich!" > /dev/llama 等命令,或者传递一个内核参数 l2e.quest="What is the meaning of life?"。


最后还可以在大型企业服务器上启动并推理一组 1000 个 Virtural Baby Llama 2 模型。


L2E 具备很强的便携性,可以在任何 x86_64 操作系统上运行单个可执行文件,比如 Windows、GNU Linux、GNU/Systemd、NetBSD、OpenBSD 等。独立性则表现在可以通过 ZipOS (cosmocc)、INCBIN、strliteral 嵌入模型和 tokenizer。L2E 可以在 CPU/GPU 上运行。


更多细节内容请参阅原项目。



© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:[email protected]


微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
硬核观察 #1179 苹果公司暂停开发明年的操作系统,以修复软件错误250刀Xiaomi Mi 11 Lite (64MP Triple Camera 8GB RAM 128GB ROM)通用人工智能时代的操作系统,到底该长啥样?vivo已抢先交卷了77 万打水漂?App 遭山寨后,开发者找库克控诉:你们审核犯了错,把我的开发者账户封了!深度操作系统 deepin 宣布 DTK 开发框架已完成基于 Qt6 的全面升级第九章 政府公权力的组织运作 (1)留学生找工作be like:质疑BOSS,理解BOSS,成为BOSS......「和众科技」完成Pre-A与Pre-A+两轮数千万融资,专注Matter标准下开发者操作系统|36氪首发手机操作系统三分天下,鸿蒙系统明年将不兼容安卓?回应来了3 天手写个自己的操作系统,实现了!| 极客时间苹果副总裁回应 “黄金内存”:「统一内存架构」的8GB近似于其它系统的16GB32G内存电脑到手变16G?联想:销售页参数标错马萨诸塞州 2023 年 STEM 周启动 主题为“您的 STEM 未来就是我们的 STEM 未来”越得不到,越念念不忘。。。。。东风联手一汽、长安打造操作系统,微信支付互通三大运营商,阿维塔一天大定超5000台,今年或成史上最暖年,这就是今天的其他大新闻!2023 国产服务器操作系统发展报告发布:服务器操作系统进入 2.0 时代,面向云计算、智能计算进化操作系统级ChatGPT爆火,实测让电脑自己整理桌面,Mac/Windows/Linux都支持当今外国人在中国的境遇,一言难尽把LLM视作操作系统,它就拥有了无限「虚拟」上下文,伯克利新作已揽1.7k star消息称苹果 M3 芯片 Mac 电脑将淘汰 8GB 内存,各版本机型以 12GB 起步雷军建议大家少刷手机;特斯拉又宣布降价;M3 Mac将淘汰8G内存吹尽黄沙不见金(七十二):豆腐锅放弃了启蒙冲动,突然理解了什么叫海阔天空VS Code史上呼声最高的特性终于实现;vivo发布自研操作系统蓝河 (BlueOS) | 周热点小米官宣平板手表新品;曝iPhone15Pro还是6G内存;荣耀回应华为满血回归的影响微信占100G内存上热搜,清理教程来了!vivo 发布基于 Rust 的操作系统,全球首款?字节跳动宣布除夕统一放假;大妈招女婿要求大模型从业人员 | Q资讯优雅的观叶植物,瓜叶海棠国汽智控ICVOS,双解耦操作系统助力车企升级|年度好产品入围公示全球首款开源实时操作系统!开发了 20 多年、部署在超 120 亿台设备上的 ThreadX 正式开源最好7B模型再易主!打败700亿LLaMA2,苹果电脑就能跑|开源免费差点儿取代Linux,这对儿夫妻写的操作系统让人惋惜!小米推出全新操作系统澎湃OS,网传威马董事长迁居美国,中国高速动车组首次出口欧洲,华为回应推出花瓣支付,这就是今天的其他大新闻!「和众科技」完成Pre-A与Pre-A+两轮数千万融资,专注Matter标准下开发者操作系统丨早起看早期阅文集团进军短剧,重金征剧本;理想汽车10月销量首次突破4万辆;vivo发布自研蓝河操作系统BlueOS……
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。