融资 7 亿元后，Mojo 之父实名吐槽：Mojo 太好用了，颤抖吧 C++
Modular Inc. 是一种名为 Mojo 的人工智能编程语言的开发商，最近在 General Catalyst 领投的一轮融资中获得了 1 亿美元（约 7 亿人民币）的资金，Alphabet Inc. 的 GV 初创基金和其他机构支持者也参与其中。该公司计划利用这笔资金改进其人工智能编程语言及其旗舰产品 AI Engine，这是一款旨在提高企业神经网络速度的软件工具。
Modular 公司 CEO Chris Lattner 表示，本轮融资总额达到 1.3 亿美元，所得款项将用于产品扩展、硬件支持和推动自研 AI 编程语言 Mojo 的进一步发展。
Lattner 在邮件采访中解释道，“由于我们所处的技术领域非常深入，因此需要高度专业化的知识作为支撑。因此，本次筹得的资金将主要用于支持团队发展。这笔资金不会主要用于 AI 计算，而是投入到核心产品的改进和扩展当中，用以满足当前 Modular 公司面对的旺盛客户需求。”
作为 LLVM&Swift 之父，Lattner 于 2022 年与 Google Brain 研究部门的前同事 Tim Davis 共同在帕洛阿尔托创立了 Modular 公司。Lattner 和 Davis 都认为 AI 技术面临的核心障碍，就是过于复杂且分散的技术基础设施。为此二人决定成立 Modular，专注于消除 AI 系统大规模构建与维护所带来的复杂性挑战。
同时，Lattner 也曾在社交媒体 X 上吐槽，Mojo 的大火对 Python 没有构成威胁，它提升了 Python 程序员的能力并赋予了超能力，如果有哪种语言感受到了威胁，应该是 C++ 和一些难以使用加速器的编程语言。Python 是程序员的心头爱，可当你需要性能的时候，C++ 基本上就是不得不走的“刀山火海”了。
Modular 提供一套引擎，希望在提高 AI 模型在 CPU 上推理性能（对 GPU 的支持将于今年晚些时候推出）的同时，帮助客户实际成本节约。Modular 的引擎能够与现有各云环境、机器学习框架（包括谷歌的 TensorFlow 和 Meta 的 PyTOrch）以及其他 AI 加速器引擎相兼容，目前正处于内部预览状态。Lattner 介绍称，该引擎允许开发人员导入已训练好的模型，并将运行速度提升至达原生框架的 7.5 倍，且无需对现有代码进行任何更改。该平台通过将人工智能模型的代码翻译成 Mojo 语言并应用其他优化来提高硬件效率来实现这一目标。
AI 引擎还利用编译时计算，无需在推理过程中重复计算，从而加快处理速度。此外，它还实现了算子融合，这是一种性能优化技术，将人工智能组件组合成一个更高效的单元，需要更少的硬件资源。
Modular 的另一大旗舰产品则是 Mojo 编程语言，这种语言希望将 Python 的可用性同缓存、自适应编译技术和元编程等功能结合起来。Modular 目前已经开始向“数百名”早期采用者提供 Mojo 的预览版本，并计划在下月初全面对外发布。
Python 由于其简单、简洁的语法而被开发人员广泛用于编写 AI 模型。然而，用 Python 编写的程序可能会遇到性能问题，并且与其他语言相比往往速度较慢。Modular 旨在通过 Mojo 来解决这个问题，Mojo 提供与 Python 几乎相同的语法，但据称速度提高了 35,000 倍。
Python 性能缓慢的原因之一是它的内存安全机制，它可以帮助开发人员避免常见错误，但也会减慢代码执行速度。Mojo 提供了与 Python 类似的内存安全机制，但对性能没有重大影响。此外，Mojo 最大限度地减少了优化 AI 模型以在各种类型的芯片上有效运行所需的手动编码量。
自 6 月首次亮相以来，Modular 的 AI 引擎和 Mojo 编程语言引起了开发人员的极大兴趣，超过 120,000 名开发人员表示对这些技术感兴趣。AI 引擎目前可通过抢先体验计划获得，而 Mojo 将于下月初推出。
Lattner 指出，“我们的开发者平台，将帮助客户乃至全球各地的开发人员整理自己 AI 技术栈中的一个个碎片，在生产流程中快速实现更多创新，并借由 AI 投资实现更多价值。我们正努力解决困扰 AI 技术栈的碎片化问题，借此降低阻碍 AI 整体发展的复杂性因素。而这一切的起点，正是尝试将 AI 软件与 AI 硬件结合起来。”
这样一个目标背后的野心是否过于膨胀？可能有一点，但作为一家拥有 70 名员工的年轻公司，Modular 提出的方案又确实都具备可行性。
由英特尔支持的 Deci，就是一家与 Modular 类似、提供技术以提高已训练 AI 模型效率与性能的初创企业。在同一生态位上的战友还包括 OctoML，他们面向一系列不同硬件提供自动优化、基准测试与打包模型。
无论如何，在 Lattner 看来，市场对于 AI 技术的需求正迅速在可持续性层面逼近极限——换言之，任何能够降低计算强度的方法都将具备巨大价值。正如《华尔街日报》最近发表的一篇报道所言，当前主流生成式 AI 模型的体量一般可达传统 AI 模型的 10 到 100 倍，而大部分公有云基础设施在设计上并不适合此类系统的体量和特性。
而这些现实问题已经开始产生影响。微软在财报中就警告称，运行 AI 所需要的服务器硬件发生严重短缺，可能导致服务中断。与此同时，对 AI 推理硬件（主要是 GPU）的极高需求，已经把 GPU 提供商英伟达的市值推升到了 1 万亿美元。然而，巨大的成功反而也让英伟达自己沦为受害者。据报道，该公司在 2024 年之前所有最高性能级别的 AI 芯片均已被提前预订。
S&P Global 发布的一份 2023 年民意调查显示，受到种种原因的综合影响，顶级企业中超过半数的 AI 决策者都在部署最新 AI 工具方面遭遇到各种各样的障碍。
Lattner 强调，“当前 AI 程序所耗费的算力资源无疑是巨大的，而且现在这种模式根本就不具备可持续性。我们已经感受到计算能力不足以支撑需求的现实问题。硬件成本飞涨，只有财力最雄厚的科技巨头才有资源构建自己的 AI 体系。Modular 的出现就是希望解决这个问题，把 AI 产品和服务变得任何企业都能负担得起、更具可持续性，并以易于上手的方式提供友好支持。”
Modular 公司的 Mojo 编程语言，属于 Python 的一个“快速超集”。
这样的目标当然有其合理性。但考虑到 Python 在机器学习社区中那根深蒂固的江湖地位，我们恐怕很难相信 Modular 真能推动其新语言 Mojo 得到广泛普及。一项调查显示，截至 2020 年，高达 87% 的数据科学家在定期使用 Python。
但 Lattner 仍抱有信心，表示 Mojo 的独特优势将推动其稳步增长。
“关于 AI 应用，人们普遍抱有一种误解，即总是把问题归结于高性能加速器。事实并非如此，当下的 AI 更多是个端到端的数据问题，具体涉及到数据加载、转换、预处理、后处理和网络传输。这些任务以往都是由 Python 和 C++ 完成的，也只有 Modular 和 Mojo 才能把这么多组件真正结合在一起，立足统一的技术底座协同工作，同时不至于牺牲性能和可扩展性。”
他的说法似乎确有道理。Lattner 还声称，自 5 月初 Modular 发布产品主题演讲以来，Modular 社区的开发者数量已经超过 12 万人。多家“领先科技公司”正在使用这家年轻企业的基础设施，还有 3 万家客户正在排队中焦急等待。
他解释道，“Modular 想要打败的最大敌人就是复杂性：只能在特殊情况下起效的软件层代表着复杂性，只能适配特定硬件和性能加速器的底层特性也代表着复杂性。AI 之所以能成为如此强大、极具变革性的技术，正是因为它需要巨大的资源投入和工程努力才能达成如今的规模，需要投入海量人力来构建定制化解决方案，还需要令人咋舌的计算能力来提供一致的结果。Modular 引擎与 Mojo 将共同创造出更公平的竞争环境，而这还仅仅只是开始。”
而且至少从融资的角度来看，Modular 的壮志雄心之下似乎确有一片丰沃的土壤。
参考链接：
https://techcrunch.com/2023/08/24/modular-raises-100m-for-ai-dev-tools/
https://www.verdict.co.uk/modular-raises-100m-in-funding/
用 Rust 拯救 60 岁老程序员：用 Ada 写了几十年的飞机程序，现在终于可以改用 Rust 了
一个潮流的终结？推出仅 3 年后，亚马逊宣布终止低代码 Honeycode 服务，前员工爆料：长期没有顾客！
FCon 全球金融科技大会将于 11 月在上海开幕，会议聚焦当前金融行业遇到的问题，围绕金融企业在数字化转型过程中的痛点，例如数据治理，智能化、数字化风控，数字化投研，数字化营销，IT 技术能力等方向进行深入交流，扫码或点击「阅读原文」可查看全部演讲专题。
👆 Code Review 篇高效能白皮书👆
微信扫码关注该文公众号作者