扎克伯格最新2万字访谈:价值百亿美金的“最强开源大模型”Llama3及背后的一切
最小参数的Llama3 80亿和最大参数的上一代Llama2 700亿模型性能是同一量级,而最强大的4050亿参数版本还在路上。 Llama 3的出现证实了大规模数据和计算资源对于AI模型的重要性,AI正在从一个"问答"工具,转变为一个更广义的"推理"系统,它需要理解问题的上下文,融合多方面知识并运用逻辑推理得出结论。 多模态是Meta重点关注的领域,特别关注的一个模态是情感理解,如果能够在这方面取得突破,使人工智能能够真正理解并表达情感,那么人与机器之间的互动将会变得前所未有的自然和深入。 AI确实会改变人类的工作方式,有望显著提高程序员的工作效率,但AI的出现不是试图取代人类,而是希望通过这些工具,赋予人们更强大的能力,让他们能够完成更多以前难以想象的工作。 AI将像电脑的出现一样,从根本上改变人类的生活,带来许多以前不可能的新应用,推理将深刻改变几乎所有的产品形态。 在AI发展遇到GPU瓶颈时,或资金不足问题前,会首先遇到能源问题,如果人类能够解决能源的问题,完全有可能建造出比现在规模更大的算力集群。 我认为未来会出现META AI通用助理产品,每个企业都希望有一个代表他们利益的AI,AI将推进科学、医疗保健和各种领域的进步,最终会影响产品和经济的方方面面。 我认为未来如果人工智能过度集中化,其潜在风险可能不亚于它的广泛传播,如果一个机构拥有比其他所有人更强大的人工智能,这是否也是一件坏事? 我认为训练的发展有多种可能性,其中商品化确实是其中之一。商品化意味着随着市场上选择的增多,训练的成本将大大降低,变得更加亲民。 关于存在性风险的问题确实值得我们深入关注,目前我们更关注的是内容风险,即模型可能被用于制造暴力、欺诈或其他伤害他人的行为。 开源正成为一种全新的、强大的构筑大模型的方式。虽然具体的产品会随着时间的推移不断发展、出现和消失,但它们对人类社会的贡献却是持久的。 Meta可能很快就会在自研芯片上训练大模型,但Llama-4可能还无法做到。
觉得好看,请点“在看”
微信扫码关注该文公众号作者
戳这里提交新闻线索和高质量文章给我们。
来源: qq
点击查看作者最近其他文章