OpenAI内斗背后:e/acc和EA两拨人吵起来了?有什么值得学的
你好,我是王煜全,这里是王煜全要闻评论。
昨天咱们聊了神秘的Q*算法,不过,在这之外还有一种论调,说OpenAI的内斗背后有两种路线之争。
11月19日,也就是OpenAI宣布解雇Sam Altman的两天后,初创公司SignalRank的CEO Keith Teare在领英上发文说,OpenAI内部分歧的根源是“有效加速主义者”和“有效利他主义者”之间的分裂。
同时,推特上也有很多相同的观点,《路透社》爆料的Q*算法似乎提供了支撑。
结果,越来越多的新闻媒体发布了类似的说法,直到11月28日,还有自媒体发文说Altman是被“有效利他派”扫地出门的。
那么,有效加速主义和有效利他主义究竟是什么呢?两者真的是对抗关系吗?
咱们先说说有效利他主义。2009年11月,牛津大学伦理学家Toby Ord和William MacAskill成立了一个名为“Giving What We Can”的团体,他们倡导每个人捐出10%的收入,用来减少贫困。
2011年,MacAskill又和Benjamin Todd成立了“80000小时”组织,目的是帮助人们做更好的职业规划,为世界做出更大的贡献。
之后,两个组织合并成立了“有效利他主义中心”,MacAskill认为,有效利他主义是在规定的预算内做最大的善事。
相比之下,“有效加速主义”是一个比较新的概念,1个月前我就做过解读,它的全称是effective accelerationism,通常简称e/acc。但它不是一个成熟的理论,更像是一个倡议。
它的核心理念是:技术的进步和扩散不可阻挡,在技术进步的时代,人们应该最大限度地利用技术和创新的力量推动社会发展,在此过程中,任何假设有价值的创新想法都不应该被轻易否定,只要能在未来造福于人类,就应该支持它加速发展。
e/acc实际上是几个推特网友在网上讨论出来的名词,主要人物是@zetular、@BasedBeff和@creatine_cycle,他们在2022年10月发布了有效加速主义的概念解读。
值得注意的是,这篇解读中引用了@zetular的推文,说“e/acc is EA but based”。也就是说,有效加速主义是在有效利他主义基础上发展出来的,属于一个分支。
两者都觉得有价值的实际行动越多越好,而不应该躺平,所以都强调“有效”。
但是,很多人认为两者在人工智能议题上有分歧,似乎有效利他主义担忧人工智能风险,想减缓人工智能发展的速度,而有效加速主义则不顾一切追求通用人工智能。
问题是,有效利他主义真的拒绝人工智能发展吗?
2017年,Benjamin Todd在有效利他主义中心网站上发了文章,确实提到了人工智能有巨大的风险,但他提出的应对措施并不是拒绝发展,而是增加人工智能“控制问题”的研究人员和研究力度,这与他们的“80000小时”理念相同。
而e/acc只是强调“过度监管会抑制差异化”,不是完全抵制监管。
与此同时,不少人喜欢给Sam Altman强加一个有效加速主义的标签,但他并没有声称自己是e/acc,反倒多次警告人工智能有潜在威胁,还建议设立一个类似国际原子能机构的组织来防范风险。
况且,最著名的有效加速主义支持者也不是Sam Altman,而是硅谷风投机构A16Z的创始人马克·安德森。很多人都效仿他,在推特网名后面加上e/acc后缀。
不过他本人已经推出了新的理念,叫“技术乐观主义宣言”,还把名字后面的e/acc后缀去掉了。
所以,有效加速主义并不是用来对抗有效利他主义的,而是对有效利他的反思和优化,同时,新的思考和理念也在不断涌现,有效加速很可能只是一个过渡。
那么,为什么很多媒体鼓吹OpenAI背后有派系争端呢?
这是因为,将复杂的现象总结成简单的二元对立更方便传播,就像“奥特曼打怪兽”一样,正邪不两立的剧情总能引起人们的兴趣。
有人还在说OpenAI背后是有效加速主义和“超级对齐”的对抗,也是同样的道理。所以,大家不要轻易被误导。
关键在于,我们能不能从中看到有价值的启示。
如果仔细看看那些给自己加上e/acc标签的人,就会发现其中不只有投资人、创业者,还有很多是并不那么有名的工程师。
也就是说,他们不只会埋头干活,还会不断思考和践行新的理念,不光有着自己的价值追求和理想,还希望和理念相同的人共同承担起责任,推动社会进步,这就非常值得我们学习。
要知道,互联网形成之初就聚集了很多有情怀的人,他们推崇免费分享的理念,希望建立一个比现实更加美好的数字社会。所以当1994年世界上第一条商业广告出现在网站HotWired上时,就曾引发了广泛的抵制。
当然,随着技术与产业的不断发展与变化,也会诞生符合时代特征的新理念,今天的理念不再是免费分享,而是有效加速和有效利他。
无论有效加速主义还是有效利他主义,或者为了追求AGI而团结起来的OpenAI的700名员工,他们都是在共同的理念下连接起来的。
我们一直强调产业生态化协作的重要性,可以说,未来的协作更多的是拥有共同理念者之间的协作,而不是单纯基于雇佣关系或商业关系的协作。未来的最高合作生态可以称为“理念共同体”,大家有着共同的理念,形成协作规则,为了共同的价值主张贡献自己的力量。
这才是“有效加速主义”和“有效利他主义”背后值得思考的新课题,而不是神秘的派系斗争。
我们科技特训营也是在一个共同理念下聚集起来的,那就是亲创新(Pro- innovation)。希望我们这个亲创新的社群能够在充分理解创新机制和当下创新机遇的前提下有效地加速创新的发生。欢迎更多志同道合者加入!
以上是今天的内容,更多详细的产业分析和底层逻辑,我会在科技特训营里分享。欢迎关注全球风口微信号,报名加入!
另外,今年的前哨大会在天津举办。有人可能会问,为啥要在天津呢?这两年,海银资本在天津落地了基金和一些高科技项目,有了一些成果,可以跟大家有个汇报和分享。当然,这其中也许还会有合作的机会。
所以,欢迎大家参加今年的前哨大会!还有个特别的福利,科技特训营的校友可以免费参加!今年咱们在天津,不见不散!
王煜全要闻评论,我们明天见!
1. 前哨科技特训营直播课程第四季(2023年)共50讲+,除此之外还有5节加餐+公开课。 2. 每讲承诺为1小时视频内容,实际平均时长为2小时。 3. 每周四晚八点准时直播,会员可无限次观看回放。 4. 新入会员,可以无限次回看之前所有视频课程。 5. 成为会员即可使用【AI王煜全】,最新AI大模型开发的专属科技分析助手
6. 每周组织【前哨·创新启发局】,链接科技/产业一线人士,打开技术/应用前沿视野
7. 优先获取全球科技产业一线游学、访问机会,接触科技/产业专家,获取最新、最前沿的趋势洞察,人脉链接
8. 本课程为虚拟内容服务,年费订阅服务制。一经订阅概不退款,线下活动需另行支付差旅成本,请您理解。
微信扫码关注该文公众号作者