Redian新闻
>
OpenAI内斗背后:e/acc和EA两拨人吵起来了?有什么值得学的

OpenAI内斗背后:e/acc和EA两拨人吵起来了?有什么值得学的

科技

 点击订阅,抓住风口

你好,我是王煜全,这里是王煜全要闻评论。

昨天咱们聊了神秘的Q*算法,不过,在这之外还有一种论调,说OpenAI的内斗背后有两种路线之争。

11月19日,也就是OpenAI宣布解雇Sam Altman的两天后,初创公司SignalRank的CEO Keith Teare在领英上发文说,OpenAI内部分歧的根源是“有效加速主义者”和“有效利他主义者”之间的分裂。

同时,推特上也有很多相同的观点,《路透社》爆料的Q*算法似乎提供了支撑。

结果,越来越多的新闻媒体发布了类似的说法,直到11月28日,还有自媒体发文说Altman是被“有效利他派”扫地出门的。

那么,有效加速主义和有效利他主义究竟是什么呢?两者真的是对抗关系吗?

咱们先说说有效利他主义。2009年11月,牛津大学伦理学家Toby Ord和William MacAskill成立了一个名为“Giving What We Can”的团体,他们倡导每个人捐出10%的收入,用来减少贫困。

2011年,MacAskill又和Benjamin Todd成立了“80000小时”组织,目的是帮助人们做更好的职业规划,为世界做出更大的贡献。

之后,两个组织合并成立了“有效利他主义中心”,MacAskill认为,有效利他主义是在规定的预算内做最大的善事。

相比之下,“有效加速主义”是一个比较新的概念,1个月前我就做过解读,它的全称是effective accelerationism,通常简称e/acc。但它不是一个成熟的理论,更像是一个倡议。

它的核心理念是:技术的进步和扩散不可阻挡,在技术进步的时代,人们应该最大限度地利用技术和创新的力量推动社会发展,在此过程中,任何假设有价值的创新想法都不应该被轻易否定,只要能在未来造福于人类,就应该支持它加速发展。

e/acc实际上是几个推特网友在网上讨论出来的名词,主要人物是@zetular、@BasedBeff和@creatine_cycle,他们在2022年10月发布了有效加速主义的概念解读。

值得注意的是,这篇解读中引用了@zetular的推文,说“e/acc is EA but based”。也就是说,有效加速主义是在有效利他主义基础上发展出来的,属于一个分支。

两者都觉得有价值的实际行动越多越好,而不应该躺平,所以都强调“有效”。

但是,很多人认为两者在人工智能议题上有分歧,似乎有效利他主义担忧人工智能风险,想减缓人工智能发展的速度,而有效加速主义则不顾一切追求通用人工智能。

问题是,有效利他主义真的拒绝人工智能发展吗?

2017年,Benjamin Todd在有效利他主义中心网站上发了文章,确实提到了人工智能有巨大的风险,但他提出的应对措施并不是拒绝发展,而是增加人工智能“控制问题”的研究人员和研究力度,这与他们的“80000小时”理念相同。

而e/acc只是强调“过度监管会抑制差异化”,不是完全抵制监管。

与此同时,不少人喜欢给Sam Altman强加一个有效加速主义的标签,但他并没有声称自己是e/acc,反倒多次警告人工智能有潜在威胁,还建议设立一个类似国际原子能机构的组织来防范风险。

况且,最著名的有效加速主义支持者也不是Sam Altman,而是硅谷风投机构A16Z的创始人马克·安德森。很多人都效仿他,在推特网名后面加上e/acc后缀。

不过他本人已经推出了新的理念,叫“技术乐观主义宣言”,还把名字后面的e/acc后缀去掉了。

所以,有效加速主义并不是用来对抗有效利他主义的,而是对有效利他的反思和优化,同时,新的思考和理念也在不断涌现,有效加速很可能只是一个过渡。

那么,为什么很多媒体鼓吹OpenAI背后有派系争端呢?

这是因为,将复杂的现象总结成简单的二元对立更方便传播,就像“奥特曼打怪兽”一样,正邪不两立的剧情总能引起人们的兴趣。

有人还在说OpenAI背后是有效加速主义和“超级对齐”的对抗,也是同样的道理。所以,大家不要轻易被误导。

关键在于,我们能不能从中看到有价值的启示。

如果仔细看看那些给自己加上e/acc标签的人,就会发现其中不只有投资人、创业者,还有很多是并不那么有名的工程师。

也就是说,他们不只会埋头干活,还会不断思考和践行新的理念,不光有着自己的价值追求和理想,还希望和理念相同的人共同承担起责任,推动社会进步,这就非常值得我们学习。

要知道,互联网形成之初就聚集了很多有情怀的人,他们推崇免费分享的理念,希望建立一个比现实更加美好的数字社会。所以当1994年世界上第一条商业广告出现在网站HotWired上时,就曾引发了广泛的抵制。

当然,随着技术与产业的不断发展与变化,也会诞生符合时代特征的新理念,今天的理念不再是免费分享,而是有效加速和有效利他。

无论有效加速主义还是有效利他主义,或者为了追求AGI而团结起来的OpenAI的700名员工,他们都是在共同的理念下连接起来的。

我们一直强调产业生态化协作的重要性,可以说,未来的协作更多的是拥有共同理念者之间的协作,而不是单纯基于雇佣关系或商业关系的协作。未来的最高合作生态可以称为“理念共同体”,大家有着共同的理念,形成协作规则,为了共同的价值主张贡献自己的力量。

这才是“有效加速主义”和“有效利他主义”背后值得思考的新课题,而不是神秘的派系斗争。

我们科技特训营也是在一个共同理念下聚集起来的,那就是亲创新(Pro- innovation)。希望我们这个亲创新的社群能够在充分理解创新机制和当下创新机遇的前提下有效地加速创新的发生。欢迎更多志同道合者加入!

以上是今天的内容,更多详细的产业分析和底层逻辑,我会在科技特训营里分享。欢迎关注全球风口微信号,报名加入!

另外,今年的前哨大会在天津举办。有人可能会问,为啥要在天津呢?这两年,海银资本在天津落地了基金和一些高科技项目,有了一些成果,可以跟大家有个汇报和分享。当然,这其中也许还会有合作的机会。

所以,欢迎大家参加今年的前哨大会!还有个特别的福利,科技特训营的校友可以免费参加!今年咱们在天津,不见不散!

王煜全要闻评论,我们明天见!


我们还整理了一份”A16Z:50个AI web产品榜单”清单辛苦你点下“赞”和“在看”,点击顶部的“进入公众号”,在对话框里发送“科技”二字,你就会获得这份清单。
清单每天更新,所以请跟上全球风口的节奏;如果想要所有行业清单,扫码加入科技特训营,分分钟尽在掌握!

【科技特训营】全新的会员订阅制线上书院模式,全年50次“在线直播课程+私享群互动”,你随时可以加入、我持续保持更新!一起互动,伴随成长!让我们为未来五年做好准备,一起探讨把握机遇,决胜未来!


【2023前哨大会
长按扫描二维码报名

1. 前哨科技特训营直播课程第四季(2023年)共50讲+,除此之外还有5节加餐+公开课。
2. 每讲承诺为1小时视频内容,实际平均时长为2小时。
3. 每周四晚八点准时直播,会员可无限次观看回放。
4. 新入会员,可以无限次回看之前所有视频课程。
5. 成为会员即可使用【AI王煜全】,最新AI大模型开发的专属科技分析助手
6. 每周组织【前哨·创新启发局】,链接科技/产业一线人士,打开技术/应用前沿视野
7. 优先获取全球科技产业一线游学、访问机会,接触科技/产业专家,获取最新、最前沿的趋势洞察,人脉链接
8. 本课程为虚拟内容服务,年费订阅服务制。一经订阅概不退款,线下活动需另行支付差旅成本,请您理解。

课程咨询】
请加“创新地图助手”:
微信:innovationmapSM

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
Costco的Food Court为什么值得去?这些优势你都知道吗聊聊:什么是多模态?有什么价值以及难题原创丨弹道导弹齐射,伊朗打击以色列机构!中国四两拨千斤巧妙加持!OpenAI内斗时,Karpathy在录视频:《大型语言模型入门》上线专访丨积家CEO Catherine Rénier:情感联结和艺术表达对腕表也至关重要OpenAI内斗风波持续延烧,非营利起家却闹翻"恐是为了钱"民国人,原来是个正常人格passport, 看来,到死也只能站在递申请的等候队伍里了。呛起来了?!谁将成为下一任新西兰副总理?有人毛遂自荐,有人幽默反讽!又有新消息!蓝天救援队否认“因外部原因中止搜救4岁女童”:消息系另一拨人擅自发布!女童父亲发声这张小卡片,你为什么值得拥有?"妈妈让我来自首",7岁男孩在派出所写下"bǎozhèng书"巴以冲突升级,中国赢了还是输了?又吵起来了……怎么这事都能吵起来伦敦转租真便宜!步行10分钟到LCC和象堡,仅需£3XX/周,温布利多间高端公寓仅£2XX/周,点击查看更多!(1月10日更新)38岁的OpenAI创始人兼CEO被开除!宫斗背后谁最心急?怕英首相被抢风头,他们吵起来了Sam Altman被罢免背后:OpenAI 首席科学家“政变”?高级员工连夜辞职!Nature揭示OpenAI内斗与反复翻转的内幕;其董事会设计的坍塌,关系到全人类的未来专门为中小学生打造的英文报刊精读,值得学习!错过就要等一年!2023英国双十一什么值得买?我不许你不知道这份超值省钱套餐!小说:A Video的传说 2马斯克转发 OpenAI 前员工举报信,Altman 被指控欺诈,混乱内斗加剧特斯拉----短线或仅作壁上观龙年穿新袜!英国王室御用品牌Corgi,为什么值得一直买?我们为什么值得信赖——赴美教师项目说明会车联网联盟CCC:CCC数字钥匙进入汽车的未来白皮书最近还有什么值得关注的新剧么?一不小心,闯入北美最大的野牛群旅美散记(26):花开花落都美丽八年连载,百亿人气!这部国漫之光为什么值得收藏?没想到,奥斯卡提名就吵起来了??图灵奖得主吵起来了,LeCun:Bengio、Hinton等的AI灭绝论是荒谬的Deita: 用高质量数据在微调中“四两拨千斤”非常罕见,日本和美国吵起来了浏阳河酒“内斗”背后:董事长彭潮涉贷款诈骗案被判无期,银行损失超17亿元
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。