Redian新闻
>
LeCun与微软总裁开呛!曝出OpenAI六大金刚掌握AGI命运,一旦实现微软收益为0

LeCun与微软总裁开呛!曝出OpenAI六大金刚掌握AGI命运,一旦实现微软收益为0

科技



  新智元报道  

编辑:润 alan
【新智元导读】代表Meta的LeCun和投资了OpenAI的微软总裁,居然当面开呛了?总裁一句话引全网激战,最后却引出「OpenAI六大金刚」决定微软投资命运这一惊人事实。

最近,微软总裁Brad Smith在和LeCun的一次线下座谈中起了争执,随后在网上引发了网友大量的讨论。

在面对LeCun关于大模型开源问题时,微软总裁抛出:「OpenAI是一个非盈利组织,Meta是一个由股东控制的上市公司,大家更希望AI技术被哪家掌握?」

大量网友对微软总裁指出的「GPT-4的开放性,以及OpenAI是非盈利组织」的观点猛烈输出:

认为「天下苦微软久矣」的网友把针对微软的怒火也发到了OpenAI身上,逼得OpenAI的公关负责人连忙发帖,再次重申:OpenAI不是微软投资的公司,是一家完全独立的非盈利组织!

他一再强调,微软投资的「OpenAI」,其实只是「OpenAI子公司」。换句话说,微软拿到的股份,也只是「OpenAI子公司」的股份。

而这个「OpenAI子公司」是完全隶属于「OpenAI母公司」——OpenAI Nonprofit的。

而微软与OpenAI的投资协议中规定,微软对OpenAI获得利润的收益,仅限于「OpenAI母公司」章程中规定的「达到AGI之前的收益」。

如果「OpenAI母公司董事会」一旦宣布「AGI已成」,那么微软将不再能从OpenAI获得任何收益!

所以,按照这个逻辑,微软绝不是大家以为的「OpenAI的金主爸爸」,反而更像「OpenAI追求AGI」的工具人。

而这个能做出「达到AGI」决定的董事会,拥有了剥夺微软投资收益的权力。

「OpenAI六大金刚」

有权力确定是否「达到AGI」,从而停止让微软等投资者分享OpenAI收益的「OpenAI 母公司董事会」,由6个人组成:

董事长兼总裁Greg Brockman、首席科学家Ilya Sutskever、首席执行官Sam Altman以及另外3个非OpenAI的雇员Adam D'Angelo、Tasha McCauley和Helen Toner组成。

Ilya Sutskever左一,Sam Altman左二,Greg Brockman右一

这六个人作出的决定,将深刻影响人工智能领域的发展。

对于前三位,熟悉OpenAI的人想必都会有所了解,那么另外三位又是何许人也?

Adam D'Angelo

Adam D'Angelo生于1984年,他最著名的身份是Quora的联合创始人兼首席执行官。

Quora是世界上最大的知识问答型社区,在百科类网站流量仅次于Wikipidia。

在2008年之前,他一直担任Facebook的首席技术官,并兼任工程副总裁。

在他离开Facebook之前,是小扎手下最得力的干将。

Adam D'Angelo曾在Phillips Exeter Academy就读高中。在那里,他与扎克伯格等人一起开发了Synapse Media Player(一款音乐建议软件)。

作为天才少年,Adam D'Angelo于2002年进入加州理工学院,在之后的ACM国际大学生程序设计竞赛(ICPC)中获得不俗战绩(2003年北美冠军;2004年世界总决赛银牌;2005年世界总决赛联合教练)。

现在,他主要的精力花在一个新的AI项目——Poe之上。

这是一个集合了各大AI聊天机器人和产品的集合工具,通过它可以访问几乎市面上所有的AI工具。

Tasha McCauley

Tasha McCauley以其在机器人领域的工作而闻名,她是Fellow Robots的联合创始人。
2004年,McCauley从Bards College获得艺术学士学位,之后又从Singularity University获得了机器人学学位。2011年,她还获得了南加州大学马歇尔商学院的商业学士学位和工商管理硕士学位。
她的职业生涯始于机器人技术,并在母校教授机器人技术和人工智能。
毕业后,她被任命为学校Autodesk创新实验室的主任。
2010年,她开始在「NASA Research Park」校区的「Artificial Intelligence and Robotics Track」担任助理教授。
McCauley目前是「Ten to the Ninth Plus Foundation」的董事会成员,该公司致力于全球技术创新和进步。
而她的另一个身份是著名演员Joseph Gordon Levitt的妻子
Helen Toner
最后一位董事会成员为Helen Toner
她是乔治城大学安全与新兴技术中心(CSET)的战略和基础研究基金主任。
她曾在Open Philanthropy担任高级研究分析师,在那里她为政策制定者和资助者提供人工智能政策和战略方面的建议。
在Open Philanthropy工作和加入CSET期间,Helen住在北京,作为牛津大学人工智能治理中心的研究附属机构,研究中国的人工智能生态系统。
她本科毕业于澳大利亚墨尔本大学,曾在清华大学学习过一段时间的中文,硕士毕业于乔治城大学。
他们三位都曾与有效利他主义运动(Effective Altruism movement)有过联系。
而OpenAI长期以来也与EA有着千丝万缕的关联:例如,2017年3月,OpenAI从有效利他主义者资助的Open Philanthropy获得了3000万美元的资助。
但OpenAI发言人说:「我们的董事会成员都不是有效利他主义者;他们与EA社区的互动主要集中在与人工智能安全相关的话题上。」
AGI的定义还远未达成共识,因此,由六个人决定是否已经达到AGI,这对OpenAI以及整个世界意味着什么?
而未来可能做出这一决定的时机和背景对其最大的投资者微软又意味着什么?

6人董事会决定AGI:不寻常,但合规合法

Suzy Fulton是一位专门为科技领域的初创企业和新兴公司提供法律服务的律师,她认为,虽然在很多情况下,由董事会做出这种「AGI决定」是「不寻常的」。
但根据OpenAI的章程,「OpenAI母公司」董事会确实有权力决定「安全、广泛受益的AGI」使命。
Suzy说,「他们认为,非营利性董事会的受益人是人类,而营利性董事会的受益人是投资者。他们试图建立的另一个保障措施是让董事会多数成员独立,即多数成员在OpenAI中没有股权。」
芝加哥大学法学院教授Anthony Casey也认为,由董事会决定像AGI这样的具体操作问题是「不寻常的」,但他不认为存在任何法律障碍。
他说:「具体确定某些问题必须在董事会层面做出决定,这个规定本身是没有问题的。事实上,如果一个问题足够重要,公司法一般会规定董事有责任对该问题进行监督。」
并不是所有专家都相信AGI会很快到来,有些专家甚至质疑AGI是否可能实现。
据人工智能与数字政策中心(Center for AI and Digital Policy)主席Merve Hickok称,「应该调查OpenAI,并命令该公司停止发布GPT模型,直到建立起必要的保障措施为止。OpenAI对AGI的关注忽视了人工智能模型和工具的当前影响。」
她认为当前不应该讨论OpenAI董事会成员是否有资格决定是否「达到AGI」。
因为「这将转移焦点,并在事实上使AGI是可能的说法合法化」。
事实上,OpenAI缺乏对AGI的明确定义:
OpenAI曾在2023年2月的一篇博文中表示「第一个AGI将只是智能连续体上的一个点」。
但在2023年1月的采访中,Sam Altman说的是:「我希望看到的未来是,人工智能的使用权超级民主化,世界上有多个AGI,可以帮助人们形成多种观点,不会让任何人变得太强大」。

OpenAI的梦想由微软买单?

我们无法知晓OpenAI和微软之间投资协议的全部细节。
但根据OpenAI官方公布的情况来看,微软从投资OpenAI的一开始,就接受了的上限股权的提议,以及将AGI技术和公司的完整控制权留给「OpenAI Nonprofit」的要求。
听起来似乎一旦OpenAI完成了他们既定的实现AGI的使命,微软就将退出这个圈子。
但如果OpenAI真诚地履行其非营利性使命,那么OpenAI的结构以及与微软的关系可能会导致一些「大纠纷」。
Anthony Casey指出:「确实有一些非营利组织拥有营利组织的股份,其中最著名的是Hershey Trust。但他们完全掌控营利机构,没有小股东的反对。但对于OpenAI,微软的营利性利益可能会直接与控制实体的非营利性利益发生冲突」。
利润上限很容易实施,难的是,如果达到最高利润与非营利组织的使命相冲突时,又该怎么办?
通常,实现利润是首要任务,管理者必须将其放在首位。
也许微软会说,「别担心,无论如何我们都是好的。你不欠我们任何义务。」——但这听起来不像是微软的谈判方式。
参考资料:
https://venturebeat.com/ai/openais-six-member-board-will-decide-when-weve-attained-agi/
https://openai.com/our-structure



微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
兵败如山倒系列:我们惨败于推娃大妈专访丨积家CEO Catherine Rénier:情感联结和艺术表达对腕表也至关重要暴跌2000亿!宁波首富出事了!曝出大瓜,豪门内斗红色日记 计划盖房 4.1-30这两大金刚在抗老界里还有对手吗?不松不垮不显纹用一回就有这么绝!纽大具身智能新进展:靠视觉反馈学会开罐头,任务成功率提高135%,LeCun点赞“不管纽约多拥挤,反正我要成为其中一部分”非法移民公开呛声纽约市长,谁也无法阻拦...开放模型权重被指将导致AI失控,Meta遭举牌抗议,LeCun:开源AI社区如火如荼"妈妈让我来自首",7岁男孩在派出所写下"bǎozhèng书"马斯克的“星舰”自毁,阿尔特曼被逐出OpenAI……硅谷大佬失意的一周 | 一周人物卷积网络又行了?DeepMind推翻Transformer最强传说,LeCun怒赞大结局!微软总裁欢庆收购动视暴雪获批,暴雪游戏国服何时回归?四喜烤麸—全素营养美味的家常菜GPT-4太烧钱,微软想甩掉OpenAI?曝出Plan B:千块GPU专训「小模型」,开启必应内测AI读脑成真,延迟仅0.25秒!Meta里程碑新研究:MEG实时解码大脑图像,LeCun转赞阿斯麦尔能听命多久?LeCun又双叒唱衰自回归LLM:GPT-4的推理能力非常有限,有两篇论文为证图灵奖得主吵起来了,LeCun:Bengio、Hinton等的AI灭绝论是荒谬的GPT-4不知道自己错了! LLM新缺陷曝光,自我纠正成功率仅1%,LeCun马库斯惊呼越改越错掌握Wind, Excel和Python三大金融必备技能, 实现年薪翻两番自动驾驶独角兽如此造假,LeCun都服了周兵导演寄语 | 希望大家能通过Us影展实现微纪录的梦想生成模型构建交互式现实世界模拟器,LeCun觉得非常酷“不管纽约多拥挤,反正我要成为其中一部分。”非法移民公开呛声纽约市长,谁也无法阻拦重大灾难!3845人死亡,数千人失踪!曝出猛料,乌克兰紧急回应!麦当劳突然宣布:上调!UNC斯坦福等曝光GPT-4V意外漏洞,被人类哄骗数出8个葫芦娃!LeCun和Jim Fan震惊了Hinton和LeCun再交锋,激辩LLM能否引发智能奇点!LeCun:人类理解能力碾压GPT-4研究称AI绘画碳排放仅为人类画家1/2900,LeCun转发Powder Valley自然保护区首次实现微生物从头合成黄腐酚,大连化物所团队构建基于酵母和葡萄糖的新合成途径斯坦福公开十大主流模型透明度!Llama 2位列第一,GPT-4透明差,LeCun炮轰:盈利完全理解LeCun和xAI联创对呛,GPT-4重大推理缺陷无解?网友:人类也是「随机鹦鹉」AI实时解读大脑信号,7倍速还原图像关键视觉特征,LeCun转发无需额外知识或训练!中科大等提出OPERA:缓解多模态大模型幻觉问题的基于注意力惩罚与回退策略的解码方法最新!社保基金公布:去年投资收益额-1380.9亿元,收益率-5.07%!成立以来年均投资收益率7.66%…
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。