Redian新闻
>
人工智能将把我们带往天堂还是地狱

人工智能将把我们带往天堂还是地狱

公众号新闻

转载:纽约时报

【写在开头】

最近微信推荐机制调整了,可能有些朋友会收不到我们的推送,大家别忘了给视角学社加上星标,以免错过更多精彩!


预防失联,请关注视角备用号:


正文


OpenAI 的优点之一是,它建立在不信任的基础上。它最初是一个非营利性的研究实验室,因为它的创始人认为,人工智能不应该由主要受利润驱动的商业公司来开创。


随着发展, OpenAI 变成了一个可称为卓有成效的矛盾体的东西:一家由非营利董事会监管的营利性公司,企业文化介于两者之间。


公司里的许多人似乎同时受到三种激励:科学家的探索欲望、资本家交付产品的欲望和行善者安全行事的欲望。


过去一周发生的事件——萨姆·奥尔特曼被解雇,经历各种跌宕起伏,被重新聘用——都围绕着一个核心问题:这种卓有成效的矛盾体能否持续下去?


一个组织或一个人能否同时保持科学家的头脑、资本家的动力和监管机构的谨慎?或者,正如查理·沃泽尔在《大西洋月刊》( The Atlantic )上所写的那样,金钱总会胜出?


重要的是要记住,人工智能与科技界的其他领域有很大不同。它(或者至少曾经是)更加学术化。人工智能这个领域的研究历史可以追溯到几个世纪前。即使在今天,该领域的许多巨头也主要是研究人员,而不是企业家——比如扬·勒昆和杰弗里·辛顿这样的人,他们在2018年一起获得了图灵奖(计算机领域的诺贝尔奖),但现在,对于人工智能将把我们带往何方,他们意见不一。


直到最近几年,学术界的研究人员才陆续离开大学,涌向工业界。谷歌母公司 Alphabet ;微软;OpenAI ;还有拥有 Facebook 的 Meta 这些公司的研究人员仍然通过发表研究论文的方式相互交流,就像教授们那样。


但这个领域的激昂与进取,与别的热门创业领域并无不同。在过去一年左右的时间里,当我与人工智能研究人员交谈时,我经常觉得自己站在每小时五公里的机场移动人行道上,而他们站在每小时6000公里的跑道上。研究人员不断告诉我,人工智能历史的这一阶段之所以如此令人振奋,正是因为没有人能预测接下来会发生什么。"作为人工智能研究人员,重点是你应该了解正在发生的事情,我们不断地感到惊讶。"斯坦福大学博士候选人里希·博马萨尼告诉我。


从事人工智能的人似乎同时经历着完全不同的大脑状态。我发现,要写关于人工智能的文章非常困难,因为我们根本不知道这项技术会把我们带到天堂还是地狱,所以我对它的态度会随着我的情绪而改变。


播客主播、麻省理工学院科学家莱克斯.弗里德曼以科技界的忏悔之父形象出现,他表达了我曾多次遇到的那种急剧变幻的情绪:“你坐下了,像父母一样自豪,但几乎是又骄傲又害怕,担心这个东西会比我聪明得多。即像骄傲又像悲伤,几乎像一种忧郁的感觉,但最终还是喜悦。”


当我在5月份参观 OpenAI 总部时,我发现那里的文化令人印象深刻。我采访的许多人都是在 OpenAI 还是一个非营利研究实验室的时候来到这里的,在 ChatGPT 的喧嚣之前当时我们大多数人都没有听说过这家公司。"我父母并不真正了解 OpenAI 是做什么的,"产品经理乔安妮.姜(音)告诉我,"他们说,'你要离开谷歌?"参与创造了可视化工具 DALL - E 2的研究人员马克·陈(音)也有类似的经历。"在 ChatGPT 出现之前,我妈几乎每周都会给我打电话,她会说,'嘿,你知道,你别再四处游荡了,该去谷歌之类的公司上班了。"这些人的主要动机并非金钱。


即使在 GPT 成为头条新闻之后,置身OpenAI 就像身处飓风眼一样。"这里感觉比世界上其他地方要平静得多,"乔安妮姜告诉我。"从早期开始,它确实感觉更像是一个研究实验室,因为我们主要只招聘研究人员,"招聘人员埃琳娜.查齐亚塔纳西亚杜告诉我。后来,随着我们的发展,每个人都开始意识到,工程和研究会带来进步。"


我在那里没有遇到任何"技术男"的氛围,甚至没有人有那种"我们正在改变世界"的不可一世——就是当我是一项技术的先驱时可能会有这种架势。任人力副总裁的戴安·尹(音)告诉我:"我想用热忱这个词来形容这个团队……热忱的感觉。"


通常,当我作为一名记者访问一家科技公司时,我能见到的高管很少,而我能采访到的那些人个个守口如瓶。而 OpenAI 只是拿出一张登记表,然后就让人来跟我交谈了。


我在那里没有遇到任何"技术男"的氛围,甚至没有人有那种"我们正在改变世界"的不可一世——就是当我是一项技术的先驱时可能会有这种架势。任人力副总裁的戴安·尹(音)告诉我:"我想用热忱这个词来形容这个团队……热忱的感觉。"


我承认,过去我走进这些科技公司的时候,会摆出一种防御性的人本主义架子:我告诉自己,这些人可能懂代码,但他们可能不懂真正重要的文学和哲学。


在 OpenAI ,我没什么优越感。戴安.尹从小跳舞,出演过莎士比亚戏剧。尼克·莱德是加州大学伯克利分校的一名数学家,在成为 OpenAI 的研究员之前,他对一种叫做有限微分卷积的东西很感兴趣。几个人提到了一个研究方面的同事,他本科学习物理学,在茱莉亚音乐学院学习了两年钢琴,然后获得了神经科学的研究生学位。还有人告诉我,他们最初的学术兴趣是心灵哲学、语言哲学或符号系统。公司技术人员蒂娜.埃卢恩多在加入 OpenAI 之前学习过经济理论,并在美联储工作过。


尽管他们都给人留下深刻的印象,但我记得我当时告诉自己:这不会持续太久。我觉得到处都是金钱的氛围。这些人可能是认真的研究人员,但不管他们是否意识到这一点,他们仍在为推出产品、创造收入和成为第一而竞争。


很明显,人们在安全问题上存在分歧。一方面,安全是每个人都关心的问题。例如,我问马克·陈在 DALL - E 2发布那天的心情。"很多时候都是这种忧虑的感觉。比如,我们是否能保证安全?"他说。另一方面,与我交谈的每个人都致力于 OpenAI 的核心使命——创造一种能够实现人工智能的技术,能够在广泛的任务中匹配或超越人类智能。


人工智能领域的卓越人物描绘出截然不同但又有说服力的前景。风险投资家马克.安德森强调,它将极大地改变世界,让世界变得更美好。认知科学家加里·马库斯描绘的场景同样有说服力,他说了这一切可能会出怎样的问题。


没有人真正知道谁是对的,但研究人员只是继续努力。他们的行为让我想起了艾伦.图灵在1950年写的一句话:"我们只能看到前方很短的距离,但我们可以看到有很多事情需要做。"


我曾希望 OpenAI 能够找到解决这种对立的办法,然而即便在当时,就已经存在着担忧。正如 OpenAI 首席运营官布拉德·莱特卡普告诉我的那样:"最重要的是,在我们成长的过程中保持公司文化和使命导向。真要说的话,真正让我感到不安的是,如何在规模化的过程中保持这种专注。"


这些话很有先见之明。组织文化不容易建立,却很容易被摧毁。这个问题关系到世界的安危:刚刚被解放出来的奥尔特曼能否保持这种卓有成效的矛盾体,抑或他会屈服于拼命向前的压力?


 David Brooks 自2003年以来一直是时报的专栏作家。他最近出版的一本书是" How to Know a Person : The Art of Seeing Others Deeply and Being Deeply Seen "。欢迎在 Twitter 上关注他:@ nytdavidbrooks

翻译:晋其角


更多精彩:


相关阅读:

人工智能会取代人类吗?图灵奖得主这样回答

中国人工智能的起步,与这位数学家密切相关

职场建议:怎样面对人工智能带来的挑战



转载:纽约时报,本文版权归属作者/原载媒体所有。


喜欢本文?欢迎关注/置顶/点赞/加入留学家长公益交流社群:

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
谢晓亮专访: 三年,昌平实验室为我们带来了什么?把兴趣爱好转化为补充材料,今年的Top30早申案例,给我们带来哪些启发?最新数据:近百个新西兰雇主被取消这一资格!移民控诉:“简直就是地狱!”港股是地狱也是天堂硬核观察 #1210 人工智能聊天机器人被用来越狱其它人工智能博士申请 | 中山大学吕子钰老师招收人工智能安全/知识智能方向博士/硕士/博后/实习生人工智能将如何改变名利场与明星们No man just falls in love but climb to it, struggle for it, claw连续五年卖断货!一台就是地暖效果,省电、安全、智能,冬季宅家幸福就靠它!百年无痕 1.7这是地铁抢座呐?还是大人抢小孩那种洪小文对话图灵奖获得者Raj Reddy:人工智能将改变我们的学习方式荷兰,把欧洲带往何方?重磅!拜登签署人工智能领域人才留美新政策,利好留学生!人工智能行业将迎来大增长!中东局势给我们带来了什么?人工智能,是时候和我们“对齐”了?AIoT 2.0时代,生成式人工智能GenAI正在成为工业智能化的新引擎人工智能与生物智能的结合,将有助于我们读懂生命的语言人工智能教程(二):人工智能的历史以及再探矩阵 | Linux 中国打开大脑里的开关:抑郁症的天堂或地狱|深氪人工智能将颠覆芯片设计,EDA大厂高管发出警告!未来的人工智能语言,是 Rust 还是 Mojo ?美國共和黨人具身智能超级对话:人工智能如何引领机器人革命警民一家亲突破 | 欧盟《人工智能法案》: 欧盟理事会和欧洲议会达成协议!全球首个人工智能法律只差临门一脚!Meta花500万美元购买一明星形象,只为打造人工智能助理;中国网络空间安全协会人工智能安全治理专业委员会成立丨AIGC日报美國人厲害:有感於麥肯錫被罷免Al危害人类是先见之明还是杞人忧天?谈谈规制人工智能的五种方式接掌10年令微软市值涨11倍! CEO纳德拉最新亲笔:下一代人工智能将重塑每个企业,也包括微软自己OpenAI 更新企业价值观:强调通用人工智能;阿里云、华为成立人工智能安全委员会;周杰伦演唱会 4 黄牛被抓 | 极客早知道基辛格等:人工智能将如何影响国际秩序大反转!奥特曼回归OpenAI ?;微软发布人工智能芯片;百度李彦宏:重复造大模型是浪费;阿里巴巴、百川智能、极睿科技等最新消息研究发现,人工智能将更多威胁工资而非就业“加入‘金砖’,给我们带来巨大利益”
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。