Redian新闻
>
马斯克:要做比OpenAI更好的AI|中企荐读

马斯克:要做比OpenAI更好的AI|中企荐读

公众号新闻

“我会创建第三个选择。”


整理吴莹

头图来源|视觉中国

“硅谷钢铁侠”埃隆·马斯克正式下场AI。

当地时间7月13日,马斯克宣布xAI公司正式成立。马斯克表示,推出xAI的原因是想要“了解宇宙的真实本质”。

3个月前,马斯克接受美国福克斯电视台采访。采访时,谈到了他的AI计划。在他看来,让AI去探索太空、了解宇宙是最安全的,当人类对于AI来说只是宇宙有趣的一部分,AI就不会威胁到人类的安全。

此外,马斯克在这场访谈中还解释了他为什么购买Twitter以及后续又为什么要裁员80%。谈到裁员80%时,他表示不需要那么多人运营Twitter,人少点反而效率更高。

而这次访谈,恰好阐述了马斯克的AI观。

以下是本次访谈中,马斯克对AI的看法:

1.现在很多法规都是在已经发生了可怕的事情之后才制定的,但对于人工智能来说,等到发生可怕的事情再进行监管就来不及了。你可以想象一下,人工智能如果无序发展的话,迟早有一天会控制人类。

2.我所追求的AI,是试图去理解宇宙的本质,这可能是AI研究保证安全性的最佳途径。AI关注和了解的是宇宙,就不太可能对人类造成威胁。

3.公众会用他们的行动说话,他们发现在Twitter上能看到真相,自然会更多地使用它。

4.我同意人类本质上对负面信息更敏感,但总是接触负面的东西会变得非常危险。我们现在听到的新闻似乎经常让人回答这个问题:“今天发生的最糟糕的事情是什么?”

以下为访谈全文(有删改):


谈AI安全:人工智能如果无序发展的话,迟早有一天会控制人类

主持人:突然之间人们感觉人工智能无处不在了,你觉得这是好事还是坏事?

马斯克:我在大学时就已经开始思考人工智能的发展了。我认为AI会是未来真正影响和改变世界的重要技术之一。从根本上说,它是深刻的变革。我们都知道地球上最聪明的生物是人,我们虽然没有黑猩猩敏捷,比它弱很多,但我们确实更聪明。

那么现在,当比最聪明的人还要聪明得多的对象出现时,会发生什么呢?这是很难预测的。人工智能的出现被认为是一个奇点,它是一个像黑洞一样深不可测的奇点,没人能预测之后会发生什么。

所以我们应该谨慎地对待人工智能,应该有一些政府监督。一项技术或者产品对公众的安全有威胁时,理应得到政府的重视和监管。比如现在我们有食品和药物管理局、联邦航空管理局、联邦通信委员会等机构来监督影响公众安全的领域。所以我一直以来都是强烈要求加强人工智能领域的监管。

我知道被监管是一件比较煎熬的事情,比如火箭方面,有时候为了获得发射许可证,可能需要6个或更多联邦机构的许可才行,这太疯狂了。你们看我比较特立独行,经常藐视监管,但事实并非如此,大多数情况下,我很少会违背监管政策,我和我的公司基本都是同意接受监管的。

无论如何,我们应该认真对待人工智能监管这件事。一个监管机构,我认为它需要从一个团队开始,这个团队先对人工智能进行洞察,然后征求业界的意见,最后制定一些被人工智能主要参与者接受的政策和法规。

主持人:我不认为普通人在手机上玩人工智能会有什么危险,你认为可能存在的危险是什么?

马斯克:我认为AI的危险性可能比不靠谱的飞机设计或者汽车生产更大。尽管AI现在看起来微不足道,但它有着可能毁灭人类文明的潜力。

现在很多法规都是在已经发生了可怕的事情之后才制定的,但对于人工智能来说,等到发生可怕的事情再进行监管就来不及了。你可以想象一下,人工智能如果无序发展的话,迟早有一天会控制人类。

我和拉里·佩奇(Larry Page)关系一直都很不错,之前住他家的时候和他讨论过人工智能的安全问题。但我的感觉是,他并没有对人工智能的安全问题予以足够的重视。

多年来他发表了很多公开声明,声称谷歌的总目标是发展人工智能或超级人工智能。我同意他认为人工智能有巨大发展潜力的观点,但是如果发展一些激进的新技术,它可能会做好事,也可能做坏事。我和他表达的观点是,要确保新技术发展的安全性,让人类安然无恙地生活在地球上——结果拉里认为我是一个物种歧视者。

当时谷歌和它收购的DeepMind拥有全世界大概3/4的人工智能人才和计算机资源,拉里作为这样一个掌握雄厚发展资源的领导者,却对人工智能发展的安全性不够重视,在我看来这不太好。

OpenAI与谷歌不同之处在于它是非营利组织,虽然我很赞同一个企业应该以盈利为目的,但是在人工智能这块,我不希望它追求利润最大化。

主持人:我感觉你是想要更多人支持你监督人工智能的发展。

马斯克:是的,因为我的目的是让人类的未来变得更好,想要AI的发展对人类的未来有利,因为我们本身就是人类,得为人类多考虑。

很多人觉得人类生活在地球上是理所当然的,这种意识很正常,目前没有发现其他有意识的生命体存在的证据。很多人会问我,地球上有外星人吗,在哪里,我会告诉他们,如果地球上有外星人,那我肯定会第一时间知道,因为我对太空非常熟悉,我要是看到外星人,第一件事就是发推文告诉全世界。

我的意思是说,人工智能就好比外星人一样,有一天他们入侵了我们的世界,那我们是否有抵御的能力是需要提前思考的。

主持人:所以你觉得我们人类在地球上生存是理所当然的,AI会威胁到人类的生存安全,是这个意思吗?

马斯克:是的,其实也没有证据证明宇宙中没有其他生命体存在,我们并非“独一无二的存在”。我只是想说不要假设文明是强大的,它其实很脆弱,回顾历史文明的演进,古埃及人、古罗马人等许多文明都在迭代中逐渐消失。所以,我考虑这些只是想人类文明能不断前进。

主持人:人工智能目前的优势很明显,可以帮你写文稿,还能做很多有趣且有用的事情,你能再具体说说它的危险性在哪里,你到底在担心什么?能不能具体展开说说。

马斯克:我同意一句老话:一支笔带来的影响力远远超过一柄剑。如果你有一个超级智能的AI,它能够写出非常好的文章,带来影响力,令人信服。随着时间的推移,它进入社交媒体,例如Twitter、Facebook等,并以一种非常糟糕的方式操纵公众舆论,那个时候我们要如何分辨?这就是为什么我坚持要Twitter上的用户验证自己是人类。可以允许机器人存在,但是它不可以冒充人类。因为你可以拥有一百万个机器人,比人类数量多得多,通过训练之后在社交媒体上很难被分辨出来,那么它们就会对公众舆论产生巨大的影响。除非我们验证某人是否是人类,否则这样的情况肯定会发生。


谈OpenAI:会创建谷歌和微软之外的第三个选择


主持人:听说你为OpenAI的创建付出了不少?

马斯克:是的,可以说是我一手推动了它的创建。OpenAI这个名字就是我给起的,我还帮他们招募了一批人工智能领域的领军人才,比如现在OpenAI的首席科学家Ilya Sutskever就是我招来的,要是没有他,OpenAI开局也不会这么成功。

我确实付出了很多努力来创建这个组织,当时想的是来制衡谷歌。但后来我有点放弃了,没有继续跟进,现在他们和微软紧密结盟了,微软对OpenAI有着较强的控制。现在是谷歌和OpenAI,微软和DeepMind这两大力量左右人工智能的发展。

主持人:所以现在需要第三股力量来参与竞争是吗?

马斯克:是的,我会创建第三个选择。尽管我开始得比较晚,但我还是要做这个事情,我希望能做得比OpenAI更好。OpenAI开发人工智能的目的是做好事,但目前还不能确定它是否真的在做好事。AI的训练可能存在欺骗性,所以不能保证现在的AI完全在做真正的好事。

我所追求的AI,是试图去理解宇宙的本质,这可能是AI研究保证安全性的最佳途径。AI关注和了解的是宇宙,就不太可能对人类造成威胁。就像我们现在不会去消灭大猩猩吧,反而更愿意去保护他们的栖息地。

主持人:因为AI可以模仿人的声音和其他,能够有效地模仿现实本身。那你怎么进行法律审判,如何相信呈现出来的证据都是真实的呢?

马斯克:我不认为在互联网上随便发布一个视频,就说它代表事实。你可能更想问的是人类能不能控制好AI,人类会拥有一个比过去更好的未来吗?没有AI的帮助,我们肯定会毁灭自己,你看过去有些文明,就算没有AI,也已经覆灭了。

主持人:那你怎么看现在有些人主张炸掉服务器,他们觉得一旦事情或者研究开始了,就没办法再减慢其发展速度。

马斯克:真正的AI情报中心肯定不会分布在各个地方,它们的数量是极其有限的。我不觉得把服务中心炸掉是个明智的选择,更应该做的是制定一些应急计划,比如让政府有权限关闭这些服务中心的电源。你可以不必炸毁它,只是切断电源即可。

主持人:那你觉得什么情况下才能触发这个机制呢?

马斯克:这个我没有准确的答案,毕竟还没有发展到那个阶段。不过我想可能是在我们对AI失去控制时,比如管理员密码出现了故障,无法控制AI,或者无法用软件命令来阻止它的行为,这个时候政府可以启动强制关闭服务器电源的措施。


谈Twitter:花了一年多时间推出一个没什么用处的编辑按钮


主持人:Twitter虽然不是最大的社交媒体,但对于你来说是最重要的对吗?那你是否清楚将来面对的攻击会有多么凶残?

马斯克:我知道可能会有一些负面影响,肯定不会让所有人都满意的。但最终只要公众对此感到满意,那就够了。公众会用他们的行动说话,他们发现在Twitter上能看到真相,自然会更多地使用它。的确过去有很多组织习惯于在Twitter上拥有不受约束的影响力,但现在不再有了。

比如《纽约时报》之前在Twitter上发布的很多推文都很无聊,每天发上百条,把用户的时间都占满了,但其实并没有那么多重要新闻。所以我希望以后《纽约时报》只把最重要的新闻放在Twitter上,不要每天发上百条推文,控制在10条最好。

我在收购Twitter之前就在上面拥有一大批追随者,虽然我的粉丝数量不是最多的,但是我的互动是最高的。所以我清楚地知道该如何使用Twitter,应该要听听我的建议。人的注意力是有限的,所以只要把最重要的东西放出来就好。

主持人:你和喜欢你的人在Twitter上互动,这显然在塑造公众舆论方面有着非常强大的影响力,其中碰撞出来的很多想法和趋势也都逐渐变成现实,你是如何决定要买Twitter的?

马斯克:我从2009年开始就是一个重度Twitter用户,每天被推荐各种推文,但有些推文一眼就看得出来背后是机器人发的,一模一样的评论,假照片等,当时我对推特的情况越来越感到不安。

我最初的目标并不是收购Twitter。几年前,有消息称我没有缴税,这让我受到了很多攻击。实际上我缴纳了巨额的税款,那一年我没缴税是因为前一年多缴了。但是这个机构说我没缴税,却没说明原因,在我看来这种消息就是有欺骗性的。

后来我就在Twitter上做了一项民意调查,问要不要卖掉部分特斯拉股票,结果是要卖出,所以我就卖了一些,手上有一大笔现金。我当时想的是要拿这笔钱做点什么,但是当时美联储的利率超低,钱放在那里肯定会贬值,所以我就想投资什么。

我一般投资的对象都是我使用的产品,我喜欢用苹果的产品,但是苹果在研究自动驾驶汽车的项目,和我们是竞争关系,所以我不能投,剩下的就是我常用的Twitter。所以,最后想的是把钱用来买Twitter的股票,总比放在身上贬值要好得多。

主持人:你大概买了多少?

马斯克:大概是当时Twitter的8%,后来Twitter的董事会问我要不要加入他们,我拒绝了,因为这样会很无聊。我确实关心Twitter的发展方向,但不是很想加入他们。后来我和Twitter的管理团队进行了一些交流,开始觉得有些东西不对劲。这个平台在朝着一个糟糕的方向发展。所以我就尝试去收购它,当时不确定能不能成功,现在的确是实现了。

主持人:你已经允许唐纳德·特朗普回到Twitter上,但他没有回来,你觉得他后面会回到Twitter上吗?

马斯克:这显然取决于他,我的工作是确保Twitter是一个开放的平台。虽然当时选总统的时候,我把票投给了拜登,没有投给特朗普,但这不代表我对他有意见,他随时可以回到Twitter上。

主持人:很长一段时间你一直是媒体报道的主角,媒体对你的追踪也很密切,你对媒体的看法有没有发生变化?

马斯克:在早期的互联网时代,我创办了网络软件公司Zip2,当时我与传统媒体之间的合作是非常密切的。我用公司的互联网技术去帮助一些传统媒体搭建网站,我也在新闻编辑室待了很长时间,所以我对传统媒体并不陌生。

传统媒体现在普遍面临着一个困境——广告收入大幅下降。比起现在流行的像Facebook、Twitter这些社交媒体,传统媒体的互动是十分不便利的。广告投放在社交媒体,很直观就能看到谁购买了商品,带来的转化率是多少,这种广告投放更有针对性。而传统媒体比如报纸、电视这些,互动效果比不过互联网媒体,自然获得的广告越来越少。

对于传统媒体而言,广告收益下滑就面临着生存问题,所以他们会去追逐一些热点新闻,想要获得流量,我的观点和看法由于互动的人很多,比较热门,所以他们会追踪我的观点,甚至在起标题上都不一定准确。

不过我认为这不是一个好现象,歪曲我的观点,起一些有煽动性的标题,一定程度上会扩大新闻的负面影响。我同意人类本质上对负面信息更敏感,但总是接触负面的东西会变得非常危险。我们现在听到的新闻似乎经常让人回答这个问题:“今天发生的最糟糕的事情是什么?”

主持人:你现在还读传统媒体的新闻吗?

马斯克:之前读过很多,但现在我的大部分新闻都是从Twitter上获得的。目前Twitter可以说是第一大新闻来源,当然这与我们的努力分不开,我们努力把Twitter做到真实准确,这样才能获得用户的信任,让他们更愿意使用Twitter。

还有一点就是新闻报道的选择也是非常重要的。比如有个人拍了一张照片,他选择把照片上人的痘痘无限放大,让它看起来有火山那么大,那你能说这张照片是假的吗,他的确长了痘痘,只是不会和火山那么大。所以有可能会出现技术上是真实的,但叙述上失真的情况。

如果媒体只报道他们想给用户看的东西,那就是另一层意义上的操纵公众舆论。

主持人:你到底解雇了多少Twitter员工?

马斯克:大概是只留下20%,剩下80%都离开了。

主持人:那么,你如何在只有20%员工的情况下运营这家公司?

马斯克:事实证明,不需要那么多人来运营Twitter。如果你不太关心信息审查制度,那么就可以撤掉很多人。我们观察Twitter这些年推出的产品,花了一年多时间才推出一个没什么用处的编辑按钮,这真是个笑话,又不是造汽车或者让火箭进入轨道这种比较困难的事情。当时Twitter的人员是有冗余的,并没有发挥出人才真正的作用。

现在我们把Twitter管理得比原来好,我们把系统的响应速度提高了80%,有一段显示时间线的核心代码每天运行数十亿次,运行效率超过原来的80%。我们还改变了Twitter上的视频播放限制,从原来只能发10分钟以下的视频到现在可以发两个小时的视频,我们很快会解除其他限制,你想在Twitter上发小说都可以。

我们将开放更多的源代码,接受公众审查,公众指出代码问题,我们也会立刻进行修改调整,这是一种获得公众信任的行为,我希望这么做能让公众更喜欢用Twitter。

新闻热线&投稿邮箱:[email protected]

END 

值班编辑:姚赟  审校:胡楠楠  制作:姜辰雨

关注“中国企业家”视频号

 看更多大佬观点和幕后故事

[ 推荐阅读 ]

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
本钱是最弱的因素,看看Bill Gates, 巴菲特,马斯克,乔布斯,小扎发迹史就明白了马斯克和扎克伯格约架!大佬的八角笼格斗凉了!马斯克:我妈不让~扎克伯格称已准备好8月26日格斗,马斯克:自己格斗前可能需要做手术5071 血壮山河之武汉会战 黄广战役 3真相率先开放语音、视频等多模态对话能力,这家中国公司又比OpenAI走快了一步3400亿美元的“约架”被叫停!马斯克妈妈:不准打架!马斯克:“妈,停下来,我要和他比赛”糕妈:好心付出却被糕爸“摆臭脸”?这么做比吵架更解气图灵奖得主杨立昆:生成式AI有点过时了|中企荐读施一公:我骨子里从不以大学论英雄|中企荐读思念,是对母亲唯一的回报余华:如果我现在30岁,我想考上北师大和苏童、莫言学写小说|中企荐读马斯克:未来可能每三天发射50枚火箭,足以在火星建造城市英伟达如何掀翻英特尔王座|中企荐读时间自由,是财富能带给你的最大红利|中企荐读大帝(1)——成吉斯汗: Genghis Khan谁是汽车产业的“破坏者”|中企荐读食品巨头是如何利用盐、糖、脂肪来诱惑我们的|中企荐读马斯克和扎克伯格罗马斗兽场约架?!火药味越来越浓,马斯克:我先动个手术从人类进化史看ChatGPT的本质|中企荐读被欠薪员工追打,被保安拒公司门外,姚振华冤不冤|中企荐读Hélène Binet:光的哲学家高利率,低利率,总有一款镰刀可以收割韭菜李开复:AI大模型是不能错过的历史机遇 |中企荐读马斯克:对,xAI 就是 OpenAI 的竞争对手!月活用户近10亿的OpenAI计划暂不上市;AI生成马斯克婴儿照被疯传,马斯克本人回应|AIGC周观察第五期OpenAI创始人:我们是一个非常追求真理的组织|中企荐读创始人访谈 | 领诺医药韩照中:没有更好的技术,只有更好的产品黄仁勋是如何管理万亿英伟达的|中企荐读新研究证实,血型与新冠易感性相关,A型比O型风险高要真打?马斯克:“马扎之战”将在X上直播(更新:扎克伯格回应了)张颂文给应届毕业生的5条建议|中企荐读该怎么“活着”?当董宇辉对话余华|中企荐读陆奇对话高科技营销之父:从技术到市场,ChatGPT还需跨越“鸿沟”|中企荐读姚洋:为何中国的产业经济充满韧性|中企荐读立志重构制造业,百度走得比OpenAI远多了Sam Altman最新访谈:AI是让世界变得更好的唯一可持续方式|中企荐读OpenAI科学家告诉你:欲成伟业,莫设目标|中企荐读
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。