Redian新闻
>
他,硅谷新王

他,硅谷新王

公众号新闻

他在投身 AGI 之前,是一个彻头彻尾的末日论者。


作者 I Founder Park

来源 I Founder Park

(ID:Founder Park)


只用了不到 6 个月,ChatGPT 就把 Sam Altman 送去了几乎所有科技领袖都得坐上半天的地方。


但是这一次,不同以往,议员们不够辛辣,他们友好,甚至有些尊重。据华邮报道,议员们对 Sam Altman 的态度比以往任何巨头 CEO 都要好得多。


同样与过去不同的是,这次议员们真的做了很多功课,学习了很多技术相关的知识。


可惜的是,他们再怎么准备,也追不上狂飙的 AI。他们和你我一样,还不能彻底理解 OpenAI 究竟创造了什么。


在这个逼仄的房间里,Sam Altman 是那个话事人,他不是在回答问题,而是在定义一切。他定义技术的能力、监管的边界,也定义整个科技世界的未来。


有人说这场监管问询是人工智能新篇章的开始。


他似乎已经想好第一章该怎么写了。


技术需要监管

但让我告诉你们该怎么监管


如前文,整场发布会并不是批评 OpenAI 和 Sam Altman 的 AI 技术给社会带来的混乱。


相反,议员们拒绝批评 OpenAI 的技术研发,而是就 ChatGPT 等生成式 AI 系统的潜在规则,征求 Sam Altman 和另外两名证人的意见。


议员有备而来


这次听证会的主席,参议员 Blumenthal 用一段录音开场。


「我们已经见过太多次了,技术越过监管,个人数据肆意开采,虚假信息的扩散,以及社会不平等的加剧,我们已经看到,算法加剧了歧视与偏见,缺乏透明度可能会破坏公众信任。这不是我们想要的未来。」


录音结束,Blumenthal 说:「如果你在家听会,你可能会觉得刚刚的声音是我的,话是我写的,但实际上,那不是我的声音。」


他用声音克隆软件复制了自己的音色,让 ChatGPT 以自己的口吻写了一段听证会开场白。


这一举动赢得了大量网友的认可,他们认为国会在积极准备,尝试理解技术本身。


几个比喻


当面对一个很难理解的事物时,人们习惯把它比作自己熟悉的事物。


在整场听证会中,议员和证人把大语言模型比作这样几个东西:


第一部手机、互联网的发明、工业革命、印刷机和原子弹。


「请监管我们」


Altman 告诉议员,他最担心的是 AI 最终会对「世界造成重大伤害」,并承认如果 AI 没有得到适当的监管,势必会产生不利影响。「如果这项技术出了问题,后果可能会非常严重。」(If this technology goes wrong, it could be quite wrong.)


马斯克点评这句称:正确的(accurate)。


为此,他认为政府的监管对于帮助确保技术负责任地推广,是非常关键的。


一名参议员听到奥特曼的回答,评论说:「很少有公司会在国会面前说『请监管我们』」。


「但他没有提出放慢或者暂停推出 AI 产品,」华邮记者写道。


竞争少点对你们是好事


议员 Cory Booker 表示,他最大的担忧之一,是「企业高度集中」,「很少有公司能够控制和影响我们这么多人的生活,而且这些公司正在变得越来越强大,这真的很可怕」。


Altman 希望他放心,首先「只有较少的供应商能够制造大规模生成式 AI 这样的模型」,其次,「你真正需要关注的人越少,就越有好处。」他认为竞争是存在并且足够的。



我没说我们不做广告


Booker 议员同样问了 Altman OpenAI 是否会涉足广告业务。


Altman 表示存在这种可能性,「我不会说永远没有,」他认为存在潜在的客户只有广告这一个选项,但他个人非常喜欢订阅模式。


立法者担心,AI 系统采用广告模式,最终会重蹈社交网络和算法推荐的覆辙。


社交网络,这个与 OpenAI 关系不大的关键词,频繁地出现在整场听证会中。议员们在 Facebook 和 TikTok 之后,就像 PTSD 一样,疯狂地想要避免 social media 曾经给他们带来的麻烦。

于是 Altman 反复强调,AI 不是 social media,这么干不行。



新的数字殖民工具?


社交网络给国会带来的另一个麻烦,是对小语种支持的不足,导致美国科技公司被批评「数字殖民主义」。


议员提出了这个问题,担心 AI 是否支持足够多的语言。


Sam Altman 表示目前最新版的 ChatGPT「已经非常擅长使用大量语言,对于一些小语种,我们很高兴能和一些合作伙伴定制,将该语言纳入我们的模型」。


制定国际新标准


Altman 主张建立一个国际组织,为 AI 制定标准,他参考世界各国政府管制核武器的做法。


他认为美国应该发起建立一个类似国际原子能机构(IAEA)的组织,为 AI 行业制定全球规则。


「美国制定一些其他国家需要合作和参与的国际保准,有一些途径是切实可行的,尽管这在表面上看起来是一个不切实际的想法。」他说,「但我认为这对世界来说是件好事。」


新的 AI 法律


1996 年美国国会通过 230 条款,保护在线业务,不用承担用户发帖的责任,这某种程度上促进了社交媒体的兴起。Altman 表示这一条款将不适用于人工智能。他此前主张建立一套新的针对 AI 的法律。


三点计划


Altman 提出了一个成体系的有准备的方案:


1、成立一个新的政府机构,负责 LLM 的授权,同时也有权撤销不符合标准公司的许可证;


2、为 AI 模型建立一套安全标准,对其危险性进行评估;3、需要独立专家对模型的各个指标进行独立评估。


刻薄的同桌


虽然物理上和 Altman 是同一边的,但是纽约大学名誉教授 Gary Marcus 更像是国会的一员。


他的攻击性比议员们更强,提出了几个令 Altman 非常头疼的问题:


OpenAI 口口声声为了全人类,但实际上却和微软商业结盟;


GPT-4 的训练数据不透明,他不同意。


继续政治必修课


这场听证会结束后,Altman 还要马不停蹄地与国会 AI 核心小组作汇报,众议院院长也将主持这场会议。


美国国会听证会是 Sam Altman 系列行程的一部分,他正在进行为期一个月的国际访问,与各地政策制定者讨论技术和监管等问题。


据报道,Altman 多年前曾经考虑过竞选加州州长。与政治家们打交道并不是一件令他头疼的事。


为什么 Altman 如此渴望政府监管?


一位推特网友评论道:很简单。如果你制定了规则,你就控制了竞争。目的是让监管捕获,锁定后来者,成为新兴市场的唯一玩家。


定义者是谁?

他在想什么?


技术乐观主义者


Altman 在八岁时就开始学习编程。


在他二十多岁的一次和朋友的徒步旅行时,Altman 放弃了人类是独一无二存在的信仰。


当谈论到 AI 的进步时,他承认,「绝对没有理由相信,在大约 13 年内,我们不会拥有能够复制我的大脑的硬件。确实有一些东西让人觉得能够区分自身与其他的存在,比如创造力、无处不在的灵感闪现、同时感到快乐和悲伤的能力。但计算机也将有自己的愿望和目标系统。当我意识到智能可以被模拟时,我就放弃了我们独特性的想法。」


而且他坚信「所有真正可持续的经济增长来源于技术进步」。


末日论者


他在投身 AGI 之前,是一个彻头彻尾的末日论者。


「我为生存做准备,」他在 YC 的聚会上说,他指出有两种东西会毁灭人类,生物病毒和人工智能。


身边的创业者们对他的发言感到不适,但他继续说:


「我尽量不去想太多,」「但是我有枪支、黄金、碘化钾、抗生素、电池、以色列国防军提供的防毒面具和一大片位于 Big Sur 的土地可以飞过去。」


神童的养父


因此在上一轮产业 AI 大热的时期,Altman 和马斯克等人一起创办了 OpenAI,希望让人工智能超利好人类的方向发展。


他认为,真正的 AGI 应该做的不只是欺骗,它应该创造,发现理论,创作艺术。AGI 应该像儿童一样,花费数年学习所有的东西,OpenAI 的使命是照顾这个神童,直到它被世界所接受。


现在神童长大了。


在这之前,当无力负担神童的养护费用时,Altman 毫不犹豫地接过了微软的投资。「当他们发现需要更多资金来维持他们认为最有前途的道路时,他们毫不犹豫地选择了改变原则。」


所以说他和马斯克是知己


Sam Altman 有着多重身份。


他曾是创业公司 Loopt 的创始人,这家公司在 2012 年出售给 Green Dot,作价 4340 万美元。


YC 创始人 Paul Graham 寻找继任者时,他看上了 Altman。担任 YC CEO 的时候,Altman 28岁。a16z 的创始人 Marc Andreessen 评价他在 YC 的工作:「在 Sam 的管理下,YC 的野心水平翻了 10 倍。」


2019 年,他创办了加密货币公司 World Coin。该公司计划使用眼球扫描技术创建一个全球识别系统,该系统可以用于创建一个安全的全球加密货币 Worldcoin。


2021 年,他参与了核聚变初创公司 Helion Energy 的融资,一人提供了 3.5 亿资金。能源是他一直关注的问题。「如果我们能推动智能成本和能源成本一路走低,我们所有人的生活质量都将得到难以想象地提高」。


上周,微软宣布与 Helion Energy 签署购电协议,将于 2028 年向其采购电力。


Altman 还计划在 YC Research 成立一个合成生物学部门,以延缓人类的衰老和死亡。「如果它有效,」Altman 说,「你仍然会死,但是等你 120 岁的时候还活蹦乱跳。」


他正考虑成立一个小组,为人类的继任者做准备,无论是 AI 还是强化的人类。这个想法是召集机器人学、控制论、量子计算、人工智能、合成生物学、基因组学和太空旅行的思想家和哲学家们,讨论替代人类的技术和伦理


目前,这些领域的领导者们不定期在 Altman 家里开会。


聚光灯打向硅谷新王


OpenAI 惊天动地之前,Sam Altman 被称为「硅谷精英」,但现在,他所到之处,聚光灯跟随。


三月,硅谷银行(SVB)破产,Altman 拿出个人资金向发不出工资的创业公司贷款。


在最近一次播客采访中,Altman 说,「某种程度上,我们(OpenAI)正在做的事,和其他帮助 70 亿人的方式没什么不同。」


日前,Altman 发言称「远程办公是个错误」,「科技行业最大的错误之一是认为初创公司不需要员工在一起工作」。


这一观点被大量科技和经管媒体报道,轰动了疫情三年来早已普及远程办公的硅谷。


在整场听证会中,Sam Altman 像过去几十年所有硅谷叛逆的嬉皮士一样,给了议员们一点小小的极客震撼。


「你赚了很多钱吧?」议员问。


「我,不,我没有 OpenAI 的股权,我的薪水只够保险。」


「真的吗?有意思,那你需要一个律师。」


「我做这件事只是因为我热爱它。」


20 秒前还咄咄逼人的议员,哑口无言。


微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
旧金山市中心又一家旗舰店“跑路”!治安引担忧,硅谷大佬搬离旧金山,出差回市竟被当街捅死……(古詩詞英譯) 梅花 - 王安石〔宋代〕硅谷新王Sam Altman:国会议员最尊重的CEO,正在重写科技世界的规则“硅谷新秀”宣布裁员18%!初创公司太难了...英国新王登基!澳洲又要新增公共假期?!全民欢呼新王当立!德约错失第24座大满贯前哨科技速览:AI寒武纪爆发,硅谷银行金融寒冬未停刚刚,硅谷首家大厂重启New Grad招聘国民警卫队会保卫特朗普吗?确定了!出手了,硅谷银行存贷款被收购英伟达将成为新王,GPU销量将超过X86处理器?Threads用户破亿,硅谷“围攻”Twitter摩尔定律之父,硅谷巨人戈登·摩尔的传奇故事讲座预告 | 不想“毕业即失业”,硅谷一线工程师教你这样做!新王加冕!安省明天39个公园免门票!科技馆博物馆也免费!要挤爆!5030 血壮山河之武汉会战 九江战役 5从“史上最强小三”到英国新王后:卡米拉有什么魔力?“朱容君-兔子牙”直播首秀,快手涨粉250万;“薪儿姐师尊”新王登基,B站涨粉17万 | 涨粉周榜车企围攻整车OS,这张“新王牌”怎么打?旧金山的繁荣和阴暗​:Square 前CTO街头遇袭身亡,硅谷一片悲痛对谈“乔布斯”,硅谷明星创投代表详谈AI潜力领域比真实数据还有效?训练AI,硅谷早已用上了合成临床数据三代人换血,硅谷富豪为永葆青春拿自己的儿子当“血童”《祖国》&《可能》人类最终将毁于AI医疗GPT,硅谷又跑在了前面?哈哈哈哈哈,硅谷相亲实录,能有多离谱?被罚50亿美元后,硅谷巨头正面刚监管机构:“政治噱头”硅谷新王?现场直击!新王昨日加冕,查尔斯三世登基!澳洲这么表示...惊呆,硅谷大佬竟在旧金山街头被随机捅死!月GMV5000万,吃播界“新王”诞生?不写代码、靠“玩”ChatGPT年入百万,提示工程师正变成硅谷新宠世界经济或迎失落十年,硅谷大佬欲喊停大型AI研究 | 财经日日评一夜之间,硅谷变天...
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。