拜登召集奥特曼和李飞飞等入AI安全委员会,没带马斯克!库克考虑将iPhone AI服务委托给OpenAI
夕小瑶科技说 原创
作者 | 付奶茶
美国总统拜登最近成立了一个新的人工智能安全委员会,目的是解决人工智能技术可能对电网、机场等关键基础设施带来的潜在威胁。
国土安全部部长Alejandro Mayorkas是委员会的主席,他强调:“如果在关键基础设施中未能以安全、可靠和负责任的方式部署AI,后果可能是灾难性的。”因此,这个委员会的工作不仅仅是技术发展,还关注于确保在引进新技术时保障公共安全。
该委员会的成员包括来自OpenAI的Sam Altman、微软的Satya Nadella、Google/Alphabet的Sundar Pichai,斯坦福的李飞飞,以及达美航空、诺斯罗普·格鲁曼公司和西方石油公司的高层领导。
但是令奶茶非常惊讶的是,埃隆·马斯克、马克·扎克伯格皆未被邀请加入此委员会。
完整名单如下:
怎么回事!奶茶也非常不懂!
库克尝试外包iphone的生成式AI服务
Apple 正在与 OpenAI 加强讨论,探讨在今年下半年将推出的iPhone新功能中使用OpenAI的技术。
根据内部人士透露,两家公司已经开始讨论可能的合作条款以及如何将 OpenAI 的功能整合到即将发布的 iPhone 操作系统 iOS 18 中。(虽然但是,Apple 也在与 Google 的 Alphabet Inc. 讨论Gemini聊天机器人与iphone合作的事宜)
根据Bloomberg报道,尽管Apple今年早些时候曾与OpenAI 讨论过协议,但此后双方的合作一直较少。目前,Apple 尚未就合作伙伴做出最终决定,也无法保证最终能够达成协议。公司可能最终会与 OpenAI 和 Google 都达成协议,或者选择另一家完全不同的供应商。
去年,库克表示他个人使用了 OpenAI 的 ChatGPT,但指出存在“许多需要解决的问题”。他承诺,新的AI功能将在“非常周到的基础上”引入Apple的平台。
通过与其他更成熟的生成式AI公司的合作,Apple能够加速推进聊天机器人技术,并规避一些风险,减轻自家公司的潜在责任。
Altman 斯坦福演讲受好评!
4月25日,Sam Altman 在自己的母校斯坦福大学的 NVIDIA 礼堂(场地选的真的很赞,哈哈哈)发表了关于 AI 未来的精彩演讲!
以下是奶茶通过网友们整理的演讲内容(斯坦福大学的何婉容发布),分享一些有趣的观点给大家:
GPT4即将成为我们所知的最愚蠢的模型之一
继GPT-4之后的下一代AI模型将更加强大。虽然复制现有模型相对简单,例如谷歌轻松推出了Gemini,但真正的挑战在于定义 AI 能力的下一次转变。AI 的发展潜力可能与 iPhone 在移动计算领域的革命性影响相媲美。
Scaling Law 依旧有效
OpenAI目前最大的组织变化就是是意识到Scaling很重要之后,将所有计算资源都聚集起来做一件事。
探索通向AGI的路径
OpenAI 的目标是实现人工通用智能(AGI),而开源并非实现此目标的最佳途径。OpenAI 通过提供一个免费且无广告的 ChatGPT 来积极影响社会,同时追求自己的目标。为了让所有人更容易获取 AI,我们应该重点降低 AI 计算成本,使其在全球范围内普及,从而消除不平等。ChatGPT 旨在作为增强人类能力的工具,无需赋予其情感。对于超级 AI 的担忧是多余的,因为与未来的模型相比,现有的每一个新模型都显得不足。例如,尽管 GPT-4 一推出便引起巨大反响,但现在大家已觉得它不够好,期待 GPT-5 的到来。
创新与创业机遇
仅专注于解决当前 AI 的限制可能是徒劳无功,因为未来的模型如 GPT-5 和 GPT-6 可能会让这些努力变得过时。Sora 等突破性技术可能会彻底改变娱乐行业,创造出结合电影和游戏的个性化互动体验。AI 初创公司拥有巨大的发展潜力,但成功不仅需要 AI 技术,还需遵守商业基本法则。尽管 AI 在某些领域如国际象棋可能超过人类,但大家仍然更喜欢观看人类选手的比赛。然而,也有例外,例如青少年可能更喜欢与 AI 聊天而不是与人类心理医生交流。
开源的立场
Sam明确表示,OpenAI的目标是实现人工通用智能(AGI),并不认为开源是达到这一目标的最佳路径,他希望通过提供一个免费且无广告的ChatGPT来产生社会影响。
AI的强度和社会公平
他不担心AI变得过于强大,指出公众在GPT-4发布后虽然感到震惊,但很快就期待更强大的GPT-5。为了消除不平等,他提议通过降低AI计算成本,使AI技术在全球范围内更加普及和可负担。
人类与AI的关系
尽管AI在某些技能,如下棋上可能超越人类,人们通常还是更喜欢观看人类的比赛。不过,青少年这一AI原生一代可能更倾向于与AI进行心理健康对话,显示了AI在未来服务领域的潜力。
娱乐行业的创新
他特别提到Sora项目,认为它将开创一种新型的娱乐方式,结合电影和游戏元素,能根据观众的喜好和互动实时生成内容。
OpenAI的战略方向
Sam透露,OpenAI已经将其计算资源集中,以便更有效地推进大规模AI模型的开发。他还强调,即使在没有新数据的情况下,也能通过AI生成的训练数据持续提升模型的推理能力。
关于AI创业的展望
他认为现在是创办AI创业公司的好时机,但提醒人们,仅仅使用AI技术并不能保证超越所有现有产品,AI企业仍需遵循基本的商业规则。
虽然这次演讲提供了满满干货,但是网友们对其中的部分看法并不完全认同:
这个问题确实踢到铁板了哈哈哈哈!
是啊!他不是刚和老黄交接了H200!
大家对于 Altman的演讲有什么看法吗~ 欢迎评论区一起讨论~
参考资料
[1]https://www.wsj.com/tech/ai/openais-sam-altman-and-other-tech-leaders-to-serve-on-ai-safety-board-7dc47b78?mod=ai_news_article_pos2[2]https://www.reuters.com/technology/apple-renews-talks-with-openai-iphone-generative-ai-features-bloomberg-news-2024-04-26/
[3]https://www.reuters.com/technology/apple-renews-talks-with-openai-iphone-generative-ai-features-bloomberg-news-2024-04-26/
[4]https://www.reuters.com/technology/us-homeland-security-names-ai-safety-security-advisory-board-2024-04-26/
[5]https://x.com/heysophiahong/status/1783417397711696141?s=46
微信扫码关注该文公众号作者