logo
Redian新闻
>公众号
>
OpenAI、谷歌微软等设立1000万美元AI安全基金

OpenAI、谷歌微软等设立1000万美元AI安全基金

公众号新闻

出品 | OSC开源社区（ID：oschina2013)
谷歌、微软、OpenAI 和 Anthropic 发布联合声明，任命美国智库学会高管 Chris Meserole 为前沿模型论坛 (Frontier Model Forum) 首任执行董事。并宣布设立 1000 万美元的 AI 安全基金，“以推动正在进行的工具开发研究，帮助社会能够有效地测试和评估最有能力的 AI 模型。”
前沿模型论坛由微软、OpenAI、谷歌和 Anthropic 在今年 7 月联合创立而成，是一个专注于确保安全和负责任地开发前沿人工智能模型的行业机构。该论坛旨在帮助：

  • 推动人工智能安全研究，促进负责任地开发前沿模型并最大限度地降低潜在风险；

  • 确定前沿模型的安全最佳实践；

  • 与政策制定者、学术界、民间社会和其他方面分享知识，推动负责任的人工智能发展；

  • 以及大力支持开发有助于应对社会挑战的 AI 应用程序。

公告指出，AI 安全基金将支持来自世界各地附属于学术机构、研究机构和初创公司的独立研究人员。初始资金来自 Anthropic、谷歌、微软和 OpenAI，以及其他慈善合作伙伴。
基金的主要重点将在于，支持开发新的模型评估技术，以帮助开发和测试前沿系统潜在危险能力的评估技术。“我们相信，增加该领域的资金将有助于提高安全标准，并为行业、政府和民间社会应对 AI 系统带来的挑战所需的缓解和控制提供见解。 ”
该基金将在未来几个月内征集提案。前沿模型论坛还计划成立一个顾问委员会，以帮助指导其战略和优先事项。
1000 万美元不算小数目，但在 AI 安全研究的背景下以及与前沿模式论坛成员在商业活动上的花费相比，这一数目就 “显得相当保守了”。科技媒体 TechCrunch 指出，仅今年一年，Anthropic 就从亚马逊筹集了数十亿美元，用于开发下一代 AI 助手，此前谷歌也向其投资了 300 美元。
且与其他 AI 安全基金相比，该基金的规模也很小。根据博客 Less Wrong 的分析，由 Facebook 创始人 (Dustin Moskovitz 联合创办的资助和研究基金会 Open Philanthropy 已为 AI 安全捐赠了约 3.07 亿美元。
公益公司 “The Survival and Flourishing Fund” 也已向 AI 安全项目捐赠了约 3000 万美元。美国国家科学基金会表示，未来两年将斥资 2000 万美元用于 AI 安全研究，部分资金由 Open Philanthropy 资助。
“前沿模型论坛暗示下一步将成立一个规模更大的基金。如果这一目标实现，它可能有机会推动 AI 安全研究 —— 前提是我们相信该基金的明确营利性支持者不会对研究施加不当影响。但无论你如何划分，首批资金似乎都过于有限，无法取得多大成就。”
相关链接：https://openai.com/blog/frontier-model-forum-updates


END



typescript的诞生



活动推荐

10 月 28 日，本周六，源创会苏州站暨 Techo TVP 技术沙龙将正式拉开帷幕。

这一次，我们以“寻宝 AI 时代”为主题，希望能给每一位开发者新的启发，一起在 AI 新时代更上一层楼。同时，我们将沙龙地点定在了轰趴馆，希望各位玩得开心！

快扫描下方二维码，或点击文末“阅读原文”即刻报名 🎁🎁


阅读原文立即报名>>

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
来源: qq
点击查看作者最近其他文章
相关阅读
宇宙人(1391期）OpenAI终极反转；朝鲜宣布成功试射军事侦察卫星；日本将设立10亿美元的JAXA基金，以发展该国的航天工业红色日记 1967年 18岁 1.1-16在视觉提示中加入「标记」，微软等让GPT-4V看的更准、分的更细注意！今日起，奥克维尔这些公共服务、社区中心等设施全关闭！广东省县域经济基金成立，总规模100亿元；广汽集团参与发起设立100亿元智能网联新能源汽车产业发展基金丨11.13-11.19让OpenCV 5活下去！OpenCV发起50万美元众筹！"妈妈让我来自首"，7岁男孩在派出所写下"bǎozhèng书"行业资讯大盘点｜东莞产投母基金完成备案；安徽省智能家电（居）产业基金招GP；100亿，铜陵市产业发展母基金设立清华、微软等淘汰提示工程师？LLM与进化算法结合，创造超强提示优化器李开复4个多月后“放大招”：对标 OpenAI、谷歌，发布“全球最强”开源大模型专访丨积家CEO Catherine Rénier：情感联结和艺术表达对腕表也至关重要九十七 过扬州太刺激了！505 of 700 employees @OpenAI to resign，几个老中在内！一周快讯丨重庆设立空天信息产业千亿规模基金群；南控母基金招子基金GP；湖南湘投产业母基金成立突发！加拿大宣布全面禁微信等APP！目前已无法下载！这些电脑、手机等设备均停止访问战国故事《定风波》卷二（25）：春梦这个掌握全球经济命脉、硅谷最劲爆的华人，是Intel一生的对手，还让微软、谷歌、特斯拉都离不开！（附演讲视频）物流巨头中集集团参设产业基金，加强储能领域投资；鲁信创投发起设立100亿元山东省工业高质量发展基金 | 10.16-10.22OpenAI“生死存亡”时刻：95% 员工或将加入微软，原 OpenAI 寻求与竞对合并？OpenAI开出1000万美元天价年薪，挖走谷歌顶尖工程师？北大AI博士未毕业拿百万offer谷歌拟投资Character.AI数亿美元；OpenAI继续向微软要钱；自定义GPT最佳Top10名单发布传OpenAI下月推出重大更新以削减开发者成本；《生成式人工智能服务安全基本要求》公开征求意见丨AIGC日报医疗大模型爆火！微软、谷歌全All in调研今年 30 双「新鞋型」，模块放大、复古银等设计正令人惊艳本周财经市场5件大事：美国将公布GDP 微软等四大巨头将公布财报武汉都市圈高质量发展基金正式设立，总规模100亿元；华熙生物设立10亿元基金，首次投向生命科学领域 | 10.30-11.05银行懵了！华裔男子伪造100万美元支票存入银行，已经取走50万美元一周快讯｜安徽省新材料产业主题基金招GP；50亿，泉州将成立文旅产业创新发展母基金；黑龙江设立200亿引导基金厚重的历史书，雄伟的大教堂李开复4个多月后“放大招”：对标OpenAI、谷歌，发布“全球最强”开源大模型40亿美元！​亚马逊投资Anthropic公司 预对战微软OpenAl【周六前瞻】微软、谷歌、亚马逊财报来袭，美股下周应该关注什么？重庆出手300亿元设立西部（重庆）科学城产业发展母基金；高盛旗下WSIP四期基金完成40亿美元终期募集丨10.23-10.29华大基因做LP出资设立基金，投向生物医药等领域；普洛斯两期新基金完成募集，总规模约35亿元丨10.09-10.15九十八 婚礼OpenAIGinkgo公布Q3财报：入账5500万美元，与辉瑞、谷歌建立新合作
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章，不代表同意其说法或描述，仅为提供更多信息，也不构成任何建议。文章信息的合法性及真实性由其作者负责，与Redian.news及其运营公司无关。欢迎投稿，如发现稿件侵权，或作者不愿在本网发表文章，请版权拥有者通知本网处理。