Redian新闻
>
美国人工智能自愿行为守则及对军事用途的影响

美国人工智能自愿行为守则及对军事用途的影响

公众号新闻
图丨Pexels
据Homeland Security News Wire网站7月28日报道,7月21日在白宫举行的一次活动上,包括微软、OpenAI、Anthropic和Meta在内的七家拥有主要人工智能(AI)产品的科技公司就人工智能的监管做出了自愿承诺。行为准则涵盖了可能受人工智能影响的领域。虽然这些承诺不具约束力、不可强制执行,而且是自愿性的,但它们可能成为未来人工智能行政命令的基础,鉴于人工智能在军事上的使用越来越多,这一点将变得至关重要。

人工智能自愿承诺如下:

1. 对将发布供公众使用的产品进行(内部和外部)重新审核。生物、化学和放射性风险,以及如何降低武器开发和设计的准入门槛,是其中的一些重中之重。除了偏见和歧视等社会风险外,还需要评估对具有相互作用和控制物理系统能力的系统的影响;

2. 公司和政府之间的信息共享。这将是一个挑战,因为整个模式是建立在保密和竞争的基础上的;

3. 投资于网络安全和保障措施,以保护未发布和专有的模型权重;

4. 鼓励第三方发现并报告问题和漏洞;

5. 为人工智能生成的内容添加水印;

6. 公开报告模型或系统能力,包括社会风险讨论;

7. 优先研究人工智能系统带来的社会风险;

8. 开发和部署前沿的人工智能系统,帮助解决社会面临的最大挑战。

美国大型科技公司的八项承诺是在联合国安理会(UNSC)首次就人工智能对全球和平与安全构成的威胁召开会议几天后做出的。联合国秘书长(UNSG)提议成立一个全球人工智能监督机构,由该领域的专家组成,将与各国政府和行政机构分享专业知识。联合国秘书长还补充说,联合国必须在2026年之前达成一项具有法律约束力的协议,禁止在自动化战争武器中使用人工智能。
联合国安理会的讨论可被视为将焦点从政府和大型科技公司之间双边背景下的短期人工智能虚假信息和宣传威胁提升到了更广泛的全球焦点,即人工智能的进步以及遵循某些共同标准的必要性,这些标准应是透明的、尊重数据被大规模“搜刮”的个人隐私并确保强大的网络安全。
人工智能在军事上的应用是硅谷发展的一个分支。因此,为控制人工智能的发展而提出的建议必须超越自我审查,进入监管领域。这将是确保这些技术的不当影响不会蔓延到已经充斥着致命的精确武器的现代战场的必要条件。
来源:Homeland Security News Wire、生物安全情报网编译

   

往期热点 (点击标题跳转)

01

科幻照进现实2:研究使用人工生命系统模拟远古生物入侵,释放古老病毒将是全球灾难!

02

科幻照进现实!德国科学家复活了4.6万年前的远古生物

03

NEJM | 全球每天喝掉35亿杯咖啡!最新研究揭示咖啡对健康的急性效应

04

新发现!Nature子刊揭示蝙蝠的病毒多样性和潜在传染风险



小编微信

注:添加小编请备注昵称+单位+研究



生命科学综合交流QQ群:681341860

微信学科群:神经科学群、医学、基础科学等纯科研交流群、硕博交流群和医药投资交流群(微信群审核要求较高,请各位添加小编后主动备注单位研究方向)

 

   


微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
2023世界人工智能大会7月6日-8日举行!等你来看大模型、芯片、机器人、智能驾驶……寻找中国版ChatGPT:美国风投积极投资中国人工智能初创公司黄奇帆最新演讲:中国人工智能落后美国至少两年,差距还在快速拉大,警惕美欧利用数字规则合围中国……过沙洲Meta解释了人工智能如何影响Facebook和Instagram用户高分美剧的五大黄金守则思想周报丨人工智能影响好莱坞罢工;全球南方粮食危机孩子的性格来自父母教养风格!给爸妈的10个教养守则建议周五谈资 | 美团外卖快乐“划水”,名画集体出逃去旅行,乐事用807只山羊向梅西致敬!后普京时代?俄罗斯局势最新预判及对中国经济影响全面分析(3800字长文)马斯克2023年世界人工智能大会演讲:我相信,中国会有很强的人工智能能力!(附视频&演讲稿)中美在中国周边竞争及对中日韩合作的影响生成式人工智能,影响了哪些行业和职位?「简报」Shapiro 州长访问卡耐基梅隆大学——人工智能的诞生地,签署关于生成式人工智能的行政命令;拓展:以新方式建模神经元MIT 教授/校友Kellis姐弟同台分享!超越人类智能:人工智能与阴阳促进人类潜能人工智能立法提上日程:兼顾安全与发展,为人工智能治理打下框架性基础NTU TOM教授 基于人工智能的客户行为预测分析算法|收获一作论文与导师推荐信!工信部:构建从智能芯片到算法框架到大模型的全栈式人工智能产业链中原遗老东南望群邑:人工智能催生的创业热潮已经影响了一半的广告;欧盟监管机构或要求谷歌出售部分广告技术业务(广告狂人日报)芥芥的生日愿望硅谷AI投资双子星: Nat Friedman与Daniel Gross如何投出美国人工智能的半壁江山?里斯本庞巴尔侯爵广场(Marquis of Pombal Square),著名广场硅谷人工智能创新之旅精彩回顾 | 与世界顶尖科技企业交流,探索人工智能创新之谜看到新同事用AI做的海报,我震惊了!知圈专栏 | 人工智能的“智能”是什么?— 智能的原理(上)黄奇帆:chatGPT大大加速美国人工智能发展,我国与之差距至少在两年以上,且差距呈快速拉大趋势法律翻译 | 拜登-哈里斯政府宣布采取新行动促进可靠的人工智能创新,保护美国人民的权利与安全平析 | (极简极透)一篇文章让你彻底读懂美联储加息,以及对中国的影响!(来自7年前的精准透析~)新同事用上了Lumion12永久激活版后,对我们充满了鄙视...(附软件下载)携手共创更加美好的智能世界!2023世界人工智能大会在沪开幕,陈吉宁致辞,龚正主持诺贝尔奖得主写的 “职场小白” 和 ”霸道总裁“硅谷人工智能创新之旅总回顾 | 与世界顶尖科技企业交流,探索人工智能创新之谜俄正从这些国家回购军事用品?《时代》专访ChatGPT之父:人工智能影响经济还需要很多年
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。