人工智能领域的知名企业和人士联手促进人工智能安全

Illustration: Alex Castro / The Verge

根据近日的一份公告（https://www.oasis-open.org/2024/07/18/introducing-cosai/），谷歌、OpenAI、微软、亚马逊、英伟达、英特尔和其他人工智能领域的大公司将联合起来组建安全人工智能联盟（CoSAI）。该倡议旨在通过提供对开源方法、框架和工具的访问来解决“人工智能安全的碎片化局面”。

我们不知道CoSAI将对人工智能行业产生多大的影响，但人们会想到泄露机密信息（https://www.theverge.com/2023/5/19/23729619/apple-bans-chatgpt-openai-fears-data-leak）和产生歧视的担忧（https://www.vox.com/technology/23738987/racism-ai-automated-bias-discrimination-algorithm），这些都是关于生成人工智能技术的安全性和隐私性问题。

加入CoSAI的其他公司包括IBM、PayPal、思科和Anthropic。CoSAI将存在于结构化信息标准促进组织（OASIS，Organization for the Advancement of Structured Information Standards）内，OASIS是一个促进开放标准发展的非营利组织。CoSAI将致力于三个目标：开发人工智能安全的最佳实践；应对人工智能领域的挑战；以及保护人工智能应用程序。

谷歌安全副总裁Heather Adkins在一份声明中表示：“我们多年来一直在使用人工智能，看到了防御者的持续潜力，但也认识到了对手的机会。CoSAI将帮助大大小小的组织安全、负责任地整合人工智能，帮助他们在降低风险的同时利用其优势。”