来源：赛博研究院，仅供学习！
2023年11月14日，美国国土安全部(DHS)下属网络安全和基础设施安全局（CISA）发布第一版人工智能路线图，旨在保障人工智能安全开发和落地实施。美国国土安全部在确保美国人工智能安全和安保方面发挥着至关重要的作用。
10月底，拜登政府签署发布《关于安全、可靠和可信的人工智能》行政命令，要求美国国土安全部推动全球人工智能安全标准，保护美国网络和关键基础设施，减少人工智能被应用于制造大规模杀伤性武器的风险，打击人工智能相关的知识产权侵权案件，并帮助美国吸引和留住相关技术人才等。作为人工智能治理政策的一部分，CISA的人工智能路线图为美国国土安全部提出了五个重点工作方向，并依次制定相应的工作计划。
美国国土安全部部长Alejandro N. Mayorkas表示：“国土安全部在推进负责任地使用人工智能方面发挥着广泛的领导作用，这项网络安全路线图是我们工作的重要组成部分。美国政府致力于建立一个安全和有弹性的数字生态系统，以促进创新和技术进步。在上个月的行政命令中，总统要求国土安全部在全球范围内促进人工智能安全标准的采用，并帮助确保人工智能的安全、可靠和负责任的使用和发展。CISA的路线图列出了工作步骤，指导我们利用人工智能并减轻其对关键基础设施和网络防御风险。”
CISA的局长Jen Easterly说：“人工智能在加强美国网络安全方面有着巨大的潜力，但作为目前最强大的技术，它也带来了巨大的风险，”CISA局长詹·伊斯特利说。“我们的人工智能路线图关注人工智能、网络防御和关键基础设施间的联系，并提出了一个全局性的计划，以促进人工智能的有益使用，提高网络安全能力；确保人工智能系统免受网络威胁，并遏制恶意使用人工智能威胁美国人每天所依赖的关键基础设施。”作为国家级的网络防御机构和国家关键基础设施安全协调单位，CISA希望建立一个安全、有弹性的数字生态系统，支持国家顶尖创新，大幅提升为美国公众提供关键基础设施服务的能力。CISA的路线图概述为五个方面：CISA将使用支持人工智能的新一代工具来加强网络防御，并支持其关键基础设施保护任务。CISA 将确保AI技术的采用能够负责任、合乎道德和安全地使用——符合宪法和所有适用的法律和政策，包括涉及联邦采购、隐私、公民权利和公民自由的法律、政策。
CISA将评估和协助各种利益相关者采用基于人工智能的安全设计软件，包括联邦政府机构、私营部门公司；以及州、地方、部落和地区（SLTT）政府组织，同时将通过制定安全和有弹性的人工智能开发和实施指南来建立保障机制，包括制定生成式人工智能红队的计划。工作重点3：保护关键基础设施免受 AI 的恶意使用
CISA 将与开发、测试和评估 AI 工具的各类机构组织合作，评估并建议缓解美国国家关键基础设施面临的 AI 威胁。作为这项工作的一部分，CISA将建立专门委员会，促进围绕与 AI 系统相关的威胁、漏洞和缓解措施的工作协同沟通。工作重点 4：与国际性组织和机构就关键的 AI 工作进行协作和沟通
CISA将为美国国土安全部领导的跨部门工作提供服务，包括为美国政府在网络安全和人工智能方面的总体国家战略制定政策方法，并支持国土安全部在基于人工智能的软件政策问题上采取整体方法。这还包括与国际合作伙伴协调，以推进全球人工智能安全最佳实践和应用。工作重点 5：加强建设具有人工智能专业知识的人才队伍CISA将继续加强教育内部员工了解人工智能软件系统和技术，并将继续积极招聘具有人工智能专业知识的研究人员和专业人才。CISA将确保通过内部培训让所有员工了解基于人工智能的软件应用法律、道德、政策以及技术方面知识。
原文链接：https://www.cisa.gov/news-events/news/dhs-cybersecurity-and-infrastructure-security-agency-releases-roadmap-artificial-intelligence
全部视频课程+何谈系列+圈子
