白宫发布新的人工智能行政命令

关键要点

• 新的行政命令旨在增强对快速发展的人工智能系统的监督，确保AI发展的安全与安全性，同时降低对消费者和国家安全的风险。
• 这一行政命令在人工“通用”智能迅速成为现实的关键时刻发布，政府需要迅速采取行动管理AI带来的影响。
• 行政命令附带了消费者保护、AI人才增长和技术行业中对AI产品需求增加等多个积极影响，但也存在一些不足之处。

本周，白宫发布了一项新的，旨在加强对快速发展的人工智能系统的联邦监督，促进AI发展的安全性，并降低对消费者和国家安全的风险。

这一行政命令的发布恰逢关键时刻，人工“通用”智能的发展速度快于许多人预期的现实。今年，许多人对

的变革性力量感到惊讶，但未来一年，AI的进步预计将呈指数级增长。这些智能系统的影响无疑会改变世界——无论是好是坏，政府如果希望有效管理这些影响，就必须迅速行动。

行政命令的发布标志着朝着正确方向迈出的重要一步，为我们有效利用AI的巨大潜力铺平道路，同时将安全和保障放在首位。该命令提出了多个组成部分，必将改善我们与AI的创作和互动方式，但在该命令的指导方针被公共和私营部门公司落实的过程中，也存在一些空白和待开发的领域。

行政命令的优势

增强AI安全性和安全性可能是这项行政命令带来的最大和最明显的好处，但在这些好处之下，还有几个额外的组成部分产生了其他积极的影响。例如：

优势 | 描述
—|—
消费者保护增强 | 机器学习模型依赖大量数据生成有用输出，但这些巨量数据隐含了隐私风险。消费者对数据的收集、存储和使用越来越关注，组织需要在尊重消费者隐私方面施加更大压力，以建立对AI的信任。此外，行政命令建立的水印指南将有助于识别AI生成的内容，从而更好地保护消费者免受AI-enabled欺诈和欺骗。
AI人才激增 | 尽管AI的使用和采纳加速，但AI技能和人才的发展速度却滞后。研究显示，超过一半的组织没有合适的AI技能人才，这已成为推动AI项目的主要障碍。该命令有望通过资助本地人才发展和吸引外来人才的举措，开始扭转这一趋势。
对AI本土产品的需求增加 | 尽管行政命令主要针对联邦机构，但私营部门的科技公司也会逐渐受益。一旦集中政府资金根据该命令的指导方针进行分配，联邦机构将能够更迅速、更经济地采购特定的AI产品与服务，从而提升AI本土产品的需求，并最终提高依赖这些工具的机构的生产力和安全性。

行政命令的不足之处

行业或许会发现确定红队测试的透明度存在挑战。行政命令在AI模型公开发布之前设定了更严格的红队测试标准。特别是，该命令规定开发者必须与美国政府共享其安全测试结果。虽然开发者可能同意分享他们如何应对脆弱性，但很少有人愿意主动分享这些脆弱性，以避免暴露其组织面临风险或受到审查。

尽管行政命令有效地涵盖了促进安全AI开发的方法，但缺乏一个推广防御对抗恶意AI的保护组件。作为电子邮件安全供应商，我们可以直接见证攻击者如何利用生成AI扩大攻击规模，而政府机构因其对敏感数据的访问及对关键基础设施的控制，成为极具吸引力的目标。行政命令在这方面没有充分承认恶意行为者使用这些工具所带来的风险，也没有设法阻止他们这样做。

同样，主动利用AI做好事的机会仍未开发。行政命令主要侧重于最小化“