美国白宫备忘录要求保护AI免受外国对手侵害

共计 493 个字符，预计需要花费 2 分钟才能阅读完成。

据《纽约时报》报道，乔·拜登总统预计将于周四签署一份备忘录，详细说明包括五角大楼在内的情报和国家安全机构应如何使用和实施 AI 的护栏措施。这份备忘录旨在确保 AI 技术的安全和合理使用，防止其被外国对手利用。

主要内容

1. 人类“参与循环”：
   • 目标：确保在可能用作武器的 AI 工具中保持人类“参与循环”。
   • 禁止：禁止 AI 在未经人工审查的情况下决定授予庇护、根据某人的种族或宗教追踪他们，或将被判定为“已知恐怖分子”。
2. 保护 AI 和 AI 芯片：
   • 目标：防止外国对手的间谍活动或盗窃。
   • 措施：要求情报机构开始保护 AI 和 AI 芯片的工作。
3. AI 安全研究所的作用：
   • 授权：授权最近成立的 AI 安全研究所帮助在 AI 工具发布前进行检查。
   • 目的：确保这些工具不会帮助恐怖组织或敌对国家。

实施时间表

尽管备忘录设定了多项最后期限，但《纽约时报》指出，许多最后期限将在拜登离任后到期。因此，目前尚不清楚该命令最终将产生多大的影响。

背景

随着 AI 技术的快速发展，其潜在的安全风险也日益凸显。外国对手可能利用先进的 AI 技术进行间谍活动、网络攻击或其他恶意行为。因此，美国政府希望通过这些措施加强 AI 技术的安全性和可控性，保护国家安全和公民权益。（来源）