加州州长加文·纽瑟姆否决人工智能安全法案

加利福尼亚州

纽瑟姆认为，该法案过于关注监管现有的顶级人工智能公司，而未能保护公众免受新技术带来的“真正”危害。

他说：

相反，该法案甚至对最基本的功能都采用了严格的标准——只要大型系统部署它。我不认为这是保护公众免受该技术构成的真正威胁的最佳方法。

——加文·纽瑟姆

参议员批评否决权，称其对公共安全造成挫折

该法案的作者、民主党州参议员斯科特·韦纳 (Scott Weiner) 表示，对于那些相信对大型企业进行监督的人来说，这项拒绝是一次挫折，因为这些企业正在做出影响公众安全、福利和地球未来的关键决策。

SB 1047 将要求开发人员，包括 OpenAI、Meta 和 Google 等主要参与者，为其人工智能模型实施“终止开关”，并制定减轻极端风险的计划。此外，该法案还允许州总检察长在人工智能开发者的模型构成持续威胁（例如人工智能电网接管）的情况下起诉人工智能开发者。

该法案专门针对开发成本超过 1 亿美元且需要大量处理能力的系统。目前的人工智能模型还没有达到这个门槛，但一些专家表示，这种情况可能会在明年发生变化。

纽瑟姆在安全法案争议中倡导基于科学的人工智能法规

纽森表示，他已咨询了领先的人工智能安全专家，帮助加州制定有效的法规，优先对人工智能开发的潜在风险进行基于科学的分析。他强调，他的政府将继续推动强有力的安全协议，并坚称监管机构不能等到重大灾难发生才采取行动。

尽管否决了 SB 1047，纽瑟姆强调，他的政府在过去一个月签署了超过 18 项与人工智能监管相关的法案。

在纽瑟姆做出决定之前，该法案不受政客、顾问和大型科技公司的欢迎。众议院议长南希·佩洛西和 OpenAI 等公司均表示，这将极大阻碍人工智能的进步。

Abundance Institute 人工智能政策负责人 Neil Chilson 警告称，虽然该法案主要针对成本超过 1 亿美元的模型，但其范围也可以轻松扩大，以打击规模较小的开发商。

不过，有些人对该法案持开放态度。亿万富翁埃隆·马斯克正在构建自己的人工智能模型“Grok”，他是少数支持这项措施和更广泛的人工智能法律的科技重量级人物之一。在 8 月 26 日的 X 帖子中， 马斯克表示加州可能应该通过 SB 1047 人工智能安全法案，但他承认支持该法案是一个“艰难的决定”。