OpenAI 警告加州的人工智能法案威胁美国创新

OpenAI 警告加州的人工智能法案威胁美国创新

OpenAI加入了越来越多的科技领袖和政客的行列，反对加州一项有争议的人工智能安全法案。该公司认为，这项名为SB 1047 的法案会扼杀创新，监管应该在联邦层面进行。

OpenAI 在致加州参议员斯科特·维纳办公室的一封信中表示，他们担心该法案可能对美国竞争力和国家安全产生“广泛而重大”的影响。该公司认为，SB 1047 将威胁加州作为人工智能全球领导者的地位，促使人才寻求“其他地方的更大机会”。

该法案由参议员维纳提出，旨在为开发超过特定规模和成本门槛的大型人工智能模型的公司制定“常识性安全标准”。这些标准将要求公司实施关闭机制，采取“合理谨慎”以防止灾难性后果，并向加州总检察长提交合规声明。不遵守规定可能会导致诉讼和民事处罚。

曾服役于美国空军并担任美国国防部联合人工智能中心（JAIC）首任主任的中将约翰（杰克）沙纳汉认为，该法案“深思熟虑地应对了人工智能对公民社会和国家安全构成的严重风险”，并提供了“务实的解决方案”。

前国防部主管核、化学和生物防御计划的助理部长安德鲁·韦伯 (Andrew C. Weber) 先生也表达了对国家安全的担忧。

“我们的对手从领先的实验室窃取强大的人工智能系统将给我们所有人带来相当大的风险，”韦伯说。“考虑到他们的工作中存在的潜在风险，最先进人工智能系统的开发人员需要采取重要的网络安全预防措施。我很高兴看到 SB 1047 有助于建立必要的保护措施。”

SB 1047 法案引发了大型科技公司、初创公司和风险投资家的强烈反对，他们认为该法案对新兴技术要求过高，可能会扼杀创新，并将企业赶出该州。OpenAI 也表达了同样的担忧，有消息称，由于监管环境不确定，该公司已暂停扩建旧金山办事处的计划。

维纳参议员为该法案辩护，称 OpenAI 的信函未能“批评任何一项规定”。他驳斥了对人才外流的担忧，称其“毫无意义”，并表示该法律适用于在加州开展业务的任何公司，无论其实际位置如何。维纳强调，该法案要求大型人工智能实验室测试其模型是否存在灾难性安全风险，这一要求“非常合理”，许多实验室已经承诺这样做。

然而，批评者反驳说，强制向政府提交模型细节将阻碍创新。他们还担心诉讼威胁将阻止规模较小的开源开发商创办初创企业。为了回应这些反对意见，维纳参议员最近修改了该法案，取消了不合规公司的刑事责任，保护规模较小的开发商，并取消了拟议的“前沿模型部门”。

OpenAI 坚持认为，明确的联邦框架而非州一级的监管对于维护公共安全并保持美国相对于中国等竞争对手的竞争力至关重要。该公司强调，白宫科技政策办公室和商务部等联邦机构适合管理人工智能风险。

维纳参议员承认国会采取行动是理想的，但对其可能性表示怀疑。他将其与加州在没有联邦行动的情况下通过的数据隐私法进行了比较，并表示国会的不作为不应妨碍加州发挥主导作用。

加州议会将于本月就 SB 1047 进行投票。如果通过，该法案将交到州长加文·纽森的办公桌上，他对该法案的立场尚不清楚。不过，纽森已公开承认需要在人工智能创新与风险缓解之间取得平衡。