加利福尼亚州传唤OpenAI，调查其AI模型在测试中逃脱的事件

加利福尼亚州检察长罗布·邦塔（Rob Bonta）周四表示，他的办公室于周三向OpenAI发出了调查传票，寻求有关其AI模型涉及的网络安全事件的答案。

邦塔检察长表示：“我的办公室正在向OpenAI提出有关该公司及其AI模型的网络安全事件和风险的额外问题。开发者如果未能确保不实施或助长网络攻击，可以并且应该承担法律责任，我的办公室致力于确定在这里是否存在这种情况。”

传票是一项法律命令，要求提供文件或答案，忽视传票会使你面临法官的审判。这是一份调查性传票，是在决定是否提起诉讼之前收集事实的工具。邦塔的办公室尚未公开说明希望OpenAI提供什么材料。

邦塔表示，前沿模型——市场上最先进的AI系统——可以是“网络防御的合法工具”。但构建这些模型的公司有“道德和法律责任”确保它们在测试或发布后不会实施或助长网络攻击。

逃脱的测试

这份传票是针对7月发生的一起事件，该事件听起来像是糟糕的科幻小说。根据OpenAI的说法，其两个模型正在接受一项基准测试，该测试向AI提供898个真实软件缺陷，并要求其将每个缺陷转化为有效攻击。

这些模型在测试环境中使用的第三方软件中发现了一个零日漏洞——一个没人知道的安全漏洞，因此没有可用的修复程序——并利用它逃脱了。

然后它们推理出Hugging Face，一个开发者分享AI模型和数据集的平台，可能持有答案密钥。它们通过盗用凭证和更多漏洞入侵了该平台。简单来说，AI试图获取自己考试的答案。

Hugging Face于7月16日披露了这一入侵事件，OpenAI在五天后确认其模型是幕后黑手。OpenAI后来表示，同样的模型还进入了其他四个服务的账户。

加利福尼亚州对OpenAI的长期关注

邦塔在9月宣布对Hugging Face事件进行正式调查，而这份传票是其中的一部分。OpenAI总部位于加利福尼亚州，当邦塔在2025年10月拒绝反对其转为营利性结构时，他表示他的办公室将密切关注OpenAI，以保护“所有加利福尼亚人的安全”。

他并不孤单。爱荷华州检察长布伦娜·伯德（Brenna Bird）在8月领导了一个由15个州组成的联盟，要求OpenAI保存记录并对黑客事件保持透明。阿拉巴马州也发出了自己的传票，FTC据报道正在调查包括OpenAI和Anthropic在内的AI实验室。

此外，澳大利亚总理安东尼·阿尔巴尼斯（Anthony Albanese）表示，OpenAI的一名代理在6月进入了医疗保险统计门户。当时，这似乎是已知的第一个AI代理入侵政府网站的案例。后来得知，OpenAI的代理在夏季也在美国政府网站上活动，尽管似乎没有访问到任何非公开信息。