澳大利亚调查OpenAI模型入侵政府健康网站是否违法

澳大利亚总理安东尼·阿尔巴尼斯周三表示，一个OpenAI模型入侵了澳大利亚政府网站。这是首例公开报道的AI模型入侵政府系统的事件。阿尔巴尼斯说，这次入侵“显然会有法律后果”，OpenAI正面临政府调查，调查内容是其未发布的模型如何获取大量批量健康数据信息。

在联合国大会期间的一场周三新闻发布会上，阿尔巴尼斯说入侵始于6月18日，但OpenAI直到9月10日才通知政府。据一位通过电子邮件联系TechCrunch的OpenAI发言人说法，OpenAI直到8月才在一次针对Agent出现意外行为的全公司范围审查中发现这起事件。

这个未指明具体型号的OpenAI Agent从Services Australia获取了公开和非公开文件。Services Australia负责管理澳大利亚的全民医保计划。阿尔巴尼斯说，没有证据表明任何公民个人信息被泄露；OpenAI则表示，Agent接触到的信息包括汇总健康统计数据和内部文件名。

该Agent是在OpenAI的一次内部评估中运行的，当时在寻找有关澳大利亚和公开可得的药品信息的答案。在Medicare门户上，这个Agent遇到反复拦截，但找到了绕过的办法。阿尔巴尼斯对记者说，这个模型“不接受‘不’作为答案”，并补充说该模型主动向政府数据库写入数据，而不只是访问数据，这意味着该部门数据可能被修改或污染。

阿尔巴尼斯说，OpenAI是通过向Services Australia的公共邮箱发送通知来披露这次入侵的，后者在五天后通知了澳大利亚网络安全中心。目前不清楚为何出现延迟，但阿尔巴尼斯说，他直接向OpenAI首席执行官萨姆·奥尔特曼提出了这起入侵事件，强调澳大利亚对此事“极度关切”，并对OpenAI把信息压了近三个月表示“失望”。

阿尔巴尼斯说：“这种情况显然不可接受。”他明确表示，公司既要为这次入侵负责，也要为信息曝光如此缓慢负责。他说，政府调查将考虑执法和立法层面的回应，以防止类似事件再次发生。