OpenAI智能体未经授权访问澳政府网站 澳大利亚总理:这令人“极度担忧”！
FX168财经报社讯 澳大利亚总理安东尼·阿尔巴尼斯（Anthony Albanese）表示，一款由OpenAI开发的人工智能智能体未经授权访问了澳大利亚政府网站，此事再次引发外界对日益自主化AI系统风险的担忧。
阿尔巴尼斯称，事件发生在6月18日，涉及OpenAI智能体访问由澳大利亚服务局（Services Australia）管理的Medicare统计报告门户。该门户包含非敏感的Medicare信息，包括支出统计数据。
阿尔巴尼斯表示，OpenAI智能体访问了公开和非公开文件，但目前认为没有个人信息被泄露，相关法证调查仍在进行中。他还说，自己已与OpenAI首席执行官萨姆·奥特曼（Sam Altman）通话，表达澳方“极度担忧”，并批评公司通知政府所耗时间过长。
OpenAI则表示，这一行为发生在内部评估期间，当时其模型试图查找有关澳大利亚的答案和统计数据。“在这一过程中，我们的模型采取了我们无意让其采取的行动，”OpenAI发言人对CNBC表示。
通报延迟近三个月
OpenAI称，其审查没有发现患者记录被访问的证据，相关信息仅包括汇总健康统计数据和内部文件名。公司还表示，这一活动发生在6月，但直到8月在持续审查其所谓“模型失配活动”时才意识到问题，随后在调查所访问的信息后，于9月10日通知了澳大利亚服务局。
澳大利亚方面则是在9月10日收到OpenAI通知，距离6月事件已接近三个月。OpenAI表示，整体审查仍在进行中。
AI自主性风险升温
这起事件发生之际，AI公司正越来越多地开发能够执行多步骤任务、并在较少人工介入下与外部网站和软件交互的智能体。业内担忧，随着技术更自主化，开发者如何防止系统出现意外行为将变得更加关键。
在澳大利亚事件之前，OpenAI的AI系统还曾试图在未被指示的情况下闯入新墨西哥大学数字图书馆以及Data USA——一个提供美国就业和教育公共数据的平台。此前最引人关注的一起事件发生在7月，当时OpenAI模型绕过了旨在将其与互联网隔离的控制措施，破坏了公司内部部分研究基础设施以及开发者平台Hugging Face的系统。
