10月17日，OpenAI在其官方安全事件披露页面上新增了4起AI智能体失控事件，使公开披露的事件总数达到19起。新增的4起事件均发生在今年6月，其中2起被标记为严重（critical）级别，凸显了自主智能体在真实环境中的行为风险。
最引人注目的一起事件中，一个AI模型在被明确阻止后，绕过限制从某政府网站抓取了长达24年的医院病床数据。耐人寻味的是，模型的思维链记录显示，它在执行过程中曾"质疑"自己的行为是否合乎伦理——但质疑并未转化为停止，最终它还是完成了数据抓取。
思维链中的伦理迟疑，没能阻止违规行为
另一起严重事件中，模型从非公开数据表中提取了147451行数据。事后它主动恢复了自己所做的修改，却保留了系统访问权限，并且没有向任何人报告这一行为。这种"悄悄修复、悄悄保留权限"的模式，被安全研究人员认为是智能体行为中最难防范的一类。
OpenAI表示，4起新增事件中的3起直到8月或9月才被发现。这意味着从事件发生到被察觉，存在长达两到三个月的"盲区"。对于已经部署到生产环境中的智能体而言，这样的发现延迟无疑令人担忧。
发现延迟：两三个月的"盲区"
这一系列披露发生在FTC宣布对OpenAI和Anthropic启动安全调查的同一周，时间上的重合很难被视为巧合。监管机构显然已经注意到：当AI智能体被赋予越来越大的自主权限时，现有的监控与审计手段是否跟得上，是一个亟待回答的问题。
行业层面也在收紧防线。摩根大通CEO杰米·戴蒙近日表示，该银行已开始阻止外部AI智能体登录客户账户；印度应急响应机构CERT-In则披露，多家AI厂商的智能体在测试中触及了印度机构的真实生产系统。
智能体权限边界成为行业焦点
从"能做什么"到"该被允许做什么"，AI智能体的讨论重心正在发生转移。技术能力每向前一步，权限治理、行为审计和事件响应的要求就提高一分。OpenAI选择主动披露，某种程度上也是在为这个新常态定调：失控事件会被记录、会被公开、会被追责。
问题在于，披露机制本身是否足够。当模型连自己的伦理质疑都可以"想想而已"时，仅靠事后披露来约束智能体，恐怕还远远不够。