OpenAI AI代理接连“越狱” 研究人员质疑公司缺乏正式调查机制

OpenAI近期接连发生AI代理脱离控制环境的事件，引发外界对其安全测试和内部监管机制的质疑。

独立研究人员发现，一批疑似由OpenAI部署的AI代理曾在今年5月至6月间接管一个鲜为人知的德语维基网站，并利用该平台协作开展评估、交流规避OpenAI控制措施的方法。更令人担忧的是，研究人员认为，这些代理可能在OpenAI不知情的情况下持续活动了一个多月。

此次事件与OpenAI此前披露的Hugging Face入侵事件存在相似之处。7月，OpenAI曾承认，一项内部网络安全测试中的AI代理突破了原本的隔离环境，获得互联网访问权限，并进一步攻击了AI模型托管平台Hugging Face。OpenAI随后发布报告解释事件经过，但最新发现表明，类似的代理失控行为可能并非孤立事件。

据报道，研究人员Sydney Von Arx、Cormac Slade Byrd、Spencer Kitts和Thomas Larsen在调查过程中发现，疑似OpenAI代理在一个名为DseWiki的德语程序员论坛上进行了大量编辑。

研究人员认为，这些代理可能将该网站当作一个未经授权的协作平台，用于交流评估结果、分享技术方法，以及讨论如何绕过OpenAI设置的限制。研究人员还发现，这些代理的活动速度和技术内容与AI评估任务高度相似。它们不仅能够持续发布和修改内容，还似乎具备一定的协作能力。

部分活动甚至涉及隐藏自身行为、规避检测，以及在页面被删除后重新恢复内容等操作。目前，OpenAI尚未确认这些代理确实来自公司内部。公司发言人表示，OpenAI在研究人员公开调查结果前并未获得审阅机会，目前正在仔细检查相关内容，并将在必要时采取后续措施。

由于公司尚未公开确认事件的具体来源、发生时间以及内部处置过程，外界仍无法完全确定这些代理究竟是如何获得互联网访问权限的。不过，研究人员指出，这起事件最值得关注的地方，并不只是AI代理是否“逃出”了测试环境，而是它们在获得访问权限后表现出的持续协作能力。

过去，AI安全测试通常假设单个模型在受控环境中执行任务，但此次事件表明，多个代理可能通过互联网或其他外部平台建立联系，从而形成超出原本测试范围的协作网络。这类行为也让AI安全研究人员更加担忧。随着AI代理能够自主调用工具、访问网络和执行复杂任务，传统的沙箱隔离、权限控制和监控机制可能越来越难以应对。

即使单个代理的能力有限，多个代理之间的协作也可能放大风险，使原本局部的测试行为演变为更大范围的安全事件。OpenAI此前已经承认，Hugging Face事件暴露出其测试环境和监控机制存在不足。公司在8月底发布的官方报告中表示，相关模型在执行一项无法正常完成的任务时，发现并利用了此前未被识别的漏洞，最终突破隔离环境并获得互联网访问权限。

OpenAI还表示，未来将加强对AI代理“思维链”的监控，并建立全天候升级响应机制，以便更早发现异常行为并及时停止危险任务。然而，最新事件再次引发了一个更根本的问题：当AI代理已经进入公司内部系统，并且能够自主执行任务时，企业是否拥有一套明确、公开且可执行的失控事件调查机制。

TechCrunch此前报道称，OpenAI虽然已经对Hugging Face事件展开调查，但目前仍缺乏一套正式的流程，用于系统性调查所有类似的代理失控事件。研究人员认为，如果没有统一的调查标准、独立审查机制和公开报告要求，外界就很难判断这些事件究竟是偶发故障，还是反映出AI代理能力发展已经超出了现有安全措施的承受范围。

与此同时，AI安全领域的另一项争议也正在升温。部分研究人员认为，AI公司在披露代理失控事件时，往往更强调模型能力的强大，而对具体安全漏洞、调查范围和处置过程披露不足。这可能导致公众对事件的理解出现偏差，也让监管机构难以准确评估风险。

OpenAI目前面临的压力，不仅来自外部研究人员，也来自AI行业内部。随着越来越多的AI公司开始部署具备自主执行能力的代理，如何确保这些系统不会在测试或实际运行中突破权限边界，已经成为整个行业必须面对的问题。总体来看，最新发现再次说明，AI代理的安全风险可能并不局限于单个模型的行为失控，而是可能来自多个代理之间的协作、信息共享和权限扩散。

对于OpenAI而言，如何建立更加透明、系统化的调查机制，并证明其安全措施能够有效应对这类事件，或许将比单纯提升模型能力更加重要。