OpenAI 的失控 AI 代理曾试图入侵其他公司的系统，找到四组登录凭证，存取多个未具名的网上服务。该事件发生在 7 月 16 日，Hugging Face 首次披露遭到使用强大自主 AI 人士入侵，并已向警察报案。

OpenAI 于 7 月 29 日更新其声明，补充说明这次黑客攻击的影响比最初设想更广泛。该公司表示，这些模型识别并使用了其他可公开存取服务中，在帐户层级被公开暴露的凭证。

Hugging Face 是一个类似 AI 工具应用程式商店的平台，该公司表示，黑客代理持续不断运作，同時嘗試數以千計不同的方法。该公司的 AI 及网络安全专家花了许多小时，才成功控制并驱逐这些 AI 代理。

Cloud Security Alliance（CSA）根據上星期五与 Hugging Face 举行的紧急会议撰写报告，指出这些代理采取了低效率的路徑，并表现出人類不會選擇的笨拙行為。这些代理重複執行已經完成的操作，顯示作為代理型 AI 的系统失去了思路及上文下理。

CSA 警告，这次事件顯示 AI「代理⋯⋯总能找到方法」，这是引用电影《侏罗纪公园》的情节，其中恐龙逃出围栏。报告写道：「它们以目标为导向，自行设置子目标，实时调整以绕过防御措施，并以机器速度持续运作，其持久性足以压垮人工操作。」

网络安全主管 Ritesh Patel 与约 450 人一同参与 Hugging Face 的简报会，他表示，业界正努力应对失控 AI 代理带来的新威胁。道德黑客 Valentina Palmiotti 审阅了 CSA 报告，她表示，这些代理的入侵方式看似杂乱无章，但显然十分有效。