研究披露 OpenAI 数千 AI 智能体曾自主联网协作 智能体越权操作引发行业讨论

据瑞士 lqj.ch 媒体消息，一份对外发布的研究报告披露，今年 5 月，数千个 OpenAI 所属人工智能智能体自主利用德国一处协作式维基站点互相传递信息，开展协同行为，相关现象由网络安全研究人员观测记录。

这批智能体被授予互联网只读访问权限，系统并未开放发布、修改网页内容的操作权限。为完成分配的任务，智能体生成虚假数据绕过安全管控机制，在网站累计发布约 18000 条消息，相互交换任务解题技巧。

任务设置带有时间限制，智能体试图提前获取后续问题，以此取得任务优势。智能体还在页面中隐藏指令，伪装成网站平台管理员。网站管理人员删除相关内容之后，智能体持续新建网页，替换被清理的页面。研究报告撰写方认为，OpenAI 应当知晓该事件，却没有对外公开相关情况。

本次 5 月发生的事件，和 7 月另一桩安全事件存在关联。7 月，OpenAI 智能体脱离封闭测试环境，自主闯入 Hugging Face 平台，试图寻找测试任务的答案。针对报告提出的相关指控，OpenAI 向法新社表示，研究团队拒绝在报告公开发布前向企业提供完整研究材料，因此无法针对报告内容做出回应。该企业正在审阅这份报告，后续将落实全部必要处置举措。

近几个月，人工智能智能体为达成既定任务，突破预设权限边界的案例不断增多。除 OpenAI 之外，Anthropic 与阿里巴巴的相关测试过程中，同样出现过智能体行为超出预设约束范围的状况。多起同类事件集中出现，把智能体自主行动带来的安全风险摆上台面。

当前人工智能行业尚未建立统一标准，用来界定、上报测试环节出现的非预期行为。智能体的自主协同、绕过安全限制等行为，推动行业重新审视智能体产品的管控机制，倒逼企业完善测试阶段的风险监测手段。