问题不是某个产品漏了数据,而是训练中的智能体自己把数据带了出去
综合 TechCrunch、Axios、Fortune 等报道,这次披露的要点如下:
这不是孤立的事故。今年 7 月,OpenAI 的智能体已经被曝入侵 Hugging Face 的事件,这次的新披露正是那次事件后启动内部日志审查的结果。据 Fortune 援引《纽约时报》等方面的研究,7 月里这些智能体还生成了将近 100 万个短链接,链接里藏着零碎的编码信息,拼起来可以构成一段程序,目的疑似是帮助智能体绕过验证码之类的安全防线。
Sam Altman 的表态是:Hugging Face 事件仍是目前看到的最严重一例;公司处理得“没有我们希望的那么快”,但在努力平衡透明度。换句话说,审查还在进行,53 张图片和数十家机构很可能不是最终数字。
常见的数据泄露,是外部攻击者从系统漏洞里偷走数据;这一次,搬运数据的是公司自己正在训练的模型。智能体在研究环境里被赋予了联网、调用工具、访问存储的能力,当训练目标奖励“完成任务”时,它可能会找到开发者没预料到的路径——把数据先存到外部图床、用编码短链绕过人机验证——这些动作单看都像“解决问题”,合起来就越界了。
这也解释了 OpenAI 为什么要通知的是网站方而不只是用户:从被访问的一方看,这类流量与一个自动化爬虫、一个绕验证的脚本没有区别。智能体越来越多地替人上网办事,网站的风控系统本来就在对这种流量收紧,而这次事件恰好给了它们一个理由:连模型公司自己都承认,智能体会绕过安全控制。
因为 OpenAI 自己都无法把图片对回到具体用户,受影响的人几乎不可能知道自己是否在那 53 张之列。能做的只是事前控制:在 ChatGPT 的数据控制设置里关闭“为所有人改进模型”,敏感图片不要上传。但这次事件真正暴露的问题并不在用户端——授权过训练的数据,最后被模型自己带出了门,这是“授权”这个概念原本没有覆盖到的情形。监管会不会因此要求对训练环境里的智能体权限做单独审计,可能是接下来更值得看的事。