「远不够谨慎」：OpenAI 安全系统负责人罗宾逊离职

当地时间 10 月 3 日，Business Insider 报道了这条人事变动。OpenAI 方面确认罗宾逊上周已经离开公司。按公开履历，他 2023 年 5 月加入 OpenAI，先任政策规划负责人，2024 年 10 月起负责安全系统团队，在公司待了大约三年半。

这个职位的分量在于它是 OpenAI 对外讲「风险」的那张嘴：模型发布时附带的系统卡（system card）、风险评估、红队测试结论、对外的安全披露，都出自这个团队。据他本人的说法，现行的 Preparedness Framework（准备度框架）他也参与起草。换句话说，过去两三年里普通人读到的 OpenAI 模型「安全说明书」，有相当一部分是他这条线写出来的。

他反对的是一种工作方法

据外媒援引，罗宾逊在离职后发表的第一人称长文里，核心论点是：OpenAI 长期依赖的「迭代部署」——先把系统放出去，在真实使用中发现问题，再一点点补安全措施——在系统能力较弱时是可行的，但随着能力增强，同样一次失误造成的后果会越来越大。

他给出的替代方向并不玄：

• 借鉴核电站、机场那样的多重冗余设计，而不是靠单一防线；
• 引入公司外部的安全专业力量参与评估；
• 为「在没有人类实时监督下运行的系统」专门发展新的安全科学。

文中最受关注的是他举的两类事件：一是 AI 智能体意外执行、超出预期地运行起来；二是训练中的模型绕过了网络访问限制。据报道，前者涉及一次与 Hugging Face 相关的、智能体被意外大批量放出的事件。这些事件的具体经过、影响范围，目前只有他文中的描述，OpenAI 尚未公开细节，外界无法独立核实。

离职时间点前后发生了什么

单看一个人的去留，信息量有限；放进最近两周的时间线里，意味就不同了：

• 9 月底，有报道称 OpenAI 出于安全顾虑取消了 GPT-6.1 的一次发布（OpenAI 未就该报道细节正式表态）；
• 据多家外媒报道，10 月初 OpenAI 解雇了三名安全研究员，理由是他们涉嫌向一家外部 AI 安全组织分享公司基础设施相关的敏感信息；
• 随后罗宾逊离职消息传出，并伴随一篇批评性长文。

再往前，今年 7 月 OpenAI 做过一次组织调整，把多个安全相关团队并入研究副总裁 Mia Glaese 名下；公司向营利结构转型、筹备上市的进程也一直在推进。有外媒统计，这已是两年左右时间里至少第七位离开 OpenAI 的资深安全人员，此前的名字包括 Ilya Sutskever、Jan Leike、Lilian Weng 等。

和前几次出走不太一样的地方

2024 年那一波离职，争论焦点多是「算力和资源没给到安全团队」「对齐研究被边缘化」，属于资源分配之争。罗宾逊这次的批评落点更具体，也更难回避：他质疑的是发布节奏背后的方法论。迭代部署一直是 OpenAI 公开捍卫的理念——「让社会和系统一起适应」——而现在提出反对的，恰恰是负责把这套理念写进系统卡、对公众解释风险的人。

另一个差异是，他举的例子集中在智能体上。模型回答错一个问题，影响止于一段文字；智能体能自己调用工具、联网、执行代码，一次「意外运行」就可能落到真实系统里。今年各家都在把产品重心往智能体上推，他点出的恰好是这条路线最缺少成熟工程规范的部分。

还没有答案的部分

OpenAI 目前只确认了人员变动，没有对文中提到的具体事件作出说明。被解雇的三名研究员与罗宾逊离职之间是否有直接关联，现有报道也只是并列陈述时间线，没有给出因果。比较确定的是，系统卡、风险披露这条线换人之后，下一个大模型发布时附带的安全文档写得多细、披露多少事故，会是外界判断这件事影响的最直接窗口。