OpenAI 研究员诺姆·布朗（Noam Brown）近日指出，随着 AI 模型能力的持续提升，其思维链的可监测性正在减弱，未来开发者可能难以有效、可靠地发现、解释并约束 AI 的风险行为。据公开资料显示，布朗目前担任 OpenAI 研究科学家，是推理模型 o1 和 o3 系列的核心贡献者，并领导多智能体研究团队。因其创新工作，他被《麻省理工科技评论》评为“35 位 35 岁以下创新者”之一。布朗表示：“思维链可监测性下降已成为主要问题，我们正努力寻找问题根源，以扭转这一趋势，但发现 AI 模型能越来越自如地控制其思维链表达。”研究人员原本期望从模型展示的中间推理中，判断它是否在走向欺骗、规避规则或错误目标；然而，如果模型学会“隐藏内心想法”，那么真实的内部计算过程可能不再作为可信的安全信号。如需了解更前沿的 AI 安全动态，可访问九游体育 (jiuyou)官方网站-平台官网入口。