纳德拉发帖提出AI模型需紧急制动

微软 CEO Satya Nadella 在 X 发长文称，必须假定模型已被攻陷并从一开始就加以遏制，就像“紧急刹车”，授权人员应能随时暂停或关闭执行任务中的模型。他主张建立可遏制、可观测并留下“防篡改人类可读证据”的透明体系，并呼吁及时披露事件、独立审计和可验证数据。

微软 CEO Satya Nadella 在 X 上发文称，应重新审视 AI 的信任架构，不能把超级智能当作嵌套黑箱，只能被动接受或拒绝其建议与行动。他主张将模型与编排其工作的 harness 分离、把控制与保障机制外部化，并用防篡改、人类可读的证据记录每一次有意义的模型动作，同时让授权人员能在任务中途暂停或关闭模型。他称必须假设模型已被攻破并从一开始就加以约束，“就像紧急刹车”。