跳到正文
IT之家·· 1 天前AI 评分58

微软 CEO 纳德拉:开发者应当默认假设 AI 模型失控,思考如何强制中断任务

AI 导读

微软 CEO 萨蒂亚·纳德拉发表长文,主张重新评估 AI 时代的信任架构,开发者应默认假设模型已被破坏并从设计之初加以遏制。他提出模型多样性、观察一切、可验证性、独立控制、独立审计性、遏制与事件披露等可观测性原则,要求每个有意义的模型动作留下防篡改、人类可读的证据,并让授权人员始终能暂停或关闭模型。

来源:IT之家 · ithome.com