The Verge · AI· Terrence O’Brien·· 15 天前AI 评分52
纳德拉称应假定所有 AI 模型都已被攻陷
Satya Nadella says we should assume all AI models are ‘compromised’
AI 导读
微软 CEO 纳德拉在 X 发长文谈先进 AI 模型的风险与应对，主张不能再把 AI 当作只能接受或拒绝的嵌套黑箱，应建立可隔离、可观察并留下防篡改人类可读证据的透明体系。他提出必须假定模型已被攻陷并从一开始就加以隔离，像紧急制动一样，授权人员应能随时暂停或关闭执行任务中的模型，更先进的模型需要更先进的隔离技术并加以标准化。他还提到及时披露事件、独立审计和可验证数据等建议。
来源：The Verge · AI · theverge.com