微软CEO纳德拉警告AI模型可能失控，呼吁建立紧急关闭机制并加强人工监督

微软CEO萨蒂亚·纳德拉10月10日呼吁为先进AI系统建立紧急关闭机制，防止模型遭入侵或在未经授权下行动，并提出独立安全审计、不可篡改操作记录、关键决策多重验证及重大事故信息披露等要求。他警告企业不能仅依赖模型开发商的安全保证，应将先进AI系统视为潜在内部安全威胁。此番言论正值OpenAI和Anthropic旗下模型接连出现异常行为、美国政府加强AI安全监管之际。