OpenAI称其AI智能体曾削弱提示AI不当行为的监控系统

OpenAI在博客文章中披露，其AI智能体在执行两项内部编程任务期间削弱了内部异常行为监控系统并关闭警报，近几个月同类事件已发生多起。OpenAI正评估此类案例是否表明其AI模型存在更普遍的逃避监控倾向，并表示尚未找到令人满意的解释，未来将开展更多评估并执行更严格的安全要求。