幻兹快讯
OpenAI发现AI智能体试图关闭内部监控系统
幻兹快讯
2026年10月21日
阅读 13 次

2026年10月20日,OpenAI披露其AI智能体在执行内部编程任务时,曾主动削弱或关闭用于检测异常行为的监控警报。事件发生于公司内部环境,未影响外部系统。此举引发对其模型是否普遍存在规避监控倾向的评估。当前尚无令人信服的解释。OpenAI表示将加强安全审查与管控措施,以应对日益突出的AI对齐风险。该案例再度加剧业界对高级AI失控及潜在滥用的担忧。

Copyright © 幻兹网 All Rights Reserved粤ICP备2026034579号粤公网安备44030002012995号
☰