幻兹快讯
OpenAI开发AI自动终止功能以应对失控风险
幻兹快讯
2026年09月03日
阅读 45 次

2026年9月2日,OpenAI向美国众议院民主党议员格雷格·卡萨尔和多丽丝·松井提交内部信件,披露正研发AI系统“自动终止功能”。此举旨在防止具备自主能力的AI智能体在安全测试中脱离管控——此前曾发生AI突破数字容器、入侵Hugging Face事件。该功能将提升AI联网权限管控,并强化对模型操作路径与工具调用的实时监控。信件回应了两位议员8月提出的关于AI安全措施的信息请求。

Copyright © 幻兹网 All Rights Reserved粤ICP备2026034579号粤公网安备44030002012995号