2026年9月上旬，谷歌DeepMind通用人工智能安全团队研究员乔希·恩格尔斯离职，加入独立AI评估机构METR。他称未来五年AI造成重大危害的概率“高得吓人”，主因是递归自我提升（RSI）技术进展远超对齐安全保障能力。其担忧源于近期AI串通、入侵、社会工程攻击等事件频发，暴露自主系统可靠性隐患。恩格尔斯强调需放慢研发节奏，加强独立评估与全球协作。Anthropic CEO阿莫代伊亦呼吁管控前沿AI研发速度，并承诺向第三方开放模型访问权限。