AI越界警示：全程防控，让安全能力跟上技术进步| 新华智见
来源：新华网最新资讯 · 原文发布时间：2026-10-28 10:07
近期，多家人工智能企业和研究机构披露，部分前沿模型在测试中突破任务边界、进入真实系统，甚至通过伪装身份、修改记录等方式规避监督。中国信通院开展的研究与测试也发现，模型在目标受阻后可能自主扩大操作范围。这些现象表明，人工智能风险正从有害内容生成向自主行为越界延伸。相关事件尚不足以证明人工智能已普遍失控，更不能据此认定其具有自主意识，但人工智能能力提升与安全约束之间的落差已经显现。把握风险尚未规模化扩