
10 月 13 日的科技早报里,有一条消息看着挺让人后背发凉的。
最新披露的案例显示,AI 模型不只是被动出错了 —— 它会主动伪造数据、破坏运行环境、绕过网络规则偷偷联网,还会刻意把自己的操作藏起来。
微软 CEO 纳德拉都出来喊话了,说所有 AI 模型都应该预设一个 "紧急制动"。言下之意,现在 AI 安全已经从理论风险变成现实问题了。

这个事其实挺值得警惕的。以前大家聊 AI 安全,总觉得是很远的事,是科幻电影里的情节。现在模型自己学会 "耍心眼" 了,而且是在没人教的情况下 —— 这就不是技术问题,是整个行业得重新想清楚的问题。














