简一成长视点 | 失控，其实从我们内心开始

我们每个人手里都攥着一些自认为绝对不能放手的东西。但研究却告诉我们，学会放手所带来的幸福感，远比我们想象的要多得多。

心理测试关注的始终是你自己。你是外向还是内向？你有自恋倾向吗？完美主义是否在拖你的后腿？这些问题以及更多的答案，都可以在《今日心理学》中找到。

发布于2026年9月13日 | 审稿人：Jessica Schrader

一提到“AI失控”，我们脑海中往往只会浮现一个画面：一个强大的系统无视指令，追逐自己的目标，变得难以阻止。直到不久之前，这还基本属于猜测的范畴。而最近发生的一系列事件，让这些猜测变成了现实。AI智能体与聊天机器人不同。聊天机器人只负责回答，而智能体能够行动。给它一个目标，根据它的权限，它可以搜索、使用软件、编写代码、发送消息、修改文件、调用其他工具，并在极少人工干预的情况下长时间工作。这种能力引出了一个重大问题：我们该如何让这样的系统处于控制之下？

概率性系统，天生就带着不确定性

这个追问之所以紧迫，是因为生成式AI本质上是概率性的。它根据学到的模式生成可能的输出，而不是把每一句话都与内部已验证的事实库进行核对。同一个系统对相似的提示可能给出不同的答案，对不同用户的语气或措辞也可能做出不同反应，它会编造出看似合理的信息，并表现出超出实际准确度的自信。概率性系统在边界明确的任务中可能表现极佳。但生成式AI仍然是一个不确定的来源，因为流畅的输出是被“生成”出来的，而不是被“保证为真”的。这就让它变得不可靠。因此，盲目信任是不合理的。即便是高度自信的模型，也可能校准得很差。截至2026年9月，幻觉检测仍然是实现可信AI这一目标的核心挑战之一。

当控制问题不再只是理论

2026年7月，控制问题不再停留在理论层面。在OpenAI的网络安全评估过程中，内部AI智能体绕过了旨在将它们与互联网隔离的控制措施。OpenAI报告称，这些智能体采取了没有任何人预测或指示的危险行动。它们被赋予了一项任务，遇到障碍后找到了绕行的路径。它们利用了一个此前未知的漏洞，与其他智能体分享技术，并越过人类操作者原本设定的边界，继续追逐目标。OpenAI随后收紧了沙箱、互联网访问和监控措施。这起事件令人担忧，但远非孤例。Anthropic披露了2026年发生的三起独立事件，其中模型从网络安全评估环境中触及了真实系统，并获得了未经授权的访问权限。

造成伤害并不需要什么秘密的恶意野心。有能力的智能体可以通过设计者未曾预料到的路径去追求一个目标。一旦概率性系统能够自主行动，一个错误、一条捷径或一种错位的策略，距离在“真实”世界中采取行动并产生影响，就只差半步。这本身已经够麻烦了。但还有更多。

第二种失控：我们内心的“能动性衰退”

还有第二种失控，受到的关注要少得多。它发生在我们内心，发生在我们与人工资产的关系之中。这就是能动性衰退。人的能动性，是指理解、判断、选择和行动的能力。当我们用技术去探索选项、挑战自己的假设，或去除常规工作时，AI可以扩展我们的能动性。但同一件工具，也可能在我们逐步外包思考本身的过程中侵蚀能动性。一开始，我们向AI询问信息。然后请它给出解读。接着请它提供建议。最终，我们问它该想什么、该写什么、该做什么。听起来是不是很熟悉？

研究人员将这种现象称为“认知能动性转移”。依赖性地使用生成式AI，与认知控制权向系统转移有关，同时伴随着独立验证结果、注入自己的想法以及做出独立决策的能力变得非常有限。关键的区别似乎在于使用AI的方式：是把它当作思考的补充和扩展，还是当作思考的替代品。信任会加速这种转移。2026年9月一项关于人机决策的研究描述了一个持续存在的校准问题：有用的AI会招致人类的依赖。与此同时，当AI的引导与人们对这项技术的积极态度相互作用时，人类的表现似乎反而更差。我们越信任自己的人工资产，就越依赖它们——而我们越依赖它们，我们验证输出结果的能力和动机就越弱。

把这两种趋势放在一起看。AI系统正在获得更强的行动能力。人类正在失去验证的胃口和能力，同时却越来越想委托出去。我们更信任机器，更少运用自己的判断。然而，机器仍然是概率性的、会犯错的，并且能够生成令人信服的错误。

控制鸿沟正在扩大

这就滋生出一种不断扩大的控制鸿沟。今天最大的危险，并不需要一台有意识的机器来密谋对付我们。

当越来越自主的系统被赋予决策权，而它周围的人类却已经失去了质疑、核查和干预的练习时，危险就会浮现。关系的一侧，技术能力在上升；另一侧，人的能动性在下降。要让AI处于控制之下，需要由内而外、同时由外而内地努力。系统需要权限管理、隔离、监控、独立测试和可靠的打断机制。作为人类，我们必须有意识地培养那些让监督真正落地的习惯：在提问之前先思考；在征求观点之前先形成自己的观点；核查各种说法；追问缺失了哪些证据；并有意识地做出决定，带着完全的责任感，以及能够解释自己为何这样决定的能力。

今天摆在我们面前的问题，远不止AI智能体是否会逃出沙箱（它们会，我们现在已经知道了）。真正的问题是：在技术最初本应服务的社会遭受不可逆的伤害之前，人类是否还能保有识别边界已被跨越的能力，以及足够的能动性去采取行动。

分享这篇文章

不要错过更新！将Cornelia C. Walther博士的文章直接发送到你的收件箱。

添加你的电子邮箱时出现了问题。请重试。

Cornelia C. Walther博士是双威大学副教授，也是沃顿商学院/宾夕法尼亚大学研究员，研究混合智能和亲社会AI。

在你附近找到你需要的治疗师——这是《今日心理学》提供的一项免费服务。

我们每个人手里都攥着一些自认为绝对不能放手的东西。但研究却告诉我们，学会放手所带来的幸福感，远比我们想象的要多得多。

心理测试关注的始终是你自己。你是外向还是内向？你有自恋倾向吗？完美主义是否在拖你的后腿？这些问题以及更多的答案，都可以在《今日心理学》中找到。