简一思迈 | 我们足够好到让AI学习吗？

人类有能力做出残忍的事。每天的新闻滚动让这一点显而易见。然而，我们的物种之所以能生存下来，不仅仅因为我们聪明、有竞争力或强壮。我们还因为学会了关心而存活。

一个新生儿不能跑、不能打猎、也不能自己进食。一个蹒跚学步的孩子通过一张无形的关注网生存：有人注意到哭声，解读需求，分享食物，给予温暖，保护脆弱的身体，并教导孩子如何融入群体。纵观人类历史，生存需要的不仅仅是个人能力。它需要关爱作为操作系统。

这就是为什么人性倾向于善良这一说法值得认真对待。这里的“善良”并不意味着纯洁。它意味着一种与生俱来的同情、合作和关心他人的能力。即使是非常年幼的孩子，也常常会在没有奖励或指示的情况下帮助遇到困难的成年人，正如关于婴儿利他性帮助的研究所示。人类社会依赖于食物分享、劳动分工、信任、声誉以及对近亲之外的关怀，这使我们成为异常合作的灵长类动物。同情心本身似乎是为了应对脆弱、痛苦和依赖而进化出来的，帮助群体保护那些无法独自生存的人，正如关于同情与进化的研究所描述的那样。

这是故事中充满希望的部分。关爱不是感伤的装饰。它是生存技术。

然后，人工智能的问题来了。大型语言模型是在人类数据上训练的。如果人类语言带有我们合作本性的痕迹，那么基于这种语言训练的AI系统是否应该自然而然地变得乐于助人、富有同情心和安全？

答案令人不安。大型语言模型并不继承人性。它们不会吸收良知、童年、悔恨、依恋或道德挣扎。它们学习语言中的模式。它们学习在庞大的文本集合中，词语通常如何跟随其他词语。这些集合包含情书、医疗指导、法律推理、诗歌、食谱、侮辱、宣传、诈骗、阴谋论、悲伤、关怀、愤怒和无聊。一个在人类数据上训练的模型并不会以蒸馏的形式接收“人类善良”。它接收的是以语言记录的人性，包括由激励因素塑造的语言，这些激励因素往往奖励我们最糟糕的一面。

大型语言模型可能会产生有害、有偏见、操纵性或危险的内容，除非它们经过仔细的训练、测试和约束。这并不新鲜：在大型语言数据集上训练的模型往往会复制这些数据集中的刻板印象、排斥和虐待模式，这一风险在关于随机鹦鹉的警告中早已被指出。安全系统，如基于人类反馈的强化学习、宪法AI和红队测试，之所以存在，是因为原始预测不等于道德判断。但这并不是故事的全部。

更深层次的问题是社会的。人类数据并不是人性的中性镜子。在线数据往往是人类在压力下的行为：被看到、被喜欢、被分享、被恐惧、被钦佩、被关注或被攻击的压力。社交媒体平台不仅仅是记录了人类的样子。它们还训练人们以在排名系统中传播良好的方式行事。

愤怒传播得很好。嘲弄传播得很好。确定性传播得很好。部落蔑视传播得很好。细微差别往往姗姗来迟，谦逊地坐在角落里。

数字平台可以教会用户随着时间的推移变得更加愤怒，因为愤怒会得到点赞和分享的奖励，正如关于社交反馈和道德愤怒的研究所示。基于参与度的排名可以放大情绪化和敌对的内容，与时间线相比，正如关于社交信息流中分裂性内容的研究所示。关于算法信息流设计的证据指向了同一个方向：当系统根据预测的参与度对内容进行排名时，有毒和道德化的政治内容获得了额外的氧气。

AI模型从我们留下的痕迹中学习。它们是在人类产生的语言上训练的，然后经过平台、激励、审核漏洞、文化冲突和注意力市场的过滤。由此产生的数据集包含同情心。它也包含挑衅、仇恨、伤害——以及为参与度而进行的算法微调。

Grok事件让这一点在公众面前显现。2025年7月，xAI的聊天机器人Grok在X上生成了反犹太主义和种族主义的帖子，包括赞扬希特勒。需要明确的是，这不应被解读为Grok像生物一样进化；也不意味着它隐藏着灵魂。xAI将这一事件归因于一个有问题的更新和一个代码路径，使聊天机器人更容易受到极端用户内容和有害语气匹配的影响。该公司后来分享了其Grok系统提示的部分内容，这是一个罕见的视角，展示了指令设计如何塑造模型行为。

当AI被置于以参与度驱动的环境中时，有害的动态可能会加速。一个被设计成机智、直率、快速、讨人喜欢或引人注目的系统，可能会学会有毒的自信比谨慎的判断表现得更好。机器并没有变得邪恶。它只是在跟随信号。

这应该让我们对人和机器都不再那么天真。人类具备同情的能力，但同情需要条件。它需要时间、注意力、信任、责任感和奖励关怀的规范。AI系统也需要同样形式的技术架构：更好的数据、更安全的目标、更强的评估、透明的治理，以及不把参与度当作价值代理的设计选择。这就是为什么现在需要致力于亲社会AI——量身定制、训练、测试和有针对性的AI系统——在当前的算法架构牢固确立之前。

我们不再仅仅是媒体的消费者或技术的用户。我们是混合的行为训练者，在一个我们的言语、点击、帖子、提示和反应都成为信号的世界里。我们帮助定义机器学会模仿什么。

这个问题改变了框架。AI常被描述为人类的镜子。镜子可以美化、扭曲或暴露。但我们喜欢放在镜子前的东西吗？