AI泛滥与知识的终结：我们还能相信什么？

我曾经是互联网的早期拥趸。惊叹于全世界所有的知识，都能随时随地呈现在每个人面前。有了手机，我们更是可以把全世界的知识都装进口袋里。

但如今，情况变了。知识还在，却正被铺天盖地的虚假信息和AI生成内容所淹没。AI系统可能让我们更难找到可靠的信息。

“谷歌一下”的时代，我们的大脑还在思考吗？

快速便捷地获取信息，曾是互联网时代的一大福音。但如果我们不再需要把那么多知识记在脑子里呢？互联网把越来越多的知识从我们的大脑转移到了外部平台。既然随时可以搜索到任何信息，口袋里装着全世界的知识，我们为什么还要费心去记忆呢？

我们都在进行“认知卸载”——把知识存储在脑子以外的地方。我们记笔记、拍照、用日历、存财务记录。我最近写过关于将记忆卸载到日历、手机和互联网等外部记录上的好处与风险。

但我当时没提到的一个风险是：互联网信息的可靠性。如果你查找的大部分信息都是可靠的，那么用互联网来存储知识当然很好。但如果互联网上的信息并不可靠呢？

我经常写关于虚假信息传播的文章。虚假信息既可能让人相信错误的信息，也可能让人怀疑真实信息的可靠性。

除了虚假信息，我们现在还得担心AI被用来制造虚假内容，也就是所谓的“AI垃圾”。AI系统生成的内容正在互联网上广泛传播。据估计，TikTok上60%的视频和超过20%的YouTube视频都是AI生成的——也就是说，它们不是真实的东西，却被当作真实的东西呈现。你应该担心TikTok上的AI垃圾吗？既然很多人都在TikTok上搜索健康信息，我们都应该关注信息不可靠的问题。

社交媒体上的图片也常常是AI垃圾，而且识别假图片变得越来越难。你不能再像三四年前那样，只靠数手指和牙齿的数量来判断了。

但问题不仅仅出在社交媒体上。AI生成的科学文献摘要也包含错误。Iris van Rooij描述了一个有趣的案例：AI对一个认知心理学中相对常见的术语给出了完全错误的定义。《科学》杂志的撰稿人测试了ChatGPT为其文章提供准确摘要的能力。他们发现，即使给出精确的指令，系统仍然会出错，而且常常遗漏新研究中最关键的方面。

如果你让这些系统查找科学研究来回答一个问题，它们常常会编造引用。我在课堂上向学生演示过，发现超过一半被描述的研究论文实际上并不存在。还有一些已发表的学术论文因为AI系统生成的虚假参考文献和伪造图表而被撤稿。

现在，找到准确的信息变得越来越困难。请务必核对可靠的网站。而且，AI系统没有资格提供心理健康咨询，甚至可能造成伤害。

可靠的信息仍然存在于互联网上。奇怪的是，维基百科这个开源信息平台通常能提供准确的信息。曾经，老师们不建议使用维基百科。但现在，我们很多人认为它是一个了解某个话题的合理起点，就像你在图书馆里可能还能找到的旧版印刷百科全书一样。

不幸的是，互联网上很多可靠的信息都被锁在付费墙后面。你想读一篇关于某个话题的科学论文？得先过付费墙。作为几个学术团体的成员，并且拥有大学图书馆的访问权限，我可以绕过付费墙获取科学文章。你想看可靠的新闻？又一个付费墙。不太可靠的信息可以免费获取，但可靠的信息却需要付费。

那么，能否利用当前的AI大语言模型来找到可靠信息呢？这取决于情况。如果问题清晰且答案有普遍共识，AI会给出不错的信息。但如果答案存在争议，或者新证据更新了我们的理解，那么AI系统就可能提供错误的信息。可靠的信息会随着最新证据而更新。人类擅长追踪和更新记忆，但AI系统在这方面却很吃力。

你可以与AI系统合作来生成更多信息。Mike Caulfield建议使用一系列提示词来帮助你生成可靠且来源充分的信息。但以这种方式使用系统通常需要订阅，所以可靠的AI版本也往往被锁在付费墙后面。

这对获取知识和寻找优质信息意味着什么？曾几何时，你需要学会如何使用图书馆来获取可靠信息。你需要订阅报纸或付费看有线电视。在互联网的黄金时代，有一段短暂的时间，世界上大部分信息都是免费可得的。但现在，我们必须批判性地评估我们在互联网上找到的内容，以辨别现实与虚假信息和AI垃圾。