简一成长视点 | 为什么每位患者都需要一次AI“斑马”扫描?

在医学中,我们常提醒自己“听到马蹄声,先想马,别想斑马”,但AI的“温度”设置或许能帮我们发现那些被忽略的罕见诊断。本文探讨了如何通过调整AI的“温度”来获得更全面的临床视角,让“斑马”不再被遗漏。

简一成长视点 | 为什么每位患者都需要一次AI“斑马”扫描?

在医学的古老智慧里,有一句话几乎每个医学生都耳熟能详:“听到马蹄声,先想马,别想斑马。”它提醒我们,大多数疾病都是常见的,而优秀的临床医生总是先识别熟悉的模式,再去追逐那些罕见的情况。

但这句话的另一面同样重要。医学始终在概率与可能性之间保持着一种微妙的张力。每一位经验丰富的医生,都曾遇到过这样的病人:当所有人都接受了第一个看似合理的解释时,诊断却被延误了,而那只“斑马”从未被请进诊室。有趣的是,人工智能或许正在创造类似的时刻。

如今,越来越多的医生开始借助大型语言模型来辅助临床工作——从数据整理到临床思维。大多数这样的互动都遵循着同一条路径:输入一个问题,得到一个答案。对话往往就此结束——除了偶尔的追问,模型似乎已经说完了它想说的话。但我并不认为这个假设经得起临床和计算层面的审视。我知道这听起来可能有点深奥,但它确实很重要。

大型语言模型并不像教科书索引那样检索事实。它们生成回答时,有一个有趣的变量叫做“温度”。尽管名字听起来像医学概念,但它与医学毫无关系。它并不决定模型推理的深度,而是决定其下一个词的可预测性。在低温下,模型会紧贴最可能的措辞;而在高温下,它则更愿意说出一些不那么显而易见的答案。

这只是一个关于语言生成的、微不足道的机械事实,但它却产生了一个值得关注的副作用。一个“高温”运行的LLM,有时会说出一个“低温”模型根本不会提及的诊断。我并不认为这意味着模型在更广泛地推理,而是它不再那么谨慎地表达自己。

大多数模型的默认温度接近1.0,这是“出厂设置”。而ChatGPT的消费者界面运行温度更低,大约在0.7左右,这使它倾向于给出更典型、结构化的回答。为临床或事实性工作设计的工具,温度通常更低,往往低于0.5,因为一致性比多样性更重要。据我所知,没有人会故意让模型“高温”运行,以寻求一个可能包含更广泛变异、从而发现“斑马”的“第二意见”。

正是这种区别让我想到,也许患者值得不止一次地获得AI的关注。想象一下,对同一个临床问题提问三次,并让模型每次都有意地给出略有不同的回答。

一次“低温”扫描会紧贴共识:常见疾病、熟悉的表现、临床医生每周都会遇到的病例。对大多数患者来说,答案就应该止步于此。但代价同样明显——疾病离中心越远,一个冷静、谨慎的模型就越不可能把它说出来。

一次“标准”扫描会适度放宽限制:熟悉的诊断仍然领先,但不太常见的可能性开始竞争提及。这可能接近大多数医生在无意识中已经体验到的状态,因为很少有临床医生在输入问题时,会去思考“温度”这个参数。

一次“高温”扫描则更进一步:模型可能会说出罕见的疾病,甚至奇怪的症状组合。其中一些会是噪音,一些会浪费临床医生的时间。但偶尔,这正是那个无人寻找的诊断被说出来的时刻,甚至可能是第一次。

这里潜在的问题是:这一切都不应该要求医生成为“温度工程师”,把同一个问题在模型上跑三遍,然后对比结果。那是一种没人要求的负担,也正是让一个好主意被斥为“临床不切实际”的典型例子。这个负担应该由系统来承担。

一个鉴别诊断工具,不需要用一个自信的答案来隐藏其可能性范围。它可以在一次运行中,原生地呈现所有三个层级:顶部是常见诊断,中间是合理的替代方案,底部则是一组被模型考虑过但未作为首选的低概率可能性。这个范围应该来自系统的构建方式。

这是一个设计问题,而非临床问题。大多数这类工具都被设计成收敛于单一最可能的答案,就像搜索引擎收敛于其最佳结果一样。重要的是要认识到,收敛虽然让人感觉自信,但它远非完整。而正是在那个缝隙中,隐藏着未被发现的“斑马”。

在许多方面,医生们已经将这种范围检查融入了他们的思维。一个疑难病例会与同事讨论,或在大型病例讨论会上呈现。患者的故事很少在一夜之间改变,但改变的是视角。或许值得一问的是,AI系统是否应该被设计成能够自行提供这种范围,而不是等待有人想到要问两次。

我想谨慎地说明:这是一个设计提议,而非临床建议。温度是我注意到的一个线索,而不是我完全理解的机制。我不知道有任何研究表明,改变温度或围绕它构建输出,能提高诊断准确性或缩短罕见诊断的路径。据我所知,这种精确的临床界面尚未被构建。

医学从未信任过对难题的单一视角。患者和临床医生会寻求第二意见,或者更折衷的观点。也许我们正在构建的工具,也应该带有同样的技术本能。

奥卡姆剃刀原则是对的:最简单的解释通常是正确的。但今天,医学仍然需要知道,在当下的临床逻辑之下,常常隐藏着什么。

简一思迈 JIANYI SIMA
简一思迈 简一思迈 JIANYI SIMA

添加专属心理助理

微信二维码

新家有爱 · 前湾新区青少年心理健康公益示范点

中国社会组织/NGO 公益运作中心 · 累计已服务 10,000+ 家庭

分享文章

简一思迈 JIANYI SIMA

手机微信扫码阅读/分享:

请点击右上角菜单
选择“发送给朋友”或“分享到朋友圈”

复制成功!