首页›洞察›可解释性要做到什么程度:一条方剂建议背后的三层证据

可解释性要做到什么程度:一条方剂建议背后的三层证据

2026 年 11 月 4 日

可解释性不是把模型的特征权重摊开给医生看,而是让医生在三句话之内回答三个问题:这条建议凭什么、走的是哪条路、为什么不是那个证。做不到这三句,解释再多也只是装饰。

在中医 AI 的采购与评审里,“可解释”已经成了标配词。但落到演示现场,多数产品给出的解释是同一套:一个置信度百分比、几块彩色的热力图、一段读起来通顺的话,或者几十条特征权重排成列表。医生看完,判断力并没有增加,只是多了一层不知道该不该信的印象。

一、把特征权重摊给医生,为什么反而更不可信

三个原因。

第一,特征权重的单位医生不认。零点三七代表什么?在医生那里,“脉弦”是有或无,“脉弦数”和“脉弦细”是两种东西,中间没有连续的量。用连续数值去表达一个以定性为主的体系,医生没法把它接回自己的思路。

第二,列表越长,医生越倾向于放弃核对。给出三十条,等于一条也没给。门诊里没有时间逐条比对,最后只能整体接受或者整体跳过。

第三,权重解释不了否定。医生真正犹豫的从来不是“为什么是这个证”,而是“为什么不是那个证”。两个相邻证型往往共享大半症状,权重表把它们都列出来,看上去都成立,医生反而更不确定。

所以第一条判断是反常识的:给一堆特征权重,医生反而更不信。他要的不是排序,是排除。

二、三层证据,各回答一个问题

可用的解释应当分层给,每层只回答一个问题。

层次 医生要问的问题 系统应给出的形态 常见的伪可解释做法
症候证据 这条建议由什么支撑 逐条列出主诉、舌象、脉象、病程与诱因,区分正向与反向,并可点回原始记录 只给热力图,颜色深浅对不上具体字段
路径证据 走的是哪条链路 证型、治法、主方的完整链路,每一步标出来源 只写“根据古籍”“综合判断”,出处不可查
差异证据 为什么不是另一个证 指出与相邻证型的区分点,说明本案排除了什么、依据是什么 只给置信度百分比,差别无从理解

第一层是症候证据。舌红、苔黄、脉弦数分别来自哪次问诊、哪个字段,要能点开看到原始记录。反向证据同样要列:本案没有喜温喜按、舌不淡,正是排除虚寒的依据。只说支持不说反对,等于只给了一半。

第二层是路径证据。证型到治法到主方,是一段有方向的链路,每一步都该有出处。出处的颗粒度要够细:不是“经典记载”,而是具体到哪一条;不是“专家经验”,而是具体到哪条路径。做不到细,就老实说这是内部路径,不要挂一个模糊的来源充数。辨证云的知识底座按 400+ 病症、3500+ 证型方证组织,出处标注到条目一级,正是为了让这一步可查。

第三层是差异证据,也是最容易被跳过的一层。肝胃郁热与脾胃虚寒在门诊里经常要分辨:一个是灼热泛酸、舌红苔黄、脉弦数,一个是隐痛喜温、便溏、舌淡。系统应当直接写清本案不支持脾胃虚寒,因为没有喜温喜按、舌不淡、便不溏,而不是让医生自己从两个候选里推。

这一层恰好是辨证云在界面上花力气最多的地方:候选证型不止给一条,相邻证型会并列显示,并标出本案的排除依据。

三、判断标准只有一条

解释做到什么程度算够?用一条可执行的标准:一位规培医师,在不问上级、不查书的情况下,看完这一屏,能不能判断这条建议该不该采纳。

这条标准好用,是因为它把“解释”从展示问题变成了决策问题。它同时约束三件事:信息要全,三层都有;表达要能被低年资者读懂;结论要可反驳。

落地时辨证云建议做一个实测:取二十份真实病案,关掉带教提示,让规培医师只看系统给出的解释,逐份判断采纳或不采纳,并写下理由,再与上级医师的判断比对,看分歧集中在哪里。分歧集中在证型,说明差异证据不够;集中在方剂,说明路径证据太粗;集中在某几条症状,说明症候证据没采全。这比满意度打分直接得多。

四、解释不能替代判断,也不能当作免责

两条边界必须写清楚。

第一,解释不能代替医师做判断。系统给的是证型提示与方剂建议,采纳与否、如何加减、最终签名,都是医师的事。解释的作用是让医师更快形成判断,不是替他形成判断。

第二,解释不能成为免责工具。有一种做法是把全部推理过程堆在界面上,看上去很透明,实际是把责任推回医生——“系统都告诉你了”。这不叫可解释,叫责任转移。真正的可解释,是把关键的三层讲清楚,让医生有能力质疑,而不是让他淹没在信息里。

辨证云在这件事上的取舍是:宁可少给几条,也要把反向证据和相邻证型的区分点放进去。演示时这一屏不如热力图好看,但医生会看第二眼。

五、可以把这三条写进标书

如果要把可解释性写进采购文件,不要写“具备可解释性”这种无法验收的句子。写三条:每条建议须列出正向与反向症候证据,并可回溯至原始记录;须给出证型到治法的链路及来源;须给出与至少一个相邻证型的区分点。

三条都能现场演示,也就都能验收。辨证云与专家诊疗路径比对时用的也是同一套口径:专科病种、与专家诊疗路径及主方比对,符合率 95% 以上。这个数字的前提,是链路本身可以被逐项拆开——拆不开,就无从比对。

中医 AI 的解释能力,最终不体现在演示视频里,而体现在一位规培医师独自坐在诊室里的时候,敢不敢按下那个“采纳”。

相关阅读

把 40 年的中医 AI,接入你的机构

预约演示 · 合作咨询 · 在线体验