如何确保医疗AI可审计？业内：医疗推理应当以“可执行、可测试”的代码形式呈现

发布时间：2026-07-17 18:09:52 来源：安智兰德资讯网 作者：百科

每经记者：张宏 | 每经编辑：陈俊杰

每经北京7月6日电7月4日，何确2026全球数字经济大会医疗健康专题论坛在北京国家会议中心召开。保医京东健康智能算法负责人胡浩源在主题演讲中深刻剖析了医疗大模型与通用大模型的可可执发展分野，指出医疗AI已从追求参数规模的审计式呈“粗放期”迈入强调严谨性与可控性的“深水区”。鉴于医疗场景容错率极低，业内医疗应当任何失误均可能引发严重后果，推理“可信”与“合规”已成为行业发展的行可现核心基石。

拒绝“思维链”幻觉：用“操作流轨迹”实现全链路审计

胡浩源提出，测试确保医疗AI可审计的码形关键，在于将医疗推理过程转化为“可执行、何确可测试”的保医代码形式。他严厉批评了当前大模型中常见的可可执“思维链（Chain of Thought）”机制，认为其本质是审计式呈一种“事后叙事”。

• 思维链的业内医疗应当缺陷：模型往往先产生结论，再补充看似合理的推理解释。这种机制下，即便推理路径错误，输出结果仍可能逻辑通顺、表述流畅，具有极强的欺骗性，导致“幻觉”难以被察觉。
• 操作流轨迹的优势：相比之下，操作流轨迹的每一步都对应真实的工具调用，如加载影像序列、选取ROI（感兴趣区域）、执行测量、进行比对等。
• 可重放与可校验：整个过程如同代码执行，每一步都有明确的真值对照。
• 零虚构空间：代码要么成功执行，要么直接报错，不存在编造或虚构的空间，从而实现了真正的可审计性。

胡浩源正在发言 图片来源：每经记者 张宏 摄

上海影禾医脉王世和：AI价值在于融入临床工作流

上海影禾医脉董事长王世和从临床应用角度补充观点，认为对于医学影像AI而言，准确率并非唯一指标，能否融入医生实际工作场景、获得使用意愿及医院付费认可才是关键。

医学影像AI的价值贯穿“开单—扫描—诊断—临床应用”的全链条。在CT、MRI、DR、超声等影像技术快速迭代的背景下，面对数百项检查项目，临床医生未必总能精准选择最优方案。因此，确保“开单正确性”成为影像AI需要攻克的首要环节，也是提升整体诊疗效率的关键切入点。

市场现状：头部医院积极布局，私有化部署成主流

针对医院采购AI医疗设备的积极性及商业化模式，胡浩源在会后接受《每日经济新闻》记者采访时透露了以下行业洞察：

1. 接受度分化：医生群体对AI的接受度存在明显差异，头部医院态度最为积极。这些医院一方面与外部科技大厂开展深度合作，另一方面也倾向于自建技术团队，推动AI在院内的深度落地。
2. 商业化探索期：目前付费与调用模式尚未形成明确共识，仍处于商业化探索阶段。
3. 部署偏好：出于数据安全与隐私保护考虑，医院普遍倾向于私有化部署，即在院内完成模型的搭建与运行，因此较少出现直接调用外部公有云大模型的情况。

相关文章