iMerit Technology 医疗与生命科学人工智能副总裁 Sina Bari 博士在《Importance of Human-in-the-Loop (HITL) AI for High-Stakes Healthcare》一文中指出，随着机器学习算法与基础模型的进阶，AI 正深刻重塑医疗领域，从诊断、预测分析到外科手术，AI 驱动的医疗工具已从研发阶段逐步落地临床，成为医疗提供者与卫生系统的 “必需品”。然而，医疗场景的高风险性（如手术决策直接关乎生命）决定了 AI 不能脱离人类监督独立运作，“人机协同（HITL）” 模式作为平衡 AI 效率与人类判断的核心机制，正成为高风险医疗场景中不可或缺的技术伦理框架，确保 AI 始终以 “增强人类能力” 为目标，而非替代人类决策。
AI 在医疗领域的价值已通过多场景验证，但其规模化应用仍需依赖人类 expertise 填补技术缺口。一方面，AI 能打破医疗资源地域壁垒 —— 将顶尖医疗中心的专业知识编码为可部署的模型，让偏远地区患者也能获取高质量诊疗建议；另一方面，生成式 AI 工具显著减轻医护人员负担，例如通过环境数字记录员自动起草医疗文档，帮助医生减少电子健康记录（EHR）处理时间。数据显示，医生每进行 1 小时患者诊疗，需花费近 2 小时处理文档，而 AI 工具每年可帮助医生节省约 15791 小时文档工作时间，进而改善医患互动质量与医生职业满意度。截至 2025 年，美国 FDA 已批准多款跨专科 AI 技术（覆盖放射科、心脏科、胃肠病学等），市场上也开始出现算法竞争格局，但患者信任与 AI 治理的缺失，成为制约技术落地的关键瓶颈 —— 这正是 HITL 模式的核心应用场景，通过人类监督为 AI 的规模化应用锚定安全边界。
外科领域作为医疗高风险场景的典型代表，AI 与机器人技术的融合已展现出 “从被动辅助到主动协作” 的进化趋势，而 HITL 模式是这一进化的安全基石。传统机器人辅助手术（RAS）已应用多年，但随着智能体 AI 与多模态数据融合技术的发展，外科机器人正具备 “主动协作” 能力：在人类监督下执行常规操作（如组织切割、夹子放置），同时将复杂决策（如肿瘤边界判断、血管保护）交由外科医生掌控。这种协作依赖 AI 对手术数据的深度解析 —— 每台机器人手术会产生千兆字节的高清视频、器械遥测数据与患者信息，AI 需通过这些数据学习手术模式，但原始数据的价值挖掘离不开人类专家的 “数据标注”：将非结构化的医学影像、手术视频、临床笔记转化为带精准注释的结构化数据（即元数据），这些元数据正是机器学习算法理解专家决策逻辑、学习临床模式的核心依据。例如，约翰・霍普金斯大学 2025 年展示的 “智能组织自主机器人（STAR）”，虽能在猪标本上 100% 成功完成胆囊切除且无需人类干预，但其训练仍依赖数小时人类外科医生的手术视频标注；在盆腔手术中，AI 辅助机器人通过更小切口、更精细操作，帮助患者实现更快康复与更少并发症，这些成果的背后，是人类专家对 “手术安全边界”“组织损伤阈值” 等关键规则的提前定义。
HITL 模式在外科 AI 中的核心价值，在于其搭建了 “AI 效率与人类判断” 的协同桥梁，尤其体现在三个不可替代的维度。首先是 “人类独有的直觉与创造力”—— 外科医生能通过手术中的细微解剖变异（如血管位置偏移、组织粘连）调整操作策略，这种基于经验的灵活决策，是当前 AI 算法难以复制的；AI 的作用则是将医生的经验转化为可学习的模式，例如通过标注 “出血血管识别”“肿瘤边界追踪” 等关键场景，让算法提前掌握高风险情况的应对逻辑。其次是 “持续学习与误差修正”——HITL 并非单向的 “人类教、AI 学”，而是形成 “AI 输出 — 人类评估 — 模型优化” 的闭环：当 AI 对手术器械或事件的识别出现偏差时，医生的实时反馈会被纳入模型迭代，不断提升算法精度。某全球领先外科设备制造商的案例显示，通过将人类专家标注整合到 AI 训练、审计与监控全流程，其外科 AI 的器械与手术事件识别准确率提升 72%，帧级精度突破 99%，项目交付时间提前数月，印证了 HITL 对 “速度与精度” 的双重提升作用。最后是 “伦理与安全对齐”—— 在涉及生命安全的外科场景中，AI 的每一步决策都需符合医学伦理，例如优先保护患者重要器官、平衡手术效果与术后恢复质量，这些价值判断需通过 HITL 机制提前植入算法，避免 AI 因追求单一指标（如手术速度）而忽视患者整体利益。
从行业未来趋势来看，HITL 模式将推动高风险医疗 AI 从 “被动辅助” 向 “可信协作伙伴” 转型。当前，AI 与机器人技术已从实验室走进手术室，未来将进一步通过 “多模态数据融合 + 实时人类监督”，实现更高精度的手术操作、更精准的风险预测（如术前并发症预警）；但其核心逻辑始终是 “延伸人类能力” 而非 “替代人类”—— 例如，AI 可帮助医生处理海量手术数据、减少重复性操作，但最终的治疗方案决策、伦理判断仍需由人类主导。这种协作模式不仅能提升医疗质量与效率，还能通过 “人类反馈” 不断强化 AI 的可靠性，满足监管机构与临床医生对 “可解释性、安全性” 的要求。正如 Sina Bari 博士所言，HITL 机制创造了 “人类与机器共同创造” 的良性循环，让 AI 在医疗领域的应用更具问责性、透明度与人文关怀，最终实现 “以患者为中心” 的医疗目标。
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/ren-ji-xie-tong-hitl-ai-zai-gao-feng-xian-yi-liao-ling-yu
