带着民声上两会：医疗AI井喷 行业标准亟待建立

今年年初，被喻为海外“医生版ChatGPT”的“OpenEvidence”估值超过百亿，成为全球医疗AI领域标杆。国内外赛道上，跨国科技巨头、药企、创新企业纷纷入局。当各类医疗AI产品层出不穷，看似为就医带来便利的同时，有市政协委员提出质疑：对普通患者而言，什么样的医疗AI值得信赖？它给出的建议会不会有“幻觉”、靠不靠谱？医疗事关生命健康，可目前 医疗AI产品 在伦理、应用安全等方面还存在灰色地带。

上海市政协委员、复旦大学附属口腔医院院长蒋欣泉认为，医疗AI必须设置安全底线，患者信息要规范脱敏，用循证医学数据训练医疗AI，保证其提供的建议是安全的。此外，还要明确在医疗结构内，AI工具只是辅助作用，医生才是主体责任人。

今年一月中旬，上海爱尔眼科医院副院长李勇发了一条朋友圈，讲述了自己的一位患者在白内障手术后擅自停了必须滴的眼药水，导致视力下降、角膜轻微褶皱。而一问原因，竟然是听信了AI的说法。患者表示，AI说的“眼药水有副作用”很在理。听了这话，李医生哭笑不得：“我问你为什么不相信医生的话，而去相信AI？他说，AI是综合了很多专家的意见，相信它是更权威的。我真的很无奈，只能和他说'求求你，这一次你先相信我’。”

李勇指出，所谓“眼药水有副作用”是有前提条件的，比如长期使用含激素的眼药水、或者患者本身有相关禁忌症。而这名患者，在白内障手术后的2周左右康复期内使用抗炎和含激素眼药水，符合临床指南。擅自停用反而不利于伤口恢复。李勇认为，AI会去网上捕捉能看到的所有信息，但它不会去分辨患者提问的真正意图以及个人情况。

这样的案例并非个例。上海市政协委员、复旦大学附属口腔医院院长蒋欣泉告诉记者，有患者认为，AI生成的内容等同于治疗方案，这是错误的。首先，社会公众需要明确的是，当前企业开放给公众使用的AI工具，也叫开源、通用型AI，其生成的内容是不能够与医院线下医疗时的临床诊断和治疗方案划等号的。

上海市政协委员、复旦大学附属口腔医院院长蒋欣泉表示：“个别患者会误将AI健康建议当成诊断意见。 例如，我遇到过一位患者因为口腔黏膜火辣辣的、舌根处长了包块，于是用AI搜索自查，AI说有恶性肿瘤可能性，患者就非常焦虑和恐慌。当他带着忐忑的心情来到医院就诊后才发现，患上的只是黏液性囊肿。我们口腔诊断依赖视诊、触诊、叩诊、牙周探查等方法，而当前通用型的AI健康助手往往是基于概率和文本匹配生成，缺乏医学的严谨性和个体化考量。”

通用型AI的智能是文本游戏，通过全网爬取，组合文字信息 。而且它的知识往往停留在过去，跟不上最新的医疗发展。那么，有没有懂医学、会持续更新知识库、能识别患者问题意图的专科类医学AI呢？

蒋欣泉委员介绍，其实上海有不少三甲医院正在探索。比如，去年2月，复旦大学附属中山医院葛均波院士参与研发了国内首个深耕心血管专科的医疗大模型——观心大模型（测试版）。去年4月，仁济医院发布了国内首个泌尿专科AI助手。更知名的是，去年11月，在浦江医学人工智能大会亮相的上海首个“胃肠多模态医学AI”。当时，这款AI公开挑战三甲医生，结果在分析同一复杂病例后，胃肠多模态医学AI与专家团队的判断和治疗建议总体不相上下。也就是说，专门训练的AI已经达到了和三甲医院胃肠外科副主任医师相当的水平。

那么，这款一战成名的AI现在怎么样了，能用于临床看病了吗？今年2月1日，记者走进了开发它的上海人工智能实验室，看到这款医学AI目前仍在不断测试，持续进化。

“医学数据团队的老师会把医院的病例数据进行规整化和质检质控，使病例数据更加符合临床的诊疗规范和真实情况。”上海人工智能实验室医疗与测评中心青年研究员张容肇，是该项目的技术负责人。他介绍，所谓“多模态”，就是这款AI既能读懂病例，也会分析胃肠镜报告、CT影像等等。与开源AI不同，专科AI了解患者病情，需要的语料是真正意义上的临床病例。“可以看到我们给到模型的有性别、年龄、主诉以及现病史、既往史、婚育史、家族史等等。这一块其实就对应到医生常说的'一诉五史'，也就是一个标准的结构化病例的一些必要字段。”

而要教AI读懂胃肠镜报告，几百份患者检查报告“投喂”的背后，其实是大量的人工标注、数据对齐以及人工审核、修订工作。质检过程有三审制度，就是为了保证AI学习的影像报告是完全真实和准确的。“第三级质检至少是三甲医院副主任医师水平的专家来做。通过了三级审查，才能保证给AI学习的数据不会有噪声。”

这款“胃肠多模态医学AI”是由上海人工智能实验与上海九院联合研发，开发初心并不是为了取代医生，也不是为了让患者自己拿来看病，而是要帮助基层医生提高诊疗能力，辅助医生更好地梳理患者复杂的病史资料。上海人工智能实验室医疗和测评中心负责人徐捷表示：“即使未来，专科类医学AI的能力能与主任医师比肩，但业内共识是，在医疗这个严肃场景下，医学AI也只是工具作为医生辅助，而不是去替代医生。”

在蒋欣泉委员所在的复旦大学附属口腔医院，AI技术已经融入了教学。通过“AI+虚拟仿真”，年轻医生可以在虚拟环境中进行高仿真度的临床操作训练，加速成长。此外，医院也已经启动了国内首个口腔修复领域的垂类医学AI研发 , 顺利的话预计将在今年内向药监部门递交第三类医疗器械注册证申请。

蒋欣泉委员表示，最好的AI医疗产品，一定是从临床需求中“长”出来的，而不是在实验室里“造”出来的。此外，当前对于生成式人工智能模型在医院的落地到底应该怎么做，目前也尚未明确。包括数据安全、伦理规范、内容安全、模型安全等在内，都有待更细化的行业指导方案出台，为整个医疗AI行业健康发展保驾护航。

上海市政协委员、复旦大学附属口腔医院院长蒋欣泉：“从医院管理者的角度我想呼吁，第一，深入临床解决真问题。最好的AI医疗产品一定是从临床需求中挖掘出来的，而不是在实验室里被造出来的。我呼吁AI企业、工程师们能更深入地走进医院，与一线医生紧密合作，真正理解临床的痛点、难点和工作流程，开发出真正好用、管用、医生爱用的工具。另外，AI医疗是一个复杂的系统工程，希望共同努力推动高质量医疗数据集的开放共享，建立行业统一的技术标准和伦理规范，构建一个开放、协作、规范、共赢的创新生态。确保AI浪潮真正地、可持续地造福于每一位患者，助力健康中国、健康上海的建设。”