文章主题：
本文作者：黄思凯
本文审校：李帆
原文标题：医疗人工智能是威胁，还是曙光？
引言
ChatGPT，一个基于OpenAI GPT-3语言模型（Generative Pretrained Transformer-3）的交互聊天系统火速出圈，掀起新一轮的人工智能浪潮。ChatGPT轻松通过美国医学执照考试（U.S. Medical Licensing Exam）、ChatGPT辅助诊断表现优秀等新闻层出不穷，让沉寂已久的“AI+医疗”再度成为焦点。实际上，AI上岗壁垒性高的医疗行业的实践从未停止，而每一轮进步与发展都引发了如AI是否能够取代医护的热议。医疗人工智能是威胁，还是曙光，尚无定论。本文就医疗AI的主要应用领域做总结，就此分析了医疗AI的发展瓶颈并讨论了AI融合医疗所面临的难题。
一、AI在医学的应用
第一，AI技术辅助医学诊断。近年来，深度学习（deep learning）在图像处理方面表现突出，在放射科、病理科和眼科等专业领域大放异彩。随着社会上疾病预防意识的整体加强，人们愈发主动地采取定期体检等预防措施来保障身体健康。大量患者就诊后产生海量的医学影像数据提高了精准诊断的难度，暴露出高资医生匮乏、医师工作超负荷和非典型案例频发等问题。然而，突破人体体力和精力极限的AI经训练后能够进行智能诊断，有效减轻医生判读大量检验报告的负担。有研究基于深度卷积神经网络（deep convolutional neural network）建立了乳腺癌X光筛查的模型，实现准确地识别乳腺癌（AUC达到0.895），同时，研究指出结合医师研判与AI预测的混合模型的表现优于二者分别诊断的结果，展现了AI辅助医学诊断的潜力。评估模型好坏的一个因素还在于是否能克服人群地区性的差异，就此，另一项AI辅助乳腺癌筛查的研究证明了其设计的筛查模型从英国推广至美国仍表现优异，说明AI辅助筛查具备普遍适用不同地区的潜力。不同于胸腺X光检查或肺部计算机断层扫描（CT）检查，消化道内镜检查、病理组织切片检查、心血管超声检查等医学影像的人工判读更耗时、耗力。然而，AI技术辅助诊断不仅能将报告研判耗时的计量单位从“小时”降低到“分钟”，还保证了其准确程度与专家医生的水平相当，极大地促进了通过医学检查来评估病情和预防疾病的作用。
第二，AI技术辅助病情评估。全面、准确的病情评估是急诊等重大手术前的必要准备工作。急诊科常用急诊严重程度指数（emergency severity index，ESI）通过评估急诊患者的病情来指导医生进一步决策。然而，在急诊科医生数量短缺、分级诊疗制度不完善，或是重大公共卫生事件爆发的情况下，短时间内利用ESI完成病情评估和预检分流几乎是不可能完成的任务。近年来，频发的公共卫生事件也在全球各地敲响了优化应急卫生体系的警钟。应用AI技术辅助评估病情和优化临床工作进展将会是一个关键的突破口。一项横跨八年、纳入四十万名急诊患者的大型横断面研究对比了不同分诊工具的性能优劣。结果显示，神经网络模型识别重症患者（24小时以内死亡或进入重症监护病房）的AUC高达0.851，远大于采用ESI时的0.672。医护通过参考AI识别出的危重患者可以更为合理地安排就诊次序，既有利于保障患者人身健康和减轻医生工作负担，又合理利用了宝贵的急诊时间和有限的医疗资源。除了在急诊科室快速识别重症患者之外，AI医疗还有望预测长期内患病的风险。一项人工智能系统经过大量学习CT读数和其他临床信息，实现了精准地预测3年内的患肺癌风险，这有助于指导早期的重复筛查计划和临床管理项目以避免重病负担。
第三，AI技术辅助外科手术。机器人手术（robot-assisted surgery）是21世纪计算机结合医疗领域中最耳熟能详的应用实例之一。第一批机器人手术的执行记录最早可以追溯到上世纪80年代PUMA-560用于脑部活检程序中减少医生手部震颤造成的移动。现如今，以达芬奇手术机器人（robotic-assisted surgery with da Vinci systems）为主的腔镜机器人已广泛应用于诸多外科手术中，获得了临床医生广泛的认可。尽管表现优秀的机器人手术常出现在AI医疗的话题中，但是其工作原理并不属于人工智能系统。实际上，达芬奇手术机器人的学名是内窥镜手术器械控制系统，主要起到延伸临床医生的手、眼和大脑的作用，具体包括采用机械臂来滤除人手在极为有限空间内的颤动、构造体内3-D立体图像来扩展医生观察视野和远程手术降低久站的体力消耗，提高了手术的灵活性和精准度。然而，手术机器人的工作原理不是以AI算法为核心，尚未实现智能化的自主识别和自主操作，其实际运用仍依赖经过培训的、有较高资历的主刀医生。考虑到AI技术的迅猛发展，可以预见，以计算机编程为内核的机器人系统具备与AI整合的前景，其最终形态也有望成为一台自主操作的“主刀机器人”。但是，在这之前，更精密尺寸的器械、更敏捷的自动器械交换技术和反馈技术以及与AI医学诊断图像的整合，都是手术机器人需要克服的技术难题。
机器人手术的发展历史
图源：自制
第四，AI技术辅助药物研发。传统的新药开发需要经过确定作用靶点、化合物设计、动物试验、人体试验和上市后临床试验等多个阶段，研发周期长达10年以上，耗资普遍超过20亿美元。即使如此，十次的药物研发中也有九次在临床试验或者上市审批阶段遭遇失败。如何从海量的药理数据中高效地建立疾病、化合物和靶向药物研发三者间联系是加速新药开发亟待解决的重大难题。幸运的是，现如今AI技术的飞速发展使得药物研发过程中的药物设计、多重药理、化学合成、药物筛选和药物再利用等任务变得相对省时、省力和经济。在新型冠状病毒肺炎疫情大流行（下称，新冠疫情）期间，除了政策所支持的全过程审评审批加速了新冠疫苗与药物研发，AI技术也发挥了重要的作用，二者将疫苗和药物的研发耗时从传统的近十年的耗时缩减至约两年。例如，随机森林、深度卷积神经网络和长短时记忆网络等基于人工智能的方法发挥了识别新冠抗原决定簇和预测病毒蛋白质间相互作用等功能，有效地推动了疫苗开发计划。
人工智能（AI）在药物发现中的作用
图源：Drug Discov Today
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7577280/
二、AI医疗的发展瓶颈
尽管AI辅助医学诊断、病情评估、外科手术和药物研发等方面表现突出，但是缺乏高质量、多样化和注释明确的数据是其发展的主要技术瓶颈。首先，提供良好注释的医学数据十分有限。在医学影像学中，注释数据指已被标记为图像中存在的特定解剖结构或病理学信息的医学图像，这些注释用于训练AI以识别和分类新图像中的不同结构或病理。然而，部分疾病的注释数据的可及性较低，尤其在罕见病中更低，这使得训练算法以准确诊断或预测结果充满挑战。例如，在利用皮肤病变的医学影像早期识别皮肤癌的情况下，本就复杂的皮肤科图像和缺乏标准化的注释协议使得AI医疗的应用十分有限。其次，涉及医学数据隐私保护的法规较为严格。美国《健康保险可携性和责任法案》（Health Insurance Portability and Accountability Act）、欧盟《通用数据保护条例》（General Data Protection Regulation）和中国《数据安全法》和《个人信息保护法》都在不同程度上保护了患者享有的隐私权，增加了为研究目的访问或分享医疗数据的难度，进而限制了训练和测试AI算法的数据量。同时，飞速发展的AI技术又推动着数据隐私保护的立法完善，这是否会进一步制衡AI发展值得关注。然后，医学数据的自身偏差不利于AI医疗实践。如若AI的训练数据集本身存在种族或性别等偏差（Bias），那么AI将会学习和永久化地复制这种偏差，进而提供不具备参考价值的医学意见或建议，甚至造成对边缘化人群的不利影响。例如，2019年发表在《科学》（Science）上的一项研究发现，一个在美国用于指导2亿多病人的临床决策的风险评估算法对黑人患者（Black patients）有系统性偏差，该算法系统地低估了黑人患者的医疗保健需求，导致本应向黑人患者提供的额外护理相较于白人患者（White patients）的更少，其问题根源正在于医疗历史的训练数据集本身存在着黑人患者记录不完整或缺失的问题。该AI系统在其预测中再现了这种种族偏见，对边缘化群体造成了广泛的伤害。最后，广泛一致的医学数据难以保证。用于AI训练的医学数据通常是可变的。例如，在医学成像数据中，图像或有伪影，或以不同的角度或用不同的设备型号拍摄，使得医学数据前后不一致，有可能降低了训练后AI的精准识别能力。一项关于AI辅助医学诊断的研究调查了图像采集参数对识别胸部CT扫描中肺结节的人工智能算法的准确性的影响，发现如切片厚度和重建内核等图像采集参数的变化会显著影响人工智能算法的性能。另一项相似研究也证明了图像采集和数据注释的改变会影响人工智能算法从乳腺X光检查中预测乳腺癌风险的准确性。二者都强调了AI算法的准确性受到不同医疗设备和可变医学影像数据的影响不容忽视。
不难发现，围绕医疗数据的发展瓶颈正是解决AI医疗在临床实践中最关注的普适性和精准度的问题的方向。除医学数据外，AI医疗的临床运用也不可忽视与临床工作流程的整合度。对医疗从业者来说，AI医疗极为重要的一点就是确保AI辅助医疗实践是“无缝衔接”的。如果AI医疗需要对工作流程或基础设施设备进行重大改变，那么即使它具备高准确性也无法派上真正的用场。整合度低一般表现在，对既定工作流程的改变、软硬件设备的特殊要求、数据特定格式的要求以及训练医护从业者正确使用的困难。可以明确的是，AI整合医疗如若需要颠覆传统医疗实践则会失去现实应用的意义，但是，提高整合度也并不能简单地要求单方面改进AI系统以满足传统医疗要求，医疗实践自身也需要做出一定的调整，二者相互协调才能最大化AI辅助医疗的作用。
三、AI融合医疗的难题
长期以来，AI融合医疗的一个关注点是AI与人的关系，具体到AI在医疗行业是颠覆，是变革，还是辅助。2022年，美国得克萨斯州数家医院引进了由Diligent Robotics公司设计的Moxi机器人，用来帮助护士承担约30％的工作。创始人之一Thomaz表示，Moxi正在帮助医院解决护士紧缺问题，在帮助护士更好地发挥自身价值，而不是让机器人取代他们的工作。美国医院引进机器人护士正是因为护士人才的严重短缺（Nurse burnout），尤其在新冠疫情期间一度突破短缺的峰值。护士短缺又引发了高压工作下的离职率攀升，加剧资源不足的恶性循环。引入护士机器人不仅能承担部分体力工作，还能改善工作环境，例如在新冠疫情期间降低交叉感染。再者，护士所能提供的价值还在于情绪安抚和陪伴交流，而情绪价值正是AI技术在短期内最难攻克的难题。论医生方面，AI技术也仍是以辅助为主。尽管达芬奇机器人手术、AI辅助内镜诊断等高精准诊断科技实现了超越人体功能极限，但是仍受限于未学习过的非典型情况的出现。AI能够高效地提供相对精确的参考意见，而医疗方案最终仍需医生进行决策。
AI融合医疗的另一大难点是监管和问责制。审评审批是决定AI能否存在于医疗市场和进入临床使用的重要环节。自1995年起，美国食品药品管理局（Food and Drug Administration, FDA）批准授权了超500项AI设备的临床使用，多集中在放射学领域，评估的主要方面包括有效性、安全性、稳定性、可推广度以及隐私保护方案。然而，近年来的AI设备会根据临床操作流程或是病人群体的变化进行更新调整，有可能覆盖以往的学习模式或导致新错误的风险。因此，监管机构必须制定新的标准化审评审批程序来处理AI系统。近期，FDA讨论提出一个适用于人工智能系统的监管框架，不仅要求初始模型获得监管批准，还要满足长期更新的过程持续获得认可。除了AI的持续学习和医学的敏感性共同加大了监管难度，问责制也是AI融合医疗必须探讨的问题。AI技术能够不断提供医疗参考意见和建议，间接或直接地影响临床决策，而这衍生出了改变医患沟通模式和承担义务责任的风险。过度依赖AI可能会使医生专业水平与患者疾病之间的联系逐渐下降，而随着AI对医疗保健的影响力愈发增强，患者个体或会失去对自身情况的理解与控制。那么如果一个AI算法在经过完整的临床验证后出现临床事故，开发者、监管者、医疗保健提供者和患者自身，谁应该承担责任？传统层面上，当医生偏离执行标准使病人受到负面医疗伤害时需承担责任。但是，当医生面临传统的执行标准和AI提供的个性化诊疗意见二者相冲突时应如何选择？在最基本的层面上，开发者和监管者须保证AI设备符合临床使用和上市要求，医护人员须能够解释AI提供的诊疗意见，而患者遵循错误建议时仍要承担负面的健康结果。可见，不同于AlphaGo（阿尔法围棋），AI融合医疗所涉及的问责制已上升到伦理层面的讨论。考虑到在医疗环境中实施AI解决方案所带来的伦理挑战，AI医疗应用迈出的每一步都需要个人、群体、团体、机构、部门和社会考虑伦理适应。
获FDA批准的人工智能医疗设备统计（1995年至2022年5月）
图源：medtechdive
https://www.medtechdive.com/news/FDA-AI-ML-medical-devices-5-takeaways/635908/
AI融合医疗常被忽略的一点是公平（Equity）决策。医疗公平要求保障边缘化群体（例如，少数族裔）的医疗保健需求得到与多数群体同等级的满足，避免出现上文提到的临床决策的风险评估算法对黑人患者造成伤害的情况。因此，广泛的前期研究和上市后研究对于检测和纠正医疗AI模型中的系统性偏见都是十分必要的。未来，AI医疗工具是否能够公平地服务于边缘化人群的福祉或成为它上市前必须能够回答的问题。此外，为了促进医疗保健的公平，各级监督者也应尽量做到能够解释AI提供的参考意见和识别潜在的偏见。
四、结论
AI技术的发展结合医疗实践能够作为人体脑力和体力的一部分延伸，是辅助人类做出决策的利好工具。尽管AI的曙光照亮了人类医疗发展上的一个新方向，但是仍不可欠缺对其规范性和总体性的考量。认识AI的强大之后，至少还要承认其发展阶段的技术限制并且制定配套的监管、法律和伦理治理框架，避免发生AI医疗威胁人类健康的情况。
编辑：陈露娴
责编：邹明蓁
《全球健康医疗动态汇编》由暨南大学国际关系学院/华侨华人研究院/21世纪丝绸之路研究院/海国图智研究院联合出版，对全球公共卫生事务和医疗健康政策经济进行整合，并在每期设置专题，通过撰写有价值的原创文章和论文编译对热点事件进行追踪。以通过多方面的公共卫生研究，为全球的健康协作治理提供多样化的思路，并为读者提供更加客观、更具时效性的资讯与分析。
获取更多内容，欢迎关注海国图智研究院
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
