警惕！多模态大模型在医疗卫生领域应用中的五大风险

文章主题：世界卫生组织, 多模态大模型, 人工智能, 医疗卫生领域

多模态大模型治理的新指南最近由世界卫生组织发布，该指南指出，人工智能在医疗卫生领域的应用前景十分广阔。然而，我们必须警惕这种技术可能会带来的风险，比如“自动化偏见”可能导致过度依赖的问题。🤖

多模态大模型是一种生成式人工智能技术,具有处理多种类型数据的能力,如图像、文本和声音等,因此在医疗卫生领域得到了广泛应用。这种模型是深度学习技术的一个分支,能够高效地分析和理解复杂的数据模式,从而实现对医疗数据的精准分析和预测。由于其强大的能力,多模态大模型成为了医疗卫生领域中不可或缺的一部分。

新指南详细介绍了多模态大模型在医疗卫生领域中的五个主要应用场景：诊断与临床护理、患者自我使用、文书与行政工作、医疗与护理教育以及科学研究与药物开发。🤖

新指南强调了医疗系统所面临的多方面风险。首先，表现最优秀的多模态大模型在可接受性和可负担性方面具有优势。然而，这种依赖可能会导致“自动化偏见”的出现，使得医疗专业人士和患者过分依赖人工智能，而忽视了人类在发现错误方面的作用。其次，多模态大模型同样易受网络安全风险影响，这可能对患者的个人信息安全构成威胁，并降低算法的可信度。因此，我们需要关注这些问题，以确保医疗系统的安全和可靠性。🤗

世界卫生组织的首席科学家杰里米·法勒强调，生成式人工智能技术有潜力提升医疗保健水平，但关键在于研发、监管和使用这些技术的人员需认识并全面评估相关风险。为了实现更好的卫生成果并缩小卫生不平等的差距，人们需要透明的信息和政策来指导多模态大模型的设计、开发和使用。

🎯世界卫生组织倡导，在构建安全高效的多模态大模型过程中，政府、科技企业、医疗服务平台及患者等相关利益方需积极参与技术研发与实施的全过程，对多模态大模型进行严格监管，并制定相应的规范。