文章标签:澳大利亚医学协会, ChatGPT, 人工智能监管, 医疗记录
原标题：医生用ChatGPT撰写病历，澳大利亚医学协会呼吁加强AI监管
根据《卫报》的报道，澳大利亚医学协会（AMA）在向联邦政府提交的关于人工智能安全和责任的讨论文件中提到，我国在人工智能监管方面与其他国家相比处于落后地位。此外，AMA强调，为了保护患者和医疗专业人士，我们需要制定更为严格的规则，以重建公众对其的信任。
在过去的某个时期，珀斯南大都会卫生服务中心的五大医疗机构中，部分员工习惯使用大型语言模型来编撰医疗记录。然而，这种做法在五月份受到了建议性的叫停。
据美国广播公司报道，珀斯南大都会卫生服务局局长Paul Forden曾在一封电子邮件中向员工表示，采用这类系统无法确保患者数据的安全性，因此必须暂停使用。
在制定人工智能保护措施时，我们必须确保临床医生能够作出最后的决定，同时也要让患者对利用人工智能所进行的各种治疗和诊断给予知情同意。此外，美国医学协会（AMA）强调，保护患者数据至关重要，并需要得到适当的伦理监督，以防止系统加剧健康不平等现象。AMA建议澳大利亚应审慎对待即将出台的欧盟人工智能法案，该法案将根据不同人工智能技术的风险进行分类，并设立一个监督委员会。同时，加拿大对于人为干预决策的要求也应该纳入我们的考量范围。
在提交的相关文件中提到，未来监管应当确保人工智能对临床决策的影响在决策过程中得以合理控制，这需要实施特定的人为干预措施。同时，强调在最终决策方面，人类的角色是不可或缺的。这样的决策必须是经过深思熟虑的，而不仅仅是依赖勾选框等方式进行选择。因此，相应的法规应明确指出，患者护理的最终决定权始终属于人类，尤其是医生这一专业人士。
AMA主席Steve Robson教授强调，人工智能作为一门迅速崛起的技术，其在各个领域的应用及人们对其的理解存在诸多差异。在一个声明中，他表示：“为应对澳大利亚人工智能发展所面临的挑战，尤其是医疗保健领域，我们必须填补监管空白。患者可能会因为系统失误、算法中固有的偏见以及隐私风险上升而遭受伤害。”
谷歌首席卫生官 Karen DeSalvo博士最近向媒体透露，人工智能技术有望在未来改善患者健康状况。然而，她也指出了正确运用这些系统的重要性。她强调，要解决许多问题，确保模型的真实性、一致性以及遵循道德和公平原则，但她对这项技术的潜力仍抱有很高的期望。
来源：大健康派返回搜狐，查看更多
责任编辑：
澳大利亚医学协会, ChatGPT, 人工智能监管, 医疗记录
