AI新世界，等你来探索！加入公众号，掌握全球AI动态，体验前沿AI技术，让智慧成为您的得力助手！
文章主题：ChatGPT, 伪造数据, 科学假说, 试验数据
原标题：ChatGPT可伪造看似合理“支持”科学假说的试验数据
新华社
近期，《美国医学会杂志·眼科学卷》发布了一项引人关注的研究，该研究发现，位于ChatGPT背后的技术能够制造出看似真实的实验数据，从而似乎能够”证实”未经验证的科学假设。这一发现引发了广泛的讨论和担忧，因为这种伪造数据的行为可能对科学研究产生重大影响。
2023年11月2日，在英国布莱奇利园，一名参会者经过首届人工智能安全峰会的宣传展板。图源：新华社
ChatGPT,一个由美国OpenAI中心开发的大语言模型聊天机器人程序,自今年3月起便已经面世。随着技术的不断进步,OpenAI在今年9月推出了全新的GPT-4大语言模型,为人们提供更加智能化的交互体验。而为了进一步提升GPT-4的功能,OpenAI在其基础上加入了高级数据分析(ADA)功能,使得该模型能够运用Python编程语言进行统计分析并生成数据可视化报告。这一功能的加入,无疑大大增强了GPT-4的应用范围和实用性,使其成为了一个更为全面、强大的聊天机器人程序。
近期，根据英国《自然》杂志网站的报道，一项由意大利卡坦扎罗大学等机构的研究人员主导的任务已经完成，他们要求 GPT-4 ADA 创建一个专门针对圆锥角膜患者的数据集。圆锥角膜是一种常见的角膜病变，部分患者需要接受角膜移植手术。这种手术有两种主要方式：一种是穿透性角膜移植术，即通过切除病变的角膜，并用供体的健康组织替代；另一种是深板层角膜移植术，该手术仅涉及替换病变的部分角膜组织，同时保留角膜内层的完整性。
在接下来的步骤中，科学家们要求 GPT-4 ADA 生成相关的临床数据，以便证实深度板层角膜移植手术相较于透明角膜移植手术能够带来更佳的效果。
在人工智能生成的数据中，我们发现有160位男性参与者和140位女性参与者。据分析，在接受深板层角膜移植术的参与者中，他们的视力测量和眼部成像测试得分都超过了接受穿透性角膜移植术的参与者。然而，这个结论并未与实际临床试验的结果保持一致。实际上，在2010年的一份报告中，77位参与者接受了一种手术，而在术后长达两年的时间里，他们发现两种手术的效果并无显著差异。
在一项由英国曼彻斯特大学的生物统计学家杰克·威尔金森领导的研究中，他们发现了一些令人质疑的数据。研究结果显示，参与者的性别和姓名存在不一致，而且术前和术后进行的视力测量以及眼部成像测试之间并没有明显的关联性。这些发现引发了关于数据质量的担忧，并促使研究人员进一步调查这些数据的来源和准确性。
人工智能捏造看似合理的科学数据的能力增加了学术界对科研诚信的担忧。研究人员表示，这项研究的目的就是希望对此提高警惕。返回搜狐，查看更多
责任编辑：
ChatGPT, 伪造数据, 科学假说, 试验数据
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
