AI医师助手

原标题：高度关注ChatGPT伦理问题和法律规范 近日，国家网信办公布《生成式人工智能服务管理办法（征求意见稿）》（以下简称《生成式AI意见稿》），拟就类似ChatGPT等基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术进行相应规范。根据《生成式AI意见稿》的规范要求，我国支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。同时，《生成式AI意见稿》提出，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，并应符合五项要求，包括利用生成式人工智能生成的内容应当体现社会主义核心价值观，防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视，防止生成虚假信息，防止伤害他人身心健康，防止损害肖像权、名誉权和个人隐私，防止侵犯知识产权，禁止非法获取、披露、利用个人信息和隐私、商业秘密等。 笔者认为，生成式AI在其发展进程中面临的最大问题不是技术本身，而是生成式AI的技术伦理和法律问题。笔者建议《生成式AI意见稿》中应当增加生成式AI相关伦理规范的规定。生成式AI的伦理是AI技术创新和科研活动中人与社会、人与自然以及人与人关系的思想与行为准则，它不只是涉及生成式AI科学研究中的伦理，也不只是生成式AI科研人员要遵守的科技伦理，还包括生成式AI成果应用中的伦理。 生成式人工智能应用安全风险引起全球关注 人工智能在经历前期技术积累和迭代后，逐渐突破传统分析型AI领域，迎来生成式AI的爆发期。从2012年至今，生成式AI极速发展，其源头就是DNN算法的升级，实现了语音和图像识别等功能。生成式AI（Generative AI 或AIGC）是基于算法、模型、规则，利用现有文本、图像、代码、音视频文件生成和创建新内容的技术。生成式AI即人工智能生产内容，可用于代码生成、文本问答、图像生成等。火爆全球的ChatGPT就是一种生成式AI的特定实现，能理解并生成文字，属于生成式AI技术应用中的文本生成模态应用模型。 当前，ChatGPT的应用所引发的安全风险，已经引起全球对生成式AI伦理和安全问题的高度关注。3月30日，非营利组织人工智能与数字政策中心（CAIDP）向美国联邦贸易委员会（FTC）投诉称：GPT-4“有偏见性、欺骗性，对隐私和公共安全构成风险”。CAIDP认为，OpenAI违反了FTC对人工智能（AI）产品的指导，并违反了FTC法案第5条，该法案禁止不公平和欺骗性的商业行为。3月29日，一份由1000多名科技专家签署的题为《暂停大型人工智能研究》的公开信引起了全球的广泛关注，这些科技专家包括图灵奖得主约书亚·本吉奥（Yoshua Bengio）、特斯拉CEO埃隆·马斯克（Elon Musk）、苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）、DeepMind高级研究科学家扎卡里·肯顿（Zachary Kenton）等AI领域的企业家、学者、高管。 笔者注意到，这些AI专家在信中强烈呼吁：所有AI研究室立刻暂停训练比GPT-4更加强大的AI系统，为期至少6个月，并建议各大企业、机构共同开发一份适用于AI研发的安全协议，同时信中还提到各国政府应当在必要的时候介入其中。公开信中指出，目前AI技术在很多领域已经取得了很大的进展，但是这些进展也带来了一些潜在的危险。一些研究人员担心，超强的AI可能在未来对人类产生威胁，因此需要对这项技术进行更加深入的研究和探讨。此外，公开信中还提到了AI技术可能给社会带来的影响。多数人担心AI技术可能取代很多人类工作，从而导致失业率的上升。此外，一些人还担心AI技术会对社会的隐私和安全造成威胁。这份公开信呼吁暂停大型的AI项目，以便对这项技术进行深入研究和探讨。此外，这份公开信还呼吁政府、学术界和产业界等各方加强对AI技术的监管和控制，以确保这项技术能够更好地服务于人类，而不是对人类产生威胁。 ChatGPT的应用对社会结构构成三大威胁 事实上，ChatGPT的应用正在对社会结构构成真实而迫在眉睫的三大威胁：一是数据安全的威胁。ChatGPT以海量信息“为食”，数据量越大、数据越新，其功能性越好。这意味着要保证良好的用户体验，它必须在社会各领域中获取足够多和准确的知识与信息，但问题在于，许多信息涉及国家机密、商业机密和个人隐私，获取和利用这些信息本身存在合法性问题，一旦重要数据泄露，造成的损失到底是由泄露数据的人承担，还是由披露数据的ChatGPT承担，尚无定论。二是对人才教育的威胁。ChatGPT被学生用于完成作业和撰写论文，对教育界和学术界造成了重大的冲击。调查显示，美国有89%的学生用ChatGPT写作业，目前尚未研究出可准确检测这种作弊行为的技术。利用ChatGPT完成学习任务的高质量和高效率远超此前的系列解题软件，它可以完美避开查重等问题，这使其极具诱惑力。人类教育的意义本来就是为了培养社会人才、推进人类历史的进步，而ChatGPT作为当前智能机器人的一个前沿成果，却替代人类完成人才培养的任务，这是极其可怕的。三是意识形态渗透的威胁。ChatGPT的数据输出功能承载着后台技术操控者的话语权，用户越多、使用范围越广就意味着其话语权越大、价值渗透力越强。ChatGPT是有政治立场和价值取向的，操控者的价值观存在历史和文化的偏见、歧视，就会通过ChatGPT的“放大镜”昭然于世，误导用户，扭曲大众价值观，引起社会动荡，妨害社会公平正义。在国际竞争日益激烈的背景下，各种社会思潮此起彼伏。ChatGPT 一旦面向大众，势必会成为意识形态渗透的重要工具。 目前，世界多国教育系统及相关从业者已公开抵制ChatGPT。美国多所大学已宣布计划减少居家评估，增加手写论文和口试。纽约、巴尔的摩和洛杉矶的学区都叫停了学校管理的网络访问聊天机器人。在澳大利亚，一些大学表示他们将恢复只使用监考的笔试考试来评估学生。法国顶尖学府之一的巴黎政治学院也宣布禁止使用ChatGPT。3月31日，意大利个人数据保护局（DPA）发表声明，禁止在意大利使用人工智能聊天平台ChatGPT。意大利DPA指责ChatGPT系统违反了欧盟《通用数据保护条例》（GDPR），并已对OpenAI这家美国科技公司展开进一步调查，在欧洲第一个以国家名义禁用ChatGPT。 科技创新和成果不能损伤人、损害生物和破坏环境 应当指出，科技伦理是理性的产物，其底层逻辑要求科技创新和成果只能有益于或最大限度地有益于人、生物和环境，而不能损伤人、损害生物和破坏环境，即便不可避免会不同程度地损人毁物——如药物的副作用，也要把这种副作用减到最低，甚至为零。在具体的伦理规则上，还应两利相权取其重、两害相权取其轻。 早在2016年，标准制定组织IEEE就发布了一份题为《利用人工智能和自主系统（AI/AS）最大化人类福祉的愿景》的报告，该报告提出了一个发展人工智能的一般性原则，主要涉及AI可靠性以及高层次的伦理问题，该报告认为，人工智能发展的一般性原则将适用于所有类型的人工智能和自主系统。在确定一般性原则时，主要考虑三大因素：一是体现人权；二是优先考虑最大化对人类和自然环境的好处；三是削弱人工智能的风险和负面影响。 笔者建议，各国在研发生成式AI时，应当建立健全公开透明的AI监管体系，重点在生成式AI的设计问责和应用监督并重的双层监管结构上做充分的准备，实现对AI算法设计、产品开发和成果应用等的全过程监管。促进生成式AI行业和企业自律，切实加强生成式AI协同一体化的管理，加大对生成式AI领域数据滥用、算法陷阱、侵犯个人隐私、违背伦理道德等行为的惩戒力度。 在生成式AI技术研发的同时，要加强人工智能相关法律、伦理和社会问题的同步研究，尤其要关注生成式AI模仿人类传播错误信息或将商业无人机转化为目标武器攻击人类，建立和优化保障生成式AI健康发展的法律法规和伦理道德框架。法律研究领域要开展与生成式AI应用相关的民事与刑事责任确认、隐私和产权保护、机器伦理与破坏力评价等伦理与法律问题的交叉研究，建立生成式AI的可追溯和问责制度，明确人工智能的设计者、控制者、使用者等相关法律主体的权利、义务和责任。 我国《生成式AI意见稿》为全球探索生成式AI治理提供了有益借鉴。建议各国积极构建生成式AI相关法律、伦理和社会问题的国际合作和交流平台，建立保障生成式AI健康发展的法律法规和伦理道德框架，确保生成式AI在伦理规范和法律框架下健康发展，鼓励跨学科、跨领域、跨地区、跨国界的交流与合作，推动形成具有广泛共识的生成式AI伦理国际治理框架和标准规范。（作者：王春晖） 举报/反馈

ChatGPT的火爆引发了全球对人工智能的关注，厦门作为人工智能产业重地，积极行动，小签科技宣布全面启用其工作方式，包括初稿生成都由ChatGPT完成。厦门的人工智能企业围绕核心技术领域已形成协同体系，如小签科技利用ChatGPT提高内容生产效率，云知声则打造基于ChatGPT的医疗解决方案和平台。主流人工智能企业正构建开放AI平台，厦门的企业如快商通则将AI技术应用于客服、销售等领域，推动数字化转型。

　　会编代码，能写诗歌、翻译小说，甚至参加考试、在线问诊……“有求必应”的人工智能聊天机器人ChatGPT推出仅两个月后，它的月活跃用户就突破了1个亿。 　　 ChatGPT的火爆出圈，再次引发了全球对人工智能技术发展的广泛关注。人工智能产业初具规模的厦门也在行动，本月初，聚焦“AR+文旅”的小签科技宣布，将全面启用ChatGPT和AIGC（利用人工智能技术来生成内容）工作方式，正式进入AI协作时代。值得一提的是，其“官宣”文案初稿就是由ChatGPT生成。 　　 来自厦门市工信局的数据显示，当前，厦门人工智能产业初具规模，以厦门软件园（一、二、三期）、火炬高新区、厦门自贸片区为主，聚集了人工智能相关企业近200家。围绕计算机视觉、图像处理、生物识别、语音识别、自然语言处理、数据挖掘/大数据分析等核心技术领域，技术层企业与应用层企业已逐渐形成协同体系，不少厦企发力“人工智能+”赛道，为各行业领域的转型升级赋能。 　　太爽了！20分钟就可搞定剧本框架 　　 “效率太高了，原本要开3到4小时的剧本选题会，在ChatGPT技术的导入下，我们很快就能确定了剧本框架，20分钟就可以搞定。”自成立以来就致力于将科技融入文旅的小签科技，眼下正打通技术中心、产品中心以及运营中心的“任督二脉”，用Chat-GPT和AIGC工作方式，为公司的内容生产赋能增效。在小签科技创始人苏砚看来，ChatGPT能够“根据主题列出大而全的框架流程和更为精准、让人眼前一亮的描述”，在“找思路”和“找描述”时能够提供很大的帮助。“相当于每个人都配上了一个小助理，工作效率大幅提升，多爽呀！”苏砚笑称。 　　 除了利用ChatGPT强大的文字输出能力，小签科技还自主研发了AIGC剧本美术协作平台，全面启用AIGC的方式帮助美术部门更高效地进行NPC、道具、海报内容的生成和制作。苏砚介绍，“《城市猎人》《三生三世》剧本角色均由AIGC生成，大概10分钟就能生成一张我们满意的角色图。” 　　 “2016年，AlphaGo击败围棋世界冠军李世石，被视为人工智能发展历程中的一次里程碑事件。而今，ChatGPT再次掀起了一波人工智能发展应用的高潮。”苏砚相信，未来以ChatGPT为代表的AI协作方式将会把人类从繁琐的机械性工作中解放出来，“人工智能的时代已经全面到来。” 　　太猛了！厦企“逐浪”人工智能+赛道 　　 “你好小夏，请拍照。”一声令下，小美成功拍摄一张精美的“打卡”照片，游客还能自主选择专属相片模板，扫描二维码便可以将照片直接保存到手机。这就是由云知声东南总部——厦门云知芯为厦门山海健康步道定制开发的多模态智能交互服务站。“通过交互服务站，市民游客可以通过发现周边，探索附近的餐厅、商场、停车场和洗手间位置。”厦门云知芯传播与运营主管肖凤荣介绍，交互服务站具有语音交互的功能，可以为市民游客提供丰富的步道介绍、贴心导览、咨询服务和拍照、发送祝福等娱乐化体验互动。目前这样的人工智能应用场景已在健康步道上布点12处，成为步道的一张智慧化名片。 　　 作为国内顶尖的语音人工智能独角兽企业，云知声打造云服务和AI芯片，并基于云芯一体化平台，向智慧物联与智慧医疗两大领域提供以对话式AI技术为基础的产品服务与综合解决方案。今年以来，ChatGPT已经列入云知声的技术升级规划中，以医疗作为切入口，构建ChatGPT医疗行业版，同时基于ChatGPT行业版构建平台，再快速扩展到其他领域。 　　 当前主流人工智能相关企业多采用“平台+赛道场景”的战略架构，积极构建自主研发的AI开放平台。肖凤荣认为，“未来智能科技会聚焦于一些开放性、创意性和通用性的应用上。”作为第四次产业革命的代表，人工智能技术应用潜力巨大，利用人工智能技术实现数字化和智能化转型，打造竞争新优势、注入增长新动能，将带动数万亿规模的产业升级。 　　 厦门软件园企业快商通是一家专业从事人工智能技术研发与应用的重点上市后备国家高新企业。快商通联合创始人李稀敏博士告诉导报记者，近年来，快商通基于自然语言处理、声纹识别、语音识别、大数据处理等技术，致力于将A1、BI引擎技术应用于客服云、销售云、营销云等产品中,通过世界领先的声纹识别、语音识别等智能语音原创技术，赋能公安、金融、社保等多个领域，实现数字化智能治理。目前，快商通已服务企业用户超过38万家，包括国家电网、美莱集团、新华教育、建设银行等各领域头部企业。 　　探家底　厦门优势何在？ 　　 以应用为主、重视与产业、服务业的融合，正是当前厦门人工智能企业的主要发力点。导报记者从厦门市工信局了解到，目前，在技术应用层面，厦门已集聚了一批国内领先企业，拥有相关软件著作权超万件，基本实现人工智能产业链全覆盖，在智能网联汽车、智能无人机、智能家居等领域开创出一批“厦门品牌”。 　　 其中，瑞为技术是国内人脸识别第一梯队企业，研发的人脸识别通行解决方案已覆盖了北京大兴、北京首都、深圳宝安等国内1/3的机场，并实现了“海陆空”全覆盖的智能化通行应用；金龙客车与百度公司研发的“阿波龙”无人驾驶小巴，已在全国25个城市、30个应用场景实现商业化运营，累计运行总里程59000多公里；罗普特研发了人像云平台和高性能人脸识别引擎，已服务于国内多地的雪亮工程和智慧社区；渊亭科技打造全球首个AI战争指挥官，已成功应用于陆军、海军、战支等各军种的数十个军事智能案例…… 　　 近年来，厦门始终坚持把发展新一代人工智能作为贯彻落实“数字厦门”发展战略的重要举措。建设人工智能产业园，创新“孵化器—加速器—产业园”的全链条孵化模式；建设人工智能超算中心、算力达5400万次每秒的鲲鹏超算中心，充分保障算力需求；落地新一代启智人工智能产业技术促进中心、人工智能安全研究院，全力打造人工智能标杆城市。近日，厦门还获第二批千兆城市授牌，成为福建省首个国家千兆城市，随着5G、大数据、超算、工业互联、城市大脑等建设推进，厦门为人工智能产业发展提供坚实的基础支撑和丰富的应用场景。 　　记者观察 　　厦门人工智能产业 呼唤更多协同与支撑 　　 相较于公众的“狂热”，厦门人工智能企业有着更多理性的思考。业界普遍认为，OpenAI并非一家聚焦于“场景应用”的人工智能企业，其技术和模式就是对人工智能的训练、模型进行长期重度投入，从底层技术的角度看，这不算是突破性的进阶，更多是“量变引起质变”的必然结果。 　　 而国内人工智能企业则更多擅长在具体的场景、领域应用入手，“倾向于在技术出现突破后，研究怎么去应用”。早期这有助于中国各行各业迅速借助人工智能实现生产力提升，但从长期来看，客观上也使得中国的“小产品众多，拳头产品不够”。 　　 在这场全球人工智能大竞赛中，应当发挥中国的政策、资金等优势，突出企业科技创新主体地位，从支持企业集中力量实现关键核心技术协同攻关等多个方面，超前布局并长期投入，尤其是鼓励企业更多向行业基础设施集中，如算力问题等，以此解决未来长期发展中的一些潜在难点。 　　海峡导报记者 陈磊 黄奕琳 张芯雅

ChatGPT 的最新应用引发了网友对 AI 生成答案质量的关注，尽管错误率高但看起来吸引人且方便制作。这导致 Stack Overflow 面临大量未经验证的不准确答案，负担加重。因此，Stack Overflow 禁止使用 ChatGPT 创作帖子，并将对违规用户进行制裁以控制此类内容。