文章主题：深圳市, 蓝海大湾区, 法律服务研究院, 合规委员会主任
施俊侃
作为一名具有高度专业素养的文章写作高手，我将对原文进行改写，使其表达更为准确、严谨和专业。深圳市蓝海大湾区法律服务研究院合规委员会主任及咨询委员会委员，同时也是信达律师事务所合规与监管委员会主任，具备丰富的行业经验。他曾在埃森哲亚太区区域法律部担任董事总经理，以及大中华区法律部担任董事总经理，展现了他卓越的法律合规能力和领导才能。
作者按
在埃森哲亚太区法律部，我曾担任合规、运营、法规与道德规范主管一职，负责审查公司所有涉及A（AI，人工智能）、B（Blockchain，区块链）、C（Cloud Computing，云计算）、D（Digital offerings and services，大数据）等技术或服务的开发。这段经历使我长期站在科技审查的前沿，对高新技术领域的发展保持着持续的关注。近期，ChatGPT的上线引发了人们对AI技术的新一轮讨论热潮，学者们从不同维度对其进行了深入研究。作为生成式AI的一种，ChatGPT及其产出成果AIGC（AI Generated Content，利用人工智能技术生成的内容）也引起了我的注意。结合我过去的工作经验和各方对ChatGPT的最新观点，我撰写了这篇文章，希望与广大读者共享学习ChatGPT在法律与道德伦理方面所面临的挑战。同时，我也提醒大家在阅读时保持批判性思维，认识到相关的社会风险和法律挑战尚无定论。我们应该积极关注立法与实践之间的界定和差距，留意相关法律法规的制定、修订动态，并以此为契机对热点话题进行深入反思和总结。
若以一张表格来展示本文所探讨的 ChatGPT 或类似 ChatGPT 的生成式人工智能所引发的现实挑战，其表现形式如下图所示。
涉及
问题
具体
方面
对法律
的挑战
竞争和垄
断问题
可能会强化科技巨头在市场上的垄断
平台垄断问题
用户数据垄断
知识产权
问题
训练材料的知识剽窃
AIGC的知识产权定位问题
版权规则受到冲击
网络安全
问题
遭受黑客攻击
被用于编写恶意软件代码
数据跨境安全问题
隐私问题
原始数据有被恢复风险
真实信息被篡改风险
“知情同意”制度被架空
数据挖掘不受限
不重视对用户资料的保护
公共治理
问题
“信息孤岛”
“数字鸿沟”
虚假信息误导
伪造资料进行犯罪
对社会
的挑战
失业问题
生成式AI可能替代中高层白领
收入分配
和不平等
问题
生成式AI的崛起会在劳动力市场上产生显著的技术偏向性分配
大幅提升资本的收益率
道德和伦
理问题
歧视因素
用户诱导下的不当言论
学术伦理规范
社会信任问题
算法权力问题：意识形态渗透
在大数据时代的背景下，人工智能已经深入到各个行业和领域，引起了广泛的关注和使用。ChatGPT是2022年11月首次亮相的，仅仅用了5天的时间就吸引了100万用户，而在短短两个月内，用户数量更是达到了上亿级别，创下了历史上用户增长最快的纪录²。然而，随着ChatGPT的迅速走红，关于其利弊的争论也在全球范围内引发了学术和实际操作领域的热潮。本文将简要介绍ChatGPT，并针对其当前的应用情况进行分析，探讨它对法律和社会可能带来的挑战，最后提出相关的法律规制建议。
01
什么是ChatGPT？
生成型预训练变换模型（Chat Generative Pre-trained Transformer，ChatGPT），是OpenAI开发的人工智能聊天机器人程序。不过，与Siri这样的简单语音助手不同，ChatGPT在处理自然语言交互方面的能力得到了显著提升。目前免费使用的ChatGPT是GPT-3.5的微调版本，而GPT-3.5可以根据上下文和语境产生高质量的文本回答，并通过使用人类反馈强化学习（Reinforcement Learning from Human Feedback，RLHF）对对话进行了优化。具体来说，就是研究人员从 GPT-3. 5中抽取一部分，用人力标注进行训练，对于模型生成的各种结果，都进行人工打分。这样，就可以训练出一个可以对人类偏好进行识别的反馈模型（Reward Model）。接下来，再让反馈模型与原模型进行对抗强化训练，对原模型中不当的输出结果不断进行纠正²，从而不断对自身进行不断完善。
从本质上说，ChatGPT实际上是一种“大型语言模型”（Large Language Model，LLM）或“大型生成人工智能模型”（Large Generative AI Models ，LGAIMs），是自然语言处理机器学习模型，在分类上属于生成式AI（Generative AI），而GPT模型的具体实现在于AI预先对既有文本语料进行无监督地自主学习训练，包括文本语法、语义、惯用法和上下文信息等内容，再借助 Transformer 模型构建高度类似人类表达逻辑和方式的语言算法模型³。
目前，ChatGPT 接收了大量来自互联网的文本汇编，并接受了与OpenAI雇用的人工承包商进行实时对话（主要运用语言是英语）的训练，它学习模仿人类写作的语法和结构，并反映其常用的短语。到目前为止，ChatGPT最常见的用途是与用户进行对话，根据其问题或指示在许多知识领域给出详细和清晰的回答或为用户撰写文章。
图为笔者让ChatGPT对自己进行的描述，其反应速度与文本质量可以说十分出色
02
ChatGPT带来的挑战
正如前文所述，ChatGPT的出现就像生成式AI的“潘多拉魔盒”被打开，其运用在给人们带来惊喜的同时，也引发了学术界、政府与企业对于其运用的一系列担忧甚至恐慌，这其中尤以其带来的法律挑战与伦理道德挑战为首，本文接下来将对此进行分析与讨论。
（一）ChatGPT带来的法律挑战
1.竞争和垄断问题
ChatGPT所属公司OpenAI最初由Sam Altman （其现任首席执行官）和Elon Musk于 2015年12月以非营利组织的形式共同创立，三年后，Elon Musk在对该公司控制权和发展方向发生争议后与其断绝关系。但微软在2019年向这家人工智能初创公司投资了 10 亿美元，并在今年1月公布了对其进行数十亿美元的新投资，宣布将ChatGPT的基础技术整合到其搜索引擎Bing和其他产品中。今年3月，OpenAI 表示将不再开源其系统的技术细节，正如它最初在其创始原则中所述，以保持其竞争优势。⁴可见，AI相关的高新技术投资在当前正是科技巨头的高度关注点，很多生成式 AI 模型的研发都是由巨头企业和其所投资的新创企业合作开发的。实际上，ChatGPT的上线也是迫于其同行竞争对手“Stability AI”上线的压力而提前提上了日程，而ChatGPT上线后引发的热潮更是吸引更多科技巨头公司将投资目光瞄准“生成式AI”并争先抢跑入局，企图抢占风口。2023年2月，Google推出类似于ChatGPT的对话人工智能服务Bard，百度也确认其开发的类ChatGPT聊天机器人项目名字确定为“文心一言”，英文名为ERNIE Bot。
但由此也可见，在以ChatGPT为代表的人工智能投资领域，科技巨头占据了大部分话语权，整个 AI市场其实只是少数几个科技巨头的舞台。AI发展的三大要素是数据、算法、算力，而以微软、谷歌为首的几大科技巨头由于其承载的大量用户数据、丰富的科技开发经营与先进的大型计算机天然地在AI研发领域享有优先支配地位，而众多科技初创企业面对该风口，要么由于资金与技术的局限对训练模型的高成本门槛望而却步，要么由于成果表现优异被科技巨头以非控股的方式进行了实际控制，这一局面最终将造成商业排除（Commercial Exclusion），也即科技巨头公司通过利用自身的技术、资金和人才优势，制定较高的技术标准，而小公司则由于自身能力的缺失，往往无法达到相应的标准，从而达到巨头公司排除潜在的竞争对手的目的。这将最终使得市场出现马太效应——强者越强，弱者越弱。⁵相关监管部门如何识别并惩处这类新形式的垄断也是一个巨大的挑战。另外，由于在研发方面的垄断，未来由于平台用户的集中使用，在AI市场也可能出现相关科技巨头对于用户数据的垄断。
2.
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
