文章主题：中国区APP商店, ChatGPT, AI聊天工具, 境外数据训练
近期，苹果公司发布了一则官方公告，明确表示我国区的应用程序商店禁止提供与ChatGPT相关的服务。对于已经提供此类服务的应用程序，必须进行下架处理并完成相应的整改措施，待整改完成后才能重新上架。这一政策旨在保护用户的信息安全和维护应用商店的秩序。
众多被关闭的APP均涉及到对ChatGPT的应用，这些应用程序主要是AI聊天工具、图像生成、音频生成以及文本生成等辅助软件。据网络传播的照片显示，这些平台向用户发布的声明称，由于未能获取在我国运营所需的手续批准，因此这些应用在我国无法正常运行。
此次苹果平台下架APP，赶在《生成式人工智能服务管理暂行办法》（以下简称《暂行办法》）8月15日生效之前行动，苹果平台出于合规考虑的意图十分明确。结合更早生效的《互联网信息服务深度合成管理规定》（以下简称《规定》，2023年1月10日生效），由美国OpenAI公司开发的ChatGPT在中国合规难的现实得到印证。
可以预期的是，如果本次APP的下架现象扩展到安卓平台，那么众多依赖于ChatGPT技术的初创项目将需要在短期内进行相应的调整。
一、境外生成内容，难以满足境内监管要求
苹果平台所提及的许可证要求，来自于《互联网信息服务管理办法》的第四条对经营性互联网信息服务实行许可制度的规定。根据该规定，在中国大陆地区运营类ChatGPT服务应取得第二类增值电信业务经营许可证。
《规定》对于那些依赖ChatGPT技术提供AI生成的文本、图像、音频、视频以及虚拟场景服务的供应商，实施了一系列的合规规定。在这些规定中，对AI生成的内容的管控被视为重中之重。其中，禁止传播虚假新闻，所有新闻的转载必须来自于新闻信息稿源单位。
根据《规定》，深度合成服务提供者需采用“人机融合”的方法来审核输入数据及合成成果，同时需构建特征库以识别违法和不良信息。
在《暂行办法》的规定中，对于内容的合法性和真实性有着严格的要求。明确禁止生成任何可能煽动颠覆国家政权、推翻社会主义制度，对国家安全和利益造成威胁，或者包含暴力、淫秽色情等不良内容。同时，服务商还需采取有力措施，以确保内容的生成不涉及民族、信仰、国别、地域、性别、年龄、职业、健康等方面的歧视。此外，还明确规定了服务商禁止侵犯他人的肖像权、名誉权、荣誉权、隐私权和个人信息权益。
《暂行办法》规定，服务提供商需采取相应措施提升训练数据的质量，以确保其真实、准确、客观和多样性的特点。对于采用生成式AI技术进行数据开发的服务提供商来说，他们需要制定明确、详细且可执行的标注规范，并对标注内容进行抽样验证，以确保标注的精确性。
ChatGPT的服务依赖于OpenAI对全球语料库的深度学习和训练，只有当境内AI服务提供商对其生成的内容进行审查并确保其合法性和真实性时，才能真正满足我国政府对内容监管的要求。如果这些提供商仅仅将ChatGPT接入国内，而没有进行必要的审查和调整，那么就难以达到政府的监管标准。因此，对于境内AI服务提供商而言，理解和遵循我国的相关法规和政策至关重要，以确保他们的服务能够符合政府的监管要求，从而满足客户的需求。
二、境外数据训练，难以保护境内权益
《规定》与《暂行办法》对生成式AI的规范不仅体现在对生成结果的要求，更追溯到人工智能训练的过程。个人信息保护、知识产权保护、数据安全，是两文件以及各相关法律法规的共同要求。
对于在境外进行数据训练的ChatGPT而言，很难实现符合中国监管要求的运营合规。
根据《个人信息保护法》， 个人信息处理者需取得个人信息主体的同意或其他合法理由， 才可以处理其个人信息，并且遵循收集个人信息的“最小范围”原则。然而， OpenAI公布的隐私政策，只描述了个人访问OpenAI及其关联公司的网站或使用其相关产品和服务时对个人信息的处理， 并未提及其收集训练数据环节的个人信息保护政策。这显然与《规定》与《暂行办法》中对个人信息的保护存在差距。ChatGPT的预训练模型基于大量受著作权法保护的第三方文字作品内容作为其数据库的训练素材，其是否符合中国《著作权法》对第三方作品的保护要求存在疑问。
《规定》要求，运营商需采取必要措施保障训练数据安全；训练数据包含个人信息的，应当遵守个人信息保护的有关规定。
《暂行办法》规定，生成式人工智能服务提供者进行AI训练，应当使用具有合法来源的数据和基础模型；不得侵害他人依法享有的知识产权；应当取得个人同意或者符合法律、行政法规规定的其他情形。服务提供者还需要采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。
对于使用者输入内容，OpenAI声称，“作为持续改进的一部分，当您通过我们的API使用OpenAI模型时，我们可能会使用您提供给我们的数据来改进模型。”
《暂行办法》要求服务提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。该规定与OpenAI对用户输入信息的搜集和再利用也可能存在冲突。
此外，利用境外ChatGPT服务，还有固有的合规问题。
目前OpenAI并没有在中国大陆提供有关ChatGPT的服务，也没有设立相应的公司运营ChatGPT。在中国大陆地区使用ChatGPT的服务商，或需通过“翻墙”访问，或使用“中间商”提供的ChatGPT服务。通过“翻墙”软件访问ChatGPT属于行政违规行为。
另外，根据ChatGPT的工作原理，用户在输入端提出问题后，该问题信息会被传输到美国的OpenAI公司。在此过程中便涉及数据出境、入境的跨境问题。若用户所提问题涉及到个人信息、敏感信息甚至涉及国家安全、公共健康和安全等方面的重要数据，也存在着风险。
由于无法要求ChatGPT的服务商能够遵循中国大陆境内的合规要求，目前通过接入ChatGPT技术为境内客户提供服务的APP，事实上一直处于合规的灰色地带。
三、合规风险难避，ChatGPT创业面临难题
《规定》对发布AI应用的互联网平台的责任有明确要求：互联网应用商店等应用程序分发平台应当落实上架审核、日常管理、应急处置等安全管理责任，核验深度合成类应用程序的安全评估、备案等情况；对违反国家有关规定的，应当及时采取不予上架、警示、暂停服务或者下架等处置措施。
《暂行办法》也明确要求，对来源于境外向境内提供不合规的生成式AI服务，国家网信部门应当通知有关机构予以处置。
因此，苹果、安卓应用商店对上架APP的合规承担责任，对不符合《规定》要求的APP予以下架，在落实合规要求上无可厚非。
值得产业界关注的是，对于依赖于ChatGPT功能而起步的国内诸多创业项目，则是坏消息。
随着ChatGPT的横空出世，一系列依赖于ChatGPT功能的创业蔚然成风。从ChatGPT高阶使用培训，到简单的接入通道，再到为各种工作场景开发的写文案、写剧本、做PPT、生成图片、视频，一系列互联网新创公司快速生长起来，其中不乏简单的套皮软件。
虽然国内生成式人工智能大模型正蓬勃发展，但难以完全替代ChatGPT。虽然利用境外数据向境内接转生成式AI服务存在市场需求，但合规风险“直接爆表”。创业企业若依赖境外系统作为底层支撑技术，在合规问题上已经“满盘皆输”。
在中国监管新规推动下，平台的下架整改有助于市场筛选出真正有实力的AIGC新创项目。依赖于境外大模型基础的应用可能不得不面临选择境内企业的基础数据服务，而植根于境内大模型基础的AIGC细分赛道应用，随着国内大模型的进一步成熟，有望能在长期竞赛中脱颖而出。
本文来自微信公众号：Internet Law Review（ID：Internet-law-review），作者：李克难
中国区APP商店, ChatGPT, AI聊天工具, 境外数据训练
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
