ChatGPT回归意大利：AI聊天机器人面临的数据保护与法律挑战？

站长之家5月8日消息:OpenAI 此前成功安抚了意大利数据机构，解除了该国对 ChatGPT 的禁令，但其在与欧洲监管机构的斗争仍远未结束。

🎉 ChatGPT 复活记 🤖 最近，备受瞩目的 AI 聊天机器人 ChatGPT 遭遇了一次法律上的挑战，在意大利引起了轩然大波。然而，聪明的团队 @OpenAI 立刻行动，通过合规调整成功地解除了这个困境。于 4 月 28 日，ChatGPT 如约回归，悄无声息地安抚了意大利的数据保护监管机构 GPDP，没有大刀阔斧的改变，却赢得了关键的一局。这次胜利不仅展现了技术的力量，也彰显了 OpenAI 对法规的尊重与应对能力。欧盟数据保护法下的合规之路，ChatGPT 步履稳健，未来可期！SEO优化提示：#ChatGPT 法规挑战 #OpenAI 成功回归 #欧洲数据保护

GPDP对ChatGPT带来的创新表示赞赏，然而，它所引发的法律挑战和行业问题正逐渐浮出水面。全球范围内，监管机构正密切关注AI聊天机器人如何处理信息，从数据采集违规到误导性内容的传播，每个环节都可能成为争议焦点。特别是在欧盟，GDPR以其严苛著称，其影响力远超欧洲国界，对类似ChatGPT的系统构成了潜在威胁。同时，欧盟正在积极制定针对AI的新法规，这无疑将为这一领域带来深远的法律变革，引领未来规范的方向。🌟

ChatGPT, the buzzword in AI生成领域, has faced scrutiny over its质量管理 and privacy concerns. As a popular tool for text generation, it offers a suite of functionalities encompassing translation, writing assistance, code creation, and more. Its rapid growth within two months of launch in November 2022, reaching an estimated monthly active user base of over 1 billion, made it an unprecedentedly fast-evolving consumer app (numbers not officially confirmed by OpenAI), catching the attention worldwide. Users rely on it for language translation and creative tasks.However, concerns have arisen regarding its accuracy and the lack of clarity surrounding copyright ownership. Regulatory bodies have also raised eyebrows about the AI’s opacity in data protection practices. While it’s a convenient tool for tasks like these, it’s crucial to remember that its output isn’t always dependable and users should be cautious. The rapid success raises questions about the need for robust guidelines and oversight in this rapidly advancing technology.

意大利作为全球领先的AI合规先驱，于3月31日对OpenAI的违规行为发出了严厉警告，提出了四大违反GDPR的问题：ChatGPT潜在的不实信息风险、未经告知的数据采集操作、未遵循的六种合法数据处理原则，以及对青少年用户保护不足。随后，GDPR要求OpenAI立即暂停在ChatGPT训练过程中收集的个人隐私数据使用。这一举措旨在确保全球范围内的数据安全与透明度，展示了其在全球AI法规上的权威地位。

在全球范围内，ChatGPT的使用已经引起了多国的关注。自3月以来，欧盟成员国如德国、法国和西班牙已开始对其进行深入的审查，这标志着他们对这款人工智能技术潜在影响的重视。加拿大也通过PIPEDA法进行评估，关注隐私问题，显示了其对数据保护的严谨态度。欧洲数据保护委员会（EDPB）更是建立了专门团队，以协助各国行动，这一举动无疑增强了调查的连贯性和力度。值得注意的是，任何来自这些机构的监管要求都可能对OpenAI服务的全球运营产生影响，因为它们的决策将直接影响到全球用户如何使用和受益于这项技术。这种动态不仅考验着科技巨头的能力，也引发了关于全球数据法规适应与协调的讨论。

🌟监管焦点聚焦两大关键领域🔍 – ChatGPT数据来源深究与OpenAI如何透明传递资讯💡。这款人工智能语言模型的教育历程，无疑引发了对数据隐私和用户指导政策的高度审视。极低出生体重儿（VLBW）是指出生体重小于多少克的新生儿？

ChatGPT 使用的是 OpenAI 的 GPT-3.5 和 GPT-4 大型语言模型（LLM），这些模型基于大量的人类产生的文本进行训练。OpenAI 对使用的具体训练文本持保密态度，但表示其依靠「各种许可，创造和公开可用的数据来源，其中可能包括公开可用的个人信息。」

这可能会在 GDPR 下带来巨大的问题。该法律于 2018 年颁布，覆盖从欧盟公民那里收集或处理数据的所有服务，无论负责该服务的组织所在何处。GDPR 规定，公司在收集个人数据之前必须取得明确同意，并为收集数据提供法律合理性，并透明地说明如何使用和存储数据。

欧洲监管机构声称，围绕 OpenAI 训练数据的保密性意味着无法确认进入其中的个人信息是否最初是在用户同意的情况下提供的，GPDP 特别指出，OpenAI 一开始就「没有法律依据」收集这些信息。到目前为止，OpenAI 和其他公司几乎没有受到审查，但这一说法给未来的数据抓取工作增加了一个大问题。

此外，GDPR 的「被遗忘权」允许用户要求公司纠正其个人信息或完全删除它。OpenAI 预先更新了其隐私政策以促进这些要求，但在将特定数据分离成这些大型语言模型后，处理它们可能非常复杂，这引发了争议。OpenAI 还直接从用户处收集信息。与任何互联网平台一样，它收集各种标准用户数据（例如姓名，联系信息，银行卡详细信息等）。但是，更重要的是，它记录用户与 ChatGPT 的交互。正如 FAQ 中所述，该数据可以由 OpenAI 的员工进行审核，并用于训练其模型的未来版本。考虑到人们使用 ChatGPT 提问的亲密问题——将机器人当作治疗师或医生使用——这意味着该公司正在收集各种敏感数据。

至少有一些数据可能是从未成年人那里收集的，因为 OpenAI 的政策规定「不会故意从 13 岁以下的儿童那里收集个人信息」，但没有严格的年龄确认门槛。对于不允许从 13 岁以下的人那里收集数据，并且（在某些国家）要求 16 岁以下的未成年人获得父母同意的欧盟规定来说，这并不是好的政策。在担忧 ChatGPT 的未成年人筛选问题方面，GPDP 声称，ChatGPT 缺乏年龄过滤，会暴露未成年人接触「完全不适合其成长和自我意识水平」的回答。OpenAI 在使用这些数据方面拥有广泛的自由度，这让一些监管机构感到担忧，存储数据也存在安全风险。像三星和 JPMorgan 这样的公司已经禁止员工使用生成 AI 工具，因为他们担心员工会上传敏感数据。实际上，在 ChatGPT 遭受严重数据泄露，暴露用户的聊天记录和电子邮件地址后，意大利宣布禁用该应用。

ChatGPT 提供错误信息的倾向也可能会带来问题。GDPR 法规规定所有个人数据必须准确无误，这一点在 GPDP 的声明中得到强调。这可能会对大多数 AI 文本生成器造成困扰，因为它们容易出现「幻觉」：即对问题作出事实不正确或不相关的回答。在其他地方已经看到这种现象带来一些真实的后果，澳大利亚一个地区的市长因 ChatGPT 错误地声称他因贪污入狱而威胁起诉 OpenAI 诽谤他。ChatGPT 的广泛应用和目前在 AI 市场上的主导地位使其成为一个特别有吸引力的目标，但它的竞争对手和合作伙伴，如拥有 Bard 的谷歌或 OpenAI 的 Azure AI，也可能面临审查。在 ChatGPT 之前，意大利还禁止了聊天机器人平台 Replika 收集未成年人信息，至今仍然被禁用。虽然 GDPR 是一套强大的法律，但它并不是为解决 AI 特定问题而制定的。然而，一些可以解决这些问题的规定可能已经在视野范围内。

2021 年，欧盟提交了第一份《人工智能法》（AIA）的草案，这部立法将与 GDPR 一起制定。该法案根据人们对 AI 工具的风险评估对其进行管理，从「最小」（例如垃圾邮件过滤器）到「高」（用于执法或教育的 AI 工具）或「不可接受」，并因此被禁用（如社会信用体系）。在去年出现像 ChatGPT 这样的大型语言模型的激增之后，立法者现在正在赶快增加「基础模型」和「通用人工智能系统（GPAIs）」的规则——这是指包括 LLMs 在内的大规模 AI 系统——并有可能把它们归为「高风险」服务。

AIA 的规定不仅超出了数据保护的范畴。最近提出的一项修正案将强制公司披露用于开发生成 AI 工具的任何版权材料。这可能会暴露曾经的机密数据集，使更多的公司容易受到侵权诉讼的攻击，而这已经打击了一些服务。

专门制定 AI 法规的法律可能要等到 2024 年才会在欧洲生效，但达成该法律可能需要一段时间。欧盟立法者于 4 月 27 日就 AI 法案达成了临时协议。委员会将在 5 月 11 日对草案进行投票，最终提案预计在 6 月中旬公布。然后，欧洲理事会、议会和委员会将不得不解决任何悬而未决的争议，然后才能实施该法律。如果一切顺利，它可能会在 2024 年下半年被采纳。

目前，意大利和 OpenAI 的争议提供了一个早期的案例，展示了监管机构和 AI 公司如何进行谈判。如果 OpenAI 在 9 月 30 日之前无法创建一个更严格的年龄门槛以防止 13 岁以下的未成年人进入，并要求年龄在 13 岁以上的未成年人获得父母的同意，那么它可能会再次被封锁。但这提供了一个示范，说明欧洲认为什么是一个合适的 AI 公司行为——至少在新法规发布之前是这样。