OpenAI摊上事了；FTC主动出击；质询函内容；OpenAI必须披露详细信息

【新智元导读】FTC突然对OpenAI展开调查，Altman连发3推澄清。FTC对阵OpenAI的大戏正缓缓拉开帷幕。

重磅！美国联邦贸易委员会的调查说来就来！

调查对象不是别人，正是风头正旺的OpenAI。

一封长达20页的调查要求书直接给了Sam Altman当头棒喝。

OpenAI又双叒摊上事了

可能OpenAI还没来得及选好帮自己打官司的律师，这边又被美国联邦贸易委（FTC）员会找上门来了。

FTC给OpenAI列了一个包括49个大问题，200多个小问题的清单，要求OpenAI就清单上的所有问题进行详细地回答和陈述。

看到这一大串的问题，向来以成熟冷静，处变不惊著称的Sam Altman也有点麻了，连发3推给OpenAI压压惊。

这份清单的49个问题，除去要求OpenAI讲清楚基本的公司架构之外，针对模型训练，隐私和提示词风险，API插件，个人信息等几个方面，询问得非常专业和详细。

FTC！主动出击

而公布的20页民事调查要求书（CID）一看就专业的不行。

知情人士表示，这份20页的CID是真实的。但FTC没有予以置评。

CID中指出，本次FTC的调查将重点关注OpenAI是否存在不公平，或欺诈性的隐私数据安全条例，以及是否有不公平，或欺诈性的行为，导致用户蒙受受到伤害的风险（包括声誉损失），有无违反《联邦贸易委员会法》第5条内容。

一直以来，立法者都在为生成式AI发愁，需不需要立新法，怎么立，怎么保护知识产权、用户数据，都是「头疼大事」。

而在这次调查中，FTC霸气地表示，我们已有法律权力来追究AI可能造成的伤害。

而提到FTC，就得提到主席Lina Khan。

作为一个女强人，她直接就是一个出手，对新兴技术采取主动监管，而非被动应对。

概括来看，CID中要求OpenAI列出所有有权访问其模型的第三方，并要求这些第三方分别讲清楚各自是如何保留、处置用户数据的，以及自己公司模型训练的数据从哪儿来。

CID还要求OpenAI说明他们是如何评估LLM存在的风险的，以及是如何检测并处理有误导性、歧视性的内容的。

要知道，在今年3月，OpenAI曾经出现过疏漏，当时的错误是：一部分用户可以看到其他用户的历史聊天记录的标题，以及1.2%左右的ChatGPT Plus用户的支付信息暴露。

为此，3月24号OpenAI在官网上发布了一篇文章，解释20号发生了什么。

而此次的调查要求OpenAI对这个事儿进行二次说明。

其实截止到现在，OpenAI的CEO Altman在华盛顿还是个香饽饽的。

立法者们觉得，Altman在对立法监管自家公司产品这件事上，还算是兼听则明的。

不过，也有另一些AI专家提醒，Altman这么说也可能有自己的考虑，还是要广泛听取各方不同的观点。

质询函内容

1. 公司基本信息及背景

2. 相关告知与陈述

3. 模型开发与训练

4. 风险评估与应对

5. 隐私和Prompt风险及措施

6. API集成及插件

OpenAI在运作过程中，需要遵循相关法律法规，并向公众透明地展示其基本信息。这包括但不限于公司的全面名称、地址、联系电话等基础信息，以及其组织架构、子公司、合伙人等具体 details。在特定的时间段内，OpenAI还需公开员工数量、组织架构图、高级管理人员和董事的详细资料，以及股东的详细信息。此外，OpenAI还需向公众披露其在开发语言模型（LLM）过程中与第三方签署的所有协议的详细内容。同时，OpenAI也需要公开其在训练、测试、审计和监控LLM过程中的政策、程序等。对于训练LLM所使用的数据，OpenAI也需要详细披露其来源、类型、保留方式以及负责数据的个人或部门的信息。同时，OpenAI还需要公开其采取的技术和组织安全措施，以减少LLM输出中可能包含的非法、不安全、有偏见或误导性的内容风险。综上所述，OpenAI在运作过程中需严格遵守法律法规，并向公众透明地披露相关信息，以确保其合法合规地开展业务。

OpenAI必须披露用户投诉受到伤害的详细信息以及应对的回应。OpenAI必须披露与AI系统的隐私、安全和伦理相关的政策和程序。OpenAI必须披露与其LLM的安全性、偏见和事实正确性相关的内部沟通、评估和研究的详细信息。OpenAI必须披露其如何监控遵守与审计AI系统相关政策的详细信息。OpenAI必须披露向LLM用户提供的说明、指南和培训材料的详细信息。OpenAI必须披露与其LLM相关的任何外部研究/测试并概述结果。

OpenAI必须披露其为应对安全问题而对LLM做出的任何修改的详细信息。

屋漏偏逢连夜雨

OpenAI最近的麻烦事还真不止这一件。

科技公司劲敌——FTC

FTC中文全称是联邦贸易委员会，职能类似于我们国家的商务部。

网友反应

在Altman稳定军心一般发了三条推特以后，底下网友众说纷纭。