ChatGPT：挑战传统搜索引擎，颠覆AI产业？

文章主题：伴随ChatGPT, 深度搜索, 市场讨论, 传统搜索引擎

ChatGPT在全球市场的火爆程度引发了对它能否取代传统搜索引擎的深入讨论。虽然从中短期内看，ChatGPT无法彻底替代传统搜索引擎，也不太可能改变现有的全球搜索引擎竞争格局，但它无疑将推动搜索引擎的进化过程。预计在中期，我们将看到以传统搜索为主，ChatGPT类模型为辅的新型搜索引擎形态的形成，这将对谷歌等传统搜索引擎巨头的AI投入产生重大影响。ChatGPT在问题和答案生成的匹配精度上进行了优化，用户体验优于传统搜索引擎。然而，它的背后存在的一些短板使其在短时间内无法取代传统搜索引擎：首先，由于模型训练方式的限制，数据难以实时更新；其次，单次搜索的成本过高，生成一条信息的成本约为1.3美分，是传统搜索引擎的3-4倍；最后，统计学模型生成的内容可能混杂，用户不易识别。尽管1、3两点有望在未来通过技术优化并结合传统搜索引擎的方式来部分解决问题，但在短期内，成本问题仍需等待硬件成本的进一步降低。总的来说，ChatGPT的崛起将催动全球AI产业化进程的全面加速，并标志着AI生成内容时代的正式来临。

▍报告缘起：

ChatGPT以其卓越的问答性能，在市场上引起了广泛的讨论，人们开始思考它是否能够取代传统的搜索引擎。OpenAI团队在2022年11月30日发布的语言模型ChatGPT进行了社区测试，并在短短两个月内实现了用户量的快速增长，达到了超过1000万的DAU和20万的MAU。相较于前一代的GPT3，ChatGPT以其对话形式，能够更好地回答各种日常生活问题，并具有更强的历史对话记忆能力和文本生成能力。它的全面性和深度回答能力，使得它在知识挖掘方面超越了以往的大模型。这种在内容深度搜索中的优势，使ChatGPT引发了市场对其能否替代传统搜索引擎的争论。本报告将对此进行深入分析，探讨ChatGPT及其背后的技术是否能够威胁到传统搜索引擎的市场地位，以及这对传统搜索引擎巨头将带来何种影响。

ChatGPT在传统搜索的基础上，通过融合人类反馈强化学习进行训练，有效提升了问题与答案生成的匹配精确度，相较于传统的搜索方式，其表现更为出色。

在 OpenAI 团队的研究中，他们采用了 GPT3.5 系列模型，并通过人类反馈强化学习（RLHF）方法进行了微调。为了让模型更好地理解人类语言，他们首先利用人类标注师编写的超过 1.2 万到 1.5 万条问答数据进行了基础预训练。接着，他们将预训练好的模型（SFT）应用到新的问题列表上，让模型生成若干条回答，然后由人类标注师对这些回答进行排序。排序后的回答被用作产生了新的奖励模型（RM）。为了进一步提高模型的性能，团队将奖励模型应用到更大的数据集上，对 SFT 模型进行重新训练。在此过程中，团队不断反复迭代，以期获得最佳的模型效果。

在一系列的步骤之后，我们得出了一个重要的结论：ChatGPT模型在问题意图和答案一致性方面有了显著的提升。据Deepmind方面的信息，ChatGPT能够直接生成与问题相关的高质量回答，并提供相关引用链接，这一点是传统搜索引擎无法比拟的。同时，对于开放式问题，ChatGPT能够利用网络中的数据生成相对完整的答案。在处理知识类和创意类问题时，ChatGPT的表现明显优于现有传统搜索引擎。

▍ChatGPT取代传统搜索引擎：中短期可能性较低。

尽管ChatGPT能大幅优化用户的搜索体验，但要取代传统搜索引擎仍然面临几个关键技术瓶颈。

数据实时性问题是一个不容忽视的问题。当前，英文版的ChatGPT数据截止到2021年，而中文版的数据则截止到2020年。这种数据库版本滞后的现象，主要是由于语言大模型技术的局限性所导致的。目前，ChatGPT在GPT大模型上添加标注数据进行训练，使得实时数据的引入变得极为困难。如果要重新训练模型，我们需要使用1000块以上的英伟达A100显卡，投入半个月至一个月的时间，这将产生高昂的成本，超过百万美元。另外，采用微调方式专门训练新知识，可能会使新知识在模型内的权重过大，同时，频繁的微调也可能导致模型“遗忘”旧知识。

2）数据的真实性仍不足可靠。在大量的测试后我们发现，虽然ChatGPT回答问题的准确性有所提高，但如果提出的问题较为模糊或者本身包含部分错误信息在内，模型有可能以“一本正经”的语气生成完全错误甚至凭空捏造的回答。真假答案的混杂会让用户在需要对专业性问题寻求答案时产生严重的困扰，这也是目前语言类大模型普遍存在的问题。据CSDN微信公众号报道，2022年11月几乎同一时间上线的Meta服务科研领域的语言类大模型Galactica就因为真假答案混杂的问题，测试仅仅3天就被用户投诉下线。

3）模型在线推理端成本高昂。根据模型的现有数据，我们假设每次生成的回答长度平均为50个词，使用8x英伟达A100用于推理的情况下，我们估算ChatGPT每一次生成答案的成本约为1.3美分，约为谷歌搜索引擎每次搜索成本的3倍。如果每天面对数以亿计用户的搜索请求，如此高昂的成本是公司所不能承受的，中短期内完全取代传统搜索引擎在商业模式上无法做到。

▍搜索引擎产品演变：传统搜索引擎为主+大语言模型为辅相结合。

目前ChatGPT的技术路径难以在较短时间内解决搜索成本的问题，因此从分场景限制用量的思路出发，我们认为中短期内ChatGPT可以通过部分技术改进辅助传统搜索引擎实现用户体验大幅提升。

1）考虑到ChatGPT在不同分类问题中的表现情况，限制ChatGPT搜索仅在知识类搜索场景下启用可以有效控制成本。

2）面对时效类问题时，模型自动判断转向传统搜索引擎生成答案，并通过传统搜索引擎的数据返回生成ChatGPT版本的汇总新答案。

3）针对回答真实性问题，加入对答案产生来源的引用注明给用户，让用户可以快速检验回答的可靠性。

总的来看，通过一些小技术的革新（大部分已经出现在了其他大语言模型中，只需要借鉴）就可以让ChatGPT成为一个合格的辅助搜索引擎。不过成本的问题短期内暂时看不到太好的解决方法，这也给了目前的搜索引擎巨头充足的时间以应对Chatgpt会带来的冲击。

搜索巨头如谷歌以及百度均在大语言模型上有深厚的积累，尤其是谷歌拥有与ChatGPT相似的对话类模型Sparrow以及Lamda，其部分技术更是在ChatGPT上有所突破，包括使用了多个RM模型以应对不良信息的产生以及加入了新知识迭代优化的相关思路。预计ChatGPT的成功不会给搜索产业带来颠覆性的新入局者，但会推动谷歌等搜索巨头加快迭代大语言模型辅助传统搜索引擎的新格局。

谷歌在最新一季度的财报电话交流会中表示：“谷歌将在未来几周或几个月正式推出类似ChatGPT基于大语言模型的人工智能。这种人工智能将以搜索伴侣的形式辅助其传统搜索引擎。”不过我们认为大语言模型的加入也会影响到中期谷歌等巨头的搜索业务利润空间。在平均每个用户生成50个单词的假设下，我们预计到2023年如果有10％的搜索结果由大语言模型生成，将会给谷歌每年带来约12亿美元的额外运营成本。

▍风险因素：

AI核心技术发展不及预期风险；科技领域政策监管持续收紧风险；全球宏观经济复苏不及预期风险；宏观经济波动导致欧美企业IT支出不及预期风险；全球云计算市场发展不及预期风险；企业数据泄露、信息安全风险；行业竞争持续加剧风险等。

▍投资策略：

受制于信息更新、回答准确性、算力成本等层面因素的综合约束，ChatGPT中短期内取代传统搜索引擎的概率较低，但料将加速搜索引擎产品演化进程，并在中期形成以传统搜索为主、ChatGPT类模型为辅的新搜索引擎形态，倒逼传统搜索厂商不断加大AI领域投入，同时鉴于目前全球搜索引擎的市场格局，份额较小的微软Bing最有可能率先实验大语言模型的实际应用，谷歌等头部厂商亦将大概率被动跟随。ChatGPT产生的鲶鱼效应，料将推动全球AI产业化进程的全面提速，以及AI生成内容时代的全面到来。