文章主题:伴随ChatGPT, 人工智能, 搜索引擎, 市场趋势
#ChatGPT在全球市场的火爆程度引起了人们对其能否取代传统搜索引擎的深入探讨。虽然我们在短期内认为ChatGPT无法彻底替代传统搜索引擎,也无法改变现有的全球搜索引擎竞争格局,但我们预期它将加速搜索引擎的进化过程,预计在中期,我们将看到以传统搜索为主,ChatGPT类模型为辅的新型搜索引擎形态的出现,这可能会促使谷歌等传统搜索引擎巨头的AI投入大幅增加。ChatGPT优化了问题与答案之间的匹配精度,用户体验优于传统搜索引擎。然而,它的背后存在的一些短板阻止了它在短期内替代传统搜索引擎的可能性:首先,由于模型训练方式的限制,数据难以实时更新;其次,单次搜索的成本过高,我们估计生成一条信息的成本约为1.3美分,这是传统搜索引擎的3-4倍;最后,统计学模型生成的内容可能混杂,用户不易识别。我们期待,通过结合传统搜索引擎,这些问题能够在技术层面上得到部分解决,而成本问题可能在短期内等待硬件成本的进一步降低。总的来说,ChatGPT的崛起将引发全球AI产业化的全面加速,以及AI生成内容时代的来临。
▍报告缘起:
ChatGPT在问答环节的表现引起了市场的关注,人们开始讨论它是否能替代传统的搜索引擎。ChatGPT是OpenAI团队最新的语言模型,于2022年11月30日发布测试,仅用了两个月的时间,其DAU(月活跃用户)就超过了1000万,MAU(月活跃用户)也突破了20万。社区用户的测试结果显示,ChatGPT能够以对话的形式回答各种日常问题,具有强大的记忆能力和篇幅扩展能力。与GPT3等大型模型相比,ChatGPT的回答更加全面,可以从多个角度和方面进行阐述,知识被挖掘得更加充分。ChatGPT在内容深度搜索中的出色表现引发了市场对它是否能替代传统搜索引擎的争议。本报告将深入分析ChatGPT及其背后的技术是否能够替代传统搜索引擎的市场,以及这对传统搜索引擎巨头带来的影响。
🤖 ChatGPT 在基础 GPT-3.5 的基础上,融合了人类反馈强化学习技术进行训练,从而提升了问题与答案生成的匹配精确度。相较于传统的搜索方式,ChatGPT 的这种创新方法明显更胜一筹。
在 OpenAI 团队的研究中,他们针对 GPT3.5 系列模型进行了微调,并采用人类反馈强化学习(RLHF)进行训练。他们在第一步中,利用人类标注师编写的约 1.2 万至 1.5 万条问答数据进行基础预训练。接着,他们将预训练好的模型(SFT)应用到新的问题列表上,生成多条回答,然后让人类标注师对这些回答进行排序。这个排序过程产生了新的奖励模型(RM)。在最后一步,OpenAI 团队将奖励模型应用到更大的数据集上,对 SFT 进行重新训练,并不断迭代以最终得到所需的模型。在整个过程中,人类反馈强化学习起到了关键作用,使得模型能够不断优化和改进,从而提高其性能和准确性。
在经过一系列的流程之后,我们得出了一个重要的结论:ChatGPT模型在问题和答案的一致性方面有了显著的提升。据Deepmind方面的数据显示,相对于传统的搜索引擎提供的相关网页链接,ChatGPT能够直接生成高质量 answers,并且还能提供相关引用链接(不过目前这个功能还没有被开发出来)。另外,对于开放性问题,ChatGPT能够通过匹配网络中的数据来生成相对完整的答案。在处理知识类和创意类的问题时,ChatGPT的表现力远超现在的传统搜索引擎。
▍ChatGPT取代传统搜索引擎:中短期可能性较低。
尽管ChatGPT能大幅优化用户的搜索体验,但要取代传统搜索引擎仍然面临几个关键技术瓶颈。
# 数据实时性挑战当前,ChatGPT的英文版数据截止到2021年,而中文版则截至2020年。数据库版本滞后的主要原因在于语言大模型的技术限制。尽管ChatGPT已经在GPT大模型上加入了标注数据训练模式,使得实时数据的引入变得困难,但若要重新预训练模型,我们需要利用1000块以上的英伟达A100显卡工作半个月至一个月的时间,这将产生百万美元以上的成本。另外,采用微调方式专门训练新知识可能会使新知识在模型内的权重过高,同时频繁的微调也可能导致模型“遗忘”旧的知识。因此,如何在保证数据实时性的同时,提高训练效率与质量,是我们面临的一大挑战。
2)数据的真实性仍不足可靠。在大量的测试后我们发现,虽然ChatGPT回答问题的准确性有所提高,但如果提出的问题较为模糊或者本身包含部分错误信息在内,模型有可能以“一本正经”的语气生成完全错误甚至凭空捏造的回答。真假答案的混杂会让用户在需要对专业性问题寻求答案时产生严重的困扰,这也是目前语言类大模型普遍存在的问题。据CSDN微信公众号报道,2022年11月几乎同一时间上线的Meta服务科研领域的语言类大模型Galactica就因为真假答案混杂的问题,测试仅仅3天就被用户投诉下线。
3)模型在线推理端成本高昂。根据模型的现有数据,我们假设每次生成的回答长度平均为50个词,使用8x英伟达A100用于推理的情况下,我们估算ChatGPT每一次生成答案的成本约为1.3美分,约为谷歌搜索引擎每次搜索成本的3倍。如果每天面对数以亿计用户的搜索请求,如此高昂的成本是公司所不能承受的,中短期内完全取代传统搜索引擎在商业模式上无法做到。
▍搜索引擎产品演变:传统搜索引擎为主+大语言模型为辅相结合。
目前ChatGPT的技术路径难以在较短时间内解决搜索成本的问题,因此从分场景限制用量的思路出发,我们认为中短期内ChatGPT可以通过部分技术改进辅助传统搜索引擎实现用户体验大幅提升。
1)考虑到ChatGPT在不同分类问题中的表现情况,限制ChatGPT搜索仅在知识类搜索场景下启用可以有效控制成本。
2)面对时效类问题时,模型自动判断转向传统搜索引擎生成答案,并通过传统搜索引擎的数据返回生成ChatGPT版本的汇总新答案。
3)针对回答真实性问题,加入对答案产生来源的引用注明给用户,让用户可以快速检验回答的可靠性。
总的来看,通过一些小技术的革新(大部分已经出现在了其他大语言模型中,只需要借鉴)就可以让ChatGPT成为一个合格的辅助搜索引擎。不过成本的问题短期内暂时看不到太好的解决方法,这也给了目前的搜索引擎巨头充足的时间以应对Chatgpt会带来的冲击。
搜索巨头如谷歌以及百度均在大语言模型上有深厚的积累,尤其是谷歌拥有与ChatGPT相似的对话类模型Sparrow以及Lamda,其部分技术更是在ChatGPT上有所突破,包括使用了多个RM模型以应对不良信息的产生以及加入了新知识迭代优化的相关思路。预计ChatGPT的成功不会给搜索产业带来颠覆性的新入局者,但会推动谷歌等搜索巨头加快迭代大语言模型辅助传统搜索引擎的新格局。
谷歌在最新一季度的财报电话交流会中表示:“谷歌将在未来几周或几个月正式推出类似ChatGPT基于大语言模型的人工智能。这种人工智能将以搜索伴侣的形式辅助其传统搜索引擎。”不过我们认为大语言模型的加入也会影响到中期谷歌等巨头的搜索业务利润空间。在平均每个用户生成50个单词的假设下,我们预计到2023年如果有10%的搜索结果由大语言模型生成,将会给谷歌每年带来约12亿美元的额外运营成本。
▍风险因素:
AI核心技术发展不及预期风险;科技领域政策监管持续收紧风险;全球宏观经济复苏不及预期风险;宏观经济波动导致欧美企业IT支出不及预期风险;全球云计算市场发展不及预期风险;企业数据泄露、信息安全风险;行业竞争持续加剧风险等。
▍投资策略:
受制于信息更新、回答准确性、算力成本等层面因素的综合约束,ChatGPT中短期内取代传统搜索引擎的概率较低,但料将加速搜索引擎产品演化进程,并在中期形成以传统搜索为主、ChatGPT类模型为辅的新搜索引擎形态,倒逼传统搜索厂商不断加大AI领域投入,同时鉴于目前全球搜索引擎的市场格局,份额较小的微软Bing最有可能率先实验大语言模型的实际应用,谷歌等头部厂商亦将大概率被动跟随。ChatGPT产生的鲶鱼效应,料将推动全球AI产业化进程的全面提速,以及AI生成内容时代的全面到来。
本文源自金融界
AI时代,拥有个人微信机器人AI助手!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!