AI情感助手

顶端新闻记者 张恒 “ChatGPT上线2个月活跃用户破亿” “ChatGPT让苹果急了” “马斯克曾称ChatGPT好得吓人”……ChatGPT横空出世，引起阵阵狂欢，迅速成为现象级的AI应用。 作为美国人工智能研究实验室OpenAI新推出的一种人工智能技术驱动的自然语言处理工具，ChatGPT以聊天机器人的形式上线，功能却大到惊人：它能完成撰写邮件、视频脚本、文案、翻译、代码等任务。 激进的声音认为，爆火的ChatGPT大有取代人类工作的潜力。事实确实如此吗? 是突破，但也有先期设限 人工智能上一次给人类社会带来的集体狂欢，还是围棋高手Alpha Go。作为Alpha Go的后辈，ChatGPT没有局限于单个领域，它几乎覆盖了所有领域，几乎有问必答，且内容组织得“有模有样”。 可以肯定的是，ChatGPT在AI人工智能领域，带来的影响确实具有革命性。 清华大学计算机系智能技术与系统实验室副主任、博导兼聆心智能创始人黄民烈接受顶端新闻记者采访时说：“在我看来，ChatGPT 的出现宣示着无缝人机交互时代的来临。可以在这个模型里完成很多任务，即使是很困难的任务也能被ChatGPT解决得很好。” 工信部新基建重大项目评审专家、北京邮电大学科技园元宇宙产业协同创新中心执行主任陈晓华接受顶端新闻记者采访时说，相比其他聊天机器人竞品，ChatGPT能更好地理解对话语境，并在生成文本时考虑到先前的对话内容，输出更符合语言逻辑与人类价值观的高质量文本。 陈晓华说，ChatGPT可以进行多类对话任务，包括情境建模，论文甚至诗歌，模型还新增了代码理解和生成能力，极大地拓宽了其应用场景和实用性。 但是在实际应用中，ChatGPT会限制在自身设定的“安全系统”内。它会拒绝回答不合法、不合理或敏感问题，还拒绝做出预测。有人问它有没有谈恋爱，它一本正经地回答：我只是个机器人…… 黄民烈认为，这是策略的问题，由数据标注和模型训练所致。就是当用户在问这类问题的时候，给模型设置了安全的回复策略，不要去做任何判断，这也是人赋予它的一种策略。从这个角度来说，其实它存在一定局限，这是出于伦理、安全性方面的考虑。 数据滞后、会出错，并非标准产品 ChatGPT也存在一些缺陷，比如在媒体试验中，它把今日头条的创立者表述成王兴;被要求写一首杜甫风格的诗时，生成了朴实的打油诗。ChatGPT在接受媒体“采访”时直言，其自身“缺乏创造力、不能体现个人情感、容易存在误导性”。 事实上，AI如何发挥潜能，还是取决于人类输入的数据库。ChatGPT的“知识结构”也具有滞后性。 Google 总部前科学家、“出门问问”创始人李志飞接受媒体采访时说，ChatGPT的“认知”建立在虚拟训练文本上，学习生涯停留在了2021年之前的互联网离线文本，没有跟实时的数据库或信息连接，没有语义理解需要的背景，也没有显式的逻辑推理。总体还是有点空中楼阁的味道，无法实时调用外部网络资源，因此很多最新的问题是无法得到解答的。 顶端新闻记者的采访也证实了这一点，ChatGPT自称：“我的知识截止到2021年，因此无法报告当下的实时热点事件。” 黄民烈认为，ChatGPT展现出的对话能力惊人，但还只是Demo，不能用产品的标准去要求它。作为生成模型，都会存在犯错、随机编造等缺点，这需要靠数据和算法，包括结合应用场景的特点来优化。 警惕新技术带来的风险 公众已经意识到ChatGPT的风险因素。据报道，美国89%的大学生用ChatGPT做作业，引起社会担忧，进而多家学术期刊禁止将ChatGPT列为合著者。甚至有人担心，ChatGPT已经被黑客们用于策划网络攻击时使用。 陈晓华告诉顶端新闻记者，正是因为更加先进，ChatGPT带来风险的程度和广度也随之增高。受限于模型的学习资料，ChatGPT并不能保证其答案的准确性，因此有可能会对使用者进行误导。若之后使用在搜索引擎、客服等领域，其回复的信息真实性将可能导致法律风险。其次文本/图像数据挖掘再创作涉及到合规问题，AI生产内容是否侵权很难进行判定。 当地时间2月6日，据《福布斯》报道，比尔·盖茨在接受专访时表示，聊天机器人ChatGPT以及AI领域的进展令人激动，AI将是“2023年最热门的话题”。 盖茨认为，在教育、医疗等方面，AI都将彰显其价值。但是，它可能会失控或走向错误的方向，这将引来大量争议。 之前的当地时间2月5日，OpenAI的首席技术官Mira Murati在接受《时代周刊》采访时表示，ChatGPT面临的核心挑战仍是“模型偏差”。与所有的大型语言模型相似，它可能会以一种非常自信的方式编造事实。 Mira Murati认为，对于人工智能，关键的问题在于如何以符合人类价值观的方式管理其使用。因此，需要监管机构进行介入，以防止ChatGPT等生成式AI系统对社会产生潜在负面影响。 这些负面影响也在逐渐被讨论，如伦理方面，是否存在编造事实、民族歧视、侵犯隐私等问题，应由谁来担责;专业学术方面，该AI工具能提供快速简便的答案，但它并不能培养批判性思维和解决问题的能力;数据安全方面，其涉及数据泄露、删除权、语料库获取合规等问题。 陈晓华告诉顶端新闻记者，当前我国国家层面的AI立法正处于预研究阶段，因此对AI领域的监管并不完善，这对数字治理体系提出了新的挑战，如何在国内进行技术落地的初期同时保证其落实伦理规范，是目前AIGC发展的新难点。 商业化模式仍在探索 AI领域正在打响一场争夺战。ChatGPT爆火后，谷歌宣布即将推出聊天机器人Bard，迎战ChatGPT。北京时间2月8日凌晨，微软又宣布将OpenAI传闻已久的GPT-4模型集成到Bing及Edge浏览器中。 “目前微软计划在Bing中所使用的，并不是 ChatGPT本身。根据微软描述，其所使用的模型利用了从ChatGPT和GPT-3.5中获得的主要经验和进展。”Forrester分析师卢冠男接受顶端新闻记者采访时说。 无论如何，ChatGPT引发了搜索引擎江湖的突破，压力逐渐给到谷歌、百度等公司。 黄民烈告诉顶端新闻记者，国内目前还没有企业推出类似ChatGPT这种通用型的智能助理模型，但有企业在做，应该会在近期发布。 黄民烈所说的公司就是百度。据百度官方2月7日官宣，百度正式对外官宣类ChatGPT项目——“文心一言”(ERNIE Bot)，该产品目前正在做上线前的冲刺，将于三月份完成内测，面向公众开放。 “在开放域对话方面，百度推出了ERNIE 、PLATO等模型，我们团队有EVA、OPD等模型。在通用语言模型上，国内有GLM、CPM等。”黄民烈说。...