文章标签:ChatGPT, AI, 写作, 依赖
本文来自微信公众号：爱范儿 （ID：ifanr），作者：Naomi S·Baron，头图来自：《机器人总动员》
ChatGPT 的盛行全球，使得越来越多的人将其融入到了工作和学习中，然而，依赖 AI 的辅助也带来了潜在的风险。Naomi S·Baron，一位知名的美国语言学名誉教授，对此表达了她的担忧。
下面是全文编译，原文地址：How ChatGPT robs students of motivation to write and think for themselves
当 OpenAI 于2022年底推出其最新的人工智能助手 ChatGPT 时，教育工作者们纷纷表达了担忧。这个强大的工具能够生成看似真实的人类文字，这使得老师们在评估学生的写作作业时面临着一个全新的挑战——如何分辨出哪些文字是由AI聊天机器人生成的作弊行为呢？
作为一名研究技术对人们阅读、写作和思考有何种影响的语言学家，我认为除了作弊，还有别的问题亟待解决。包括 AI 是否更普遍威胁到了学生的写作技巧、将写作视为一个过程以及将写作视为思考工具的重要性。
在我的新书 (Who Wrote This? How AI and the Lure of Efficiency Threaten Human Writing) 关于人工智能对人类写作影响方面的研究中，我调查了美国和欧洲的年青人与这些影响相关的问题。
在他们的报告中，他们详细阐述了自己对于AI工具可能削弱他们作为作者身份的担忧。实际上，正如我在书中所提到的，这些担忧并非一夜之间产生的。
用户觉察出了副作用
像 ChatGPT 这样的 AI 工具，只是在编辑或生成文本领域的最新成果。然而事实上，AI 对破坏写作技能和创作动力的潜在威胁已经存在了几十年。
拼写检查，以及广为人知的基于 AI 驱动的语法/风格纠正应用，如 Grammarly（一款语法修正软件）和微软编辑器等被广泛应用的编辑工具。
图片来自：Grammarly
除了纠正拼写和标点符号，它们还能识别语法问题，并给出修改建议。
而 AI 文本生成方面的发展，则包括在线搜索自动填入和预测性的文字输入。
在 Google 搜索框中输入“Was Rome”，你会得到一个选择列表，其中显示“罗马是否一日建成 (Was Rome built in a day)”。
在短信应用中输入“Ple”，你将获得“Please”和“Plenty”两个选项。这些外部工具不期而然地融入到我们的写作过程中，且要求我们遵循它们的建议。
调查过程中，年轻受访者采用 AI 协助进行拼写和单词补全，但他们也提到了一些负面影响。其中一位受访者说：“如果你过于依赖预测性文字工具，那么你迟早会失去你的拼写能力。”
另一个人观察到，“拼写检查和 AI 软件……可以为那些想要走捷径的人所用。”
一位受访者在谈到依赖预测性文字输入时提到了“懒惰”一词：“当我想偷懒的时候，我觉得这很好用。”
个人表达变少了
AI工具可能对个人的写作风格产生一定影响。一位受访者表示，在采用预测性文本输入的情况下，他觉得那并非自己创作的成果。
英国一名高中生在描述 Grammarly 时也提出了同样的担忧：
Grammarly可能对学生的艺术表达能力产生负面影响。其过于严格的修改方式可能会削弱学生的个性化的写作风格。
相同的，哲学家 Evan Selinger 担心预测性文本输入会降低书面语言活跃思维和表达个性的力量。
在现代社会中，我们常常被教导要谨慎言辞，而预测技术正在悄无声息地改变我们的交流模式。Selinger在其著作中指出，我们所传达的更多的是算法的 outcome，而不是我们真实的内心想法。自动化可能会阻碍我们深入思考的过程。随着科技的进步，人们越来越依赖预测技术来帮助我们做出决策和解决问题。然而，这种过度依赖可能会导致我们失去对自己思维过程的理解。我们可能不再意识到自己的言论是由算法生成的，而是习惯性地接受这些预测结果，从而限制了我们的思考空间。此外，自动化可能会让我们陷入一种“确认偏见”的危险之中。我们会更加倾向于寻找符合自己观点的信息，而忽视那些与自己观点相悖的数据。这种现象不仅会影响我们的决策过程，还可能导致社会上的分裂和误解。总之，虽然预测技术为我们带来了很多便利，但我们也需要警惕其潜在的风险。我们应该保持思考的能力，避免完全依赖自动化来做出决策，以确保我们的思维能够自由发展。同时，我们也应该保持开放的心态，愿意接受不同的观点和信息，以便更好地理解世界和自己。
在文化社会中，写作一直以来都被认为能帮助人们思考。
众多知名作家，如 Flannery OConnor、William Faulkner 和 Joan Didion，都曾表达了这样的观点：“当我读到我所写下的文字时，我才意识到自己真正想要表达的是什么。”这种对于思考与创作的深刻体验，是 AI 辅助写作所无法给予我们的。因此，在追求文学创作的道路上，我们需要保持思考与实践的平衡，以便更好地理解自己的内心世界，并将其表达出来。
使用 ChatGPT 等程序的一个可怕后果是：文本语法准确无误，完美无瑕。事实证明，没有错误是 AI 而不是人类撰写文字的标志，因为即便是经验丰富的作家和编辑也会犯错。真人写作是一个过程：这个过程包括我们质疑最初所写的内容，继而修改或重头来过。
学校面临的挑战
在完成学校写作作业时，理想情况下，教师和学生之间应该会有不间断的对话：过程包括讨论学生想要写什么、分享并讨论起稿内容，接下来学生继续思考、打磨。
不过以上做法通常并不会发生，因为大多数老师没有时间填补协同编辑与教育角色之间的空缺。在此之余，他们也可能缺乏兴趣或必要的技能，或两者皆无。
认真负责的学生有时会自己承担过程中的某些方面，就如专业作者那样。但长期依赖于 Grammarly、ChatGPT 一类文本生成工具，往往会使人太容易用现成技术结果，去替代思考和学习的机会。
教育工作者集思广益，思考着如何充分利用人工智能写作技术。
一些人指出 AI 有潜力带动思考或进行协作。在 ChatGPT 出现之前，同样基于 GPT-3 的早期版本已被商业企业（例如Sudowrite，一款可以帮人撰写腹稿的软件）授权使用。用户可以输入短语或句子，然后要求软件去填补更多单词，从而刺激人类作家的创作灵感。
逐渐消失的所有权
然而合作与侵犯之间仅一线之隔。
作者 Jennifer Lepp 承认道，她越来越多依赖 Sudowrite，写出来的文字“不再像是我的东西”，回看我写的内容，文字和我的想法之间没有太多联系，这让我感到不适。
比起经验丰富的作家，学生就更难区分出“写作辅助”和“让 AI 接管他们的内容和风格”之间的界限。
图片来自：SEO.ai
随着技术更加强大和普及，我预估学校未来会跟学生普及生成式 AI 的优缺点知识。然而依靠 AI 润色写作，或用它完成大部分写作工作所带来的效率提升，人类很难抵挡住这种诱惑。
拼写检查、语法检查和自动填词软件已经铺平了道路。
作为人类的写作过程
我向 ChatGPT 发问，“你对人类的写作动力而言，算是一种威胁吗？”
它的回答是：“总会有需要创意、原创的内容，要用到真人独特的视角和洞察力。”
它继续说道：“‘写作’除了创造内容，还有很多其他目的，比如自我表达、交流和个人成长，即使某些类型的写作可以被自动化处理，那些目标依旧可以鼓励人们进行写作。”
看到软件似乎承认了自己存在局限性，我感到振奋。
我希望教育工作者和学生们也能这样做，制定写作作业的目的，不仅仅是为了打分，写作本是一次旅程，而非结果导向的任务。
本文来自微信公众号：爱范儿 （ID：ifanr），作者：Naomi S·Baron
ChatGPT, AI, 写作, 依赖
