文章主题：文化心理, 历史文本分析, CCR方法
北大团队构建情境化构念表征框架，用AI大模型感知已逝去的心灵
历史学和考古学的目的，是重现已消逝的生活。而历史文本，则是心理学家眼中的“遗迹”和“化石”。
🌟🎓历史学者陈钰琪，与国际知名学府哈佛的量化社科深度合作，致力于探索人工智能如何在海量历史文献中捕捉并解读那些永恒的灵魂轨迹。他们的研究目标，是通过AI技术，对过去的情感与思想进行深度解析和再现，让历史的脉络更加生动鲜活。🌟
图 | 陈钰琪（来源：陈钰琪）
🌟文化演变的深度探索🔍：历史长河中的心理与文化交织
然而，问卷调查等科学实验方法在面对已逝去的心灵时没有用武之地，研究者们因历史无法重现而束手无策。
🌟自然语言处理（🔥NLP🔥）与文本量化分析的革新，正在开启一场科研的新篇章，为深度探索提供了无限想象空间。🚀不论是深入解析海量数据，还是精准解读复杂语境，这些技术都在助力我们揭示隐藏在文字背后的真相。🔍
🎨陈钰琪团队匠心独运，推出革新性理论——”情境化构念表征”（CCR），🔥专为解析历史文本中饱含情境色彩的心理构建，例如集体信念、古老价值观与社会规则的深度内涵。他们的研究工具，犹如一把锐利的思想剖析仪，深入挖掘每一段历史背后的隐形心理脉络。🌍通过这个框架，我们能更精准地理解和解读那些跨越时空的语言密码，让历史的智慧在当代熠熠生辉。欲了解更多，敬请关注相关领域的学术动态。📚✨
（来源：arXiv）
🚀掌握了Transformer技术的CCR（心理评估工具），它不仅运用心理学量表的深度，还能将文本信息转化为精炼的嵌入。然后，通过巧妙的相似性比对，CCR能精确地计算出文本在其对应主题上的’情感载荷分数’，这是一种无与伦比的心理分析方式。👩💻无需透露个人信息，让数据说话，CCR以专业和精准，引领心理学的未来评估潮流。SEO优化提示：#Transformer心理测量 #情感载荷分数 #CCR评估工具
🌟陈钰琪团队深入研究，对比了CCR、DDR与基于大模型小样本提示三大心理学术语，通过在严谨的测试集上实操，对它们在各类智能任务中的性能进行了详尽评估。🚀他们聚焦于方法的实际效果，而非个人或机构标识，展示了这些理论在不同模型上的独特表现和优劣。📚若想了解更多关于这三项技术的深入解析，敬请关注相关领域的权威研究。🏆
（来源：arXiv）
通过使用微调之后的模型，他们发现 CCR 方法在所有任务上的表现，均超过了传统的 DDR 方法，并在大部分任务上也超过了使用 GPT-4（gpt-4-turbo-0125-preview 版本）的小样本提示方法。
（来源：arXiv）
此外，他们也在由人工标注的真实历史数据集上，验证了 CCR 方法的可靠性。比如，通过 CCR 方法测量北宋时期不同官员所撰写文章中传统主义的心理指标分数，可以有效推测该官员是否在王安石新政中支持变法。
总的来说，该方法可以帮助心理学家、历史学家以及任何对古代文化演变感兴趣的研究人员，在相对较低的计算资源耗费下，针对不同的心理学构念或文化主题，对古代历史文本进行大规模的测量和分析，进而验证假说，揭示现代文化现象的历史根源。
研究中，他们面临的第一个问题是，受到广泛认可的心理学量表绝大多数是英文的，因此需要先将英文量表与中国古代文言文进行对齐，才能进行下一步测量。
直接将英文翻译为文言文可能是不妥当的，因为在相关语境差异巨大的情况下，很多词汇难以找到合适的表达，由人工生造的句子往往显得生硬。
为了解决这个问题，他们采用了清华大学孙茂松教授课题组之前的方法，使用多语言的引文推荐模型，将与量表中的英文句子语义相似度高的文言文引文放入备选池。
并进一步通过手工筛选去除噪音，得到与英文量表对应的文言文量表。这些引文均来自于实际历史文本，而非翻译或人工生成，因此自然而然地符合文言文的语境。
接下来的第二个问题是，要从中国古代历史文本得到准确的文本嵌入需要合适的模型。目前，已有许多在文言文语料上预训练的 Transformer 模型，但没有针对语义相似度或心理测量这一特殊下游任务的模型。
针对语义相似度等任务进行训练的中文文本嵌入模型，则往往基于现代语料和数据集，因此并不适应于专门的心理测量任务。
而他们所需要的文本嵌入模型，要能够对文言文、尤其是文言文中的心理构念及其上下文情境进行准确的表征，只有这样才能胜任从道德价值判断的角度进行语义相似度计算的任务。
（来源：arXiv）
为了解决这一问题，他们提出一种基于间接监督和对比学习的训练方法。
由于相关领域数据的缺乏，他们通过手工搜集的方式，构建了第一个中文历史心理学语料库（C-HI-PSY，Chinese Historical Psychology Corpus），该语料库包括 667 个与心理或道德相关主题下的 21539 条文言文段落。
然后，他们通过在更大规模文言文语料上训练的词向量模型，获取了不同主题的词向量表示，借此计算不同主题词向量之间的相似度，并将之作为不同主题所对应文本之间心理语义层面相似度的伪真值。
后又通过随机采样或困难采样等不同的采样方式，为 C-HI-PSY 训练集中的每一个段落，采集 n 个相似度伪真值高的正样本、以及相似度伪真值低的负样本，借此构成 anchor-positive-negative 三元组，从而利用三元组损失函数对模型进行微调。
接着，他们在多个针对文言文或中文的 Transformer 模型上，根据不同的超参数组合进行实验，在 C-HI-PSY 验证集和测试集上分别进行语义相似度任务的评估。结果发现，所有模型在微调后的表现都有显著提高。
（来源：arXiv）
最终，相关论文以《审视死去的心灵：文言文语境化构念表征的历史心理文本分析》（Surveying the Dead Minds: Historical-Psychological Text Analysis with Contextualized Construct Representation (CCR) for Classical Chinese ）为题发在 arXiv[1]。
陈钰琪是第一作者，小蝇科技 AI Lab 研究员李思璇是第二作者，北京大学计算物理博士生黎颖是第三作者，美国马萨诸塞大学阿默斯特分校心理与脑科学系助理教授穆罕默德·阿塔利（Mohammad Atari）担任通讯作者。
图 | 相关论文（来源：arXiv）
陈钰琪表示：“多元化的背景是他们得以完成这样跨学科的研究工作的重要因素之一。”
论文的前三位作者均为女性，在合作过程中大家的关系非常融洽。陈钰琪说：“我们相信女性的力量，也相信女性的细腻、耐心的特质会为研究增色。
比如，第三作者黎颖曾参加过微软亚洲研究院举办的面向女生的 Ada Workshop，接触到了科技领域很多令人敬佩的女性榜样，这让她很受鼓舞。”
通过使用 CCR 方法，他们与哈佛大学团队合作，在上万本古籍中首次测量了集体主义、个人主义、忠诚、荣誉等十几个作为文化心理和道德基础的指标，在跨越数千年的中国历史上的历时演变及其空间分布，借此尝试揭示东西方文化心理差异的根源。相关文章也即将发布预印本。
另据悉，陈钰琪本硕博阶段均在北大历史学系接受最传统的人文学科训练。对她来说，跨界研究 AI 模型原本是难以想象的事情。
博士阶段，因研究面临浩如烟海的考古材料，她开始寻找大规模分析的方法，由此接触到量化研究和数字人文领域，新世界的大门开始对她打开。
起初她也曾有过较为漫长的艰难探索阶段，从最基础的线性代数开始补习数学，通过 Coursera 学习编程，从参与数据标注到独立设计数据库，从调用模型到训练模型，种种曲折，不一而足。
“期间受到了很多人的帮助，也非常感激我的博士导师在对待我的‘不务正业’时的开放胸怀。到现在，我已经在 GitHub 上开发了包括 OCR 文字识别、异体字转换、历史地理编码器等多个面向人文学者的开源项目。”她说。
一路走来，计算机和相关领域的开源精神使她受益匪浅，跨学科研究的经历则让她深信：古老的学科也可以拥抱崭新的技术，新的技术属于所有人。
参考资料：
1.https://arxiv.org/abs/2403.00509
排版：希幔返回搜狐，查看更多
责任编辑：
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
