西南财经大学（赵宇）：自然语言处理：大模型理论与实践（预览版）

自然语言处理一直是人工智能最热门的应用研究领域，对科学技术、文化 教育、经济社会的发展各个方面都具有极其重大的意义。自然语言处理的研究 一直存在两类颇不相同而又相互补足的研究方法，即：规则方法与统计方法。 规则方法追求的是对自然语言的理解，但严重受到领域的限制；统计方法恰 好相反，它所追求的是领域无限，但语言理解能力却成为短板。近年以来，以 ChatGPT 为代表的生成式预训练对话人工智能技术（即大语言模型，简称大 模型）取得了令人瞩目的进展，给基于统计方法的自然语言处理技术带来了前 所未有的进步。 本书以其独特的视角和结构，全面系统地介绍了大模型技术在自然语言处 理中的理论与实践。全书内容丰富，涵盖了语言模型的基础知识、大模型的关 键技术以及大模型的应用实践，不仅为初学者提供了详尽的入门指南，也为研 究人员和专业人士提供了深入的技术解析和实用的开发案例。本书从自然语言 处理的背景知识出发，逐步引入词向量、统计语言模型、神经语言模型和预训 练语言模型，然后详细介绍了大模型的架构、训练方法、应用及评估策略，并 通过丰富的实例和习题，帮助读者加深理解和掌握大模型技术的核心内容。特 别