CSA GCR云安全联盟：2024年大语言模型威胁分类报告

在人工智能技术迅速发展的背景下，大语言模型(LLM)已成为推动技术创新和业务转型的核心力量。其在自然语言理解、生成与处理方面的强大能力，正深刻改变着人与信息、技术的互动方式。然而，随着 LLM 应用的广泛推广，伴随而来的是一系列复杂的风险和挑战，尤其是在安全性、隐私保护和合规性方面，全球范围内的应对压力愈加凸显。

为应对这些挑战，CSA大中华区发布《大语言模型威胁分类》报告，旨在为行业提供一个全面的风险管理框架，帮助各行业识别、评估和管理 LLM 应用过程中可能遇到的风险。本报告详尽地分析了LM 的关键资产、服务生命周期、影响类别和威胁类别,为政策制定者、技术专家和行业决策者提供了一个清晰的理解和应对 LLM相关风险的框架。报告的主要内容包括 LM 资产的分类，详细描述了从数据资产到模型参数的各个方面:LLM 服务生命周期的管理，涵盖了从准备到退役的各个阶段;以及 LM 服务的影响和威胁类别，包括数据泄露、型操纵、供应链安全等关键领域。