天融信：2025年大模型组件漏洞与应用威胁安全研究报告

本文主要介绍了大模型在部署和使用过程中可能遇到的安全风险，并提出了相应的缓解措施。文章首先概述了大模型的定义、特点和应用场景，然后详细介绍了大模型在训练、推理优化部署、应用框架、其他相关工具以及使用阶段可能遇到的安全漏洞，包括训练工具漏洞、推理优化部署漏洞、应用框架漏洞、工作流扩展工具漏洞、数据及特征工具漏洞、开发及实验环境漏洞、模型越狱、模型数据泄漏、Prompt 泄露与注入漏洞等。最后，文章总结了全文的主要观点，并分享了针对个人部署大模型的实用安全建议。