ChaMD5安全团队：2025年大型语言模型 (LLM) 安全风险、案例与防御策略研究报告

本文是ChaMD5安全团队AI组关于大型语言模型（LLM）安全风险、案例与防御策略的研究报告。报告首先介绍了LLM安全格局，指出LLM的广泛应用带来了新的安全风险，如提示注入、敏感信息泄露、供应链漏洞等。报告引用了OWASP LLM Top 10（2025版）详细解释了这些核心风险，并通过真实案例研究，如数据投毒和供应链攻击，展示了这些风险的实际影响。报告还介绍了用于LLM应用开发和防御的关键框架与工具，如LangChain、Rebuff AI和Garak，并进行了比较。最后，报告提出了建议和未来展望，强调需要持续关注LLM安全领域的新趋势，并采取多层次的防御策略。