LAKERA：2024年生成式AI安全准备报告

生成式人工智能（GenAI）和大型语言模型（LLM）的快速采用正在改变行业，近90%的组织正在积极实施或探索LL M用例。然而，这种采用浪潮与当前安全措施的置信度极低形成鲜明对比——只有大约5%的组织对其生成式人工智 能安全框架表示高度置信。 这份报告基于对1000多名安全专业人士的调查，以及来自Lakera AI黑客游戏Gandalf的实地发现，揭示安全风险可能 被低估。Gandalf是世界上最大的AI红队演练，已吸引了超过一百万用户参与，包括网络安全专家，以发现漏洞。值 得注意的是，超过20万名玩家成功完成了Gandalf七级防御，展示了AI系统多么容易被利用。这些发现与调查见解相 互印证，突显了制定强大的、针对AI的安全策略以应对GenAI带来的独特挑战的紧迫性。