上海人工智能实验室&安远AI：2025年前沿人工智能风险管理框架报告

当前人工智能（AI）技术正以前所未有的速度取得突破性进展，各类系统在众多领域已达到或超越 人类水平。这些突破性进展为我们解决人类面临的重大挑战提供了历史机遇——从推动科学发现、 提升医疗质量和人的健康福祉，到促进经济生产力的提升。但与此同时，快速发展的技术也带来了 前所未有的风险。随着先进人工智能的研发与部署速度超越了关键安全措施的发展速度，建立完善 的风险管理机制已成为全球科技发展的当务之急。 作为我国人工智能领域的新型科研机构，上海人工智能实验室致力于打造“突破型、引领型、平台 型”一体化的大型综合性研究基地，推动人工智能技术的安全有益发展。为积极应对技术发展带来 的挑战，推动全球在人工智能安全领域的良性竞争，实验室提出了AI-°平衡律 1，作为实现可信AGI 的发展路线图。