蚂蚁集团：2024年大模型行业可信应用框架研究报告

以大模型为代表的新一代人工智能技术变革仍在加速迭代，为“新质生产力”的发展注入强劲动力，助力产业智能化升级和经济发展。大模型在产业端已经开始在任务简单、容错率高的场景得到广泛地使用，例如智能客服、文案生成等场景，但是在医疗疾病诊断、金融投资理财等任务复杂度高、容错率低的场景，大模型的规模化落地仍然遇到不少阻碍。为进一步释放以大模型为核心的人工智能新技术范式生产力，需要解决大模型的“可信应用”问题，支撑大模型在金融、医疗、政务等专业领域的深化应用。为此本报告提出了面向专业领域的大模型可信应用框架，即大模型为核心的智能系统在面向金融、医疗、政务等专业领域的应用中，为确保应用的专业性、可控性、真实性和安全性，应当如何构建系统的技术架构和体系。