国际清算银行：管理解释：监管机构如何应对人工智能可解释性问题

金融机构越来越多地采用人工智能（AI）正在改变其运营、风险管理和客户互动方式。然而，复杂AI模型的有限可解 释性，特别是在用于关键业务应用时，对金融机构和监管机构构成了重大挑战和问题。可解释性，即模型输出向人类 解释的程度，对于透明度、问责制、监管合规性和消费者信任至关重要。然而，深度学习和大语言模型（LLM）等复 杂AI模型通常难以解释。虽然现有的可解释性技术可以帮助揭示复杂AI模型的行为，但这些技术存在显著局限性，包 括不准确性、不稳定性以及对误导性解释的易感性。