跳转到内容

可解释性

来自VeritasWiki 真理百科

可解释性(英文 explainability,也与 interpretability 相关联)在人工智能伦理与治理语境下,指人工智能系统的决策依据与运行逻辑能够以人可理解、可核查的方式加以说明的性质。作为一种原则与要求,它关心的是"受影响者、使用者与监管者能否理解系统为何作出某个判断、其能力与边界何在",并把这种理解转化为说明理由、申诉质疑与审计追责的现实可能。可解释性被经济合作与发展组织、联合国教科文组织、欧盟和中国等多份规范性文件列为可信或负责任人工智能的关键要素:欧盟《可信人工智能伦理指南》把它纳入"透明度"要求,中国《新一代人工智能伦理规范》要求逐步实现"可解释、可理解、可验证、可审核",欧盟《人工智能法案》则以第13条等条款把高风险系统的可解释性写为法定义务。需要说明,本词条侧重可解释性作为原则、权利与合规要求的层面;其具体技术方法——如事后归因与内在可解释模型——另见"可解释AI"词条。

概念与内涵

可解释性之所以成为问题,源于高性能模型普遍存在的"黑箱"特性:深度神经网络、集成模型在图像、文本与表格任务上取得很高精度,但其内部由海量参数与非线性叠加构成,难以直接读出某个具体输出的来由。当系统用于信贷审批、履历筛选、医疗辅助诊断或司法风险评估时,仅凭整体准确率并不足以判断某个具体判断是否应当被采信,也无法回答"为什么是我被拒贷"。

作为原则,可解释性至少包含几层要求。其一是可理解性,即说明应当适配目标受众——面向普通用户用通俗语言,面向专家给出技术细节,面向监管者提供完整记录。其二是忠实性,即解释必须如实反映系统的真实计算过程,而非事后编造一套看似合理的说辞。其三是可获得性,即解释须在合理时间内、以可访问的形式提供给有权得到它的人。其四是可质疑性,即解释应支持受影响者提出异议并寻求救济。这几层要求共同把可解释性从"锦上添花的技术特性"提升为"可被主张与审查的制度性保障"。

与相关概念的关系

可解释性常与透明度、可审计性并提,但三者各有侧重。透明度强调信息披露的广度——系统是否存在、用了什么数据、遵循何种规则;可解释性强调对具体决策依据的说明深度;可审计性强调第三方能否系统性地检验与复核。三者构成递进关系:透明是前提,解释是核心,审计是保障。

还需区分"可解释性作为要求"与"可解释AI作为技术"。前者规定应当达到的目标(谁能得到何种解释、何时得到、用于何种目的),后者研究达成目标的方法(如事后归因、内在可解释模型、反事实说明)。用户要求层面先于技术层面:只有明确了"解释给谁、解释什么、为何解释",才能判断某项技术是否合格。这一区分也解释了为什么一个技术上能生成归因热力图的系统,仍可能被认定为不满足合规要求——若热力图面向普通用户不可理解,或未提供申诉渠道,便没有兑现原则所承诺的保障。

伦理与国际规范背景

国际软法最早系统提出可解释性要求。欧盟委员会人工智能高级专家组于2019年4月8日发布《可信人工智能伦理指南》,提出可信AI应合法、合乎伦理、稳健,并列出七项关键要求,其中"透明度"一项明确要求数据、系统与商业模式透明、具备可追溯机制,并要求"以适配相关方的方式解释AI系统及其决策",使人们知道自己在与AI交互并了解其能力与局限。该指南另附评估清单,2020年7月又发布可操作的自评工具ALTAI。

经济合作与发展组织与联合国教科文组织的文件同样把透明与可解释列为共同原则。中国国家新一代人工智能治理专业委员会于2021年9月25日发布《新一代人工智能伦理规范》,在第十二条"增强安全透明"中要求在算法设计、实现、应用等环节提升透明性、可解释性、可理解性、可靠性、可控性,逐步实现可验证、可审核、可监督、可追溯、可预测、可信赖;并要求在产品与服务中使用AI技术时明确告知用户、标识功能与局限。这些文件的共同点是:可解释性不是单一技术指标,而是一组贯穿系统全生命周期、与人类监督和问责相互支撑的要求。

法规层面的要求

在实定法层面,可解释性主要以"解释权"与"说明义务"的形式出现。欧盟《通用数据保护条例》第15条赋予数据主体访问权,要求在自动化决策情形下提供关于所涉逻辑的有意义信息,司法实践进一步确认了某种"解释权"的存在。中国《个人信息保护法》第二十四条亦规定,个人信息处理者利用个人信息进行自动化决策,应当保证决策的透明度和结果公平、公正,并通过自动化决策方式作出对个人权益有重大影响的决定时,个人有权要求说明并有权拒绝仅通过自动化决策方式作出决定。

中国《互联网信息服务算法推荐管理规定》第十二条鼓励优化检索、排序、选择、推送、展示等规则的透明度和可解释性,以避免对用户产生不良影响、预防和减少争议纠纷;第十七条要求在算法对用户权益造成重大影响时依法予以说明并承担相应责任。欧盟《人工智能法案》第13条要求高风险AI系统的设计与开发须使其运行足够透明,以便部署者解读输出并适当使用,并须附有简明、完整、正确、清晰、对部署者相关且可理解的使用说明;第14条进一步要求系统能被自然人有效监督,包括配备便于部署者解读输出的技术措施。这些条款把抽象的"应当可解释"转写为可检查、可追责的具体义务。

技术方法与评价维度

满足上述要求依赖一组技术方法。事后归因方法在不改动模型的前提下为单个预测生成解释,代表性方法包括LIME与SHAP——前者在样本附近用简单模型近似黑箱,后者以博弈论中的Shapley值把预测偏离分解为各特征的贡献;此外还有基于梯度的积分梯度、以"若某特征改变结果会如何"呈现的反事实解释,以及用显著性图、注意力权重显示模型"关注何处"的可视化方法。另一条路线主张在高风险场景直接采用结构透明、可内在解释的模型,以避免事后解释与真实计算脱节。这些方法各有适用条件,选择何种方法取决于场景风险、受众与技术可行性。

评价解释是否合格通常围绕几条轴线。忠实度检验删除或扰动被解释为重要的特征后,输出是否确实相应改变;稳定性关注相近输入或重复运行是否给出一致解释;可理解性关注目标受众能否据此形成正确判断;完备性与一致性关注解释是否覆盖关键依据、不同方法是否给出相互冲突的排序。由于解释往往没有客观的"标准答案",实践中还常用删除/保留曲线、公理化检验与针对已知捷径特征的对照实验等间接手段。这些评价维度把"解释得好不好"从主观印象变为可检验的问题。

局限与争议

首要争议是解释与因果的混淆。特征归因回答的是"模型使用了什么",而非"现实中什么导致了结果",把相关性解释当作因果说明可能误导决策。其次是忠实性风险:事后解释可能被设计得看似合理却与模型真实计算无关,甚至掩盖歧视性逻辑。正因如此,有学者主张在高风险决策中放弃"黑箱加事后解释"的组合,改用内在可解释模型。

第三是权利与商业秘密的张力。GDPR与欧盟AI法案的相关制度均无意为商业秘密提供一概拒绝说明的借口,但如何在保护知识产权与保障解释权之间划线,仍是司法与监管中的难题。第四是要求的边界:更细粒度的解释可能泄露训练数据或模型细节,与隐私和安全冲突;面向普通用户的简化解释可能牺牲准确性,面向专家的完整解释又超出常人理解能力。此外,"解释"是否真的提升了人们的判断质量、是否诱发对自动化建议的过度信任,也存在争议。因此较稳妥的立场是把可解释性视为一组带适用条件的制度与技术要求:在低风险场景优先采用内在可解释方案,在高风险场景把解释与人工复核、审计追责配套,并始终检验解释的忠实性与可理解性。

参见

  • 可解释AI
  • 透明度
  • 问责制
  • 自主性
  • AI治理
  • 算法偏见

参考资料

  1. 欧盟委员会人工智能高级专家组. Ethics guidelines for trustworthy AI. European Commission, 2019-04-08.
  2. 国家新一代人工智能治理专业委员会. 《新一代人工智能伦理规范》发布. 中华人民共和国科学技术部, 2021-09-25.
  3. 欧盟人工智能法案网站. Article 13: Transparency and provision of information to deployers. EU Artificial Intelligence Act.
  4. 国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局. 互联网信息服务算法推荐管理规定. 中国网信网, 2022-01-04.
  5. 欧洲议会、欧洲理事会. Regulation (EU) 2016/679 第15条:数据主体访问权. GDPR-info.
  6. 中国法院网. 欧盟《人工智能法》的规则与创新. 中国法院网, 2025-06.