问责制
问责制(英文 accountability)在人工智能与算法治理语境下,指确保AI系统的开发者、提供者、部署者与使用者对其系统及后果承担责任的一整套机制,包括责任主体的清晰划分、决策过程的可追溯与可审计、损害发生后的追责与救济,以及支撑这些安排的组织与制度框架。如果说透明度解决"看得见"、可解释性解决"说得清",问责制解决的是"向谁追究、如何负责"。它被视为可信人工智能的核心支柱:联合国教科文组织《人工智能伦理问题建议书》要求建立监督、影响评估、审计与尽职调查机制,并明确最终责任与问责应保留在自然人或法人;经济合作与发展组织《人工智能理事会建议》把问责列为五项原则之一,要求AI行为体依其角色与情境对系统结果负责。问责制之所以关键,是因为AI系统在造成伤害后往往难以追溯到某个具体环节,"很多主体参与、却没有主体负责"的责任扩散,正是治理需要防范的核心风险。
概念与内涵
问责制通常包含两个相互关联的维度。"回答义务"(answerability)维度要求责任主体能够说明自己的决定与行为:为何采用某个系统、依据什么数据、如何评估结果、出现问题后如何处理。"强制实施"(enforceability)维度则要求这种说明能够带来实际后果——监管机构可以检查与处罚,受影响者可以申诉并获得救济,失责者会被追究。只有前者而无后者,问责容易退化为形式化的报告义务;只有后者而无前者,追责又缺乏可追溯的证据基础。
问责与责任(liability)、义务(responsibility)等概念既有联系又有区别。责任更多指向法律上的赔偿与制裁,义务指向应当履行的职责,而问责涵盖两者并扩展到组织治理、审计监督与公众交代。在AI场景中,一个常被强调的原则是"责任不能转移给系统":AI系统不是法律主体,不能成为被追责的对象,最终的道德与法律责任必须由人或组织承担。这一原则构成各国治理框架的共同底座。
责任主体的划分
AI价值链涉及多个主体,问责的第一步是把责任分配到具体角色。欧盟《人工智能法案》对开发者、提供者、部署者等角色分别设定义务:开发者对算法设计与训练过程负责,提供者对系统符合安全与质量要求负责,部署者须按使用说明正确使用并承担相应责任。中国法院网的相关分析指出,该法案在研发、提供、使用各阶段分别界定责任,并建立赔偿机制以确保受害者获得救济。
不同主体的责任重点不同。提供者通常承担事前义务——数据合法、模型安全、文档齐备、风险评估;部署者承担事中义务——按场景正确使用、配备人工监督、监测运行状况;使用者承担遵守规则与如实反馈的义务;监管者、审计机构与第三方评估者则承担监督与验证的职能。明确划分并不意味着责任可以相互推诿:当多个主体共同导致损害时,如何确定各自份额、是否存在连带责任,仍是法律实践中的难题。
中国的规范也体现了主体责任思路。《互联网信息服务算法推荐管理规定》第七条要求算法推荐服务提供者落实算法安全主体责任,建立健全算法机制机理审核、科技伦理审查、安全评估监测、安全事件应急处置等管理制度;生成式人工智能服务管理暂行办法则要求提供者依法承担网络信息内容生产者责任与个人信息处理者责任。
审计与可追溯机制
可审计性是问责的技术前提。欧盟《可信人工智能伦理指南》把"可审计性"列为问责要求的关键,强调它使算法、数据与设计过程能够被评估,在关键应用中尤为重要。实践中,可审计性依赖几类支撑:完整的技术文档与使用说明、自动记录运行事件的日志、数据来源与质量的记录、以及模型卡等结构化披露工具。欧盟《人工智能法案》第12条要求高风险AI系统具备自动记录事件的能力,以确保全生命周期的适当可追溯性。
审计既可由组织内部开展,也可由独立第三方或监管机构实施。在公共部门,一些国家建立了专门机制:例如加拿大联邦《自动化决策指令》要求各机构在系统投入生产前完成、批准并公布算法影响评估,功能或范围变化时需更新;评估考察系统、算法、决定、影响与数据,并按影响程度分级,较高级别触发更强的审查要求。这类机制的价值在于,在后果发生之前强制把决策架构的若干环节变得可见。
中国的算法备案与安全评估制度同样把审计性嵌入管理流程。《互联网信息服务算法推荐管理规定》要求具有舆论属性或社会动员能力的服务提供者在提供服务之日起十个工作日内通过算法备案系统填报信息并履行备案手续,备案信息变更或终止服务亦须办理相应手续;第二十八条要求服务提供者依法留存网络日志,配合开展安全评估与监督检查并提供必要的技术、数据支持。这些规定使事后追责有据可查。
追责与救济
当系统造成损害或违反规则时,问责需要落到实际的追责与救济。《互联网信息服务算法推荐管理规定》第三十一至三十三条设置了梯度化的法律责任:违反相关义务的,由有关部门给予警告、通报批评、责令限期改正;拒不改正或情节严重的,责令暂停信息更新并可处一万元以上十万元以下罚款;构成违反治安管理行为的依法给予治安处罚,构成犯罪的依法追究刑事责任。第四章还要求设置便捷有效的用户申诉和公众投诉、举报入口,明确处理流程与反馈时限。
生成式人工智能服务管理暂行办法要求提供者对违法内容及时停止生成、消除与整改并报告,对利用服务从事违法活动的使用者依约采取警示、限制功能或终止服务等措施,并按规定开展安全评估、履行算法备案。这些安排把"发现问题—处置—报告—追责"连成闭环。
在欧盟,高风险系统须建立上市后监测机制,主动、系统地收集并分析全生命周期性能数据,并向监管机构公开关键性能信息;严重事件须报告。赔偿机制则明确损害赔偿的范围、标准与程序,确保受害者能获得合理救济。救济渠道的可用性是问责的最后一环:若受影响者无法质疑决定、无法获得有效补救,前述的透明与审计便失去了意义。
治理框架与组织内控
问责制的落地依赖分层治理框架。在国际层面,NIST于2023年1月26日发布《人工智能风险管理框架》(AI RMF 1.0),作为自愿使用的框架,旨在改善把可信性考量纳入AI产品、服务与系统的设计、开发、使用和评估的能力,并配套发布行动手册、路线图与跨框架对照;2024年7月又发布面向生成式AI的版本,帮助机构识别生成式AI的独特风险。该框架以治理、映射、测量、管理等活动组织风险管理,把问责嵌入全流程。
在组织层面,企业通常设立伦理审查或风险管理机构、明确责任岗位、建立模型上线前评审与事故响应流程、保留人工否决权,把外部义务转译为工程与业务流程。行业组织与第三方机构则承担标准制定、认证与审计职能。由于大量规则需要企业自我执行,组织内控的独立性、资源与授权,直接决定问责是"纸面承诺"还是可运行的机制。
多主体协作也是治理框架的重要维度。立法与监管机构设定法律义务与罚则,企业实施产品控制,标准机构制定测试与管理规范,审计者检查证据,法院解释法律并提供救济,国际组织推动跨境原则协调——各司其职又相互衔接。这种分工解释了为何"AI自己决定的"不能终结问责问题:设计、采购、部署、授权、监测与救济的每一步都包含人的制度选择。
争议与局限
首要难题是责任扩散。AI系统由数据、模型、基础设施与多方服务拼装而成,损害往往由多个环节共同造成,难以归因于单一主体;提供者可能把责任推给部署者的"不当使用",部署者又以"依赖专业提供者"辩解。如何在复杂价值链中确定责任份额,是各国司法与监管共同面临的挑战。
其次是审计能力的落差。审计的有效性取决于独立性、专业能力、获取信息的权限与方法,若审计方无法访问模型内部或缺乏技术能力,可审计性便有名无实。第三方审计的标准与认证结果如何互认,跨法域如何协调,也尚无统一答案。
第三是"事后审计"的固有局限:审计发生在事件之后,一份对不当决定的完美记录并不能使该决定变得正当,它只能说明发生了什么。因此治理必须前移,在系统被允许影响何种决定、采取行动前需要何种证据、何处必须有人的权威、哪些行为无论如何禁止等问题上预先设规。第四是创新与问责的平衡:过重的合规负担可能抬高门槛、挤压中小企业,过轻则难以防范已发生的歧视、泄露与虚假信息损害。
最后需要指出,问责制有其边界。制度可以规定披露、审计、备案与处罚,却不能单独保证模型输出符合设计意图,后者属于AI对齐、可解释性评估与安全技术要处理的问题;反过来,技术方案也需要制度来明确"对什么负责、由谁验收"。制度层与技术层的分工衔接,构成问责制长期讨论的底层问题。
参见
- AI治理
- 透明度
- 可解释性
- 自主性
- 算法备案
- 科技伦理治理
参考资料
- 联合国教科文组织(UNESCO). Recommendation on the Ethics of Artificial Intelligence. UNESCO, 2021-11-23.
- 经济合作与发展组织(OECD). Recommendation of the Council on Artificial Intelligence (OECD/LEGAL/0449). OECD Legal Instruments, 2019-05-22.
- 国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局. 互联网信息服务算法推荐管理规定. 中国网信网, 2022-01-04.
- 国家网信办、国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局. 生成式人工智能服务管理暂行办法(令第15号). 中国政府网, 2023-07-10.
- 美国国家标准与技术研究院(NIST). AI Risk Management Framework. NIST, 2023-01-26.
- 中国法院网. 欧盟《人工智能法》的规则与创新. 中国法院网, 2025-06.