透明度
透明度(英文 transparency)在人工智能与算法治理语境下,指AI系统、其所依赖的数据以及由此产生的决定,对相关主体保持公开、可知情、可审查的性质。它要求把原本封闭在机构或代码内部的信息——系统是否被使用、用了什么数据、遵循何种规则、产生了什么影响——以可获取、可理解的形式向使用者、受影响者或监管者披露。透明度既是一项独立的伦理原则,也是一组可执行的合规义务:中国《生成式人工智能服务管理暂行办法》把"提升透明度"写入总则,欧盟《通用数据保护条例》(GDPR)以"合法、公平、透明"作为数据处理基本原则,《人工智能法案》则把特定透明度风险单列一档加以规制。由于它技术中立、效果显著,透明度被视为中欧数字治理共同倚重的基础性工具,常与可解释性、问责制、人类监督并列出现。
概念与内涵
人工智能语境中的透明度并非单一含义,通常至少覆盖三个对象。其一是系统透明,指如实告知AI系统的存在、身份与基本运行机制,使用户知道自己正在与机器交互、正在被算法排序或推荐。其二是数据透明,指说明训练与推理所用数据的来源、类型、范围与处理规则,使数据来源可追溯、质量可审查。其三是决策透明,指就自动化决定向受影响者披露所依据的逻辑、主要因素与可能后果,使其能够理解并质疑。三者层层递进:知道"有系统在运作"是最低要求,说明"用了什么与为何如此决定"则触及更深的层面。
透明度强调"公开可审查",其核心是降低信息不对称。它并不必然要求公开全部源代码或模型参数;在多数制度设计中,披露的对象与颗粒度取决于受众——面向普通用户的是清晰告知,面向监管者的是完整技术文档,面向受影响者的是与决定相关的有意义信息。因此透明度常被理解为一种"分层披露":既避免把技术细节倾倒给无从理解的用户,也防止以商业秘密为由拒绝一切说明。
与相邻概念的区别
透明度最容易与可解释性混淆,但两者关注点不同。透明度回答"是否公开、可获取",指向信息与流程的开放程度;可解释性回答"为何得出这个输出",指向对具体决定依据的说明能力。一个系统可以在程序上透明——公开自己使用了AI、公示了推荐规则——却仍无法解释某一次具体判断的由来;反之,一个能提供逐条归因的模型,若从不向用户告知其存在,也谈不上透明。有观点据此把透明度视为"披露什么"的制度安排,把可解释性视为"如何说明"的技术与认知要求,前者是后者的前提之一。
问责制则回答"由谁负责、如何追责"。透明度与可解释性为问责提供证据基础——没有披露与记录,审计和追责便无从谈起;但若只有公开而无可追究的主体与程序,透明也不会自动转化为责任。三者因此在治理文献中常被并列表述为相互支撑而非彼此替代的关系。
中国的制度要求
中国把透明度要求嵌入算法备案、安全评估与内容标识等可落地的监管工具,形成"准入监管与持续监督相结合"的路径。中国《互联网信息服务算法推荐管理规定》第四条把"公开透明"列为算法推荐服务应遵循的原则之一;第十六条要求以显著方式告知用户其提供算法推荐服务的情况,并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制;第二十六条要求完成备案的服务提供者在网站、应用程序的显著位置标明备案编号并提供公示信息链接。这些条款把"告知"从抽象原则变成了界面上的具体义务。
2023年施行的《生成式人工智能服务管理暂行办法》在总则第四条要求提供者采取有效措施提升服务透明度、提高生成内容的准确性和可靠性,并在制度层面规定训练数据来源与质量说明、算法机制机理说明、生成内容标识、安全评估与算法备案等义务。中国《互联网信息服务深度合成管理规定》《人工智能生成合成内容标识办法》等进一步细化了生成内容标识要求,要求对深度合成或AI生成的内容加以显著标识并添加隐式标识信息,使内容来源可被识别。有分析指出,与欧盟强调"深度披露"不同,中国的透明度要求更侧重在准入节点完成实质性信息披露与合规审查。
欧盟与GDPR的要求
在欧盟,透明度同时来自数据保护法与AI专门立法两条线。GDPR第五条把"合法、公平、透明"确立为个人数据处理的基本原则,第十三条、第十四条要求在收集个人数据时向数据主体告知处理者身份、处理目的与法律依据等信息,第十五条则赋予数据主体访问权,并在自动化决策情形下获得关于所涉逻辑的有意义信息。这些规定把透明度落实为可被主张的个人权利。
《人工智能法案》以"基于风险的方法"分级规制,其中"特定透明度风险"单列一档。该法案第50条规定了提供者和部署者的透明度义务:直接与人交互的AI系统应设计为使自然人被告知正在与AI交互(在情境中显而易见或用于法定执法目的等情形除外);生成合成音频、图像、视频或文本内容的系统,包括通用目的AI系统,应确保输出以机器可读格式标记、可被检测为人工生成或操纵;部署深度伪造内容的须披露其被人工生成或操纵;情感识别与生物特征归类系统的部署者也须告知被暴露的自然人。相关信息须以清晰、可区分的方式,最迟在首次交互或接触时提供。按法案第113条,第50条的透明度义务自2026年8月2日起适用,欧盟AI办公室被要求推动相关行为准则以落实生成内容的检测与标注。
实践机制与实现路径
把透明度落到工程与流程层面,通常依赖一组机制。告知机制包括AI身份提示、隐私政策与服务说明、目的与局限的清晰披露;标识机制包括对生成或合成内容添加显式标识(如"AI生成"字样)与机器可读的隐式标记(如元数据、水印);文档机制包括模型卡、数据集说明、系统卡与技术文档,用于向监管者与审计方说明设计选择、数据来源与评测结果;留痕机制则包括日志留存、备案编号公示与变更记录,使系统在运行中保持可追溯。
在金融、医疗、招聘等高风险场景,透明度往往与影响评估、人工复核配套:机构不仅要对外披露,还要在内部形成可供审查的记录链条。实践也表明,披露的"形式"与"效果"存在差距——同样一份告知,措辞、位置与呈现方式会显著影响用户是否真正注意到并理解。因此有效的透明度设计越来越强调以受众为中心的可理解性,而非仅仅满足"已经披露"的形式要求。
争议与局限
首要争议是透明度与其他价值的冲突。完全公开可能泄露商业秘密,削弱机构的技术投入激励;过度披露模型细节或训练数据,还可能带来隐私泄露与规避检测的安全风险。 GDPR与AI法案都选择在透明与保护之间设置例外,例如对执法用途、标准编辑辅助功能或已有人审与编辑责任的内容给予豁免,这些例外如何界定常引发讨论。
其次是"透明不等于可理解"。把大量技术文档公之于众,若超出受众的理解能力或淹没在信息过载中,可能只是制造了"看似透明"的表象;这与被批评为"伦理洗白"的形式化披露只有一步之遥。再次是分级带来的不均衡:大型机构有能力投入合规团队与文档体系,中小企业与开源社区承担相同义务的成本更高,可能抬高准入门槛。
最后,透明度有自身的边界。它可以让不公与错误"可见",却不能单独消除它们;披露一个系统的存在,也不等于赋予受影响者改变结果的能力。因此较稳妥的立场是把透明度视为必要的制度基础设施——它与可解释性、问责制、人类监督一起发挥作用,其成效最终取决于披露的信息是否真实、可理解,并能否被转化为质疑与救济的实际行动。
参见
- 可解释性
- 可解释AI
- 问责制
- AI治理
- 算法备案
- 生成式人工智能服务管理暂行办法
参考资料
- 国家互联网信息办公室、国家发展改革委、教育部、科技部、工业和信息化部、公安部、国家广播电视总局. 生成式人工智能服务管理暂行办法. 中国网信网, 2023-07-13.
- 国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局. 互联网信息服务算法推荐管理规定. 中国网信网, 2022-01-04.
- 欧盟委员会. The AI Act regulatory framework(Regulation (EU) 2024/1689). European Commission.
- 欧盟人工智能法案网站. Article 50: Transparency obligations for providers and deployers of certain AI systems. EU Artificial Intelligence Act.
- 欧洲议会、欧洲理事会. Regulation (EU) 2016/679 第5条:个人数据处理原则. GDPR-info.
- 中宏网. 积极推进数字治理现代化. 中宏网.