AI治理
AI治理(英文 Artificial Intelligence Governance,常缩写为 AI governance)是指为引导人工智能的研发、部署与使用而建立的一整套制度安排、规则体系与协调机制,涵盖法律法规、伦理原则、技术标准、行业自律、组织内控与国际合作等多个层次。与侧重让模型行为符合人类意图的"AI对齐"技术不同,AI治理处理的是"由谁、依据什么规则、以何种程序约束技术开发与应用"的制度问题,其主体包括立法机关、监管部门、企业、科研机构、行业组织与社会公众。人工智能具有通用性、跨境性与快速迭代等特点,风险往往同时落在数据安全、个人信息、劳动就业、信息生态与公共安全等多个领域,难以由单一部门或单一工具覆盖,因此现代AI治理普遍强调多主体参与、全生命周期覆盖与"敏捷治理"。21世纪10年代末以来,从经济合作与发展组织、联合国教科文组织的国际软法,到中国的部门规章与欧盟的统一立法,AI治理逐步由原则宣示走向可执行的合规义务。
概念内涵
"治理"与"监管"并不等同:监管主要指公权力依法律对市场主体施加的强制性约束,治理则包含更广的主体与工具——政府立法与执法、企业内部的伦理审查与风险管理、行业标准与认证、第三方审计、学术与公众监督,以及国家间的规则协调。AI治理的对象也不只是模型或算法本身,而是从数据收集、标注、模型训练、评测、部署到使用与退役的整个生命周期,以及这一链条上各参与方的责任分配。这一广义理解在国际文书中体现为对"AI系统""AI系统生命周期""AI行为体"等术语的统一界定:经济合作与发展组织在《人工智能理事会建议》中把AI系统界定为基于机器的、针对显式或隐式目标从输入推断如何生成预测、内容、建议或决策等输出的系统,这一界定后来被欧盟、联合国等多个法域的立法与指引采用。
治理通常需要回答三组问题:其一,何种风险需要纳入规制、以何种标准分级;其二,义务应落在开发者、部署者还是使用者身上,如何追溯与问责;其三,如何在鼓励创新与防范危害之间保持平衡,并使规则随技术演进而调整。由于生成式模型、通用目的模型的出现使"用途"难以在研发阶段预设,治理框架越来越从"按产品审批"转向"按风险与用途分层",并强调持续监测而非一次性许可。
核心议题
AI治理所回应的风险大体可分为几类。其一是权益与公平:训练数据中的历史偏差可能固化为对特定群体的歧视,模型用于信贷、招聘、司法辅助等场景时直接影响个人机会;其二是隐私与数据:大规模数据收集、模型记忆与用户交互记录涉及个人信息权益与跨境流动;其三是透明度与信息生态:生成内容可能被用于虚假信息、冒充与欺诈,用户往往难以分辨是否在与机器交互;其四是安全与责任:模型失效、被滥用或产生连锁影响时,责任在开发者、部署者与使用者之间如何划分;其五是社会与劳动影响:自动化对就业结构、技能需求与市场竞争的冲击。
围绕这些风险,治理讨论形成若干被反复援引的操作性原则:发展与安全并重、风险分级与分类监管、透明度与可解释性、人类监督与最终责任归属、可审计与可追溯、问责与救济,以及"敏捷治理"——即以试点、标准、指南、监管沙盒等可快速修订的工具先行,再根据实践上升为稳定规则。中国《生成式人工智能服务管理暂行办法》第三条把"发展和安全并重、促进创新和依法治理相结合"与"包容审慎和分类分级监管"并列写入总则;经济合作与发展组织与联合国教科文组织的文本则把透明度、问责、人类监督列为共同原则。这些原则的共通点,是承认治理对象高度不确定,因而更依赖过程性义务与持续评估,而非一次性、静态的准入判定。
国际组织的软法框架
全球层面的AI治理首先以"软法"形态展开。2019年5月22日,经济合作与发展组织理事会在部长级会议上通过《人工智能理事会建议》(OECD/LEGAL/0449),这是首个政府间AI标准,包含五项基于价值观的原则——包容性增长与可持续发展、尊重人权与民主价值、透明与可解释、稳健与安全、问责——和五项面向政策制定者的建议:投资研发、营造有利生态、塑造可互操作的治理环境、人力资本与劳动力转型、国际合作。2024年5月3日,该组织部长级理事会根据生成式与通用目的人工智能带来的新情况对原则作出修订,补充了信息完整性、知识产权、安全停用机制与环境可持续性等内容,并强调各法域治理框架的可互操作性;修订时已有47个成员方加入,其关于"AI系统"与"生命周期"的定义为多国立法提供了共同语言。
2021年11月23日,联合国教科文组织第41届大会在巴黎通过《人工智能伦理问题建议书》,由193个会员国一致采纳,是首个全球性的AI伦理规范文书。建议书确立尊重人权与人的尊严、促进和平与公正的社会、确保多样性与包容、环境与生态系统繁荣四项核心价值,以及比例原则与不伤害、安全与安保、隐私与数据保护、多利益相关方与适应性治理、责任与问责、透明与可解释、人类监督与决定、可持续性、认知与素养、公平与非歧视十项原则,并把原则落实为数据治理、教育、文化、健康、环境与性别等政策行动领域,要求成员国定期提交实施进展报告。软法不具有强制力,其意义在于提供共同术语、政策模板与评估工具,为后续国内立法与国际协调提供基准;教科文组织也明确指出,行业自律不足以防范伦理损害。
中国的制度脉络
中国的AI治理呈现"战略规划—伦理原则—标准指引—专项规章"逐层细化的路径。2017年国务院印发《新一代人工智能发展规划》,把人工智能放在经济发展、社会治理与民生改善的总体格局中部署。2019年6月,国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》,提出和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理八条原则;2020年发布的《国家新一代人工智能标准体系建设指南》进一步明确伦理标准的定义与重点场景。2021年9月25日,同一委员会发布《新一代人工智能伦理规范》,把原则转化为管理、研发、供应、使用四类活动共18项具体伦理要求,并提出增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养六项基本要求,强调将伦理融入人工智能全生命周期。
针对具体服务的部门规章随后落地。2023年7月10日,国家互联网信息办公室联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、国家广播电视总局以第15号令公布《生成式人工智能服务管理暂行办法》,该办法经2023年5月23日国家网信办2023年第12次室务会会议审议通过,自2023年8月15日起施行。办法适用于利用生成式人工智能技术向境内公众提供生成文本、图片、音频、视频等内容的服务,明确研发、应用但未向境内公众提供服务的机构不适用;内容上要求坚持社会主义核心价值观、在算法设计与训练数据选择等环节防止歧视、尊重知识产权与个人信息权益、提升透明度与生成内容的准确性和可靠性;制度上规定了训练数据合法来源与质量要求、数据标注规则、生成内容标识、安全评估、算法备案、投诉举报与监督检查等义务。同年10月18日,中国在第三届"一带一路"国际合作高峰论坛上发布《全球人工智能治理倡议》,就人工智能的发展、安全与治理提出系统主张,把国内治理经验延伸到全球规则讨论。
欧盟的风险分级立法
与以原则与专项规章为主的路径不同,欧盟选择了统一立法。欧盟委员会于2021年4月提出《人工智能法案》草案,欧洲议会与理事会于2023年12月就文本达成一致,最终形成《欧洲议会与理事会关于人工智能统一规则的条例(EU)2024/1689》,2024年6月13日通过、7月12日刊登于《欧盟官方公报》,并于2024年8月1日生效。法案以"基于风险的方法"建立统一框架,把AI系统分为四档:不可接受风险,例如由政府或企业实施的社会评分等,被视为对基本权利的明显威胁而予以禁止;高风险,例如用于医疗软件或招聘的系统,须满足风险缓解、高质量数据集、清晰用户信息、人类监督等严格要求;特定透明度风险,例如聊天机器人须明确告知用户正在与机器交互,特定AI生成内容须加以标识;最小风险,例如垃圾邮件过滤与AI电子游戏,原则上不承担强制义务,可自愿采纳行为准则。
法案还针对通用目的AI模型设置专门义务,由欧盟AI办公室负责监督,并通过配套的行为准则细化透明度、版权规则与风险管理要求;为避免一次性冲击产业,各项义务采取分阶段适用安排,通用目的AI模型相关条款在生效约12个月后适用,高风险系统义务随后分批落地。欧盟路径的特点是把抽象伦理原则转写为可审查、可处罚的法律义务,并以统一定义减少成员国之间的规则差异;其代价是合规成本高、技术细节需要大量配套标准与指南支撑,且法律文本的更新速度天然慢于模型能力的迭代。
治理工具与实施机制
无论是软法还是硬法,落地都依赖一组可操作的工具。事前环节包括风险与影响评估、分类分级判定、安全评估与测试、数据来源与质量的文档化;事中环节包括算法备案与变更备案、内容与生成物标识、日志留存与可追溯、人类监督与人工复核、投诉举报与应急处置;事后环节包括审计、事故报告、责任追究与救济。中国《生成式人工智能服务管理暂行办法》要求提供具有舆论属性或社会动员能力的服务者开展安全评估并履行算法备案,按要求对训练数据来源、规模、类型、标注规则与算法机制机理作出说明,并要求提供者对违法内容及时停止生成、消除、整改并报告,对利用服务从事违法活动的使用者依约采取警示、限制功能或终止服务等措施。
由于大量规则需要由企业自我执行,组织内控成为治理的关键层次:设立伦理审查或风险管理机构、建立模型卡与数据集说明、开展上线前评审与对抗测试、保留人工否决权,都是把外部义务转译为工程流程的常见做法。行业组织与第三方机构则承担标准制定、认证与审计功能。跨境维度上,经济合作与发展组织强调各法域治理框架的"可互操作性",联合国教科文组织建议书要求尊重国家主权并推动多利益相关方协作;这些机制试图在规则差异之下维持最低限度的共同底座,减少企业因法域分割而面临的相互冲突的要求。
争议与局限
首要争议是"原则落地"的落差。透明度、公平、问责等高度抽象的原则在转化为工程指标时存在多种解释,容易出现以伦理宣示替代实际约束的做法,批评者把这类现象称为"伦理洗白"。软法缺乏强制力与统一裁判机制,硬法则面临界定难题:何为"高风险"、通用目的模型与下游部署者如何分担义务、开源模型是否豁免,各法域给出的边界并不一致。其次是发展与安全的权衡。过严的事前审批可能抬高门槛,使资源有限的中小企业与科研机构处于不利地位,并把创新推向监管较松的法域;过松则难以回应已经发生的歧视、泄露与虚假信息损害。中国把"包容审慎"写入总则,正是试图在两者之间留出弹性空间,但其成效取决于配套细则的清晰度与执法的一致性。
第三是治理对象与治理节奏的不匹配。模型能力、用途与商业模式快速变化,立法与标准的制定周期却以年计,规则出台即可能落后于实践;同时,AI系统的跨境部署使数据、算力、开发者与用户常分属不同法域,管辖权与法律适用冲突难以避免。此外,国际层面的规则竞争还带有话语权与产业利益维度,不同国家在"以人为本""可信赖AI"等共同措辞下强调的优先事项并不相同。最后需要指出治理的边界:制度可以规定披露、评估、备案与问责,却无法单独保证模型输出符合设计者意图,后者属于AI对齐、可解释性评估与安全技术等研究要处理的问题;反过来,技术方案也需要制度来明确"对什么负责、由谁验收"。制度层与技术层的分工与衔接,构成AI治理长期讨论的底层问题。
参见
- AI对齐
- 可解释AI
- 生成式人工智能服务管理暂行办法
- 新一代人工智能伦理规范
- 人工智能法案
- 算法备案
参考资料
- 国家互联网信息办公室、国家发展改革委、教育部、科技部、工业和信息化部、公安部、国家广播电视总局. 生成式人工智能服务管理暂行办法. 中国网信网, 2023-07-13.
- 国家网信办、国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局. 生成式人工智能服务管理暂行办法(令第15号). 中国政府网, 2023-07-10.
- 中华人民共和国外交部. 驻伊朗大使常华在伊《德黑兰时报》发表署名文章《人工智能治理的中国方案》. 中华人民共和国外交部, 2023-11-02.
- 欧盟委员会. The AI Act regulatory framework(Regulation (EU) 2024/1689). European Commission.
- 联合国教科文组织(UNESCO). Recommendation on the Ethics of Artificial Intelligence. UNESCO, 2021-11-23.
- 经济合作与发展组织(OECD). Recommendation of the Council on Artificial Intelligence (OECD/LEGAL/0449). OECD Legal Instruments, 2019-05-22.