跳转到内容

自主性

来自VeritasWiki 真理百科

自主性(英文 autonomy)在人工智能与算法治理语境下有两层基本含义:一是指自然人作为道德与法律主体自行作出决定、并按自己的理由行动的能力,即个人自主(personal autonomy)或自主决定权;二是指人工智能系统在没有或较少人工干预的情况下自行感知、推断并采取行动的程度,即系统自主性(system autonomy),常以"自动化程度"或自主级别来衡量。这两层含义相互关联又彼此紧张:提高系统的自主性可以提升效率与覆盖范围,却可能削弱个体对自身事务的实际控制;而维护个人自主又要求为系统的自主运行划定边界、保留人的最终裁决。围绕自主性的讨论因此集中在三个问题上:知情同意是否真正有效、算法操纵是否侵蚀人的选择能力,以及"人在回路"(human in the loop)等监督机制能否把有实质影响的决定留在人手中。自主性与透明度、可解释性、问责制并列,被经济合作与发展组织、联合国教科文组织等国际文件列为负责任或可信人工智能的通行原则之一。

概念的两层含义

个人层面的自主性源自康德式"人为自身立法"的传统,强调人能够依据理由而非外部强制来选择目标与手段。在数据与算法场景中,它具体化为个人对自身数据、画像与重大决定的自决:个人应当知道自己正被如何描述、由谁作出影响自己的判断,并有权选择、拒绝或退出。系统层面的自主性则是工程与能力概念,描述一个系统在多大程度上不依赖人工指令即可完成"感知—推断—决策—执行"的闭环。欧盟《人工智能法案》第3条把AI系统定义为"以不同自主性级别运行、并可能在部署后表现出适应性"的机器系统,正是在这一意义上使用"自主性"一词,强调它可以是程度上的差异,而非"全自动"与"纯人工"的二分。

两层含义的分野是理解许多争论的前提。当一个推荐系统"自主"地决定向用户推送什么内容时,系统的自主性越高,用户对信息环境的自主掌控就越依赖平台是否提供了知情与退出机制。因此治理讨论一般不把提高系统自主性本身视为目标,而是把它作为需要在效率、安全与人的自决之间取得平衡的变量。

伦理基础与价值定位

在伦理层面,自主性之所以重要,是因为它关乎人的尊严与主体地位。若算法能够影响一个人的就业、信贷、医疗或所看到的信息,而这个人既不知情也无法质疑,那么他就被降格为被处理的对象,而非能够说明理由、参与决策的主体。中国社会科学院相关研究在梳理全球治理时指出,多份国际文件把"人类监督""人类最终裁决"置于核心位置,例如美国《AI权利法案蓝图》要求人工智能在人类监督下运行、不得削弱人的决策能力,公民有权选择是否与AI互动并在重要决定中要求人类最终裁决。

联合国教科文组织2021年11月23日通过的《人工智能伦理问题建议书》把"人类监督与决定"列为一项原则,要求人工智能系统不应取代人的最终责任与判断。经济合作与发展组织2019年通过的《人工智能理事会建议》同样以"尊重人权与民主价值"为原则之一,其更新后的文本强调人的能动性与监督。这些软法文件虽不具强制力,却为各国把自主性转写为具体规则提供了共同语言:系统设计应服务于增强而非替代人的选择能力。

操纵风险与自主性的侵蚀

对自主性最直接的威胁来自操纵。所谓算法操纵,是指利用个性化画像、信息排序与界面设计,在用户未充分察觉的情况下改变其判断与行为。中国法学会法治研究所的相关研究把"算法操纵""算法标签"列为需要法律回应的算法侵害类型,指出应避免个人沦为被算法决策操纵的对象。与公开的强制不同,这类影响往往通过看似中性的推荐、排序与默认选项实现,用户难以识别自己正被引导。

中国《互联网信息服务算法推荐管理规定》对此作出针对性约束:第八条禁止设置诱导用户沉迷、过度消费等违背伦理道德的算法模型;第十四条禁止利用算法操纵榜单、控制热搜或检索结果排序以干预信息呈现;第二十一条禁止利用算法在交易价格等条件上实施不合理的差别待遇。这些条款针对的正是自主性被侵蚀的典型路径——通过控制"用户看到什么"来左右"用户选择什么"。

除了显性操纵,知情同意机制本身也存在"同意疲劳"问题:当隐私政策冗长、同意被默认为勾选、拒绝服务的成本被刻意抬高时,形式上的同意并不等于真实的自主选择。此外,自适应系统在部署后可能以超出最初同意范围的方式使用数据,即所谓"功能蔓延",使一次性同意难以覆盖后续用途。这些都说明,保护自主性不能只依赖"取得同意"这一个动作,而要贯穿系统的整个生命周期。

法律与规范中的自主性

在实定法层面,最具代表性的制度是"免受完全自动化决策约束"的权利。欧盟《通用数据保护条例》(GDPR)第22条规定,数据主体有权不受仅依赖自动化处理(含画像)、对其产生法律效果或类似重大影响的决定的约束;其例外限于订立或履行合同所必需、有法律授权或取得明确同意等情形,且即便在例外情形下,数据控制者也须提供人为干预、表达观点及质疑决策的机会。学界普遍把这一条理解为对个人自决权与正当程序的一种法律确认,它区分"完全自动化决策"与"有人工介入的自动化决策",并对前者采取原则禁止的立场。

中国《互联网信息服务算法推荐管理规定》从平台治理角度落实自主性:第十一条要求建立完善人工干预和用户自主选择机制;第十六条要求以显著方式告知用户算法推荐服务的情况并公示基本原理;第十七条明确应向用户提供不针对其个人特征的选项,或便捷的关闭算法推荐服务的选项,用户选择关闭后应立即停止相关服务,并提供选择或删除用户标签的功能。2023年施行的《生成式人工智能服务管理暂行办法》亦要求采取有效措施提升透明度、尊重个人信息权益,为使用者提供咨询与投诉渠道。

分阶段适用的欧盟《人工智能法案》则把"人类监督"写入高风险系统的义务:第14条要求此类系统的设计与开发应能被自然人有效监督,以预防或降低对健康、安全与基本权利的风险。美国国家标准与技术研究院2023年1月26日发布的《人工智能风险管理框架》也把"人机协同控制"与可干预性作为可信AI的属性之一,强调在设计阶段就要考虑人如何监督与纠正系统。

制度与技术保障

把自主性从原则变为可操作的保障,通常依赖一组相互配合的机制。知情层面要求以清晰、显著、可理解的方式告知用户AI的存在、用途与局限,而非把说明埋藏在冗长条款中。选择层面要求提供真正可用的退出开关、非个性化选项与标签管理能力,并避免以不便或惩罚变相迫使同意。控制层面则要求在重大决定上保留"人在回路",由有实质权限、能获取必要信息并敢于推翻系统建议的人员进行复核。

救济层面包括申诉、质疑与人工复议的渠道,以及影响评估与审计。中国算法推荐规定要求设置便捷有效的用户申诉和公众投诉、举报入口;GDPR在例外情形下亦要求提供人为干预与质疑机会。技术上,可解释性方法、影响评估工具与日志留存为上述机制提供支撑——只有能追溯系统因何作出某个判断,人为复核才不至于流于形式。这些保障共同指向一个目标:让技术系统的运行处于人的可理解、可干预、可追责范围之内。

争议与局限

首先是概念本身的模糊。"自主性"既可指能力意义上的独立行动,也可指权力意义上的自我治理,不同文件与学科在使用时侧重不一,容易在"提高系统自主性"与"保护人的自主性"之间产生混淆。其次是同意机制的局限:在信息不对称与选择架构被平台掌握的情况下,"知情同意"往往难以达到理论上的自由、具体与知情,单靠同意难以承担保护自主性的全部重量。

再次是自主性与安全、效率之间的张力。完全禁止自动化决策会牺牲便利与规模化的收益,而放任系统自主运行又可能积累难以察觉的操纵与歧视风险;如何在两者之间划线,各法域给出的答案并不一致。此外,"人在回路"也并非万能:若复核者缺乏时间、信息或权威,人工环节可能沦为对系统建议的橡皮图章式确认。因此较稳妥的立场是把自主性理解为一组需要制度与技术共同支撑的条件,而非一个可以一次性达成的状态——它的实现程度取决于告知是否真实、退出是否可行、监督是否实质,以及当系统出错时人是否仍能收回决定权。

参见

  • 透明度
  • 可解释性
  • 问责制
  • AI治理
  • 算法偏见
  • 个人信息保护

参考资料

  1. 张化冰. 人工智能全球治理的伦理建构. 中国社会科学网, 2025-12-29.
  2. 王莹. 算法侵害类型化研究与法律应对——以《个人信息保护法》为基点的算法规制扩展构想. 中国法学会法治研究所.
  3. 国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局. 互联网信息服务算法推荐管理规定. 中国网信网, 2022-01-04.
  4. 联合国教科文组织(UNESCO). Recommendation on the Ethics of Artificial Intelligence. UNESCO, 2021-11-23.
  5. 欧洲议会、欧洲理事会. Regulation (EU) 2016/679 第22条:自动化个人决策. GDPR-info.