不伤害
不伤害(non-maleficence)是一项要求行动者避免对他人造成损害的伦理原则,其经典表述为"首先,不伤害"(primum non nocere)。在医学与生命伦理学中,它与尊重自主、有利、公正并列为四项基本原则;在人工智能与技术领域,该原则要求技术的研发、部署和使用不得给个人、群体或社会带来本可避免的身体、心理、经济、隐私或公共秩序方面的伤害,并把风险预防、安全可控和防止误用滥用作为制度底线。
伦理渊源
不伤害原则的系统化表述源自现代医学伦理对研究暴行的反思。第二次世界大战后形成的《纽伦堡法典》把受试者的自愿同意确立为医学研究的前提;1964年世界医学协会通过的《赫尔辛基宣言》进一步把知情同意制度化,并要求研究风险与潜在受益相权衡、不得对参与者造成不必要的伤害。20世纪70年代末发布的《贝尔蒙报告》提出尊重人、有利与公正三项原则。1979年,汤姆·比彻姆与詹姆士·邱卓思出版《生命医学伦理原则》,把尊重自主、不伤害、有利与公正系统化为四原则框架,成为生命伦理学成熟的标志。
这组原则后来超出生物医学研究的范围,成为涉及人的各类研究与技术应用的通用伦理框架。中国科技伦理治理的相关文件把"增进人类福祉"列为首要原则,强调科技活动应坚持以人民为中心;有研究据此提出,保护人类福祉在优先级上高于其他原则,可视为统摄性的"第0原则"。
内涵与边界
不伤害是一项消极义务,即"不得施加伤害",它划定的是行为底线,而不是要求行动者创造最大善。这一区分使它区别于有利原则(beneficence):后者要求主动促进他人的健康与福祉,属于积极义务。二者并非彼此替代——不伤害关注伤害的避免与风险的最小化,有利关注收益的最大化,实践中常需要在预期风险与预期收益之间取得平衡。
"伤害"的范围并不限于身体损伤。在医疗人工智能讨论中,误诊、延误治疗、费用不当增长属于对健康利益的伤害;隐私泄露、数据被非法收集利用属于对人格与自主的伤害;算法偏差导致的资源错配属于对公平利益的伤害。还有研究区分个体权益、群体利益与公共政策三个层面,认为社会实验的结论一旦演化为公共政策并被长期应用,其潜在伤害具有范围广、持续久的特点,因而更需谨慎对待。
在技术应用中的体现
在技术场景中,不伤害首先表现为安全与风险预防。《新一代人工智能伦理规范》把"确保可控可信"列为基本伦理要求,明确保障人的自主决策权与退出权;在管理规范中要求加强底线思维与风险研判,建立风险监测、评估和预警机制;在研发规范中要求提升透明性、可解释性、可靠性与可控性,逐步实现可验证、可审核、可追溯、可预测;在供应规范中要求制定应急机制与损失补偿方案,及时响应系统故障。
医疗领域是这一原则最集中的试验场。世界卫生组织《医疗人工智能伦理与治理指南》列出的关键伦理要求包括"避免伤害他人"与"在可能时促进他人福祉",并要求伤害风险最小化、收益最大化,权衡预期风险与预期收益。相关评论指出,医疗人工智能可能带来的伤害包括手术机器人的误诊、医疗费用的不当增长等;若已有成熟可靠的人工操作,就不应仅为追求新奇而增加风险,更不应从商业利益出发实施替代疗法。由此形成的一条操作性共识是"人机协同、以人为主":无论算法能力多强,最终诊疗决策与责任仍由医生承担。
双重用途与误用滥用
不伤害原则在双重用途(dual use)问题上面临特殊挑战:同一项技术既可增进福祉,也可能被用于造成损害。生成式模型可用于药物研发与医学教育,也可用于制造深度伪造内容、实施欺诈或批量生成有害信息;推荐算法既能提高信息匹配效率,也可能被用于诱导沉迷与操纵行为。
《新一代人工智能伦理规范》在使用规范中对此作出分层回应:第十八条提倡善意使用,要求在使用前开展论证与评估;第十九条要求避免误用滥用,尊重相关主体不使用产品的权利,避免非故意造成损害;第二十条则明令禁止违规恶用,禁止使用人工智能从事不法活动,严禁危害国家安全、公共安全和生产安全。这种"提倡—避免—禁止"的递进,体现了不伤害原则从倡导性规范向禁止性规范的延伸。
与有利原则的配对关系
不伤害与有利常成对出现,却承担不同功能。医学伦理经典框架把二者并列:前者要求"不造成伤害",后者要求"促进健康与幸福"。世界卫生组织的指南把两项要求放在一起表述,并补充"应在最小化伤害风险的同时最大化收益",说明二者需要共同适用而非择一。
配对关系中也存在实践张力。由于有利原则与不伤害原则在内容上有交叉,前者在实践中容易被后者吸收或忽视,出现"只要没造成伤害就算合格"的倾向。对此,有研究强调有利原则并非不伤害的附属内容,它要求技术在实际意义上增进对象的身体、心理与经济福祉;若一项技术仅仅避免了伤害却未能带来可辨认的收益,其伦理正当性依然不充分。另一种张力在于优先级:四原则在规范地位上被主张为平等并列、并无固定次序,但具体情境中发生冲突时如何排序,仍需依托情境判断与制度规则。
制度落实与争议
落实不伤害原则主要依靠伦理审查与风险管理两条路径。前者强调把审查从"事后补丁"转向源头预防、全过程跟踪与动态预警;后者强调按技术功能、介入程度与潜在风险实行分级分类管理,避免"一刀切"既抑制创新又管控失序。在责任问题上,人工智能参与决策后,开发者、使用者、医疗机构与算法本身如何归责仍是争议焦点,现阶段较稳妥的处理是明确人类为最终责任主体。
理论层面的争议集中在三点。其一,"伤害"的定义与可接受阈值难以统一,风险为零在现实中不可得,社会必须决定何种剩余风险可以接受。其二,预防与创新之间存在张力:过强的风险预防可能延误有益技术的应用,而过度宽松又可能让可预见的伤害发生。其三,原则本身的抽象性使其容易被当作口号,若不转化为可核验的技术标准、审查流程与问责机制,就难以真正约束行为。这些争议说明,不伤害作为底线原则意义明确,但要落地为可操作的治理能力,仍需标准、法律与专业共同体的持续协作。
参见
- 有利原则
- 科技伦理
- 医学伦理
- 风险预防原则
- 人工智能安全
- 双重用途
参考资料
- 世界卫生组织. Ethics and governance of artificial intelligence for health: WHO guidance. World Health Organization, 2021.
- 中华人民共和国科学技术部. 《新一代人工智能伦理规范》发布. 中华人民共和国科学技术部网站, 2021-09-26.
- 韩跃红. 尊重生命——生命伦理学的主旨与使命. 新浪网(转载自《光明日报》), 2005-04-22.
- 健康报社有限公司. 发展医疗人工智能 别忽视伦理问题. 云南网, 2021-07-27.
- 《医学与哲学》. 医疗人工智能社会实验的伦理风险及其治理路径. 医学与哲学, 2025.