跳转到内容

数据伦理

来自VeritasWiki 真理百科

数据伦理是指在数据的收集、存储、加工、共享与利用等活动中应当遵循的价值理念与行为规范。数据被誉为人工智能时代的"石油",但当海量数据成为创新的核心驱动力时,隐私泄露、算法歧视、责任真空等问题也随之浮现,冲击着人类社会的伦理规范。数据伦理的核心任务,就是在释放数据价值与守护人的尊严和权利之间划定边界。[1][2]

数据何以成为伦理问题

数据本身只是符号,但当它被大规模采集、关联与计算时,便获得了刻画乃至支配人的能力。有学者将大数据引起的伦理问题归纳为四类:一是泄露隐私;二是数据被用于其他用途,即超出当初收集目的的挪用;三是大数据算法能够生成关于研究对象、但并非由研究对象自己提供的新数据,如金融机构的信用评级;四是开放数据的增加带来扩散风险。[3]更深层的挑战在于"旁观者风险":有些人并未参加研究活动,其信息却可能被动暴露——不参加基因检测的人,可能因血缘亲族参与遗传研究而受影响;无人机和自动驾驶汽车在运行中使用摄像头感知周围环境,旁观者的信息可能在未经知情同意的情况下被采集。[4]随着数据被不断链接——社交数据与地理位置数据、行政数据与生物医学数据的叠加,个体被重新识别的风险也在持续放大。

算法黑箱与责任真空

数据与算法互为表里,数据伦理因此与算法治理深度交织。由于数据量大、复杂度高,算法决策往往具有内部机制不透明的"黑箱"特点,数据交互能力与共享能力越强,给用户和社会带来未知风险的概率也越大。近年来,创新范式越来越强调"负责任"的维度,"建构性技术评估""预期性治理""敏捷治理"等新兴科技治理理念,标志着伦理维度的深度嵌入;"负责任研究与创新"理念更是将伦理考量直接纳入创新过程本身,确保科技进步在尊重人类价值观、社会规范和环境保护的前提下开展。[5]在全国人大代表、北京市科学技术研究院创新发展战略研究所所长伊彤看来,当前人工智能发展面临的伦理挑战主要集中在数据隐私与安全、算法偏见与责任归属、知识产权保护、虚假信息监管等多个方面,完善相关法律法规体系迫在眉睫,应尽早构建覆盖算法设计、数据采集、模型训练和应用部署的全链条安全监管体系。[6]在科研领域,人工智能驱动的科学研究(AI4S)同样带来算法不透明性、算法歧视、数据隐私问题以及结果的不可解释性等伦理挑战,学界主张从科学共同体自治走向社会共治,建立健全相应的治理体系与机制。[7]

制度回应:法律底线与伦理审查

面对数据伦理风险,我国的制度回应是法律与伦理双轨并进。在法律层面,哲学社会科学等领域开展数据采集、存储、加工、共享等处理活动,须严格遵循数据安全法、个人信息保护法、网络安全法等法律法规要求,落实数据分类分级保护制度,把合法、正当、必要原则贯穿数据全生命周期;科研机构要压实数据安全主体责任,防范个人信息不当泄露,对重要、敏感研究数据落实合规审查,杜绝非法抓取、滥用、篡改研究资料,以法治约束防范"数据投毒"、隐私泄露等风险。[8]在伦理审查层面,制度已深入到具体的数据处理规范:科技伦理审查要求涉及数据和算法的科技活动中,数据的收集、存储、加工、使用等处理活动符合国家数据安全和个人信息保护等有关规定;算法、模型和系统的设计、实现、应用遵守公平、公正、透明、可靠、可控等原则。[9]2024年9月,全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0版,将网络域、现实域、认知域、伦理域等应用安全风险纳入统一分析框架,针对数据安全和系统安全等内生风险提出技术应对和综合防治措施,为培育安全、可靠、公平、透明的人工智能生态提供了基础性指南。[10]更早之前,我国还成立了国家新一代人工智能治理专业委员会,发布《新一代人工智能伦理规范》,持续加强人工智能伦理治理,要求企业规范数据采集、加强数据保护、防止数据滥用和虚假信息蔓延。[11]

开放共享的伦理正当性

数据伦理并非一味收紧。开放共享本身包含重要的伦理价值:数据开放能增强公民对科技发展的感知和共情,内在要求算法透明度与可解释性,进而消解技术门槛带来的社会信任困境。在基础研究和公共卫生领域,数据开源已成为普遍的创新范式——新冠疫情期间各国科学家在共建共享的病毒数据平台上充分交流基因序列数据,从发现序列异常到世卫组织宣告"奥密克戎"为关注变体用时不到3天,数据开放共享直接关系全人类福祉。[12]但开放也有代价。开放科学中,若共享程序被操纵就可能产生伦理问题;当研究人员认为应得的奖励来自对数据和代码的掌控时,开放数据就会受到抵制;期刊若只接受付费发表的论文,科学传播的质量与道德也会受到质疑。[13]为此,学者主张完善全流程风险管控:严格管理敏感资源使用、规范模型调用、落实资料脱敏与访问留痕制度,并将算法偏见、数据投毒纳入风险评估范畴,建立人工智能输出成果的核验机制,防范学术失真、隐私泄露与科研诚信问题。[14]

走向负责任的数字文明

从医疗数据到消费记录,从基因序列到社交媒体轨迹,数据伦理的议题边界仍在随技术扩张而拓展。治理的关键不在于要不要拥抱新技术,而在于如何处理好资源开放共享与安全治理之间的关系——只有织密法律、制度、技术相结合的全流程治理防线,在开放与安全之间实现动态平衡,才能让数据的价值真正服务于人的福祉与文明进步。[15]当"负责任"从口号内化为数据处理的每一个默认选项,数据伦理才算完成了从学理到实践的闭环。

参考资料

  1. ↑ 以辩证思维准确把握和开展"人工智能"行动,人民网,2025-06-23。
  2. ↑ 筑牢人工智能赋能哲学社会科学的数据底座,中国社会科学网,2026-09-11。
  3. ↑ 袁珩 刘润生:科学研究与社会责任——科研伦理问题面面观,中国科学院院刊,2020-02-14。
  4. ↑ 袁珩 刘润生:科学研究与社会责任——科研伦理问题面面观,中国科学院院刊,2020-02-14。
  5. ↑ 江小涓:数据、数据关系与数字时代的创新范式,榆林市工业信息化推广应用中心。
  6. ↑ 蹚出"中国式"人工智能发展之路,人民网,2025-03-10。
  7. ↑ 瞭望丨AI4S重塑科研未来,新华社客户端。
  8. ↑ 筑牢人工智能赋能哲学社会科学的数据底座,中国社会科学网,2026-09-11。
  9. ↑ 关于印发《科技伦理审查办法(试行)》的通知,中华人民共和国科学技术部,2023-10-08。
  10. ↑ 《人工智能安全治理框架》1.0版发布,人民网,2024-09-10。
  11. ↑ 確保人工智能安全、可靠、可控,人民网,2025-05-12。
  12. ↑ 江小涓:数据、数据关系与数字时代的创新范式,榆林市工业信息化推广应用中心。
  13. ↑ 袁珩 刘润生:科学研究与社会责任——科研伦理问题面面观,中国科学院院刊,2020-02-14。
  14. ↑ 筑牢人工智能赋能哲学社会科学的数据底座,中国社会科学网,2026-09-11。
  15. ↑ 筑牢人工智能赋能哲学社会科学的数据底座,中国社会科学网,2026-09-11。