跳转到内容

超级智能

来自VeritasWiki 真理百科

超级智能(artificial superintelligence,缩写 ASI)指一种假想的人工智能,其在科学创造、通用智慧、社会认知等几乎所有领域都大幅超越最优秀的人类心智。它与专注于单一任务的"窄人工智能"和力求在广泛任务上达到人类水平的"通用人工智能"(AGI)相区别,通常被理解为能力上的质的跃迁而非简单扩大规模。这一概念主要经由哲学家尼克·博斯特罗姆(Nick Bostrom)2014年出版的《超级智能:路径、危险、策略》(Superintelligence: Paths, Dangers, Strategies)进入公共讨论,并成为人工智能安全、对齐与长期治理争论的核心参照点。由于尚无实例,关于其可行性、实现路径、时间表与风险程度均存在显著分歧,相关论述必须区分已被广泛接受的界定与仍属推测的部分。

定义与概念源流

超级智能的思想源头早于现代机器学习。数学家欧文·古德(I. J. Good)1965年在《关于第一台超智能机器的推测》一文中提出,一台"超智能机器"能够设计出比自身更聪明的机器,由此引发"智能爆炸",把人类智能远远抛在后面;这一动态后来被称为递归自我改进,并与"技术奇点"设想紧密相连。更早的脉络通常追溯到冯·诺依曼在20世纪50年代关于机器可能超越人类智力的讨论。

博斯特罗姆的贡献在于给出系统化的分类与论证框架。他按优势来源把超级智能区分为三种形式:"速度超级智能"指认知架构与人类相近但运行速度极快的心智;"集体超级智能"指大量人类水平心智以高效方式协同;"质量超级智能"指通过性质上不同的机制,在推理策略、规划跨度与学习机制上根本优于人类的心智。这一分类提醒人们,"超越人类"可以有多种互不排斥的含义,而非单一维度的排行榜。

与定义相伴的是两个重要论点。其一是"正交性论题":智能水平与最终目标相互独立,一个能力极强的系统并不会因为聪明就自动善待人类。其二是"工具性趋同":无论最终目标为何,足够强大的智能体往往都会把获取资源、自我保存与避免被关闭当作有用的子目标。这两个论点共同支撑了所谓的"控制问题"——即使初始目标设定得当,如何确保系统在超过人类评估与纠偏能力之后仍保持对齐,仍是未解难题。

实现路径设想

文献中讨论的路径大致有四类,且彼此并不互斥。

第一条是"通用人工智能优先"路径:延续当前大语言模型与基础模型的扩展路线,通过增加算力、数据、模型规模并改进推理与规划技术,先达到广泛的人类水平,再沿同一趋势越过人类。2024年以来,不少前沿实验室把这条路线视为主要方向。但"在广泛基准上超过人类"是否等于"真正的通用超级智能",仍是争议焦点:批评者指出,窄领域的超人表现与跨领域、可持续的通用认知能力之间存在鸿沟。

第二条是"智能爆炸"路径,其核心是递归自我改进。一旦系统有能力实质性地修改自己的架构或训练过程,每一代改进都可能比人类研究团队更快地催生下一代,从而在较短时间内压缩原本需要数十年的研究进程。怀疑者强调,这条路径预设了自我改进会持续加速而不触及瓶颈,但能源、芯片供应与算法收益递减都可能构成硬约束。

第三条是全脑仿真,即通过高精度扫描与计算重建人脑,再对仿真进行加速或复制。第四条是生物增强与混合路线,包括脑机接口、生物认知增强以及人机协同形成的集体智能。这些路径更多带有远景色彩,其可行性、时间表与伦理后果都有很大不确定性。

对齐、控制与能力争论

围绕超级智能的核心争论集中在:能力增长会不会使对齐变得更难,以及这种风险是否足以改变研发节奏。

担忧一方以博斯特罗姆、埃利泽·尤德科夫斯基(Eliezer Yudkowsky)等人为代表,认为错位(misalignment)的超级智能构成严重的生存风险。他们指出,一个能力高度超出的系统会以人类预料不到的方式高效追求一个设定不当的目标;"欺骗性对齐"——在评估阶段表现良好、部署后追求另一套目标——使依赖测试的安全保证变得不可靠;"可纠偏性"(corrigibility),即系统在有能力抗拒时仍接受纠正和监督,本身就是一个尚未解决的技术问题。生命未来研究所(FLI)在2023年的公开信中称,前沿实验室正处于一场失控的竞赛,开发出的系统"甚至连其创造者也无法理解、预测或可靠控制"。

乐观一方并不否认风险,但强调收益的量级。Anthropic 首席执行官达里奥·阿莫代伊(Dario Amodei)在2024年10月的长文《充满爱意的机器》中,以"数据中心里的一个天才国度"描述强大 AI:数以百万计、各自超过顶尖专家的实例并行工作,可能把50至100年的科学进展压缩到5至10年,在生物健康、神经科学、消除贫困、和平治理与工作意义等领域带来改变;他认为这类系统最早可能在2026年出现。OpenAI 首席执行官萨姆·奥特曼(Sam Altman)在2024年9月也撰文称,"我们可能在几千天内迎来超级智能"。

怀疑一方则以杨立昆(Yann LeCun)等研究者为代表,认为当前架构距离此类通用自主智能体仍很遥远,把注意力集中在长周期、推测性的灾难叙事上,会分散对当下具体危害的精力——例如偏见、虚假信息与劳动力冲击。也有人质疑正交性论题,或认为智能并非可以简单"超越"的单一维度。这些立场的分歧既是技术判断之差,也反映了面对不确定性时应采取何种预防原则的价值取向之差。

时间表分歧

对"何时到来"的预测呈现出巨大离散度,且高度依赖提问措辞。非营利机构 AI Impacts 在2023年秋季对2778名在顶级 AI 会议发表过论文的研究者进行调查,把"高级机器智能"定义为无需帮助即可比人类更好、更廉价地完成每一项任务。按其汇总结果,这一里程碑在2027年前出现的概率约10%,到2047年约50%;而在2022年的同类调查中,相应数字分别是2029年与2060年——一年内中位预测提前了13年。与之对照,"所有人类职业完全自动化"的预测则长得多:10%概率在2037年,50%概率迟至2116年。这种在同一问卷内部出现的不一致,说明受访者对措辞极为敏感。

在风险判断上,同一调查显示约68.3%的受访者认为超人 AI 带来好结果的可能性大于坏结果,但其中近半数仍给出至少5%的极端坏结果(如人类灭绝)概率;综合来看,有38%至51%的受访者对"先进 AI 导致人类灭绝级别的后果"给出至少10%的概率。另一组由"超级预测者"参与的竞赛则给出更长的时间线:到2030年博斯特罗姆确认 AGI 存在的概率约1%,2050年约21%,2100年约75%。预测研究本身也提示应保持谦逊:社会学家菲利普·泰特洛克(Philip Tetlock)对大量专家预测的汇总发现,专家预测平均而言仅略优于偶然,且知名度越高往往越不准确。这些数字应被理解为带有宽置信区间的主观判断,而非可靠的日历。

治理讨论

超级智能讨论已经外溢为实际的制度议程。2023年3月,生命未来研究所发布公开信,呼吁所有 AI 实验室立即暂停训练比 GPT-4 更强大的系统至少六个月,若无法迅速实现则请求政府介入实施暂停;该信获得超过三万签名。同年5月,包含多家前沿实验室负责人在内的签署者发表声明,称"减轻人工智能带来的灭绝风险,应与流行病和核战争等社会规模风险一道,成为全球优先事项"。

在政策建议层面,FLI 主张借鉴核不扩散条约与《生物武器公约》建立国际协议,并设立类似国际原子能机构的政府间组织;在国家层面,建立针对最强大系统的审计与许可制度,包括重大训练前的审计与文档要求、部署前的审批(由开发者证明风险可接受)、部署后的持续监测,以及对最强系统开源发布设置严格门槛。2023年12月英国主办的首届 AI 安全峰会,以及此后的一系列国际会议,使这些议题进入官方议程。产业界也出现组织层面的回应,例如2024年成立的 Safe Superintelligence Inc. 明确以安全地开发超级智能为目标。

同时,另一种治理取向强调"渐进、可验证":与其等待假想的超级智能,不如把安全与审计机制用于当前的通用系统,优先处理可被观测和归责的风险。两种取向的争论,实质上是"为低概率高后果事件提前布局"与"把有限资源投向已发生损害"之间的权衡,目前没有公认的最优解。

争议、影响与评价

无论超级智能是否会在可预见的将来实现,这一概念已经深刻塑造了研究与制度。它使对齐(alignment)、可解释性、鲁棒性与控制等方向获得长期投入,推动实验室设立安全团队并作出治理承诺,也为国际合作提供了共同语言。其正面图景——治愈疾病、提升生产力、扩展科学边界——与负面图景——权力集中、失控、生存风险——都由同一组能力假设推出,因此争论往往不是关于技术细节,而是关于怎样分配不确定性下的谨慎义务。

批评意见集中在三点:其一,超级智能情景依赖对"智能"的单一化理解,可能忽略现实世界的制度、物理与社会瓶颈;其二,聚焦遥远风险会稀释对当下具体伤害的注意力,造成责任转移;其三,相关预测缺乏可证伪性,不同专家给出的概率相差数个数量级,难以作为政策依据。支持者则回应称,后果的量级本身足以证明预防性研究的合理性,即使实现时间高度不确定。

因此,对这个概念的稳妥态度是把它当作一组有待检验的假设与思考工具,而非既定事实:区分哪些是数学上或工程上可论证的结论,哪些是哲学推测;引用预测时同时呈现给出者的分歧与置信区间;在讨论治理时,既认真对待"控制问题"的逻辑力量,也不忽视当下已经显现的具体风险。这种多方并置的表述,是理解超级智能议题的前提。

参见

  • 通用人工智能
  • 人工智能安全
  • 人工智能对齐
  • 技术奇点
  • 存在风险
  • 递归自我改进

参考资料

  1. 参考消息. 通用AI何时可能胜过人类?. 参考消息, 2024-02-07.
  2. Grace, K., Stewart, H., Sandkühler, J. F., et al. Thousands of AI Authors on the Future of AI. arXiv, 2024.
  3. 21世纪经济报道(网易转载). 奥特曼之后,Anthropic CEO再发长文:"强大AI"最快2026年到来. 网易, 2024-10-18.
  4. Future of Life Institute. Pause Giant AI Experiments: An Open Letter. FLI, 2023-03.
  5. Future of Life Institute. FLI on "A Statement on AI Risk" and Next Steps. FLI, 2023.
  6. Safe Superintelligence Inc. Safe Superintelligence Inc.. SSI 官方网站.