机器学习
机器学习(英文:Machine Learning,缩写 ML)是人工智能的核心分支,研究如何让计算机在未被显式编程的情况下具备学习能力——即通过算法分析数据、从中自动归纳规律并总结成模型,再利用模型对未知数据进行推断或预测。它与人工智能的研究脉络一脉相承:人工智能的历史经历了从以"推理"为重点,到以"知识"为重点,再到以"学习"为重点的演进,机器学习正是实现人工智能最重要的途径之一。[1]作为一门多领域交叉学科,机器学习涉及概率论、统计学、逼近论、凸分析、优化理论等多门数学基础,因此也与统计推断关研密切,被称为统计学习。[2]
一个术语的诞生
"机器学习"一词由 IBM 科学家亚瑟·塞缪尔于 1959 年首次提出,他将其定义为"让计算机在未显式编程的情况下具备学习能力",并开发了一个能通过自我对弈不断提升水平的跳棋程序,驳倒了"机器无法超越编写者"的论断。这一概念彻底改变了人工智能研究的方向:从显式编写规则,转向数据驱动的学习。[3]更早的思想基础可以追溯到 1950 年图灵在《计算机器与智能》中提出的图灵测试——它首次系统探讨了机器能否具备类人智能,为人工智能和机器学习奠定了哲学与理论基础。[4]1958 年,罗森布拉特提出感知器算法,这一简单神经网络模型可以通过调整权重实现二元分类;但 1969 年明斯基与帕普特在《感知机》一书中指出其无法处理"异或"这类线性不可分问题,暴露出模型局限,令神经网络研究转入低潮。[5]此后昆兰提出的 ID3 决策树算法、伟博斯在反向传播(BP)算法中具体提出的多层感知机模型,让机器学习研究逐步走出低谷,BP 算法至今仍是神经网络训练的关键因素。[6]
机器学习的基本逻辑可以概括为三个阶段:先给机器大量"学习资料"(例子),让机器在训练中不断调整自身参数,把识别或预测的准确性提升到最优;然后拿新的例子去"考试",检验机器学得好不好;只有通过测试的模型,才会被部署到实际场景中给人使用。[7]这一过程与人类的学习道理如出一辙:机器学习并不能"一口吃成胖子",训练算法需要迭代执行,迭代的次数越多,学习得越深入,得到的模型效果越好;与此同时,训练数据的质与量同样决定学习效果,数据量越大、质量越高,模型就越可靠。[8]今天的人工智能,本质上是把现实生活中的问题量化成可计算的问题再用计算机求解,对于语音识别、人脸识别、机器翻译这类无法预先写定公式与参数的问题,就需要让计算机从大量数据中自主学习出相应的参数——这正是机器学习的用武之地,也解释了它为何与大数据形影不离。[9]
三种学习方式
按照训练数据是否带有"标准答案",机器学习通常分为监督学习、无监督学习和强化学习三大类。监督学习从带标签的数据中学习输入与输出之间的映射:例如给机器看大量分别标好"猫"或"狗"的图片,机器学习两种动物的差别,以后再遇到新图片就能正确区分,常见算法包括回归分析与统计分类。无监督学习则只提供问题、不提供答案,让机器自己找出数据中隐藏的规律或把相似的东西归类,典型算法是聚类。强化学习让智能体在与环境的持续交互中,依据奖励信号不断优化自己的行为策略。[10]大数据时代的一个现实矛盾在于:监督学习训练出的模型性能更优,但对海量数据逐一打标签的代价极高、耗时耗力,因此现实中更多是海量无标签数据伴随少量带标签数据的局面,如何利用少量标签"举一反三",成为机器学习研究的重要课题。[11]从方法论谱系看,统计推断中的贝叶斯派与频率派两大思想也各自孕育了朴素贝叶斯分类器、贝叶斯网络以及线性回归、最大似然估计等经典算法。[12]
深度学习带来的范式跃迁
传统机器学习依赖人工设计特征,而 2006 年前后 Geoffrey Hinton 等人提出的深度神经网络方法,让机器可以从数据中自动提炼多层次特征,机器学习由此迎来爆发期。2015 年,AlphaGo 结合深度神经网络与蒙特卡罗树搜索击败围棋冠军李世石,标志着深度强化学习在复杂决策问题上的突破;自 2020 年起,以 GPT、BERT 等为代表的大规模预训练语言模型迅速发展,展现出强大的语言理解与生成能力,推动机器学习从文本扩展至图像、语音、机器人控制等多模态任务。[13]深度学习的崛起让图像、语音等感知类问题取得了真正意义上的突破——目前最好的语音识别和影像识别系统都以深度学习技术完成,从手机厂商宣传的 AI 拍照功能,到电商平台的个性化商品推荐,背后都是深度神经网络在工作。[14]需要指出的是,深度学习本是机器学习中受重视的一个分支,它本身也要用到有监督和无监督的学习方法来训练深度神经网络,两者是包含而非并列的关系。[15]
从棋盘走向产业与实验室
机器学习的应用版图早已越出博弈游戏。在产业界,它支撑着数据挖掘、计算机视觉、自然语言处理、生物特征识别、搜索引擎、医学诊断、信用卡欺诈检测、证券市场分析、DNA 序列测序、语音和手写识别等广泛领域。[16]在气象、能源等传统行业,大数据与机器学习的结合同样成效显著:中国大渡河水电公司汇集上百个水文、雨量自测站点数据与气象预报数据,重构水情预报模式,将预报周精度提升到 95%,年增发电量 1.2 亿千瓦时。[17]在科学前沿,AlphaFold 将蛋白质结构预测精度提升到接近实验水准,其成果获得 2024 年诺贝尔化学奖,证明机器学习已成为推动重大科学发现的"重要合作者";围棋与蛋白质折叠的本质都是在复杂搜索空间中定位最优解,数据驱动的 AI 辅助研究正在成为科学发现的新范式。[18]面向未来,研究者正探索自监督学习、联邦学习、元学习等新方向,以减少对标注数据的依赖、提升隐私保护能力,而量子计算的潜力也为机器学习开辟了新的想象空间。[19]
参考资料
- ↑ "深度学习"技术已深入生活,科技日报,2020-11-06。
- ↑ 机器学习(多领域交叉学科),科普中国。
- ↑ 机器学习(多领域交叉学科),科普中国。
- ↑ 机器学习(多领域交叉学科),科普中国。
- ↑ 机器学习(多领域交叉学科),科普中国。
- ↑ 人工智能发展的热点透视,中国社会科学网,2022-09-20。
- ↑ 复旦大学计算机教授写的这本AI科普,人人都能读得懂,澎湃新闻。
- ↑ 机器究竟如何学习?详解人工智能的"左右互搏术",党报头条。
- ↑ 机器究竟如何学习?详解人工智能的"左右互搏术",党报头条。
- ↑ 复旦大学计算机教授写的这本AI科普,人人都能读得懂,澎湃新闻。
- ↑ 机器人怎么学习?靠海量未带标签数据辅助少量带标签数据,澎湃新闻。
- ↑ 机器学习(多领域交叉学科),科普中国。
- ↑ 机器学习(多领域交叉学科),科普中国。
- ↑ "深度学习"技术已深入生活,科技日报,2020-11-06。
- ↑ "深度学习"技术已深入生活,科技日报,2020-11-06。
- ↑ 人工智能对经济计量方法的重要影响,人民论坛网,2020-01-14。
- ↑ 人工智能:着力为高质量发展提供新动能,科技日报,2019-07-01。
- ↑ 【周周讲科普】人工智能与学习,闵行区图书馆。
- ↑ 机器学习(多领域交叉学科),科普中国。