优化
优化,又称最优化,是研究在给定约束条件下,如何从所有可行方案中选出使某个目标达到最优(最大或最小)的方案的理论与方法。它是应用数学的一个庞大分支,与运筹学、计算数学、控制理论和机器学习紧密交织。小到安排一次出行路线,大到电网调度、工业设计、金融决策与人工智能模型训练,几乎任何"求最好"的问题背后都离不开优化。[1]
在约束中寻求最好
优化问题的一般形态包含三个要素:决策变量、目标函数和约束条件。决策变量是可以调整的量,目标函数是需要最大化或最小化的指标,约束条件则划定了哪些方案是允许的。这种"戴着镣铐跳舞"的结构,使优化与纯粹的求极值区别开来——无约束时极值往往可由导数直接刻画,而一旦加上限制,问题就会变得复杂。
一个经典例子来自经济学中的消费者选择。消费者的总效用随商品数量增加而上升,但同时受到商品价格与货币收入的限制。要解决"在花光收入的条件下如何搭配商品才能使效用最大"这一问题,最直接的工具是拉格朗日乘数法:先构造拉格朗日函数,把约束以乘以参数的形式并入目标函数,再对各变量求偏导并令其为零,与约束方程联立求解。推导的结果表明,当消费者从每种商品获得的边际效用与其价格之比都相等时,商品组合达到最优,即所谓的消费者均衡。[2]这一结论把抽象的"效用最大化"化归为可计算的方程求解,正是优化思想的典型体现。
从极值条件到可用算法
拉格朗日乘数法给出的是最优解应满足的必要条件,但现实中的大量问题并不能直接解出闭式答案,必须依靠迭代算法逐步逼近。优化算法大多从一个初始点出发,按某种规则不断移动,直到满足收敛条件。如何决定每一步往哪个方向走、走多远,是算法设计的核心。
梯度下降法沿目标函数下降最快的方向前进,实现简单却可能在狭长谷地中反复震荡;拟牛顿法通过构造近似海森矩阵来加速收敛;共轭梯度法则在非线性问题上具有良好的收敛性质;而信赖域方法不是先定方向再定步长,而是先圈定一个"可信区域",在其中寻找一个近似最优步,因而对复杂问题更稳健。中国数学家袁亚湘在非线性优化计算方法、信赖域方法、拟牛顿方法、共轭梯度法等领域做出了突出贡献,他在非线性规划方面的一项研究成果被国际上命名为"袁氏引理"。[3]他曾担任国际运筹联盟副主席、亚太运筹学会主席等职,是中国优化研究走向国际的重要代表。[4]
算法好坏需要客观检验,数学家为此设计了标准的"测试函数"。其中Rosenbrock函数因等高线呈香蕉形而被称为"香蕉函数",它的全局最小值位于一条弯曲的山谷底部。这个点肉眼很容易看出,但由于山谷内函数值变化平缓,算法要在其中找到真正的最小值并不容易,因此它被广泛用来考验优化算法的性能。[5]
均衡、组合与不确定性
当优化问题中的变量必须取离散值时,就进入组合优化的范畴——从有限个方案中挑出最优组合,旅行商问题、背包问题都是其典型代表。组合优化追求全局最优,为此有时需要牺牲局部利益,这与博弈论形成有趣对照:博弈论研究理性个体的策略互动,个体各自追求自身利益最大化,但所有个体的理性选择未必带来系统整体的最优。以"优化与均衡"为主线,探讨个体理性决策的分布式特性与组合优化全局寻优之间的差异,已成为两者交叉融合的重要方向。[6]
现实决策还常面临不确定性。传统期望理论是线性的,而在经济与金融领域,未来的数据往往难以用线性预期刻画。中国数学家彭实戈开创了非线性数学期望领域,提出根据现在的数据预测未来的数据,其奠基性贡献被认为是为金融风险的计算提供了新的数学工具,他也因此被誉为"中国金融数学第一人"。[7]这类工作把优化从确定环境推广到风险环境,拓展了它的适用边界。
中国的优化研究传统
中国优化研究有着深厚的本土传统。数学家华罗庚晚年大力推广优选法与统筹法,写下《优选学》《计划经济范围最优化的数学理论》等著作,并撰写《优选法评话及其补充》《统筹法评话及补充》等科普作品,把高深的寻优思想变成工农生产中可以随手使用的工具。[8]这种"把数学交到群众手里"的努力,使优化在中国不只是象牙塔里的理论,更一度成为广泛参与的生产实践。此后,冯康、林群等学者在计算数学领域形成的算法与理论,被广泛运用于核电站、堆石坝等重大工程的计算之中。[9]
走向工程与智能
在高端制造中,优化正成为软件自主可控的关键支撑。中国科学院数学与系统科学研究院团队建立了以几何内核、并行有限元平台和高性能预条件子为代表的数学内核软件体系,攻克了复杂结构仿真中的网格生成与求解效率难题,为国产工业软件提供底层能力。[10]在流程工业中,"大模型做定性决策、小模型做定量优化"的协同机制被用于化工装置的优化调控,使装置在复杂工况下保持高效、低碳、经济的运行状态,推动生产由"经验驱动"转向"智能驱动"。[11]
事实上,今天广受关注的机器学习,其训练过程本质上就是一次超大规模优化:通过不断调整数以亿计的参数,使损失函数逐步下降。从拉格朗日乘数法到信赖域方法,从优选法到大模型训练,优化始终是连接数学理论与现实决策的一条主线。[12]
参考资料
- ↑ 袁亚湘:运气是什么,是你在关键时刻做出对自己最有利的决策,科普中国,2017-12-18。
- ↑ 拉格朗日乘数法,科普中国,2018-03-21。
- ↑ 袁亚湘:发自内心地去做一件事情,才能真正走上科研的道路,科普中国,2017-12-18。
- ↑ 袁亚湘:运气是什么,是你在关键时刻做出对自己最有利的决策,科普中国,2017-12-18。
- ↑ 众所周知,数学是一门好吃的学科,科普中国,2020-07-21。
- ↑ 第十三届全国数学文化论坛:陈旭瑾研究员——当组合优化遇到博弈论,科普中国。
- ↑ 彭实戈:用数学计算"对冲"金融风险,科普中国,2020-09-28。
- ↑ 数学家华罗庚,科普中国,2016-04-14。
- ↑ 林群:放不下的科普,科普中国,2016-08-30。
- ↑ 数学研究为国产工业软件突围筑根基,中国科学院,2026-02-04。
- ↑ 甲醇制烯烃:三代技术铺路,智能迭代加速,中国科学院,2026-01-06。
- ↑ 拉格朗日乘数法,科普中国,2018-03-21。