本课定位第58课我们掌握泛函、泛函空间、线性算子的基础概念普通函数数→数泛函完整函数→单个数值。深度学习、AIGC所有优化逻辑本质都是寻找使泛函取最小值的函数普通梯度下降找数字向量让损失函数数函数最小变分法找最优函数让损失泛函最小。扩散模型、图像降噪、神经网络损失、最优传输全部依靠变分法建立理论。本节课从零搭建变分法体系打通泛函极值与AI大模型优化的底层逻辑。前置知识回顾泛函、L^2函数空间、内积第58课一元函数极值、导数、微积分基础傅里叶分析、扩散模型基础概念梯度下降、深度学习损失函数概念。一、区分函数极值 vs 泛函极值普通一元函数极值微积分函数 yf(x)输入实数 x极值条件一阶导数为0f’(x)0几何曲线切线水平局部最高点/最低点。多元向量函数深度学习常规损失损失 L(\boldsymbol w)输入是权重向量 \boldsymbol w[w_1,w_2…w_n]极值条件梯度为零向量\nabla L \boldsymbol 0泛函极值变分法核心泛函 J[y(x)]输入整条函数曲线 y(x)定义域区间 x\in[a,b]目标找到一条最优函数 y^*(x)使得泛函 J 达到极小/极大值。极值判定工具变分 δJ 0类比普通函数导数等于0。通俗类比函数固定曲线找曲线上最优的点泛函无穷多条不同曲线从中挑出最优的一条曲线。二、变分核心定义变分 δy函数的变分 δy设候选函数y_\varepsilon(x) y(x) \varepsilon \cdot \eta(x)y(x)待求的极值函数\varepsilon无穷小实数扰动参数\eta(x)任意光滑测试函数边界满足 \eta(a)\eta(b)0两端无扰动定义函数的变分\delta y \varepsilon \eta(x)含义给整条函数曲线施加微小、任意的形变扰动。泛函的变分 δJ将扰动后的 y_\varepsilon(x) 代入泛函 J[y]把泛函看作关于\varepsilon的一元函数J(\varepsilon) J\left[y(x)\varepsilon\eta(x)\right]泛函取极值的充要条件\varepsilon0 处对\varepsilon导数为0\frac{dJ}{d\varepsilon}\bigg|_{\varepsilon0}0定义泛函一阶变分\delta J \frac{dJ}{d\varepsilon}\bigg|_{\varepsilon0} \cdot \varepsilon极值核心条件一阶变分等于0\delta J0完全对标普通函数极值条件 dy0。三、欧拉-拉格朗日方程变分法万能求解公式标准积分型泛函AI、物理最常用泛函形式积分泛函J[y(x)]\int_{a}^{b} F\left(x,y,y’\right) dxF被积核函数依赖自变量x、函数y、一阶导数y’若 y(x) 使泛函J取极值则y(x) 一定满足欧拉-拉格朗日方程E-L方程\frac{\partial F}{\partial y} - \frac{d}{dx}\left( \frac{\partial F}{\partial y’} \right) 0公式通俗解读\dfrac{\partial F}{\partial y}核函数对函数本身求偏导\dfrac{\partial F}{\partial y’}核函数对函数导数求偏导\dfrac{d}{dx}\left(\dfrac{\partial F}{\partial y’}\right)对上面的结果再做全微分两项相减等于0解这个常微分方程得到最优函数y(x)。简化特例无x显式依赖若 FF(y,y’)不含自变量xE-L方程可简化为守恒形式F - y’ \cdot \frac{\partial F}{\partial y’} CC为常数大幅简化图像、扩散模型相关泛函求解。四、基础例题最短路径变分验证问题平面两点 A(a,y_a)、B(b,y_b)连接两点的曲线泛函弧长J[y]\int_{a}{b}\sqrt{1(y’)2}dx求使弧长最小的函数y(x)。步骤1确定核函数F\sqrt{1(y’)^2}步骤2代入欧拉-拉格朗日方程计算\frac{\partial F}{\partial y}0\frac{\partial F}{\partial y’}\frac{y’}{\sqrt{1(y’)^2}}对x求全微分后整体等于0最终解得 y’0通解ykxc一次直线函数。结论两点之间最短路径为直线完美验证变分法求解泛函极值的正确性。五、变分法在AI大模型中的核心应用推导应用1图像降噪能量泛函经典变分降噪模型定义含噪声图像 f(x)干净图像 u(x)降噪目标泛函总变分TV泛函J[u]\int \frac{1}{2}(u-f)^2 \lambda |\nabla u| dx第一项保真项保证降噪图像和原图接近第二项正则项约束图像平滑去除噪声\lambda平衡系数。变分求解将泛函代入欧拉-拉格朗日方程得到最优降噪图像满足的偏微分方程迭代求解得到干净图像是传统图像降噪、CV底层理论。应用2扩散生成模型变分下界ELBO扩散模型核心目标最大化对数似然 \log p_\theta(\boldsymbol x_0)直接求解困难利用变分引入后验分布 q(\boldsymbol x_{1:T}|\boldsymbol x_0)构造变分下界ELBO\log p(\boldsymbol x_0) \ge \mathbb E_q\left[ -\sum_{t1}^T D_{KL}\big(q(\boldsymbol x_{t-1}|\boldsymbol x_t,\boldsymbol x_0) \parallel p_\theta(\boldsymbol x_{t-1}|\boldsymbol x_t)\big) \right]变分逻辑拆解原本目标泛函图像生成概率最大化直接优化不可解引入辅助分布作为扰动测试函数变分不等式给出可计算下界模型训练等价最大化该变分下界反向扩散去噪、前向加噪过程全部由变分KL散度泛函约束。应用3神经网络损失函数统一变分解释普通离散神经网络输入有限维向量损失是多元函数用梯度下降无限维函数模型CNN、扩散、连续流模型模型输出为完整函数损失是泛函优化本质为变分极小化MSE、交叉熵损失均可写成积分泛函形式能用欧拉-拉格朗日方程推导最优模型函数。应用4最优传输大模型对齐、多模态匹配多模态大模型图文对齐、特征匹配依赖最优传输理论其核心是求解测度空间下的代价积分泛函极小值完全建立在变分法框架之上。六、本课核心总结普通函数找最优点变分法找最优函数曲线泛函极值条件为一阶变分 \delta J0对标函数导数为0。欧拉-拉格朗日E-L方程是求解积分型泛函极值的通用工具求解方程得到使泛函最小的最优函数。简单几何问题可通过变分严格证明最优解验证理论完备性。AI领域四大核心场景完全依赖变分法图像TV降噪、扩散模型ELBO变分下界、连续神经网络优化、多模态最优传输对齐。变分法搭建起泛函空间理论与深度学习模型训练的桥梁是AIGC生成模型底层核心数学工具。本课金句导数找最优数值点变分求解最优函数曲线欧拉-拉格朗日方程求解泛函极值是扩散模型、计算机视觉优化的底层理论根基。下节课预告第60课全套AI数学体系总复盘串联微积分、级数、线性代数SVD、傅里叶分析、泛函分析、变分法完整知识链梳理各工具在大模型、AIGC的分工与配合逻辑。