线搜索
-
-
-
大规模共轭梯度数值优化系统
本项目旨在MATLAB环境下开发一套完整的共轭梯度法求解引擎，专门用于处理大规模数值最优化和线性方程组求解任务。共轭梯度法是介于最速下降法与牛顿法之间的一个方法，它仅需利用一阶导数信息，有效降低了单次迭代的计算复杂度。该算法从理论上克服了最速下降法在接近最优点时收敛速度极慢、容易产生锯齿现象的缺点，同时又避免了牛顿法在处理大规模问题时需要存储和计算高维Hesse矩阵并求逆的巨大开销。本系统实现了线性共轭梯度法（用于求解对称正定线性方程组）和非线性共轭梯度法（包括Fletcher-Reeves、Polak- -
L-BFGS大规模无约束优化算法底层实现
该项目通过MATLAB底层代码自主实现了有限内存BFGS（L-BFGS）算法，专门用于解决大规模无约束非线性优化问题。核心功能在于通过维护两个长度有限的向量序列来存储最近m步的自变量位移和梯度变化，进而利用双循环递归算法近似计算Hessian逆矩阵与梯度的乘积，从而确定搜索方向，有效避免了高维空间下显式存储和求逆巨大Hessian矩阵的计算开销。系统内置了满足强Wolfe准则的线搜索功能，能够动态调整步长以保证算法在迭代过程中的全局收敛性与计算稳定性。该实现不调用MATLAB自带的优化工具箱函数，完全通过 -
基于MATLAB的BFGS拟牛顿法无约束优化算法实现
本项目旨在采用MATLAB编程语言开发一套完整的Broyden-Fletcher-Goldfarb-Shanno（BFGS）算法，用于解决无约束非线性最优化问题。该项目核心利用拟牛顿法的思想，通过迭代过程中梯度信息的差分来近似Hessian矩阵的逆矩阵，从而避免了直接计算二阶偏导数矩阵（海森矩阵）及其求逆过程，显著降低了计算复杂度，提高了求解效率。系统内部集成了不精确线搜索策略（如Armijo准则或Wolfe-Powell准则）来自动调整步长，确保算法在每次迭代中都能获得函数值的充分下降，从而保证全局收敛性。该代码具备高度的通用性，支持用户自定义目标多元函数，并能处理凸函数与部分非凸函数的极值搜索。此外，项目还集成了可视化模块，能够实时跟踪优化路径，绘制目标函数等高线图及搜索轨迹，并输出收敛曲线，以便直观分析算法的收敛速度和稳定性。
