公共选修课程
课程名称: 实用最优化算法及其应用
英文名称: Practical Optimization Algorithms and Applications
课程编号: S070100GX023 开课编号: 2GX023Z/Y 开课学期:
课程类型: 公共选修课程学  时: 40学  分: 1.5
授课教师:  
教师简介:
 
预修课程:
高等数学、数值线性代数
教学目的:
本课程是为非数学专业硕士研究生所开的公共选修课。最优化问题在计算机科学,大气科学,地球科学,遥感技术,国防,工程,管理等许多领域广泛出现。本课程系统地介绍各种常用的最优化算法,还介绍部分针对求解特殊形式优化问题的算法。 通过本课程学习,希望学生能初步学会如何应用优化的主要算法去解决常见的优化问题。
教学内容:
第一章 引论 优化问题的数学表示,实例,最优化方法的结构。 第二章 无约束优化基础 局部最优解与全局最有解,无约束优化问题求解方法概述。 第三章 线搜索方法 步长选择,充分下降条件,算法收敛性的证明。 第四章 信赖域方法 Cauchy点,子问题求解方法,算法收敛性的证明。 第五章 共轭剃度方法 算法的二次中止性,预条件,关于算法的全局收敛性和收敛速度的讨论 第六章 拟Newton方法 BFGS方法,SR1方法,Broyden族方法,非精确Newton法,有限内存拟Newton算法。 第七章 无导数优化算法 坐标轮换法,模式搜索方法,共轭方向方法,基于模型的方法。 第八章 最小二乘问题 Gauss-Newton方法,Levenberg-Marguardt方法。 第九章 约束优化基础 最优性条件,Lagrange 乘子,对偶理论 第十章 线性规划 单纯形方法,内点方法 第十一章 二次规划 直接求解KKT系统的方法,求解凸二次规划的积极集方法,投影剃度法方法,内点法 第十二章 罚函数方法和增广Lagrangian方法 光滑罚函数法,非光滑罚函数法,增广Lagrangian方法 第十三章 SQP方法 算法框架,评价函数,filter,二阶校正步,收敛性分析。 第十四章 求解非线性优化的内点方法 原始系统与原始对偶系统,基于线搜索框架和信赖域框架的内点法。
教  材:
袁亚湘,孙文瑜《最优化理论与方法》,科学出版社,1997。
参考资料:
1 J. Nocedal and S. Wright, Numerical Optimization, Springer, 1999(影印版,科学出版社,2006)。 2.袁亚湘,《非线性规划计算方法》,科学出版社,2008。