基于数值实验的多块交替方向乘子法的收敛性研究开题报告

 2022-07-21 02:07

1. 研究目的与意义

目前,各界都在谈论大数据,对于统计而言,大数据意味着样本量增加,或是维度的增加,亦或者两者同时增加,并且维度与样本量的增长速度呈线性或者指数型增长。在稀疏性的假设条件下,再加上一些正则性方法,可以证明各种加penalty的模型所给出的参数估计具有良好的统计性质,收敛速度也有保证,同时还会给出一些比较好的迭代算法,但是,没有考虑真实环境下的所消耗的计算时间。面对真实的Gb级别以上的数据,很多时候我们还是无法直接用这些算法,一般的硬件都无法支撑直接对所有数据进行运算的要求。如果想减少抽样误差,不想抽样,又想提高估计的精度,那么还是需要寻求其他思路。本文主要研究的就是如何使用ADMM算法求解及其应用。

2. 研究内容和预期目标

本文的研究重点和分析角度表现在五个方面:第一,一块变量的ADMM算法求解。第二,二块变量的ADMM算法求解。第三,多块变量的ADMM算法求解。第四,ADMM算法是否收敛,不收敛情形下的优化。第五,交替方向乘子算法的应用。

3. 国内外研究现状

交替方向乘子算法是解决可分离凸规划问题的一种简单有效的方法,尤其在解决大规模问题上卓有成效.利用ADMM算法将原问题的目标函数进行等价分离,并且分解为若干个较易找到局部解的子问题,从而得到原问题的全局解。国外学者引进了辅助问题原理法,辅助问题原理允许我们通过一系列的辅助问题求解原问题的最优解,之后又将辅助问题原理法与分块协调下降法应用于增广拉格朗日函数的方法,用于求解可分优化问题。交替方向乘子法是一种典型的分解方法,最初,交替方向法的研究是应用于热方程的数值解等问题,后来,许多学者在前人工作的基础之上提出了一些近似交替方向法。交替方向法已经被广泛的应用于凸规划,变分不等式以及部分可微方程等问题的求解分解方法已成功应用于网络设计、价格决策管理、多学科设计优化等模型的求解中,它可以简化问题并提高工作效率。

4. 计划与进度安排

1、2022年11月30日-2022年12月10日:完成选题 2、2022年12月11日-2022年12月31日:阅读大量资料并选取有用资料待用,积累最新信息,完成开题工作 3、2022年1月1日-2022年1月18日: 上交详细的论文提纲,等待老师的指导意见 4、2022年4月10日前:完成初稿: 5、2022年5月16日前:完成论文修改、定稿、外文文献翻译工作 6、2022年6月10日前:完成所有资料的整理、论文的再修改和装订,并准备好参加学院组织的论文答辩。

5. 参考文献

[1] 许浩锋.基于交替方向乘子法的分布式在线学习算法[D]. 中国科学技术大学 2015[2] 张芳.对近似交错方向乘子法和分解方法的若干研究[D]. 重庆师范大学 2013[3] 黎蕾.求解凸最优化问题的近似交替方向法[D]. 重庆师范大学 2013[4] M. H. Xu.Proximal Alternating Directions Method for Structured Variational Inequalities[J]. Journal of Optimization Theory and Applications . 2007 (1)[5] D.R. Han,H.K. Lo.New Alternating Direction Method for a Class of Nonlinear Variational Inequality Problems[J]. Journal of Optimization Theory and Applications . 2002 (3)

[6] C.H. Chen, B.S. He, Y.Y. Ye and X. M. Yuan,The direct extension of ADMM for multi-block convex minimization problems is not necessary convergent, Mathematical Programming, 155 (2016), 57-79.

[7] M. Hong, Z. Luo, On the Linear Convergence of the Alternating Direction Method of Multipliers, preprint,2013

剩余内容已隐藏,您需要先支付 10元 才能查看该篇文章全部内容!立即支付

以上是毕业论文开题报告,课题毕业论文、任务书、外文翻译、程序设计、图纸设计等资料可联系客服协助查找。