Předpodmíněné metody Krylovova typu v optimalizačních algoritmech

Abstract

One of the possible ways of solving general problems of constrained optimization is to convert them to a sequence of unconstrained problems. Then the need arises to solve unconstrained optimization problem reliably and efficiently. For this, Newton methods are usually applied, often in combination with sparse Cholesky decomposition. In practice, however, this approach may not be optimal in some cases and a suitable iterative algorithm may be preferred. The aim of this work is to use iterative algorithms with preconditioned Krylov subspace methods, like CGM and QMR, to solve unconstrained problems originating in the Augmented Lagrangian method applied to nonlinear and semidefinite programming (NLP-SDP). The specific implementation was carried out in PENNON software package.

Jedním z možných způsobů řešení obecných úloh podmíněné optimalizace je převést je na sekvence úloh nepodmíněné optimalizace. Vzniká tak potřeba spolehlivého a efektivního způsobu, jak problémy z této sekvence řešit. Zpravidla se využívá nějaké metoda Newtonova typu, často s použitím řídkého Choleského rozkladu. V praxi se však na některých problémech ukazuje, že tento způsob není vždy zcela vhodný a v takových případech je lepší nahradit Choleského rozklad či Newtonovu metodu nějakým vhodným iteračním algoritmem. Takovými algoritmy se budeme v této práci zabývat. Půjde o metody Krylovova typu, především o metody CGM a QMR a jejich předpomínění. Tyto metody jsou aplikovány na úlohy nepodmíněné optimalizace, které vznikají při řešení problémů nelineárního a semidefinitního programování (NLP-SDP) pomocí zobecněné metody rozšířeného lagrangiánu. Konkrétní implantace je provedena v rámci programu PENNON.