Core reduction and total least squares for matrix approximation problems

Abstract

In this thesis, we concern ourselves with the linear approximation problem contain- ing multiple observations (measurements), where errors are considered to be present in both the model and the observation matrix. We focus on one of the methods used to approximate the solution in these cases, the total least squares (TLS) method. We review the existence and uniqueness theory of the TLS solution and the classical TLS algorithm for its computation. Furthermore, we present the concept of core reduction cor- responding to the linear problem, focusing on its iterative construction using the block Golub-Kahan iterative bidiagonalization (GKB) and its use in approximating the TLS solution of the original problem. As both the total least squares and the core reduction theory has only recently been generalized to fully accommodate all problems with multi- ple right-hand sides, a numerical analysis of the two approaches is missing in literature. The main goal of this thesis is therefore to study the TLS algorithm and the iterative core reduction numerically. We provide our own implementations of these algorithms including a discussion of proper parameter selection, and study their behaviour and applicability in numerical computations in several numerical experiments conducted in MATLAB.

V této práci se zabýváme lineárními aproximačními problémy s vícenásobnou pravou stranou (pozorováním, měřením), kde předpokládáme, že jak matice modelu, tak ma- tice pozorování jsou zatíženy chybami. Věnujeme se metodě úplných nejmenších čtverců (TLS), která umožňuje aproximovat řešení takového problému. V práci shrneme teorii existence a jednoznačnosti TLS řešení a uvedeme klasický TLS algoritmus pro jeho vý- počet. Dále se věnujeme konceptu core redukce příslušné danému lineárnímu problému. Představíme způsob iterační konstrukce core problému pomocí blokové Golub-Kahanovy iterační bidiagonalizace (GKB) a popíšeme možnost jeho využití při aproximaci TLS ře- šení původní úlohy. Jelikož teorie úplných nejmenších čtverců a core redukce pro problémy s vícenásobným pozorováním byly v plné obecnosti představeny teprve relativně nedávno, jejich numerická studie v literatuře chybí. Hlavní náplní této práce je tedy numerická stu- die zmíněných přístupů. Představíme vlastní implementace TLS algoritmu a iterační core redukce, včetně diskuze výběru vhodných vstupních parametrů, a pomocí několika ex- perimentů v MATLABu budeme studovat jejich chování a použitelnost v numerických výpočtech.