Velká data - extrakce klíčových informací pomocí metod matematické statistiky a strojového učení

Abstract

Tato práce se zabývá metodami zpracování dat, zejména analýzou hlav- ních komponent a její øídkou modi kací (AØHK), která je NP-tì¾kou úlohou. Úlohu AØHK lze pøepsat do regresního kontextu, ve kterém je øídkost typicky vynucována pomocí ℓ1-penalizace regresních koe cientù. V této práci navrhujeme pou¾ít iterativní pøeva¾ování ℓ2-penalizace namísto zmínìného ℓ1-pøístupu. Vý- sledný algoritmus porovnáváme s nìkolika známými algoritmy pro AØHK pomocí simulaèní studie a také zajímavého praktického pøíkladu, ve kterém analyzujeme data o hlasování poslancù v Parlamentu Èeské republiky. Experimentálnì uka- zujeme, ¾e námi navr¾ený algoritmus produkuje lep¹í výsledky ne¾ ostatní uva- ¾ované algoritmy. Pro navr¾ený algoritmus uvádíme té¾ dùkaz konvergence spolu s dùkazem konvergence pùvodního regresního pøístupu k AØHK. v

This thesis is concerned with data analysis, especially with principal component analysis and its sparse modi cation (SPCA), which is NP-hard-to- solve. SPCA problem can be recast into the regression framework in which spar- sity is usually induced with ℓ1-penalty. In the thesis, we propose to use iteratively reweighted ℓ2-penalty instead of the aforementioned ℓ1-approach. We compare the resulting algorithm with several well-known approaches to SPCA using both simulation study and interesting practical example in which we analyze voting re- cords of the Parliament of the Czech Republic. We show experimentally that the proposed algorithm outperforms the other considered algorithms. We also prove convergence of both the proposed algorithm and the original regression-based approach to PCA. vi