Coupling a rychlost konvergence diskrétních MCMC algoritmů.
Coupling and speed of convergence of discrete MCMC algorithms.
bachelor thesis (DEFENDED)
View/ Open
Permanent link
http://hdl.handle.net/20.500.11956/37791Identifiers
Study Information System: 91200
Collections
- Kvalifikační práce [10693]
Author
Advisor
Referee
Dvořák, Jiří
Faculty / Institute
Faculty of Mathematics and Physics
Discipline
Financial Mathematics
Department
Department of Probability and Mathematical Statistics
Date of defense
27. 6. 2011
Publisher
Univerzita Karlova, Matematicko-fyzikální fakultaLanguage
Czech
Grade
Excellent
Keywords (Czech)
Markovův řetězec, stacionární rozdělení, konvergence, coupling, MCMC algoritmusKeywords (English)
Markov chain, stationary distribution, convergence, coupling, MCMC algorithmKonvergence marginálního rozdělení Markovova řetězce ke stacionárnímu rozdělení je důležitá vlastnost, která má v moderní matematice mnoho aplikací. Jednou z nich jsou např. Markov Chain Monte Carlo algoritmy, které slouží ke generování realizací ze složitých pravděpodobnostních rozdělení. Pro takové aplikace je klíčové správně odhadnout tzv. mixing time Markovova řetězce, tj. počet kroků nutný k tomu, aby se marginální rozdělení řetězce lišilo od stacionárního rozdělení jen s povolenou nepřesností. Cílem této práce je popsat metodu odhadu mixing time, která využívá obecnou pravděpodobnostní techniku zvanou coupling. V první části textu bude vybudován teoretický aparát, na jehož základě tuto metodu odvodíme. Ve druhé části předvedeme její použití na klasických příkladech Markovových řetězců, kterým je například náhodná procházka po grafu. V závěru ukážeme odhad rychlosti konvergence Metropolisova řetězce pro přípustná obarvení grafu, jakožto typického příkladu MCMC algoritmu.
Convergence of the marginal distribution of a Markov chain to its stationary distribution is an essential property of this model with many applications in different fields of modern mathematics. Such typical applications are for example the Markov Chain Monte Carlo algorithms, which are useful for sampling from complicated probability distributions. A crucial point for usefulness of such algorithms is the so called mixing time of corresponding Markov chain, i.e. the number of steps the chain has to make for the difference between its current marginal distribution and stationary distribution to be sufficiently small. The main goal of this thesis is to describe a method for estimation of the mixing time based on a probability technique called coupling. In the first part we collect some definitions and propositions to show how the method works. Later the method is demonstrated on several traditional examples of Markov chains including e.g. random walk on a graph. In the end we study Metropolis chain on the set of proper colorings of a graph as a specific example of MCMC algorithm and show how to estimate its mixing time.