Estimation of the pair correlation function of a point process

Abstract

Tato práce se zabývá jádrovými odhady párové korelační funkce stacionárního a isot- ropního bodového procesu. Jako první jsou vybudovány základy teorie bodových procesů. Potom jsou odvozeny vzorce pro střední hodnotu a rozptyl jádrových odhadů párové ko- relační funkce. Dále je odvozena Poissonovská aproximace rozptylu jádrového odhadu se složitější okrajovou korekcí než lze běžně najít v literatuře. Tyto vzorce závisí na para- metru nazývaném šírka pásma. Jsou shrnuty doporučení pro volbu šířky pásma a jsou provedeny simulační experimenty pro kontrolu správnosti odvozených vzorců. Tyto ex- perimenty také prokazují, že aproximace rozptylu získaná pomocí ignorování členů tzv. "vyšších řádů" není použitelná. Nakonec je diskutována volba šířky pásma a výhody a nevýhody několika postupů pro volbu šířky pásma. 1

This thesis deals with kernel estimation of the pair correlation function of a stationary and isotropic point process. Firstly, the basics of the theory of point processes are built up. Then, the derivation of formulas for expectation and variance of a kernel estimator is provided. Also, an extension of a simple Poisson approximation of variance to the case of an estimator with more complicated edge correction compared to what is usually used in the literature is given. These formulas depend on a parameter called bandwidth. The recommendations for selecting the bandwidth that can be found in the literature are summarised and simulation experiments are performed to assess the correctness of the derived formulas. These experiments also prove that a variance approximation obtained by ignoring so called "higher order correlations" is unjustified. Lastly, bandwidth selection and the advantages and disadvantages of several approaches for bandwidth selection are discussed. 1