Segmentation of 2D Diffraction Patterns in 4D Scanning Transmission Electron Microscopy Using Deep Learning

Abstract

This thesis addresses background removal in 4D-STEM nanobeam diffraction data, where strong, spatially varying background can hide diffraction peaks and prevent reli- able structural analysis. The problem is formulated as regression-based signal separa- tion rather than binary segmentation, preserving continuous diffraction intensities. A modified U-Net architecture is evaluated in supervised training with artificial labels and in self-supervised training directly on experimental data. The methods are compared with a Gaussian background-subtraction baseline on eight material samples. All eval- uated approaches successfully suppress the background and facilitate subsequent struc- tural analysis, including for a low-quality sample that was previously difficult to analyze. Richardson-Lucy deconvolution further improves agreement with the theoretical refer- ence patterns.

Tato práce se zabývá odstraňováním pozadí v datech 4D-STEM nanodifrakce, kde silné a prostorově proměnlivé pozadí může zakrývat difrakční maxima a bránit spoleh- livé strukturní analýze. Úloha je formulována jako regresní separace signálu, nikoli jako binární segmentace, což umožňuje zachovat spojité intenzity difrakce. Upravená architek- tura U-Net je vyhodnocena při supervizovaném trénování s uměle vytvořenými popisky i při samoučeném trénování přímo na experimentálních datech. Metody jsou porovnány s gaussovskou metodou odečítání pozadí na osmi materiálových vzorcích. Všechny hod- nocené přístupy úspěšně potlačují pozadí a usnadňují následnou strukturní analýzu, a to i u nekvalitního vzorku, který byl dříve obtížně analyzovatelný. Richardsonova-Lucyho dekonvoluce dále zlepšuje shodu s teoretickými referenčními obrazci.