Latent geometry of world models

Abstract

World models learn compact latent representations that support predic- tion and planning, but it is unclear whether their latent distances reflect the navigable structure of an environment. This thesis studies the geome- try of DreamerV1 representations in maze navigation tasks. In simple grid mazes, the deterministic RSSM state encodes agent position almost linearly, yet Euclidean latent distance remains an unreliable proxy for true distance. At PointMaze scale, this distance signal largely disappears, while temporal structure remains consistently represented. Based on this observation, we construct oracle-free exploration signals and show that temporal geometry can guide exploration.

World modely se učí kompaktní latentní reprezentace, které podporují predikci a plánování, není však zřejmé, zda latentní vzdálenosti zahrnují strukturu prostředí vhodnou pro navigaci. Tato práce zkoumá geometrii mo- delu DreamerV1 pro navigaci v bludištích. V jednoduchých bludištích zahr- nuje deterministický stav RSSM polohu agenta téměř lineárně, euklidovská latentní vzdálenost je ale nespolehlivým ukazatelem skutečné vzdálenosti. Při škálování do PointMaze tato metrika prakticky mizí, zatímco tempo- rální struktura zůstává dobře zachycená. Na základě tohoto pozorování jsme navrhli oracle-free signály pro průzkum prostředí a ukazujeme, že právě tem- porální geometrie může pomoci prozkoumávání.