Compositionality and Disentanglement: Structured Representations in Simple Neural Models

Abstract

Title: Compositionality and Disentanglement: Structured Representations in Simple Neural Models Author: Michal Auersperger Department: Institute of Formal and Applied Linguistics Supervisor: doc. RNDr. Pavel Pecina, Ph.D., Institute of Formal and Applied Linguistics Abstract: We study conditions that encourage the emergence of structured neural represen- tations in communication games with discrete channels and in autoencoders with continuous channels. Across both settings, we examine two pressures: compres- sion, implemented through message length penalties and bounded activations, and training pressure, introduced through agent resetting and dropout. In signaling games, we propose grammar-based compositionality metrics derived from proba- bilistic context-free grammar induction and show that structured protocols support better generalization under constrained training conditions. For continuous repre- sentations, we introduce a vocabulary-based reconstruction measure that evaluates whether latent fragments can be recombined into valid codes. Experiments in con- trolled settings suggest that compression and training pressures promote represen- tations whose parts can be reused more systematically. Keywords: compositionality, generalization, emergent languages, disentan- glement iii

Název práce: Kompozicionalita a disentanglement: Strukturované reprezentace v jednoduchých neuronových modelech Autor: Michal Auersperger Pracoviště: Ústav formální a aplikované lingvistiky Vedoucí práce: doc. RNDr. Pavel Pecina, Ph.D., Ústav formální a aplikované lingvistiky Abstrakt: Zkoumáme tlaky, které vedou ke vzniku strukturovaných reprezentací v komunikač­ níchhrách mezi neuronovými agenty (diskrétní kanál) a v tradičních autoenkodérech (spojitý kanál). V obou prostředích studujeme dva typy tlaků: kompresi a nestabilitu prostředí. Kompresi realizujeme pomocí penalizace délky zpráv nebo volbou akti­ vační funkce. Nestabilitu prostředí simulujeme resetováním agentů nebo dropoutem. Pro měření kompozicionality diskrétních zpráv v komunikačních hrách navrhujeme sadu metrik založených na indukci pravděpodobnostních bezkontextových gramatik. Dále ukazujeme, že strukturované zprávy vedou k lepšímu zobecňování, ale pouze v případě, že je proces učení omezen. Pro spojité reprezentace zavádíme míru roz- vázanosti generativních rysů (disentanglementu), která hodnotí, do jaké míry lze ze spojitých reprezentací automaticky extrahovat a následně volně kombinovat sadu sémantických segmentů. Simulace naznačují, že zvolené tlaky podporují vznik re­ prezentací, jejichž význam je určen skládáním izolovaných významových...