Monadic NP sets

Abstract

Generalised spectra, id est classes finitely axiomatisable in existential second-order logic restricted to finite structures, are known by Fagin's theorem to coincide with members of the complexity class NP. Thereby, the problem of NP being closed under complementation reduces to the problem whether every class of finite struc- tures complementary to a generalised spectrum is, too, a generalised spectrum. Provided P ̸= NP, a proof thereof could then possibly be based on finding a par- ticular generalised spectrum (thereby an NP class) whose complement, while in coNP would not be in NP. Pursuits of such a proof, too, however, have been to no avail. A partial resolution of this problem (itself a special case to so called Asser's problem) is Fagin-Hájek theorem, claiming that a subclass of NP, the class of so called monadic NP sets is not closed under complementation. Reproduc- ing Fagin's original proof of the theorem is the aim of this thesis, along with introducing the reader to all preliminary apparatus needed for the proof. 1

Jako zobecněná spektra se označují třídy konečně axiomatisovatelné v existenční druhořádové logice s relací platnosti omezenou na konečné struktury. Jest známým faktem, že korrespondují dle Faginovy věty s prvky složitostní třídy NP. Prob- lém uzavřenosti NP na komplementaci se tedy redukuje na problém uzavřenosti zobecněných spekter na komplementaci. Důkaz P ̸= NP, za předpokladu, že ono tvrzení skutečně platí, by tak mohl spočívat v nalezení konkretního zobecněného spektra (a tedy třídy v NP), jehož doplněk, jsa arci v coNP, by nebyl prvkem NP. Hledání takového důkazu ovšem též nepřineslo úspěch. Částečné rozřešení tohoto problému (an sám je toliko speciálním příkladem obecnějšího tak zvaného prob- lému Asserova) přinesla Fagin-Hájkova věta, tvrdící, že jistá podtřída NP, třída tak zvaných monadických NP množin vskutku netvoří třídu uzavřenou na kom- plementaci. Reprodukce Faginova původního důkazu této věty, spolu s uvedením veškerého potřebného apparátu, je cílem této práce. 1