Generátor anglické poezie s předtrénovanými jazykovými modely

Abstract

Title: English poetry generation with pretrained language models Author: Vojtěch John Department: Institute of Formal and Applied Linguistics Supervisor: Mgr. et Mgr. Ondřej Dušek, Ph.D., Institute of Formal and Applied Linguistics Abstract: In this thesis we deal with possible ways of English poetry generation independent on a concrete form of poetic form. We briefly discuss selected known attempts to English poetry generation with respect to their adaptability. Based on the already existing limerick generator LimGen we created a new English poetry generator called PGen, flexible with respect to rhyme and metric schemes and allowing usage of finetuned language models. We present PGen together with subjective evaluation of poems it generated (in 4 different poetic forms) by several human raters. Keywords: poetry generation, natural language generation, natural language processing, pretrained language models

Název práce: Generátor anglické poezie s předtrénovanými jazykovými modely Vojtěch John / Ústav Ústav formální a aplikované lingvistiky Vedoucí bakalářské práce: Mgr. et Mgr. Ondřej Dušek, Ph.D. Ústav formální a aplikované této bakalářské práci se zabýváme možnými způsoby generování poezie anglickém jazyce a jejich možnou parametrizací konkrétní básnickou formou Stručně popisujeme vybrané známé přístupy ke generování anglické důrazem Na základě již existujícího systému pro generování limeriků LimGen jsme vytvořili vlastní generátor anglické poezie PGen, flexibilní vzhledem rýmovým a metrickým schématům a umožňující využití vyladěných jazykovýc modelů, který v práci představujeme. Součástí práce je i subjektivní hodnocení jím vygenerovaných básní různých básnických forem několika hodnotiteli. Klíčová slova: generování poezie generování přirozeného jazyka, zpracování přirozeného jazyka, předtrénované jazykové modely