Understanding the detection of generated text and its biases

Abstract

Following the release of ChatGPT - a chatbot based on GPT-3.5 - and its subsequent growth in popularity, concerns have emerged about the possible misuse of the service, particularly for plagiarism in academia. Given the natural-sounding text generation, the distinction between human-written and generated text is challenging for humans. In contrast, machine-learning methods proved to be accurate to some extent. However, prior work states that these methods rely on perplexity and tend to be biased against non- native speakers, whose texts often have lower perplexities. In this thesis, we revisit these statements after two years, specifically in the Czech language setting. We construct detectors from three separate families and find no systematic bias against non-native speakers. We further show that the perplexity of the texts from Czech non-native speakers is not lower than that of the native ones. Finally, we demonstrate that our detectors function effectively without relying on perplexity.

Po uvedení ChatGPT - chatbota založeného na modelu GPT-3.5 - a jeho následném nárůstu popularity se objevily obavy z možného zneužití této služby, zejména v oblasti plagiátorství v akademickém prostředí. Díky přirozeně znějící generaci textu je pro člověka obtížné rozlišit mezi textem napsaným člověkem a generovaným textem. Naproti tomu metody strojového učení se ukázaly být do určité míry přesné. Dřívější výzkumy však uvádějí, že tyto metody se opírají o míru perplexity a mají tendenci být zaujaté vůči nerodilým mluvčím, jejichž texty mívají nižší perplexitu. V této práci se k těmto tvrzením vracíme po dvou letech, konkrétně v kontextu českého jazyka. Vytváříme detektory ze tří různých skupin a nezjišťujeme žádnou systematickou zaujatost vůči nerodilým mluvčím. Dále ukazujeme, že perplexita textů českých nerodilých mluvčích není nižší než u rodilých mluvčích. Nakonec demonstrujeme, že naše detektory fungují efektivně i bez spoléhání se na perplexitu.