Artificial neural networks for clustering and rule extraction

Abstract

Název práce: Umělé neuronové sítě pro klastrování a extrakci pravidel Autor: Jiří Iša Katedra (ústav): Katedra softwarového inženýrství Vedoucí práce: RNDr. Iveta Mrázová, CSc. E-mail vedoucí: mrazova@ksi.ms.mff.cuni.cz Klíčová slova: fuzzy, pravidla, extrakce, neuronová síť Abstrakt: Problematika extrakce pravidel pomocí neuronových sítí byla během uplynulých desetiletí častým námětem výzkumných prací. Tato diplomová práce navrhuje nový model rostoucí fuzzy inferenční neuronové sítě, vycházejících z principu rostoucích neuronových struktur. To síti umožňuje pos- tupný nárůst počtu skrytých neuronů až do velikosti potřebné pro dané úlohy. Pro účely této sítě byla zvýšena citlivost již existujícího shlukovacího algoritmu vůči požadovaným výstupním hodnotám. Je také představen nový rychlý al- goritmus adaptace vah, inspirovaný teorií fuzzy množin. Vlastnosti navrženého modelu i nová metoda výběru signifikantních vstupních příznaků podporuje ex- trakci relativně malého množství jednoduchých fuzzy pravidel. Navržené tech- niky jsou experimenálně ověřeny na reálných datech popisujících vztah mezi různým typem bydlení v okolí Bostonu a jeho cenou. Data byla získána z databáze "Bostonské...

Title: Artificial neural networks for clustering and rule extraction Author: Jiří Iša Department: Department of Software Engineering Supervisor: RNDr. Iveta Mrázová, CSc. Supervisor's e-mail: mrazova@ksi.ms.mff.cuni.cz Keywords: fuzzy, rules, extraction, neural network Abstract: Rule extraction with neural networks has been a com- mon research topic over the last decades. This master thesis proposes a novel growing fuzzy inference neural network, based on the principle of growing neural structures. This allows the network to adjust iteratively its number of hidden neurons. For the purpose of this network an existing clustering algorithm is en- hanced to improve the sensitivity to the requested output. A novel fast weights adaptation, inspired by the fuzzy set theory, is also suggested. The characteristics of the proposed model and a new method of the selection of significant input features support the induction of a relatively small amount of simple fuzzy rules. The introduced techniques have been exper- imentally tested on real-world data describing the relationship between various types of housing in the Boston area and its price. The data was obtained from the "Boston housing" dataset.