Deep neural networks and their application for image data processing
Deep neural networks and their application for image data processing
diploma thesis (DEFENDED)
View/ Open
Permanent link
http://hdl.handle.net/20.500.11956/77244Identifiers
Study Information System: 158689
Collections
- Kvalifikační práce [10932]
Author
Advisor
Referee
Holan, Tomáš
Faculty / Institute
Faculty of Mathematics and Physics
Discipline
Theoretical Computer Science
Department
Department of Theoretical Computer Science and Mathematical Logic
Date of defense
9. 2. 2016
Publisher
Univerzita Karlova, Matematicko-fyzikální fakultaLanguage
English
Grade
Excellent
Keywords (Czech)
umělé neuronové sítě, konvoluční neuronové sítě, DBN-sítě, obrazová data, klasifikaceKeywords (English)
artificial neural networks, convolutional neural networks, deep belief networks, image data, classificationV oblasti rozpoznávání obrázků dnes patří k nejslibnějším modelům tzv. hluboké neuronové sítě, které často dosahují výrazně lepších výsledků než tradiční techniky, navíc bez nutnosti cíleného předzpracování vstupních dat. Tato práce se zabývá studiem a analýzou vlastností tří základních variant hlubokých neuronových sítí, a to neokognitronu, konvolučních neuronových sítí a DBN-sítí (deep belief networks). Na základě rozsáhlého testování popisovaných modelů na standardní úloze rozpoznávání ručně psaných číslic se jako nejvhodnější pro rozpoznávání obecných obrazových dat jeví konvoluční neuronové sítě. Ty jsme proto použili i při rozpoznávání obrázků z rozsáhlých datových sad CIFAR-10 a ImageNet. Pro optimalizaci architektury použité sítě jsme navrhli vlastní algoritmus prořezávání založený na analýze hlavních komponent (PCA). Powered by TCPDF (www.tcpdf.org)
In the area of image recognition, the so-called deep neural networks belong to the most promising models these days. They often achieve considerably better results than traditional techniques even without the necessity of any excessive task-oriented preprocessing. This thesis is devoted to the study and analysis of three basic variants of deep neural networks-namely the neocognitron, convolutional neural networks, and deep belief networks. Based on extensive testing of the described models on the standard task of handwritten digit recognition, the convolutional neural networks seem to be most suitable for the recognition of general image data. Therefore, we have used them also to classify images from two very large data sets-CIFAR-10 and ImageNet. In order to optimize the architecture of the applied networks, we have proposed a new pruning algorithm based on the Principal Component Analysis. Powered by TCPDF (www.tcpdf.org)