(Nová hlavička kurzu)
 
(57 intermediate revisions by 4 users not shown)
Line 2: Line 2:
 
     | code = 2-AIN-132
 
     | code = 2-AIN-132
 
     | title = Neurónové siete
 
     | title = Neurónové siete
 +
    | otherprograms = 2-IKV
 
}}
 
}}
 
__TOC__
 
__TOC__
  
Cieľom predmetu je oboznámiť so základnými konceptmi a metódami umelých neurónových sietí a ich použitím pri riešení rôznych úloh. Teoretické prednášky sú kombinované s praktickým modelovaním na cvičeniach v jazyku Matlab.
+
Cieľom predmetu je oboznámiť so základnými konceptmi a algoritmami učenia umelých neurónových sietí a ich použitím pri riešení rôznych úloh. Teoretické prednášky sú kombinované s praktickým modelovaním na cvičeniach v jazyku Python.
 
<!--[https://sluzby.fmph.uniba.sk/infolist/sk/2-AIN-132_15.html Informačný list predmetu]-->
 
<!--[https://sluzby.fmph.uniba.sk/infolist/sk/2-AIN-132_15.html Informačný list predmetu]-->
  
<!--
 
 
== Novinky ==
 
== Novinky ==
  
'''New: '''Pridal som opravný termín 29.6.
+
[https://moodle.uniba.sk/moodle/inf11/mod/assign/view.php?id=24906 Projekt 1] - termín odovzdania: 4.4.2019 23:59
  
'''New:''' v pondelok 26.6. bola skúška presunutá na 14:30.
+
Projekt [https://moodle.uniba.sk/moodle/inf11/mod/assign/view.php?id=24918 (2a)] alebo [https://moodle.uniba.sk/moodle/inf11/mod/assign/view.php?id=24919 (2b)] - termín odovzdania: štvrtok 25.4.2019 23:59
  
Projekt [http://dai.fmph.uniba.sk/courses/NN/ns-proj1.pdf (1)] - termín odovzdania: pondelok 27.3.2017
+
Projekt [https://moodle.uniba.sk/moodle/inf11/mod/assign/view.php?id=24921 (3a)] alebo [https://moodle.uniba.sk/moodle/inf11/mod/assign/view.php?id=24922 (3b)] - termín odovzdania: pondelok 27.5.2019 23:59
  
Projekt [http://dai.fmph.uniba.sk/courses/NN/ns-proj2a.pdf (2a)] alebo [http://dai.fmph.uniba.sk/courses/NN/ns-proj2b.pdf (2b)] - termín odovzdania: pondelok 24.4.2017
+
'''Skúška:''' v AISe sú vypísané termíny, so začiatkom písomnej časti vždy o 8:30 v I-8. Maximálne 8 ľudí na termín. Ťaháte si pseudonáhodne 3 otázky zo [http://dai.fmph.uniba.sk/courses/NN/ns-otazky.pdf zoznamu otázok].  
  
Projekt [http://dai.fmph.uniba.sk/courses/NN/ns-proj3a.pdf (3a)] alebo [http://dai.fmph.uniba.sk/courses/NN/ns-proj3b.pdf (3b)] - termín odovzdania: pondelok 22.5.2017
 
 
'''Skúška:''' v AISe sú vypísané termíny (7., 9., 15., 20., 26.6), so začiatkom písomnej časti vždy o 8:30 v I-8. Môžete sa prihlasovať, maximálne 8 ľudí na termín. Odhlasovanie (prihlasovanie) je možné do 8:30 (18:30) v deň pred skúškou. Ťaháte si pseudonáhodne 3 otázky zo [http://dai.fmph.uniba.sk/courses/NN/ns-otazky.pdf zoznamu otázok]. -->
 
 
<!--;13. 2. 2017
 
: Výučba predmetu sa začne prednáškou v utorok 21. februára.-->
 
 
<!-- [[#Archív noviniek|Archív noviniek…]]  
 
<!-- [[#Archív noviniek|Archív noviniek…]]  
  
Line 40: Line 34:
 
|utorok
 
|utorok
 
|11:30
 
|11:30
|F1-109
+
|F1-108
 
|[[Igor Farkas|Igor Farkaš]]
 
|[[Igor Farkas|Igor Farkaš]]
 
|-
 
|-
|[https://moodle.uniba.sk/moodle/inf11/course/view.php?id=558 Praktické cvičenie]
+
|[https://moodle.uniba.sk/moodle/inf11/course/view.php?id=734 Praktické cvičenie]
 
|streda
 
|streda
 
|18:10
 
|18:10
 
|I-H6
 
|I-H6
|[[Tomas Kuzma|Tomáš Kuzma]], [[Matus Tuna|Matúš Tuna]]
+
|[[Peter Gergel|Peter Gergeľ]], [[Juraj Holas|Juraj Holas]]
 
|}
 
|}
  
Line 58: Line 52:
 
!Literatúra
 
!Literatúra
 
|-
 
|-
|21.2.
+
|19.2.
|Úvod do umelých neurónových sietí (NS, konekcionizmu): inšpirácia z neurobiológie, stručná história NS, základné koncepty. NS s logickými neurónmi. <!--[http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.intro.L01.pdf slajdy]-->
+
|Úvod do umelých neurónových sietí (NS, konekcionizmu): inšpirácia z neurobiológie, stručná história NS, základné koncepty. NS s logickými neurónmi. [http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.intro.L01.4x.pdf slajdy]
 
| [U1/1][U2/1][U3]
 
| [U1/1][U2/1][U3]
 
|-
 
|-
|28.2.
+
|26.2.
|Binárny/spojitý perceptrón: učenie s učiteľom, chybové funkcie, učiace pravidlá, klasifikácia vzorov, lineárne separovateľné problémy. Súvis s Bayesovským lineárnym klasifikátorom. <!--[http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.perceptron.L02.pdf slajdy]-->
+
|Binárny/spojitý perceptrón: učenie s učiteľom, chybové funkcie, učiace pravidlá, klasifikácia vzorov, lineárne separovateľné problémy. Súvis s Bayesovským lineárnym klasifikátorom. [http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.perceptron.L02.4x.pdf slajdy]
|[U2/3][U1/5][U3]
+
|[U2/3][U1/5]
 
|-
 
|-
|07.3.
+
|05.3.
|Lineárne NS: vektorové priestory, autoasociatívna pamäť (model General Inverse), ortogonálna projekcia, detektor novosti. Pamäť korelačnej matice (CMM model). <!--[http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.linear-memories.L03.pdf slajdy]-->
+
|Lineárne NS: vektorové priestory, autoasociatívna pamäť (model General Inverse), ortogonálna projekcia, detektor novosti. Pamäť korelačnej matice (CMM model). [http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.linear-memories.L03.4x.pdf slajdy]
|[U1/4][U3]
+
|[U1/4]
 
|-
 
|-
|14.3.
+
|12.3.
|Viacvrstvový perceptrón: algoritmus spätného šírenia chyby (BP), trénovacia a testovacia množina, generalizácia, validácia, selekcia modelu. <!--[http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.multilayer-perceptron.L04.pdf slajdy]-->
+
|Viacvrstvový perceptrón: algoritmus spätného šírenia chyby (BP). Trénovacia a testovacia množina, generalizácia. Validácia, selekcia modelu. [http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.mlp.L04.4x.pdf slajdy]
|[U1/5][U2/4][U3]
+
|[U1/5][U2/4][U5/5]
 
|-
 
|-
|21.3.
+
|19.3.
|Hebbovské učenie bez učiteľa, extrakcia príznakov, analýza hlavných komponentov, aplikácie. <!--[http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.hebbian-pca.L05.pdf slajdy]-->
+
|Modifikácie gradientových metód učenia, optimalizácia druhého rádu, regularizácia. Hlboké siete (úvod).   [http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.deep.L05.4x.pdf slajdy]
|[U2/8][U3]
+
|[U1/5][U2/4][U5][U6/3]
 
|-
 
|-
|28.3.
+
|26.3.
|Učenie so súťažením, samoorganizujúca sa mapa (SOM), klasterizácia, topografické zobrazenie, redukcia dimenzie. <!--[http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.som.L06.pdf slajdy]-->
+
|Hebbovské učenie bez učiteľa, extrakcia príznakov, analýza hlavných komponentov (PCA). [http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.pca.L06.4x.pdf slajdy]
|[U1/7][U2/9][U3]
+
|[U2/8]
 
|-
 
|-
|04.4.
+
|02.4.
|NS s radiálnymi bázovými funkciami (RBF), funkčná aproximácia, trénovanie, RLS algoritmus, kernel. <!--[http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.rbf.L07.pdf slajdy]-->
+
|Učenie so súťažením, samoorganizujúca sa mapa (SOM), klasterizácia, topografické zobrazenie, redukcia dimenzie. [http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.som.L07.4x.pdf slajdy]
|[U2/5-6][U3]
+
|[U1/7][U2/9]
 
|-
 
|-
|11.4.
+
|09.4.
|Hopfieldov model NS: deterministická dynamika, atraktory v stavovom priestore, autoasociatívna pamäť, náčrt stochastického modelu. <!--[http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.hopfield-aam.L08.pdf slajdy]-->
+
|NS s radiálnymi bázovými funkciami (RBF), funkčná aproximácia, trénovanie, RLS algoritmus. [http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.rbf.L08.4x.pdf slajdy]
|[U1/8][U2/13][U3]
+
|[U2/5-6]
 
|-
 
|-
|18.4.
+
|16.4.
 +
|Hopfieldov model NS: deterministická dynamika, atraktory v stavovom priestore, autoasociatívna pamäť, náčrt stochastického modelu. [http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.hopfield-aam.L09.4x.pdf slajdy]
 +
|[U1/8][U2/13]
 +
|-
 +
|23.4.
 
|voľno - Veľká noc
 
|voľno - Veľká noc
 
|
 
|
 
|-
 
|-
|25.4.
+
|30.4.
|Modelovanie sekvenčných dát: dopredné NS s časovým oneskorením, čiastočne a úplne rekurentné modely, (gradientové) algoritmy trénovania. <!--[http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.seq-nn.L09-10.pdf slajdy]-->
+
|Modelovanie sekvenčných dát: dopredné NS s časovým oneskorením, čiastočne a úplne rekurentné modely, model SRN, (gradientové) algoritmy trénovania. [http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.seq-nn.L10.4x.pdf slajdy]
|[U1/6][U2/15][U3]
+
|[U1/6][U2/15]
 
|-
 
|-
|02.5.
+
|07.5.
|Organizácia stavového priestoru v RNN. Siete s echo stavmi (ESN), rekurentná SOM.  
+
|Deterministické rekurentné modely NS: Organizácia stavového priestoru v SRN, siete s echo stavmi (ESN), rekurentná SOM, model LSTM. [http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.rnn.L11.4x.pdf slajdy]
|[U1/6][U4][U3]
+
|[U1/6][U4]
 
|-
 
|-
|09.5.
+
|14.5.
|Stochastické rekurentné modely NS: Boltzmannov stroj, RBM model, hlboké architektúry NS, Deep Belief Network.  
+
|Stochastické rekurentné modely NS: základné koncepty teórie pravdepodobnosti a štatistickej mechaniky, Boltzmannov stroj, RBM model, Deep Belief Network. [http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.stochastic.L12.4x.pdf slajdy]
|[U5][U3]
+
|[U2][U5]
|-
+
|16.5.
+
|Hlboké neurónové siete: koncept hlbokého učenia, aktivačné funkcie, konvolúcia, inicializácia modelu, (pred)trénovanie, aplikácie. <!--[http://dai.fmph.uniba.sk/courses/NN/Lectures/nn.deep.L11.pdf slajdy]-->
+
|[U5][U3]
+
|-
+
|23.5.
+
|Opakovanie, otázky a odpovede (v prípade záujmu).
+
|
+
 
|}
 
|}
  
Line 122: Line 112:
 
* Jaeger H. (2007). [http://www.scholarpedia.org/article/Echo_state_network Echo-state network]. Scholarpedia, 2(9):2330. [U4]
 
* Jaeger H. (2007). [http://www.scholarpedia.org/article/Echo_state_network Echo-state network]. Scholarpedia, 2(9):2330. [U4]
 
* Goodfellow I., Bengio Y., Courville A. (2016). [http://www.deeplearningbook.org Deep Learning]. MIT Press. [U5]   
 
* Goodfellow I., Bengio Y., Courville A. (2016). [http://www.deeplearningbook.org Deep Learning]. MIT Press. [U5]   
 +
* Kuzma T. (2016). [[Media:Course:Kuzma-minimovka.pdf| Deep Learning in Neural Networks]]. Knižničné a edičné centrum FMFI UK v Bratislave. [U6]
  
 
== Podmienky absolvovania a spôsob hodnotenia ==
 
== Podmienky absolvovania a spôsob hodnotenia ==
  
* Odovzdanie aspoň dvoch (z troch) úspešných projektov počas semestra (max. 3x7 = 21 bodov). Termíny na odovzdanie projektov budú včas uvedené na stránke. Projekty budú ponúkať aj bonusy (max. 2 body).  
+
* Odovzdanie aspoň dvoch (z troch) projektov počas semestra (max. 3x7 = 21 bodov). Termíny na odovzdanie projektov budú včas uvedené na stránke. Projekty budú ponúkať aj bonusy (max. 2 body).  
* Študent môže byť požiadaný, aby prezentoval svoj funkčný kód na cvičení ako súčasť odovzdania projektu. Na cvičeniach sa budú robiť malé zadania, za ktoré tiež bude možné získať body (max. 8).
+
* Študent môže byť požiadaný, aby prezentoval svoj funkčný kód na cvičení ako súčasť odovzdania projektu. Na cvičeniach sa budú robiť malé úlohy, za ktoré tiež bude možné získať body (max. 11 za semester).
* Absolvovanie záverečnej písomno-ústnej skúšky (3 otázky po max. 6 bodov). Na skúšku sa môže prihlasiť len ten, kto má oznámkované aspoň dva projekty s fungujúcim kódom. Skúška je povinná, písomno-ústna, študent musí na nej získať aspoň 6 bodov.
+
* Absolvovanie záverečnej písomno-ústnej skúšky (3 otázky po 6 bodov, pseudonáhodný výber). Na skúšku sa môže prihlasiť len ten, kto má oznámkované aspoň dva projekty s fungujúcim kódom. Skúška je povinná, písomno-ústna, je nutné získať aspoň 6 bodov.
* Prednášky sú dobrovoľné, za účasť možno získať pár bodov (max. 3).
+
* Prednášky sú dobrovoľné, za účasť však možno získať max. 3 body.
 
* <b>Celkové hodnotenie:</b> A (50-46), B (45-41), C (40-36), D (35-31), E (30-26), Fx (25-0).
 
* <b>Celkové hodnotenie:</b> A (50-46), B (45-41), C (40-36), D (35-31), E (30-26), Fx (25-0).
  
Line 135: Line 126:
 
* Projekt, spolu so zdrojovým kódom, sa odovzdáva k stanoveného termínu. Za každý oneskorený kalendárny deň (max. 7 dní) odovzdania vzniká malus 1 bod (až do nuly). Úspešný projekt (fungujúci model) odovzdaný viac ako týždeň po termíne sa započítava bez bodov.
 
* Projekt, spolu so zdrojovým kódom, sa odovzdáva k stanoveného termínu. Za každý oneskorený kalendárny deň (max. 7 dní) odovzdania vzniká malus 1 bod (až do nuly). Úspešný projekt (fungujúci model) odovzdaný viac ako týždeň po termíne sa započítava bez bodov.
 
* Pri projekte sa hodnotí najmä obsah, ale záleží aj na forme. Obsah projektu musí byť zrozumiteľný, aby čitateľ videl, čo ste robili a ako ste to robili, t.j. grafické výstupy musia byť kombinované so sprievodným textom. Za výraznejšie formálne a gramatické nedostatky môžu byť strhnuté body.
 
* Pri projekte sa hodnotí najmä obsah, ale záleží aj na forme. Obsah projektu musí byť zrozumiteľný, aby čitateľ videl, čo ste robili a ako ste to robili, t.j. grafické výstupy musia byť kombinované so sprievodným textom. Za výraznejšie formálne a gramatické nedostatky môžu byť strhnuté body.
* Model môže byť naprogramovaný v hocijakom jazyku (okrem Matlab-u), a projekt musí byť odovzdaný vo formáte PDF.
+
* Model je naprogramovaný v jazyku Python a projekt sa odovzdáva vo formáte PDF.
 
* Pri zistení plagiátorstva študent(ka) získava automaticky nula bodov z projektu a nebude pripustený(-á) ku skúške.
 
* Pri zistení plagiátorstva študent(ka) získava automaticky nula bodov z projektu a nebude pripustený(-á) ku skúške.

Latest revision as of 14:49, 14 May 2019

Neurónové siete 2-AIN-132

Cieľom predmetu je oboznámiť so základnými konceptmi a algoritmami učenia umelých neurónových sietí a ich použitím pri riešení rôznych úloh. Teoretické prednášky sú kombinované s praktickým modelovaním na cvičeniach v jazyku Python.

Novinky

Projekt 1 - termín odovzdania: 4.4.2019 23:59

Projekt (2a) alebo (2b) - termín odovzdania: štvrtok 25.4.2019 23:59

Projekt (3a) alebo (3b) - termín odovzdania: pondelok 27.5.2019 23:59

Skúška: v AISe sú vypísané termíny, so začiatkom písomnej časti vždy o 8:30 v I-8. Maximálne 8 ľudí na termín. Ťaháte si pseudonáhodne 3 otázky zo zoznamu otázok.


Rozvrh výučby

Druh výučby Deň Čas Miesto Vyučujúci
Prednáška utorok 11:30 F1-108 Igor Farkaš
Praktické cvičenie streda 18:10 I-H6 Peter Gergeľ, Juraj Holas


Sylabus

Dátum Názov prednášky Literatúra
19.2. Úvod do umelých neurónových sietí (NS, konekcionizmu): inšpirácia z neurobiológie, stručná história NS, základné koncepty. NS s logickými neurónmi. slajdy [U1/1][U2/1][U3]
26.2. Binárny/spojitý perceptrón: učenie s učiteľom, chybové funkcie, učiace pravidlá, klasifikácia vzorov, lineárne separovateľné problémy. Súvis s Bayesovským lineárnym klasifikátorom. slajdy [U2/3][U1/5]
05.3. Lineárne NS: vektorové priestory, autoasociatívna pamäť (model General Inverse), ortogonálna projekcia, detektor novosti. Pamäť korelačnej matice (CMM model). slajdy [U1/4]
12.3. Viacvrstvový perceptrón: algoritmus spätného šírenia chyby (BP). Trénovacia a testovacia množina, generalizácia. Validácia, selekcia modelu. slajdy [U1/5][U2/4][U5/5]
19.3. Modifikácie gradientových metód učenia, optimalizácia druhého rádu, regularizácia. Hlboké siete (úvod). slajdy [U1/5][U2/4][U5][U6/3]
26.3. Hebbovské učenie bez učiteľa, extrakcia príznakov, analýza hlavných komponentov (PCA). slajdy [U2/8]
02.4. Učenie so súťažením, samoorganizujúca sa mapa (SOM), klasterizácia, topografické zobrazenie, redukcia dimenzie. slajdy [U1/7][U2/9]
09.4. NS s radiálnymi bázovými funkciami (RBF), funkčná aproximácia, trénovanie, RLS algoritmus. slajdy [U2/5-6]
16.4. Hopfieldov model NS: deterministická dynamika, atraktory v stavovom priestore, autoasociatívna pamäť, náčrt stochastického modelu. slajdy [U1/8][U2/13]
23.4. voľno - Veľká noc
30.4. Modelovanie sekvenčných dát: dopredné NS s časovým oneskorením, čiastočne a úplne rekurentné modely, model SRN, (gradientové) algoritmy trénovania. slajdy [U1/6][U2/15]
07.5. Deterministické rekurentné modely NS: Organizácia stavového priestoru v SRN, siete s echo stavmi (ESN), rekurentná SOM, model LSTM. slajdy [U1/6][U4]
14.5. Stochastické rekurentné modely NS: základné koncepty teórie pravdepodobnosti a štatistickej mechaniky, Boltzmannov stroj, RBM model, Deep Belief Network. slajdy [U2][U5]

Literatúra

  • Kvasnička V., Beňušková., Pospíchal J., Farkaš I., Tiňo P. a Kráľ A. (1997). Úvod do teórie neurónových sietí. Iris: Bratislava. [U1]
  • Haykin S. (2009). Neural Networks and Learning Machines (3rd ed.). Upper Saddle River, Pearson Education (k dispozícii na štúdium v knižnici FMFI, ale aj stiahnuteľné z webu). [U2]
  • Farkaš I. (2011). Neural networks. Knižničné a edičné centrum FMFI UK v Bratislave. Novšia verzia z roku 2016. [U3]
  • Jaeger H. (2007). Echo-state network. Scholarpedia, 2(9):2330. [U4]
  • Goodfellow I., Bengio Y., Courville A. (2016). Deep Learning. MIT Press. [U5]
  • Kuzma T. (2016). Deep Learning in Neural Networks. Knižničné a edičné centrum FMFI UK v Bratislave. [U6]

Podmienky absolvovania a spôsob hodnotenia

  • Odovzdanie aspoň dvoch (z troch) projektov počas semestra (max. 3x7 = 21 bodov). Termíny na odovzdanie projektov budú včas uvedené na stránke. Projekty budú ponúkať aj bonusy (max. 2 body).
  • Študent môže byť požiadaný, aby prezentoval svoj funkčný kód na cvičení ako súčasť odovzdania projektu. Na cvičeniach sa budú robiť malé úlohy, za ktoré tiež bude možné získať body (max. 11 za semester).
  • Absolvovanie záverečnej písomno-ústnej skúšky (3 otázky po 6 bodov, pseudonáhodný výber). Na skúšku sa môže prihlasiť len ten, kto má oznámkované aspoň dva projekty s fungujúcim kódom. Skúška je povinná, písomno-ústna, je nutné získať aspoň 6 bodov.
  • Prednášky sú dobrovoľné, za účasť však možno získať max. 3 body.
  • Celkové hodnotenie: A (50-46), B (45-41), C (40-36), D (35-31), E (30-26), Fx (25-0).

Projekty počas semestra

  • Projekt, spolu so zdrojovým kódom, sa odovzdáva k stanoveného termínu. Za každý oneskorený kalendárny deň (max. 7 dní) odovzdania vzniká malus 1 bod (až do nuly). Úspešný projekt (fungujúci model) odovzdaný viac ako týždeň po termíne sa započítava bez bodov.
  • Pri projekte sa hodnotí najmä obsah, ale záleží aj na forme. Obsah projektu musí byť zrozumiteľný, aby čitateľ videl, čo ste robili a ako ste to robili, t.j. grafické výstupy musia byť kombinované so sprievodným textom. Za výraznejšie formálne a gramatické nedostatky môžu byť strhnuté body.
  • Model je naprogramovaný v jazyku Python a projekt sa odovzdáva vo formáte PDF.
  • Pri zistení plagiátorstva študent(ka) získava automaticky nula bodov z projektu a nebude pripustený(-á) ku skúške.