(→Sylabus) |
|||
| Riadok 6: | Riadok 6: | ||
__TOC__ | __TOC__ | ||
| − | Cieľom predmetu je oboznámiť so základnými konceptmi a algoritmami učenia umelých neurónových sietí a ich použitím pri riešení rôznych úloh. Teoretické prednášky sú kombinované s | + | Cieľom predmetu je oboznámiť študentov so základnými konceptmi a algoritmami učenia umelých neurónových sietí a ich použitím pri riešení rôznych úloh. Sylabus je kompozíciou starších modelov s novšími, v snahe ponúknuť vyváženú mozaiku prístupov. Teoretické prednášky sú kombinované s praktickými cvičeniami v jazyku Python. |
<!--[https://sluzby.fmph.uniba.sk/infolist/sk/2-AIN-132_15.html Informačný list predmetu]--> | <!--[https://sluzby.fmph.uniba.sk/infolist/sk/2-AIN-132_15.html Informačný list predmetu]--> | ||
| − | |||
| − | |||
| − | |||
<!-- | <!-- | ||
| Riadok 36: | Riadok 33: | ||
|- | |- | ||
|Prednáška | |Prednáška | ||
| − | | | + | |streda |
| − | | | + | |9:50 - 11:20 |
| − | |posl. | + | |posl. C |
|[[Igor Farkas|Igor Farkaš]] | |[[Igor Farkas|Igor Farkaš]] | ||
|- | |- | ||
| Riadok 47: | Riadok 44: | ||
|[[Stefan Pocos|Štefan Pócoš]], [[Iveta Beckova | Iveta Bečková]] | |[[Stefan Pocos|Štefan Pócoš]], [[Iveta Beckova | Iveta Bečková]] | ||
|} | |} | ||
| − | |||
== Sylabus == | == Sylabus == | ||
| Riadok 93: | Riadok 89: | ||
|- | |- | ||
|19.4. | |19.4. | ||
| − | |dekanské voľno | + | |dekanské voľno: ŠVK |
| | | | ||
|- | |- | ||
Verzia zo dňa a času 11:12, 5. február 2023
Neurónové siete 2-AIN-132
Obsah
Cieľom predmetu je oboznámiť študentov so základnými konceptmi a algoritmami učenia umelých neurónových sietí a ich použitím pri riešení rôznych úloh. Sylabus je kompozíciou starších modelov s novšími, v snahe ponúknuť vyváženú mozaiku prístupov. Teoretické prednášky sú kombinované s praktickými cvičeniami v jazyku Python.
Rozvrh výučby
| Druh výučby | Deň | Čas | Miesto | Vyučujúci |
|---|---|---|---|---|
| Prednáška | streda | 9:50 - 11:20 | posl. C | Igor Farkaš |
| Praktické cvičenie | štvrtok | 16:30 - 18:00 | H3 | Štefan Pócoš, Iveta Bečková |
Sylabus
| Dátum | Názov prednášky | Literatúra |
|---|---|---|
| 15.2. | Podmienky na absolvovanie predmetu. Úvod k predmetu, inšpirácia z neurobiológie, stručná história NS, základné koncepty. NS s logickými neurónmi. | [U1/1][U3/1][U5/1] |
| 22.2. | Binárny a spojitý perceptrón: učenie s učiteľom, chybové funkcie, binárna klasifikácia a regresia, lineárna separovateľnosť. Súvis s Bayesovským klasifikátorom. | [U1/1-3] |
| 01.3. | Jednovrstvové NS: Lineárna autoasociácia: model General Inverse. Klasifikácia do n-tried. Chybové funkcie, súvis s teóriou informácie. | [U4/3][U5/4] |
| 08.3. | Viacvrstvový perceptrón: algoritmus BP. Trénovanie, validácia, testovanie. Selekcia modelu. Bias-variance tradeoff. | [U1/4][U4/4] |
| 15.3. | Modifikácie gradientových metód, optimalizácia druhého rádu, regularizácia. Problémy optimalizácie. | [U1/15][U4/11] |
| 22.3. | Učenie bez učiteľa, extrakcia príznakov, model neurálnej PCA. Vizualizácia dát: model samoorganizujúcej sa mapy (SOM). | [U1/8-9][U5/7] |
| 29.3. | Modelovanie sekvenčných dát: dopredné NS, vzťah k n-gramom, čiastočne a úplne rekurentné modely, model SRN, algoritmy BPTT, RTRL. | [U4/8][U5/6] |
| 05.4. | Expanzia skrytej reprezentácie: NS s radiálnymi bázovými funkciami (RBF), sieť s echo stavmi (ESN). | [U1/5][U2] |
| 12.4. | Hlboké učenie. Konvolučné neurónové siete: základné princípy. | [U3/6,9, U4/6] |
| 19.4. | dekanské voľno: ŠVK | |
| 26.4. | Moderné rekurentné siete: autoenkódery, GRU, LSTM. | [U3/14,U4/9.1-2] |
| 03.5. | Hopfieldov model NS: deterministická dynamika, atraktory v stavovom priestore, autoasociatívna pamäť, náčrt stochastického modelu, moderné verzie. | [U1/13][U5/9] |
| 10.5. | Stochastické rekurentné modely NS: úvod do pravdepodobnostného modelovania, inšpirácia z fyziky, Boltzmannov stroj, RBM model, Deep Belief Network. | [U1/11][U3/16] |
Literatúra
- Farkaš I. (2016). Neural networks. Knižničné a edičné centrum FMFI UK v Bratislave. Slajdy k prednáškam.
- Haykin S. (2009). Neural Networks and Learning Machines (3rd ed.). Upper Saddle River, Pearson Education (k dispozícii na štúdium v knižnici FMFI, ale aj stiahnuteľné z webu). [U1]
- Jaeger H. (2007). Echo-state network. Scholarpedia, 2(9):2330. [U2]
- Goodfellow I., Bengio Y., Courville A. (2016). Deep Learning. MIT Press. [U3]
- Zhang A. et al. (2020). Dive into Deep Learning. An interactive deep learning book with code, math, and discussions, based on the NumPy interface. [U4]
- Kvasnička V., Beňušková., Pospíchal J., Farkaš I., Tiňo P. a Kráľ A. (1997). Úvod do teórie neurónových sietí. Iris: Bratislava. [U5]
Podmienky absolvovania a spôsob hodnotenia
- Odovzdanie aspoň dvoch (z troch) projektov počas semestra (max. 3x10 = 30 bodov). Termíny na odovzdanie projektov budú včas uvedené na stránke. Projekty budú ponúkať aj bonusy (max. 4 body).
- Študent môže byť požiadaný, aby prezentoval svoj funkčný kód na cvičení ako súčasť odovzdania projektu. Na cvičeniach sa budú robiť malé úlohy, za ktoré tiež bude možné získať body (max. 32 za semester). Z cvičení je nutné získať aspoň 15 bodov.
- Absolvovanie záverečnej písomno-ústnej skúšky (3 otázky, pseudonáhodný výber, spolu 30 bodov). Na skúšku sa môže prihlasiť len ten, kto má oznámkované aspoň dva projekty s fungujúcim kódom. Skúška je povinná, ústna, je nutné získať aspoň 12 bodov.
- Prednášky sú dobrovoľné, za účasť však možno získať max. 6 bodov.
- Celkové hodnotenie: A (100-91), B (90-81), C (80-71), D (70-61), E (60-51), Fx (50-0).
Projekty počas semestra
- Projekt, spolu so zdrojovým kódom, sa odovzdáva k stanoveného termínu (v systéme Moodle). Za každý oneskorený kalendárny deň (max. 5 dní) odovzdania vzniká malus 2 body (až do nuly). Úspešný projekt (fungujúci model) odovzdaný viac ako týždeň po termíne sa započítava bez bodov.
- Pri projekte sa hodnotí najmä obsah, ale záleží aj na forme (čitateľnosť, úprava). Obsah projektu musí byť zrozumiteľný, aby bolo jasné, čo a ako ste robili, t.j. grafické výstupy kombinované so sprievodným textom. Za výraznejšie formálne a gramatické nedostatky môže byť strhnutý bod.
- Model je naprogramovaný v jazyku Python a projekt sa odovzdáva vo formáte PDF.
- Pri zistení plagiátorstva študent(ka) získava automaticky nula bodov z projektu a nebude pripustený(-á) ku skúške.