Schița de curs
ZIUA 1 - REȚELE NEURONALE ARTIFICIALE
Introducere și structura ANN.
- Neuroni biologici și neuroni artificiali.
- Modelul unei ANN.
- Funcții de activare utilizate în ANN.
- Clase tipice de arhitecturi de rețea.
Fundamente matematice și mecanisme de învățare.
- Reactualizarea algebrei vectoriale și matriceale.
- Concepte de spațiu al stărilor.
- Concepte de optimizare.
- Învățare prin corectarea erorilor.
- Învățare bazată pe memorie.
- Învățare Hebbiană.
- Învățare competitivă.
Perceptroni cu un singur strat.
- Structura și învățarea perceptronilor.
- Clasificator de tipare - introducere și clasificatori Bayes.
- Perceptronul ca clasificator de tipare.
- Convergența perceptronului.
- Limitările perceptronilor.
ANN de tip feedforward.
- Structuri ale rețelelor feedforward cu mai multe straturi.
- Algoritmul de back propagation.
- Back propagation - training și convergență.
- Aproximare funcțională cu back propagation.
- Aspecte practice și de proiectare ale învățării prin back propagation.
Rețele cu funcții de bază radiale.
- Separabilitatea tiparelor și interpolare.
- Teoria regularizării.
- Regularizare și rețele RBF.
- Proiectarea și trainingul rețelelor RBF.
- Proprietăți de aproximare ale RBF.
Învățare competitivă și ANN cu auto-organizare.
- Proceduri generale de clustering.
- Learning Vector Quantization (LVQ).
- Algoritmi și arhitecturi de învățare competitivă.
- Hărți de caracteristici auto-organizate.
- Proprietăți ale hărților de caracteristici.
Rețele neuronale fuzzy.
- Sisteme neuro-fuzzy.
- Fundamentele mulțimilor și logicii fuzzy.
- Proiectarea sistemelor fuzzy.
- Proiectarea ANN-urilor fuzzy.
Aplicații
- Vor fi discutate câteva exemple de aplicații ale rețelelor neuronale, avantajele și problemele acestora.
ZIUA 2 - MACHINE LEARNING
- Cadrul de învățare PAC
- Garanții pentru setul finit de ipoteze – caz consistent
- Garanții pentru setul finit de ipoteze – caz inconsistent
- Generalități
- Scenarii deterministe vs. stocastice
- Zgomot de eroare Bayes
- Erori de estimare și aproximare
- Selecția modelului
- Complexitatea Rademacher și dimensiunea VC
- Compromisul bias-varianță
- Regularizare
- Over-fitting
- Validare
- Support Vector Machines
- Kriging (regresie cu procese gaussiene)
- PCA și Kernel PCA
- Hărți auto-organizate (SOM)
- Spațiu vectorial indus de kernel
- Kernel-uri Mercer și metrici de similaritate induse de kernel
- Reinforcement Learning
ZIUA 3 - DEEP LEARNING
Aceasta va fi predată în legătură cu subiectele acoperite în Ziua 1 și Ziua 2
- Regresie logistică și Softmax
- Sparse Autoencoders
- Vectorizare, PCA și albire
- Self-Taught Learning
- Rețele profunde
- Decodoare liniare
- Convoluție și pooling
- Sparse Coding
- Analiza componentelor independente
- Analiza corelației canonice
- Demo-uri și aplicații
Cerințe
O bună înțelegere a matematicii.
O bună înțelegere a statisticii de bază.
Competențe de bază în programare nu sunt obligatorii, dar sunt recomandate.
Mărturii (2)
Lucrând pe baza principiilor de bază într-un mod concentrat, și trecerea la aplicarea studiilor de caz în aceeași zi
Maggie Webb - Department of Jobs, Regions, and Precincts
Curs - Artificial Neural Networks, Machine Learning, Deep Thinking
Tradus de catre o masina
It was very interactive and more relaxed and informal than expected. We covered lots of topics in the time and the trainer was always receptive to talking more in detail or more generally about the topics and how they were related. I feel the training has given me the tools to continue learning as opposed to it being a one off session where learning stops once you've finished which is very important given the scale and complexity of the topic.
Jonathan Blease
Curs - Artificial Neural Networks, Machine Learning, Deep Thinking
Tradus de catre o masina
