Description
L'apprentissage profond « deep learning ». Concepts fondamentaux et avancés en apprentissage automatique. L'approche de maximum de vraisemblance et les fonctions de perte. Concepts avancés en probabilité et les éléments clés de l'algèbre linéaire. Réseaux neuronaux profonds, régularisation, fonctions d'activation, rétropropagation et des graphes de calculs. Descente de gradient stochastique, les taux d'apprentissage, « dropout », normalisation par lot. Les architectures clés de réseau incluant : les réseaux de neurones convolutifs, les autoencodeurs, les réseaux neuronaux récurrents, les réseaux de longue mémoire à court terme « LSTM ». Les réseaux stochastiques, les champs aléatoires conditionnels, les machines de Boltzmann. Modèles stochastiques et déterministes mixtes. Apprentissage par renforcement profond. Ce cours sera donné en anglais. Deep Learning. Fundamental and advanced concepts in machine learning. Maximum likelihood and loss functions. Advanced concepts in probability and key elements of linear algebra. Deep feedforward neural networks, regularization, activation functions, backpropagation and computation graphs. Stochastic gradient descent, learning rates, dropout, batch normalization. Key network architectures, including: convolutional neural networks, autoencoders, recurrent neural networks, long short-term memory (LSTM) networks. Stochastic networks, conditional random fields, Boltzmann machines. Mixed stochastic and deterministic models. Deep reinforcement learning.