S. Gerchinovitz, F. Malgouyres, E. Pauwels (Université Paul Sabatier), Nicolas Thome (CNAM)

L'objectif principal de ce cours est de présenter des résultats représentatifs de la recherche actuelle sur les justifications mathématiques des algorithmes d'apprentissage profond; puis de faire le lien avec la mise en pratique de ces algorithmes.

Nous commencerons par formaliser différents modèles de réseaux et par décrire des algorithmes de back-propagation utilisés pour leur minimisation. Le coeur du contenu mathématique du cours consistera ensuite en la présentation de résultats récents sur :
- Modélisation des réseaux de neurones et premières propriétés
- Back-propagation
- Estimation du risque
- Optimisation non-convexe
- Propriétés du paysage de la fonction objectif
- Expressivité
- Contrôle de l'erreur de généralisation
- Quantification d'incertitude
- Robustesse

Notions de base en Analyse, statistique et apprentissage machine, en programmation en python