Groupe de travail

Ecole Normale Supérieure, 2020

Outils mathématiques pour l’apprentissage statistique

Le but de ce groupe de travail est de travailler sur certains outils et résultats mathématiques en lien avec l’étude théorique des algorithmes d’apprentissage statistique. On retiendra de façon non-exhaustive les grands thèmes suivants :

  • Calcul des probabilités, inégalités de concentration
  • Géométrie en grande dimension
  • Optimisation convexe
  • Statistique mathématique

Le groupe le travail reposera dans un premier temps sur l’étude du polycopié très complet de P. Rigollet sur ce sujet, disponible ici :

Liste d’inscrits

La direction de l’ENS nous demande de fournir une liste d’inscrits par cours pour pouvoir garantir une tracabilité en cas de Covid. Pouvez-vous remplir, si ce n’est pas déjà fait, le tableau à l’adresse suivante :

Documents en lien avec la première séance

Sur l’espérance conditionnelle

Preuves des deux “no free lunch theorems”

Autres références

Voici quelques autres références sur ce sujet :

  • C. M. Bishop, Pattern recognition and machine learning. Springer (2006)
  • S. Boucheron, G. Lugosi, and P. Massart, Concentration inequalities: A nonasymptotic theory of independence. Oxford university press (2013)
  • S. Bubeck, Convex Optimization: Algorithms and Complexity, In Foundations and Trends in Machine Learning (2015)
  • Friedman, J., Hastie, T. and Tibshirani, R., The elements of statistical learning. New York: Springer series in statistics (2001).
  • K. Murphy, Machine Learning, A Probabilistic Perspective. MIT Press (2012)
  • R. Vershynin, High-Dimensional Probability: An Introduction with Applications in Data Science, Cambridge Series in Statistical and Probabilistic Mathematics (2018)