Groupe de travail ‘Outils mathématiques pour l’apprentissage statistique’

Ecole Normale Supérieure, 2020

Le confinement est de retour, nous allons donc continuer le cours en distanciel via Zoom.

Channel slack. Pour pouvoir discuter et recevoir vos questions en dehors du cours, un channel slack est disponible ici https://join.slack.com/t/enscoursstatgtml/signup. Il faut utiliser votre adresse e-mail en @ens.​fr, @dma.​ens.​fr, @clipper.​ens.​psl.​eu ou @ens.​psl.​eu pour s’inscrire. Vous pouvez l’utiliser via un nagivateur web, mais c’est mieux d’utiliser l’application slack (à installer sur votre laptop).

Lien Zoom. Voici le lien zoom pour le groupe de travail https://zoom.us/j/98511934516?pwd=OTB4ZWh2R2J2TkZzeXpVL0QzL1phUT09

Le but de ce groupe de travail est de travailler sur certains outils et résultats mathématiques en lien avec l’étude théorique des algorithmes d’apprentissage statistique. On retiendra de façon non-exhaustive les grands thèmes suivants :

  • Calcul des probabilités, inégalités de concentration
  • Géométrie en grande dimension
  • Optimisation convexe
  • Statistique mathématique

Le groupe le travail reposera dans un premier temps sur l’étude du polycopié très complet de P. Rigollet sur ce sujet, disponible ici :

Liste d’inscrits

La direction de l’ENS nous demande de fournir une liste d’inscrits par cours pour pouvoir garantir une tracabilité en cas de Covid. Pouvez-vous remplir, si ce n’est pas déjà fait, le tableau à l’adresse suivante :

Liste de passage

Merci de remplir le tableau suivant pour indiquer votre passage au GT :

Documents complémentaires

Sur l’espérance conditionnelle

Preuves des deux “no free lunch theorems”

Sur les SVM et les méthodes à noyaux

Autres références

Voici quelques autres références sur ce sujet :

  • C. M. Bishop, Pattern recognition and machine learning. Springer (2006)
  • S. Boucheron, G. Lugosi, and P. Massart, Concentration inequalities: A nonasymptotic theory of independence. Oxford university press (2013)
  • S. Bubeck, Convex Optimization: Algorithms and Complexity, In Foundations and Trends in Machine Learning (2015)
  • Friedman, J., Hastie, T. and Tibshirani, R., The elements of statistical learning. New York: Springer series in statistics (2001).
  • K. Murphy, Machine Learning, A Probabilistic Perspective. MIT Press (2012)
  • R. Vershynin, High-Dimensional Probability: An Introduction with Applications in Data Science, Cambridge Series in Statistical and Probabilistic Mathematics (2018)