Aucune

Cours de probabilités de première année (1PROB)

Cours d'optimisation de première année (1OPTI)

Cours de statistiques de deuxième année (STAT)

À l'issue de ce module, les étudiants sauront :

1. Comprendre les problèmes principaux posés par la grande dimension en statistique (" fléau de la dimensionnalité "), ainsi que les nombreux bienfaits de la grande dimension (" bénédiction de la dimensionnalité ").

2. Sélectionner des méthodes statistiques pertinentes en grande dimension : sparsité, structure de type faible rang, choix du type de régularisation.

3. Analyser la performance statistique des principaux estimateurs utilisés en grande dimension.

4. Implémenter ces méthodes à l'aide de librairies Python, et évaluer la qualité des estimateurs entraînés.

1. Statistique en grande dimension : enjeux et intuition.

Phénomènes géométriques et probabilistes contre-intuitifs. " Fléau de la dimension ".

2. Modèle de suite gaussienne : un premier cas d'école.

Sous-optimalité des estimateurs " naturels ". Shrinkage et paradoxe de Stein.

3. Estimation de la moyenne : un deuxième cas d'école.

Limites des estimateurs classiques. Robustesse face aux queues lourdes.

4. Régularisation et parcimonie : le cas des modèles linéaires.

Problèmes mal posés en grande dimension. Moindres carrés et systèmes indéterminés.

5. Relaxation convexe : l'estimateur LASSO.

Définition et analyse géométrique du LASSO.

6. Théorie du LASSO.

Analyse théorique de l'estimateur.

7. Méthodes à noyaux et espaces de Hilbert.

Estimation en grande dimension dans les RKHS. " Bénédiction de la dimension ".

8. Sur-paramétrisation et généralisation.

Interpolation, double descente, sur-ajustement bénin et régularisation implicite.

Deux séances de travaux pratiques de 3h et deux séances de travaux dirigés de 3h auront lieu sur les créneaux du cours. Un devoir sera à effectuer à la maison et à rendre à mi-parcours, un des TPs sera noté, et la validation finale s'effectuera par un projet.

25% de l'évaluation finale couvrira le devoir à rendre à mi-parcours, 25% concernera le TP, et les 50% restants correspondront au projet.

Des slides serviront de support de cours et seront fournis au fur et à mesure aux étudiants.

10 Novembre 2025