Apprentissage supervisé avec scikit-learn : régression et classification
Apprentissage supervisé : régression et classification est un cours de niveau intermédiaire de 5 leçons (environ 2 h 50), avec 12 exercices et 15 questions de quiz. Prérequis : Introduction au machine learning (scikit-learn). Les exercices s'exécutent dans le navigateur, sans installation.
- Data science
- Intermédiaire
- 5 leçons
- 2 h 50
- 12 exercices
- Exercices exécutés dans le navigateur
Le cours en bref
Ce cours présente les principaux algorithmes d'apprentissage supervisé et leur réglage avec scikit-learn. Vous entraînez des régressions linéaires et régularisées, des classifieurs logistiques, des arbres, des k plus proches voisins, puis des forêts aléatoires et du gradient boosting. À chaque étape, vous apprenez à mesurer la performance, à contrôler la complexité et à choisir le modèle adapté au problème.
Ce que tu sauras faire
- Entraîner une régression linéaire et l'évaluer avec MAE, RMSE et R² face à une baseline
- Régulariser un modèle linéaire avec Ridge, Lasso et le paramètre C
- Utiliser la régression logistique, ses probabilités et son seuil de décision
- Contrôler la complexité des arbres de décision et des k plus proches voisins
- Entraîner et comparer forêts aléatoires et gradient boosting
- Choisir un modèle supervisé selon la performance et les contraintes métier
Programme des 5 leçons
- Entraîner une régression linéaire et lire ses coefficients
- Calculer et interpréter MAE, RMSE et R²
- Comparer un modèle à une baseline naïve
- 02
Régularisation : Ridge et Lasso
- Comprendre pourquoi un modèle linéaire peut surapprendre
- Utiliser Ridge et Lasso et régler alpha
- Utiliser Lasso pour sélectionner des features
- 03
Classification avec la régression logistique
- Entraîner une régression logistique et obtenir des probabilités
- Comprendre le seuil de décision
- Régler la régularisation avec C
- 04
Modèles non linéaires : arbres de décision et k plus proches voisins
- Entraîner un arbre de décision et contrôler sa complexité
- Régler k dans un k plus proches voisins
- Comparer frontières linéaires et non linéaires
- 05
Méthodes d'ensemble : forêts aléatoires et gradient boosting
- Expliquer le principe du bagging et du boosting
- Entraîner RandomForest et HistGradientBoosting
- Lire l'importance des variables et choisir un modèle
Projet final
Comparer des modèles supervisés pour prédire la progression d'une maladie
À partir du jeu intégré load_diabetes (régression) puis de load_breast_cancer (classification), construisez pour chaque problème une démarche complète : baseline, modèle linéaire régularisé, arbre contraint, forêt aléatoire et HistGradientBoosting. Comparez-les par validation croisée sur le jeu d'entraînement, retenez un modèle par problème, évaluez-le une seule fois sur le test et justifiez votre choix en tenant compte de la performance et de l'interprétabilité. Pour la classification, proposez un seuil de décision argumenté.
Livrables
- Un script ou notebook reproductible pour chacun des deux problèmes
- Un tableau comparatif des modèles (moyenne et écart-type de validation croisée, métrique adaptée)
- Une analyse des variables les plus influentes du modèle retenu
- Une note de synthèse d'une page expliquant le choix du modèle et du seuil
Critères d'évaluation
- Métriques adaptées au type de problème et comparaison systématique à une baseline
- Hyperparamètres de complexité justifiés (alpha, C, max_depth, nombre d'arbres)
- Absence de fuite de données (prétraitement dans des pipelines, test utilisé une fois)
- Interprétation prudente des coefficients et importances
- Clarté et reproductibilité du code
Questions fréquentes
Quelle est la différence entre régression et classification ?
La régression prédit une valeur numérique continue (un prix, une durée), la classification prédit une catégorie (spam ou non, type de client). Les deux relèvent de l'apprentissage supervisé, car on apprend à partir d'exemples dont la réponse est connue.
Faut-il commencer par un modèle simple ou par le gradient boosting ?
Commencez toujours par une baseline naïve puis un modèle linéaire : ils servent de référence et sont faciles à interpréter. Essayez ensuite les forêts aléatoires et le gradient boosting, et comparez-les par validation croisée.
Quelle version de scikit-learn est utilisée ?
Le cours suit l'API récente de scikit-learn (versions 1.8 et suivantes) : root_mean_squared_error pour la RMSE, l1_ratio pour choisir la pénalité de la régression logistique et HistGradientBoosting pour le boosting.
Ce cours prépare-t-il au métier de data scientist ?
Oui. Il couvre les modèles supervisés utilisés au quotidien sur des données tabulaires et s'inscrit dans le parcours Data scientist, avant les cours sur l'évaluation des modèles et le feature engineering.
Ce cours, raconté pour ton métier
Dis ce que tu veux savoir faire : « Apprentissage supervisé : régression et classification » prend sa place dans ton parcours, avec des exemples de ton secteur. Les notions restent celles du cours.