Le réglage d'hyperparamètres cherche la combinaison qui donne la meilleure performance en validation croisée : recherche sur grille, recherche aléatoire ou méthodes plus économes. Il se fait sur les données d'entraînement uniquement, le jeu de test étant réservé à l'évaluation finale d'un seul modèle retenu.