Replay d'expérience sensible à la diversité grâce aux scores de levier statistique
Des chercheurs proposent une méthode de rééchantillonnage pour l'apprentissage par renforcement hors politique (off-policy), publiée sur arXiv (2611.05929v1). Elle cible un défaut connu des robots physiques : le tampon de rejeu (replay buffer) est saturé de milliers de transitions quasi identiques issues du fonctionnement normal, alors que les événements rares qui définissent les limites de la tâche sont presque jamais tirés. L'idée est de noter chaque transition stockée selon son « leverage score » statistique, qui mesure son caractère inhabituel par rapport aux données du tampon. Le calcul n'utilise que les valeurs stockées, sans étiquettes, sans récompenses ni réseau de valeur. Chaque mini-lot est tiré dans un mélange de ce score et d'un échantillonnage uniforme. Sur un bras à trois articulations qui doit pousser un objet en contournant un obstacle, le taux de succès sur la tâche rare passe de 0,49 à 0,69, contre 0,74 pour un oracle disposant d'étiquettes.
Les auteurs signalent trois résultats négatifs ou contre-intuitifs qui comptent pour les praticiens. D'abord, la construction naturelle du score, qui retient les directions de plus forte variance, devient aveugle quand les actions sont stockées en encodage one-hot, car les colonnes d'indicateurs dominent toujours le classement de variance. Ils sélectionnent donc les colonnes aux queues les plus lourdes (kurtosis maximale), là où les petites populations éloignées apparaissent. Ensuite, les poids d'importance du rejeu priorisé, censés garder les gradients non biaisés, annulent exactement la méthode : avec correction complète, l'entraînement équivaut à l'échantillonnage uniforme. Les auteurs suppriment la correction et optimisent délibérément l'objectif rééquilibré. Enfin, lorsque les situations rares sont relationnelles, c'est-à-dire visibles seulement dans le rapport entre un segment de comportement et son but, les scores par transition ne voient rien. Appliquer la même règle de queue à de courtes fenêtres de trajectoire exprimées relativement au but rétablit le signal.
L'intérêt pour l'industrie est surtout méthodologique. Les journaux de robots réels sont déséquilibrés par nature, et la plupart des pipelines d'apprentissage par imitation ou par renforcement hors ligne échantillonnent uniformément. Un critère non supervisé, sans annotation ni récompense, abaisse le coût d'exploitation des logs de déploiement. Il faut toutefois relativiser : la validation porte sur un seul bras simulé à trois articulations, sans robot physique, sans manipulation à haute dimension ni comparaison annoncée avec les méthodes de rejeu priorisé usuelles au-delà de la variante corrigée. Le gain de 0,20 point reste éloigné de tout contexte de production, et l'écart résiduel de 0,05 avec l'oracle suggère une marge limitée mais réelle.
Ce travail s'inscrit dans la lignée du rejeu priorisé fondé sur l'erreur de différence temporelle, qui dépend d'un réseau de valeur, et des approches de rejeu rétrospectif orientées but. Le leverage score vient de l'algèbre linéaire numérique et de la régression. Aucun calendrier de passage à l'échelle ni jeu de données robotique réel n'est annoncé. Les suites logiques seraient des essais sur manipulateurs physiques et sur des politiques généralistes de type VLA entraînées sur de grands volumes de téléopération, où la rareté des cas limites pèse le plus.
Dans nos dossiers




