Le contexte peut-il combler l'écart de réalité ? Transfert simulation-réel des politiques sensibles au contexte
Le sim-to-real transfer, c'est-à-dire le passage d'une politique de contrôle entraînée en simulation vers un robot réel, reste l'un des obstacles majeurs de l'apprentissage par renforcement (RL) en robotique. Une équipe de recherche propose dans cet article (arXiv:2511.04249, version révisée) d'intégrer un module d'estimation du contexte, c'est-à-dire une estimation des paramètres dynamiques de l'environnement, directement dans le pipeline d'entraînement basé sur la Domain Randomization (DR). Les chercheurs comparent plusieurs stratégies de supervision de cet estimateur de contexte, considérées comme état de l'art, et évaluent les politiques résultantes sur deux terrains : un benchmark de contrôle standard en simulation, et une tâche réelle de poussée d'objet (pushing) exécutée avec un bras robotique Franka Emika Panda.
L'enjeu dépasse la seule prouesse technique : la Domain Randomization, qui consiste à exposer la politique à une large gamme de dynamiques aléatoires pendant l'entraînement pour la rendre robuste, améliore le transfert vers le réel mais dégrade souvent les performances, car la politique doit rester valable pour tous les cas randomisés plutôt que de s'optimiser pour un seul. En conditionnant la politique sur une estimation du contexte plutôt qu'en l'entraînant à l'ignorer, les auteurs cherchent à réconcilier robustesse et performance, un compromis central pour quiconque déploie du RL sur du matériel réel en usine ou en logistique. Les résultats montrent que les politiques context-aware surpassent systématiquement la baseline context-agnostic sur tous les scénarios testés, ce qui confirme l'intérêt de cette approche, mais sans stratégie de supervision universelle : le choix optimal dépend de la tâche.
Ce travail s'inscrit dans une lignée de recherches visant à combler l'écart de réalité (reality gap) qui limite le RL appliqué à la robotique depuis plusieurs années, la DR classique restant la référence malgré ses limites connues. En publiant une version révisée sur arXiv, les auteurs affinent une méthode déjà proposée plutôt que d'annoncer un nouveau système. La validation reste à ce stade circonscrite à une tâche de manipulation simple sur un seul bras robotique commercial ; l'étape suivante consisterait à tester la généralisation de cette approche sur des tâches plus complexes et des plateformes variées avant d'envisager une adoption industrielle.
Dans nos dossiers




