Aller au contenu principal
PROMO : apprentissage par renforcement multi-objectif conditionné par les préférences pour robots quadrupèdesIllustration générée par IA
RecherchearXiv cs.RO 

PROMO : apprentissage par renforcement multi-objectif conditionné par les préférences pour robots quadrupèdes

1 source couvre ce sujet·Source originale ↗·

Compilé et résumé par IA · sources vérifiables en un clic · publié sans lecture humaine préalable · méthodologie

Résumé IASource unique

Des chercheurs proposent PROMO (Preference-Conditioned Multi-Objective Reinforcement Learning), une méthode qui transforme l'arbitrage entre objectifs de locomotion en entrée modifiable à l'exécution d'une politique unique pour robot quadrupède. Le travail, publié sur arXiv (2610.01260), vise un problème classique : le suivi de commande, la stabilité et l'efficacité énergétique entrent en conflit, et l'apprentissage par renforcement (RL) conventionnel fige leur hiérarchie dans une récompense scalaire fixée à l'entraînement. PROMO conditionne la politique sur des préférences exprimées au déploiement, tout en gardant fixes les a priori propres à l'embodiment, nécessaires à la génération d'une marche viable. En simulation, sur 100 préférences échantillonnées, 67 comportements sont non dominés au sens strict de Pareto, avec une corrélation moyenne préférence-objectif de 0,843. Sur un Unitree Go2, la même politique est transférée en zero-shot. Le seul changement de préférence, par rapport au réglage équilibré, réduit l'énergie spécifique jusqu'à 30,4 %, l'erreur de position de 38,7 % et l'écart maximal d'attitude du corps de 59,0 %. Le code et des vidéos sont en open source.

L'intérêt pratique tient à l'interface. Aujourd'hui, adapter un contrôleur à une mission (économiser la batterie en inspection, privilégier la précision de placement, stabiliser une charge utile) impose souvent de réentraîner ou de maintenir plusieurs spécialistes. Une politique unique réglable à chaud simplifie la validation, le déploiement et la maintenance d'une flotte, ce qui parle aux intégrateurs de robots à pattes pour l'inspection industrielle. Les auteurs affirment qu'elle égale ou dépasse contrôleurs à objectif fixe, baselines multi-objectifs et spécialistes entraînés séparément, ce qui, si cela se confirme, rendrait la spécialisation par réentraînement moins nécessaire. Des réserves s'imposent toutefois : les gains réels sont mesurés sur une seule plateforme, relatifs à un réglage « équilibré » choisi par les auteurs, sans information sur la variété des terrains ni le nombre d'essais. Ce résultat relève de la recherche, pas d'un produit livré ni d'un déploiement.

Le RL multi-objectif existait surtout comme outil hors ligne, pour construire des ensembles de Pareto que l'on exploitait ensuite en choisissant un point de fonctionnement. PROMO prolonge ce rôle en faisant de la préférence une variable de commande au runtime. Le Go2 d'Unitree est devenu la plateforme de référence de la recherche académique en locomotion par RL, ce qui facilite la comparaison et la reproduction, et l'ouverture du code va dans ce sens. La suite logique serait de tester l'approche sur d'autres morphologies, sur terrains difficiles, et de l'articuler avec des interfaces de commande de plus haut niveau, par exemple des modèles vision-langage-action ou des opérateurs humains traduisant une intention en préférence. Aucun pilote industriel ni calendrier n'est annoncé.

À lire aussi

MAPL : apprentissage des préférences multi-objectifs pour la locomotion robotique
Illustration générée par IA
1arXiv cs.RO 

MAPL : apprentissage des préférences multi-objectifs pour la locomotion robotique

Des chercheurs présentent MAPL (Multi-Objective AI-Informed Preference Learning), un cadre d'apprentissage par renforcement pour la locomotion quadrupède qui remplace les fonctions de récompense manuelles par des préférences générées par LLM. Publié sur arXiv (réf. 2606.25398) en juin 2025, le système soumet des paires de trajectoires à un grand modèle de langage, qui les évalue selon plusieurs critères sémantiques distincts, formulés en langage naturel générique et invariants selon le terrain. Ces préférences par objectif alimentent un modèle de scoring à plusieurs têtes, dont les sorties sont agrégées en récompense scalaire pour l'optimisation de politique. Sur quatre environnements de simulation quadrupède, les auteurs rapportent des performances comparables ou supérieures à des récompenses conçues par des experts du domaine. L'intérêt de MAPL tient à sa décomposition structurée des objectifs, là où les méthodes LLM existantes se limitent à un jugement global entre comportements. En robotique industrielle, la conception de fonctions de récompense reste un goulot d'étranglement reconnu, exigeant de longues itérations entre ingénieurs RL et spécialistes métier. Substituer ce travail par des descriptions en langage naturel, réutilisables sans réécriture d'équations, réduirait le coût d'adaptation à de nouvelles tâches. La décomposition en critères distincts offre aussi une meilleure interprétabilité : il devient possible d'identifier quels objectifs sont en tension, ce qui facilite le débogage comportemental. MAPL s'inscrit dans la vague d'automatisation de la conception de récompenses via LLM, initiée notamment par EUREKA (NVIDIA, 2023), qui générait directement du code de récompense via GPT-4, et par RL-VLM-F, qui exploite des modèles vision-langage pour évaluer les comportements. La locomotion quadrupède est un benchmark standard utilisé par des projets comme ANYmal (ETH Zurich) et les plateformes Unitree. Plusieurs limites méritent d'être signalées : l'article reste un preprint non relu par les pairs, les expériences sont menées uniquement en simulation sans validation physique, et le LLM utilisé pour générer les préférences n'est pas spécifié, ce qui complique la reproductibilité. Les extensions naturelles concernent la validation sur robot réel et l'application à des morphologies plus complexes, comme les humanoïdes, où l'ingénierie de récompense est particulièrement coûteuse.

RecherchePaper
1 source
Composition de compétences pour l'apprentissage par renforcement des robots à pattes
Illustration générée par IA
2arXiv cs.RO 

Composition de compétences pour l'apprentissage par renforcement des robots à pattes

Un article de recherche publié sur arXiv (référence 2609.14647v1, soumission de type "new") intitulé "Skill Composition for Legged Robot Reinforcement Learning" pose un constat simple sur l'état de l'art en robotique humanoïde : les robots à pattes, et les humanoïdes en particulier, maîtrisent de mieux en mieux des comportements isolés, chacun obtenu par l'entraînement d'un contrôleur spécialisé par apprentissage par renforcement. Ces politiques spécialisées s'entraînent vite, convergent de façon fiable puisqu'elles ne traitent qu'un problème restreint, et peuvent être validées indépendamment les unes des autres, trois propriétés qu'une politique unique de bout en bout censée tout couvrir ne possède pas. Le point faible identifié par les auteurs n'est pas l'acquisition des compétences elles-mêmes, mais la transition entre elles : le passage de contrôle d'une politique à une autre reste fragile et mal maîtrisé. L'argument central du papier est que la composition de sous-politiques indépendantes mérite d'être traitée comme un problème de recherche à part entière, et non comme un détail d'implémentation confié au premier mécanisme disponible. Une composition fiable est ce qui transforme une collection de compétences isolées en un répertoire réellement exploitable, extensible et partageable, un enjeu direct pour les intégrateurs qui cherchent à assembler des bibliothèques de comportements réutilisables plutôt que de réentraîner un modèle monolithique à chaque nouvelle tâche. Plus fondamentalement, si le contrôle peut être transféré entre politiques spécialisées de façon sûre et à tout moment, le choix de l'action suivante peut être délégué à un composant de nature différente, comme un planificateur, un automate ou un contrôleur symbolique, dont le comportement est inspectable à l'avance. Les politiques n'auraient alors plus qu'à agir, tandis que ce que le robot est autorisé à faire deviendrait vérifiable, un argument qui va à contre-courant de la course actuelle aux politiques VLA de bout en bout, à l'image de Pi-0, GR00T N2 ou Helix, et qui remet en avant l'intérêt de l'architecture modulaire pour la certification et la sécurité en environnement industriel. Il s'agit d'un article de position et de méthode, sans résultats chiffrés, démonstration matérielle ni annonce de déploiement dans le résumé disponible : aucun robot, aucune entreprise ni aucun site de test n'y sont cités, ce qui le distingue nettement des communiqués produits du secteur. Il s'inscrit dans un débat plus large qui oppose, d'un côté, les laboratoires misant sur des politiques vision-langage-action entraînées de bout en bout pour couvrir un maximum de tâches avec un seul réseau, et de l'autre, une tradition de robotique plus classique fondée sur la planification hiérarchique et les automates symboliques. En proposant de faire de la composition de compétences un objet de recherche autonome, les auteurs ouvrent une voie intermédiaire entre ces deux approches, sans préciser dans l'abstract de calendrier, de prototype ou de partenariat industriel concret pour la suite des travaux.

RecherchePaper
1 source
MO-Playground : apprentissage par renforcement multi-objectif massivement parallélisé pour la robotique
Illustration générée par IA
3arXiv cs.RO 

MO-Playground : apprentissage par renforcement multi-objectif massivement parallélisé pour la robotique

Des chercheurs de Dynamic Mobility présentent MO-Playground, une boîte à outils installable par pip qui regroupe des environnements multi-objectifs accélérés sur GPU, et MORLAX, un algorithme d'apprentissage par renforcement multi-objectif (MORL) conçu nativement pour GPU. Selon l'article arXiv (version 2), l'ensemble approxime des ensembles de Pareto en quelques minutes. Les gains annoncés sont de 26 à 271 fois par rapport aux approches historiques sur CPU, et jusqu'à 19 fois par rapport aux méthodes précédentes sur GPU, avec des hypervolumes de front de Pareto supérieurs. Pour la démonstration, l'équipe a construit un environnement personnalisé du robot humanoïde BRUCE et appris des politiques de locomotion Pareto-optimales sur 6 objectifs pratiques, dont la fluidité du mouvement, l'efficacité énergétique et le balancement des bras. Tout cela reste en simulation : l'article ne rapporte aucun transfert sur robot réel. Le MORL cherche à produire non pas une politique unique, mais toute une famille de politiques qui représentent les compromis optimaux entre objectifs contradictoires, par exemple vitesse contre consommation, ou stabilité contre naturel de la démarche. Jusqu'ici, ces algorithmes ne tiraient pas parti de la parallélisation massive (des milliers d'environnements simulés en simultané) qui a pourtant rendu l'apprentissage par renforcement classique praticable en robotique. Le coût de calcul était donc un frein à leur usage sur des problèmes complexes. En ramenant la construction d'un front de Pareto à quelques minutes, MO-Playground permettrait à un ingénieur de choisir a posteriori le comportement voulu au lieu de réajuster à la main les pondérations d'une fonction de récompense, ce qui est aujourd'hui un goulot d'étranglement courant pour régler une marche humanoïde. Les gains chiffrés sont toutefois mesurés par les auteurs sur leurs propres benchmarks, et la fourchette très large (26x à 271x) dépend des tâches et des références CPU retenues. La valeur réelle se vérifiera au transfert sim-to-real et à l'adoption par d'autres équipes. Cette publication s'inscrit dans la lignée des plateformes d'entraînement accélérées sur GPU, comme MuJoCo Playground, Isaac Lab ou Brax, dont MO-Playground reprend l'esprit en y ajoutant la dimension multi-objectif. BRUCE, humanoïde de taille réduite à actionneurs à faible rapport de réduction, est une plateforme de recherche répandue, ce qui facilite la reproduction par d'autres laboratoires. La boîte à outils est publique sur le site du projet. Les prochaines étapes logiques seraient la validation sur matériel, l'élargissement à d'autres morphologies et une intégration aux chaînes d'entraînement des acteurs industriels de l'humanoïde, qui règlent encore largement leurs compromis de manière empirique.

RecherchePaper
1 source
E2DRL : apprentissage par renforcement différentiable de bout en bout pour l'évitement d'obstacles 3D chez les robots quadrupèdes
Illustration générée par IA
4arXiv cs.RO 

E2DRL : apprentissage par renforcement différentiable de bout en bout pour l'évitement d'obstacles 3D chez les robots quadrupèdes

E2DRL est un cadre d'apprentissage par renforcement différentiable de bout en bout, présenté sur arXiv (2610.19627v1), qui permet à un robot quadrupède d'éviter des obstacles 3D à partir de la vision seule. Les auteurs l'ont validé en conditions réelles sur un Unitree Go2, dans des environnements statiques et dynamiques. Le système repose sur un enseignant privilégié, entraîné avec Soft Analytic Policy Optimization (SAPO) dans un simulateur différentiable. Cet enseignant est distillé par DAgger vers un étudiant récurrent qui exploite des images de profondeur. L'étudiant est ensuite fusionné avec une politique de locomotion de base par un module de gating sensible au terrain. En simulation, E2DRL est plus efficace en échantillons que PPO. Il offre aussi un meilleur suivi de vitesse et une meilleure capacité d'évitement 3D que PPO et qu'un NMPC à DCBF par dualité. Le résumé ne fournit aucun chiffre sur ces écarts, ni sur les taux de réussite ou les temps de cycle. L'enjeu est technique mais concret. Le RL différentiable exploite les gradients du simulateur pour apprendre plus vite que le RL classique, mais il restait cantonné à la marche aveugle ou à des tâches 2D simulées. Les contraintes de collision dures et l'arrêt anticipé de l'épisode au contact corrompent les gradients de premier ordre et enferment l'optimiseur dans des minima locaux. Les auteurs contournent ce blocage avec une formulation « molle » : des pénalités de pénétration sur plusieurs points clés du corps, combinées à un façonnage par stop-gradient conditionné à la vitesse. Si ces résultats se confirment, la méthode réduit le coût d'entraînement des politiques de perception-locomotion, un poste lourd pour les intégrateurs de robots à pattes en inspection ou en logistique. Elle propose aussi une alternative apprise aux contrôleurs prédictifs, plus coûteux à calibrer. La validation se limite toutefois à un Go2, une plateforme de recherche peu chère, dans des scénarios probablement contrôlés. Rien n'indique une robustesse en environnement industriel non structuré. Ce travail prolonge deux courants. Le premier est le RL massivement parallèle avec PPO, devenu la référence pour la locomotion à pattes. Le second est l'essor des simulateurs différentiables, dont les méthodes analytiques de type SAPO sont des variantes récentes. Les approches d'évitement d'obstacles par optimisation, comme le NMPC avec barrières de contrôle (DCBF), servent ici de base de comparaison. Aucune suite commerciale n'est annoncée, car il s'agit d'un préprint non évalué par des pairs. Les prochaines étapes naturelles seraient des tests sur d'autres morphologies, des obstacles dynamiques plus rapides et des terrains plus variés. Un code ouvert permettrait aussi de vérifier les gains annoncés.

RecherchePaper
1 source