RecherchearXiv cs.RO 8 octobre 2026

Adaptation de la démarche économe en énergie par apprentissage par renforcement hiérarchique pour la locomotion quadrupède sur terrains variés

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs proposent un cadre d'apprentissage par renforcement hiérarchique (HRL) qui sépare deux niveaux de contrôle pour la locomotion des robots quadrupèdes. Une politique haute fréquence assure l'exécution stable et robuste du mouvement au niveau des articulations. Une politique basse fréquence adapte la démarche en minimisant explicitement le coût de transport (CoT), c'est-à-dire l'énergie dépensée par unité de poids et de distance parcourue. L'entraînement se fait en trois étapes sous Isaac, le simulateur de NVIDIA. Il permet un transfert direct de la simulation au réel (zero-shot, sans réglage supplémentaire). Les auteurs le valident sur un quadrupède Unitree AlienGo. En simulation, ils le comparent à des politiques monolithiques et à des architectures hiérarchiques de référence. Ils annoncent un CoT réduit sur une large plage de vitesses commandées, avec une locomotion qui reste robuste sur sol plat, sol irrégulier et pentes. Le résumé publié ne donne aucun chiffre précis, ni pourcentage de réduction, ni valeur de CoT, ni vitesse maximale.

L'intérêt principal est de s'attaquer à un défaut connu des politiques entièrement apprises de bout en bout. Dans ces systèmes, la génération de la démarche, l'exécution du mouvement et l'optimisation énergétique sont étroitement imbriquées. Le résultat dépend alors fortement de la pondération des termes de récompense, ce qui rend les politiques fragiles et difficiles à ajuster. En isolant la minimisation du CoT dans un niveau dédié, l'approche rend l'efficacité énergétique plus contrôlable, sans dégrader le suivi de vitesse. La hiérarchie fait aussi émerger une adaptation automatique de la démarche : le robot passe de l'amble (pacing) à basse vitesse au trot à vitesse plus élevée. Cela rappelle les transitions de allures observées chez les animaux, sans qu'elles aient été programmées. Pour les intégrateurs, l'autonomie est un facteur limitant des quadrupèdes d'inspection industrielle. Un gain énergétique obtenu par la politique seule, sans changement matériel, serait donc précieux. Il faudra toutefois le confirmer par des mesures d'autonomie réelles.

Cette publication s'inscrit dans une série de travaux sur la locomotion apprise, qui ont largement utilisé Isaac Gym et Isaac Lab pour entraîner des politiques déployées sur des plateformes Unitree. Les approches hiérarchiques existent déjà. Elles séparent en général un planificateur de démarche ou de pas d'un contrôleur bas niveau. Ici, la particularité tient à l'optimisation explicite du CoT au niveau supérieur. Les limites sont claires. Il s'agit d'un preprint arXiv (2610.10297v1) non évalué par les pairs. Le test matériel porte sur un seul robot, l'AlienGo, plateforme plus ancienne que les Go2 ou B2 actuels de Unitree. Les terrains testés restent relativement simples. La suite logique serait de valider sur des plateformes plus récentes, avec des mesures de consommation en conditions réelles. Il faudrait aussi tester des terrains plus difficiles comme les escaliers, et comparer avec les contrôleurs commerciaux.

Impact France/UE

Pas d\'impact direct sur la France/UE

Dans nos dossiers

Unitree NVIDIA Isaac & Cosmos arXiv cs.RO

À lire aussi

1arXiv cs.RO

Apprentissage par renforcement neuromorphique pour la locomotion de robots quadrupèdes sur terrain accidenté

Une équipe de chercheurs a publié mi-mai 2026 sur arXiv (réf. 2605.09595) un framework d'apprentissage par renforcement basé sur l'équilibrium propagation (EP) pour contrôler la locomotion d'un quadrupède Unitree A1 à 12 degrés de liberté sur terrain accidenté. Plutôt que la rétropropagation classique, ils substituent les gradients globaux par des règles d'apprentissage locales pilotées par les états neuronaux, compatibles avec les substrats neuromorphiques et de calcul en mémoire. Le contrôleur combine un générateur de motif central (CPG) bio-inspiré avec une politique d'ajustement postural résiduel, entraîné via une variante PPO (Proximal Policy Optimization) adaptée à l'EP avec un mécanisme de clipping bilatéral du ratio pour stabiliser les mises à jour lors de la relaxation. Les résultats montrent des performances comparables à une baseline PPO classique en taux de succès, suivi de vitesse, consommation des actionneurs et stabilité corporelle, tout en réduisant la mémoire GPU de 4,3× par rapport à la rétropropagation à travers le temps (BPTT). L'ensemble des expériences reste en simulation, aucun déploiement terrain n'est documenté dans la publication. L'enjeu structurel est clair : les politiques de locomotion RL actuelles sont entraînées hors-ligne en simulation massivement parallèle, puis figées au déploiement. Elles ne s'adaptent pas à l'usure des actionneurs, aux variations de charge utile, ou au drift mécanique sur robot réel, limites critiques pour une industrialisation. En remplaçant la rétropropagation par un apprentissage local compatible avec des puces neuromorphiques (type Intel Loihi), cette approche ouvre la voie à une adaptation continue on-robot à faible consommation, sans dépendance à un GPU externe. Le gain de 4,3× en mémoire est déjà tangible pour les équipes embarquées, même si la validation reste entièrement simulée. Ces travaux s'inscrivent dans l'intense activité autour de la locomotion quadrupède par RL, dominée par l'ETH Zurich sur ANYmal et les robots Unitree. L'équilibrium propagation, formalisé par Scellier et Bengio en 2017, reste peu exploré pour le contrôle continu haute dimension, c'est l'une des premières démonstrations sur un robot à 12 DOF. Les approches concurrentes pour l'adaptation en ligne incluent RMA (Rapid Motor Adaptation, UC Berkeley) et les politiques méta-adaptatives de type MAML. L'étape suivante critique serait de valider sur hardware réel avec une puce neuromorphique embarquée et de mesurer la consommation effective en watts, deux points absents de la publication actuelle.

RecherchePaper

1 source

2arXiv cs.RO

LoComposition : locomotion quadrupède économe en énergie et adaptée au terrain, sans a priori de démarche

Une équipe de chercheurs publie LoComposition (arXiv:2606.15896, juin 2026), une méthode d'apprentissage par renforcement pour la locomotion quadrupède qui décompose les objectifs en mécanismes distincts plutôt que de les fusionner dans une fonction de récompense monolithique. Le système confie à des composants séparés ce que les approches classiques entremêlent : les récompenses gèrent la spécification de tâche, des contraintes encadrent les limites opérationnelles, la minimisation d'énergie pilote les préférences de démarche, et la perception extéroceptive (cartographie d'élévation LiDAR) adapte la consommation énergétique à la difficulté du terrain. Par rapport à une baseline conventionnelle à récompense complexe, LoComposition atteint des performances comparables de franchissement de terrain tout en réduisant le coût de transport de 56 % et les violations de limites opérationnelles de 96 %. La politique entraînée en simulation se transfère ensuite en zero-shot sur un robot quadrupède Unitree Go2 physique sans recalibration manuelle. L'apport central est la suppression des gait priors explicites, c'est-à-dire les cibles de temps de vol, de nombre de contacts au sol et de clairance des pieds, au profit de comportements de démarche émergents. Pour les équipes d'intégration, cela signifie moins d'ingénierie manuelle des récompenses et une meilleure généralisation à des terrains non vus en entraînement. La réduction de 56 % du coût de transport est directement pertinente pour les déploiements sur batteries à autonomie prolongée, scénario typique de l'inspection industrielle ou de la surveillance de site. L'analyse par ablation des chercheurs, montrant que retirer chaque composant expose un mode d'échec distinct, valide la cohérence de l'architecture et confirme que les gains ne sont pas le résultat d'un ajustement opportuniste des hyperparamètres. Cette contribution s'inscrit dans la dynamique de locomotion quadrupède par renforcement dominée depuis 2020 par le Robotics Systems Lab de l'ETH Zurich (ANYmal, séries RMA et Parkour) et Carnegie Mellon University. Le Unitree Go2, plateforme commerciale accessible, est devenu un banc d'essai standard pour la recherche académique, ce qui facilite la reproductibilité des résultats. Du côté industriel, ANYbotics et Boston Dynamics (Spot) développent des solutions propriétaires sur des trajectoires similaires mais ne publient pas leurs méthodes. LoComposition reste à ce stade une contribution de recherche fondamentale : aucun pilote industriel ni timeline de commercialisation n'est annoncé dans le preprint.

RecherchePaper

1 source

3arXiv cs.RO

Apprentissage par renforcement informé par la dynamique pour la locomotion agile et économe en énergie d'un quadricoptère sauteur monopode

Une équipe de recherche en robotique présente un cadre d'apprentissage par renforcement (RL) appliqué à un quadcopter monopode à sauts, un robot hybride combinant rotors et une jambe unique à ressort pour se déplacer par bonds plutôt que par vol stationnaire pur. Publié sur arXiv (2609.15399v1, article de recherche, pas d'annonce produit), le travail introduit une méthode dite "dynamics-informed" où une valeur cible d'énergie spécifique est intégrée directement dans la fonction de récompense, ce qui contraint l'optimisation à rester sur une trajectoire énergétique physiquement viable. Le système récompense aussi la cohérence de phase entre les appuis au sol, ce qui encourage un mouvement d'impulsion bio-inspiré pendant la phase de contact, et pénalise le gaspillage électromécanique pour que les moteurs génèrent une impulsion efficace sans recourir à des machines à états programmées à la main. Validé uniquement en simulation MuJoCo, et non sur un prototype physique, le contrôleur régule la hauteur de saut et suit une vitesse d'avancement jusqu'à 2,0 m/s malgré un fort couplage entre l'attitude du robot et les phases de contact au sol, tout en réduisant la consommation d'énergie de 82% par rapport à un vol stationnaire classique et de 73% par rapport à une politique RL non contrainte énergétiquement. L'enjeu dépassе la simple performance: les auteurs ciblent explicitement le "reward hacking", un travers connu du RL où l'algorithme trouve des raccourcis qui maximisent la récompense sans produire un comportement physiquement sensé ou économe. En forçant l'optimisation à rester sur une enveloppe énergétique réaliste, l'étude propose une piste méthodologique transférable à d'autres robots hybrides ou legged, un sujet clé pour les intégrateurs qui cherchent à réduire l'autonomie limitée des drones et des robots à pattes. Elle illustre aussi les limites actuelles du secteur: la démonstration reste cantonnée au simulateur, ce qui laisse ouverte la question classique du transfert sim-to-real. Les robots aériens à pattes forment une catégorie encore émergente, cherchant à combiner l'agilité du saut avec l'efficacité énergétique du vol, deux modes de locomotion habituellement traités séparément dans la littérature. L'article ne mentionne ni partenaire industriel ni calendrier de test matériel, ce qui situe cette contribution au stade de la recherche amont, avec un prototype physique et une validation réelle comme suites logiques attendues.

RecherchePaper

1 source

4arXiv cs.RO

Vers un apprentissage par renforcement piloté par couple pour la locomotion quadrupède

Des chercheurs publient sur arXiv (référence 2607.18365v1) un nouveau cadre d'apprentissage par renforcement (RL) piloté par le couple moteur, plutôt que par la position, pour la locomotion de robots quadrupèdes. Contrairement aux approches RL classiques qui commandent les articulations en position et nécessitent une estimation d'état complexe (notamment la vitesse linéaire de l'engin), ce framework agit directement sur le couple et permet à un robot de suivre une vitesse cible sans connaître sa propre vitesse en temps réel. L'équipe a testé son approche en simulation sur Nvidia Isaac Sim et Isaac Lab, en utilisant le quadrupède Unitree B1, une plateforme lourde et à fort couple par rapport aux petits robots légers habituellement employés dans ce type de recherche. Résultat : le robot simulé atteint 3,5 m/s en vitesse linéaire et 1,5 rad/s en rotation, et parvient à monter et descendre des escaliers sans capteur extéroceptif (caméra ou lidar), en s'appuyant uniquement sur sa perception proprioceptive. L'enjeu dépasse la simple performance chiffrée : la plupart des frameworks RL actuels butent sur des robots légers, limités dès qu'il s'agit de tâches à forte exigence mécanique (charge utile, franchissement d'obstacles robustes). En démontrant qu'un contrôle par couple peut fonctionner sur une plateforme lourde et à haut couple sans état de vitesse explicite, ce travail ouvre la voie à des quadrupèdes RL capables d'opérations industrielles plus exigeantes, un axe clé pour les intégrateurs qui cherchent à sortir la locomotion apprise des laboratoires vers des usages réels (inspection, logistique en terrain difficile). Il faut toutefois noter que ces résultats restent purement issus de la simulation, sans validation sur robot physique à ce stade, ce qui laisse ouverte la question classique du transfert sim-to-real. Le choix du Unitree B1, une plateforme commerciale déjà répandue dans la recherche en robotique mobile, suggère une intention de test réel à venir, mais aucun calendrier n'est communiqué dans l'article.

RecherchePaper

1 source