Apprentissage du contrôle de mouvement basse fréquence pour une locomotion robotique robuste et dynamique
Des chercheurs du groupe Dynamic Robot Systems de l'université d'Oxford démontrent qu'un contrôleur de locomotion appris peut fonctionner à seulement 8 Hz sur un quadrupède ANYmal C réel, là où la pratique courante pousse la fréquence de commande très haut pour gagner en réactivité. Le robot atteint de façon répétable une vitesse de 1,5 m/s, franchit des terrains irréguliers et résiste à des perturbations externes imprévues. Les auteurs comparent aussi des politiques d'apprentissage par renforcement profond (deep RL) entraînées et exécutées de 5 Hz à 200 Hz. Résultat central : les politiques basses fréquences se montrent moins sensibles aux latences d'actionnement et aux variations de la dynamique du système. Au point qu'un transfert simulation-réel réussit sans randomisation de la dynamique ni modélisation des actionneurs. Le code d'entraînement et de déploiement est publié, avec une analyse étendue, pour permettre la reproduction. Il s'agit d'une version révisée (v3) d'un article déposé en 2022 sur arXiv, et non d'une nouveauté.
L'enjeu est d'abord économique et d'ingénierie. Réduire la fréquence de commande allège la charge de calcul embarquée, ce qui ouvre la voie à des processeurs plus modestes, moins énergivores et moins coûteux. Cela compte pour les intégrateurs et les fabricants de robots à pattes, dont les budgets de masse et de batterie sont serrés. Surtout, le résultat s'attaque à l'une des principales difficultés du sim-to-real : la fabrication de simulateurs et de modèles d'actionneurs très fidèles, ainsi que l'ajustement fin de la randomisation de domaine. Si un simple abaissement de la fréquence suffit à absorber une partie de l'écart de réalité, le pipeline de déploiement se simplifie. Il faut toutefois nuancer. La démonstration porte sur un seul robot, l'ANYmal C, et sur une tâche de locomotion aveugle ou proche de celle-ci. Les 1,5 m/s restent modestes face aux records de vitesse des quadrupèdes. Rien ne prouve que la conclusion s'étende à des humanoïdes, plus instables, ni à la manipulation, où des boucles rapides restent souvent nécessaires.
Ces travaux contredisent l'idée répandue selon laquelle plus de fréquence signifie plus de robustesse, et ils s'inscrivent dans la recherche sur la locomotion par RL née des travaux d'ETH Zurich et d'ANYbotics, constructeur de l'ANYmal. Aujourd'hui, les politiques de locomotion des quadrupèdes comme des humanoïdes tournent typiquement autour de 50 Hz, avec des contrôleurs bas niveau à plusieurs kHz. Les modèles VLA (vision-langage-action) actuels, eux, produisent des actions à basse fréquence et s'appuient sur des contrôleurs rapides en dessous, ce qui rend cette étude pertinente pour l'architecture hiérarchique de ces systèmes. La suite logique serait de tester l'approche sur d'autres morphologies, notamment bipèdes, et de l'intégrer à des pipelines de déploiement à grande échelle.
Dans nos dossiers




