Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
EFGCL : apprentissage du mouvement dynamique par curriculum guidé par forces externes, inspiré du spotting
RecherchearXiv cs.RO 

EFGCL : apprentissage du mouvement dynamique par curriculum guidé par forces externes, inspiré du spotting

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs ont publié sur arXiv (réf. 2605.10063) une méthode baptisée EFGCL (External Force Guided Curriculum Learning) pour entraîner des robots à pattes à exécuter des mouvements dynamiques complexes de tout le corps via apprentissage par renforcement. L'idée centrale emprunte au "spotting" en gymnastique artistique : comme un coach qui tient physiquement l'athlète lors des premiers essais, la méthode introduit des forces externes assistives directement dans la boucle d'entraînement simulé. Les expériences portent sur un robot quadrupède réalisant trois tâches : saut vertical (Jump), saut arrière (Backflip) et saut latéral (Lateral-Flip). Sur la tâche Jump, EFGCL réduit le temps d'apprentissage d'environ un facteur deux par rapport au RL conventionnel. Plus significatif encore, Backflip et Lateral-Flip, que les méthodes RL standard ne parviennent tout simplement pas à apprendre, deviennent accessibles. Les politiques résultantes ont été transférées et déployées sur un robot réel, avec des comportements jugés cohérents avec ceux observés en simulation.

L'intérêt technique principal est double. Premièrement, la méthode n'exige ni reward shaping spécifique à la tâche ni trajectoires de référence issues de motion capture, deux dépendances coûteuses qui compliquent habituellement le pipeline. Deuxièmement, en permettant à l'agent d'expérimenter des exécutions réussies très tôt dans l'entraînement, EFGCL contourne le problème classique de l'exploration inefficace dans les espaces à haut risque d'échec. La validation sim-to-real, bien que présentée sur un seul robot quadrupède dans un contexte académique contrôlé, apporte un signal positif sur la transférabilité des politiques apprises avec forces assistives vers des conditions physiques réelles, une question encore largement ouverte pour les mouvements acrobatiques.

Le domaine du whole-body motion learning pour robots à pattes est en pleine activité depuis plusieurs années, porté notamment par les travaux de l'ETH Zurich sur ANYmal et par Unitree (G1, H1) côté matériel accessible pour la recherche. Boston Dynamics, avec Atlas, démontre régulièrement des mouvements dynamiques impressionnants, mais son pipeline repose largement sur des trajectoires optimisées à la main. L'approche curriculum learning guidé par forces s'inscrit dans une tendance plus large visant à rendre le RL applicable sans données de démonstration, aux côtés de méthodes comme le curriculum automatique ou l'imitation d'adversaire. Il s'agit d'une publication académique préprint, sans annonce de déploiement industriel ni de partenariat commercial associé.

Dans nos dossiers

Boston DynamicsUnitreearXiv cs.RO

À lire aussi

Vol anticipé guidé par les risques : un apprentissage par renforcement pour voler en sécurité dans un environnement dynamique encombré
1arXiv cs.RO 

Vol anticipé guidé par les risques : un apprentissage par renforcement pour voler en sécurité dans un environnement dynamique encombré

Une équipe de recherche présente un nouveau cadre d'apprentissage par renforcement pour la navigation sécurisée de quadrirotors dans des environnements encombrés et dynamiques, publié sur arXiv fin juillet 2026. La méthode, baptisée "anticipatory risk-guided reinforcement learning", s'appuie sur des états privilégiés du simulateur pour construire une carte de risque de collision future, orientée directionnellement et calculée via le point d'approche le plus proche (Closest Point of Approach, CPA). Une architecture actor-critic asymétrique entraîne le réseau à auto-prédire ce risque structuré, qui guide ensuite la politique visuelle au moment du déploiement réel. Un encodeur spatio-temporel léger extrait les indices de mouvement directement depuis les séquences de profondeur embarquées, sans recourir au tracking d'objets ni à l'estimation de flux optique explicite. Les auteurs rapportent des gains en marge de sécurité et en efficacité de vol par rapport aux méthodes de référence, en simulation comme en conditions réelles, avec un transfert sim-to-real zero-shot validé sur un drone physique. Pour l'industrie des drones et des systèmes autonomes, ce travail s'attaque à un point de friction connu: les pipelines modulaires classiques souffrent de latence de perception, tandis que les approches end-to-end à récompense scalaire peinent à extraire des features spatio-temporelles fiables sans supervision physique explicite. En ancrant l'apprentissage dans une notion de risque géométrique anticipé plutôt que dans un signal de récompense implicite, la méthode illustre une piste pour fiabiliser le comportement des politiques visuelles face à des obstacles mobiles, un scénario encore mal couvert par la plupart des solutions commerciales d'évitement d'obstacles pour drones et robots mobiles autonomes (AMR). Ce résultat s'inscrit dans la lignée des travaux récents combinant perception par profondeur et RL pour le vol autonome en environnement dynamique, un axe de recherche actif face aux limites persistantes des méthodes géométriques classiques. Il s'agit à ce stade d'une publication de recherche avec validation expérimentale limitée, non d'un produit ou d'un déploiement industriel; les prochaines étapes attendues porteraient sur l'extension à des essaims de drones, des obstacles multiples plus denses, et une validation à plus grande échelle hors simulation.

RecherchePaper
1 source
L'engagement induit par la dynamique dans les tirs au but robotiques fondés sur l'apprentissage
2arXiv cs.RO 

L'engagement induit par la dynamique dans les tirs au but robotiques fondés sur l'apprentissage

Un article publié sur arXiv (2609.21100v1) décrit un système robotique hiérarchique opposant un robot humanoïde tireur et un robot quadrupède gardien dans un jeu de penalty. Les chercheurs combinent des politiques de haut niveau entraînées par auto-jeu (self-play) avec des contrôleurs de corps entier fixes dédiés au football, appelés S-WBC. La compétence de tir de l'humanoïde est initialisée à partir de données de capture de mouvement collectées par les auteurs, tandis que la compétence d'arrêt du quadrupède est apprise par renforcement. L'équipe introduit une méthode nommée DIC-Map (dynamics-induced commitment mapping), une analyse ancrée dans la dynamique corporelle qui estime la capacité de chaque robot à changer d'action en cours d'exécution, repère le moment où une option devient définitivement irréalisable, et vérifie si l'interaction restante se réduit à un jeu à somme nulle simplifié. Pour des alternatives symétriques, cette réduction produit une borne analytique sur la concentration optimale de la stratégie de tir. Les expériences situent ce point d'engagement irréversible à environ 0,29 seconde avant le contact avec le ballon, et une simple variation de la vitesse du tir déplace la fenêtre pendant laquelle le gardien peut encore différer sa décision. Sur quatre politiques de gardien testées, remplacer l'estimateur utilisé pour lire le tireur fait passer le taux d'arrêt de 0,240 à 0,472, contre seulement 0,246 pour un gain comparable de précision obtenu simplement en attendant plus longtemps. Ce résultat contredit une intuition répandue en robotique compétitive apprise, selon laquelle mieux lire l'adversaire vaut surtout par le temps d'observation gagné: ici, améliorer la qualité de l'estimation de l'intention adverse rapporte près du double du gain obtenu en attendant. Pour les chercheurs et intégrateurs en robotique humanoïde et quadrupède, l'étude montre que les marges stratégiques d'une politique apprise par self-play ne dépendent pas seulement de l'information disponible, mais aussi de ce que le corps du robot peut encore physiquement modifier une fois un mouvement engagé, un facteur rarement quantifié jusqu'ici. En isolant un instant de non-retour mesurable, les auteurs proposent un outil potentiellement transférable à d'autres tâches robotiques rapides (manipulation, évitement, sports robotiques) où les contraintes cinématiques comptent autant que l'incertitude stratégique, ce qui nuance les promesses de certaines démonstrations d'humanoïdes agiles. Le travail s'inscrit dans une architecture de plus en plus courante consistant à faire piloter des contrôleurs de corps entier appris séparément par des politiques de décision de haut niveau, afin de doter humanoïdes et quadrupèdes de comportements sportifs sans réentraîner tout le contrôle moteur. Il s'agit d'une publication académique sur arXiv, sans annonce de produit ni de déploiement commercial: la comparaison aux stratégies d'équilibre repose sur une analyse a posteriori, les auteurs précisant eux-mêmes que les mesures de couverture disponibles restent des indicateurs observationnels indirects. Aucun acteur industriel, français ou européen n'est cité. Un site de projet accompagne la publication, mais aucun calendrier de suite ni extension au-delà du cadre expérimental du penalty à deux robots n'est annoncé.

RecherchePaper
1 source
Apprentissage de politiques dynamiques pour robots à pattes : préentraînement sur modèle simplifié et transfert inspiré de l'homotopie
3arXiv cs.RO 

Apprentissage de politiques dynamiques pour robots à pattes : préentraînement sur modèle simplifié et transfert inspiré de l'homotopie

Des chercheurs ont publié sur arXiv (arXiv:2512.24698v2, soumis fin 2025) un cadre d'apprentissage par renforcement baptisé "continuation-based learning" pour générer des comportements dynamiques complexes sur robots à pattes. L'approche se décompose en deux phases : un pré-entraînement de la politique de contrôle sur un modèle d'ordre réduit dit "corps rigide unique" (Single Rigid Body, SRB), qui simplifie le robot à un seul segment de masse, suivi d'un transfert progressif vers la dynamique corps-complet via une stratégie de continuation inspirée de l'homotopie mathématique. Ce transfert consiste à redistribuer graduellement la masse et l'inertie entre le tronc et les membres du robot, en définissant un chemin paramétrique continu entre les deux représentations. Le framework a été validé sur des tâches hautement dynamiques, saltos, manoeuvres assistées par un mur, et déployé avec succès sur un robot quadrupède réel, sans préciser le modèle matériel ni les métriques quantitatives de performance finale. L'intérêt technique est de s'attaquer directement au "sim-to-real gap" pour des comportements extrêmes, là où l'apprentissage par renforcement classique achoppe : produire un salto ou une manoeuvre murale exige une récompense finement calibrée ou des démonstrations de haute qualité, deux ressources coûteuses. En préentraînant sur un modèle SRB, la politique capture rapidement les patrons de mouvement essentiels dans un espace d'état simplifié, puis la continuation homotopique réduit les pertes de performance lors du passage au modèle complet. Les auteurs rapportent une convergence plus rapide et une stabilité supérieure aux méthodes de référence (fine-tuning direct, curriculum naïf), ce qui suggère que la structure géométrique du chemin de transition compte autant que la quantité de données d'entraînement. Pour un intégrateur ou un responsable R&D robotique, c'est un signal que le sim-to-real sur comportements acrobatiques devient méthodologiquement adressable, même sans démonstrations humaines. Ce travail s'inscrit dans un courant actif qui cherche à combiner modèles analytiques réduits et apprentissage profond pour dépasser les limites de chacun : les méthodes purement model-based (MPC sur SRB, très utilisées chez Boston Dynamics, ETH Zurich et ANYbotics) peinent sur les mouvements hors-domaine de validité du modèle, tandis que le RL pur souffre d'une exploration inefficace pour les comportements extrêmes. Des travaux récents comme ceux du groupe de Pieter Abbeel (UC Berkeley) ou de Zhuang Chen (CMU) explorent des voies similaires de curriculum progressif. Aucun partenaire industriel ni calendrier de déploiement n'est mentionné dans la publication ; l'article reste à ce stade un résultat de laboratoire, sans validation sur des plateformes commerciales comme Unitree B2, Spot ou ANYmal.

RecherchePaper
1 source
HuMBLE : apprentissage de comportements guidé par le mouvement humain pour la locomotion incarnée
4arXiv cs.RO 

HuMBLE : apprentissage de comportements guidé par le mouvement humain pour la locomotion incarnée

Des chercheurs ont publié sur arXiv (référence 2610.10489) HuMBLE, un cadre d'apprentissage qui produit des politiques de locomotion humanoïde pilotables en temps réel, robustes et fidèles à la démarche humaine. Les auteurs partent d'un jeu de données de locomotion humaine constitué en interne, couvrant plusieurs vitesses et directions. Ils entraînent d'abord par apprentissage par renforcement (RL) une politique « enseignante » conditionnée par une référence corps entier. Cette politique est ensuite distillée en une politique « a priori » légère, qui ne reçoit que la proprioception et une commande de pilotage plane (vitesse du torse). Une seconde phase affine cette politique par RL multi-tâches. Une tâche conditionnée par un objectif suit des commandes arbitraires, y compris hors de la distribution des données. Une tâche guidée par référence suit les mouvements humains et sert de régularisateur de style. Le cadre est validé sur trois robots : Atlas R1 et Atlas D1 de Boston Dynamics, et le Unitree G1. Les tests incluent le pilotage direct par un utilisateur en intérieur et en extérieur, ainsi que l'intégration comme couche de locomotion dans des architectures de contrôle hiérarchiques. L'article ne donne dans son résumé ni taux de réussite, ni vitesses maximales, ni durée de test. L'enjeu est un compromis connu en locomotion humanoïde. Les contrôleurs optimisés pour le suivi de commande et la robustesse produisent des démarches mécaniques, souvent peu naturelles et énergétiquement discutables. Ceux calés sur des données de mouvement humain se généralisent mal dès que la commande sort du domaine des données. HuMBLE vise à tenir les deux bouts avec une politique légère, déployable à bord, qui reconstruit un mouvement corps entier coordonné à partir d'une simple commande de direction et de vitesse. Pour les intégrateurs, cette interface compte. Une couche de locomotion pilotable par un planificateur de haut niveau, VLA ou téléopération, s'insère plus facilement dans une pile existante. Le test sur deux morphologies Atlas et sur le G1, un robot d'entrée de gamme très répandu en recherche, suggère aussi une certaine portabilité entre plateformes. Il faut toutefois rester prudent. Il s'agit d'un préprint non évalué par les pairs. Le jeu de données est interne et non décrit en détail, et les comparaisons annoncées portent sur des politiques RL « tabula rasa » plutôt que sur d'autres méthodes d'imitation de mouvement. Ce travail s'inscrit dans une série de méthodes qui injectent des données de mouvement humain dans l'apprentissage de la locomotion, des approches de type imitation adversariale (AMP) au suivi de mouvement par RL. Le retargeting de mouvements humains sur humanoïdes est devenu un levier courant, notamment pour rendre les démarches plus naturelles et plus lisibles pour les humains travaillant à proximité des robots. La présence d'Atlas, dont la version électrique est au cœur de la stratégie humanoïde de Boston Dynamics, indique un travail proche de l'industrie, sans que le résumé ne précise les auteurs ni leur affiliation. Côté concurrence, de nombreux laboratoires et entreprises, dont Unitree, Figure, Tesla et Agility, cherchent aussi à combiner naturel du mouvement et robustesse. La suite probable, sans calendrier annoncé, passe par des évaluations plus larges et par l'intégration avec des modèles de haut niveau.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source