Aller au contenu principal
HuMBLE : apprentissage de comportements guidé par le mouvement humain pour la locomotion incarnée
RecherchearXiv cs.RO 

HuMBLE : apprentissage de comportements guidé par le mouvement humain pour la locomotion incarnée

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs ont publié sur arXiv (référence 2610.10489) HuMBLE, un cadre d'apprentissage qui produit des politiques de locomotion humanoïde pilotables en temps réel, robustes et fidèles à la démarche humaine. Les auteurs partent d'un jeu de données de locomotion humaine constitué en interne, couvrant plusieurs vitesses et directions. Ils entraînent d'abord par apprentissage par renforcement (RL) une politique « enseignante » conditionnée par une référence corps entier. Cette politique est ensuite distillée en une politique « a priori » légère, qui ne reçoit que la proprioception et une commande de pilotage plane (vitesse du torse). Une seconde phase affine cette politique par RL multi-tâches. Une tâche conditionnée par un objectif suit des commandes arbitraires, y compris hors de la distribution des données. Une tâche guidée par référence suit les mouvements humains et sert de régularisateur de style. Le cadre est validé sur trois robots : Atlas R1 et Atlas D1 de Boston Dynamics, et le Unitree G1. Les tests incluent le pilotage direct par un utilisateur en intérieur et en extérieur, ainsi que l'intégration comme couche de locomotion dans des architectures de contrôle hiérarchiques. L'article ne donne dans son résumé ni taux de réussite, ni vitesses maximales, ni durée de test.

L'enjeu est un compromis connu en locomotion humanoïde. Les contrôleurs optimisés pour le suivi de commande et la robustesse produisent des démarches mécaniques, souvent peu naturelles et énergétiquement discutables. Ceux calés sur des données de mouvement humain se généralisent mal dès que la commande sort du domaine des données. HuMBLE vise à tenir les deux bouts avec une politique légère, déployable à bord, qui reconstruit un mouvement corps entier coordonné à partir d'une simple commande de direction et de vitesse. Pour les intégrateurs, cette interface compte. Une couche de locomotion pilotable par un planificateur de haut niveau, VLA ou téléopération, s'insère plus facilement dans une pile existante. Le test sur deux morphologies Atlas et sur le G1, un robot d'entrée de gamme très répandu en recherche, suggère aussi une certaine portabilité entre plateformes. Il faut toutefois rester prudent. Il s'agit d'un préprint non évalué par les pairs. Le jeu de données est interne et non décrit en détail, et les comparaisons annoncées portent sur des politiques RL « tabula rasa » plutôt que sur d'autres méthodes d'imitation de mouvement.

Ce travail s'inscrit dans une série de méthodes qui injectent des données de mouvement humain dans l'apprentissage de la locomotion, des approches de type imitation adversariale (AMP) au suivi de mouvement par RL. Le retargeting de mouvements humains sur humanoïdes est devenu un levier courant, notamment pour rendre les démarches plus naturelles et plus lisibles pour les humains travaillant à proximité des robots. La présence d'Atlas, dont la version électrique est au cœur de la stratégie humanoïde de Boston Dynamics, indique un travail proche de l'industrie, sans que le résumé ne précise les auteurs ni leur affiliation. Côté concurrence, de nombreux laboratoires et entreprises, dont Unitree, Figure, Tesla et Agility, cherchent aussi à combiner naturel du mouvement et robustesse. La suite probable, sans calendrier annoncé, passe par des évaluations plus larges et par l'intégration avec des modèles de haut niveau.

Impact France/UE

Pas d\'impact direct sur la France/UE

À lire aussi

Apprentissage de priors moteurs hybrides réutilisables pour la locomotion humanoïde par imitation de mouvement
1arXiv cs.RO 

Apprentissage de priors moteurs hybrides réutilisables pour la locomotion humanoïde par imitation de mouvement

Une équipe de recherche propose un pipeline en trois étapes pour transformer l'imitation de mouvement humain en un "hybrid motion prior" (HMP) réutilisable pour la locomotion humanoïde. D'abord, une politique experte est entraînée par apprentissage par renforcement à imiter des séquences de motion capture humaine retargetées sur un squelette robotique. Cette expertise est ensuite distillée dans une architecture figée composée d'un encodeur proprioceptif, d'un codebook RVQ (residual vector-quantized) et d'un décodeur d'actions. Enfin, des politiques spécifiques à chaque tâche sont entraînées à sélectionner des entrées discrètes de ce codebook, sans jamais réentraîner le HMP sous-jacent. La méthode est évaluée en simulation sur trois tâches : suivi de vitesse, navigation vers un point cible, et récupération de chute avec suivi de vitesse. La politique de suivi de vitesse a ensuite été déployée sur un robot réel, un Unitree G1. Les chercheurs montrent aussi qu'entraîner le codebook avec un "rotation trick" plutôt qu'un estimateur straight-through classique améliore l'organisation de l'espace latent et réduit le nombre de chutes en aval. L'intérêt principal tient à la réutilisabilité : au lieu d'entraîner une politique RL distincte par tâche avec sa propre fonction de récompense, un seul module d'action reste figé et sert d'interface commune à plusieurs politiques de haut niveau. Cela répond à une limite connue de l'imitation de mouvement, dont les contrôleurs restent généralement de simples "suiveurs" de référence, inutilisables tels quels pour résoudre une tâche. Le codebook obtenu s'avère aussi interprétable : le nombre d'étages RVQ actifs module directement les types de démarche disponibles, un signal utile pour du contrôle hiérarchique. Pour les équipes qui construisent des piles logicielles humanoïdes, cette approche s'inscrit dans la même logique que les bibliothèques de compétences motrices low-level découplées des politiques de tâche, un principe partagé par des modèles VLA comme Pi-0, GR00T N2 ou Helix, même si ceux-ci ciblent surtout la manipulation. Ce travail s'inscrit dans la lignée des méthodes d'imitation de mouvement pour humanoïdes (type DeepMimic, ASE) qui cherchent depuis plusieurs années à extraire des priors moteurs génériques à partir de données de capture humaine. Le déploiement reste toutefois limité à un seul robot et une seule tâche testée en réel, la navigation et la récupération de chute n'ayant été validées qu'en simulation. Les auteurs présentent cela comme une brique réutilisable, ouvrant la voie à d'autres politiques de tâche construites sur le même HMP sans nouveau cycle d'entraînement complet.

RecherchePaper
1 source
ConFlow : apprentissage guidé par contraintes avec appariement de flux pour la génération de mouvement
2arXiv cs.RO 

ConFlow : apprentissage guidé par contraintes avec appariement de flux pour la génération de mouvement

ConFlow, un nouveau framework de génération de mouvement robotique par flow matching intégrant des contraintes dès l'entraînement, a été publié sur arXiv (2607.14424v1). Le flow matching est une méthode de modélisation générative reposant sur un échantillonneur neuronal basé sur des équations différentielles ordinaires (ODE), entraîné en régressant les champs de flux empiriques associés aux trajectoires observées. Le problème que ConFlow cherche à résoudre est simple à énoncer : la plupart des approches actuelles entraînent le modèle de flux sur des données brutes, puis appliquent des contraintes propres à la tâche uniquement au moment de l'inférence, via un guidage externe. Les auteurs proposent à la place d'injecter directement l'information de contrainte dans l'objectif d'entraînement, sous forme de fonctions de barrière ou de coût différentiables. Autre nouveauté technique : la distribution source gaussienne standard du flow matching est remplacée par un processus gaussien conditionnel, ce qui permet d'imposer des spécifications de conception comme la régularité ou les conditions aux limites. Le système exploite aussi des démonstrations infaisables comme supervision négative, sans nécessiter de données expertes supplémentaires. Sur une tâche de navigation impliquant deux robots, ConFlow affiche un taux de collision plus faible et une meilleure qualité de trajectoire que les baselines de flow matching standard, avec ou sans guidage à l'inférence. L'enjeu dépasse la simple performance chiffrée : ce travail questionne une hypothèse répandue dans la génération de mouvement par apprentissage, à savoir que le guidage à l'inférence suffit à faire respecter des contraintes physiques ou de sécurité à un modèle entraîné sans elles. En démontrant qu'intégrer les contraintes pendant l'entraînement referme l'écart entre entraînement et inférence, ConFlow apporte un argument concret pour les équipes qui développent des politiques de mouvement destinées à des robots opérant sous contraintes strictes (évitement de collision, limites articulaires, zones interdites), un enjeu central pour tout déploiement industriel ou multi-robot. Le flow matching s'est imposé ces dernières années comme alternative aux modèles de diffusion pour la génération de trajectoires robotiques, dans la même famille de méthodes que les architectures vision-langage-action (VLA) comme Pi-0 ou GR00T N2, qui reposent elles aussi sur des politiques génératives entraînées sur démonstrations. ConFlow se positionne comme une brique méthodologique complémentaire à ces systèmes plutôt qu'un produit concurrent : la validation reste pour l'instant limitée à un scénario de navigation à deux robots, sans indication d'extension à des tâches de manipulation plus complexes ou à un déploiement matériel réel.

RecherchePaper
1 source
Cartographie de terrain à faible coût pour la locomotion humanoïde par apprentissage par renforcement : Loco-Loco-RL
3arXiv cs.RO 

Cartographie de terrain à faible coût pour la locomotion humanoïde par apprentissage par renforcement : Loco-Loco-RL

Un article de recherche publié sur arXiv (2609.19041v1) en septembre 2026, intitulé "Loco-Loco-RL: Low-Cost Terrain Mapping for Humanoid Locomotion with Reinforcement Learning", propose une méthode de perception de terrain low-cost pour la locomotion humanoïde. Plutôt que les caméras de profondeur ou LiDAR habituels, coûteux et gourmands en calcul, les auteurs utilisent un simple capteur time-of-flight bon marché pour construire une représentation 3D locale du terrain. Pour exploiter ce signal épars, ils introduisent une politique transformer temporelle à compression de tokens: les observations proprioceptives et de terrain sont tokenisées, traitées par un transformer à self-attention multi-tête, compressées via un module MLP en espace latent, puis stockées dans un historique glissant de 15 pas de temps qu'un second transformer à cross-attention exploite pour la politique de renforcement. La méthode a été validée par transfert sim-to-real sur un robot humanoïde physique, sur un benchmark de locomotion en terrain accidenté, avec une marche jugée robuste malgré la faible résolution du capteur. Aucun partenaire industriel ni déploiement commercial n'est mentionné: c'est un travail de recherche, pas une annonce produit, et aucune plateforme humanoïde n'est nommée. L'intérêt pour les intégrateurs reste néanmoins direct, car le coût et la consommation des capteurs de perception pèsent lourd dans le bill of materials des humanoïdes et freinent leur déploiement en volume. En montrant qu'un capteur ToF bon marché et basse résolution suffit à une locomotion robuste sur terrain accidenté grâce à une architecture transformer compressée, le travail apporte un contre-exemple concret à l'idée qu'une perception haute résolution est indispensable au franchissement d'obstacles, une piste pour réduire les coûts de production à l'échelle. L'approche s'inscrit dans une lignée de travaux en apprentissage par renforcement pour la locomotion de robots à pattes, où la perception extéroceptive du terrain reste coûteuse à traiter face à la simple proprioception. Elle se positionne face aux approches concurrentes misant sur des caméras de profondeur ou LiDAR embarqués, plus riches mais plus chers et plus lourds à calculer en temps réel. L'article ne précise ni le robot utilisé pour les essais ni de calendrier de déploiement industriel: à ce stade, c'est un preprint validant un principe en laboratoire, sans partenaire ni pilote annoncés. La suite logique, non détaillée par les auteurs, serait une extension à des terrains plus variés et une comparaison directe des coûts et performances face aux stacks LiDAR ou caméra de profondeur standards du secteur.

RecherchePaper
1 source
Une approche hors ligne d'apprentissage par renforcement guidé par fNIRS pour le comportement des robots
4arXiv cs.RO 

Une approche hors ligne d'apprentissage par renforcement guidé par fNIRS pour le comportement des robots

Une nouvelle étude, publiée sur arXiv (2607.14393v1) mi-juillet 2026, explore la possibilité de piloter l'apprentissage par renforcement de robots à l'aide de signaux cérébraux captés par spectroscopie proche infrarouge fonctionnelle (fNIRS), une technique d'imagerie optique non invasive. Les chercheurs testent leur approche en simulation, en comparant des agents entraînés sur des tâches d'interaction passive (l'humain observe) et active (l'humain démontre l'action). Plusieurs méthodes d'intégration du signal neural dans l'algorithme de RL sont évaluées, avec un choix de conception clé : le signal cérébral vient augmenter les paramètres existants plutôt que les remplacer. L'équipe étudie aussi l'impact de la granularité du modèle et du bruit sur la qualité de l'apprentissage. Résultat principal, le signal fNIRS améliore les performances lorsqu'il sert à pondérer les priorités de trajectoire et les valeurs Q état-action, et le système fonctionne aussi à partir de données hors ligne, sans capture en temps réel. Ce dernier point est le plus significatif pour le secteur. L'apprentissage par renforcement avec humain dans la boucle est déjà largement utilisé pour aligner le comportement des robots sur les préférences des utilisateurs, généralement via des démonstrations, des retours explicites ou des comparaisons de trajectoires. Un signal cérébral direct promettrait un canal de préférence plus rapide et moins intrusif que les méthodes actuelles. Mais les interfaces cerveau-machine en temps réel restent lourdes à déployer hors laboratoire. En montrant que le cadre fonctionne aussi avec des données fNIRS collectées hors ligne, l'étude ouvre une voie plus réaliste pour intégrer ce type de signal sans exiger un dispositif BCI branché en continu, un obstacle pratique majeur pour toute application au-delà de la recherche. Ce travail s'inscrit dans la lignée des recherches sur l'apprentissage par renforcement guidé par préférences humaines, déjà central dans l'entraînement des agents conversationnels et de plus en plus exploré pour la robotique physique. Il reste toutefois à un stade précoce : validation uniquement en simulation, pas de test sur robot réel, et l'abstract ne précise ni le nombre de participants ni l'institution porteuse. Les prochaines étapes attendues concernent vraisemblablement le passage à des environnements physiques et l'élargissement du panel de sujets testés.

RecherchePaper
1 source