Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
Apprentissage de la loco-manipulation à partir de démonstrations SMPC via un RL clairsemé hors ligne vers en ligne
RecherchearXiv cs.RO 

Apprentissage de la loco-manipulation à partir de démonstrations SMPC via un RL clairsemé hors ligne vers en ligne

1 source couvre ce sujet·Source originale ↗·

Compilé et résumé par IA · sources vérifiables en un clic · publié sans lecture humaine préalable · méthodologie

Résumé IASource unique

Une équipe de recherche présente dans un preprint arXiv publié le 13 août 2026 (arXiv:2608.12063v1) une méthode d'apprentissage combinant locomotion et manipulation pour robots à pattes. Le système utilise du Sample-based Model Predictive Control (SMPC), une forme de commande prédictive par échantillonnage, exécutée entièrement en simulation pour générer automatiquement de vastes jeux de données hors ligne, jouant le rôle d'expert artificiel. Ces données servent ensuite à entraîner un agent de reinforcement learning (RL) off-policy à l'aide de récompenses de tâche uniquement éparses (sparse rewards), sans le façonnage manuel et chronophage de fonctions de récompense denses habituellement nécessaire. Cet agent de haut niveau est couplé à un contrôleur bas niveau assurant la stabilité dynamique du robot. Les auteurs valident la robustesse du transfert simulation-vers-réel (sim-to-real) en déployant des compétences complexes de loco-manipulation sur deux morphologies différentes: un quadrupède Spot équipé d'un bras et un humanoïde G1.

L'intérêt principal de ces travaux tient à la résolution du goulot d'étranglement le plus coûteux du RL appliqué à la robotique: la conception manuelle de récompenses denses, qui ralentit considérablement l'apprentissage de nouvelles compétences à chaque nouvelle tâche. En s'appuyant sur des démonstrations SMPC pour préremplir l'exploration, les auteurs affirment que les politiques apprises finissent par surpasser leur propre professeur de commande optimale, un résultat notable si confirmé à plus grande échelle. Pour les intégrateurs et décideurs du secteur, cela illustre une voie alternative aux approches VLA entraînées sur des démonstrations réelles massives: générer les données d'entraînement en simulation via un contrôleur classique plutôt que par téléopération humaine, ce qui pourrait réduire les coûts de collecte de données pour les robots à pattes et humanoïdes.

Ce travail s'inscrit dans la tendance du RL offline-to-online et de l'usage de contrôleurs optimaux comme professeurs pour le RL. Il reste à ce stade une publication de recherche, sans nom d'entreprise, de laboratoire ni de calendrier de déploiement commercial associés dans l'abstract, et sans comparaison chiffrée directe avec les approches VLA concurrentes.

Dans nos dossiers

arXiv cs.RO

À lire aussi

HoMMI : apprentissage de la manipulation mobile corps entier à partir de démonstrations humaines
1arXiv cs.RO 

HoMMI : apprentissage de la manipulation mobile corps entier à partir de démonstrations humaines

Une équipe de chercheurs a publié sur arXiv (arXiv:2603.03243v2) HoMMI, pour Whole-Body Mobile Manipulation Interface, un framework d'apprentissage par imitation permettant à un robot mobile de maîtriser la manipulation bimanuelle et la navigation à partir de démonstrations humaines réalisées sans robot. Le principe : un opérateur humain porte une interface portative héritée du projet UMI (Universal Manipulation Interface), enrichie d'une caméra égocentrique capturant le contexte global de la scène (position dans l'espace, état de l'environnement). Ces données brutes alimentent une politique apprise, transférée ensuite sur un robot à corps entier (bras, torse, base mobile) sans que celui-ci n'ait été présent lors de la collecte. La difficulté centrale que HoMMI cherche à résoudre est l'"embodiment gap" : la différence morphologique et sensorielle entre humain et robot rend le transfert de politique difficile, particulièrement en perception égocentrique où les champs de vue et hauteurs d'oeil divergent fortement. Les auteurs proposent trois briques techniques pour combler cet écart : une représentation visuelle agnostique à l'embodiment, une représentation d'action "head relaxed" qui neutralise les variations de mouvement de tête, et un contrôleur corps entier réalisant les trajectoires main-oeil sous contraintes physiques du robot. Ces choix permettent des tâches longue-séquence mobilisant navigation, perception active et coordination bimanuelle, le type de scénario que les architectures Vision-Language-Action (VLA) comme pi-0 de Physical Intelligence ou GR00T N2 de NVIDIA visent également à résoudre. Les résultats, présentés sous forme de vidéos sur hommi-robot.github.io, restent à valider en conditions non contrôlées et sur des benchmarks standardisés. HoMMI s'inscrit dans la continuité directe du projet UMI (Columbia/Stanford, 2024), qui avait popularisé la collecte portable de démonstrations pour la manipulation fixe sur table. L'extension au robot mobile ajoute la dimension navigation, saut de complexité majeur pour le sim-to-real et la généralisation hors laboratoire. Les approches concurrentes incluent Mobile ALOHA (Stanford), les pipelines de distillation de données de Physical Intelligence, et les travaux de manipulation bimanuelle ALOHA/ACT de Berkeley. HoMMI reste à ce stade un preprint arXiv sans déploiement industriel annoncé ni métriques de taux de succès publiées, une limite habituelle des publications en robotique d'apprentissage avant revue par les pairs.

RecherchePaper
1 source
HALOMI : apprentissage de la loco-manipulation humanoïde avec perception active à partir de démonstrations humaines
2arXiv cs.RO 

HALOMI : apprentissage de la loco-manipulation humanoïde avec perception active à partir de démonstrations humaines

Une équipe de chercheurs vient de publier sur arXiv (réf. 2606.18772) HALOMI, un framework permettant à un humanoïde d'apprendre la "loco-manipulation" -- navigation et manipulation d'objets combinées -- à partir de démonstrations humaines captées en conditions réelles. Le système étend l'Universal Manipulation Interface (UMI) avec une perception égocentrique double : caméras en vue subjective (ego-view) et au niveau du poignet (wrist-view), enregistrant simultanément les trajectoires tête-mains de l'opérateur. La validation s'effectue sur le Unitree G1, humanoïde équipé d'un cou motorisé, sur cinq catégories de tâches réelles : navigation, préhension, manipulation bimane, coordination corps entier, et comportements dynamiques incluant lancer d'objets et accroupissement profond. HALOMI atteint un taux de réussite moyen de 85 % sur les trois tâches évaluées quantitativement. Ce résultat cible l'un des obstacles fondamentaux du retargeting humain-humanoïde : au-delà du sim-to-real gap, il existe un "human-to-humanoid gap" dans la perception égocentrique et l'exécution motrice. HALOMI l'attaque sur deux fronts : un alignement de la vue subjective, et une adaptation de trajectoire dite "controller-aware" qui intègre les contraintes dynamiques propres au robot. Le contrôleur de suivi tête-main opère dans un espace latent appris (manifold contraint), ce qui le rend plus robuste face aux cibles hors distribution -- écueil classique du retargeting direct. Le 85 % est à nuancer : les tâches qualitatives comme le lancer dynamique n'ont pas de métriques publiées, et les conditions expérimentales exactes (nombre d'essais, variabilité de scène) restent non précisées dans le papier. HALOMI s'inscrit dans la tendance qui exploite les démonstrations humaines pour réduire le coût de collecte de données sur robot, dans la lignée directe d'UMI (Stanford, 2023), et en parallèle des approches Vision-Language-Action comme Pi-Zero (Physical Intelligence) ou GR00T N2 (NVIDIA). La particularité ici est l'accent mis sur la perception active : le cou motorisé du G1 est un élément fonctionnel du pipeline, pas un détail cosmétique. Le Unitree G1, commercialisé autour de 16 000 dollars, s'est imposé comme banc de test académique commun depuis 2024. Aucun partenaire industriel ni calendrier de déploiement n'est mentionné dans le papier : HALOMI reste pour l'heure une contribution de recherche, sans annonce de commercialisation.

RechercheOpinion
1 source
ELA : apprentissage de politique d'action latente de bout en bout à partir de démonstrations vidéo
3arXiv cs.RO 

ELA : apprentissage de politique d'action latente de bout en bout à partir de démonstrations vidéo

ELA est un cadre d'apprentissage proposé dans un article arXiv (2611.05571, première version) qui vise à entraîner des politiques robotiques à partir de vidéos de démonstration dépourvues d'étiquettes d'actions. Le système entraîne conjointement trois modules : un modèle d'actions latentes, qui extrait une représentation de l'action à partir des transitions entre observations, une politique opérant dans cet espace latent, et un décodeur qui convertit ces actions latentes en commandes continues pour le robot. Seules quelques démonstrations robot annotées en actions suffisent pour calibrer le décodeur, le reste de l'apprentissage s'appuyant sur de la vidéo brute. Les auteurs rapportent des résultats supérieurs à ceux des méthodes d'actions latentes antérieures, en simulation comme sur des tâches de manipulation réelles. Le décodeur ne pèse que 4 millions de paramètres et se greffe sur des méthodes d'imitation existantes sans modifier l'architecture de la politique ni son objectif d'entraînement. Le résumé ne précise ni le nombre de démonstrations annotées, ni les benchmarks, ni les taux de réussite, ni le matériel utilisé. L'enjeu touche au principal goulot d'étranglement de l'apprentissage par imitation : les données annotées en actions, coûteuses à collecter par téléopération, sont rares, alors que les vidéos humaines ou robotiques abondent. Les approches d'actions latentes existantes tentent déjà d'exploiter ce gisement, mais elles apprennent leur représentation sans tenir compte de l'usage aval. Il en résulte des espaces latents difficiles à modéliser pour la politique et imprécis à décoder en gestes continus. En optimisant l'ensemble de bout en bout, ELA s'attaque à cette rupture entre représentation et contrôle. Pour un intégrateur ou une équipe R&D, l'aspect le plus exploitable est la compatibilité : un décodeur léger qui s'ajoute à une pile existante abaisse le coût d'adoption. Il faut toutefois rester prudent. Il s'agit d'un preprint sans revue par les pairs, les gains sont exprimés par rapport à d'autres méthodes latentes et non à des politiques entraînées à grande échelle, et rien ne démontre à ce stade une robustesse en conditions industrielles ni un passage à l'échelle de type VLA. Ce travail s'inscrit dans une lignée de méthodes d'actions latentes apprises sur vidéo, qui ont gagné en visibilité avec les modèles fondation robotiques cherchant à tirer parti de données sans annotations d'actions. Il se place en concurrence directe avec ces approches de pré-entraînement, plutôt qu'avec les produits commerciaux des acteurs de l'humanoïde. Aucun déploiement, partenaire industriel ni calendrier n'est mentionné. Les prochaines étapes à surveiller sont la publication du code et des supports annoncés sur la page du projet, les comparaisons chiffrées détaillées, et surtout des tests sur des données vidéo plus hétérogènes, notamment issues d'humains, ainsi que sur des plateformes et des tâches plus variées.

RecherchePaper
1 source
SynIL : exploiter la synergie pour l'apprentissage par imitation hors ligne à partir de jeux de démonstrations imparfaites
4arXiv cs.RO 

SynIL : exploiter la synergie pour l'apprentissage par imitation hors ligne à partir de jeux de démonstrations imparfaites

Des chercheurs proposent SynIL (Synergy-based Imitation Learning), un cadre d'apprentissage par imitation hors ligne conçu pour exploiter des jeux de démonstrations imparfaits sans intervention humaine. Le problème visé est connu : les performances de l'imitation se dégradent fortement quand les données contiennent des démonstrations sous-optimales ou bruitées. Les méthodes existantes filtrent ou repondèrent les données, mais elles exigent en général une présélection manuelle de démonstrations expertes de référence, ou des heuristiques propres à chaque tâche. SynIL s'en passe : il évalue automatiquement la qualité de chaque transition, sans étiquette. Il quantifie la « synergie motrice », c'est-à-dire la structure coordonnée et de faible dimension du mouvement, que les neurosciences associent au niveau de maîtrise motrice. À partir de cette mesure, il produit des signaux de récompense denses, au niveau de chaque transition, par régression auto-supervisée. Les tests portent sur les benchmarks de locomotion D4RL et sur des jeux Robomimic de manipulation issus de plusieurs opérateurs humains. Les auteurs rapportent que ces récompenses corrèlent fortement avec les récompenses réelles de l'environnement. SynIL dépasse nettement le clonage comportemental (BC). Il atteint des résultats comparables à ceux de l'apprentissage par renforcement hors ligne entraîné sur les vraies récompenses, et meilleurs en téléopération humaine à récompense éparse. L'enjeu est pratique pour quiconque collecte des données de téléopération à grande échelle. Les jeux de démonstrations réels mélangent opérateurs aguerris et novices, essais hésitants et gestes parasites. Le tri manuel ne passe pas à l'échelle, alors que les politiques généralistes de type VLA dépendent de volumes toujours plus grands. Un score de qualité calculé sans référence experte pourrait réduire le coût de curation et rendre exploitables des données jusque-là écartées. Le résultat sur récompenses éparses est le plus intéressant, puisque c'est le cas habituel de la manipulation réelle, où la récompense se limite souvent à un succès ou un échec en fin d'épisode. Des réserves s'imposent : il s'agit d'un préprint (arXiv, v1) non évalué par des pairs. Les validations se limitent à des benchmarks simulés ou à des jeux de données standard, sans robot physique ni humanoïde. L'hypothèse selon laquelle la synergie reflète la compétence reste à vérifier sur des morphologies et des tâches plus variées. Ces travaux s'inscrivent dans un courant plus large de pondération et de filtrage des données pour l'apprentissage hors ligne, face à la montée des corpus de téléopération agrégés par les laboratoires et les fabricants d'humanoïdes. Le lien avec la biomécanique et les neurosciences motrices est relativement peu exploité dans ce champ. L'article ne mentionne ni code publié, ni calendrier de déploiement, ni partenaire industriel. L'étape suivante logique serait une validation sur robots réels et sur des modèles fondation de grande taille.

RecherchePaper
1 source