Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
ReWeight : post-entraînement des VLA via récupération et pondération de démonstrations humaines
RecherchearXiv cs.RO 

ReWeight : post-entraînement des VLA via récupération et pondération de démonstrations humaines

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Une équipe de recherche publie ReWeight dans un preprint arXiv daté du 15 septembre 2026 (arXiv:2609.13851v1) : un framework de post-entraînement pour les modèles vision-langage-action (VLA) qui combine récupération de démonstrations et pondération d'échantillons pour exploiter des démonstrations humaines égocentriques. Testé avec le modèle π0.5 sur huit tâches en simulation et quatre tâches réelles, en conditions propres et randomisées, ReWeight fait passer le taux de réussite moyen en simulation de 39% (données robot seules) et 44% (mélange humain-robot aléatoire) à 57%. En conditions physiques réelles, il atteint 68,8% de réussite moyenne, soit 28,8 et 13,8 points de plus que ces deux références. Le projet est documenté sur reweight-vla.github.io.

L'enjeu est concret pour l'industrie : collecter des données robotiques coûte cher, alors que les vidéos égocentriques humaines sont abondantes, mais les mélanger aux données robot dégrade les performances à cause des écarts d'incarnation entre gestes humains et robotiques. ReWeight répond à ce problème en apprenant une représentation visuomotrice commune, associant observations visuelles et actions futures, puis en utilisant le transport optimal pour retenir les démonstrations humaines les plus proches du comportement cible et pondérer les échantillons en conséquence. Pour les laboratoires misant sur les VLA, à l'image de Pi-0, GR00T N2 ou Helix, ce travail offre une méthode reproductible pour exploiter des données humaines à grande échelle sans multiplier les campagnes de téléopération, même si les résultats reposent encore sur un nombre restreint de tâches.

Cette approche s'inscrit dans une tendance de fond : face au coût de la téléopération pour diversifier les données robotiques, plusieurs équipes explorent les démonstrations humaines égocentriques comme source complémentaire, un mélange naïf s'étant jusqu'ici heurté aux différences de morphologie entre mains humaines et effecteurs robotiques. ReWeight s'appuie sur π0.5, le modèle de Physical Intelligence déjà utilisé comme référence dans plusieurs travaux académiques sur les VLA, sans qu'aucun partenariat industriel ne soit mentionné. Il s'agit d'une contribution de recherche publiée sur arXiv, dont la validation sur davantage de plateformes et de tâches reste l'étape à venir avant une éventuelle adoption par des équipes produit.

Dans nos dossiers

IA physique & VLANVIDIA GR00TPhysical Intelligence — π0arXiv cs.RO

À lire aussi

RoboDrop : curation des données de post-entraînement VLA via la compatibilité locale des gradients
1arXiv cs.RO 

RoboDrop : curation des données de post-entraînement VLA via la compatibilité locale des gradients

Un article publié sur arXiv le 10 septembre 2026 (référence 2609.10021) présente RoboDrop, une méthode pour nettoyer les données de post-entraînement des modèles vision-langage-action (VLA) qui pilotent robots manipulateurs et humanoïdes. Une fois pré-entraînés, ces modèles doivent être réadaptés à une tâche et un robot précis avec des données de terrain souvent entachées d'erreurs d'exécution, de dérive de capteurs ou de décalages de timestamps. En une seule époque de préchauffage, RoboDrop note chaque échantillon en comparant son gradient à celui d'exemples de validation proches de la tâche visée, agrège ces scores par épisode, puis filtre automatiquement les démonstrations douteuses. Testé sur des corruptions simulées et des jeux de données réels collectés par des opérateurs non experts, il fait grimper le taux moyen de réussite des essais réels sur robot de 35,0% à 67,5% après curation. Ce travail s'attaque à un goulot d'étranglement concret : la collecte de données robotiques reste manuelle, bruitée et coûteuse à auditer, et un jeu de post-entraînement pollué peut annuler les gains d'un modèle par ailleurs performant. En remplaçant l'inspection humaine et les filtres ad hoc par un signal automatique de compatibilité de gradient, l'étude confirme que pour les intégrateurs réutilisant des VLA génériques comme GR00T, Pi-0 ou Helix sur leur propre robot, le facteur limitant se déplace du modèle vers la qualité des données d'adaptation. Le quasi-doublement du taux de succès réel reste toutefois un résultat de laboratoire mesuré sur les bancs d'essai des auteurs, dont la généralisation à d'autres capteurs et embodiments reste à démontrer. RoboDrop prolonge des travaux existants sur le nettoyage de données pour l'apprentissage par imitation, jusqu'ici dominés par des méthodes ciblant chacune un type de corruption précis sans cadre unifié. En mesurant la compatibilité des gradients le long de la trajectoire d'entraînement plutôt qu'en inspectant les données a priori, les auteurs proposent une alternative générique et automatisable à l'audit manuel. Classé comme nouvelle soumission sur arXiv, l'article ne mentionne ni partenariat industriel ni calendrier de déploiement : c'est pour l'instant une contribution de recherche destinée à être discutée et reproduite par la communauté avant une éventuelle adoption dans les pipelines des laboratoires travaillant sur les VLA.

RechercheOpinion
1 source
EgoRecovery : acquérir la capacité de récupération après échec grâce à des démonstrations humaines de récupération
2arXiv cs.RO 

EgoRecovery : acquérir la capacité de récupération après échec grâce à des démonstrations humaines de récupération

Un groupe de recherche présente EgoRecovery, un article publié sur arXiv (référence 2607.19745v1), qui s'attaque à un problème central de la robotique embarquée: la capacité d'un robot à récupérer d'un échec en cours de tâche plutôt que de rester bloqué. Le constat de départ est simple, collecter des données de récupération par téléopération robotique est très coûteux en temps, car il faut provoquer artificiellement des états d'échec variés, exécuter les gestes correctifs, puis réinitialiser l'environnement avant chaque nouvel essai. Les auteurs proposent à la place d'utiliser des démonstrations humaines à la première personne, filmées avec une caméra egocentrique, pour capturer les gestes de récupération. Selon leur protocole, un opérateur humain permet de générer plus de dix fois plus de données de récupération exploitables par heure qu'un opérateur en téléopération robotique classique. Pour combler l'écart entre le corps humain et le corps du robot, l'équipe introduit un espace d'intention corrective compact et partagé, qui encode le moment et l'amplitude de la correction plutôt que les mouvements bruts, et ne nécessite qu'un petit nombre de démonstrations robotiques réelles pour relier cette intention à des actions exécutables. Cette approche s'attaque directement à un goulot d'étranglement connu du secteur, à savoir que les modèles vision-langage-action (VLA) actuels progressent surtout sur les démonstrations de succès mais restent fragiles face aux échecs, faute de données de récupération suffisamment diverses. Si la méthode tient à plus grande échelle, elle offrirait un moyen bien moins coûteux d'entraîner des robots à se corriger seuls en environnement réel bruité, un enjeu clé pour toute déploiement industriel ou domestique fiable au-delà des démonstrations scénarisées. C'est aussi un signal supplémentaire que l'apprentissage par imitation à partir de vidéos humaines, déjà exploré par plusieurs laboratoires, gagne du terrain comme complément moins onéreux à la téléopération pure. Le système embarque également un mécanisme appelé recovery gate, qui observe en continu le robot au moment du déploiement et déclenche l'intention corrective uniquement lorsqu'un état d'échec est détecté, évitant d'interférer avec l'exécution normale de la tâche. Les auteurs rapportent, sur des tâches réelles de récupération, des gains de succès par rapport à un entraînement uniquement sur données robotiques, à un co-entraînement direct avec les données humaines, et à des méthodes de transfert d'intention plus simples, sans toutefois préciser à ce stade de partenaire industriel ni de calendrier de déploiement au-delà du cadre expérimental.

RecherchePaper
1 source
Accélération sans entraînement des modèles VLA par mise en cache et raffinement d'actions
3arXiv cs.RO 

Accélération sans entraînement des modèles VLA par mise en cache et raffinement d'actions

Une équipe de recherche propose ActionCache, une méthode d'accélération sans réentraînement pour les modèles Vision-Language-Action (VLA) reposant sur le flow matching, publiée le 8 juillet 2026 sur arXiv (2607.06370). Ces modèles génèrent des séquences d'actions robotiques précises via un processus de débruitage itératif, mais cette étape constitue un goulot d'étranglement computationnel majeur pour un déploiement en temps réel. ActionCache fonctionne comme un cache externe "plug-and-play" qui réutilise des actions intermédiaires déjà calculées lors d'épisodes passés, en les indexant avec des clés multimodales compactes, pour amorcer la génération à proximité de l'action cible plutôt que de repartir de zéro. Les tests, menés en simulation et en conditions réelles, montrent que la méthode conserve des taux de réussite élevés tout en réduisant fortement la latence: jusqu'à 11,75 fois plus rapide sur le modèle $\pi{0.5}$ et 34,43 fois sur GR00T-N1.6. Pour l'industrie robotique, ce résultat s'attaque directement à l'un des freins les plus concrets à l'adoption des VLA en production: la latence d'inférence, qui limite aujourd'hui leur usage aux démonstrations plutôt qu'aux lignes de production ou à la manipulation en temps réel. Le fait que la technique soit sans réentraînement et compatible avec des architectures existantes (elle a été validée sur deux familles de modèles distinctes, $\pi{0.5}$ et GR00T-N1.6) la rend potentiellement intégrable rapidement par les équipes qui déploient déjà ces modèles, sans coût de calcul supplémentaire lié à un nouvel entraînement. C'est un signal utile pour les intégrateurs et décideurs B2B suivant de près l'écart entre les capacités démontrées en laboratoire et la viabilité opérationnelle des VLA. Ce travail s'inscrit dans la montée en puissance des modèles VLA basés sur le flow matching, une famille popularisée par $\pi0$ et ses variantes chez Physical Intelligence, et concurrencée par GR00T de NVIDIA sur le terrain des modèles fondation pour la robotique généraliste. La comparaison directe entre $\pi{0.5}$ et GR00T-N1.6 positionne implicitement ActionCache comme une brique d'optimisation transversale plutôt que liée à un acteur unique. Publié en preprint, l'article ne précise pas encore de calendrier d'intégration industrielle ni de partenariat annoncé, mais ouvre la voie à des tests sur d'autres architectures VLA à mesure que ces modèles se rapprochent du déploiement en usine ou en entrepôt.

RechercheActu
1 source
Entraînement de robots par LLM : génération automatisée de données via l'augmentation de démonstrations
4arXiv cs.RO 

Entraînement de robots par LLM : génération automatisée de données via l'augmentation de démonstrations

Des chercheurs de Carnegie Mellon University ont publié LLM Trainer (arXiv:2509.20070v2), un pipeline entièrement automatisé capable de transformer une poignée de démonstrations humaines, aussi peu qu'une seule, en un large jeu de données pour l'apprentissage par imitation robotique. Le système décompose la génération de nouvelles démonstrations en deux étapes : une annotation hors-ligne qui extrait des keyframes, des objets saillants et des relations pose-objet à partir des trajectoires originales, puis un retargeting de keyposes en ligne qui adapte ces keyframes à un nouvel environnement à partir d'une simple observation initiale. Le pipeline déforme ensuite géométriquement la trajectoire originale pour en produire une nouvelle, l'exécute sur le robot, et ne conserve les données que si l'exécution est concluante. Pour optimiser la qualité des annotations, réutilisables d'une scène à l'autre, l'équipe intègre un mécanisme de Thompson sampling qui améliore significativement le taux de succès. Les validations ont été conduites sur un bras Franka Emika Panda. L'enjeu est structurant pour l'imitation learning en robotique industrielle : le goulot d'étranglement reste la collecte coûteuse de démonstrations humaines. LLM Trainer propose de contourner ce problème en mobilisant la connaissance du monde embarquée dans les LLMs pour générer des variantes de scènes plausibles sans intervention humaine supplémentaire. Les résultats montrent que la méthode d'annotation LLM surpasse systématiquement des baselines conçues par des experts humains. L'approche d'ensemble, combinant un plan feed-forward LLM optimisé et un contrôleur par imitation en feedback, ouvre une piste vers des politiques plus robustes à la variabilité des environnements réels, ce qui intéresse directement les intégrateurs confrontés à des lignes de production hétérogènes. Ce travail s'inscrit dans une tendance forte en manipulation robotique : réduire la dépendance aux données humaines via l'augmentation synthétique, après des approches comme RoboAgent, DemoAugment ou les pipelines sim-to-real de Google DeepMind. Carnegie Mellon reste un acteur central de cet espace, aux côtés de Stanford (Mobile ALOHA), Berkeley (RoboVerse) et du MIT. Pour l'heure, LLM Trainer est uniquement validé sur un seul modèle de bras dans des conditions de laboratoire, ce qui laisse ouverte la question du passage à l'échelle vers des robots humanoïdes ou des environnements moins structurés. La version v2 publiée sur arXiv suggère des révisions post-soumission, probablement en vue d'une conférence comme CoRL 2025 ou ICRA 2026.

RecherchePaper
1 source