Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
ReWeight : post-entraînement des VLA via récupération et pondération de démonstrations humaines
RecherchearXiv cs.RO 

ReWeight : post-entraînement des VLA via récupération et pondération de démonstrations humaines

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Une équipe de recherche publie ReWeight dans un preprint arXiv daté du 15 septembre 2026 (arXiv:2609.13851v1) : un framework de post-entraînement pour les modèles vision-langage-action (VLA) qui combine récupération de démonstrations et pondération d'échantillons pour exploiter des démonstrations humaines égocentriques. Testé avec le modèle π0.5 sur huit tâches en simulation et quatre tâches réelles, en conditions propres et randomisées, ReWeight fait passer le taux de réussite moyen en simulation de 39% (données robot seules) et 44% (mélange humain-robot aléatoire) à 57%. En conditions physiques réelles, il atteint 68,8% de réussite moyenne, soit 28,8 et 13,8 points de plus que ces deux références. Le projet est documenté sur reweight-vla.github.io.

L'enjeu est concret pour l'industrie : collecter des données robotiques coûte cher, alors que les vidéos égocentriques humaines sont abondantes, mais les mélanger aux données robot dégrade les performances à cause des écarts d'incarnation entre gestes humains et robotiques. ReWeight répond à ce problème en apprenant une représentation visuomotrice commune, associant observations visuelles et actions futures, puis en utilisant le transport optimal pour retenir les démonstrations humaines les plus proches du comportement cible et pondérer les échantillons en conséquence. Pour les laboratoires misant sur les VLA, à l'image de Pi-0, GR00T N2 ou Helix, ce travail offre une méthode reproductible pour exploiter des données humaines à grande échelle sans multiplier les campagnes de téléopération, même si les résultats reposent encore sur un nombre restreint de tâches.

Cette approche s'inscrit dans une tendance de fond : face au coût de la téléopération pour diversifier les données robotiques, plusieurs équipes explorent les démonstrations humaines égocentriques comme source complémentaire, un mélange naïf s'étant jusqu'ici heurté aux différences de morphologie entre mains humaines et effecteurs robotiques. ReWeight s'appuie sur π0.5, le modèle de Physical Intelligence déjà utilisé comme référence dans plusieurs travaux académiques sur les VLA, sans qu'aucun partenariat industriel ne soit mentionné. Il s'agit d'une contribution de recherche publiée sur arXiv, dont la validation sur davantage de plateformes et de tâches reste l'étape à venir avant une éventuelle adoption par des équipes produit.

Dans nos dossiers

IA physique & VLANVIDIA GR00TPhysical Intelligence — π0arXiv cs.RO

À lire aussi

VisTacAlign : co-entraînement de politiques dextériques sur des démonstrations tactiles humaines et robotiques
1arXiv cs.RO 

VisTacAlign : co-entraînement de politiques dextériques sur des démonstrations tactiles humaines et robotiques

Un preprint arXiv (2609.30959v1), publié fin septembre 2026 avec une page projet à vis-tac-align.github.io, présente VisTacAlign, un framework de co-entraînement de politiques de manipulation dextre combinant vision 3D et tactile. Des démonstrations humaines captées par un gant tracké sont retargetées vers une main robotique tactile à 17 degrés de liberté, avec une correction ponctuelle des doigts. La main humaine est effacée des vues stéréo et remplacée par un maillage de main robot texturé à partir d'images robot réelles, puis un modèle de fondation stéréo est réappliqué sur l'image composite pour homogénéiser les erreurs de perception entre les deux sources. Un gant tactile capacitif est calibré sur les capteurs de bout de doigt du robot, et un transformeur à diffusion ingère nuage de points, proprioception et tactile par doigt. Trois tâches réelles servent de test : assemblage de Lego, cueillette de fraises de tailles variables, activation et levage d'une perceuse. Résultat clé : combiner ces démonstrations humaines alignées avec des données robot existantes améliore les politiques par rapport à un entraînement robot seul, et les ablations montrent que tactile et alignement visuel sont chacun nécessaires. Pour les équipes de manipulation dextre, l'enjeu est économique : la téléopération robot reste lente et coûteuse à collecter, alors que les démonstrations humaines filmées à la main sont abondantes. Le verrou n'était pas le volume de données humaines mais l'écart d'incarnation entre main humaine et main robot. Ces travaux appuient l'idée que des politiques génériques de type VLA peuvent apprendre à grande échelle à partir de vidéos humaines, une direction que suivent aussi des modèles comme Pi-0 ou GR00T N2. VisTacAlign reste un travail de recherche en preprint, sans produit ni déploiement industriel annoncé : la validation se limite à trois tâches en laboratoire. Il s'inscrit dans une vague de recherches cherchant à réduire la dépendance à la téléopération coûteuse via des démonstrations humaines, aux côtés d'approches comme Pi-0 de Physical Intelligence, GR00T N2 de NVIDIA ou Helix de Figure. Sa spécificité tient à la modalité tactile, moins explorée que le transfert purement visuel humain-robot. Le preprint n'annonce ni partenariat industriel ni calendrier de suite ; les prochaines étapes se limitent aux vidéos et documents disponibles sur la page du projet.

RecherchePaper
1 source
TTT dans les modèles VLA : explorer l'entraînement avec des démonstrations humaines
2arXiv cs.RO 

TTT dans les modèles VLA : explorer l'entraînement avec des démonstrations humaines

Une étude publiée sur arXiv (2610.32094) teste l'intégration du Test-Time Training (TTT) dans deux modèles vision-langage-action (VLA) : InternVLA-A1 et Pi0.5. Le TTT stocke le contexte dans des « poids rapides » mis à jour pendant l'inférence. L'objectif est de permettre à un robot d'effectuer des tâches longues en conservant l'information passée, ici une démonstration humaine. Les auteurs entraînent les modèles sur des paires démonstration humaine / trajectoire robot. Ils implémentent un transfert de mémoire entre les deux phases et une rétropropagation tronquée. Ils comparent plusieurs objectifs d'entraînement, plusieurs couvertures de gradient et une régularisation contrastive, sur des tâches où l'indice est une vidéo, une courte vidéo ou une seule image. Le résultat est négatif : à l'échelle testée, le TTT et l'entraînement sur données appariées n'induisent pas de sélection cohérente de la cible d'après la démonstration. Ni les séquences plus courtes, ni la connectivité complète du gradient sur toute la trajectoire, ni la régularisation contrastive n'améliorent nettement la réactivité aux démonstrations. Quand la démonstration est réduite à une image unique, le robot réel continue de préférer des gobelets placés à des positions fixes. Le modèle semble donc exploiter des régularités de position apprises à l'entraînement plutôt que l'indice fourni. Le papier ne chiffre pas ici de taux de réussite dans son résumé, et la conclusion vaut pour les réglages et la taille de données testés, pas pour le TTT en général. Ce type de résultat compte pour les intégrateurs et les équipes R&D. Il rappelle qu'une architecture à mémoire, même séduisante sur le papier, ne suffit pas à rendre un VLA conditionnable par l'exemple. L'imitation à partir d'une seule démonstration humaine, souvent mise en avant comme voie vers un déploiement rapide sans reprogrammation, reste un problème ouvert. Le biais de position observé illustre aussi un risque classique : des métriques en simulation ou sur des configurations répétitives peuvent masquer l'absence de véritable compréhension de l'indice. La publication des détails d'implémentation et des configurations d'entraînement, dans une optique de réplication, a une vraie valeur pour un champ où les échecs sont rarement documentés. Le contexte est celui de la montée des VLA généralistes, dont Pi0.5 de Physical Intelligence, et de la recherche de mémoire à long horizon pour sortir des modèles quasi sans état. Le TTT, issu des travaux sur les couches de séquence à poids rapides, est une alternative aux fenêtres de contexte coûteuses. Les suites logiques seraient de changer d'échelle (plus de paires de données, plus de diversité de scènes), de tester d'autres mécanismes de mémoire et de comparer avec des approches de démonstration en contexte. Aucun calendrier n'est annoncé, et il s'agit d'une recherche académique, sans produit ni déploiement.

RecherchePaper
1 source
Démonstrations humaines comme données de post-entraînement pour tout robot : transférer l'objet, pas la main
3arXiv cs.RO 

Démonstrations humaines comme données de post-entraînement pour tout robot : transférer l'objet, pas la main

Des chercheurs proposent une méthode pour transformer une démonstration humaine, filmée par exemple avec un simple téléphone mobile, en données de post-entraînement utilisables par n'importe quel robot, quelle que soit sa morphologie. Plutôt que de transposer le mouvement de la main (retargeting), le système transpose celui de l'objet. Chaque capture produit un enregistrement indépendant du corps : la pose de l'objet au cours du temps, ses intervalles de contact et un objet 3D reconstruit avec sa provenance. Tout robot, décrit par un fichier URDF et un court descripteur, est ensuite résolu contre cet enregistrement et évalué en simulation, avec le mouvement démontré de l'objet comme vérité terrain. Chaque paire (robot, épisode) reçoit un verdict unique : réussite, échec avec un mode nommé, ou refus motivé avant tout mouvement. Sur un échantillon de 42 captures résolues sur 8 robots, soit 157 paires, 31,2 % réussissent, 52,2 % échouent, 14,0 % sont refusées et 2,5 % sont inauditables. Le critère est la faisabilité cinématique en simulation, avec une tolérance de ±50 mm et ±15°. Pour les intégrateurs et les décideurs industriels, l'enjeu est de savoir quelles données humaines un robot donné peut réellement exploiter. Aujourd'hui, ces démonstrations servent surtout au pré-entraînement des modèles vision-langage-action (VLA), mais peu au post-entraînement ciblé sur une plateforme ou une tâche, dont dépend pourtant le déploiement à grande échelle. Les résultats donnent un premier ordre de grandeur : moins d'un tiers des paires passent, ce qui rappelle que la transposition d'une démonstration humaine vers un corps différent reste loin d'être automatique. Le point le plus solide concerne les refus : les 13 paires que les contrôles écartent sur preuves stockées mais qui ont été lancées malgré tout ont toutes échoué, dont 5 sur un robot dont le modèle public soude la main. À l'inverse, un simple fichier de description ne permet pas de présélectionner les robots, ses résultats étant à peine plus prévisibles que le hasard. Il faut toutefois rester prudent. Les auteurs précisent qu'aucune politique n'a encore été entraînée sur cet enregistrement, et la validation reste purement simulée. L'enregistrement décide de ce sur quoi un robot peut se post-entraîner, mais la question de savoir si la politique fonctionne sur le robot réel, le passage de la simulation au robot, est renvoyée à des travaux ultérieurs. Le système fonctionne sur une collection en croissance, dont l'étude n'analyse qu'un échantillon. Cette approche s'inscrit dans le mouvement des données de démonstration humaine à bas coût, face à la téléopération, plus coûteuse et liée à une plateforme. La suite logique sera d'entraîner des politiques sur ces enregistrements et de mesurer l'écart avec le matériel réel.

RecherchePaper
1 source
RoboDrop : curation des données de post-entraînement VLA via la compatibilité locale des gradients
4arXiv cs.RO 

RoboDrop : curation des données de post-entraînement VLA via la compatibilité locale des gradients

Un article publié sur arXiv le 10 septembre 2026 (référence 2609.10021) présente RoboDrop, une méthode pour nettoyer les données de post-entraînement des modèles vision-langage-action (VLA) qui pilotent robots manipulateurs et humanoïdes. Une fois pré-entraînés, ces modèles doivent être réadaptés à une tâche et un robot précis avec des données de terrain souvent entachées d'erreurs d'exécution, de dérive de capteurs ou de décalages de timestamps. En une seule époque de préchauffage, RoboDrop note chaque échantillon en comparant son gradient à celui d'exemples de validation proches de la tâche visée, agrège ces scores par épisode, puis filtre automatiquement les démonstrations douteuses. Testé sur des corruptions simulées et des jeux de données réels collectés par des opérateurs non experts, il fait grimper le taux moyen de réussite des essais réels sur robot de 35,0% à 67,5% après curation. Ce travail s'attaque à un goulot d'étranglement concret : la collecte de données robotiques reste manuelle, bruitée et coûteuse à auditer, et un jeu de post-entraînement pollué peut annuler les gains d'un modèle par ailleurs performant. En remplaçant l'inspection humaine et les filtres ad hoc par un signal automatique de compatibilité de gradient, l'étude confirme que pour les intégrateurs réutilisant des VLA génériques comme GR00T, Pi-0 ou Helix sur leur propre robot, le facteur limitant se déplace du modèle vers la qualité des données d'adaptation. Le quasi-doublement du taux de succès réel reste toutefois un résultat de laboratoire mesuré sur les bancs d'essai des auteurs, dont la généralisation à d'autres capteurs et embodiments reste à démontrer. RoboDrop prolonge des travaux existants sur le nettoyage de données pour l'apprentissage par imitation, jusqu'ici dominés par des méthodes ciblant chacune un type de corruption précis sans cadre unifié. En mesurant la compatibilité des gradients le long de la trajectoire d'entraînement plutôt qu'en inspectant les données a priori, les auteurs proposent une alternative générique et automatisable à l'audit manuel. Classé comme nouvelle soumission sur arXiv, l'article ne mentionne ni partenariat industriel ni calendrier de déploiement : c'est pour l'instant une contribution de recherche destinée à être discutée et reproduite par la communauté avant une éventuelle adoption dans les pipelines des laboratoires travaillant sur les VLA.

RechercheOpinion
1 source