Aller au contenu principal
Agentic-Teacher : un moteur de données à base d'agents pour le post-entraînement des modèles VLA guidé par les échecsIllustration générée par IA
RecherchearXiv cs.RO 

Agentic-Teacher : un moteur de données à base d'agents pour le post-entraînement des modèles VLA guidé par les échecs

1 source couvre ce sujet·Source originale ↗·

Compilé et résumé par IA · sources vérifiables en un clic · publié sans lecture humaine préalable · méthodologie

Résumé IASource unique

Des chercheurs publient sur arXiv (preprint, première version) Agentic-Teacher, un moteur de données autonome pour le post-entraînement de modèles vision-langage-action (VLA) guidé par leurs échecs. À partir d'un checkpoint de VLA, d'une spécification de tâche et d'outils d'environnement configurés, le système analyse les rollouts ratés et sélectionne des états d'intervention. Un agent de code y développe ensuite, par itérations et retours d'exécution, des politiques en boucle fermée. Une fois validées, ces politiques génèrent des démonstrations réussies depuis les états où le VLA bloque. Trois traitements les rendent exploitables : un bruit d'action temporellement corrélé pour élargir la couverture état-action, la suppression des images inactives en conservant les transitions de la pince, et un filtrage par la loss de flow-matching du modèle de base gelé. Ces données sont combinées aux rollouts réussis du VLA. En simulation, le taux de succès de π0 passe de 79,4 % à 87,8 % sur LIBERO-10, de 80,4 % à 90,6 % sur MetaWorld-10, et de 0 % à 30,0 % sur trois tâches RoboCasa.

L'intérêt tient à la logique : l'agent de code ne sert que de professeur, et la politique finale fonctionne sans lui. La collecte de données se déplace ainsi de la téléopération généraliste vers un processus ciblé sur les faiblesses mesurées du modèle, ce qui pourrait réduire le coût des campagnes de démonstrations pour les intégrateurs. Les résultats appellent toutefois de la prudence. Les gains sur LIBERO-10 et MetaWorld-10 (environ 8 à 10 points) sont réels mais modestes, et les 30 % sur RoboCasa laissent encore 70 % d'échecs. Le résumé ne donne ni le coût de calcul, ni le nombre de démonstrations générées, ni la comparaison avec un volume équivalent de données humaines. Surtout, tout est validé en simulation, avec des outils d'environnement qui n'ont pas forcément d'équivalent sur un robot réel : le transfert sim-to-real reste à démontrer.

Le travail s'inscrit dans la course aux méthodes de post-entraînement des VLA, où π0 (Physical Intelligence, politique à flow-matching) sert de base de comparaison. Il concurrence la correction interactive de type DAgger, la téléopération, l'augmentation de démonstrations (MimicGen) et le fine-tuning par apprentissage par renforcement, ainsi que la génération synthétique à grande échelle promue par des acteurs comme NVIDIA autour de GR00T. LIBERO, MetaWorld et RoboCasa restent des benchmarks de simulation largement utilisés mais éloignés des conditions d'atelier. Les suites logiques sont une validation sur robot physique, l'application à d'autres VLA que π0 et une évaluation du coût complet par point de succès gagné. À ce stade, il s'agit d'un preprint non évalué par des pairs, sans produit ni déploiement associé.

À lire aussi

RoboGene : un cadre à base d'agents pour générer des tâches diversifiées en pré-entraînement de modèles VLA
Illustration générée par IA
1arXiv cs.RO 

RoboGene : un cadre à base d'agents pour générer des tâches diversifiées en pré-entraînement de modèles VLA

RoboGene est un framework agentique de génération de tâches de manipulation, conçu pour alimenter le pré-entraînement de modèles VLA (vision-langage-action). Il cible trois types de robots : bras simple, bras double et plateformes mobiles. Le système repose sur trois briques : un échantillonnage orienté diversité pour couvrir largement objets, scènes et compétences, une auto-réflexion agentique qui évalue la qualité de chaque tâche proposée, et une mémoire de retours validés par des humains, qui sert à vérifier l'exécution réelle et à affiner le processus en continu. Les auteurs ont collecté 18 000 trajectoires réelles et introduit des métriques de faisabilité et de diversité des tâches. Ils affirment que RoboGene surpasse des modèles de fondation de pointe comme GPT-4o et Gemini 2.5 Pro pour proposer des tâches. Les VLA entraînés sur ces données obtiennent de meilleurs taux de succès et une meilleure généralisation. Le jeu de données est publié sur Hugging Face et ModelScope, sous le nom d'organisation X-Humanoid. Il s'agit d'un travail de recherche, sans produit commercialisé ni déploiement industriel. L'enjeu est de déplacer le goulot d'étranglement de la robotique généraliste. Contrairement aux données web, les données d'interaction physique coûtent cher en temps opérateur, en matériel et en supervision. Ajouter des démonstrations ne suffit donc pas : leur valeur dépend de la variété des comportements couverts. RoboGene traite la curation des tâches comme un levier à part entière, en amont de la téléopération. Pour un intégrateur ou un responsable de programme de collecte, cela revient à optimiser le budget de démonstrations plutôt que son seul volume. Le résultat va aussi à l'encontre d'une idée répandue : les grands modèles généralistes ne sont pas de bons planificateurs de tâches physiques, car ils proposent des consignes peu faisables ou redondantes sans ancrage dans l'exécution réelle. Le rôle de la validation humaine dans la boucle montre que l'automatisation complète n'est pas encore atteinte. Les gains sont mesurés avec les métriques maison des auteurs, sur 18 000 trajectoires, ce qui reste modeste face aux corpus des grands laboratoires. La portée à l'échelle reste donc à démontrer. Le contexte est celui d'une course aux modèles de fondation robotiques, où Pi-0, GR00T et Helix misent sur de gros volumes de démonstrations, de simulation ou de données humaines. Le travail s'inscrit dans l'écosystème X-Humanoid, structure de recherche chinoise en humanoïdes, et rejoint la tendance à publier des jeux de données ouverts. Cette version v3 de l'article remplace des versions antérieures. Les prochaines étapes à surveiller sont des comparaisons sur des benchmarks communs, une réduction de la part de validation humaine et une éventuelle adoption par les équipes qui constituent des corpus de pré-entraînement.

RecherchePaper
1 source
In-Context VLA : doter les modèles VLA de langage via post-entraînement en contexte et outils à base d'agents
Illustration générée par IA
2arXiv cs.RO 

In-Context VLA : doter les modèles VLA de langage via post-entraînement en contexte et outils à base d'agents

Une étude publiée sur arXiv (2608.05738v1) identifie un défaut structurel des modèles vision-langage-action (VLA), la méthode dominante pour la manipulation robotique généraliste, entraînés par clonage comportemental à partir d'une image statique et d'une instruction fixe. Les auteurs montrent qu'ajouter un raisonnement textuel explicite (chain-of-thought, CoT) dégrade le contrôle bas niveau : ce raisonnement n'est pas ancré dans la perception réelle, sa latence casse le timing de la boucle fermée, et texte et action, optimisés selon des objectifs contradictoires, poussent la politique à commenter plutôt qu'à agir. Leur réponse, baptisée In-Context VLA, combine un post-entraînement en contexte, où les preuves perceptuelles sont injectées comme contexte structuré et où seule la supervision des actions est utilisée, et une interface agentique qui interroge des détecteurs en vocabulaire ouvert, un module de profondeur monoculaire et un modèle vision-langage. Sur les bancs d'essai RoboCasa-GR1, SimplerEnv et LIBERO, plus 8 tâches de manipulation réelles, la méthode atteint l'état de l'art en performance et en efficacité face aux approches CoT à configuration égale. Ce résultat pèse sur un débat central du secteur : le CoT, efficace pour les grands modèles de langage, était vu comme une voie naturelle pour rendre les VLA plus performants et plus interprétables. L'étude montre l'inverse pour des systèmes de contrôle temps réel, où la latence du texte entre en conflit direct avec les contraintes de boucle fermée d'un bras ou d'un robot mobile. Pour les équipes qui évaluent des architectures candidates à la manipulation industrielle, la leçon est de séparer la capacité à produire du langage de celle à l'exploiter comme information de perception, un choix de conception qui conditionne directement la fiabilité des futures politiques robotiques face à des instructions inédites. Le clonage comportemental s'est imposé comme recette par défaut à mesure que se multipliaient les démonstrations téléopérées et les architectures VLA, et plusieurs travaux récents avaient tenté d'y greffer un raisonnement CoT dans la lignée des gains observés côté modèles de langage purs. In-Context VLA prend le contre-pied en s'appuyant sur un moteur de données qui génère des descriptions spatiales diverses et paraphrasées, conditionnées par des preuves perceptuelles réelles, plutôt qu'une légende unique et gabarisée, pour que la politique apprenne à interpréter un langage jamais vu mot pour mot. Les auteurs positionnent leur approche comme une alternative directe aux méthodes fondées sur le CoT, avec des résultats state-of-the-art annoncés sur trois bancs de simulation distincts et des tests physiques, que de futures reproductions viendront confirmer ou nuancer.

RechercheOpinion
1 source
TACO : modèle du monde tactile en auto-correcteur pour le post-entraînement à grande échelle des VLA
Illustration générée par IA
3arXiv cs.RO 

TACO : modèle du monde tactile en auto-correcteur pour le post-entraînement à grande échelle des VLA

Des chercheurs ont présente TACO (TActile world model as a self-COrrector), un cadre de post-entrainement pour les modèles Vision-Language-Action (VLA) dédié aux taches de manipulation robotique a fort contact physique, décrit dans un article publie sur arXiv (2607.02840v1). Le système repose sur une boucle en trois étapes baptisée Recognize-Imagine-Label : un modèle unifie de progression et d'action détecte les états proches de l'échec a partir d'estimations de progression, un modèle génératif visuo-tactile imagine des segments de correction locale, puis ce même modèle de progression-action étiquette ces segments avec des actions correctives exécutables. Applique a des taches réelles de manipulation a fort contact, TACO améliore le taux de réussite de 44 points de pourcentage par rapport a la politique de base, et de 32 points par rapport a une version dépourvue de son mécanisme d'adaptation tactile a isolation de connaissances, qui protégé les priors visuo-linguistiques pré-entraines pendant l'apprentissage. Ce travail cible un angle mort connu des modèles VLA actuels : la vision seule peine a détecter les micro-perturbations de contact (glissement, mauvais alignement, prise partielle) qui, dans une tache d'assemblage ou de préhension fine, peuvent transformer une erreur locale en échec irrécupérable. Jusqu'ici, corriger ce type de défaillance nécessitait soit une supervision humaine couteuse a grande échelle, soit des modèles du monde uniquement visuels susceptibles de générer des trajectoires imaginées plausibles a l'oeil mais physiquement incohérentes au niveau du contact. En montrant qu'un modèle du monde tactile peut produire des corrections exploitables sans superviseur humain et sans dégrader les capacités de base du modèle, TACO apporte un élément de réponse concret a une limite régulièrement pointée par les intégrateurs industriels : des démonstrations VLA impressionnantes en environnement contrôle qui ne se traduisent pas toujours en fiabilité sur des taches de préhension fine en usine ou en logistique. L'approche s'inscrit dans la lignée des travaux récents sur les modèles du monde pour améliorer les politiques robotiques par simulation de rollouts, dans la même veine que ce qui alimente des familles de modèles VLA comme Pi-0, GR00T N2 ou Helix, mais en ajoutant une modalité tactile la ou ces travaux se limitaient jusque-la a la vision. L'article ne précise ni affiliation institutionnelle ni déploiement industriel : il s'agit a ce stade d'une contribution de recherche publiée en preprint, sans intégration annoncée chez un fabricant de bras robotique ou d'humanoïde. La suite logique, si ces résultats se confirment, serait une adoption par des laboratoires travaillant sur la manipulation fine (objets déformables, assemblage électronique, tri logistique), la ou le cout de supervision humaine pour corriger les échecs de contact reste aujourd'hui le principal frein au déploiement a grande échelle des politiques VLA.

RechercheActu
1 source
AgenticRoboRL : appliquer le post-entraînement des agents de code à la robotique à base d'agents
Illustration générée par IA
4arXiv cs.RO 

AgenticRoboRL : appliquer le post-entraînement des agents de code à la robotique à base d'agents

Des chercheurs publient AgenticRoboRL, un cadre de post-entraînement destiné aux planificateurs des systèmes de robotique agentique. Ces systèmes associent un planificateur, c'est-à-dire un modèle de langage qui décompose la tâche, à un « harnais » qui exécute les actions, soit en appelant des compétences VLA (vision-langage-action), soit en générant du code de contrôle. La recette combine un réglage supervisé (SFT) et un apprentissage par renforcement multi-tours. Des adaptateurs propres à chaque harnais relient les interactions enregistrées du planificateur aux résultats des tâches. Le pipeline RL reste ainsi commun et les composants d'exécution restent figés. Sur le benchmark LIBERO-PRO, un planificateur de 9 milliards de paramètres passe de 18,1 % à 71,0 % de réussite sans mémoire externe. Codex (GPT-5.5) atteint 72,1 % avec mémoire externe. Les auteurs annoncent la publication du cadre et des checkpoints entraînés. Pour l'instant, il s'agit d'une prépublication arXiv, sans code disponible. L'intérêt tient à ce que les travaux récents sur la robotique agentique cherchaient surtout à améliorer le harnais et la mémoire externe, tout en s'appuyant sur de gros modèles propriétaires pour planifier. Ces résultats suggèrent qu'un modèle ouvert de taille modeste, spécialisé par post-entraînement, peut se rapprocher d'un modèle fermé de pointe sur ce benchmark. Pour un intégrateur ou un industriel, cela change le calcul sur trois points : la dépendance à une API tierce, la latence et la possibilité d'un déploiement embarqué ou sur site. Le gain de 53 points montre aussi que l'écart de départ venait en grande partie de l'inadéquation du modèle à la tâche, et pas de la seule faiblesse du harnais. Il faut toutefois relativiser. LIBERO-PRO est un benchmark simulé de manipulation, le comparatif avec Codex mélange des conditions différentes (avec ou sans mémoire), et rien n'indique encore une validation sur robot réel, en environnement non structuré, ni sur des temps de cycle industriels. Le transfert sim-to-real reste donc entièrement à démontrer. Cette approche transpose à la robotique ce qui a fait progresser les agents de code, dont les gains récents viennent du post-entraînement du modèle lui-même par RL sur des retours d'exécution vérifiables. Elle se place face aux architectures de type VLA de bout en bout (Pi-0, GR00T, Helix), qui fusionnent perception et contrôle dans un seul modèle, alors qu'ici la planification reste séparée de l'exécution. Elle se distingue aussi des systèmes agentiques qui reposent sur des LLM fermés avec mémoire externe. La suite dépendra de la publication effective des poids et du code, qui permettra une réplication indépendante. Il faudra ensuite voir si le gain tient sur d'autres harnais, sur des tâches plus longues et sur du matériel réel. Aucun pilote industriel ni calendrier n'est annoncé à ce stade.

RecherchePaper
1 source