RecherchearXiv cs.RO 27 octobre 2026

RoboGene : un cadre à base d'agents pour générer des tâches diversifiées en pré-entraînement de modèles VLA

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

RoboGene est un framework agentique de génération de tâches de manipulation, conçu pour alimenter le pré-entraînement de modèles VLA (vision-langage-action). Il cible trois types de robots : bras simple, bras double et plateformes mobiles. Le système repose sur trois briques : un échantillonnage orienté diversité pour couvrir largement objets, scènes et compétences, une auto-réflexion agentique qui évalue la qualité de chaque tâche proposée, et une mémoire de retours validés par des humains, qui sert à vérifier l'exécution réelle et à affiner le processus en continu. Les auteurs ont collecté 18 000 trajectoires réelles et introduit des métriques de faisabilité et de diversité des tâches. Ils affirment que RoboGene surpasse des modèles de fondation de pointe comme GPT-4o et Gemini 2.5 Pro pour proposer des tâches. Les VLA entraînés sur ces données obtiennent de meilleurs taux de succès et une meilleure généralisation. Le jeu de données est publié sur Hugging Face et ModelScope, sous le nom d'organisation X-Humanoid. Il s'agit d'un travail de recherche, sans produit commercialisé ni déploiement industriel.

L'enjeu est de déplacer le goulot d'étranglement de la robotique généraliste. Contrairement aux données web, les données d'interaction physique coûtent cher en temps opérateur, en matériel et en supervision. Ajouter des démonstrations ne suffit donc pas : leur valeur dépend de la variété des comportements couverts. RoboGene traite la curation des tâches comme un levier à part entière, en amont de la téléopération. Pour un intégrateur ou un responsable de programme de collecte, cela revient à optimiser le budget de démonstrations plutôt que son seul volume. Le résultat va aussi à l'encontre d'une idée répandue : les grands modèles généralistes ne sont pas de bons planificateurs de tâches physiques, car ils proposent des consignes peu faisables ou redondantes sans ancrage dans l'exécution réelle. Le rôle de la validation humaine dans la boucle montre que l'automatisation complète n'est pas encore atteinte. Les gains sont mesurés avec les métriques maison des auteurs, sur 18 000 trajectoires, ce qui reste modeste face aux corpus des grands laboratoires. La portée à l'échelle reste donc à démontrer.

Le contexte est celui d'une course aux modèles de fondation robotiques, où Pi-0, GR00T et Helix misent sur de gros volumes de démonstrations, de simulation ou de données humaines. Le travail s'inscrit dans l'écosystème X-Humanoid, structure de recherche chinoise en humanoïdes, et rejoint la tendance à publier des jeux de données ouverts. Cette version v3 de l'article remplace des versions antérieures. Les prochaines étapes à surveiller sont des comparaisons sur des benchmarks communs, une réduction de la part de validation humaine et une éventuelle adoption par les équipes qui constituent des corpus de pré-entraînement.

Dans nos dossiers

IA physique & VLA NVIDIA GR00T

À lire aussi

1arXiv cs.RO

Apprendre à bouger avant d'agir : pré-entraînement générique pour les VLA

Une équipe de recherche publie sur arXiv (2607.02466v1) un nouveau framework baptisé TAP (Task-Agnostic Pretraining), conçu pour entraîner des modèles Vision-Language-Action (VLA) avec beaucoup moins de démonstrations expertes que les approches classiques. Le constat de départ : la rareté des données étiquetées (observations, instructions et actions) freine le développement des VLA, car les méthodes actuelles mélangent deux apprentissages distincts, la compétence physique (comment bouger) et l'alignement sémantique (quoi faire), alors que seul le second nécessite une supervision par le langage. TAP sépare les deux en deux étapes : une première phase apprend des a priori moteurs transférables à partir de données d'interaction non étiquetées et bon marché, y compris des trajectoires hors tâche généralement écartées et du jeu autonome de robots, via un objectif auto-supervisé de dynamique inverse. Une seconde phase, légère, ancre ensuite ces a priori dans le langage à l'aide d'un minimum de données expertes. Sur le benchmark SIMPLER, TAP égale des modèles entraînés sur plus d'un million de trajectoires expertes tout en utilisant des ordres de grandeur de données étiquetées en moins, avec un gain absolu de 10% sur le behavior cloning standard. Sur une plateforme réelle WidowX, TAP conserve un taux de réussite de 25% face à des perturbations de caméra, là où les baselines entraînées à l'échelle internet chutent à 0%. Ce résultat s'attaque directement à l'un des goulots d'étranglement les plus cités du secteur robotique : le coût de collecte de démonstrations expertes à grande échelle, souvent invoqué pour justifier des besoins massifs en téléopération ou en données simulées coûteuses. En montrant qu'un pré-entraînement task-agnostic sur des données bon marché (trajectoires ratées, jeu robotique non supervisé) peut produire des représentations physiques robustes et transférables, TAP suggère une voie de scalabilité alternative à l'empilement pur de données expertes, un enjeu direct pour les intégrateurs et laboratoires qui cherchent à réduire le coût par déploiement de politiques VLA. Le travail s'inscrit dans la lignée des architectures VLA récentes comme Pi-0 ou GR00T N2, qui cherchent toutes à généraliser au-delà des tâches vues à l'entraînement. La robustesse démontrée face aux perturbations caméra, un scénario classique de dégradation en conditions réelles, en fait un signal notable pour la suite : reste à voir si l'approche se généralise à des plateformes bras-mobiles ou humanoïdes plus complexes que le bras WidowX utilisé ici pour la validation.

RechercheActu

1 source

2arXiv cs.RO

In-Context VLA : doter les modèles VLA de langage via post-entraînement en contexte et outils à base d'agents

Une étude publiée sur arXiv (2608.05738v1) identifie un défaut structurel des modèles vision-langage-action (VLA), la méthode dominante pour la manipulation robotique généraliste, entraînés par clonage comportemental à partir d'une image statique et d'une instruction fixe. Les auteurs montrent qu'ajouter un raisonnement textuel explicite (chain-of-thought, CoT) dégrade le contrôle bas niveau : ce raisonnement n'est pas ancré dans la perception réelle, sa latence casse le timing de la boucle fermée, et texte et action, optimisés selon des objectifs contradictoires, poussent la politique à commenter plutôt qu'à agir. Leur réponse, baptisée In-Context VLA, combine un post-entraînement en contexte, où les preuves perceptuelles sont injectées comme contexte structuré et où seule la supervision des actions est utilisée, et une interface agentique qui interroge des détecteurs en vocabulaire ouvert, un module de profondeur monoculaire et un modèle vision-langage. Sur les bancs d'essai RoboCasa-GR1, SimplerEnv et LIBERO, plus 8 tâches de manipulation réelles, la méthode atteint l'état de l'art en performance et en efficacité face aux approches CoT à configuration égale. Ce résultat pèse sur un débat central du secteur : le CoT, efficace pour les grands modèles de langage, était vu comme une voie naturelle pour rendre les VLA plus performants et plus interprétables. L'étude montre l'inverse pour des systèmes de contrôle temps réel, où la latence du texte entre en conflit direct avec les contraintes de boucle fermée d'un bras ou d'un robot mobile. Pour les équipes qui évaluent des architectures candidates à la manipulation industrielle, la leçon est de séparer la capacité à produire du langage de celle à l'exploiter comme information de perception, un choix de conception qui conditionne directement la fiabilité des futures politiques robotiques face à des instructions inédites. Le clonage comportemental s'est imposé comme recette par défaut à mesure que se multipliaient les démonstrations téléopérées et les architectures VLA, et plusieurs travaux récents avaient tenté d'y greffer un raisonnement CoT dans la lignée des gains observés côté modèles de langage purs. In-Context VLA prend le contre-pied en s'appuyant sur un moteur de données qui génère des descriptions spatiales diverses et paraphrasées, conditionnées par des preuves perceptuelles réelles, plutôt qu'une légende unique et gabarisée, pour que la politique apprenne à interpréter un langage jamais vu mot pour mot. Les auteurs positionnent leur approche comme une alternative directe aux méthodes fondées sur le CoT, avec des résultats state-of-the-art annoncés sur trois bancs de simulation distincts et des tests physiques, que de futures reproductions viendront confirmer ou nuancer.

RechercheOpinion

1 source

3arXiv cs.RO

AgenticRoboRL : appliquer le post-entraînement des agents de code à la robotique à base d'agents

Des chercheurs publient AgenticRoboRL, un cadre de post-entraînement destiné aux planificateurs des systèmes de robotique agentique. Ces systèmes associent un planificateur, c'est-à-dire un modèle de langage qui décompose la tâche, à un « harnais » qui exécute les actions, soit en appelant des compétences VLA (vision-langage-action), soit en générant du code de contrôle. La recette combine un réglage supervisé (SFT) et un apprentissage par renforcement multi-tours. Des adaptateurs propres à chaque harnais relient les interactions enregistrées du planificateur aux résultats des tâches. Le pipeline RL reste ainsi commun et les composants d'exécution restent figés. Sur le benchmark LIBERO-PRO, un planificateur de 9 milliards de paramètres passe de 18,1 % à 71,0 % de réussite sans mémoire externe. Codex (GPT-5.5) atteint 72,1 % avec mémoire externe. Les auteurs annoncent la publication du cadre et des checkpoints entraînés. Pour l'instant, il s'agit d'une prépublication arXiv, sans code disponible. L'intérêt tient à ce que les travaux récents sur la robotique agentique cherchaient surtout à améliorer le harnais et la mémoire externe, tout en s'appuyant sur de gros modèles propriétaires pour planifier. Ces résultats suggèrent qu'un modèle ouvert de taille modeste, spécialisé par post-entraînement, peut se rapprocher d'un modèle fermé de pointe sur ce benchmark. Pour un intégrateur ou un industriel, cela change le calcul sur trois points : la dépendance à une API tierce, la latence et la possibilité d'un déploiement embarqué ou sur site. Le gain de 53 points montre aussi que l'écart de départ venait en grande partie de l'inadéquation du modèle à la tâche, et pas de la seule faiblesse du harnais. Il faut toutefois relativiser. LIBERO-PRO est un benchmark simulé de manipulation, le comparatif avec Codex mélange des conditions différentes (avec ou sans mémoire), et rien n'indique encore une validation sur robot réel, en environnement non structuré, ni sur des temps de cycle industriels. Le transfert sim-to-real reste donc entièrement à démontrer. Cette approche transpose à la robotique ce qui a fait progresser les agents de code, dont les gains récents viennent du post-entraînement du modèle lui-même par RL sur des retours d'exécution vérifiables. Elle se place face aux architectures de type VLA de bout en bout (Pi-0, GR00T, Helix), qui fusionnent perception et contrôle dans un seul modèle, alors qu'ici la planification reste séparée de l'exécution. Elle se distingue aussi des systèmes agentiques qui reposent sur des LLM fermés avec mémoire externe. La suite dépendra de la publication effective des poids et du code, qui permettra une réplication indépendante. Il faudra ensuite voir si le gain tient sur d'autres harnais, sur des tâches plus longues et sur du matériel réel. Aucun pilote industriel ni calendrier n'est annoncé à ce stade.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

4arXiv cs.RO

Vers des robots à base d'agents : modèle, données, environnement et harnais

Une équipe de chercheurs publie sur arXiv (référence 2610.20442) une revue de littérature qui tente de structurer ce qu'elle appelle les « robots agentiques ». Le texte est un survol académique, sans nouveau robot, sans benchmark inédit ni déploiement chiffré. Il définit un robot agentique comme un système où un agent raisonne sur des instructions humaines, interagit avec son environnement, corrige seul ses erreurs d'exécution et ajuste dynamiquement sa stratégie. Les auteurs retracent d'abord le passage des politiques robotiques aux systèmes agentiques, en passant par les modèles vision-langage-action (VLA), les modèles du monde et les « world-action models ». Ils classent ensuite la littérature existante en dix-sept catégories, réparties sur quatre domaines fonctionnels : le modèle, la donnée, l'environnement et le « harness », c'est-à-dire la couche qui organise les capacités du robot pour son utilisation. Ils couvrent aussi la façon dont les agents orientent l'apprentissage et les décisions, collectent et curent les données robotiques, construisent mondes, tâches et tests pour l'entraînement et l'évaluation, et se terminent sur les défis ouverts. L'intérêt est surtout de cadrage. Les modèles de fondation ne se limitent plus à prédire des actions bas niveau : ils sont mobilisés pour piloter toute la chaîne, de la collecte de données à l'entraînement, à la planification et à l'exécution. Pour un intégrateur ou un décideur industriel, cela signale que la valeur se déplace du seul modèle de contrôle vers l'orchestration autour de lui : génération automatique de scénarios de simulation, curation des démonstrations, évaluation continue, reprise sur erreur. C'est aussi un aveu implicite : ces travaux sont aujourd'hui peu reliés entre eux, et les chercheurs n'ont pas de vision commune pour assembler ces fonctions en un système complet. Le survol ne prouve rien sur la fiabilité de ces approches en production. Il ne contredit ni ne confirme l'écart entre démonstration et réalité, et aucune métrique comparative n'est avancée dans le résumé. Ce travail s'inscrit dans la montée en puissance des VLA et des modèles du monde, popularisés par des acteurs comme Physical Intelligence avec Pi-0, NVIDIA avec GR00T ou Figure avec Helix, et dans la vague des agents à base de LLM issue du logiciel. La taxonomie en quatre domaines servira surtout de grille de lecture pour situer les prochains travaux, et le terme « agentique » reste en partie un label de positionnement dont la définition n'est pas encore stabilisée. Les auteurs annoncent une discussion des directions futures, sans calendrier ni pilote industriel. Le texte est une préversion (v1) non évaluée par les pairs, à lire comme une cartographie du champ et non comme une validation de ses résultats.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source