RecherchearXiv cs.RO 21 octobre 2026

AgenticRoboRL : appliquer le post-entraînement des agents de code à la robotique à base d'agents

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs publient AgenticRoboRL, un cadre de post-entraînement destiné aux planificateurs des systèmes de robotique agentique. Ces systèmes associent un planificateur, c'est-à-dire un modèle de langage qui décompose la tâche, à un « harnais » qui exécute les actions, soit en appelant des compétences VLA (vision-langage-action), soit en générant du code de contrôle. La recette combine un réglage supervisé (SFT) et un apprentissage par renforcement multi-tours. Des adaptateurs propres à chaque harnais relient les interactions enregistrées du planificateur aux résultats des tâches. Le pipeline RL reste ainsi commun et les composants d'exécution restent figés. Sur le benchmark LIBERO-PRO, un planificateur de 9 milliards de paramètres passe de 18,1 % à 71,0 % de réussite sans mémoire externe. Codex (GPT-5.5) atteint 72,1 % avec mémoire externe. Les auteurs annoncent la publication du cadre et des checkpoints entraînés. Pour l'instant, il s'agit d'une prépublication arXiv, sans code disponible.

L'intérêt tient à ce que les travaux récents sur la robotique agentique cherchaient surtout à améliorer le harnais et la mémoire externe, tout en s'appuyant sur de gros modèles propriétaires pour planifier. Ces résultats suggèrent qu'un modèle ouvert de taille modeste, spécialisé par post-entraînement, peut se rapprocher d'un modèle fermé de pointe sur ce benchmark. Pour un intégrateur ou un industriel, cela change le calcul sur trois points : la dépendance à une API tierce, la latence et la possibilité d'un déploiement embarqué ou sur site. Le gain de 53 points montre aussi que l'écart de départ venait en grande partie de l'inadéquation du modèle à la tâche, et pas de la seule faiblesse du harnais. Il faut toutefois relativiser. LIBERO-PRO est un benchmark simulé de manipulation, le comparatif avec Codex mélange des conditions différentes (avec ou sans mémoire), et rien n'indique encore une validation sur robot réel, en environnement non structuré, ni sur des temps de cycle industriels. Le transfert sim-to-real reste donc entièrement à démontrer.

Cette approche transpose à la robotique ce qui a fait progresser les agents de code, dont les gains récents viennent du post-entraînement du modèle lui-même par RL sur des retours d'exécution vérifiables. Elle se place face aux architectures de type VLA de bout en bout (Pi-0, GR00T, Helix), qui fusionnent perception et contrôle dans un seul modèle, alors qu'ici la planification reste séparée de l'exécution. Elle se distingue aussi des systèmes agentiques qui reposent sur des LLM fermés avec mémoire externe. La suite dépendra de la publication effective des poids et du code, qui permettra une réplication indépendante. Il faudra ensuite voir si le gain tient sur d'autres harnais, sur des tâches plus longues et sur du matériel réel. Aucun pilote industriel ni calendrier n'est annoncé à ce stade.

Impact France/UE

Pas d\'impact direct sur la France/UE

Dans nos dossiers

IA physique & VLA NVIDIA GR00T arXiv cs.RO

À lire aussi

1arXiv cs.RO

In-Context VLA : doter les modèles VLA de langage via post-entraînement en contexte et outils à base d'agents

Une étude publiée sur arXiv (2608.05738v1) identifie un défaut structurel des modèles vision-langage-action (VLA), la méthode dominante pour la manipulation robotique généraliste, entraînés par clonage comportemental à partir d'une image statique et d'une instruction fixe. Les auteurs montrent qu'ajouter un raisonnement textuel explicite (chain-of-thought, CoT) dégrade le contrôle bas niveau : ce raisonnement n'est pas ancré dans la perception réelle, sa latence casse le timing de la boucle fermée, et texte et action, optimisés selon des objectifs contradictoires, poussent la politique à commenter plutôt qu'à agir. Leur réponse, baptisée In-Context VLA, combine un post-entraînement en contexte, où les preuves perceptuelles sont injectées comme contexte structuré et où seule la supervision des actions est utilisée, et une interface agentique qui interroge des détecteurs en vocabulaire ouvert, un module de profondeur monoculaire et un modèle vision-langage. Sur les bancs d'essai RoboCasa-GR1, SimplerEnv et LIBERO, plus 8 tâches de manipulation réelles, la méthode atteint l'état de l'art en performance et en efficacité face aux approches CoT à configuration égale. Ce résultat pèse sur un débat central du secteur : le CoT, efficace pour les grands modèles de langage, était vu comme une voie naturelle pour rendre les VLA plus performants et plus interprétables. L'étude montre l'inverse pour des systèmes de contrôle temps réel, où la latence du texte entre en conflit direct avec les contraintes de boucle fermée d'un bras ou d'un robot mobile. Pour les équipes qui évaluent des architectures candidates à la manipulation industrielle, la leçon est de séparer la capacité à produire du langage de celle à l'exploiter comme information de perception, un choix de conception qui conditionne directement la fiabilité des futures politiques robotiques face à des instructions inédites. Le clonage comportemental s'est imposé comme recette par défaut à mesure que se multipliaient les démonstrations téléopérées et les architectures VLA, et plusieurs travaux récents avaient tenté d'y greffer un raisonnement CoT dans la lignée des gains observés côté modèles de langage purs. In-Context VLA prend le contre-pied en s'appuyant sur un moteur de données qui génère des descriptions spatiales diverses et paraphrasées, conditionnées par des preuves perceptuelles réelles, plutôt qu'une légende unique et gabarisée, pour que la politique apprenne à interpréter un langage jamais vu mot pour mot. Les auteurs positionnent leur approche comme une alternative directe aux méthodes fondées sur le CoT, avec des résultats state-of-the-art annoncés sur trois bancs de simulation distincts et des tests physiques, que de futures reproductions viendront confirmer ou nuancer.

RechercheOpinion

1 source

2arXiv cs.RO

Skill2Real : apprentissage de compétences à base d'agents pour la manipulation robotique en transfert simulation-réel sans entraînement supplémentaire

Des chercheurs publient sur arXiv (2610.02788) Skill2Real, un cadre de politiques « agentiques » qui apprend des compétences robotiques exécutables à travers une interface de programmation (API) partagée, puis les transfère à un robot réel en zero-shot, sans réglage fin de la politique de tâche ni mise à jour de la mémoire de compétences. L'architecture est hiérarchique : un « Cerebellum » acquiert d'abord des compétences locales de manipulation, puis un « Brain » apprend la composition au niveau de la tâche, le Cerebellum restant gelé. Un cycle Proposer-Verifier-Governor (PVG) s'appuie sur des données privilégiées de simulation pour diagnostiquer les échecs et valider les modifications, tout en gardant les compétences ancrées dans les observations publiques et la sémantique de l'API. Les chiffres annoncés : avec GPT-5.6 Sol apprenant sur LIBERO-90 et GPT-6 Astra évaluant chaque checkpoint gelé, le taux de réussite sur LIBERO-Pro Long passe de 2,0 % à 56,3 %, sans entraînement sur ce jeu. Un entraînement indépendant sur Robosuite atteint 85,1 % (Sol) et 89,4 % (Opus 5) de réussite moyenne sur sept tâches. Sur quatre tâches réelles, les compétences gelées apprises par Sol sur LIBERO-90 atteignent 78,75 % d'achèvement moyen avec Astra. L'intérêt tient à l'approche : plutôt que d'entraîner un VLA de bout en bout et de combler l'écart sim-to-real par de la randomisation de domaine ou du fine-tuning sur données réelles, le travail fait apprendre à un LLM des programmes qui appellent une API commune. Cette couche d'abstraction absorbe en partie les différences de perception, de dynamique et d'embodiment. Les ablations donnent un signal utile : retirer le Verifier ou le Governor pendant l'entraînement réduit le succès final sur Pro Long de 17,3 et 13,3 points, ce qui suggère que la boucle de validation compte autant que le modèle. Pour les intégrateurs, cela évoque une voie où les compétences deviennent des actifs logiciels réutilisables d'un robot à l'autre. Les réserves sont nettes : quatre tâches réelles seulement, une moyenne de 78,75 % qui masque sans doute des écarts entre tâches, un résultat dépendant de modèles de fondation propriétaires, et une dépendance à une API bien conçue qui déplace une partie de la difficulté plutôt qu'elle ne la supprime. Il s'agit de résultats de laboratoire, pas d'un produit ni d'un déploiement. Ce travail s'inscrit dans la lignée des approches « code as policies » et des agents LLM pour la robotique, qui rivalisent avec les VLA comme Pi-0 ou GR00T, entraînés sur de grands volumes de démonstrations. LIBERO et Robosuite sont des bancs d'essai standards de manipulation en simulation, et LIBERO-Pro est une variante plus exigeante visant à tester la robustesse, ce qui rend le bond de 2,0 % à 56,3 % d'autant plus notable, même s'il reste loin d'une fiabilité industrielle. L'article ne mentionne ni calendrier ni pilote industriel. Les prochaines étapes à surveiller sont des tests sur davantage de tâches et d'embodiments, une évaluation avec des modèles ouverts, et une comparaison directe avec des VLA affinés sur données réelles.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

3arXiv cs.RO

ASPIRE : découverte de compétences à base d'agents pour la robotique

ASPIRE (Agentic Skill Programming through Iterative Robot Exploration) est un nouveau système d'apprentissage continu pour la robotique, décrit dans un article publié sur arXiv (2607.00272) début juillet 2026. Contrairement à la programmation robotique traditionnelle, qui impose de coder manuellement la perception multimodale, la gestion des contacts physiques et la diversité des échecs d'exécution, ASPIRE écrit et corrige lui-même ses programmes de contrôle selon le paradigme "code-as-policy", puis capitalise chaque correction validée dans une bibliothèque de compétences réutilisables. Le système s'appuie sur trois briques : un moteur d'exécution en boucle fermée qui expose des traces multimodales fines pour diagnostiquer les échecs et synthétiser des réparations ; une bibliothèque de compétences qui s'enrichit en continu de correctifs transférables ; et une recherche évolutionnaire qui génère des séquences de tâches et des programmes de contrôle variés, au-delà du simple raffinement trajectoire par trajectoire. Sur les bancs d'essai simulés, ASPIRE dépasse les méthodes précédentes de 77% sur les manipulations perturbées de LIBERO-Pro, 72% sur les transferts bimanuels de Robosuite, et 32% sur les tâches ménagères longues de BEHAVIOR-1K. Ce travail s'attaque directement à un point de friction connu du secteur : la difficulté à faire generaliser des politiques de contrôle robotique au-delà de la tâche pour laquelle elles ont été conçues, sans réentraînement lourd à chaque nouvelle configuration. La bibliothèque cumulative d'ASPIRE permet une généralisation zero-shot à des tâches longues jamais vues : 31% de réussite sur LIBERO-Pro Long, contre seulement 4% pour les meilleures méthodes concurrentes, qui pourtant s'appuient sur du raisonnement et des tentatives répétées au moment de l'exécution. Pour les intégrateurs et décideurs robotique, c'est un signal encourageant sur la viabilité de bibliothèques de compétences auto-construites plutôt que de politiques VLA monolithiques entraînées une fois pour toutes, mais les auteurs restent prudents : ils ne parlent que de "premières preuves" de transfert simulation-vers-réel, pas d'un problème résolu. Ce résultat s'inscrit dans la lignée des travaux récents sur les politiques de contrôle générées ou affinées par des grands modèles de langage, où l'enjeu principal est de dépasser le stade de la démonstration isolée pour atteindre une robustesse répétable en conditions réelles. Contrairement aux approches par apprentissage par renforcement pur ou aux VLA entraînés de bout en bout (type Pi-0 ou GR00T), ASPIRE mise sur l'exploration itérative et la mémoire de compétences pour réduire l'effort de programmation à chaque nouvel embodiment ou API robotique. Les auteurs annoncent vouloir approfondir la validation du transfert sim-to-real sur des plateformes physiques variées, une étape encore à venir puisque l'article ne documente pour l'instant que des résultats en simulation.

RecherchePaper

1 source

4arXiv cs.RO

RACaP : raisonnement, action et codage à base d'agents pour un apprentissage robotique évolutif

Des chercheurs ont publié sur arXiv, le 25 septembre 2026 (référence 2609.29394), un article décrivant RACaP (Reasoning, Acting, and Coding as Policies), un framework agentique pour l'apprentissage robotique évolutif. Contrairement aux méthodes Code as Policies (CaP) classiques, qui génèrent et réparent du code au moment de l'exécution au prix d'une latence et d'un mélange entre mécanismes réutilisables et décisions spécifiques à la tâche, RACaP déplace la génération de code vers une phase d'évolution en amont et s'appuie, au déploiement, sur une boucle ReAct qui appelle des API de politiques figées et typées, combinant curriculum d'apprentissage et auto-évolution autonome. Sur les bancs d'essai en simulation LIBERO, RACaP atteint 54,4% de réussite sur LIBERO-90, 45,0% en zero-shot sur LIBERO-PRO et 46,0% sur LIBERO-Long, contre au maximum 4,0% pour les baselines CaP sur les tâches à long horizon, soit 2,5 fois leur taux de réussite sur LIBERO-PRO et un temps de décision médian 1,9 fois plus rapide. Un fine-tuning par échantillonnage par rejet distille ensuite les décisions ReAct de GPT-5.6 dans un modèle compact Qwen3-VL-8B-Instruct, accélérant l'inférence par décision d'un facteur 13,2 et réduisant les appels physiques répétés de 16 à 4. Ce travail cible un problème concret pour les intégrateurs: la latence et la fragilité des approches où un modèle de langage génère et corrige du code de contrôle en direct, ce qui complique la maintenance et le passage à l'échelle sur des tâches longues. En séparant le code réutilisable, figé après évolution, des décisions prises en temps réel via mémoire de travail, mémoire d'expérience et retour visuel, RACaP illustre une piste pour rendre les agents VLA (vision-language-action) plus robustes et plus rapides sans sacrifier l'adaptabilité. La distillation vers un modèle compact comme Qwen3-VL-8B-Instruct répond directement à une contrainte industrielle: les grands modèles comme GPT-5.6 restent trop lents et coûteux pour tourner en boucle fermée sur un robot physique. Ces résultats demeurent toutefois obtenus en simulation sur les bancs académiques LIBERO, et non lors d'un déploiement réel en usine ou en entrepôt, laissant ouvert l'écart classique entre performance simulée et performance en conditions réelles. RACaP s'inscrit dans la lignée des méthodes Code as Policies, qui font piloter des robots par des grands modèles de langage générant directement du code exécutable, une approche dont les limites sur les tâches longues et complexes sont confirmées ici par les scores plafonnés à 4,0% des baselines CaP citées dans l'article. En comparant son architecture à ces méthodes de référence sur les mêmes bancs LIBERO-90, LIBERO-PRO et LIBERO-Long, l'équipe cherche à démontrer qu'une architecture combinant code figé et raisonnement au moment de l'action offre une meilleure transférabilité zero-shot, un critère que surveillent les décideurs avant tout investissement en robotique VLA. L'article, disponible en prépublication sous la référence 2609.29394v1, ne mentionne ni calendrier de déploiement sur robot physique ni partenariat industriel; les prochaines étapes attendues pour ce type de travaux académiques restent une validation sur plateforme réelle et une revue par les pairs.

RechercheActu

1 source