Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
RecherchearXiv cs.RO 

CaPtain : un pipeline de post-entraînement pour agents robotiques à base de code comme politique

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

CaPtain est un pipeline de post-entraînement open source, décrit dans un preprint arXiv, qui transforme un petit modèle vision-langage ouvert en agent « code-as-policy » (CaP). Dans ce paradigme, la politique de contrôle écrit du code appelant les API du robot, puis lit les résultats pour décider de la suite. Le modèle de départ, Qwen3.5-4B, obtient 0 % de succès en zero-shot. Les chercheurs l'alignent d'abord par fine-tuning supervisé sur des trajectoires synthétiques générées avec GPT-6 Astra, puis appliquent un apprentissage par renforcement multi-tours. Pour attribuer le crédit à des dizaines de requêtes dont les effets physiques n'apparaissent que plus tard, ils ajoutent un « critique physique ». Celui-ci lit l'état privilégié du simulateur, invisible pour la politique, et note chaque requête selon la variation de probabilité de succès qu'elle provoque. Sur LIBERO (tâches tenues à l'écart de l'entraînement), le succès passe de 55,4 % après SFT à 73,8 % après RL. Sur LIBERO-PRO, le modèle atteint 78,5 %, devant plusieurs agents fondés sur des modèles de pointe. Sans entraînement sur le domaine cible, il obtient 83,3 % sur SimplerEnv WidowX. Il dépasse aussi des modèles propriétaires sur CaP-Bench. Il tourne enfin sur un robot réel après une adaptation en simulation seule. Code, données et poids sont publiés.

L'intérêt tient à l'indépendance revendiquée. Aucun VLA, modèle propriétaire ou état privilégié n'intervient à l'inférence, alors que la plupart des agents CaP actuels s'appuient sur un LLM fermé ou délèguent la manipulation à des VLA préentraînés. Un modèle de 4 milliards de paramètres, déployable en local, rend l'approche plus crédible pour des intégrateurs soucieux de coûts, de latence et de confidentialité. Les gains de RL persistent sous trois suites de perturbation (+17,6 à +21,2 points), ce qui suggère mieux qu'un surapprentissage des benchmarks. Il faut toutefois rester prudent. Ces résultats viennent surtout de simulation, et la démonstration réelle est décrite sans chiffres comparables. Le critique, lui, dépend de l'accès à l'état du simulateur à l'entraînement.

Ce travail prolonge l'idée de code-as-policy popularisée par Google, qui reposait sur des LLM fermés. Il suit aussi la recette SFT puis RL multi-tours déjà standard pour les agents de code et de navigation web. Face à lui se trouvent les VLA de Physical Intelligence (Pi-0), de NVIDIA (GR00T) ou de Figure (Helix), entraînés de bout en bout sur d'énormes volumes de démonstrations. CaPtain mise plutôt sur l'interprétabilité du code et sur des primitives de mouvement sécurisées. La suite à surveiller est la validation sur matériel varié et en environnement non simulé, ainsi que la reproduction par d'autres laboratoires, rendue possible par la publication complète.

Dans nos dossiers

NVIDIA GR00TPhysical Intelligence — π0arXiv cs.RO

À lire aussi

AgenticRoboRL : appliquer le post-entraînement des agents de code à la robotique à base d'agents
1arXiv cs.RO 

AgenticRoboRL : appliquer le post-entraînement des agents de code à la robotique à base d'agents

Des chercheurs publient AgenticRoboRL, un cadre de post-entraînement destiné aux planificateurs des systèmes de robotique agentique. Ces systèmes associent un planificateur, c'est-à-dire un modèle de langage qui décompose la tâche, à un « harnais » qui exécute les actions, soit en appelant des compétences VLA (vision-langage-action), soit en générant du code de contrôle. La recette combine un réglage supervisé (SFT) et un apprentissage par renforcement multi-tours. Des adaptateurs propres à chaque harnais relient les interactions enregistrées du planificateur aux résultats des tâches. Le pipeline RL reste ainsi commun et les composants d'exécution restent figés. Sur le benchmark LIBERO-PRO, un planificateur de 9 milliards de paramètres passe de 18,1 % à 71,0 % de réussite sans mémoire externe. Codex (GPT-5.5) atteint 72,1 % avec mémoire externe. Les auteurs annoncent la publication du cadre et des checkpoints entraînés. Pour l'instant, il s'agit d'une prépublication arXiv, sans code disponible. L'intérêt tient à ce que les travaux récents sur la robotique agentique cherchaient surtout à améliorer le harnais et la mémoire externe, tout en s'appuyant sur de gros modèles propriétaires pour planifier. Ces résultats suggèrent qu'un modèle ouvert de taille modeste, spécialisé par post-entraînement, peut se rapprocher d'un modèle fermé de pointe sur ce benchmark. Pour un intégrateur ou un industriel, cela change le calcul sur trois points : la dépendance à une API tierce, la latence et la possibilité d'un déploiement embarqué ou sur site. Le gain de 53 points montre aussi que l'écart de départ venait en grande partie de l'inadéquation du modèle à la tâche, et pas de la seule faiblesse du harnais. Il faut toutefois relativiser. LIBERO-PRO est un benchmark simulé de manipulation, le comparatif avec Codex mélange des conditions différentes (avec ou sans mémoire), et rien n'indique encore une validation sur robot réel, en environnement non structuré, ni sur des temps de cycle industriels. Le transfert sim-to-real reste donc entièrement à démontrer. Cette approche transpose à la robotique ce qui a fait progresser les agents de code, dont les gains récents viennent du post-entraînement du modèle lui-même par RL sur des retours d'exécution vérifiables. Elle se place face aux architectures de type VLA de bout en bout (Pi-0, GR00T, Helix), qui fusionnent perception et contrôle dans un seul modèle, alors qu'ici la planification reste séparée de l'exécution. Elle se distingue aussi des systèmes agentiques qui reposent sur des LLM fermés avec mémoire externe. La suite dépendra de la publication effective des poids et du code, qui permettra une réplication indépendante. Il faudra ensuite voir si le gain tient sur d'autres harnais, sur des tâches plus longues et sur du matériel réel. Aucun pilote industriel ni calendrier n'est annoncé à ce stade.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
AquaCap : un agent incarné sous-marin sans entraînement, piloté par du code comme politique
2arXiv cs.RO 

AquaCap : un agent incarné sous-marin sans entraînement, piloté par du code comme politique

AquaCap est un agent robotique sous-marin capable de naviguer et de manipuler des objets de façon autonome sans aucun entraînement préalable ni mise à jour de paramètres, selon le principe dit "Code-as-Policy" décrit dans un article mis en ligne sur arXiv en septembre 2026 (référence 2609.23133). Le système repose sur une architecture à deux niveaux qui traduit les instructions de tâche et les observations de l'environnement en plans adaptés aux conditions rencontrées et en programmes de contrôle directement exécutables. Une couche de perception structurée lui fournit des informations sémantiques, géométriques et évaluées en fiabilité malgré la dégradation typique des images sous l'eau, tandis qu'une mémoire sensible aux échecs diagnostique les actions ratées et déclenche une replanification en boucle fermée avec révision du code généré. En simulation, AquaCap atteint un taux de réussite de 66,43%. Des essais réels avec un véhicule télé-opéré (ROV) ont démontré des saisies et transports d'objets autonomes, y compris la récupération de cibles déplacées par des courants hydrodynamiques. Cette approche cible un verrou spécifique du secteur : contrairement à la robotique terrestre, qui alimente ses modèles vision-langage-action avec des volumes massifs de données de téléopération, la robotique sous-marine ne peut pas répliquer cette stratégie, chaque campagne de collecte en mer ou en bassin restant coûteuse et rare. En s'appuyant sur la génération de code plutôt que sur l'apprentissage de bout en bout, AquaCap s'adapte en ligne sans réentraînement, ce qui intéresse directement les intégrateurs d'AUV et de ROV pour l'inspection offshore, l'aquaculture ou la maintenance sous-marine. Le taux de succès de 66,43% en simulation, nettement en dessous des standards affichés par les meilleurs systèmes VLA terrestres, rappelle toutefois que l'écart entre démonstration et fiabilité opérationnelle reste large sous l'eau. AquaCap prolonge les architectures "Code-as-Policy", qui font générer par des modèles de langage du code de contrôle exécutable plutôt que des politiques apprises par renforcement, une piste déjà explorée en robotique terrestre mais encore rare en milieu marin. Le résumé ne mentionne aucune affiliation industrielle ni partenaire commercial, ce qui situe le projet comme une recherche académique et non comme un produit prêt à déployer. Les démonstrations réelles se limitent pour l'instant à un seul ROV et à des tâches de préhension et de transport, sans calendrier de déploiement annoncé. La prochaine étape attendue pour ce type de système serait une validation sur davantage de plateformes et en conditions océaniques réelles, au-delà des bassins contrôlés, avant toute adoption par des opérateurs d'inspection sous-marine ou de robotique offshore.

RecherchePaper
1 source
Politiques de scène à base d'agents
3arXiv cs.RO 

Politiques de scène à base d'agents

Des chercheurs du laboratoire Robotics and Embodied AI de Montréal (Mila, page projet montrealrobotics.ca) publient la deuxième version d'Agentic Scene Policies (ASP), un cadre de contrôle robotique qui vise la généralisation zéro-shot, c'est-à-dire l'exécution d'instructions en langage naturel sur des objets jamais vus, sans entraînement spécifique. ASP unifie, dans un seul espace d'actions « agentique », la localisation des objets et les compétences du robot, via une interface d'outils exposée à un agent. La représentation de la scène en 3D repose sur un modèle vision-langage (VLM), et les compétences s'appuient sur des affordances au niveau des parties d'objets, comme la poignée d'un tiroir ou la fiche d'un chargeur. Cela permet des interactions zéro-shot telles que débrancher un chargeur ou ouvrir un tiroir. Les auteurs affirment que ASP surpasse systématiquement les principaux modèles VLA (vision-langage-action) en zéro-shot lors d'expériences réelles, et présentent une version mobile du cadre pour répondre à des requêtes à l'échelle d'une pièce. Le résumé ne donne ni chiffres de taux de réussite, ni noms des VLA comparés, ni détails sur le robot utilisé. Ces éléments sont à chercher dans le papier complet. L'intérêt tient au débat entre deux architectures. Les VLA détournent un VLM pour produire des actions de bout en bout, mais leur généralisation à de nouvelles instructions et à de nouveaux objets reste fragile. Les politiques modulaires, qui combinent représentation de scène, planification de mouvement et VLM, sont plus interprétables et donnent de bons résultats zéro-shot. Elles souffrent toutefois de deux faiblesses : une recherche d'objets purement sémantique, sans raisonnement spatial explicite, et des compétences limitées à la saisie et à la navigation de base. ASP s'attaque aux deux. Si l'avantage sur les VLA se confirme sur des protocoles indépendants, cela plaide pour des architectures hybrides, où un agent de langage orchestre des primitives géométriques robustes plutôt que de tout apprendre de bout en bout. Pour les intégrateurs, l'attrait est concret : un système modulaire se diagnostique, se corrige et s'étend en ajoutant des outils, sans réentraîner un modèle de plusieurs milliards de paramètres. Il faut cependant rester prudent. Il s'agit d'un travail académique, non d'un produit, et la comparaison dépend du choix des VLA de référence, de leur réglage et des tâches retenues. Les cadences, la fiabilité sur de longues séries et les modes de défaillance ne sont pas documentés dans le résumé. Ce travail s'inscrit dans la lignée des approches qui font piloter des robots par des VLM et des LLM, avec des cartes sémantiques 3D et des outils de saisie issus de la vision. En face, les VLA généralistes tels que Pi-0 de Physical Intelligence, GR00T de NVIDIA ou Helix de Figure ont gagné en visibilité, avec une promesse de généralisation encore peu vérifiée hors des environnements d'entraînement. La publication de cette version 2 (une révision d'un papier d'abord soumis en septembre 2025) suggère un travail affiné après relecture. Les prochaines étapes probables sont des tests sur davantage d'objets et de scènes, des comparaisons plus larges avec les VLA récents et une extension de la version mobile à des tâches de longue durée.

RecherchePaper
1 source
RACaP : raisonnement, action et codage à base d'agents pour un apprentissage robotique évolutif
4arXiv cs.RO 

RACaP : raisonnement, action et codage à base d'agents pour un apprentissage robotique évolutif

Des chercheurs ont publié sur arXiv, le 25 septembre 2026 (référence 2609.29394), un article décrivant RACaP (Reasoning, Acting, and Coding as Policies), un framework agentique pour l'apprentissage robotique évolutif. Contrairement aux méthodes Code as Policies (CaP) classiques, qui génèrent et réparent du code au moment de l'exécution au prix d'une latence et d'un mélange entre mécanismes réutilisables et décisions spécifiques à la tâche, RACaP déplace la génération de code vers une phase d'évolution en amont et s'appuie, au déploiement, sur une boucle ReAct qui appelle des API de politiques figées et typées, combinant curriculum d'apprentissage et auto-évolution autonome. Sur les bancs d'essai en simulation LIBERO, RACaP atteint 54,4% de réussite sur LIBERO-90, 45,0% en zero-shot sur LIBERO-PRO et 46,0% sur LIBERO-Long, contre au maximum 4,0% pour les baselines CaP sur les tâches à long horizon, soit 2,5 fois leur taux de réussite sur LIBERO-PRO et un temps de décision médian 1,9 fois plus rapide. Un fine-tuning par échantillonnage par rejet distille ensuite les décisions ReAct de GPT-5.6 dans un modèle compact Qwen3-VL-8B-Instruct, accélérant l'inférence par décision d'un facteur 13,2 et réduisant les appels physiques répétés de 16 à 4. Ce travail cible un problème concret pour les intégrateurs: la latence et la fragilité des approches où un modèle de langage génère et corrige du code de contrôle en direct, ce qui complique la maintenance et le passage à l'échelle sur des tâches longues. En séparant le code réutilisable, figé après évolution, des décisions prises en temps réel via mémoire de travail, mémoire d'expérience et retour visuel, RACaP illustre une piste pour rendre les agents VLA (vision-language-action) plus robustes et plus rapides sans sacrifier l'adaptabilité. La distillation vers un modèle compact comme Qwen3-VL-8B-Instruct répond directement à une contrainte industrielle: les grands modèles comme GPT-5.6 restent trop lents et coûteux pour tourner en boucle fermée sur un robot physique. Ces résultats demeurent toutefois obtenus en simulation sur les bancs académiques LIBERO, et non lors d'un déploiement réel en usine ou en entrepôt, laissant ouvert l'écart classique entre performance simulée et performance en conditions réelles. RACaP s'inscrit dans la lignée des méthodes Code as Policies, qui font piloter des robots par des grands modèles de langage générant directement du code exécutable, une approche dont les limites sur les tâches longues et complexes sont confirmées ici par les scores plafonnés à 4,0% des baselines CaP citées dans l'article. En comparant son architecture à ces méthodes de référence sur les mêmes bancs LIBERO-90, LIBERO-PRO et LIBERO-Long, l'équipe cherche à démontrer qu'une architecture combinant code figé et raisonnement au moment de l'action offre une meilleure transférabilité zero-shot, un critère que surveillent les décideurs avant tout investissement en robotique VLA. L'article, disponible en prépublication sous la référence 2609.29394v1, ne mentionne ni calendrier de déploiement sur robot physique ni partenariat industriel; les prochaines étapes attendues pour ce type de travaux académiques restent une validation sur plateforme réelle et une revue par les pairs.

RechercheActu
1 source