RecherchearXiv cs.RO 15 septembre 2026

Relier pensée et action : stabiliser les agents LLM open source sur le long terme avec un framework ROS enrichi par MetaTool

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Ce papier de recherche présente une architecture logicielle qui vise a résoudre l'instabilité des agents robotiques bases sur des LLM open-source lors de taches longues et complexes. L'équipe introduit un mécanisme intermédiaire baptise MetaTool, intègre a une architecture ROS-Agent, qui force le modèle de langage a générer un plan en pseudo-code des outils qu'il compte invoquer avant même de commencer l'exécution. Ce plan est stocke dans un scratchpad du ROS-Agent et persiste tout au long de la tache, ce qui sépare explicitement la phase de planification de la phase d'action. Le système a été valide sur une plateforme robotique mobile personnalisée, dotée de capacités de perception multimodale et de contrôle moteur. Sur des taches interactives en conditions réelles, les chercheurs rapportent des gains de complétion de tache et de cohérence contextuelle allant jusqu'a environ 24% sur les taches complexes, par rapport a une architecture de référence sans ce mécanisme.

Ce résultat s'adresse directement a un problème concret pour quiconque déploie des agents robotiques bases sur des LLM en dehors des laboratoires des grands acteurs propriétaires: les modèles open-source, moins optimises pour le raisonnement agentique de bout en bout, ont tendance a boucler sur des actions inefficaces ou a perdre le fil d'une tache longue. En forçant une planification explicite avant l'exécution, l'approche s'attaque a une limite bien identifiée des architectures agentiques actuelles, ou le raisonnement et l'action sont souvent entremêlés sans garde-fou structurel. Pour les intégrateurs qui cherchent a éviter la dépendance a des modèles propriétaires couteux comme ceux utilises dans certains systèmes commerciaux, ce type de mécanisme intermédiaire montre une voie pour rendre les LLM open-source plus fiables sans changer de modèle de base, une piste pertinente pour les budgets serres en robotique industrielle. Le gain de 24% reste toutefois mesure sur une plateforme et un jeu de taches propres aux auteurs, sans comparaison publiée face a des frameworks agentiques commerciaux ou a d'autres architectures ROS-Agent existantes.

L'article s'inscrit dans la lignée des travaux récents combinant ROS (Robot Operating System) et agents LLM pour piloter des robots via des commandes en langage naturel, un domaine qui a explose avec la multiplication de frameworks agentiques génériques (type ReAct) mal adaptes aux contraintes temps réel et de fiabilité de la robotique. Contrairement aux approches qui misent sur des modèles vision-langage-action (VLA) entraines de bout en bout comme Pi-0 ou GR00T N2, cette équipe choisit une voie orthogonale: garder un LLM généraliste open-source et l'encadrer par une couche logicielle de planification structurée. Publie sur arXiv en tant que nouvelle soumission, ce travail reste a ce stade une preuve de concept en environnement contrôle, sans indication de partenariat industriel, de déploiement en usine ou de calendrier de commercialisation.

Dans nos dossiers

IA physique & VLA NVIDIA GR00T arXiv cs.RO

À lire aussi

1arXiv cs.RO

RobotDancing : l'apprentissage par renforcement à action résiduelle permet un suivi robuste des mouvements humanoïdes sur le long terme

Des chercheurs présentent RobotDancing, une méthode d'apprentissage par renforcement en une seule étape pour faire exécuter à des robots humanoïdes des mouvements de danse longs et dynamiquement exigeants, avec une robustesse accrue face aux erreurs d'accumulation. Le principe : plutôt que de demander à la politique de recréer entièrement un mouvement de référence retargeté (transposé depuis une capture humaine vers la cinématique du robot), RobotDancing prédit des corrections résiduelles sur les cibles articulaires. La politique se concentre ainsi sur la compensation des écarts dynamiques entre la référence et le robot réel (limites d'actionneurs, latence, friction, inertie) plutôt que sur la resynthèse complète du geste. Une politique est entraînée par séquence de référence, avec une recette d'entraînement et de déploiement commune réutilisée entre mouvements et plateformes. L'équipe a évalué la méthode sur huit chorégraphies issues du jeu de données LAFAN1, exécutées sur le robot Unitree G1, avec des expériences complémentaires de transfert inter-plateforme sur les Unitree H1 et H1-2. Le problème ciblé est central dans la robotique humanoïde actuelle : les mouvements retargetés depuis des captures humaines sont cinématiquement plausibles mais dynamiquement incohérents avec le robot réel, ce qui fait dériver le suivi de trajectoire sur les séquences longues et finit par déstabiliser le contrôleur. En montrant des politiques G1 capables d'exécuter des comportements longs et énergétiques directement sur matériel, sans ajustement au moment du test, RobotDancing apporte un signal concret sur la viabilité du transfert simulation-vers-réel pour du contrôle whole-body à haute dynamique, un point souvent démontré en vidéo mais rarement quantifié avec rigueur dans la littérature. Le travail s'inscrit dans la lignée des méthodes de motion tracking par RL pour humanoïdes, où LAFAN1 sert de banc d'essai de référence pour les mouvements complexes. La publication, une version révisée sur arXiv (2509.20717v2), inclut des clips qualitatifs sur H1 et H1-2 pour illustrer la généralisation inter-plateforme, sans toutefois fournir de métriques chiffrées équivalentes à celles obtenues sur le G1, ce qui invite à la prudence sur l'ampleur réelle du transfert démontré.

RecherchePaper

1 source

2arXiv cs.RO

WOLF-VLA : framework de locomotion optimale corps entier pour humanoïdes avec apprentissage vision-langage-action

Des chercheurs ont publié le 25 juin 2026 sur arXiv (arXiv:2606.25591) WOLF-VLA, un cadre unifié qui combine la synthèse de trajectoires par contrôle optimal (OC) en corps entier avec un dataset multimodal à grande échelle, dans le but d'entraîner des modèles VLA (Vision-Language-Action) capables de piloter la locomotion d'humanoïdes directement depuis des instructions en langage naturel. Le dataset couvre six familles de tâches de locomotion, paramétrées par des variations d'environnement, de couleurs d'objets, de placements et de distracteurs visuels. L'entrainement utilise des trajectoires articulaires dynamiquement cohérentes, des observations visuelles ego-centriques et des instructions textuelles. Les résultats annoncés font état d'une robustesse notable aux variations de conditions initiales et de performances compétitives sur plusieurs tâches et configurations d'environnement. Le dataset complet, les checkpoints de modèle et la suite de benchmarks en simulation seront publiés en open source. Ce travail comble un angle mort important : si les VLA ont prouvé leur efficacité en manipulation (voir Pi-0 de Physical Intelligence ou GR00T N2 de NVIDIA), leur extension à la locomotion en corps entier, contact-riche et dynamiquement contrainte, restait quasi inexploitée. Les trois verrous identifiés par les auteurs sont précis -- pénurie de données, absence de démonstrations dynamiquement consistantes, et difficulté à encoder optimalité et sécurité dans un pipeline d'apprentissage -- ce sont exactement les obstacles qui ont maintenu la locomotion hors du champ VLA. La génération de trajectoires via contrôle optimal comme source de données supervisées est une approche méthodologiquement solide pour contourner la dépendance aux démonstrations humaines ou téléopérées. Ce papier s'inscrit dans un mouvement plus large vers des politiques de locomotion instruction-guidées, concurrent de travaux comme ANYmal (ETH Zurich / ANYbotics), Digit (Agility Robotics) ou les approches reinforcement learning de Boston Dynamics. La release open source du benchmark constitue la contribution potentiellement la plus durable : établir un référentiel reproductible pour la locomotion humanoïde VLA permettrait de structurer les comparaisons dans un domaine où les métriques sont encore disparates. Aucun déploiement physique n'est mentionné dans cet article, qui reste une contribution de recherche en simulation -- le transfert sim-to-real sur des plateformes comme Unitree H1 ou Figure 03 constitue la prochaine étape non résolue.

UELe benchmark open source pourrait servir de référence aux laboratoires européens travaillant sur la locomotion humanoïde (ETH Zurich/ANYbotics notamment), mais aucun acteur français ni institution de l'UE n'est directement impliqué dans cette publication.

RechercheOpinion

1 source

3arXiv cs.RO

RMTL : apprentissage par renforcement sur micro-tâches pour la manipulation à long terme avec récompenses VLM

Une équipe de chercheurs a publié en juin 2026, via arXiv (identifiant 2606.26175), une méthode baptisée RMTL (Reinforced Micro-Task Learning) visant à résoudre un problème central de l'apprentissage par renforcement appliqué à la manipulation robotique : la conception du signal de récompense. Plutôt que de s'appuyer sur une fonction de récompense dense codée manuellement (coûteuse à calibrer et souvent fragile) ou sur des démonstrations humaines, RMTL exploite des modèles vision-langage (VLM) préentraînés comme signaux de récompense zero-shot. La nouveauté réside dans la décomposition de la tâche globale en un petit ensemble de micro-tâches décrites en langage naturel, chacune associée à un prompt dédié. À chaque étape, l'agent reçoit une récompense calculée par le VLM selon la micro-tâche active, moyennée sur plusieurs angles de caméra pour atténuer les effets d'occlusion. Un curriculum inverse expose progressivement l'agent à des conditions initiales plus difficiles, tandis qu'un gestionnaire hiérarchique appris remplace une règle de sélection de phase basée sur la distance. Les expériences ont été menées sur l'environnement Fetch, benchmark standard de la manipulation en simulation, avec seulement trois prompts courts sans ajustement supplémentaire. L'apport principal est l'amélioration significative du signal d'apprentissage par rapport à une approche VLM à prompt unique. Un prompt global produit un signal de récompense quasi-plat en début de trajectoire : l'agent ne détecte pas ses progrès précoces, ce qui ralentit drastiquement la convergence sur des tâches à long horizon. RMTL répond à ce problème structurel en rendant chaque micro-tâche localement observable. Pour les équipes cherchant à réduire leur dépendance aux démonstrations humaines ou à l'ingénierie manuelle des récompenses, cela représente une piste sérieuse pour rendre le RL guidé par le langage plus scalable sans coût d'annotation supplémentaire. Ce travail s'inscrit dans une vague active de recherches utilisant les VLMs comme substituts de fonctions de récompense, dont EUREKA de NVIDIA ou les approches SayCan de Google DeepMind. Contrairement à certaines de ces méthodes qui nécessitent un fine-tuning ou des démonstrations vidéo, RMTL mise sur une décomposition minimale en trois phases sans recalibrage des prompts. L'évaluation reste cependant confinée à la simulation sur robot Fetch, et aucun résultat sur plateforme physique n'est rapporté. La prochaine étape critique sera de valider si cette approche tient face au gap sim-to-real, notamment sur des manipulateurs physiques avec variabilité sensorielle réelle.

RechercheActu

1 source

4arXiv cs.RO

RLMM-Flow : un cadre de manipulation mobile basé sur les flux avec apprentissage par renforcement en espace latent

Découpler flux génératif et apprentissage par renforcement, c'est l'angle d'un nouveau papier arXiv (2607.26460v1) publié fin juillet 2026 sur la manipulation mobile robotique. L'équipe présente RLMM-Flow, un framework qui combine une politique générative par flux (flow-based policy), pré-entraînée par imitation sur des démonstrations d'experts, avec une phase de renforcement post-entraînement menée dans l'espace latent. Concrètement, la politique de flux capture d'abord un a priori de mouvement multimodal du corps entier à partir des démonstrations, puis elle est gelée pendant qu'un réseau de pilotage latent réoriente le bruit initial vers des séquences d'actions à plus forte valeur. Pour stabiliser cette optimisation en haute dimension, les auteurs font chauffer un critique dans l'espace des actions avant d'entraîner conjointement le critique et l'acteur latents, avec un pilotage latent progressif, du grossier au fin, qui étend le contrôle d'une représentation latente partagée sur l'horizon temporel vers une représentation résiduelle complète. Sur des benchmarks de planification de mouvement pour la manipulation mobile, RLMM-Flow améliore nettement le taux de réussite des tâches, l'évitement de collision et la qualité des trajectoires par rapport aux politiques de flux entraînées uniquement par imitation, tout en conservant une inférence rapide. L'enjeu dépasse la seule performance benchmark: il touche à une limite bien identifiée des politiques génératives de type flow-matching ou diffusion, aujourd'hui standard pour piloter des robots manipulateurs, à savoir que l'imitation pure plafonne à la qualité des démonstrations, sans possibilité de dépasser ce plafond. En montrant qu'un renforcement post-entraînement dans l'espace latent, plutôt que dans l'espace des actions brutes, peut pousser la politique au-delà de cette distribution tout en préservant la vitesse d'inférence, RLMM-Flow répond à une préoccupation centrale des intégrateurs qui cherchent à fiabiliser des politiques VLA pour la manipulation mobile en environnement contraint, où il faut satisfaire simultanément l'atteinte d'objectifs, l'évitement d'obstacles, la cinématique de la base et les limites articulaires du bras. Le travail se positionne explicitement face à deux familles existantes: les politiques de flux entraînées uniquement par imitation, et les baselines de renforcement post-entraînement déjà proposées pour ce type de politiques génératives. Il s'agit à ce stade d'un travail de recherche évalué sur des benchmarks de planification de mouvement en simulation, sans validation annoncée sur robot physique ni déploiement industriel, aucun acteur commercial ni site de déploiement n'étant mentionné dans l'abstract.

RecherchePaper

1 source