Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
Adaptation à la nouveauté par planification hybride LLM-symbolique et apprentissage par renforcement guidé par LLM
RecherchearXiv cs.RO 

Adaptation à la nouveauté par planification hybride LLM-symbolique et apprentissage par renforcement guidé par LLM

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Une équipe de recherche propose une architecture neuro-symbolique combinant planification symbolique, apprentissage par renforcement (RL) et un grand modèle de langage (LLM) pour permettre à des robots de s'adapter à des objets nouveaux rencontrés dans des environnements ouverts et dynamiques. Le travail, publié sur arXiv sous la référence 2603.11351 (version 2, remplaçant une publication antérieure), part d'un constat technique précis : les planificateurs symboliques classiques échouent purement et simplement lorsque leur domaine de planification ne contient pas les opérateurs nécessaires pour interagir avec un objet imprévu, bloquant toute génération de plan. La méthode proposée fait porter au LLM le raisonnement de sens commun pour identifier les opérateurs manquants, s'appuie sur un planificateur IA symbolique classique pour construire les plans, puis fait rédiger par le LLM des fonctions de récompense qui guident un agent RL dans l'apprentissage des politiques de contrôle associées aux nouveaux opérateurs. Selon les auteurs, la méthode dépasse l'état de l'art à la fois pour la découverte d'opérateurs manquants et pour leur apprentissage effectif, dans des domaines robotiques à espace d'action continu. Code et démonstrations sont publiés sur helenlu66.github.io/hybridLLMguided.

L'enjeu dépasse l'exercice académique : la plupart des robots déployés en environnement contrôlé (usine, entrepôt) n'ont jamais à gérer d'objets réellement inédits, mais toute extension vers des environnements ouverts (domicile, extérieur, terrain non structuré) expose la fragilité des planificateurs symboliques figés. Cette approche hybride s'oppose à la tendance dominante des modèles vision-langage-action génériques (à la Pi-0, GR00T N2 ou Helix) qui misent sur une généralisation de bout en bout sans structure symbolique explicite ; elle défend au contraire l'idée qu'associer raisonnement de sens commun du LLM et planification symbolique reste plus robuste et plus interprétable pour traiter des cas rares et imprévus.

Il s'agit toutefois d'une contribution de recherche évaluée par ses propres auteurs, sans validation indépendante ni déploiement industriel annoncé à ce stade, et s'inscrit dans un courant actif de travaux neuro-symboliques cherchant à combiner LLM et planification classique plutôt qu'à les opposer.

Dans nos dossiers

IA physique & VLANVIDIA GR00TarXiv cs.RO

À lire aussi

M³P-R1 : apprentissage par renforcement guidé par un LLM pour la planification de mouvement multimodale via génération de code MIP
1arXiv cs.RO 

M³P-R1 : apprentissage par renforcement guidé par un LLM pour la planification de mouvement multimodale via génération de code MIP

Des chercheurs publient sur arXiv (article 2609.18669v1, daté du 17 septembre 2026, catégorie "nouveauté") une méthode baptisée M$^3$P-R1, destinée à la planification de mouvement multi-modale (M$^3$P) pour robots devant enchaîner transitions discrètes et dynamiques continues, par exemple un robot bipède qui marche jusqu'à une cible puis utilise ses bras pour saisir un objet. La méthode s'appuie sur l'apprentissage par renforcement pour affiner des grands modèles de langage (LLM) afin qu'ils décomposent une tâche M$^3$P en variables, contraintes et objectifs de programmation en nombres entiers mixtes (Mixed-Integer Programming, MIP). Plutôt que de faire produire directement une réponse au LLM, ce qui expose au risque d'hallucination, M$^3$P-R1 génère du code Python exécutable s'appuyant sur des bibliothèques d'optimisation MIP et des interfaces de contraintes, avec une récompense fondée sur le résultat effectivement retourné par le solveur. L'enjeu est de rendre systématique une étape aujourd'hui largement manuelle et spécifique à chaque domaine: formuler un problème MIP tractable pour des tâches robotiques non convexes, en particulier dans le régime de discrétisation approximative nécessaire à ce type de problème. En couplant génération de code par LLM et vérification par un solveur formel, l'approche vise une garantie de robustesse absente des politiques bout-en-bout de type VLA (vision-langage-action) qui dominent actuellement la communication autour de l'humanoïde. Pour les intégrateurs et équipes de recherche en planification robotique, cela ouvre une piste alternative où le LLM sert d'interface de programmation vers un optimiseur classique plutôt que de policy générative opaque. Le travail s'inscrit dans la lignée des recherches combinant LLM et génération de code comme pont vers des solveurs formels en robotique, en marge des approches d'apprentissage de bout en bout du type Pi-0, GR00T N2 ou Helix. Il s'agit à ce stade d'un article de recherche déposé sur arXiv, sans partenaire industriel, plateforme robotique ni déploiement cités dans le résumé, et donc sans validation par les pairs ni démonstration matérielle rapportées pour l'instant.

RecherchePaper
1 source
Planification du mouvement multi-robots par modèle de diffusion guidé par apprentissage par renforcement multi-agents
2arXiv cs.RO 

Planification du mouvement multi-robots par modèle de diffusion guidé par apprentissage par renforcement multi-agents

Une équipe de chercheurs propose, dans un préprint arXiv (2606.00933) publié début juin 2026, un cadre de planification de trajectoires pour flottes de robots mobiles combinant modèles de diffusion génératifs et apprentissage par renforcement multi-agents (MARL). Concrètement, chaque robot génère indépendamment des trajectoires candidates via un modèle de diffusion entraîné sur des données mono-agent, puis une fonction de valeur centralisée, apprise par MARL, oriente le processus de débruitage par gradient pour réduire les conflits entre agents. Ce mécanisme dit d'"exponential tilting" pousse la distribution de débruitage vers les trajectoires associées au meilleur retour collectif attendu. Évalué en simulation sur un labyrinthe avec quatre robots mobiles, le système réduit le taux d'interférence inter-agents de 55,4 % à 41,8 %, sans nécessiter de ré-entraînement du modèle génératif ni de planification jointe centralisée. Ce résultat attaque directement le compromis historique entre planification centralisée (précise mais peu scalable à mesure que la flotte grossit) et planification décentralisée (scalable mais aveugle aux autres agents). Le fait que la coordination soit injectée via un signal de guidage externe sans modifier le planificateur diffusion de base ouvre la voie à des architectures modulaires : on entraîne une fois le modèle de trajectoire mono-agent, puis on greffe la coordination selon l'environnement de déploiement. Pour les intégrateurs de systèmes multi-robots en entrepôt ou en manufacture, cela suggère qu'un découplage entre planification locale et coordination globale est techniquement praticable, ce qui simplifierait la mise à l'échelle des flottes hétérogènes sans refonte complète du pipeline. Le domaine est depuis longtemps dominé par des méthodes à base de graphes comme CBS (Conflict-Based Search) ou des approches réactives décentralisées comme ORCA, avec des tentatives d'apprentissage profond restées limitées en conditions réelles. L'application des modèles de diffusion à la génération de trajectoires robotiques constitue un courant émergent, illustré notamment par Diffusion Policy (Chi et al., 2023) en manipulation, mais rarement couplé au MARL pour la coordination de flotte. Ce travail reste pour l'instant une preuve de concept en simulation sur quatre robots dans un environnement simple, et la généralisation à des scènes dynamiques, à des flottes plus larges ou à des robots hétérogènes demeure un défi non adressé. Les prochaines étapes naturelles incluent la validation sur hardware réel et la confrontation aux benchmarks de référence du MAPF (Multi-Agent Path Finding).

RecherchePaper
1 source
Adaptation des politiques génériques de robots par apprentissage par renforcement sémantique
3arXiv cs.RO 

Adaptation des politiques génériques de robots par apprentissage par renforcement sémantique

Les auteurs de ce nouvel article arXiv (2606.31958v1) présentent SARL, pour Semantic Action Reinforcement Learning, une méthode d'apprentissage par renforcement pour adapter des politiques robotiques généralistes déjà pré-entraînées, c'est-à-dire des modèles vision-langage-action (VLA) capables d'un large répertoire de comportements. Au lieu d'optimiser directement l'espace des actions du robot, comme le font les approches RL classiques, SARL agit sur l'espace des prompts en langage naturel envoyés au modèle. Concrètement, l'algorithme apprend en ligne, par interaction avec l'environnement, à moduler les instructions textuelles données à la politique pour faire émerger et combiner des compétences déjà présentes dans son répertoire, plutôt que d'apprendre de nouveaux comportements depuis zéro. Les auteurs rapportent des validations à la fois en conditions réelles et sur des bancs d'essai simulés, avec des performances supérieures aux méthodes existantes d'amélioration de comportement en déploiement. L'intérêt de cette approche tient au problème qu'elle cherche à résoudre : les méthodes RL usuelles appliquées à un modèle généraliste supposent que sa distribution d'actions de départ est déjà proche d'une politique performante, une hypothèse qui s'effondre dès que la tâche est longue, complexe ou sort de la distribution d'entraînement initiale. En déplaçant l'optimisation vers l'espace sémantique des prompts, SARL rend l'exploration plus structurée et l'apprentissage en ligne beaucoup plus efficace en données, un enjeu central pour l'industrie robotique où le fine-tuning par interaction réelle reste coûteux et lent. Si les résultats se confirment à plus grande échelle, cela ouvrirait la voie à une adaptation rapide de robots généralistes à des tâches spécifiques d'un site industriel sans réentraînement lourd. Ce travail s'inscrit dans la lignée des politiques robotiques généralistes de type VLA, entraînées sur de larges corpus de démonstrations, dont l'adaptation post-déploiement est devenue un axe de recherche actif face aux limites du simple zéro-shot. Il rejoint d'autres tentatives d'affinage par renforcement de ces modèles, en proposant une alternative à l'optimisation directe des actions. Les auteurs annoncent vouloir approfondir les validations sur des tâches réelles à horizon plus long, sans toutefois préciser de calendrier de déploiement industriel.

RechercheActu
1 source
HALO-WA : apprentissage par renforcement en ligne guidé par le latent, à attention hybride, pour modèles monde-action
4arXiv cs.RO 

HALO-WA : apprentissage par renforcement en ligne guidé par le latent, à attention hybride, pour modèles monde-action

Des chercheurs viennent de publier sur arXiv (7 juillet 2026, arXiv:2607.04265) HALO-WA, un framework d'apprentissage par renforcement en ligne destine aux modèles "world-action" (WA), ces systèmes capables de générer de longues séquences d'actions pour la manipulation robotique généraliste. Le problème cible: ces modèles échouent fréquemment dans les derniers millimètres d'un alignement ou d'une insertion, a cause d'erreurs de calibration, de perception ou de dynamique de contact. HALO-WA ajoute un adaptateur acteur-critique léger qui exploite les caractéristiques latentes et les a priori d'action déjà produits par le modèle WA, via une structure d'attention hybride qui préservé la cohérence temporelle des séquences tout en intégrant le contexte visuel et les besoins de correction en fin de tache. Teste sur quatre taches de manipulation de précision en conditions réelles, le système fait grimper le taux de succès moyen de 26,4% pour le modèle WA de base a 87,1%, soit 19,2 points devant le meilleur système concurrent, avec seulement 45 a 75 minutes d'entrainement en ligne par tache. Des expériences complémentaires ont été menées en simulation sur RoboTwin, et le code est disponible sur GitHub (YeanRoot/HALO-WA). L'enjeu dépasse la prouesse technique isolée: la manipulation de précision, ce dernier millimètre ou tout se joue lors d'un vissage, d'une insertion de connecteur ou d'un assemblage fin, reste le talon d'Achille des modèles VLA/WA généralistes vantes par des systèmes comme GR00T N2, Pi-0 ou Helix. Ces architectures génèrent des séquences d'actions impressionnantes en démonstration mais s'effondrent souvent des que la tolérance géométrique se resserre, illustrant l'écart persistant entre la démo et le déploiement industriel réel. En montrant qu'un correctif RL léger, applique en quelques dizaines de minutes et sans reentrainer le modèle de base, peut tripler le taux de réussite, HALO-WA offre une piste concrète pour les intégrateurs qui cherchent a fiabiliser des cellules robotiques sans repasser par des mois de collecte de données et de fine-tuning lourd. C'est un argument en faveur de pipelines hybrides ou un gros modèle généraliste fournit la structure d'action pendant qu'un module d'adaptation local, bon marche, absorbe les erreurs spécifiques au site de déploiement. Cette approche s'inscrit dans la vague des modèles world-action apparus avec les VLA de nouvelle génération, censés unifier perception, langage et contrôle moteur pour la manipulation généraliste, une famille qui mélange offres commerciales et travaux de recherche ouverte. Le choix de RoboTwin comme banc d'essai simule et la publication du code renforcent une logique de reproductibilité plutôt que de simple annonce marketing, une distinction que le secteur peine parfois a maintenir face a des communiques mettant en avant des vidéos sélectionnées. Reste a voir si cette méthode d'adaptation en ligne se généralisé au-delà des quatre taches testées et des architectures WA existantes, et si des acteurs industriels, européens ou américains, intègreront ce type de correctif léger dans leurs propres piles logicielles pour accélérer le passage du prototype au déploiement en usine.

RecherchePaper
1 source