RecherchearXiv cs.RO 6 août 2026

« Coordination homme-robot sans apprentissage préalable grâce au raisonnement structuré des LLM face à des objectifs cachés »

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs présentent une architecture structurée à base de grands modèles de langage (LLM) pour la coordination homme-robot en zero-shot, c'est-à-dire sans apprentissage préalable spécifique à la tâche, quand chaque partenaire ne dispose que d'une vue privée de l'objectif commun. Formalisée comme un Dec-POMDP (processus de décision markovien partiellement observable et décentralisé), l'architecture décompose la prise de décision en cinq étapes : inférence de théorie de l'esprit conditionnée à l'action, planification hiérarchique, interprétation de la conversation, vérification des actions, et replanification à partir des retours. Testée sur une tâche de construction coopérative où robot et humain ne voient chacun qu'une partie de l'objectif final, la méthode est comparée à deux références : une version sans le module de théorie de l'esprit, et une politique d'apprentissage par renforcement multi-agent entraînée hors ligne sur de nombreuses paires d'objectifs. Lors d'expériences avec des participants humains, la méthode complète a nécessité moins d'étapes d'interaction et obtenu de meilleures notes de confiance post-interaction que les deux références.

Ces résultats intéressent directement la recherche en interaction homme-robot : ils suggèrent qu'un LLM peut servir de substitut praticable à des calculs d'inférence et de planification autrement intraitables, tout en conservant une couche de vérification classique pour garantir la faisabilité physique des actions. Le gain ne vient pas d'un modèle bout-en-bout mais d'une décomposition explicite du problème de décision d'équipe, où le LLM traite seulement les sous-tâches de raisonnement social et de langage. Pour les équipes travaillant sur des robots collaboratifs ou des tâches à information partagée incomplète, cela plaide pour des architectures modulaires plutôt que des politiques entraînées de bout en bout, coûteuses à généraliser à de nouveaux objectifs.

Le travail s'inscrit dans la recherche sur la théorie de l'esprit computationnelle et la coordination multi-agents, un champ où les politiques de renforcement multi-agent peinent traditionnellement à généraliser en zero-shot à des objectifs ou partenaires inédits. En ancrant leur architecture dans le cadre théorique du Dec-POMDP, les auteurs la rattachent à des décennies de recherche en planification sous incertitude partagée. L'article ne mentionne aucun calendrier de déploiement industriel : il s'agit d'une preuve de concept en laboratoire, qui ouvre la voie à des tests sur des tâches physiques plus complexes et des équipes homme-robot élargies.

À lire aussi

1arXiv cs.RO

Imagine2Real : vers l'interaction robot humanoïde-objet sans apprentissage préalable grâce aux priors génératifs vidéo

Une équipe de chercheurs présente Imagine2Real, un framework zéro-shot pour la manipulation humanoïde d'objets, publié sur arXiv en mai 2026. L'Humanoid-Object Interaction (HOI) en corps entier, soit la capacité d'un humanoïde à interagir physiquement avec des objets en coordonnant l'ensemble de ses degrés de liberté, reste historiquement freinée par la rareté des données 3D haute fidélité. Imagine2Real contourne cette limitation en s'appuyant sur des vidéos génératives comme priors de mouvement, sans recourir à des modèles CAO explicites. Les déplacements du robot et des objets sont formalisés comme des trajectoires 4D en points discrets. Un module appelé Keypoints Tracker suit uniquement trois repères critiques (base, mains, objet), court-circuitant le retargeting morphologique, source classique d'amplification d'erreurs. Pour maintenir des allures naturelles malgré ces signaux épars, le système exploite l'espace latent d'un Behavior Foundation Model (BFM), un modèle de fondation entraîné sur des comportements locomoteurs. Une stratégie d'entraînement progressive complète le pipeline, permettant un déploiement physique zéro-shot en environnement de capture de mouvement (mocap). Le travail s'attaque à deux verrous documentés dans la littérature : le "Representation Misalignment", décalage entre les priors géométriques et la réalité physique du robot, et la "Retargeting Complexity", difficulté d'adapter des mouvements humains à une morphologie robotique différente. En réduisant le retargeting à trois points-clés et en supprimant la dépendance aux modèles CAO, Imagine2Real compresse le pipeline de données nécessaire pour générer de nouveaux comportements. Le zéro-shot démontré en déploiement physique, et non uniquement en simulation, distingue la contribution des approches antérieures. Pour un intégrateur ou un décideur industriel, l'enjeu est clair : bootstrapper de nouvelles compétences de manipulation sans dataset 3D dédié ni séquences mocap par tâche. Imagine2Real s'inscrit dans un courant de recherche exploitant les video diffusion models comme source de connaissance pour la robotique, en parallèle des travaux de Physical Intelligence (pi0, pi0-FAST), de NVIDIA (GR00T N2) et des approches VLA de Google DeepMind. La distinction revendiquée est l'abandon des priors géométriques là où les méthodes concurrentes les jugent incontournables. Aucun partenaire industriel ni calendrier de déploiement réel n'est mentionné dans ce preprint : il s'agit d'une contribution de recherche fondamentale, dont les suites naturelles incluront l'extension à des catégories d'objets plus larges et une validation hors environnement mocap contrôlé.

RechercheOpinion

1 source

2arXiv cs.RO

Apprentissage automatique de programme d'entraînement au niveau des trajectoires pour la locomotion de robots à pattes sur terrain non structuré

Des chercheurs ont mis en ligne le 18 août 2026 un article sur arXiv (référence 2608.16164, soumission croisée) présentant une méthode d'apprentissage par curriculum automatique au niveau des trajectoires pour entraîner des politiques de locomotion de robots à pattes sur terrain non structuré. Contrairement aux approches existantes, qui imposent des curriculums heuristiques sur des terrains paramétrés artificiellement (pentes, marches ou obstacles générés selon des règles fixes), la méthode génère directement les tâches d'entraînement à partir de cartes de terrain réel non structuré. Le système fonctionne en boucle fermée avec deux composants: un évaluateur qui apprend, à chaque mise à jour du curriculum, une fonction de difficulté associant à une trajectoire donnée un score adapté au niveau actuel de la politique, et un échantillonneur qui propose de nouvelles trajectoires guidées par cet évaluateur pour l'entraînement suivant. Les auteurs rapportent un gain de 56,3% du taux de réussite des trajectoires par rapport à un entraînement sans curriculum, de 18,5% par rapport à un curriculum conçu manuellement sur les terrains les plus difficiles, et jusqu'à 39,74% lorsque le robot doit franchir un même obstacle depuis des directions d'approche variées. Le problème visé, la conception du curriculum d'entraînement, reste un goulot d'étranglement concret pour les équipes qui développent des robots à pattes destinés à des environnements réels non standardisés: chantiers, sites logistiques extérieurs, interventions post-catastrophe. Les curriculums heuristiques actuels risquent de faire surapprendre les politiques sur des motifs perceptifs quasi fixes, ce qui limite leur généralisation une fois confrontées à un terrain véritablement irrégulier. En automatisant la génération de trajectoires au bon niveau de difficulté et en la faisant évoluer avec la politique, cette approche réduit potentiellement le travail d'ingénierie manuelle et améliore la robustesse hors distribution, un enjeu central pour tout intégrateur cherchant à passer de la démonstration en simulation à un déploiement fiable. L'article s'inscrit dans la lignée des travaux sur l'apprentissage par curriculum en apprentissage par renforcement, technique connue pour éviter les échecs d'exploration précoce lors de l'entraînement de politiques complexes. Aucun nom d'entreprise, de laboratoire ni de plateforme robotique spécifique n'apparaît dans le résumé, et les résultats communiqués semblent reposer sur des expériences quantitatives et qualitatives sans précision explicite d'un déploiement sur matériel réel, ce qui invite à la prudence avant d'extrapoler ces gains à des conditions de terrain hors simulation.

RecherchePaper

1 source

3arXiv cs.RO

PhysX-CoT : raisonnement physique structuré, d'une image unique à des actifs 3D prêts pour la simulation

Des chercheurs ont publié le 11 août 2026 sur arXiv (référence 2608.08053v1) une méthode baptisée PhysX-CoT, conçue pour générer des actifs 3D prêts pour la simulation directement à partir d'une seule image. Contrairement aux approches actuelles, qui confient cette tâche à un modèle vision-langage produisant un flux de tokens unique et global ensuite décodé en géométrie et en champs physiques, PhysX-CoT décompose le processus en une trajectoire explicite et structurée d'états par partie : décomposition, ancrage 2D et 3D, relations entre parties, géométrie grossière et indices de surface, chaque étape étant supervisée séparément. La géométrie est factorisée de sorte que des boîtes englobantes 3D encodent le placement tandis que des codes locaux encodent la forme, et un entraînement par renforcement de type GRPO aligné sur cette chaîne de raisonnement optimise la validité du parsing, l'ancrage, la géométrie, le placement et la cohérence physique. Testée selon un protocole unifié, avec les mêmes backbone, données et décodeur figé que les méthodes concurrentes, PhysX-CoT dépasse la meilleure référence existante sur les métriques de géométrie, d'échelle et d'attributs physiques, et les actifs générés se chargent, entrent en collision et s'articulent correctement dans Unreal Engine 5. Pour l'industrie robotique et l'IA incarnée, ce travail s'attaque à un goulot d'étranglement réel : la production à grande échelle d'environnements simulés physiquement crédibles, nécessaires à l'entraînement de politiques VLA comme celles utilisées par GR00T N2, Pi-0 ou Helix. En rendant les étapes intermédiaires de génération vérifiables plutôt qu'implicites, la méthode ouvre la voie à un diagnostic plus fin des erreurs de géométrie ou de physique qui pénalisent aujourd'hui les pipelines automatisés. Les auteurs appuient leur démonstration sur des contrôles rigoureux (oracle, comparaisons à budget de tokens équivalent, permutation de l'ordre des états), montrant que ce raisonnement structuré est fonctionnel et non cosmétique, un point de méthode qui renforce la crédibilité des gains annoncés malgré leur origine auto-rapportée. Ce travail s'inscrit dans la lignée des recherches en chaîne de raisonnement appliquées au-delà du texte, transposées ici à la génération d'actifs 3D physiques pour la robotique simulée. Il reste à ce stade une contribution académique, sans déploiement commercial annoncé ; les prochaines étapes attendues concernent l'intégration à des pipelines d'entraînement de robots et l'extension à des actifs plus complexes.

RecherchePaper

1 source

4arXiv cs.RO

Hierarchical Fast-Slow ReAct : un agent de navigation vers un objectif sans apprentissage préalable

Publié en août 2026 sur arXiv, ce travail de recherche présente un agent hiérarchique rapide-lent pour la navigation vers un objet cible en zero-shot (ZSON) : un robot doit localiser une catégorie d'objet dans un bâtiment jamais visité. Les méthodes dominantes choisissent la frontière d'exploration par argmax sur une carte de valeur vision-langage, sans conserver les preuves passées. Le système proposé garde ce contrôleur réactif actif à chaque pas, en construisant une mémoire ancrée sur les coordonnées : grille sémantique des pièces et objets confirmés, plus des images-clés bornées, chaque détection filtrée par un VLM avant écriture. Une couche délibérative relit cette mémoire en boucle bornée raisonnement-récupération-action, se déclenche sur des événements structurels, raisonne d'abord en texte et ne rappelle une image qu'en dernier recours, sous plafonds d'appels et repli automatique. Résultat : 68,75% de succès sur HM3D v1 (val) et 47,29% sur MP3D (val), meilleur score zero-shot comparé ; sur 2000 épisodes HM3D, un argmax simple à la place de la délibération coûte 3,40 points de succès (IC 95% [1,70 ; 5,05]), perte que la délibération systématique ne comble pas. Ce résultat contredit l'hypothèse selon laquelle interroger un VLM à intervalle fixe depuis la vue courante suffit, et qu'une mémoire explicite ne vaut pas son coût de calcul. En montrant qu'une mémoire persistante couplée à une délibération sélective bat l'argmax pur et la délibération exhaustive, l'étude donne un argument concret aux intégrateurs de robots mobiles d'intérieur (logistique, inspection, service) arbitrant entre coût des appels VLM et qualité de décision, et confirme la bascule vers des architectures hybrides rapide-lent en IA incarnée. Le travail s'inscrit dans la lignée des méthodes ZSON à carte de valeur vision-langage, dominantes mais sans mémoire longue, et des architectures plus récentes plaçant un VLM directement dans la boucle de décision, jugées coûteuses et rigides. Il s'appuie sur les benchmarks standards HM3D et MP3D, sous simulateur Habitat, pour se comparer aux méthodes zero-shot existantes. Aucun partenaire industriel n'est mentionné : la validation reste en simulation, l'étape suivante logique étant un test sur robot réel.

RecherchePaper

1 source