RecherchearXiv cs.RO 25 septembre 2026

De l'exécution passive à l'exploration active : la manipulation incarnée à base d'agents en environnements réalistes

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Une équipe de recherche publie sur arXiv (référence 2609.29091, catégorie "new", soumission datée du 29 septembre 2026 selon le numéro d'article) un framework agentique de manipulation robotique baptisé approche d'exploration active, conçu pour dépasser les limites des systèmes actuels qui exécutent passivement des instructions prédéfinies. L'architecture repose sur trois modules collaboratifs : un module de planification pour le raisonnement de tâche à haut niveau, un module de perception pour la compréhension de la scène visuelle, et un module d'exécution pour la manipulation bas niveau. Les auteurs y ajoutent une stratégie d'entrelacement fin entre perception et exécution, qui couple étroitement le retour visuel à l'exécution des compétences motrices pour renforcer la robustesse de l'exploration. Le système est testé sur une tâche appelée Find-and-Place dans un environnement qualifié de réaliste, où l'objet cible n'est pas visible au départ et doit être activement localisé avant d'être saisi et déposé, en présence de distracteurs et d'indices sémantiques textuels. L'abstract ne fournit ni chiffres de performance, ni comparaison quantitative avec des méthodes concurrentes, ni détails matériels comme le payload ou les degrés de liberté du bras utilisé : il s'agit à ce stade d'une publication de recherche, pas d'un produit ou d'un déploiement commercial.

L'intérêt pour l'industrie robotique tient au problème ciblé plus qu'aux résultats chiffrés. La plupart des architectures agentiques embarquées actuelles, y compris certains modèles vision-langage-action déployés en usine ou en entrepôt, restent conçues pour exécuter des instructions dans un environnement largement observable dès le départ. Ce travail pointe une limite réelle et documentée du secteur : dès qu'une cible est cachée, mélangée à des distracteurs ou seulement décrite par du texte, ces systèmes échouent faute de stratégie d'exploration active. Pour les intégrateurs qui visent des cas d'usage domestiques ou logistiques avec désordre et occlusions partielles, ce type de recherche indique que le sujet de l'autonomie perceptive sous observabilité partielle reste ouvert, contrairement à l'idée reçue que les pipelines VLA actuels suffiraient à généraliser à toute scène réelle.

Ce papier s'inscrit dans la lignée des travaux récents sur les systèmes agentiques à long horizon pour la manipulation, un axe de recherche actif depuis l'essor des modèles vision-langage-action capables de planification multi-étapes. Il ne cite pas d'acteur industriel ni de robot commercial précis, se positionnant comme une contribution méthodologique plutôt qu'une annonce produit. Aucun calendrier de transfert vers un système déployé, ni partenariat industriel, n'est mentionné à ce stade ; les suites logiques attendues seraient une extension à d'autres tâches de manipulation et une évaluation comparative face aux frameworks agentiques existants.

Dans nos dossiers

IA physique & VLA Manipulation robotique arXiv cs.RO

À lire aussi

1arXiv cs.RO

ProactiveVLA : enrichir la mémoire incarnée par l'exploration proactive de l'environnement

ProactiveVLA, un système présenté sur arXiv (2610.06999v1), s'attaque à un problème d'adaptation en déploiement: comment un robot acquiert-il rapidement des connaissances utiles sur les objets, les états et les interactions d'un nouvel environnement à partir d'une expérience limitée. L'architecture associe un agent de raisonnement à un modèle vision-langage-action (VLA) gelé, c'est-à-dire non réentraîné, et s'adapte via le retour d'exécution et une mémoire. Une fois la tâche initiale accomplie, l'agent consacre le budget d'interaction restant à des objectifs qu'il se fixe lui-même: affordances des objets (ce qu'on peut en faire), interactions changeant l'état de l'environnement, et compositions de ces interactions. Il vérifie les résultats de chaque exécution, puis consolide l'expérience dirigée par la tâche comme l'expérience exploratoire dans une mémoire qui guide la planification et le contrôle ultérieurs. À budget de tours égal, le système dépasse les méthodes de référence sur LIBERO-Pro et sur RoboCasa365 Composite-Seen. Sur LIBERO-Pro Goal-T, avec au plus une invocation de primitive VLA autorisée à l'évaluation, il réussit 48 % des instances, contre 19 % pour la meilleure méthode de raffinement de tâche. L'intérêt tient à ce que ces résultats suggèrent sur la manière de dépenser l'expérience. Les approches de référence répètent la tâche cible pour affiner une solution déjà connue, ce qui laisse non testées les interactions pertinentes dès que les conditions changent. Ici, explorer au-delà de la tâche donnée produit des connaissances réutilisables, et l'écart (48 % contre 19 %) indique que la qualité de l'expérience pèse davantage que sa quantité. Pour les intégrateurs, l'enjeu est concret: un VLA généraliste figé, qu'on ne veut ou ne peut pas réentraîner chez le client, pourrait être rendu plus robuste par une couche de mémoire et de planification, sans recalibrage coûteux. Il faut toutefois rester prudent: il s'agit d'un préprint évalué en simulation, sur des benchmarks, sans déploiement physique rapporté dans le résumé. Le chiffre de 48 % vaut pour un réglage restrictif (une seule invocation de primitive) et ne dit rien du temps de cycle ni du coût en interactions de la phase d'exploration, qui reste à documenter. Ce travail s'inscrit dans la tendance des agents de raisonnement qui orchestrent des VLA gelés, par opposition au réglage fin continu de ces modèles. LIBERO-Pro, variante plus exigeante de LIBERO centrée sur des conditions modifiées, et RoboCasa365, benchmark de tâches domestiques composites, servent de terrains d'essai à cette génération de méthodes d'adaptation au déploiement. Le résumé ne nomme ni le VLA sous-jacent ni les auteurs, et ne cite aucun acteur européen. Les prochaines étapes à surveiller sont la publication du code et des détails d'évaluation, une validation sur robot réel, et une mesure du surcoût de l'exploration face au gain de fiabilité, critère décisif pour tout COO envisageant une mise en service sur site.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

2arXiv cs.RO

SceneBloom : génération d'environnements intérieurs à base d'agents, aux agencements réalistes et variés, pour l'IA incarnée

SceneBloom, un framework agentique publié sur arXiv (2610.32978) et disponible en open source sur GitHub, vise à générer des environnements d'intérieur à la fois réalistes, variés et directement exploitables en simulation pour entraîner des agents incarnés. Le système combine un échantillonnage de dispositions visuelles et une « compilation » 3D guidée par des contrats. Un échantillonneur hiérarchique s'appuie sur des a priori de diffusion pour placer les meubles par zones fonctionnelles. Un compilateur extrait ensuite les relations spatiales de chaque proposition pour guider l'ajustement géométrique et la correction locale des poses. Sur cinq types de pièces, les auteurs annoncent la meilleure qualité visuelle et la meilleure stabilité physique parmi les méthodes comparées. SceneBloom est aussi la seule à ne produire aucune collision de maillage ni objet hors limites détecté. Ses agencements sont plus proches de la distribution de vraies pièces que ceux de toutes les références testées. Le résultat le plus parlant pour les équipes robotique concerne l'entraînement. Des politiques de navigation vers un objet, entraînées sur ces scènes générées, obtiennent un meilleur taux de succès sur des scans réels non vus que des politiques entraînées sur un nombre égal de scans réels d'entraînement. Si ce résultat se confirme, il suggère que des environnements synthétiques bien contraints peuvent remplacer, voire dépasser, la capture coûteuse de pièces réelles, un goulot d'étranglement connu pour le sim-to-real. Il montre aussi que la validité physique (absence de collisions, de pénétrations) compte autant que le réalisme visuel. Il faut toutefois rester prudent : l'évaluation porte sur la navigation vers des objets, pas sur la manipulation, qui exige des contacts et une physique bien plus fines. Les chiffres détaillés, les baselines et les jeux de scans utilisés ne figurent pas dans le résumé, et le gain reste à vérifier sur d'autres tâches et d'autres simulateurs. Ce travail s'inscrit dans une série de méthodes de génération de scènes. Les approches guidées par le langage, fortes en planification sémantique mais faibles en ancrage spatial précis, coexistent avec celles qui exploitent des modèles génératifs visuels, riches en a priori mais dont les sorties ne sont pas des scènes 3D physiquement valides. SceneBloom cherche à combler ce fossé en séparant l'idée de disposition de sa vérification géométrique. Pour les acteurs qui développent des modèles généralistes de type VLA ou des politiques de navigation, la disponibilité du code permet une reproduction rapide. La suite logique serait de tester la méthode sur des tâches de manipulation et des pièces plus complexes, ainsi que sur des robots réels, avant d'en tirer des conclusions pour un usage industriel.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

3arXiv cs.RO

ACE : contrôle à base d'agents pour la manipulation incarnée via raisonnement de flux de travail zéro-shot

Une équipe de recherche publie sur arXiv (arXiv:2607.04162v1) ACE, pour Agentic Control for Embodied Manipulation, un cadre de raisonnement en zero-shot destiné à la manipulation d'objets sur table à partir d'instructions en langage naturel. Plutôt que de faire correspondre directement le langage à des actions motrices bas niveau, comme le font la plupart des politiques VLA de bout en bout, ACE orchestre un raisonnement de type workflow agentique couplé à deux compétences robotiques réutilisables : une interface de repérage visuel et une primitive générique de saisie-dépose. Le sous-objectif actif est traduit en un masque visuel qui désigne à la fois l'objet cible et sa destination, masque qui est suivi dans le temps, exposé à la vérification humaine, puis transmis à une politique d'exécution indépendante de la tâche. Le système fonctionne en boucle fermée grâce à une mémoire multi-échelle temporelle qui vérifie après chaque action si le sous-objectif a réussi, avant de décider de poursuivre, réessayer, corriger ou replanifier. Sur des tâches longues et logiquement complexes, comme la formation d'équations avec des cubes numérotés ou la récupération d'objets sous contrainte, ACE atteint 50% de réussite pour la formation d'équations et 70% pour la récupération sous contrainte, quand les approches de bout en bout classiques échouent largement sur ces mêmes tâches. Ce résultat cible un point de friction précis du secteur : la capacité d'un système à généraliser à des scènes et contraintes sémantiques inédites sans réentraînement spécifique à la tâche, ce qui reste l'un des principaux écarts entre les démonstrations en laboratoire et un déploiement robuste en environnement réel. En montrant qu'un raisonnement explicite par étapes, combiné à un contrôle médié par masque, surpasse des politiques end-to-end sur des tâches à horizon long, ACE apporte un argument concret pour les intégrateurs et équipes de R&D qui cherchent des architectures de manipulation capables de gérer l'échec d'exécution et la correction humaine en cours de tâche, plutôt que de miser uniquement sur l'échelle des données d'entraînement. ACE s'inscrit dans la lignée des travaux récents sur les architectures agentiques pour la robotique, qui cherchent à combiner les capacités de raisonnement des grands modèles de langage avec des compétences robotiques modulaires et vérifiables, en alternative aux politiques VLA monolithiques comme Pi-0 ou GR00T. Les auteurs positionnent explicitement leur approche contre des baselines de bout en bout sur les mêmes bancs d'essai, mais l'évaluation reste limitée à des scénarios de manipulation tabletop en conditions contrôlées, sans indication de déploiement industriel ni de partenariat annoncé à ce stade.

RecherchePaper

1 source

4arXiv cs.RO

EDAR : apprentissage de représentations d'actions dépendantes de l'environnement pour la manipulation robotique

EDAR (Environment-Dependent Action Representation) est une nouvelle méthode d'apprentissage de représentations d'actions pour la manipulation robotique, présentée dans un article publié sur arXiv (référence 2607.11427v1). Le problème que les auteurs cherchent à résoudre est que les trajectoires de contrôle brutes utilisées pour entraîner des politiques robotiques sont bruitées, redondantes et difficiles à modéliser telles quelles. Les approches existantes se contentent généralement d'encoder la structure du flux d'actions lui-même, sans tenir compte explicitement de l'environnement dans lequel ces actions sont exécutées. EDAR propose au contraire de coupler les commandes moteur avec leurs effets visuels attendus, conditionnés par le contexte de la scène, afin que la représentation apprise capture la sémantique de l'interaction plutôt que de simples motifs au niveau des commandes. Les auteurs ont testé leur méthode sur des bancs d'essai de manipulation à la fois simulés et sur robot réel. Cette approche s'attaque à un angle mort connu des architectures VLA (vision-language-action) actuelles: le même segment d'action peut produire des résultats radicalement différents selon la disposition des objets, les propriétés physiques de la scène ou l'état initial de l'environnement. En ancrant les tokens d'action dans les conséquences visuelles attendues plutôt que dans la seule structure de commande, EDAR vise à améliorer la généralisation des politiques apprises, en particulier sur des tâches de manipulation à long horizon, où les erreurs de représentation s'accumulent au fil des étapes. Pour les équipes qui développent des politiques de manipulation généralistes, ce type de travail illustre une tendance de fond: le passage d'une modélisation purement centrée sur le contrôle vers des représentations conjointes action-perception, jugées nécessaires pour que les modèles de fondation robotiques (dans la lignée de GR00T N2, Pi-0 ou Helix) tiennent leurs promesses au-delà des démonstrations en environnement contrôlé. Le papier s'inscrit dans un courant de recherche plus large sur les représentations d'actions pour la robotique, où plusieurs travaux récents ont exploré la tokenisation d'actions, l'apprentissage par imitation conditionné par la vision, ou les modèles du monde pour anticiper les conséquences des actions. EDAR se positionne comme une contribution méthodologique plutôt qu'un produit ou un système déployé: il n'y a pas d'annonce de déploiement industriel ni de partenariat commercial associé à ce travail, qui reste à ce stade une publication de recherche évaluée sur des bancs d'essai académiques. Les prochaines étapes attendues pour ce type de travaux sont généralement l'intégration dans des pipelines VLA plus larges et des tests de transfert sur des plateformes robotiques commerciales, mais aucune feuille de route de ce type n'est mentionnée dans l'abstract.

RecherchePaper

1 source