RecherchearXiv cs.RO 25 août 2026

Triplet2Track : un système hiérarchique à représentations centrées objets pour une manipulation fiable à long horizon

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs publient le Triplet-to-Track System (TTS), décrit dans un article déposé sur arXiv sous la référence 2608.22800v1 fin août 2026. Il s'agit d'un système hiérarchique en boucle fermée pour l'apprentissage par imitation appliqué à la manipulation robotique à long horizon, conçu pour s'appuyer sur des vidéos humaines plutôt que sur des données collectées directement par des robots. TTS représente les sous-objectifs de haut niveau sous forme de triplets ancrés dans les instances d'objets présents dans la scène, les traduit en « track priors », des trajectoires de référence continues guidant l'exécution bas niveau, puis surveille en permanence la progression de la tâche à partir des observations pour déclencher une replanification en ligne si nécessaire. Sur un ensemble diversifié de tâches réelles à long horizon, le système atteint un taux de réussite moyen de 74,8 % et démontre une capacité de généralisation à la fois au niveau des objets et de manière compositionnelle, c'est-à-dire sur des combinaisons de sous-tâches non vues à l'entraînement.

Ce résultat s'attaque à une fracture bien connue du secteur robotique entre la démonstration impressionnante et la fiabilité réelle en usage prolongé. Les modèles VLA (vision-language-action) end-to-end restent gourmands en données et largement opaques, rendant le diagnostic d'échec quasi impossible, tandis que les pipelines hiérarchiques classiques, plus interprétables, produisent souvent des plans mal ancrés dans les observations et déconnectés des actions bas niveau, ce qui provoque des comportements en boucle ouverte et des erreurs de planification proches de l'hallucination. En combinant représentation orientée objet, trajectoires continues et boucle de feedback en ligne, TTS cherche à réconcilier interprétabilité et robustesse. Pour les intégrateurs et décideurs industriels, l'apport le plus concret est la réduction de la dépendance à des flottes de téléopération coûteuses au profit de vidéos humaines, une source de données bien plus facile à faire monter en échelle.

TTS s'inscrit dans un débat de recherche non tranché entre modèles VLA généralistes et architectures hiérarchiques à base de plans, sans qu'aucune des deux écoles n'ait résolu seule le compromis entre lisibilité des décisions et fiabilité en boucle fermée. L'article ne précise ni le laboratoire d'origine ni une intégration prévue sur une plateforme commerciale existante ; il s'agit à ce stade d'une contribution académique, et le taux de 74,8 %, mesuré sur des tâches choisies par les auteurs, reste à confirmer sur des benchmarks indépendants avant toute extrapolation à des déploiements industriels réels.

Dans nos dossiers

Manipulation robotique arXiv cs.RO

À lire aussi

1arXiv cs.RO

SparkVLA : un VLA hiérarchique conscient des arrêts, avec segmentation d'action adaptative pour la manipulation à long horizon

Une équipe de recherche a publié le 18 août 2026 sur arXiv (référence 2608.16172) SparkVLA, une architecture hiérarchique Vision-Language-Action conçue pour la manipulation robotique sur des tâches longues et multi-étapes. Le système règle un problème d'interface récurrent : à chaque point de ré-observation, il faut décider si la sous-tâche en cours s'arrête et jusqu'où exécuter le segment d'actions proposé, deux choix interdépendants que les architectures existantes évaluaient jusqu'ici séparément. SparkVLA les fusionne en un seul classement, où l'option d'arrêt est mise en concurrence avec chaque longueur possible de préfixe d'actions et le meilleur score l'emporte, sans seuil à régler manuellement. Le mécanisme repose sur deux modules : un encodeur contextuel ancré qui met en cache une représentation de la sous-tâche tenant compte de l'historique pour guider l'élagage des tokens visuels vers les zones pertinentes, et une tête de sélection qui note tous les candidats par auto-attention aux frontières des segments. Sur le benchmark RoboCerebra, SparkVLA atteint 47,12% de réussite, soit 30,57 points de plus que la référence hiérarchique officielle et 26,83 points de plus que la meilleure méthode reproductible connue, des gains confirmés par des essais complémentaires sur robot réel. Ce résultat cible un goulot d'étranglement classique des VLA hiérarchiques, où un module de planification en langage naturel et un module d'exécution bas niveau doivent se synchroniser : un mauvais calibrage provoque des arrêts prématurés ou des segments trop longs qui font dériver le robot sur les tâches à plusieurs étapes, l'un des écarts récurrents entre démonstrations en simulation et comportement réel. Pour les équipes qui construisent des pipelines de manipulation multi-étapes (kitting, assemblage, logistique), l'intérêt tient aussi à la méthode d'entraînement : SparkVLA ne requiert que des préférences ordinales hors ligne, moins coûteuses à collecter que des récompenses denses. Il s'agit toutefois d'un résultat de recherche mesuré sur un benchmark académique, complété par des essais robot réel que les auteurs présentent eux-mêmes comme de portée limitée, et non d'un produit déployé ou commercialisé. Le travail s'inscrit dans la lignée des modèles VLA hiérarchiques, qui séparent un raisonnement haut niveau découpant l'instruction en sous-tâches d'une politique d'action bas niveau entraînée par imitation, une famille d'architectures étudiée pour dépasser les limites des politiques VLA monolithiques sur l'horizon long. Sa contribution se distingue des approches à découpage d'actions de longueur fixe en rendant la longueur du segment exécuté adaptative et couplée à la décision d'arrêt. L'article compare ses résultats à la référence hiérarchique officielle du benchmark RoboCerebra et à la meilleure méthode reproductible publiée à ce jour, sans nommer d'acteur industriel ni annoncer de calendrier de mise à disposition du code, de partenariat ou de pilote de déploiement.

RechercheActu

1 source

2arXiv cs.RO

STORM : représentation par slots centrée objet et sensible à la tâche pour la manipulation robotique

Des chercheurs ont publié STORM (Slot-based Task-aware Object-centric Representation for robotic Manipulation), un module d'adaptation léger conçu pour augmenter les modèles visuels de fondation figés avec des représentations centrées sur les objets. Plutôt que de réentraîner de grands backbones visuels, coûteux en calcul et en données étiquetées, STORM insère un ensemble restreint de "slots", des vecteurs appris qui capturent chaque objet de la scène de manière distincte. L'entraînement se déroule en deux phases : un préentraînement visuo-sémantique qui stabilise les slots via des embeddings de langage, puis une adaptation conjointe avec la politique de manipulation. Les expériences, menées sur des benchmarks de découverte d'objets et des tâches de manipulation simulée, montrent des gains de robustesse face aux distracteurs visuels et une meilleure performance de contrôle par rapport à l'utilisation directe des features figées ou à l'entraînement end-to-end de représentations object-centriques. L'enjeu est structurel pour la robotique de manipulation. Les modèles visuels de fondation comme DINOv2 ou SigLIP fournissent des features perceptuelles puissantes, mais leurs représentations denses traitent la scène comme une grille de pixels sans distinguer explicitement les objets. Pour une tâche du type "saisir la boîte rouge parmi plusieurs objets", cette absence de structure oblige le réseau de politique à apprendre lui-même la décomposition de la scène, ce qui nuit à la généralisation hors distribution. STORM contourne ce problème sans toucher au backbone. Le résultat valide l'hypothèse que l'adaptation multi-phase (stabilisation sémantique d'abord, alignement tâche ensuite) évite la dégénérescence des slots, phénomène où plusieurs slots capturent le même objet ou des régions non pertinentes pour la tâche. La ligne de recherche sur les représentations object-centriques remonte à Slot Attention (Locatello et al., 2020, DeepMind) et à MONet. L'originalité de STORM est d'ancrer ces slots dans la sémantique linguistique et de les greffer sur des fondations pré-entraînées plutôt que de repartir de zéro. Dans un écosystème où les VLA (Vision-Language-Action models) comme pi0 de Physical Intelligence ou OpenVLA cherchent à intégrer langage et action de bout en bout, STORM propose une alternative modulaire et économe. Les résultats restent limités à la simulation, ce qui laisse entière la question du sim-to-real gap. Les prochaines étapes logiques incluent la validation sur robots physiques et le test face à des perturbations visuelles plus agressives que les benchmarks actuels.

RecherchePaper

1 source

3arXiv cs.RO

GORDON : récompenses par graphes centrées sur l'objet pour décomposer la manipulation à long horizon

Une équipe de recherche décrit dans un article publié sur arXiv début août 2026 (2608.03753) GORDON, un système qui apprend des récompenses denses pour l'apprentissage par renforcement en manipulation robotique, à partir de simples vidéos de démonstration sans action associée. Chaque scène est convertie en graphe d'objets et de relations spatiales, qu'un réseau de neurones sur graphe, entraîné de façon auto-supervisée, projette dans un espace latent aligné sur la progression de la tâche, en isolant les objets pertinents du mouvement propre au bras robotique. La récompense correspond alors à la distance, dans cet espace, entre l'état courant et la configuration d'objectif démontrée. Sur sept tâches testées dans les bancs d'essai simulés MAGICAL et ManiSkill3, GORDON atteint un taux de réussite moyen de 74,4 % sur les tâches longues, soit environ 35 points de mieux que la meilleure base apprise et 25 points de mieux qu'une politique oracle. Ce résultat s'attaque à un goulot d'étranglement classique du RL robotique, la conception de la récompense pour des tâches longues et multi-étapes : les récompenses éparses donnent peu de signal, et celles apprises sur pixels bruts se révèlent fragiles aux variations d'arrière-plan ou de trajectoire. En représentant la scène par objets plutôt que par pixels, et en découvrant automatiquement les sous-tâches à partir du profil temporel de la récompense, sans annotation manuelle, GORDON réduit le travail d'ingénierie nécessaire pour décomposer une tâche complexe. C'est un frein connu pour les équipes qui entraînent des politiques sur des séquences d'assemblage ou de tri multi-étapes, un des obstacles à la généralisation des politiques apprises au-delà des tâches courtes. La méthode s'inscrit dans la lignée des travaux sur la récompense apprise par démonstration, qui cherchaient jusqu'ici un compromis entre richesse du signal et robustesse visuelle. Elle diffère des approches vision-langage-action comme Pi-0 ou GR00T N2, qui apprennent une politique de bout en bout : GORDON reste une brique de reward shaping et de décomposition de tâches, combinable en principe avec différents algorithmes de RL. Les résultats restent pour l'instant limités à deux bancs d'essai simulés, sans test sur robot physique ni transfert sim-to-real annoncé, ce qui reste l'étape suivante pour juger de la portée réelle de la méthode.

RecherchePaper

1 source

4arXiv cs.RO

HiVLA : un système de manipulation incarnée hiérarchique centré sur l'ancrage visuel

Des chercheurs ont publié sur arXiv (identifiant 2604.14125) HiVLA, un cadre hiérarchique de manipulation robotique qui découple explicitement la planification sémantique de haut niveau du contrôle moteur de bas niveau dans les systèmes VLA (Vision-Language-Action). La couche haute s'appuie sur un planificateur VLM (Vision-Language Model) chargé de décomposer les tâches et de générer des plans structurés : une instruction de sous-tâche accompagnée d'une bounding box précise localisée visuellement sur l'objet cible. La couche basse traduit ensuite ce plan en actions physiques via un Diffusion Transformer (DiT) à flow-matching, doté d'un mécanisme de cross-attention en cascade original. Ce mécanisme fusionne séquentiellement le contexte global de la scène, des recadrages haute résolution centrés sur l'objet, et la sémantique de compétence, permettant au DiT de se concentrer uniquement sur l'exécution robuste. Les évaluations, conduites en simulation et en environnement réel, montrent que HiVLA surpasse les baselines end-to-end de l'état de l'art, avec des gains particulièrement marqués sur les tâches à longue horizon et la manipulation fine de petits objets dans des scènes encombrées. L'intérêt de cette approche réside dans la résolution d'un compromis bien documenté : le fine-tuning d'un grand modèle de vision-langage sur des données de contrôle robotique dégrade systématiquement les capacités de raisonnement généralisé héritées du modèle de base. En séparant les deux niveaux, HiVLA préserve les capacités zero-shot du VLM tout en permettant d'améliorer le composant moteur de façon indépendante. Pour un intégrateur ou un COO industriel, cela signifie potentiellement pouvoir mettre à jour la politique de bas niveau sans réentraîner le planificateur cognitif, ce qui réduit les coûts de maintenance et d'adaptation à de nouvelles tâches. La performance sur la manipulation fine dans des environnements désordonnés est notable, car c'est précisément le type de scénario qui met en défaut les VLA monolithiques comme RT-2 ou OpenVLA. Les approches VLA end-to-end comme pi-0 de Physical Intelligence, OpenVLA (UC Berkeley), ou GR00T N2 de NVIDIA ont démontré la viabilité du paradigme mais se heurtent au problème du catastrophic forgetting lors du fine-tuning sur des données de contrôle étroites. HiVLA s'inscrit dans une tendance vers des architectures hiérarchiques séparant raisonnement et exécution, direction qu'explorent également NVIDIA avec GR00T N2 et Google DeepMind avec ses travaux RT-X. Il reste cependant un preprint arXiv sans déploiement industriel annoncé ni affiliation commerciale visible dans le document disponible. Les résultats en environnement réel mentionnés dans l'abstract sont encourageants, mais les conditions expérimentales précises (types de tâches, métriques de succès, nombre d'essais) ne sont pas détaillées dans le résumé public, ce qui invite à la prudence avant toute généralisation à des applications industrielles.

RechercheOpinion

1 source