RecherchearXiv cs.RO 16 juin 2026

Compréhension vidéo découplée centrée sur les objets pour la génération de commandes de manipulation robotique

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs ont publié en juin 2026 sur arXiv (2606.16470) un framework de compréhension vidéo orienté objets, conçu pour traduire automatiquement des démonstrations gestuelles en commandes exécutables par un bras robotique, sans passer par une syntaxe de programmation classique. La méthode combine des modules TSM (Temporal Shift Module) pour la classification spatio-temporelle d'actions avec un algorithme original de sélection d'objets qui identifie, dans chaque séquence, les objets fonctionnellement pertinents via trois critères : classification de rôle par trajectoire, détection de flou, et minimisation de chevauchements. Les objets retenus sont ensuite analysés par des VLMs (Vision-Language Models) pour la reconnaissance de catégorie et la généralisation zero-shot. Évalué sur une version modifiée du benchmark Something-Something V2, le système atteint 86,79 % de précision en classification d'actions, un score BLEU-4 de 0,337 sur des objets connus et 0,261 sur des objets inédits, soit des gains respectifs de +80,2 % et +143,9 % face au meilleur baseline spécialisé. Sur METEOR et CIDEr, les gains montent à +157,9 % et +171,7 % pour les objets inconnus.

Ce résultat est notable pour deux raisons distinctes. D'abord, la généralisation sur des objets non vus durant l'entraînement, qui est précisément le point de rupture habituel des systèmes task-specific : un robot industriel déployé dans un environnement variable ne peut pas être ré-entraîné pour chaque référence produit. Ensuite, l'architecture modulaire découplée (reconnaissance d'action d'un côté, identification d'objet de l'autre) facilite la maintenance et le débogage en production, à l'inverse des architectures bout-en-bout opaques. Sur le papier, ce type de système pourrait réduire la dépendance à la téléopération manuelle pour constituer des datasets de manipulation, un coût majeur pour les déploiements à grande échelle.

Il s'agit ici d'un preprint académique, pas d'un produit validé en environnement réel : les métriques sont mesurées sur un benchmark vidéo, pas sur un robot physique, ce qui laisse entier le sim-to-real gap. Le benchmark Something-Something V2 reste un cadre contrôlé, éloigné du désordre d'un atelier de production. Ce travail s'inscrit dans un mouvement plus large de recherche sur les VLA (Vision-Language-Action models), où des acteurs comme Physical Intelligence (pi), Google DeepMind ou le MIT tentent de résoudre exactement ce problème : faire apprendre un robot par observation vidéo plutôt que par démonstration manuelle coûteuse. La prochaine étape naturelle serait une validation sur hardware réel avec un bras collaboratif standard (UR, Franka), ce que le papier ne documente pas encore.

Dans nos dossiers

Physical Intelligence — π0 Manipulation robotique arXiv cs.RO

À lire aussi

1arXiv cs.RO

Les VLM décrivent mais ne mesurent pas : comprendre les scènes centrées sur les objets pour la manipulation robotique

Une équipe de recherche publie un article arXiv (2609.28184v1) proposant un système de perception modulaire piloté par un modèle vision-langage (VLM) pour la manipulation robotique en environnement inconnu. Partant d'une seule observation RGB-D, le pipeline segmente la scène en régions au niveau objet, les fait annoter sémantiquement par un VLM, puis ancre ces annotations avec les données de profondeur pour construire une représentation centrée sur les objets, indépendante de la tâche à accomplir. Les auteurs ont testé leur approche sur 151 scènes de table (tabletop scènes) et montrent que cette décomposition conserve la qualité sémantique d'un VLM classique tout en améliorant nettement la localisation et l'estimation de profondeur par rapport à une inférence géométrique directe par le VLM seul. La représentation obtenue a ensuite été intégrée à un module de planification de tâches pour piloter l'exécution robotique, en s'appuyant sur des briques logicielles existantes plutôt que sur un modèle entraîné de bout en bout. Le constat de fond, résumé par le titre même de l'article, cible une faiblesse connue mais rarement quantifiée des VLM appliqués à la robotique: ils décrivent bien une scène mais mesurent mal les distances, positions et profondeurs nécessaires à une prise fiable. Pour les intégrateurs qui misent sur des architectures vision-langage-action pour de la manipulation générique, ce travail confirme qu'il est risqué de confier au VLM la géométrie brute et suggère plutôt une architecture hybride où le modèle gère la sémantique tandis que des capteurs et des méthodes de segmentation classiques gèrent la métrique. C'est un signal utile face à l'engouement actuel pour les modèles VLA supposés tout résoudre en bout en bout: la précision spatiale reste un maillon faible qui nécessite un ancrage explicite plutôt qu'une confiance aveugle dans les sorties du modèle. Cette publication s'inscrit dans le débat plus large sur l'écart entre les capacités sémantiques impressionnantes des VLM récents et leur fiabilité métrique, un sujet qui traverse actuellement la recherche en robotique de manipulation autant que le développement de robots humanoïdes généralistes. L'article ne présente ni produit commercial ni déploiement industriel: il s'agit d'une contribution méthodologique construite à partir d'approches existantes ("off-the-shelf"), dont la suite logique serait une validation au-delà des scènes de table, sur des environnements moins contraints et des tâches de manipulation plus complexes.

RecherchePaper

1 source

2arXiv cs.RO

Commande prédictive par intégrale de chemin informée par objets pour la manipulation robotique sans préhension

Des chercheurs ont présenté une formulation hiérarchique du contrôle MPPI (Model Predictive Path Integral) appliquée à la manipulation non-préhensile, c'est-à-dire au déplacement d'objets par poussée sans saisie physique. Publiée sur arXiv (référence 2605.30778), la méthode décompose le problème en deux niveaux : un premier plan est calculé en supposant que l'objet peut être actionné directement, puis cette trajectoire sert de référence pour résoudre le problème couplé robot-objet. Les expériences ont été conduites sur un bras xArm6 à 6 degrés de liberté de UFactory, avec pour tâche de pousser un objet vers une cible tout en contournant des obstacles statiques. En simulation, la méthode augmente le taux de succès de 40 % et accélère la fréquence de contrôle de 26 % par rapport à un MPPI standard. Sur matériel réel, le gain de succès atteint 20 % pour un coût de calcul comparable. Cette décomposition hiérarchique répond à un problème fondamental de la planification à long horizon : l'espace de recherche conjoint robot-objet est trop vaste pour être exploré efficacement dans des délais temps-réel. En résolvant d'abord un sous-problème centré sur l'objet, l'algorithme oriente l'échantillonnage stochastique vers des régions prometteuses, réduisant le gaspillage computationnel sans nécessiter de hardware spécialisé. Pour un intégrateur industriel, cela signifie que des tâches impliquant poussées ou réorientations sans préhension deviennent planifiables en temps réel sur des cellules robotiques standard, un verrou qui limitait jusqu'ici l'automatisation de nombreuses opérations de manutention. Le MPPI est une méthode de contrôle prédictif par échantillonnage stochastique introduite par Theodorou et Williams à Georgia Tech, et popularisée en robotique par NVIDIA via ses environnements de simulation. La manipulation non-préhensile reste un domaine actif, avec des contributions récentes de MIT CSAIL, ETH Zurich et Stanford sur la gestion des contacts discontinus. Ce travail reste à ce stade un preprint non évalué par les pairs, et les benchmarks se limitent à des scénarios de poussée en espace plan avec obstacles statiques : des configurations plus complexes, obstacles dynamiques ou objets déformables, n'ont pas été testés.

RecherchePaper

1 source

3arXiv cs.RO

DynaSlots : préentraînement de la dynamique 3D centré sur les slots pour la manipulation robotique

Des chercheurs proposent DynaSlots, un cadre de préentraînement pour la manipulation robotique qui travaille sur des nuages de points 3D sans actions ni étiquettes. Chaque trame est décomposée en un petit nombre de « slots », des groupes de points censés rester cohérents d'une image à l'autre. Un module de propagation temporelle maintient cette cohérence d'affectation. Un modèle de dynamique inverse extrait ensuite une action latente par slot à partir des différences de caractéristiques entre deux trames. Un modèle de dynamique directe à base de diffusion prédit l'état futur de chaque slot. Une tête d'interaction auto-supervisée apprend en parallèle des relations de proximité et de mouvement entre paires de slots. Les tests portent sur les benchmarks de simulation Meta-World et Adroit, ainsi que sur un bras RealMan RM65-B en conditions réelles. Les auteurs affirment de meilleurs taux de succès que les références modélisant la dynamique à l'échelle de la scène, et une bonne robustesse au désordre et aux objets inconnus. L'article ne fournit, dans ce résumé, ni chiffres de gain, ni nombre de tâches, ni détail des essais réels. L'intérêt tient à une critique de fond des méthodes actuelles de préentraînement visuel 3D, y compris celles qui intègrent la dynamique. Elles compressent le mouvement de toute la scène en une seule action latente globale. Or, en manipulation, le changement est local : saisir une tasse déplace la tasse, pas le reste. Une représentation globale mélange des transitions de nature différente, masque les dépendances entre zones qui bougent et reste sensible au contenu sans rapport avec la tâche. Une approche par objet ou par région pourrait donc améliorer la généralisation sans annotations coûteuses, ce qui compte pour les équipes qui n'ont pas de données téléopérées en grand volume. Il faut toutefois rester prudent : il s'agit d'un préprint sans relecture par les pairs, évalué sur des benchmarks académiques classiques et un seul bras, sans mesure de passage à l'échelle ni de cadence industrielle. L'écart entre ces résultats et un déploiement en atelier reste entier. Ce travail s'inscrit dans la lignée des représentations visuelles préentraînées pour la manipulation et des modèles à action latente, qui apprennent depuis des vidéos ou des nuages de points sans étiquettes d'action. DynaSlots reprend l'idée des représentations centrées sur les objets (« slot attention ») et l'applique à la dynamique 3D. Il se positionne face aux méthodes 3D dynamiques au niveau de la scène, que l'article ne nomme pas dans ce résumé. Le code est annoncé via une page de projet anonymisée, signe d'une soumission en cours de relecture. Les prochaines étapes à surveiller sont la publication des chiffres détaillés, la comparaison avec les modèles vision-langage-action (VLA) à grande échelle, et des validations sur davantage de robots et de tâches longues.

RecherchePaper

1 source

4arXiv cs.RO

ORD-WM : apprentissage de la dynamique des corps rigides centrée sur les objets pour la modélisation 3D du monde en manipulation robotique

Des chercheurs proposent ORD-WM, un modèle de monde 3D conçu pour la manipulation robotique, décrit dans un preprint arXiv (2610.23156) qui n'a pas encore été évalué par des pairs. Le système encode le nuage de points de chaque objet dans une représentation latente qui conserve sa géométrie. Pour cela, il utilise un autoencodeur variationnel à neurones vectoriels (vector-neuron VAE), supervisé par des champs de distance signée (SDF). Un modèle de dynamique conditionné par l'action prédit ensuite, objet par objet, des incréments de mouvement dans SE(3), c'est-à-dire la rotation et la translation d'un corps rigide. Ces transformations sont appliquées analytiquement à l'état latent courant, au lieu de laisser le réseau générer librement l'état suivant. Le résumé indique que les prédictions sur plusieurs pas restent stables et préservent la géométrie, et que le système permet un replanning temps réel pour de la commande prédictive (MPC) en boucle fermée, en simulation et sur des scénarios réels. Le résumé ne donne ni taux de réussite, ni temps de calcul, ni nombre d'objets, ni plateforme robotique, ni comparaison chiffrée. L'enjeu est un défaut connu des modèles de monde appris. Les modèles basés sur l'image ou sur des représentations 3D denses ne contraignent pas explicitement le mouvement rigide des objets. Ils doivent donc apprendre implicitement qu'une tasse ou un bloc ne se déforme pas. Sur des rollouts longs, les erreurs s'accumulent, et la forme de l'objet dérive ou son mouvement devient incohérent. Pour un intégrateur, c'est ce qui limite la fiabilité de la planification par anticipation dans des tâches de pick-and-place ou d'assemblage. En séparant la géométrie persistante, qui reste fixe, de la pose, qui est la seule chose prédite, ORD-WM intègre un biais inductif de physique plutôt que de compter sur davantage de données. Cette approche reste liée à l'hypothèse de corps rigides. Les objets déformables, les câbles, les tissus et les liquides, très présents dans l'industrie, sortent de son périmètre. Il faudra aussi voir si les résultats tiennent hors du laboratoire, car les affirmations de « temps réel » ne sont pas chiffrées dans le résumé. Ces travaux s'inscrivent dans la compétition entre deux familles d'approches. D'un côté, les politiques de type VLA (vision-langage-action) et les modèles de monde génératifs apprennent la dynamique de bout en bout à partir d'images ou de vidéos. De l'autre, les approches structurées intègrent des priors géométriques, comme ici les réseaux équivariants à neurones vectoriels et les représentations par SDF. ORD-WM relève du second camp. Il vise la fiabilité sur les scènes d'objets rigides, au détriment de la généralité. Les prochaines étapes à surveiller sont la publication du code et des benchmarks, des comparaisons directes avec les modèles de monde image et 3D dense, des tests sur des scènes encombrées avec perception bruitée, puis une éventuelle extension aux objets articulés ou déformables.

RecherchePaper

1 source