RecherchearXiv cs.RO 19 juin 2026

CoMo : apprendre le mouvement latent continu depuis des vidéos internet pour un apprentissage robotique à grande échelle

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs ont publié sur arXiv (référence 2505.17006, version 3) une méthode baptisée CoMo, pour "Continuous Motion", conçue pour extraire automatiquement des représentations continues du mouvement à partir de vidéos issues d'Internet, et les réutiliser comme étiquettes d'action pour entraîner des politiques robotiques. CoMo repose sur deux mécanismes distincts : une différence temporelle précoce (Td) appliquée en amont de l'encodeur pour rendre plus difficile l'apprentissage par raccourcis visuels (les modèles ont tendance à coder l'arrière-plan statique plutôt que le mouvement lui-même), et un apprentissage contrastif temporel (Tcl) qui construit des paires positives avec un décalage temporel réduit vers le futur, et des paires négatives en inversant la direction du temps. Le résultat est un espace latent continu, entraîné sur des vidéos à grande échelle, capable de générer des pseudo-étiquettes d'action pour des vidéos jamais vues en phase d'inférence. Des expériences en simulation et en conditions réelles montrent des gains de performance par rapport aux approches discrètes, aussi bien avec des architectures diffusion que autorégressives.

L'enjeu industriel est direct : l'un des goulots d'étranglement du robot learning est la rareté des démonstrations téléopérées, coûteuses à collecter. Si une méthode peut extraire un signal d'action utilisable depuis des vidéos YouTube ou des caméras industrielles non étiquetées, elle réduit mécaniquement le coût de constitution des datasets. La contribution principale de CoMo face aux méthodes discrètes par quantification vectorielle (VQ) est de supprimer la perte d'information liée à la projection dans un codebook de petite taille, et surtout de combler le fossé de distribution entre un espace discret de tokens visuels et un espace d'actions continues à valeurs réelles, fossé qui pénalise l'apprentissage conjoint d'une politique unifiée. La généralisation zéro-shot annoncée est la prétention la plus forte : elle signifie que CoMo pourrait étiqueter des vidéos de nouveaux environnements ou tâches sans ré-entraînement, ce qui reste à valider sur des benchmarks standardisés ; l'abstract ne cite pas de métriques numériques précises.

Ce travail s'inscrit dans un axe de recherche très actif depuis 2023, qui cherche à exploiter Internet comme source de supervision pour les robots, aux côtés de méthodes comme RT-2 de Google DeepMind, Pi-0 de Physical Intelligence, ou encore les travaux sur les VLA (Vision-Language-Action models) d'UC Berkeley et du MIT. Les approches discrètes concurrentes (type GROOT ou méthodes VQ-VAE appliquées à la vidéo) souffrent précisément des limitations que CoMo prétend résoudre. La prochaine étape naturelle serait une validation sur des benchmarks robotiques communautaires comme RLBench, LIBERO ou BridgeData V2, et un test à l'échelle de données réellement "internet-scale" pour confirmer si la généralisation zéro-shot tient face à la diversité des distributions visuelles du monde réel.

Dans nos dossiers

Physical Intelligence — π0 OpenVLA / RT-X arXiv cs.RO

À lire aussi

1arXiv cs.RO

WorldContact : un modèle du monde centré sur le contact pour l'apprentissage robotique à grande échelle

Un article publié sur arXiv sous la référence 2609.19600v1 présente WorldContact, un modèle du monde ("world model") centré sur le contact, conçu pour la manipulation d'objets déformables comme les sacs de courses en plastique. Le système est construit à partir d'un nombre limité de trajectoires de haute qualité et prédit la dynamique des objets avec des pas de temps plus larges que le simulateur numérique classique dont il s'inspire, ce dernier nécessitant de très petits pas d'intégration pour capter les mouvements rapides et éviter l'interpénétration des surfaces. Les auteurs ont testé WorldContact sur 16 tâches de manipulation de sacs de courses. Sur un seul GPU Nvidia H100, les mesures de state-rollout montrent une accélération d'un facteur 10 par rapport au simulateur source, un chiffre qui exclut toutefois le rendu graphique et les entrées-sorties disque, ce qui limite sa comparabilité directe avec un temps d'exécution complet. Les données générées ont servi à affiner une politique vision-langage-action (VLA) existante, ensuite déployée sur un robot réel. Sur la tâche de levage de sac, le taux de réussite au premier essai passe de 65%, lorsque la politique est entraînée uniquement sur les données du simulateur d'origine, à 95% une fois le jeu de données enrichi par WorldContact. Ce résultat s'attaque à un goulot d'étranglement bien identifié dans la robotique de manipulation: l'expérience physique réelle nécessaire pour adapter un robot à un nouvel objet ou une nouvelle tâche reste coûteuse à collecter, et les objets déformables comme les tissus ou les emballages souples aggravent le problème car leur simulation fine est lente. Un modèle du monde dix fois plus rapide que la simulation physique classique, capable de produire des données d'entraînement synthétiques exploitables pour affiner une politique VLA, offre une piste concrète pour réduire ce coût. Le saut de 65% à 95% de succès sur un robot réel constitue une preuve empirique, quoique limitée à un seul type de tâche, que l'augmentation de données via world model peut combler une partie de l'écart entre simulation et réalité pour la manipulation déformable, un domaine où les politiques génériques peinent généralement à généraliser. L'étude s'inscrit dans la tendance croissante des modèles du monde appris comme alternative ou complément aux simulateurs physiques classiques en robotique, ces derniers étant pénalisés par leurs contraintes d'intégration numérique sur les phénomènes de contact rapide. L'abstract ne précise ni l'affiliation des auteurs ni de calendrier de déploiement au-delà de la validation expérimentale sur robot réel; les résultats, obtenus sur 16 tâches centrées sur un seul type d'objet, relèvent d'une preuve de concept plutôt que d'un système prêt à l'industrialisation, la généralisation à d'autres catégories d'objets déformables restant à démontrer.

RecherchePaper

1 source

2arXiv cs.RO

Apprendre la manipulation robotique à partir de vidéos humaines : un état de l'art sur l'apprentissage VLA à grande échelle avec données centrées sur l'humain

Une équipe de chercheurs a publié en juin 2026 sur arXiv (identifiant 2606.00054) un état de l'art sur l'utilisation de vidéos humaines pour entraîner des modèles Vision-Langage-Action (VLA) appliqués à la manipulation robotique. Le papier recense et structure les travaux existants en quatre familles d'approches selon le type d'information extraite : les représentations d'action latentes (encodage des changements entre frames successives), les modèles du monde prédictifs (prévision des frames futures), la supervision 2D explicite (extraction de cues dans le plan image) et la reconstruction 3D explicite (récupération de géométrie ou de mouvement). Les auteurs identifient en parallèle trois verrous ouverts : la structuration de vidéos non annotées en épisodes d'entraînement exploitables, l'ancrage des supervisions vidéo en actions exécutables malgré l'hétérogénéité des embodiments et des points de vue, et la conception de protocoles d'évaluation prédictifs des performances de déploiement réel. L'enjeu derrière cette consolidation est direct : collecter des démonstrations robotiques à grande échelle coûte cher, prend du temps et reste intimement lié à un hardware spécifique. Les vidéos humaines, elles, sont disponibles en quantité quasi illimitée sur internet et capturent une richesse d'interactions physiques et sémantiques inaccessible autrement. Si les méthodes recensées parviennent à combler l'écart d'embodiment, elles pourraient réduire drastiquement le coût de généralisation des VLA, aujourd'hui l'un des principaux freins à leur déploiement industriel. Ce survey arrive à un moment où le gap entre démo de laboratoire et transfert réel reste le problème n°1 du secteur : aucune approche n'y répond complètement, mais la taxonomie proposée clarifie où en est la recherche. Le contexte est celui d'une accélération des VLA generalistes depuis 2024, portée par des modèles comme pi-0 (Physical Intelligence), OpenVLA (UC Berkeley), GR00T N2 (NVIDIA) ou Octo. Ces architectures ont montré une capacité de généralisation prometteuse mais toutes dépendent encore massivement de données de téléopération humaine, coûteuses à acquérir. Ce survey s'inscrit dans un effort collectif pour identifier des alternatives scalables, et les ressources compilées sont accessibles publiquement sur GitHub. Les prochaines étapes naturelles incluent des benchmarks standardisés croisant vidéos humaines et transfert zero-shot vers des robots industriels, un angle encore peu exploré par les acteurs européens comme Enchanted Tools ou Wandercraft, qui pourraient y trouver un levier de différenciation.

UELes acteurs français comme Enchanted Tools et Wandercraft pourraient exploiter la taxonomie proposée pour réduire leur coût d'acquisition de données VLA, mais aucun impact opérationnel direct n'est documenté à ce stade.

RechercheOpinion

1 source

3arXiv cs.RO

Représentation visuelle 3D consciente de la dynamique pour l'apprentissage robotique à grande échelle

Un article arXiv (identifiant 2512.00074, quatrième révision, type "replace") présente AFRO, un framework d'apprentissage auto-supervisé de représentations visuelles 3D destiné à la robotique. Contrairement aux méthodes de pré-entraînement 3D classiques, performantes en reconnaissance et segmentation d'images mais souvent inefficaces pour la manipulation robotique, AFRO n'utilise ni supervision par action ni reconstruction géométrique explicite du monde observé. Le système traite la prédiction d'état comme un processus de diffusion génératif et apprend simultanément la dynamique directe et inverse dans un espace latent partagé, afin de capturer la structure causale des transitions état-action-état. Pour éviter les fuites d'information entre représentation visuelle et apprentissage de l'action, les auteurs introduisent une différenciation de caractéristiques (feature differencing) et une supervision de cohérence inverse. Combiné à une politique de type Diffusion Policy, AFRO est testé sur 16 tâches de manipulation en simulation et 4 tâches en conditions réelles, avec des gains substantiels de taux de réussite face aux approches de pré-entraînement existantes. Une page projet dédiée (kolakivy.github.io/AFRO) accompagne la publication. Ce travail cible un point de friction bien identifié dans la recherche en apprentissage robotique: les représentations visuelles pré-entraînées sur des tâches de vision classique ne capturent pas la dynamique physique nécessaire à la manipulation fine, et la reconstruction géométrique explicite, coûteuse en calcul, s'avère largement redondante pour cet usage. En démontrant qu'un pré-entraînement centré sur la dynamique état-action-état, sans supervision par action ni reconstruction, surpasse les approches existantes et passe mieux à l'échelle avec le volume de données et la complexité des tâches, AFRO apporte un argument concret dans le débat sur la conception des architectures de pré-entraînement pour les politiques robotiques, notamment celles reposant sur des modèles de diffusion. L'article s'inscrit dans la lignée des travaux sur les représentations 3D auto-supervisées pour la robotique, un axe de recherche actif face aux limites constatées des méthodes héritées de la vision par ordinateur classique. La publication d'une quatrième révision suggère un article retravaillé après retours de la communauté, sans qu'aucun calendrier de déploiement industriel ne soit mentionné: il s'agit à ce stade d'une contribution de recherche évaluée en simulation et sur un nombre restreint de tâches réelles, non d'un produit ou d'un pilote commercial.

RecherchePaper

1 source

4arXiv cs.RO

Vers un apprentissage robotique prédictif, aligné et à grande échelle

Le papier arXiv 2607.11270, publié le 14 juillet 2026, présente Lumo-2, un modèle latent monde-action développé pour la robotique conçu pour générer des actions en raisonnant sur la dynamique du monde dans un espace latent plutôt qu'en clonant du comportement observé. L'idée centrale est que la qualité de génération d'actions dépend de la géométrie de cet espace latent : les auteurs montrent que les objectifs classiques de tokenisation d'actions basés sur la reconstruction biaisent les représentations vers la fidélité du signal brut, ce qui désaligne la qualité de reconstruction et la performance de contrôle réelle. Pour corriger cela, ils proposent un alignement multi-étapes des modalités, où les représentations d'actions sont progressivement rapprochées de la dynamique du monde latente, de la vision et du langage. Le papier revendique des gains sur des tâches réelles de manipulation dexterous et à long horizon face à des modèles vision-langage-action (VLA) et monde-action (WAM) de référence, sans toutefois publier de chiffres précis de taux de réussite, de temps de cycle ou de comparaison nommée dans le résumé disponible : à ce stade, il s'agit d'une annonce de recherche, pas d'un produit déployé ni de résultats benchmarkés vérifiables publiquement. Si les résultats se confirment à l'échelle et hors distribution, cela renforcerait l'hypothèse selon laquelle le raisonnement prédictif structuré, et non la seule imitation de trajectoires, est la voie vers des politiques robotiques généralisables, un sujet clé alors que des labs et startups (Physical Intelligence avec Pi-0, NVIDIA avec GR00T N2, Figure avec Helix) cherchent tous à faire tenir leurs VLA face à des environnements réels imprévisibles plutôt qu'à des démonstrations scénarisées. Ce travail s'inscrit dans la lignée des modèles monde-action apparus depuis 2024-2025, qui tentent de combiner la prédiction vidéo façon world models avec la génération de commandes motrices. Aucun acteur français ou européen n'est cité dans cette publication, et aucune date de suivi, de code ouvert ou de déploiement industriel n'est mentionnée à ce stade.

RechercheActu

1 source