RecherchearXiv cs.RO 15 juin 2026

EgoGuide : guidage égocentrique pour collecter des démonstrations sans robot et apprendre efficacement

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Une équipe de chercheurs a publié en juin 2026 sur arXiv (2606.14665) EgoGuide, une interface de collecte de démonstrations robotiques sans robot physique. Le système enregistre simultanément deux flux vidéo : une caméra au poignet de l'opérateur (wrist view) et une caméra égocentrique portée sur la tête (egocentric view). Un module de guidage visuel-géométrique en ligne évalue la qualité de chaque épisode en temps réel et signale les données redondantes ou peu informatives avant leur accumulation dans le jeu d'entraînement. Les auteurs introduisent également une "Gated Egocentric Residual Policy", une architecture qui mobilise la vue égocentrique pour corriger les ambiguïtés de la vue poignet, tout en préservant la stabilité du contrôle moteur local. Les expériences en conditions réelles confirment une réduction du nombre d'épisodes de démonstration nécessaires et une meilleure robustesse face aux occultations visuelles.

L'apport principal est de s'attaquer à un goulot d'étranglement bien identifié dans le domaine : le coût humain de la collecte de données de qualité. Les pipelines de type UMI (Universal Manipulation Interface), qui permettent à un opérateur de collecter des démonstrations manuellement sans robot dédié, produisent souvent des épisodes redondants et manquent de contexte global de scène. Le guidage en ligne réduit ce gaspillage dès la source. La politique résiduelle répond à un problème concret des systèmes d'imitation : la vue poignet seule est ambiguë lors d'occultations ou de passages critiques dans la trajectoire. Donner au modèle un accès conditionnel (gated) à la vue globale lève ces ambiguïtés sans déstabiliser le contrôle fin. Pour un intégrateur, cela signifie potentiellement moins d'heures de collecte humaine pour atteindre un niveau de performance équivalent.

EgoGuide s'inscrit dans la lignée directe de l'UMI, développé par Cheng Chi et ses collaborateurs à Stanford et Columbia, qui a popularisé la collecte de démonstrations via des dispositifs portatifs instrumentés. Le verrou adressé ici n'est pas la quantité brute de données mais leur qualité et leur diversité informationnelle. Les approches concurrentes incluent ACT (Action Chunking Transformer), Diffusion Policy et les plateformes de téléopération à faible coût comme ALOHA. Ce travail reste une publication académique arXiv sans déploiement industriel annoncé, et les expériences présentées restent à l'échelle laboratoire. La combinaison guidage en ligne et politique bi-caméra présente toutefois un intérêt direct pour les équipes cherchant à réduire le coût opérationnel de la démonstration à grande échelle.

Dans nos dossiers

arXiv cs.RO

À lire aussi

1arXiv cs.RO

DexDirect : guidage kinesthésique direct du bras pour une collecte efficace de démonstrations dextériques

Des chercheurs présentent DexDirect, une nouvelle interface de téléopération conçue pour accélérer la collecte de démonstrations de manipulation dextre, un goulot d'étranglement connu pour l'apprentissage robotique. Le système combine un guidage kinesthésique direct, l'opérateur tire littéralement un bras robotique à 6 degrés de liberté à compensation de gravité par une poignée, avec un simple webcam qui retranscrit les mouvements de l'autre main de l'opérateur sur une main robotique dextre à 16 articulations et 13 degrés de liberté. Selon les études utilisateurs menées par les auteurs, DexDirect permet de collecter 17,2 fois plus de démonstrations réussies que la référence purement visuelle AnyTeleop, et 3,2 fois plus que la référence par suivi de pose TeleDex. Un test NASA-TLX adapté montre une réduction nette de la charge mentale, de l'effort perçu et de la frustration des opérateurs, malgré une charge physique légèrement accrue liée à la manipulation directe du bras. Une politique de diffusion entraînée sur les démonstrations collectées via DexDirect atteint 90% de réussite sur une tâche de préhension-dépose de cube. L'enjeu dépasse le simple confort d'utilisation. La collecte de données de manipulation dextre à grande échelle est aujourd'hui le principal frein au déploiement de politiques robustes de manipulation par apprentissage, notamment pour les architectures VLA (vision-language-action) qui nécessitent des volumes massifs de démonstrations de qualité. Les interfaces existantes forcent un compromis entre précision (matériel coûteux et lourd à installer) et accessibilité (solutions légères mais imprécises, épuisantes cognitivement pour l'opérateur). En réduisant drastiquement la charge mentale tout en démultipliant le taux de succès des démonstrations, DexDirect suggère qu'il est possible de lever ce compromis, un argument potentiellement décisif pour les laboratoires cherchant à industrialiser la collecte de données pour l'apprentissage par imitation. Le travail est publié comme prépublication sur arXiv, sans identification d'un déploiement produit ou d'un partenariat industriel: il s'agit d'une contribution de recherche comparée à deux méthodes existantes de référence, AnyTeleop et TeleDex, plutôt que d'une annonce commerciale. Aucun acteur français ou européen n'est mentionné dans cette publication.

RecherchePaper

1 source

2arXiv cs.RO

Co-entraînement avec vidéo égocentrique et démonstration pour la navigation robotique

Des chercheurs ont publié sur arXiv (réf. 2606.01951) un cadre d'apprentissage par imitation pour robots mobiles qui exploite des vidéos égocentrées tournées par des humains en train de marcher. Le principe : estimer le mouvement de la caméra à partir de ces séquences piétonnes, puis convertir ce flux en représentations d'actions compatibles avec des robots mobiles au sol. Un modèle VLA (Vision-Language-Action) est ensuite entraîné conjointement sur ces données dérivées de vidéos humaines et sur des trajectoires collectées directement par le robot. Les expériences portent sur une tâche de navigation avec recherche de fruits, où le robot doit localiser des objets cibles dans un environnement non structuré en suivant des instructions en langage naturel. L'intérêt de cette approche réside dans sa réponse au principal goulot d'étranglement de la robotique apprise : la collecte de données sur robot réel est coûteuse, lente, et difficilement scalable. Si recycler des vidéos égocentrées humaines pour l'apprentissage de tâches de manipulation existe déjà dans la littérature (notamment via des datasets comme EPIC-Kitchens ou des pipelines type ACT), l'étendre à la navigation mobile reste difficile car les changements de point de vue lors de la locomotion créent des discontinuités que les modèles de manipulation ne rencontrent pas. Les résultats montrent que l'entraînement conjoint dépasse les deux sources de données prises isolément, aussi bien en compréhension du langage qu'en robustesse de génération d'actions. Cela valide partiellement l'hypothèse que le sim-to-human-video-to-real peut fonctionner pour la navigation, sans simulation physique. Ce travail s'inscrit dans une course plus large à la scalabilité des données pour les VLA, où des acteurs comme Physical Intelligence (pi0), Google DeepMind (RT-2, GR00T N2 pour Nvidia) ou Boston Dynamics cherchent des pipelines moins dépendants de la téléopération humaine sur robot. La navigation mobile reste moins couverte que la manipulation dans cette littérature, et ce papier ouvre une voie de co-training à moindre coût. Les prochaines étapes naturelles seraient d'évaluer la généralisation à des environnements plus complexes, de mesurer le ratio optimal données humaines/données robot, et de tester sur des plateformes AMR commerciales. Le code et les datasets ne sont pas encore publiés au moment de la soumission arXiv.

RechercheOpinion

1 source

3arXiv cs.RO

WARPED : rendu aligné sur le poignet pour l'apprentissage de politiques robotiques à partir de démonstrations humaines égocentriques

Des chercheurs présentent WARPED, un cadre logiciel qui génère des observations « vue poignet » et les actions associées à partir de simples vidéos de démonstrations humaines, afin d'entraîner des politiques visuomotrices de robot. Le système n'exige qu'une caméra RGB monoculaire portée à hauteur des yeux. Il n'utilise ni configuration multicaméra, ni capteur de profondeur, ni matériel dédié. La chaîne de traitement comporte trois étapes. Des modèles de fondation de vision initialisent d'abord la scène interactive. Un module d'interaction main-objet suit ensuite la main et l'objet manipulé, puis transpose ces trajectoires vers un effecteur de robot (retargeting). Enfin, du Gaussian Splatting produit des images photoréalistes du point de vue du poignet, qui servent à entraîner directement la politique. Les auteurs annoncent des taux de réussite comparables à ceux de la téléopération sur quatre des cinq tâches d'objets rigides sur table, ainsi que sur une tâche à objet articulé. La collecte de données demande 4 à 9 fois moins de temps. Le texte ne précise ni le robot, ni le nombre de démonstrations, ni les modèles de politique employés. Pour l'industrie, l'intérêt tient au coût de la donnée, principal goulot des politiques apprises par imitation. La téléopération reste la référence, mais elle mobilise du matériel et des opérateurs. Filmer un humain avec une seule caméra rend la collecte beaucoup plus simple à déployer. Le point le plus utile pour les intégrateurs est le rendu depuis le poignet. Les caméras embarquées sur l'effecteur sont aujourd'hui très répandues dans les systèmes de manipulation. Or les méthodes d'apprentissage depuis l'humain se limitent en général à des vues tierces ou égocentriques, qui diffèrent de ce que voit le robot. Les résultats restent toutefois à nuancer. Ils portent sur cinq tâches de table, avec une seule tâche articulée, et la mention « comparable à la téléopération » ne vaut que pour une partie des essais. Une des tâches rigides n'atteint donc pas ce niveau. Rien n'indique non plus une validation en environnement industriel, ni sur des tâches dextres ou riches en contacts. Ces travaux s'inscrivent dans la recherche sur l'apprentissage par démonstration humaine, qui cherche à contourner la téléopération. Ils s'appuient sur deux briques récentes : les modèles de fondation de vision pour reconstruire la scène, et le Gaussian Splatting pour le rendu de nouveaux points de vue. L'article, publié sur arXiv sous la référence 2604.10809 et ici en version 2 (v2), est un travail académique. Il ne s'agit ni d'un produit ni d'un déploiement commercial. Les prochaines étapes à surveiller sont la validation sur davantage de tâches, de robots et de scènes encombrées, ainsi que l'éventuelle publication du code, qui conditionnera l'adoption par d'autres laboratoires. Elles détermineront si la méthode sort du cadre de la table de laboratoire.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

4arXiv cs.RO

RDGen : génération de démonstrations pour l'apprentissage robotique par renforcement

Une équipe de chercheurs a publié le 30 mai 2026 sur arXiv (référence 2605.30957) un framework appelé RDGen, pour "Reinforcement Learning Demonstration Generation", destiné à automatiser la collecte de données d'entraînement pour les modèles Vision-Language-Action (VLA). Le système combine trois composants : un module d'analyse de tâches basé sur un modèle de langage visuel (VLM), un localisateur d'objets fondé sur Grounding DINO, et une politique de contrôle entraînée par apprentissage par renforcement (RL) en simulation puis transférée sur un robot réel. Testé sur une tâche de saisie et de dépose, RDGen atteint un taux de succès élevé après transfert sim-to-real, sans que les auteurs ne publient de chiffre précis dans le résumé disponible. Les trajectoires générées sont ensuite réutilisées directement comme données d'entraînement pour affiner des politiques VLA en aval. L'enjeu central est celui du goulot d'étranglement dans la chaîne d'entraînement des robots généralistes : la télé-opération humaine, méthode dominante pour collecter des démonstrations, est lente, coûteuse, et produit des trajectoires variables selon l'opérateur. RDGen propose de substituer cet effort humain par une politique RL, qui génère des trajectoires mécaniquement cohérentes et reproductibles, plus lisses selon les auteurs que ce que produit un opérateur humain, et avec un coût marginal quasi nul en simulation. Cela renforce l'hypothèse que le problème sim-to-real pour des tâches de manipulation simples est largement résolu, et déplace la question vers la scalabilité de la diversité des tâches plutôt que la qualité individuelle des démos. RDGen s'inscrit dans un débat actif sur la meilleure façon d'alimenter les VLA, dont les architectures de référence actuelles incluent pi0 (Physical Intelligence), OpenVLA et les travaux de RT-2/RT-X chez Google DeepMind. La collecte de données reste le principal frein industriel à leur déploiement, ce que tentent aussi d'adresser des approches concurrentes comme la génération vidéo synthétique (ex. travaux UniSim, Genie) ou l'augmentation par world models. La contribution de RDGen est plus modeste et ciblée : un pipeline sim-to-real structuré pour des tâches de manipulation définies, avec réutilisation des rollouts réussis. Il s'agit d'un preprint non encore peer-reviewed ; les expériences restent limitées à pick-and-place, et l'absence de métriques quantitatives précises dans le résumé invite à attendre la version complète avant d'en tirer des conclusions générales sur la scalabilité.

RechercheOpinion

1 source