RecherchearXiv cs.RO 26 octobre 2026

EgoForesight : passer à l'échelle l'apprentissage de politiques avec des actions égocentriques bruitées

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

EgoForesight, un framework vision-langage-action (VLA) décrit dans un preprint arXiv (2610.31845), cherche à résoudre un problème central de l'apprentissage de politiques robotiques: combiner des démonstrations robot, fiables mais coûteuses à collecter, avec des vidéos égocentriques (prises du point de vue d'un humain), bien plus abondantes mais dont les actions, reconstruites par estimation de mouvement puis retargetées vers un robot, sont bruitées. Le système apprend conjointement des deux sources en réduisant l'influence des labels d'action peu fiables. Une corruption conditionnée par la fiabilité répartit la supervision d'action selon des niveaux de bruit propres à chaque source, et une régression pondérée par la fiabilité module la contribution de chacune. Un enseignant à moyenne mobile exponentielle (EMA) observe la scène courante et le futur propre pour encoder la structure utile à l'action, puis supervise une couche plus précoce d'un étudiant qui ne reçoit qu'un futur corrompu. Selon les auteurs, à 30 000 heures de données de pré-entraînement, l'erreur quadratique moyenne (MSE) d'action en boucle ouverte sur robot réel baisse de 20,5 % et le taux de succès few-shot sur RoboCasa gagne 8,1 points par rapport à la référence. Après post-entraînement, le modèle affiche de bonnes performances en manipulation dextre, en simulation et en réel.

L'intérêt pour l'industrie tient à la question du passage à l'échelle: la donnée de téléopération reste le goulot d'étranglement du développement des VLA, et l'humain filmé à la première personne est la source la plus économique pour élargir tâches et environnements. Le travail suggère qu'on peut exploiter ces vidéos sans exiger des labels propres, en traitant le bruit comme une propriété à pondérer plutôt qu'à éliminer, avec des courbes d'échelle plus pentues que la baseline sur la plage testée. Prudence néanmoins: il s'agit d'un preprint sans revue par les pairs. Les gains sont mesurés en MSE en boucle ouverte, une métrique qui prédit imparfaitement le succès en exécution fermée. Le gain RoboCasa est modeste en valeur absolue, la baseline n'est pas précisée dans le résumé, et l'extrapolation des pentes au-delà de la plage testée n'est pas démontrée. Aucune donnée de déploiement industriel n'est avancée.

Le contexte est celui d'une course à la donnée humaine. Les pré-entraînements sur vidéos égocentriques et les modèles de type Pi-0, GR00T ou Helix cherchent tous à réduire la dépendance à la téléopération, tandis que des acteurs comme Tesla ou Figure misent sur l'observation humaine à grande échelle. Les difficultés de retargeting, notamment pour les mains dextres, restent le principal verrou, ce que ce travail adresse par la pondération plutôt que par une meilleure reconstruction. La suite dépendra de la publication du code et des poids, d'une validation sur plusieurs embodiments et d'une comparaison directe avec les méthodes concurrentes de co-entraînement humain-robot.

Dans nos dossiers

IA physique & VLA NVIDIA GR00T arXiv cs.RO

À lire aussi

1arXiv cs.RO

Acte, ressent, agit : l'apprentissage de la perception active à partir de données égocentriques humaines à grande échelle

Un article de robotique/IA en français, prêt à publier : CoMe-VLA (Cognitive and Memory-aware Vision-Language-Action) est un nouveau framework de recherche présenté dans un article arXiv (version révisée, réf. 2602.04600v2) qui s'attaque à la perception active en robotique manipulatrice, c'est-à-dire la capacité d'un robot à chercher activement de l'information plutôt que d'agir sur des données figées. Le système combine une tête cognitive auxiliaire chargée de gérer les transitions entre sous-tâches de façon autonome, et une mémoire à double piste qui fusionne les signaux proprioceptifs (position, effort) et visuels dans le temps pour maintenir une conscience cohérente de soi et de l'environnement. L'entraînement se déroule en trois étapes progressives et s'appuie sur de larges volumes de données égocentriques humaines (vidéos captées à la première personne), alignées avec l'espace d'action du robot pour transférer la coordination main-œil humaine vers la machine. Les tests ont été menés sur un humanoïde à roues, sur des tâches longues et variées impliquant plusieurs scénarios de perception active. L'enjeu dépasse la démonstration technique isolée. La plupart des modèles VLA actuellement médiatisés, qu'il s'agisse de Pi-0, GR00T N2 ou Helix, fonctionnent principalement en supposant une observabilité quasi complète de la scène, ce qui limite leur robustesse dès que l'environnement devient incertain ou partiellement caché, un cas fréquent en usine ou en entrepôt réel. En formalisant la perception active comme une boucle perception-action dépendante de l'historique, cet article propose une catégorisation structurée utile à toute l'industrie pour comparer les approches, et illustre une piste concrète pour réduire l'écart entre démonstrations en laboratoire et déploiement en environnement non contrôlé, un point sensible que les intégrateurs surveillent de près. Ce travail s'inscrit dans une tendance de fond de la recherche en robotique généraliste : exploiter les vidéos humaines à grande échelle, bien plus abondantes que les données de téléopération robotique, pour apprendre des priors d'exploration et de manipulation. Il ne s'agit ici que d'un article de recherche à un stade préliminaire, sans partenaire industriel ni déploiement annoncé, à distinguer clairement des annonces produits de type Figure ou Tesla Optimus. Les prochaines étapes attendues concernent l'extension à des plateformes bipèdes et la validation sur des tâches manipulatrices plus complexes en conditions réelles.

RechercheOpinion

1 source

2arXiv cs.RO

Ego4WAM : quels facteurs comptent pour le passage à l'échelle des données humaines égocentriques en apprentissage robotique ?

Des chercheurs publient Ego4WAM, une étude systématique sur l'usage des données humaines égocentriques (captées en vue subjective, typiquement par caméra portée) pour entraîner des robots. Le travail s'appuie sur un cadre unifié de « world-action model » (WAM), dont le backbone reste fixe afin d'isoler l'effet de chaque variable. Quatre facteurs sont disséqués : l'alignement entre démonstrations humaines et tâche robotique, la durée des données, la diversité des tâches, et le type de supervision (avec ou sans étiquettes d'action), ainsi que la façon d'employer ces données dans le pipeline d'entraînement. Les résultats sont validés en boucle fermée sur robots réels et sur RoboDojo, un environnement d'évaluation. Les auteurs ne communiquent dans le résumé ni volumes en heures, ni taux de réussite chiffrés, ni plateformes robotiques précises. Trois constats ressortent. Les démonstrations humaines alignées améliorent nettement la généralisation hors distribution et réduisent la quantité de données robot nécessaires sur la tâche cible. La durée et la diversité des tâches n'agissent pas sur les mêmes capacités en aval. Enfin, une supervision vidéo seule, sans action annotée, reste efficace et constitue une bonne base avant un entraînement vidéo-action. Il s'agit d'un preprint arXiv (v1), non relu par les pairs, et l'absence de chiffres dans le résumé impose de consulter l'article complet pour mesurer l'ampleur des gains. L'enjeu est pratique pour les équipes qui constituent des jeux de données de manipulation. Jusqu'ici, les travaux montraient surtout qu'ajouter des données humaines améliorait les performances, sans dire lesquelles comptaient. Ego4WAM suggère que la course aux heures de vidéo est un indicateur trop grossier : un volume modeste de démonstrations bien alignées avec la tâche peut valoir davantage qu'un grand corpus générique. Pour un intégrateur ou un industriel, cela oriente la collecte vers des captations ciblées, moins coûteuses que la téléopération robotique, et valide l'intérêt des vidéos sans actions, bien plus faciles à obtenir à grande échelle. Cela nuance aussi l'hypothèse d'un passage à l'échelle par simple accumulation. Le contexte est celui d'une ruée vers les données humaines : Ego4D a fourni un large corpus égocentrique, tandis que plusieurs acteurs de la robotique humanoïde et des modèles VLA (vision-langage-action) misent sur la capture humaine pour contourner le coût de la téléopération. Les modèles du monde orientés action prolongent cette tendance en prédisant conjointement vidéo et actions. Les prochaines étapes probables sont des comparaisons sur davantage de plateformes et de tâches longues, ainsi qu'une reproduction par d'autres laboratoires. Aucun déploiement industriel ni acteur français ou européen n'est mentionné à ce stade.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

3arXiv cs.RO

PoLAR : factoriser l'étendue et le mode des actions latentes pour l'apprentissage de politiques robotiques

Des chercheurs proposent PoLAR (Polar Latent Actions with Radial structure), une méthode d'apprentissage d'actions latentes pour les politiques robotiques, publiée sur arXiv (2606.21139, deuxième version). Leur point de départ est que les actions d'un robot varient selon deux axes: l'étendue, c'est-à-dire l'ampleur du changement produit, et le mode, c'est-à-dire sa nature. Les méthodes actuelles apprennent leurs actions latentes en reconstruisant l'image à partir de paires d'observations, sans encourager cette structure. PoLAR impose donc une géométrie radiale: le rayon encode l'étendue de la transition et la direction conserve son mode. L'étendue n'étant pas annotée, la méthode utilise l'écart temporel entre deux observations comme indicateur approximatif, de sorte que les transitions les plus espacées occupent les plus grands rayons. Cette structure est instanciée dans un espace hyperbolique, dont le volume croît avec le rayon et laisse plus de place à des modes variés quand l'étendue augmente. Les auteurs annoncent de meilleures performances en simulation et sur robots réels, en tâche unique comme en préentraînement à grande échelle, face à des méthodes d'actions latentes concurrentes et à des VLA préentraînés réputés solides. L'enjeu est de savoir si la qualité de la géométrie de l'espace latent, et pas seulement le volume de données, limite le transfert d'un préentraînement visuel vers le contrôle. Si l'effet tient, il offrirait une voie peu coûteuse pour tirer parti de vidéos sans étiquettes d'actions, donc pour réduire la dépendance aux données téléopérées, goulot d'étranglement du secteur. Le résumé reste toutefois muet sur les gains chiffrés, les VLA comparés, le nombre de tâches et les plateformes physiques. L'affirmation de supériorité sur des modèles préentraînés demande donc à être vérifiée dans le texte complet. Il s'agit d'un résultat de recherche, sans produit ni déploiement industriel, et il n'a pas d'implication immédiate pour les intégrateurs. PoLAR s'inscrit dans la lignée des travaux sur les actions latentes apprises depuis la vidéo, comme LAPA ou Genie, qui cherchent à contourner le manque de données annotées. Ces approches se mesurent à des VLA généralistes du type Pi-0 ou GR00T, entraînés sur de larges corpus de démonstrations. La suite dépendra de la publication du code et des benchmarks, de réplications indépendantes et de la tenue des gains sur des tâches longues, en conditions réelles et avec d'autres morphologies de robots.

RecherchePaper

1 source

4arXiv cs.RO

WARPED : rendu aligné sur le poignet pour l'apprentissage de politiques robotiques à partir de démonstrations humaines égocentriques

Des chercheurs présentent WARPED, un cadre logiciel qui génère des observations « vue poignet » et les actions associées à partir de simples vidéos de démonstrations humaines, afin d'entraîner des politiques visuomotrices de robot. Le système n'exige qu'une caméra RGB monoculaire portée à hauteur des yeux. Il n'utilise ni configuration multicaméra, ni capteur de profondeur, ni matériel dédié. La chaîne de traitement comporte trois étapes. Des modèles de fondation de vision initialisent d'abord la scène interactive. Un module d'interaction main-objet suit ensuite la main et l'objet manipulé, puis transpose ces trajectoires vers un effecteur de robot (retargeting). Enfin, du Gaussian Splatting produit des images photoréalistes du point de vue du poignet, qui servent à entraîner directement la politique. Les auteurs annoncent des taux de réussite comparables à ceux de la téléopération sur quatre des cinq tâches d'objets rigides sur table, ainsi que sur une tâche à objet articulé. La collecte de données demande 4 à 9 fois moins de temps. Le texte ne précise ni le robot, ni le nombre de démonstrations, ni les modèles de politique employés. Pour l'industrie, l'intérêt tient au coût de la donnée, principal goulot des politiques apprises par imitation. La téléopération reste la référence, mais elle mobilise du matériel et des opérateurs. Filmer un humain avec une seule caméra rend la collecte beaucoup plus simple à déployer. Le point le plus utile pour les intégrateurs est le rendu depuis le poignet. Les caméras embarquées sur l'effecteur sont aujourd'hui très répandues dans les systèmes de manipulation. Or les méthodes d'apprentissage depuis l'humain se limitent en général à des vues tierces ou égocentriques, qui diffèrent de ce que voit le robot. Les résultats restent toutefois à nuancer. Ils portent sur cinq tâches de table, avec une seule tâche articulée, et la mention « comparable à la téléopération » ne vaut que pour une partie des essais. Une des tâches rigides n'atteint donc pas ce niveau. Rien n'indique non plus une validation en environnement industriel, ni sur des tâches dextres ou riches en contacts. Ces travaux s'inscrivent dans la recherche sur l'apprentissage par démonstration humaine, qui cherche à contourner la téléopération. Ils s'appuient sur deux briques récentes : les modèles de fondation de vision pour reconstruire la scène, et le Gaussian Splatting pour le rendu de nouveaux points de vue. L'article, publié sur arXiv sous la référence 2604.10809 et ici en version 2 (v2), est un travail académique. Il ne s'agit ni d'un produit ni d'un déploiement commercial. Les prochaines étapes à surveiller sont la validation sur davantage de tâches, de robots et de scènes encombrées, ainsi que l'éventuelle publication du code, qui conditionnera l'adoption par d'autres laboratoires. Elles détermineront si la méthode sort du cadre de la table de laboratoire.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source