RecherchearXiv cs.RO 21 juillet 2026

Modèles du monde JEPA à régularisation de profondeur : des représentations plus transférables à partir de données robotiques réelles en extérieur

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Publié sur arXiv (arXiv:2607.16314v1), un nouveau papier de recherche propose une architecture de modèle du monde basée sur JEPA (Joint Embedding Predictive Architecture) qui intègre la profondeur comme prior géométrique pendant l'entraînement. L'équipe a entraîné un modèle de 18 millions de paramètres sur des vidéos capturées par un robot agricole réel évoluant en extérieur, un environnement visuellement complexe et imprévisible par rapport aux données de laboratoire habituelles. La méthode combine une supervision par carte de profondeur avec un régularisateur latent isotrope appelé SIGReg, qui vise la représentation la plus riche en information possible tout en respectant la géométrie de la scène, et ajoute une surparamétrisation limitée à l'entraînement pour ne pas alourdir l'inférence. Face à la baseline LeWM, les résultats montrent une réduction de 33% de l'erreur sur une sonde d'odométrie visuelle à représentation gelée, une meilleure séparation du score de surprise à la fois sur les données d'origine et sur le benchmark hors domaine TartanGround, ainsi qu'une fidélité accrue des projections latentes multi-étapes sous décalage de domaine, avec des gains qui s'amplifient à mesure que l'horizon de prédiction s'allonge.

Ce travail répond à un problème central pour la robotique de terrain: la plupart des modèles du monde performent bien en simulation ou en environnement contrôlé, mais peinent à généraliser sur des données réelles bruitées, avec éclairage variable et textures complexes. Montrer qu'un simple prior physique, la profondeur, améliore la transférabilité sans ajouter de coût de calcul à l'inférence est significatif pour les intégrateurs qui doivent déployer des modèles embarqués sur des robots agricoles, des AMR ou d'autres plateformes mobiles à ressources limitées. Le résultat le plus notable dépasse la géométrie pure: le modèle améliore aussi la détection de surprise sur des phénomènes physiques non directement liés à la 3D, comme l'éclairage et les ombres, ce qui suggère un effet d'amélioration générale de la qualité des représentations plutôt qu'un simple gain spécifique à la tâche de profondeur. À noter toutefois que les gains sont mesurés sur un seul type de robot et un modèle de taille modeste, la généralisation à d'autres plateformes reste à démontrer.

Les architectures JEPA, popularisées par les travaux de Yann LeCun chez Meta, sont présentées comme une alternative aux modèles génératifs pixel par pixel pour apprendre la dynamique du monde sans reconstruire chaque détail visuel. Ce papier s'inscrit dans cette lignée en cherchant à rendre ces modèles utilisables sur des données réelles de terrain, un défi que la littérature identifie souvent comme le principal obstacle entre les démonstrations en simulation et le déploiement effectif. Les auteurs positionnent leur approche contre LeWM comme référence directe et s'appuient sur TartanGround pour valider la généralisation hors domaine. Les prochaines étapes attendues incluraient l'extension à d'autres types de robots et capteurs, et l'intégration de ce modèle du monde dans des politiques de contrôle robotique complètes plutôt que dans des sondes d'évaluation isolées.

Dans nos dossiers

arXiv cs.RO

À lire aussi

1arXiv cs.RO

DeFM : apprentissage de représentations fondation à partir de la profondeur pour la robotique

DeFM (Depth Foundation Model) est un modèle de fondation auto-supervisé entraîné exclusivement sur des images de profondeur, présenté sur arXiv (v2 de l'article 2601.18923) avec une page projet et la publication de tous les modèles pré-entraînés. Il s'appuie sur un objectif d'auto-distillation de type DINO, appliqué à un jeu de données curé de 60 millions d'images de profondeur. Les auteurs ajoutent une stratégie de normalisation d'entrée inédite, conçue pour conserver la notion d'échelle métrique à travers différentes distances. Le modèle principal est aussi distillé en versions compactes, destinées aux robots aux ressources de calcul limitées. Il est évalué sur la classification, la segmentation, la navigation, la locomotion et la manipulation, et les auteurs revendiquent des performances à l'état de l'art ainsi qu'une bonne généralisation de la simulation vers le monde réel. Les modèles s'utilisent tels quels, sans réglage fin propre à chaque tâche. L'enjeu est de combler un déséquilibre. Les capteurs de profondeur (caméras stéréo, temps de vol, lidar) équipent une grande partie des robots, et la simulation rapide et fidèle de la profondeur permet déjà d'entraîner des politiques qui passent en conditions réelles avec robustesse. Pourtant, l'apprentissage de représentations pour cette modalité reste très en retard sur le RGB, où les modèles de fondation de type DINO servent de base standard. Si DeFM tient ses promesses, les équipes de locomotion et de navigation pourraient disposer d'un encodeur de profondeur réutilisable, comme elles le font pour le RGB, au lieu de réentraîner un réseau pour chaque tâche et chaque capteur. La déclinaison en petits modèles compte pour l'embarqué. Quelques réserves s'imposent : il s'agit d'un résumé d'article, sans chiffres détaillés dans le texte. Le gain réel face aux encodeurs RGB ou aux modèles de profondeur existants, la robustesse entre capteurs et le coût d'inférence sur matériel embarqué devront être confirmés par les benchmarks complets et par une reproduction indépendante. Ce travail s'inscrit dans la montée en puissance des politiques robotiques entraînées en simulation, notamment pour les robots à pattes et humanoïdes, qui utilisent souvent la profondeur comme entrée principale. Il prolonge la logique des modèles de fondation visuels auto-supervisés, dont DINO est la référence, en l'étendant à une modalité longtemps traitée au cas par cas. La publication des poids ouvre la voie à une adoption rapide par les laboratoires et les intégrateurs, qui pourront tester DeFM comme encodeur de base dans leurs pipelines de navigation ou de préhension. La suite dépendra de la reproduction des résultats par des équipes tierces, de l'intégration dans des politiques de type VLA, et de la capacité du modèle à tenir ses promesses hors des benchmarks, sur des robots déployés.

RecherchePaper

1 source

2arXiv cs.RO

Transfert simulation-réel efficace de modèles monde-action à partir de données synthétiques

Le fossé sim-to-real reste un défi central pour déployer des politiques de manipulation apprises, car il permet en théorie de remplacer des démonstrations réelles coûteuses par des données synthétiques bon marché à grande échelle. Publiée le 30 juin 2026 (arXiv:2606.31101), une étude teste si un "world-action model", un modèle combinant prédiction visuelle et contrôle moteur, peut être entraîné uniquement en simulation puis déployé sans aucune démonstration réelle. L'équipe part de Cosmos Policy, un modèle de diffusion vidéo adapté au contrôle visuomoteur, et construit des environnements simulés avec une randomisation poussée des domaines. Les démonstrations d'entraînement, environ 800 par tâche, sont générées automatiquement via le pipeline de planification de mouvement AnyTask, sans donnée réelle. Trois tâches sont testées: soulever un objet, ouvrir un tiroir, et effectuer un pick-and-place. Déployé en zero-shot sur un bras robotique Franka, le modèle atteint un taux de réussite moyen de 35%. Ce résultat, même modeste, répond à une question ouverte du secteur: les world-action models peuvent-ils transférer du simulateur au monde réel sans coûteuses démonstrations humaines? Jusqu'ici, aucun travail n'avait démontré ce transfert pour la manipulation robotique. Un taux de 35% reste loin des standards attendus pour un déploiement industriel, souvent supérieurs à 80%, et confirme que le fossé sim-to-real demeure un obstacle réel, non résolu par la seule échelle des données synthétiques. Pour les intégrateurs et décideurs B2B, le signal est clair: remplacer la téléopération humaine par de la donnée simulée reste au stade de preuve de concept, pas de solution prête à l'emploi. Le travail s'inscrit dans la lignée des modèles de fondation robotiques récents comme Pi-0 de Physical Intelligence, GR00T N2 de NVIDIA ou Helix de Figure, qui cherchent tous à réduire la dépendance aux démonstrations réelles. Cosmos Policy dérive des travaux de NVIDIA sur les modèles de monde Cosmos. La méthode AnyTask pour générer automatiquement des trajectoires en simulation illustre une tendance plus large: automatiser la création de données d'entraînement plutôt que multiplier les téléopérations en laboratoire, approche également explorée par Physical Intelligence ou Skild AI. Les auteurs présentent ce résultat comme une première preuve de faisabilité, sans calendrier de commercialisation ni partenariat industriel annoncé.

RecherchePaper

1 source

3arXiv cs.RO

Vers des modèles du monde JEPA ancrés dans la réalité physique pour la planification robotique conditionnée par objectif

Des chercheurs publient sur arXiv (arXiv:2609.03565, soumis début septembre 2026) un modèle du monde de type JEPA (Joint Embedding Predictive Architecture) conçu pour la planification robotique conditionnée par des objectifs visuels. L'approche standard JEPA prédit les représentations latentes futures sans reconstruire les pixels, mais rien ne garantit que ces représentations conservent l'information utile au contrôle moteur. Les auteurs ajoutent deux mécanismes entraînés de bout en bout : une dynamique inverse (IDM), qui empêche l'effondrement des représentations latentes en les forçant à rester informatives sur les actions qui les ont produites, et un alignement d'état (state alignment, SA), qui ancre les représentations successives dans la configuration physique et le mouvement réels du robot. Testé sur quatre bancs d'essai de planification, le modèle atteint 100% de réussite sur TwoRoom, 98% sur PushT et 87% sur OGBench-Cube, avec des résultats comparables à la référence LeWorldModel sur la tâche Reacher. Une étude d'ablation montre que l'ajout du state alignment améliore systématiquement le taux de réussite par rapport à l'IDM seul, sur les quatre tâches. Ce travail s'inscrit dans un débat central pour l'industrie robotique actuelle : les modèles du monde appris en espace latent permettent-ils une planification fiable, ou souffrent-ils d'un écart entre performance en simulation et robustesse réelle ? En montrant que l'ancrage physique explicite des représentations améliore la planification sans reconstruction pixel par pixel, les auteurs apportent un argument technique en faveur d'architectures latentes plus légères que les approches génératives complètes, un enjeu direct pour les intégrateurs qui cherchent des modèles de contrôle moins gourmands en calcul que les VLA (vision-language-action) de type Pi-0, GR00T N2 ou Helix. L'analyse par sous-espace de transition est particulièrement notable : bien que LeWorldModel affiche une meilleure "rectitude" moyenne des trajectoires sur OGBench-Cube, ses transitions se concentrent dans un sous-espace de dimension effective plus faible, ce qui suggère une représentation moins riche malgré des métriques agrégées favorables, un rappel que les chiffres moyens seuls peuvent masquer des limites structurelles. Ce papier prolonge la lignée des travaux sur les architectures JEPA popularisées en vision par Meta AI, désormais transposées à la robotique pour contourner les coûts de la prédiction pixel par pixel propre aux modèles du monde génératifs. Il se positionne comme une contribution de recherche académique, évaluée sur des bancs d'essai simulés standardisés (TwoRoom, PushT, Reacher, OGBench-Cube), sans annonce de déploiement matériel ni de partenariat industriel. Les prochaines étapes naturelles, non abordées dans l'abstract, seraient une validation sur robot physique et une comparaison directe avec les architectures VLA à grande échelle qui dominent actuellement les annonces commerciales du secteur.

RecherchePaper

1 source

4arXiv cs.RO

T2-z : optimisation à l'inférence des latents d'environnement pour les modèles du monde en robotique

T2-Z est une méthode de recherche, décrite dans un article arXiv (2610.22364v1), qui ajoute à un modèle du monde robotique un « latent d'environnement » apprenable. Ce vecteur compact conditionne les prédictions du modèle et capte des facteurs que la caméra ne voit pas et que personne n'a spécifiés : friction, masse, mais aussi règles définies par l'humain. L'entraînement alterne deux étapes. Dans la première, les latents sont fixés et le modèle apprend une dynamique générale conditionnée par l'action, sur plusieurs environnements. Dans la seconde, le modèle est gelé et seuls les latents sont optimisés. La structure du latent émerge ainsi de la seule prédiction du monde, sans supervision sur la nature ou la valeur des facteurs. Au test, le modèle reste gelé. Un latent initialisé à neuf est optimisé à partir d'une ou plusieurs interactions, ce qui adapte le modèle à une configuration inédite. Sur 7 environnements simulés et 4 tâches robotiques réelles, les auteurs annoncent une baisse de l'erreur de prédiction des objets de 15,20 à 7,00 et une hausse du taux de réussite des actions de 33,73 % à 72,96 %. Pour les intégrateurs et les équipes qui déploient des robots de manipulation, l'enjeu est l'écart entre la démonstration et la réalité. Un modèle entraîné dans un cadre donné se dégrade dès qu'un objet est plus lourd, qu'un sol est plus glissant ou qu'une règle de tâche change. Ici, l'adaptation ne demande ni réentraînement, ni étiquetage des propriétés physiques, ni identification manuelle des paramètres. Elle repose sur de l'optimisation à l'inférence, et les ablations indiquent qu'une seule trajectoire d'interaction peut suffire. C'est un argument en faveur de modèles du monde qui s'ajustent en quelques essais sur site. Les réserves habituelles s'appliquent. Les gains sont des moyennes sur un benchmark choisi par les auteurs, et le résumé ne donne ni plateforme robotique, ni nature des tâches réelles, ni coût de calcul de l'optimisation au test. Le taux de 72,96 % reste aussi loin d'un seuil industriel. L'approche s'inscrit dans une lignée connue : randomisation de domaine, identification de système, méta-apprentissage et modèles du monde conditionnés par des variables latentes, comme les travaux de type Dreamer ou les modèles vidéo-action. Elle prolonge les politiques généralistes de type VLA (vision-langage-action), qui ont du mal à tenir compte de propriétés non observables. Les auteurs rapportent que les latents appris organisent des facteurs individuels et combinés à travers des scènes visuelles variées, ce qui laisse entrevoir une certaine interprétabilité. Aucun pilote ni calendrier de transfert vers un produit n'est annoncé, et l'article est une préimpression, sans évaluation par les pairs. Les prochaines étapes à surveiller sont la publication du code, les tests sur des plateformes variées et la combinaison avec des politiques VLA ou de la planification par modèle prédictif.

RecherchePaper

1 source