RecherchearXiv cs.RO 22 juillet 2026

WorldScape Policy 2.0 : vers une modélisation d'action du monde pilotable grâce à une mémoire enrichie par le raisonnement

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

WorldScape Policy 2.0 est un nouveau modèle d'action du monde (World Action Model, WAM) publié en preprint sur arXiv, conçu pour la manipulation robotique par apprentissage conjoint des transitions visuelles et des actions du robot. Son architecture combine une mémoire visuelle causale à court terme, qui alimente le module de génération (DiT) avec les observations récentes pour préserver la dynamique locale d'interaction, et une mémoire d'événements à long et court terme, qui organise les sorties d'un modèle vision-langage en trois niveaux : historique global, activité locale et frontières d'événements. Cette mémoire récupérée sert de sous-objectif implicite pour la planification autonome, renforcé par un mécanisme de "semantic forcing" qui transfère la sémantique des instructions au niveau événementiel dans le flux de planification latent. Les auteurs introduisent également ManipEvent-5M, un jeu de données de pré-entraînement embarqué comptant près de 5 millions de segments d'événements, chacun aligné avec des trajectoires d'action, des instructions de tâche au niveau épisode, des légendes de sous-tâches au niveau segment, des images d'objectif et des démonstrations vidéo.

L'enjeu dépasse la seule prouesse technique : les modèles d'action du monde actuels souffrent d'un contexte temporel limité, d'une supervision par le langage trop grossière (au niveau de l'épisode entier) et d'un conditionnement quasi exclusivement textuel, ce qui limite le suivi de la progression des tâches, l'ancrage fin entre langage, vidéo et action, ainsi que le transfert entre différentes morphologies de robots. En proposant un conditionnement multimodal unifié, exploitable aussi bien par instruction de haut niveau que par image d'objectif ou contexte vidéo, WorldScape Policy 2.0 s'attaque directement à l'écart persistant entre démonstrations en laboratoire et exécution robuste sur des tâches longues et complexes, un point de friction central pour quiconque cherche à faire passer les architectures VLA (vision-langage-action) du prototype à un déploiement fiable.

Le papier s'inscrit dans la lignée des travaux récents qui cherchent à dépasser les VLA purement textuels en intégrant une mémoire structurée et une planification hiérarchique, plutôt que de simplement empiler davantage de données ou de paramètres. Les auteurs revendiquent des résultats supérieurs en simulation et sur plateformes réelles pour la planification autonome à long horizon, le suivi d'instructions fines et l'adaptation en contexte. Il s'agit à ce stade d'une contribution académique (article "new" sur arXiv), sans acteur industriel ni calendrier de déploiement associés : la validation par la communauté et la reproduction des résultats sur d'autres bancs de test restent les prochaines étapes attendues.

Dans nos dossiers

IA physique & VLA Manipulation robotique arXiv cs.RO

À lire aussi

1arXiv cs.RO

JEPA-WAM : des politiques vision-langage-action apprises par modélisation du monde à embarquement conjoint

JEPA-WAM, un nouveau modèle de monde latent (world action model, WAM) pour le contrôle robotique, est présenté dans un article publié le 11 août 2026 sur arXiv (2608.09381v1). Le système s'appuie sur l'espace latent pré-entraîné V-JEPA, l'architecture d'auto-supervision vidéo développée par Meta AI, et couple prédiction de transition et génération d'action continue via un prédicteur partagé, plutôt que de générer explicitement des vidéos futures comme le font les WAM à base vidéo, coûteux à déployer. Sur le benchmark LIBERO-Plus, JEPA-WAM atteint 79,2 % de réussite, le meilleur score parmi les méthodes sans pré-entraînement à grande échelle sur des politiques robotiques. Instancié sur le modèle pi0.5 déjà pré-entraîné, il grimpe à 86,3 %, la meilleure performance globale rapportée dans l'article. Des expériences complémentaires sur le simulateur RoboTwin 2.0 et sur des tâches de manipulation bimanuelle en conditions réelles confirment une bonne généralisation face aux variations visuelles et spatiales. Ce travail s'attaque à un compromis central dans l'apprentissage de politiques vision-langage-action (VLA) : les modèles de monde générant explicitement des vidéos futures sont coûteux en calcul et en latence, tandis que les approches latentes existantes sacrifient souvent la richesse de la représentation prédictive ou la séparent du chemin utilisé pour générer l'action. En démontrant qu'un même prédicteur partagé peut porter à la fois la supervision de transition et la prédiction d'action sans déconnecter représentation et politique, JEPA-WAM fournit un argument empirique en faveur de l'unification des deux tâches dans une même colonne vertébrale visuelle. Pour les équipes de recherche et les intégrateurs en robotique, l'intérêt pratique tient au fait que la méthode s'applique aussi à des politiques VLA déjà pré-entraînées, comme pi0.5, sans modifier leurs chemins de perception et d'action d'origine, ce qui laisse entrevoir un gain applicable à des systèmes existants plutôt qu'une architecture entièrement nouvelle à réentraîner. Il s'agit d'un article de recherche publié sur arXiv, sans annonce de produit ni de déploiement commercial : les résultats reposent sur des benchmarks de simulation (LIBERO-Plus, RoboTwin 2.0) complétés par des essais réels limités en manipulation bimanuelle, sans précision sur le nombre de robots ou les sites concernés. JEPA-WAM s'inscrit dans la lignée des architectures d'apprentissage par prédiction latente issues de V-JEPA, et se positionne face à l'écosystème grandissant des politiques VLA telles que pi-0 de Physical Intelligence, GR00T N2 de Nvidia ou Helix de Figure. Les auteurs ne précisent aucun calendrier de suite, pilote industriel ou partenariat, ce qui situe cette publication au stade de la recherche fondamentale plutôt qu'à une étape de déploiement à court terme.

RechercheActu

1 source

2arXiv cs.RO

Vers des modèles du monde unifiés pour la navigation visuelle par planification et anticipation augmentées de mémoire

Une équipe de recherche présente UniWM, un « world model » unifié et augmenté par mémoire pour la navigation visuelle des agents incarnés, détaillé dans une version mise à jour d'un article arXiv (2510.08713v3). Le système fusionne, au sein d'un seul backbone autorégressif multimodal, la prévision visuelle égocentrique des états futurs et la planification d'actions, évitant le découplage classique entre ces deux modules qui provoque un désalignement état-action dans les architectures modulaires habituelles. Un mécanisme de mémoire hiérarchique combine indices perceptifs à court terme et contexte de trajectoire à long terme pour maintenir un raisonnement stable sur des horizons étendus. Testé sur quatre bancs d'essai (Go Stanford, ReCon, SCAND, HuRoN) ainsi que sur le 1X Humanoid Dataset, issu du fabricant de robots humanoïdes 1X Technologies, UniWM améliore le taux de réussite de navigation jusqu'à 30% face aux meilleures références existantes, réduit sensiblement les erreurs de trajectoire, et généralise en zero-shot sur le jeu de données inédit TartanDrive. Code et modèles sont publiés en open source sur GitHub, sous UWMILab/UniWM. Le résultat cible un point de friction connu en robotique embarquée : les piles de navigation modulaires, qui séparent planification et modélisation visuelle, s'adaptent mal aux scénarios dynamiques ou inédits faute d'alignement entre prédiction et décision. En ancrant explicitement l'action sur des états futurs imaginés au sein d'un modèle unique entraîné de bout en bout, UniWM illustre une alternative aux pipelines fragmentés, un enjeu concret pour les intégrateurs qui déploient des robots mobiles ou humanoïdes en environnement non structuré. Le transfert réussi vers un jeu de données humanoïde suggère une passerelle entre navigation mobile classique et locomotion humanoïde, même si ces gains restent mesurés sur des bancs d'essai académiques standardisés, pas en conditions réelles de déploiement. UniWM s'inscrit dans la tendance de recherche vers des modèles du monde unifiés, où prévision visuelle et contrôle fusionnent dans un système génératif unique plutôt qu'en sous-modules séparés, une logique voisine de celle poursuivie par les laboratoires développant des modèles vision-langage-action pour la manipulation robotique. Porté par le UWMILab, le projet met code et poids à disposition de la communauté académique sans annonce de partenariat industriel ni de calendrier de déploiement pilote, et aucun acteur européen n'apparaît dans les benchmarks utilisés. La prochaine étape annoncée reste l'appropriation du code par les chercheurs en navigation visuelle et robotique incarnée.

RecherchePaper

1 source

3arXiv cs.RO

WorldDiT : une architecture de diffusion unifiée pour la modélisation du monde et des actions

WorldDiT est une nouvelle architecture de transformeur à diffusion présentée dans un article arXiv publié fin juillet 2026, qui unifie la génération d'actions robotiques et la modélisation visuelle du monde dans un seul réseau. Contrairement à la tendance dominante consistant à adosser les politiques robotiques à de grands modèles vision-langage (VLM) préentraînés comme backbone, un unique transformeur à diffusion génère ici des séquences d'actions continues tout en prédisant, en parallèle, des patchs RGB normalisés issus des futures images de caméra. Sur les quatre suites de simulation LIBERO, référence standard pour évaluer la généralisation en manipulation robotique, WorldDiT se positionne sur la frontière de Pareto reliant nombre de paramètres et taux de réussite moyen, avec un modèle de moins d'un milliard de paramètres. Ce résultat questionne une hypothèse répandue dans le secteur des politiques vision-langage-action (VLA) : que la performance en manipulation exige de coupler l'action à un VLM massif préentraîné, comme le font des approches telles que Pi-0 ou GR00T N2. Un modèle sub-milliard capable de rivaliser sur ces bancs d'essai ouvre une voie vers des architectures moins gourmandes en calcul, un enjeu concret pour les intégrateurs visant un déploiement embarqué plutôt que du cloud. Le papier s'inscrit dans une lignée de recherches couplant prédiction visuelle et contrôle moteur, alors que le secteur multiplie les architectures VLA à grande échelle (Helix chez Figure, GR00T N2 chez Nvidia). Les auteurs présentent toutefois WorldDiT comme une base de référence pour de futures études de mise à l'échelle, uniquement validée en simulation LIBERO, sans expérimentation sur robot réel à ce stade.

RechercheActu

1 source

4arXiv cs.RO

GWM-VLA : une modélisation latente du monde tenant compte de la géométrie pour le VLA

Publié sur arXiv sous la référence 2608.07619 (août 2026), GWM-VLA est un nouveau cadre de modélisation latente du monde pour les modèles vision-langage-action (VLA) utilisés en manipulation robotique. L'architecture combine trois éléments : un module d'encodage multi-vues géométriquement conscient, nommé VGGT-Ω, qui agrège à chaque pas de temps les flux de plusieurs caméras pour construire un état multi-vues cohérent ; un modèle du monde latent qui prédit uniquement les tokens de patch de l'étape suivante pour une vue cible unique, la caméra de poignet du bras robotique dans les expériences, plutôt que de reconstruire l'intégralité de la scène multi-vues ; et une représentation d'action latente partagée qui conditionne à la fois ce modèle du monde et une tête d'action par flow-matching, entraînée simultanément par supervision de prédiction latente et par les actions robotiques réelles. Les auteurs testent le système en simulation et sur robot réel, sans détailler de chiffres de performance dans le résumé public. L'enjeu vise une faiblesse connue des VLA : leurs performances de manipulation, solides en conditions contrôlées, se dégradent souvent face à des changements visuels ou environnementaux comme l'éclairage, la position de caméra ou l'arrière-plan. La plupart des modèles du monde latents existants encodent chaque vue caméra indépendamment et prédisent la dynamique globale de la scène sans modéliser explicitement les relations géométriques entre vues, ce qui fragilise la robustesse. En imposant une cohérence géométrique multi-vues dès l'encodage, GWM-VLA s'inscrit dans les efforts récents pour combler l'écart entre démonstrations en laboratoire et déploiement réel, un point sensible pour les intégrateurs qui évaluent des politiques VLA de type Pi-0, GR00T N2 ou Helix pour des lignes de production ou de la logistique, où la variabilité des scènes est la norme plutôt que l'exception. GWM-VLA s'ajoute à une vague de recherches associant modélisation du monde et apprentissage d'actions pour renforcer la généralisation des politiques robotiques, un axe explore en parallèle par plusieurs laboratoires travaillant sur les architectures VLA à grande échelle. L'article ne précise ni l'affiliation institutionnelle des auteurs ni de comparaison chiffrée avec des bases de référence publiées, ce qui en fait pour l'instant une contribution académique en preprint, non revue par les pairs, plutôt qu'un produit ou un déploiement industriel. Aucune date de publication en conférence, aucun partenariat industriel ni feuille de route de déploiement ne sont mentionnés ; la validation indépendante de la robustesse annoncée reste donc à établir par la communauté.

RecherchePaper

1 source