IA physiquearXiv cs.RO 25 juin 2026

Modélisation du monde en contexte pour le contrôle robotique

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE Pourquoi ça compte

Des chercheurs ont publié le 25 juin 2026 un preprint arXiv (2606.26025) présentant ICWM (In-Context World Modeling), un cadre d'adaptation pour les modèles Vision-Language-Action (VLA) appliqués à la robotique. Les VLA actuels échouent dès que le contexte d'exécution change - angle de caméra différent, morphologie de robot modifiée - parce qu'ils supposent un contexte fixe, celui rencontré pendant l'entraînement, et nécessitent un fine-tuning intensif en données pour toute nouvelle configuration. ICWM traite l'identification du système comme un problème d'adaptation en contexte : avant d'exécuter une tâche, le robot génère de courtes interactions autonomes agnostiques à la tâche, dont l'historique est injecté dans la fenêtre de contexte du modèle. Celui-ci infère ainsi implicitement la dynamique du système courant - position de caméra, configuration mécanique - sans mise à jour de poids. Les expériences menées en simulation et sur plateformes réelles montrent que ICWM surpasse significativement les baselines VLA standards sur des configurations de caméra inédites.

La généralisation des VLA est le verrou principal qui freine le déploiement industriel de la robotique généraliste. Pi-0 (Physical Intelligence), GR00T N2 (NVIDIA), OpenVLA et les modèles Google nécessitent tous du fine-tuning dès qu'on change la disposition d'une caméra ou la morphologie d'un robot, ce qui rend les pilotes industriels coûteux et longs à mettre en place. ICWM attaque ce problème sans modifier les poids du modèle : l'adaptation passe uniquement par le contexte, à l'image de ce que l'In-Context Learning a apporté aux LLMs. Pour un intégrateur ou un COO industriel, cela signifie potentiellement déployer un même modèle sur plusieurs lignes avec des géométries de capteurs différentes, sans pipeline de re-entraînement. La contribution est conceptuellement distincte : là où l'ICL classique spécifie quelle tâche effectuer, ICWM apprend comment le système fonctionne - une couche d'adaptation complémentaire aux approches existantes.

Les modèles VLA ont connu une explosion depuis 2024 : RT-2 (Google DeepMind), Pi-0 de Physical Intelligence, GR00T N2 d'NVIDIA présenté à GTC 2025, et plus récemment Helix (Figure AI) illustrent la convergence entre fondations LLM et contrôle moteur. La fragilité aux variations contextuelles - ce qu'on appelle le "demo-to-deployment gap" - reste une critique récurrente formulée notamment par des acteurs européens comme Enchanted Tools ou Wandercraft, qui misent sur des architectures plus déterministes pour des environnements industriels contraints. ICWM s'inscrit dans une tendance plus large : importer les paradigmes d'adaptation du machine learning directement dans la boucle de contrôle robotique, sans passer par un cycle de collecte de données et de re-entraînement. Le preprint ne mentionne ni partenariat industriel, ni code open-source, ni dataset public : il s'agit d'une contribution de recherche pure, sans déploiement commercial annoncé à ce stade.

Impact France/UE

Si ICWM tient ses promesses, les intégrateurs européens pourraient déployer un même modèle VLA sur plusieurs lignes à géométries de capteurs différentes sans pipeline de ré-entraînement, réduisant directement le coût des pilotes industriels, mais aucun déploiement ni partenariat européen n'est annoncé à ce stade.

💬 Le point de vue du dev

Le vrai frein au déploiement robotique industriel, ce n'est pas la performance brute des VLA, c'est que la moindre caméra déplacée oblige à relancer un fine-tuning complet. ICWM importe dans la boucle de contrôle la même logique qui a rendu les LLMs flexibles, et si ça tient, c'est un changement de calcul économique pour les intégrateurs européens qui tentent des pilotes. Bon, pour l'instant c'est un preprint sans code ni partenaire industriel, donc on verra.

Dans nos dossiers

Figure Wandercraft Enchanted Tools — Mirokaï NVIDIA GR00T

À lire aussi

1arXiv cs.RO

Agile-WAM : un modèle d'action-monde tactile agile pour le contrôle robotique en contact riche

Des chercheurs ont présenté Agile-WAM, un "world action model" (WAM) tactile pour le contrôle robotique en manipulation à contact riche, détaillé dans un preprint arXiv (2609.20761) et sur une page de projet dédiée portant le nom de code TARO. Le modèle encode vision et tactile dans un espace latent partagé, exploité par un processus de flow-matching direct vision-tactile-vers-action qui génère à la fois des séquences d'actions et les latents visuels/tactiles futurs. Sa particularité est une prédiction multimodale à horizons multiples : supervision visuelle à décalage temporel large, les images voisines étant peu différentes, mais prédiction tactile image par image pour capter les changements brusques au moment du contact. Testé sur neuf tâches simulées et cinq tâches réelles de manipulation, Agile-WAM obtient un gain relatif de 29,4% en taux de succès sur les cinq essais réels, pour une latence d'inférence de 11,9 millisecondes. Ce résultat répond à une limite concrète des WAM tactiles existants, qui s'appuient souvent sur de lourds backbones génératifs pré-entraînés au détriment de la latence et du déploiement temps réel. En affichant une inférence à un chiffre de millisecondes tout en dépassant sa meilleure baseline, Agile-WAM suggère qu'un contrôle précis et à haute fréquence, nécessaire dès que le contact évolue plus vite que l'image, ne requiert pas forcément les architectures massives des VLA généralistes type Pi-0 ou GR00T N2. Pour les équipes de recherche et les intégrateurs travaillant sur l'insertion de pièces, l'assemblage ou la préhension fine, l'apport principal est méthodologique : traiter vision et tactile à des échelles temporelles distinctes améliore à la fois précision et efficacité, plutôt qu'une simple fusion multimodale. Le travail s'inscrit dans la lignée des world models robotiques, qui étendent les politiques visuomotrices classiques en apprenant conjointement la dynamique du monde et l'action à produire, une piste déjà suivie par des VLA comme Pi-0 (Physical Intelligence) ou GR00T N2 (NVIDIA), rarement avec un signal tactile aussi fin. Les auteurs positionnent Agile-WAM contre des WAM tactiles antérieurs jugés trop coûteux en calcul, sans les nommer précisément dans le résumé. Il s'agit à ce stade d'un preprint de recherche non encore revu par les pairs, appuyé par des démonstrations en simulation et cinq essais réels, sans partenaire industriel ni calendrier de déploiement annoncé.

IA physiqueOpinion

1 source

2arXiv cs.RO

GaussianDream++ : modélisation 3D gaussienne efficace du monde pour la manipulation robotique

GaussianDream++, décrite dans un article publié en août 2026 sur arXiv (2608.25659), est une méthode d'entraînement pour les politiques Vision-Language-Action (VLA) de manipulation robotique. Elle succède à GaussianDream, dont la reconstruction 3D en Gaussiennes mélangeait état, dynamique et action dans un pipeline dense (VGGT/TGE) coûteux. La nouvelle version insère seulement 20 "World State Tokens" et "World Prediction Tokens" dans le backbone VLA ; une tête dédiée, active seulement à l'entraînement, les décode en scène courante et prédiction future partageant les mêmes primitives Gaussiennes, avec une factorisation statique/dynamique isolant le mouvement pertinent. À l'inférence, cette tête et le pipeline lourd disparaissent : ne restent que les 20 tokens. Résultat : 98,6% de réussite sur LIBERO, 87,8% sur LIBERO-Plus, et sur robot réel un taux de succès moyen porté de 29,2% à 52,5% face à une politique pi_0.5 reproduite. Ce résultat répond à une limite connue des politiques VLA : l'imitation d'actions seule supervise mal la structure 3D métrique et la dynamique physique à court terme, tandis que les approches prédictives en RGB ou en espace latent alourdissent le déploiement. En montrant qu'une supervision géométrique riche à l'entraînement peut être totalement retirée à l'inférence sans perte de performance, GaussianDream++ répond au compromis coût/richesse qui freine l'adoption des politiques géométriques par les intégrateurs devant faire tourner ces modèles en boucle fermée sur du matériel embarqué. Le quasi-doublement du taux de succès sur robot réel suggère que cette supervision comble une partie de l'écart simulation-vers-réel, plutôt que d'apporter un simple gain en simulation. GaussianDream++ corrige la principale faiblesse de GaussianDream, sa dépendance à un pipeline VGGT/TGE mêlant plusieurs signaux dans un même préfixe. Elle s'inscrit dans un paysage de politiques VLA concurrentes, comme les modèles pi0 et pi0.5 de Physical Intelligence utilisés ici comme référence, GR00T N2 de NVIDIA ou Helix de Figure AI, chacune arbitrant différemment entre richesse de représentation et coût d'inférence temps réel. L'article ne précise ni partenaire industriel ni calendrier de déploiement : à ce stade, il s'agit d'un résultat de recherche évalué sur des bancs d'essai standards et un nombre limité d'expériences sur robot réel, sans détail sur les plateformes utilisées.

IA physiqueOpinion

1 source

3arXiv cs.RO

WSA$_1$ : un modèle monde-spatial-action centré sur la 3D pour un contrôle robotique généralisable

Les chercheurs à l'origine de WSA₁ proposent un nouveau modèle fondation pour la robotique généraliste, construit autour d'un paradigme baptisé "World-Spatial-Action" centré sur la 3D. Contrairement aux modèles robot-fondation (RFM) classiques qui associent directement perception visuelle 2D et instructions langagières à des actions continues, WSA₁ apprend une représentation explicite de l'état spatial 3D du monde et de ses transitions, puis relie ces transitions aux actions du robot. Le modèle a été préentraîné sur 6 000 heures de démonstrations expertes, dont seulement 1 000 heures issues de robots réels, le reste provenant de sources simulées ou synthétiques. Sur le benchmark de simulation RoboTwin2.0, WSA₁ atteint un taux de réussite de 93% en manipulation, et sur des tâches de contrôle robotique en conditions réelles il affiche un gain moyen de 20% par rapport aux meilleurs RFM existants. L'enjeu pour l'industrie robotique est la sobriété en données réelles. La plupart des modèles fondation actuels, qu'il s'agisse de Pi-0, GR00T N2 ou Helix, dépendent de volumes massifs de téléopération et de collecte sur robots physiques, une contrainte coûteuse qui freine leur déploiement à grande échelle chez les intégrateurs. En démontrant qu'une modélisation conjointe 3D monde-action permet d'atteindre une généralisation compétitive avec un ratio de données réelles très faible, WSA₁ ouvre une voie potentiellement plus abordable vers des systèmes robotiques polyvalents, sans nécessiter les flottes de collecte massives déployées par des acteurs comme Figure ou Tesla pour leurs humanoïdes. Ce travail s'inscrit dans la lignée des critiques adressées aux RFM actuels, accusés de manquer d'un raisonnement physique réel sur la dynamique 3D et les effets causaux des actions du robot sur son environnement, un décalage jugé limitant pour la généralisation en conditions réelles. Les auteurs positionnent explicitement WSA₁ face aux modèles VLA (vision-language-action) de référence du secteur. La publication, encore au stade de préprint arXiv, ne détaille pas de calendrier de déploiement industriel ni de partenariat matériel, les prochaines étapes attendues portant vraisemblablement sur une validation élargie hors simulation et sur des comparaisons directes avec davantage de RFM concurrents.

IA physiqueActu

1 source

4arXiv cs.RO

RoboTTT : mise à l'échelle du contexte pour les politiques robotiques

NVIDIA, via son laboratoire de recherche GEAR (research.nvidia.com/labs/gear), publie RoboTTT (Test-Time-Training Robot Policies), un modèle et une recette d'entraînement qui étendent le contexte visuomoteur des politiques robotiques à 8 000 pas de temps, soit trois ordres de grandeur au-delà des modèles de référence actuels qui opèrent en une seule étape ou sur un historique court, sans augmenter la latence d'inférence. Sur des tâches réelles de manipulation robotique, RoboTTT améliore les performances globales de 87% par rapport à une base à contexte unique et parvient à compléter intégralement une tâche d'assemblage de cinq minutes en dix étapes, ce qu'aucun modèle de référence testé n'accomplit. La version entraînée avec un contexte de 8 000 pas de temps surpasse de 62% la même architecture pré-entraînée avec seulement 1 000 pas de temps. Le mécanisme repose sur l'intégration du Test-Time Training dans des politiques Vision-Language-Action: l'état récurrent du modèle est constitué de "fast weights", des paramètres mis à jour par descente de gradient pendant l'entraînement et l'inférence, qui compressent l'historique en poids plutôt qu'en tokens de contexte classiques. Cette approche déplace un verrou connu du secteur: jusqu'ici, allonger le contexte des politiques robotiques se heurtait au coût de calcul en inférence. RoboTTT découple les deux, ouvrant la voie à des capacités nouvelles pour les intégrateurs: imitation en contexte à partir d'une seule démonstration vidéo humaine sans réentraînement, amélioration de la politique à la volée, et meilleure robustesse aux perturbations sur des tâches longues et multi-étapes. Les auteurs notent, pour la première fois selon eux, une progression régulière des performances en boucle fermée à mesure que le contexte de pré-entraînement augmente, ce qui positionne la longueur de contexte comme un nouvel axe de scaling pour les modèles fondation robotiques, au même titre que la taille des paramètres ou le volume de données. RoboTTT s'inscrit dans la lignée des politiques VLA telles que Pi-0 ou GR00T N2, dont l'entraînement combine ici le "sequence action forcing" et la rétropropagation tronquée dans le temps pour gérer un contexte aussi long. Il s'agit à ce stade d'un article de recherche (arXiv, preprint) accompagné de vidéos de démonstration, sans indication de déploiement industriel ni de calendrier de commercialisation.

IA physiqueActu

1 source