RecherchearXiv cs.RO 1 septembre 2026

RoboPhys-3D : évaluation complète des modèles du monde incarnés par reconstruction 3D

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Une équipe de recherche présente RoboPhys-3D, un benchmark d'évaluation pour les world models vidéo embarqués (embodied world models, EWM), construit sur RoboTwin 2.0. Il couvre 50 tâches de manipulation réparties en quatre régimes, avec 5 000 épisodes et 25 000 vidéos multi-vues de référence. Particularité du protocole : les vidéos générées et les vidéos de référence passent par le même pipeline de reconstruction 3D, ce qui permet de distinguer l'erreur due à la reconstruction de celle due à la génération elle-même. Le benchmark organise 50 métriques en 18 sous-dimensions réparties sur quatre niveaux : fidélité au pixel, cohérence géométrique 3D, compréhension de l'état de la scène et complétude de la tâche. Deux scores composites en découlent : l'Average Full Score, qui moyenne les 50 métriques, et le RoboPhyscore, centré sur les métriques les plus corrélées au succès réel de la tâche. Sur quatre world models vidéo testés, Cosmos 3 obtient le meilleur RoboPhyscore (0,6330, soit 92,7% du score de référence), et ce score affiche une forte corrélation avec l'évaluation humaine (Pearson r = 0,9761, Spearman rho = 0,8962).

Ce travail comble un angle mort de l'évaluation des world models pour la robotique : la plupart des benchmarks existants jugent la qualité visuelle ou sémantique des vidéos générées via des juges perceptuels ou des modèles vision-langage, sans vérifier si la scène 3D reste physiquement exploitable pour piloter un robot. Or les métriques ancrées dans l'état de la scène et dans l'exécutabilité des actions révèlent des échecs substantiels que ces jugements perceptuels ou VLM ne détectent pas, un écart classique entre qualité d'image perçue et utilité réelle pour la planification. Pour les équipes qui exploitent des world models comme moteurs de données synthétiques, planificateurs d'actions ou simulateurs, cela signale qu'un bon score de fidélité visuelle ne garantit pas un rollout exploitable en aval. La forte corrélation du RoboPhyscore avec le jugement humain suggère en revanche qu'une métrique compacte et ancrée dans l'exécution pourrait remplacer une évaluation humaine coûteuse à grande échelle.

Ce besoin découle de l'absence, jusqu'ici, d'un standard 3D unifié pour vérifier si un rollout généré préserve l'état réel de la scène, les benchmarks EWM existants restant majoritairement 2D ou basés sur des scores subjectifs. RoboPhys-3D positionne Cosmos 3, la gamme de world models vidéo de NVIDIA, comme la plus performante parmi les quatre testées, sans détailler ici les trois autres modèles comparés ni de calendrier de déploiement industriel : il s'agit d'un travail de recherche en évaluation (preprint arXiv 2608.28718v1), pas d'une annonce produit. Il s'inscrit dans une dynamique plus large où les world models vidéo sont de plus en plus proposés comme substituts à la simulation physique classique pour entraîner des politiques de manipulation robotique, et la publication de ce protocole ouvre la voie à des comparaisons plus rigoureuses à mesure que de nouvelles versions de ces modèles sortiront.

Dans nos dossiers

World models Manipulation robotique arXiv cs.RO

À lire aussi

1arXiv cs.RO

KineBench : évaluation des modèles du monde incarnés par ancrage cinématique sans IDM

Une équipe de recherche a publié KineBench, un nouveau benchmark conçu pour évaluer la cohérence physique des modèles de monde incarnés (embodied world models, EWM), ces systèmes qui génèrent des vidéos prédictives de l'interaction robot-environnement. Jusqu'ici, l'évaluation en boucle fermée de ces modèles reposait presque exclusivement sur des modèles de dynamique inverse (IDM) pour extraire les actions robotiques à partir des vidéos générées, une méthode fragile dès que la scène ou l'objet manipulé sort de la distribution d'entraînement. KineBench s'affranchit de cette dépendance en extrayant directement des poses d'organe terminal en 6 degrés de liberté image par image, via une cascade de modèles de vision fondation, puis en rejouant ces trajectoires dans un simulateur physique pour valider l'exécution. Le benchmark ajoute deux métriques cinématiques classiques, la longueur d'arc spectrale (SPARC) et l'indice de manipulabilité de Maruyama, pour juger la fluidité et la faisabilité des trajectoires du point de vue du robot. L'ensemble s'appuie sur 20 tâches de manipulation issues du simulateur ManiSkill3, réparties en quatre suites progressives: exécution de base, transfert de tâche, généralisation visuelle hors distribution, et montée en complexité. L'enjeu dépasse la simple mesure académique: sans méthode fiable pour distinguer une erreur du modèle de monde d'une erreur de l'extracteur d'actions, impossible de savoir si un EWM comprend réellement la physique ou s'il produit des vidéos plausibles mais inexploitables pour du contrôle réel. C'est précisément le doute qui plane sur beaucoup de démonstrations vidéo dans le secteur des VLA (vision-language-action) et de la génération embarquée, où l'écart entre rendu visuel convaincant et action réellement exécutable reste mal quantifié. En testant plusieurs modèles de pointe, les auteurs montrent une montée en échelle non linéaire et bornée par la complexité des tâches, un signal utile pour calibrer les futures stratégies d'entraînement sur données plutôt que d'empiler des vidéos sans discernement. Ce travail s'inscrit dans la lignée des benchmarks fermés basés simulateur, déjà utilisés pour évaluer le sim-to-real, mais cherche à corriger leur talon d'Achille méthodologique, la dépendance aux IDM appris. En s'appuyant sur ManiSkill3, un environnement de simulation déjà largement adopté par la communauté manipulation robotique, KineBench se positionne comme un outil de diagnostic reproductible plutôt qu'un nouveau modèle concurrent, avec pour prochaine étape probable son extension à davantage de tâches et de familles de modèles génératifs.

RecherchePaper

1 source

2arXiv cs.RO

WorldSimProbe : évaluer la fidélité des simulateurs dans les modèles du monde conditionnés par l'action pour la manipulation incarnée

Un article publié sur arXiv en août 2026 (arXiv:2608.09298) présente WorldSimProbe, un cadre destiné à tester la fidélité des modèles du monde conditionnés par l'action (ACWM), ces simulateurs neuronaux censés prédire les effets des actions d'un robot manipulateur. Les auteurs formalisent un « Observable Simulator Contract » : les actions fournies doivent produire un mouvement cohérent de l'agent, et les réponses de l'environnement doivent rester ancrées dans ce mouvement réellement exécuté. Le cadre comprend cinq suites de tests, couvrant la sensibilité au contrôle local, la variation de trajectoire globale, la diversité des sources d'action, l'ancrage des interactions et la dynamique physique élémentaire. Six ACWM open source ont été évalués sur plus de 18 000 instances, réparties sur trois bancs d'essai existants pour la manipulation robotique : RoboTwin, ManiSkill et LIBERO. Les résultats révèlent une dégradation systématique de la correspondance action-mouvement dès que la variation de contrôle augmente, ainsi que des défaillances structurelles dans l'ancrage des interactions et la modélisation de la dynamique. Ce constat contredit l'idée, répandue dans le secteur, que les modèles du monde généralistes pourraient déjà remplacer les moteurs physiques classiques pour entraîner des politiques VLA ou générer des données synthétiques à grande échelle. Les évaluations habituelles, centrées sur la qualité visuelle des vidéos générées ou le taux de réussite final d'une tâche, masquaient jusqu'ici ces défauts de causalité action-effet. Les signaux produits par WorldSimProbe restent néanmoins cohérents avec les jugements humains, ce qui en fait un outil diagnostique exploitable pour les laboratoires et intégrateurs qui envisagent ces simulateurs pour du planning ou de l'évaluation de politiques avant déploiement réel. Ce travail s'inscrit dans la montée en puissance des modèles du monde conditionnés par l'action comme alternative moins coûteuse aux simulateurs physiques traditionnels pour la robotique manipulative, une piste explorée en parallèle par plusieurs laboratoires d'IA incarnée. Jusqu'ici, l'essentiel des publications du domaine évaluait ces modèles à l'échelle du rollout complet, sans isoler la correspondance élémentaire entre une action donnée et le mouvement réellement induit. En s'appuyant sur trois bancs d'essai déjà utilisés pour l'apprentissage de politiques robotiques, les auteurs proposent un paradigme standardisé et reproductible, destiné à servir de test systématique pour tout nouvel ACWM revendiquant une utilité en planification ou en génération de données, plutôt qu'un simple générateur vidéo plausible.

RecherchePaper

1 source

3arXiv cs.RO

Analyse des capacités incarnées dans les modèles de langage multimodaux par évaluation et diagnostic par compétences

Une équipe de chercheurs a publié BEAR (Benchmark for Embodied Abilities and Reasoning), un cadre d'évaluation qui décompose les tâches robotiques en 14 compétences atomiques pour diagnostiquer les failles des grands modèles de langage multimodaux (MLLMs) embarqués. Le benchmark regroupe 4 469 échantillons entrelacés image-vidéo-texte couvrant 6 catégories, de la perception bas niveau jusqu'à la planification de haut niveau. Soumis à 20 MLLMs dont GPT-5, il révèle deux résultats principaux : les capacités perceptuelles constituent le principal goulot d'étranglement derrière les échecs de raisonnement, et les modèles présentent une modélisation spatiotemporelle instable qui restait invisible dans les benchmarks précédents. En réponse, les auteurs proposent BEAR-Agent, un agent multimodal augmenté d'outils de raisonnement visuel et spatial, qui obtient une amélioration relative de 17,5 % sur GPT-5 par rapport au modèle de base, avec des gains confirmés en simulation et en robotique réelle. L'intérêt de ce travail tient à la granularité du diagnostic. Les benchmarks existants mesurent si un agent réussit une tâche sans expliquer pourquoi. BEAR révèle que les modèles n'échouent pas d'abord sur le raisonnement abstrait, mais sur la perception : identifier des objets dans une scène, interpréter une séquence vidéo, localiser un élément dans l'espace. Ce résultat contredit l'hypothèse répandue selon laquelle les LLMs auraient comblé le déficit de compréhension scénique grâce à leur préentraînement massif. La découverte sur l'instabilité spatiotemporelle est particulièrement significative pour les intégrateurs déployant des VLA (Vision-Language-Action models) en environnement industriel : elle suggère que les performances observées en démonstration vidéo curatée ne reflètent pas la fiabilité opérationnelle réelle. Ce preprint arXiv (version 2, 2025) s'inscrit dans un effort plus large pour structurer l'évaluation des agents embarqués, là où des benchmarks comme EgoSchema ou OpenEQA traitent la compréhension incarnée sans diagnostiquer les sous-compétences. BEAR se distingue par ses expériences en environnements robotiques réels, contrairement aux approches purement simulées comme EmbodiedScan. Aucun acteur français ou européen n'est directement impliqué dans cette publication académique, qui émane vraisemblablement d'équipes universitaires asiatiques ou nord-américaines au vu de la page projet associée. La prochaine étape logique serait l'adoption de BEAR comme protocole standard dans les pipelines d'évaluation VLA avant tout déploiement physique.

RecherchePaper

1 source

4arXiv cs.RO

Une enquête complète et une évaluation systématique en conditions réelles de la navigation incarnée par vision et langage

Une nouvelle étude publiée sur arXiv (2607.09792v1) dresse un état des lieux complet de la navigation par vision et langage (VLN), cette capacité qui permet à un robot de comprendre une instruction en langage naturel et de s'orienter dans un environnement inconnu à partir de ses seules perceptions visuelles. Les auteurs classent les méthodes existantes selon deux axes indépendants : le paradigme d'action, qui distingue les architectures hiérarchiques des architectures monolithiques, et le paradigme de modèle, qui oppose les approches discriminatives aux approches génératives. Fait notable, l'étude ne se limite pas à une synthèse bibliographique : elle inclut une évaluation systématique en conditions réelles, menée sur une plateforme robotique physique dans dix scènes différentes. Les résultats chiffrés sont sans appel. Une méthode monolithique représentative, fonctionnant uniquement à partir d'images RGB, atteint 61% de réussite en simulation mais chute à seulement 22% lors des tests réels. À l'inverse, une architecture hiérarchique conserve un taux de succès de 51% en conditions réelles, un écart bien plus faible avec ses performances simulées. Pour l'industrie robotique, ce résultat vient confirmer un soupçon déjà répandu chez les intégrateurs : les scores impressionnants annoncés en simulation ne se transposent pas automatiquement sur le terrain, et l'écart simulation-réel reste un obstacle majeur, y compris pour des approches VLA jugées prometteuses sur le papier. La supériorité relative des architectures hiérarchiques suggère qu'une décomposition explicite des tâches, plutôt qu'un modèle unique bout-en-bout, apporte davantage de robustesse face aux aléas de perception et de contrôle du monde réel, un signal utile pour les décideurs B2B qui évaluent quelle famille d'architecture privilégier avant un déploiement. Ce travail s'inscrit dans un contexte de recherche en pleine expansion autour du VLN, porté par les progrès récents des modèles vision-langage-action, mais où les validations en environnement réel restaient jusqu'ici rares et dispersées. Les auteurs concluent en identifiant les verrous restants en matière de perception, de prise de décision et de contrôle, autant de pistes qu'ils appellent la communauté à approfondir dans les prochains travaux.

RecherchePaper

1 source