Embodied3DBench : évaluation de l'intelligence…

1arXiv cs.RO

ESI-Bench : vers une intelligence spatiale incarnée qui boucle la perception et l'action

Une équipe de chercheurs a publié ESI-Bench, un benchmark dédié à l'intelligence spatiale incarnée (embodied spatial intelligence), conçu pour évaluer la capacité des agents artificiels à fermer la boucle perception-action. Le benchmark, construit sur le simulateur OmniGibson, couvre 10 catégories de tâches et 29 sous-catégories, ancrées dans les systèmes de connaissances fondamentales de la psychologue Elizabeth Spelke (objets, agents, nombre, géométrie). Contrairement aux benchmarks classiques qui fournissent des observations "oracle" figées, ESI-Bench exige que l'agent décide lui-même quelles capacités mobiliser, perception, locomotion, manipulation, et dans quel ordre, pour accumuler activement les informations pertinentes à la tâche. Les expériences menées sur les modèles multimodaux de pointe (MLLMs) révèlent un écart significatif entre exploration active et observation passive : les agents qui choisissent leurs points de vue surpassent nettement leurs homologues passifs. Fait notable, ces agents développent spontanément des stratégies spatiales émergentes sans instruction explicite. En revanche, l'acquisition multi-vues aléatoire dégrade souvent les performances en ajoutant du bruit plutôt que du signal, malgré un volume d'images bien supérieur. L'étude identifie une cause principale d'échec qu'elle nomme "action blindness" : de mauvais choix d'action produisent de mauvaises observations, qui induisent à leur tour des erreurs en cascade. Autre résultat contre-intuitif : une représentation 3D imparfaite se révèle plus nuisible qu'une baseline 2D, car elle distord les relations spatiales au lieu de les clarifier. Les auteurs documentent également un écart métacognitif net par rapport aux humains : là où un opérateur humain cherche activement des angles réfutant son hypothèse et révise ses croyances face à une contradiction, les modèles s'engagent prématurément avec une confiance élevée indépendamment de la qualité des preuves disponibles. ESI-Bench s'inscrit dans une vague de travaux cherchant à dépasser les limites des benchmarks statiques pour robots et agents incarnés, notamment VQA-3D, ScanQA ou EmbodiedScan, qui évaluent la compréhension spatiale sans boucle de rétroaction motrice. La dépendance à OmniGibson implique que les résultats restent pour l'instant confinés à la simulation, et le gap sim-to-real, déjà central dans les débats sur les VLA comme Pi-0 (Physical Intelligence) ou GR00T N2 (NVIDIA), n'est pas adressé ici. Ce benchmark ne teste pas de robots physiques déployés mais des MLLMs dans un environnement simulé. Les prochaines étapes naturelles incluront le transfert vers des plateformes réelles et l'intégration de politiques de manipulation close-loop pour valider si les stratégies émergentes observées en simulation tiennent face aux incertitudes du monde physique.

RecherchePaper

1 source

2arXiv cs.RO

IA incarnée : jeu de données de graphes de scène spatiaux pour l'évaluation de modèles vision-langage sur des trajectoires de manipulation robotique

Traduction avec le style demandé, en 3 paragraphes fluides sans titres. Une équipe de recherche présente EmbodimentSemantic, un jeu de données et un benchmark conçus pour évaluer la capacité des modèles vision-langage-action (VLA) à comprendre l'organisation spatiale des scènes en robotique manipulatrice. Le dataset représente chaque scène sous forme de graphe orienté objet-relation-objet, où chaque triplet encode une relation spatiale précise (support, contenance, ordre, occlusion, profondeur) entre deux objets. Il combine des observations réelles collectées avec le bras robotique low-cost SO101, accompagnées de graphes de scène générés automatiquement, ainsi qu'un benchmark simulé bâti sur l'environnement LIBERO comptant plus de 60 000 images de manipulation et plus de 120 000 graphes de scène spécifiques à chaque caméra, couvrant à la fois des vues à la troisième personne et des vues embarquées au poignet. Dans ce volet simulé, les relations de référence sont dérivées automatiquement de la géométrie MuJoCo, des coordonnées monde, des projections caméra et des contraintes de visibilité, ce qui garantit une annotation fiable sans intervention humaine. Ce travail met le doigt sur une faiblesse structurelle des systèmes VLA actuels: si ces modèles savent reconnaître des objets et suivre des instructions en langage naturel, ils peinent à représenter explicitement comment ces objets sont disposés les uns par rapport aux autres, en particulier sur les relations dépendantes de la profondeur ou du point de vue. Les expériences menées sur des VLM open source et commerciaux montrent que les modèles prédisent souvent des relations plausibles mais échouent sur la structure spatiale exacte, un écart qui rejoint le constat plus large d'un fossé entre démonstrations impressionnantes et robustesse réelle en conditions de manipulation. Pour les intégrateurs et équipes R&D, ce résultat suggère que l'injection explicite de graphes de scène dans les prompts des politiques VLA pourrait améliorer le contrôle en aval, une piste que les auteurs testent directement dans leurs expériences. EmbodimentSemantic s'inscrit dans la lignée des efforts récents visant à combler l'écart entre perception sémantique et contrôle moteur chez les modèles de type Pi-0, GR00T N2 ou Helix, qui reposent tous sur une compréhension fine de la géométrie de la scène pour planifier des trajectoires de manipulation fiables. En proposant un cadre unifié et reproductible pour diagnostiquer le grounding spatial, à la fois en environnement réel low-cost et en simulation contrôlée, les auteurs offrent un outil de benchmarking que les laboratoires de robotique pourront utiliser pour comparer objectivement leurs architectures VLA sur ce point précis, plutôt que de se fier aux seules démonstrations vidéo souvent sélectives des annonces commerciales.

RecherchePaper

1 source

3arXiv cs.RO

TriWorldBench : une évaluation de la cohérence tri-vue des modèles du monde incarnés

Une équipe de recherche a publié sur arXiv, en septembre 2026, TriWorldBench, un banc d'essai évaluant les modèles de monde incarnés, ces systèmes qui prédisent le résultat des actions d'un robot pour l'aider à apprendre et planifier. L'outil compare trois flux vidéo synchronisés plutôt que de les juger séparément : la caméra de tête, qui capture la tâche globale, et les caméras de poignet gauche et droite, qui filment l'interaction entre la pince et l'objet. Le jeu de données couvre 500 épisodes sur 50 tâches de manipulation bimanuelle, notées par 19 métriques : cohérence entre vues, alignement avec la tâche, cohérence physique et 3D, qualité du mouvement, stabilité temporelle et qualité visuelle. Un score global, le TWB-Score, résume ces résultats tout en gardant le détail par vue pour localiser les échecs. Code, données et métriques sont publiés en libre accès sur GitHub. Cette approche comble une lacune : jusqu'ici, un modèle pouvait générer une vidéo de tête plausible et des vidéos de poignet tout aussi convaincantes sans qu'aucune métrique ne vérifie si elles décrivent la même action et le même état de l'objet. Pour les équipes qui développent des modèles vision-langage-action et des politiques bimanuelles combinant caméra de tête et caméras de poignet, ce contrôle croisé devient un critère de fiabilité avant tout déploiement. Le benchmark rappelle qu'une vidéo visuellement convaincante n'équivaut pas à une prédiction de monde cohérente, un écart que l'industrie robotique doit désormais mesurer plutôt que supposer. L'essor des modèles de monde incarnés accompagne la multiplication des architectures robotiques associant caméra globale et caméras embarquées sur les pinces, utilisées pour entraîner et planifier des manipulations fines. Jusqu'ici, les benchmarks jugeaient la qualité visuelle vue par vue sans vérifier leur cohérence mutuelle, un angle mort que TriWorldBench comble explicitement. En publiant code, données et métriques en open source, ses auteurs proposent moins un produit commercial qu'un étalon commun destiné aux laboratoires et entreprises qui développent des modèles de monde ou des politiques vision-langage-action. Le texte ne précise ni affiliation industrielle ni calendrier de déploiement : il s'agit pour l'instant d'un outil de recherche visant à structurer l'évaluation d'un domaine encore jeune.

RecherchePaper

1 source

4arXiv cs.RO

Spa-Bench : un banc d'essai sur robot réel pour l'ancrage spatial des modèles vision-langage-action (VLA)

Spa-Bench, un benchmark sur robot réel publié sur arXiv (2610.12696), mesure la capacité des modèles vision-langage-action (VLA) à relier une description spatiale à un comportement physique adapté. Il couvre six tâches de table : état d'un objet, taille relative, description référentielle, placement relationnel, position ordinale et comptage. Les auteurs publient 4 092 épisodes collectés sur le bras SO-101, un bras open source à bas coût : 1 200 démonstrations téléopérées par des humains et 2 892 rollouts d'évaluation issus de cinq politiques VLA de pointe. Trois d'entre elles ont été évaluées intégralement. Leur taux de succès passe de 67,5-73,3 % sur les configurations spatiales vues à l'entraînement (ID) à 40,7-52,0 % sur les configurations hors distribution (OOD). Quatre conditions de diagnostic complètent le protocole. Elles testent l'exécution physique, la sensibilité à la formulation, les associations objet-tâche et la capacité à reconnaître qu'aucune action n'est requise. Le résultat clé tient à l'écart entre instruction spatiale et instruction directe. Lorsque la consigne nomme explicitement la cible, le succès remonte de 28,3 à 40,0 points de pourcentage. Les politiques savent donc souvent exécuter la manipulation demandée : le goulot d'étranglement est le raisonnement spatial, pas la dextérité. Pour les intégrateurs et les responsables d'ateliers, cela nuance les taux de succès agrégés habituellement cités. Ces chiffres mélangent changements d'objets, d'instructions et d'environnements, et masquent la fragilité sur des consignes comme « la deuxième boîte à gauche » ou « le plus petit objet ». Le protocole retire aussi deux explications faciles de l'échec, l'objet inconnu et le geste inconnu, puisque le support d'entraînement est conservé pour les objets, concepts et actions testés. Cela renforce la thèse d'un décalage entre la connaissance sémantique héritée du pré-entraînement vision-langage et son ancrage dans le monde physique. Ce travail s'inscrit dans la course aux VLA généralistes, où les modèles de type Pi-0, GR00T ou Helix sont surtout comparés sur des taux de réussite globaux. Spa-Bench propose une évaluation plus diagnostique, reproductible sur un matériel accessible, ce qui facilite son adoption par les laboratoires académiques et les équipes sans robots industriels. Les limites sont réelles : un seul bras, des tâches de table, un nombre restreint de politiques entièrement évaluées, et une publication en préprint sans relecture par les pairs. Le code, les vidéos et les données sont publiés sur le site du projet, ce qui devrait permettre à d'autres équipes de tester leurs propres modèles. La suite logique est l'intégration de ce type de tests spatiaux dans les évaluations standard des VLA, avant tout déploiement dans des environnements où l'ambiguïté des consignes est la norme.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

Embodied3DBench : évaluation de l'intelligence spatiale incarnée à bas niveau des modèles vision-langage

À lire aussi

ESI-Bench : vers une intelligence spatiale incarnée qui boucle la perception et l'action

IA incarnée : jeu de données de graphes de scène spatiaux pour l'évaluation de modèles vision-langage sur des trajectoires de manipulation robotique

TriWorldBench : une évaluation de la cohérence tri-vue des modèles du monde incarnés

Spa-Bench : un banc d'essai sur robot réel pour l'ancrage spatial des modèles vision-langage-action (VLA)