RecherchearXiv cs.RO 23 septembre 2026

IndustrialVLA-Bench : une évaluation traçable multi-axes des modèles de politique robotique ouverts

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

IndustrialVLA-Bench, publié en septembre 2026 sur arXiv (2609.25562) avec le code sur GitHub (xiaoqi-7/IndustrialVLA-Bench), compare six systèmes de politiques robotiques open source sous un protocole de rapport unifié. Il oppose les vision-language-action models (VLA), qui associent observations et instructions à des actions, aux world-action models (WAM), qui intègrent une dynamique du monde apprise dans la génération d'actions, et les teste sur trois volets LIBERO : capacité brute, robustesse à des perturbations non linguistiques (LIBERO-Plus) et sensibilité à la formulation des consignes (LIBERO-Para). Les six systèmes ne s'écartent que de 1,58 point en moyenne sur les tâches propres de LIBERO, contre 14,62 points en robustesse et 31,08 points en sensibilité aux paraphrases, un écart qui persiste (1,36, 14,62 et 23,10 points) en ne retenant que les trois systèmes jugés fidèles au protocole d'origine, les autres reposant sur des reproductions partielles ou une vérification encore en attente.

Ce travail chiffre un problème que le secteur pressentait sans le mesurer : les VLA et WAM publiés sont généralement comparés sous des protocoles différents, ce qui rend leurs classements peu exploitables pour un intégrateur devant choisir une pile logicielle. Que les scores en conditions contrôlées soient quasi identiques d'un système à l'autre, alors que les écarts explosent dès qu'on introduit du bruit visuel ou une reformulation de consigne, confirme empiriquement l'hypothèse d'un fossé entre démonstration et usage réel : la capacité brute ne prédit ni la robustesse ni la compréhension du langage sur le terrain. Pour un décideur B2B, un score LIBERO flatteur ne garantit donc rien en atelier, où l'éclairage varie et les consignes orales ne se répètent jamais à l'identique.

IndustrialVLA-Bench s'appuie sur LIBERO, référence académique pour l'évaluation de la manipulation pilotée par le langage, et y ajoute les variantes de robustesse et de paraphrase déjà proposées séparément dans la littérature récente pour bâtir un protocole de comparaison commun. L'article ne dévoile pas l'identité des six systèmes testés, mais s'inscrit dans un paysage où des VLA comme Pi-0 de Physical Intelligence ou GR00T N2 de NVIDIA rivalisent avec des architectures world-action pour équiper des robots industriels ; aucun acteur français ou européen n'apparaît dans cette évaluation. Les auteurs publient code et journaux d'évaluation complets sur GitHub, une transparence qui pourrait pousser les prochains lancements à publier des mesures de robustesse, et pas seulement des scores de capacité en conditions favorables.

Dans nos dossiers

NVIDIA GR00T Physical Intelligence — π0 arXiv cs.RO

À lire aussi

1arXiv cs.RO

RoboTrustBench : évaluation de la fiabilité des modèles du monde vidéo pour la manipulation robotique

Une équipe de recherche a publié en juin 2026 RoboTrustBench (arXiv:2606.01600), un benchmark conçu spécifiquement pour évaluer la fiabilité des modèles vidéo du monde (video world models) appliqués à la manipulation robotique. Le jeu d'évaluation repose sur des épisodes réels issus du dataset DROID et comprend 1 207 paires instruction-image validées par des experts. Les modèles sont soumis à quatre scénarios progressivement contraignants : Normal (instructions valides et réalisables), Constraint-Sensitive (contraintes environnementales ou physiques), Counterfactual (états initiaux impossibles ou contradictoires) et Adversarial (instructions non sûres ou malveillantes). Le protocole d'évaluation s'articule autour de six dimensions et 13 critères fins, et mobilise à la fois des annotateurs humains et des MLLM (multimodal large language models) comme juges. Sept modèles vidéo représentatifs ont été évalués dans ce cadre. Les résultats révèlent une dissociation nette entre qualité visuelle et fiabilité opérationnelle : les modèles produisent des vidéos cohérentes en apparence, mais échouent sur le raisonnement sous contrainte, l'ancrage contrefactuel, les interactions physiques plausibles et, fait plus préoccupant, la suppression d'instructions non sûres. Pour les intégrateurs et les équipes robotique qui utilisent ces modèles comme simulateurs de planification ou comme oracles de vérification, cela signifie qu'une métrique de qualité vidéo seule ne peut pas servir de proxy de confiance. La capacité à rejeter une instruction dangereuse ou physiquement impossible est un prérequis de déploiement industriel que les architectures actuelles ne satisfont pas. Les video world models ont pris une place croissante dans la recherche en robotique depuis 2024, avec des travaux comme UniSim, DIAMOND ou Genie, qui les positionnent comme substituts légers de simulateurs physiques pour l'entraînement et la planification. DROID, le dataset sous-jacent de RoboTrustBench, est l'une des collections de trajectoires de manipulation réelles les plus utilisées en recherche académique. L'absence de benchmark centré sur la robustesse adversariale et les cas limites physiques était identifiée comme un angle mort du domaine. RoboTrustBench comble ce manque, mais la publication ne présente pas de modèle amélioré ni de solution : elle caractérise le problème et fournit l'infrastructure d'évaluation pour orienter les prochains travaux de fine-tuning ou d'alignement de ces modèles sur des critères de sûreté.

RecherchePaper

1 source

2arXiv cs.RO

TriWorldBench : une évaluation de la cohérence tri-vue des modèles du monde incarnés

Une équipe de recherche a publié sur arXiv, en septembre 2026, TriWorldBench, un banc d'essai évaluant les modèles de monde incarnés, ces systèmes qui prédisent le résultat des actions d'un robot pour l'aider à apprendre et planifier. L'outil compare trois flux vidéo synchronisés plutôt que de les juger séparément : la caméra de tête, qui capture la tâche globale, et les caméras de poignet gauche et droite, qui filment l'interaction entre la pince et l'objet. Le jeu de données couvre 500 épisodes sur 50 tâches de manipulation bimanuelle, notées par 19 métriques : cohérence entre vues, alignement avec la tâche, cohérence physique et 3D, qualité du mouvement, stabilité temporelle et qualité visuelle. Un score global, le TWB-Score, résume ces résultats tout en gardant le détail par vue pour localiser les échecs. Code, données et métriques sont publiés en libre accès sur GitHub. Cette approche comble une lacune : jusqu'ici, un modèle pouvait générer une vidéo de tête plausible et des vidéos de poignet tout aussi convaincantes sans qu'aucune métrique ne vérifie si elles décrivent la même action et le même état de l'objet. Pour les équipes qui développent des modèles vision-langage-action et des politiques bimanuelles combinant caméra de tête et caméras de poignet, ce contrôle croisé devient un critère de fiabilité avant tout déploiement. Le benchmark rappelle qu'une vidéo visuellement convaincante n'équivaut pas à une prédiction de monde cohérente, un écart que l'industrie robotique doit désormais mesurer plutôt que supposer. L'essor des modèles de monde incarnés accompagne la multiplication des architectures robotiques associant caméra globale et caméras embarquées sur les pinces, utilisées pour entraîner et planifier des manipulations fines. Jusqu'ici, les benchmarks jugeaient la qualité visuelle vue par vue sans vérifier leur cohérence mutuelle, un angle mort que TriWorldBench comble explicitement. En publiant code, données et métriques en open source, ses auteurs proposent moins un produit commercial qu'un étalon commun destiné aux laboratoires et entreprises qui développent des modèles de monde ou des politiques vision-langage-action. Le texte ne précise ni affiliation industrielle ni calendrier de déploiement : il s'agit pour l'instant d'un outil de recherche visant à structurer l'évaluation d'un domaine encore jeune.

RecherchePaper

1 source

3arXiv cs.RO

RMBench : évaluation robotique des tâches dépendantes de la mémoire et implications pour la conception des politiques

La plupart des politiques de manipulation robotique développées ces dernières années accordent peu d'attention à la mémoire, ce qui les empêche de résoudre des tâches nécessitant un raisonnement sur des observations passées ou le maintien d'informations pertinentes dans la durée, deux exigences pourtant courantes en conditions réelles. Pour combler ce manque, une équipe de recherche présente RMBench, un benchmark de simulation composé de 9 tâches de manipulation couvrant plusieurs niveaux de complexité mémorielle, permettant d'évaluer systématiquement les capacités de mémoire des politiques robotiques. Les chercheurs proposent également Mem-0, une politique de manipulation modulaire dotée de composants de mémoire explicites, conçue pour permettre des études d'ablation contrôlées. Le travail s'appuie à la fois sur des expériences en simulation et en conditions réelles, et le site du projet est accessible à l'adresse rmbench.github.io. Ce travail est significatif car il met le doigt sur un angle mort persistant du secteur de la manipulation robotique par apprentissage : les modèles vision-langage-action (VLA) et autres politiques d'imitation progressent vite sur des tâches ponctuelles, mais la capacité à raisonner sur un historique d'observations, condition nécessaire pour de nombreuses tâches industrielles réelles comme le tri, l'assemblage séquentiel ou la manipulation d'objets partiellement occultés, reste peu testée et mal comprise. En fournissant un cadre d'évaluation standardisé plutôt que des démonstrations isolées, RMBench permet de distinguer les architectures qui gèrent réellement la mémoire de celles qui exploitent des raccourcis propres à un jeu de données, une nuance cruciale pour les intégrateurs qui évaluent la fiabilité d'une politique avant déploiement. Plusieurs politiques dites "memory-aware" avaient déjà été proposées dans la littérature, mais sans évaluation systématique ni compréhension claire du lien entre choix d'architecture et performance mémorielle. RMBench et Mem-0 s'inscrivent dans cette lignée de recherche en offrant un terrain de comparaison commun. Les auteurs indiquent avoir identifié, via leurs expériences, des limites mémorielles concrètes dans les politiques existantes, et fournissent des enseignements empiriques sur les choix de conception à privilégier. La publication constitue une révision (v3) d'un article déjà déposé sur arXiv, signe d'itérations successives avant une possible soumission à une conférence de robotique ou d'apprentissage automatique.

RecherchePaper

1 source

4arXiv cs.RO

RoboVista : évaluation des modèles vision-langage pour diverses applications robotiques

Les chercheurs à l'origine de ce travail publient RQA (Robot Question Answering), un cadre d'évaluation modulaire, et RoboVista, un benchmark associé conçu pour tester les modèles vision-langage (VLM) sur des tâches robotiques réelles. RoboVista rassemble 474 instances de questions-réponses visuelles annotées manuellement par des experts, couvrant 39 types de tâches distincts répartis sur l'agriculture, l'industrie, la robotique domestique, la chirurgie assistée, la conduite autonome et divers jeux de données robotiques ouverts. Les données proviennent de systèmes robotiques réels, d'articles de recherche et d'annotations expertes, plutôt que des habituels jeux de données téléopérés de bout en bout. Les expérimentations menées par l'équipe montrent que les VLM de pointe actuels présentent des écarts de performance substantiels sur ces tâches, et des essais complémentaires sur robots physiques révèlent une corrélation forte entre les scores obtenus sur RoboVista et la réussite effective des tâches en conditions réelles. Pour les intégrateurs et décideurs qui évaluent l'usage de VLM comme brique de raisonnement pour des robots polyvalents, ce travail apporte un signal utile: les benchmarks classiques, souvent bâtis sur de la téléopération bout en bout, masquent des lacunes de raisonnement modulaire (perception, planification, décision) que RoboVista rend visibles composant par composant. Le fait que la corrélation avec la performance en conditions réelles soit confirmée par des essais physiques renforce la crédibilité de l'outil comme prédicteur, et non simple exercice académique déconnecté du terrain. Cela vient tempérer l'enthousiasme actuel autour des architectures VLA (vision-language-action) génériques: disposer d'un modèle capable de décrire une scène ne garantit pas qu'il raisonne correctement sur les contraintes physiques et séquentielles propres à chaque secteur, de l'agriculture à la chirurgie. Ce travail s'inscrit dans une lignée de critiques adressées aux benchmarks robotiques existants, jugés trop dépendants de démonstrations téléopérées qui capturent mal la structure de décision sous-jacente aux comportements robotiques. En proposant une décomposition modulaire via le format question-réponse, RQA se positionne comme une alternative complémentaire aux suites d'évaluation end-to-end dominantes dans le secteur, à mesure que les VLM et les architectures VLA gagnent du terrain comme fondation du raisonnement robotique généraliste. La publication ne précise pas de calendrier de mise à disposition publique du benchmark ni d'intégration dans des pipelines industriels existants, mais elle ouvre la voie à des évaluations plus fines des futurs modèles vision-langage déployés sur des flottes robotiques réelles, au-delà des seules démonstrations vidéo.

RecherchePaper

1 source