RecherchearXiv cs.RO 27 octobre 2026

RoboJev : un juge vision-langage ouvert pour détecter la réussite des robots

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

RoboJev-27B, un modèle vision-langage à poids ouverts, vise à répondre à une question simple que la plupart des vidéos de manipulation robotique laissent sans réponse : la tâche a-t-elle réussi ? Le modèle reçoit une consigne, 10 images d'une tentative et, si elles existent, les dernières images de caméras auxiliaires, puis prédit un succès ou un échec. Il dérive de JEV-27B-VL, ajusté par un adaptateur LoRA de rang 32 appliqué au seul modèle de langage (encodeur visuel gelé) sur 52 598 épisodes. Une pénalité KL propre à chaque source, appliquée uniquement aux données de recherche, garde ses prédictions proches du modèle d'origine. Une lecture calibrée sur deux tokens fournit des probabilités de succès et d'échec en une seule passe. Sur 268 épisodes mis de côté, enregistrés avec le même robot SO-101, il atteint 95,2 % de précision équilibrée et 0,993 d'AUROC. Sur des épisodes de laboratoires ou robots inconnus (459 épisodes), l'AUROC est de 0,890. Sur 135 épisodes communautaires clairement étiquetés, la précision est de 93,3 %. Le modèle de base atteint 0,900 d'AUROC sur le sous-ensemble inconnu avec les mêmes entrées.

Pour les équipes qui collectent des démonstrations ou évaluent des politiques, l'intérêt est avant tout économique. L'étiquetage manuel du succès est un goulot d'étranglement dans la curation de jeux de données et dans l'évaluation de politiques VLA. Un juge automatisé peut filtrer des épisodes bruités ou fournir un signal de récompense. Le coût d'inférence est faible : 0,26 seconde par épisode en médiane (en série) sur un seul H100, soit environ 0,19 dollar pour 1 000 prédictions à 2,69 dollars l'heure-GPU, hors traitement et diffusion des médias. Deux réserves s'imposent. Les chiffres sur laboratoires inconnus sont nettement inférieurs aux résultats sur le robot d'entraînement, ce qui indique une généralisation réelle mais partielle. Surtout, l'écart avec le modèle de base sur ce sous-ensemble (0,890 contre 0,900) laisse penser que le gain du réglage fin se concentre sur la distribution connue et qu'il ne se transfère pas aux robots inconnus.

Le contexte est celui d'une prolifération de données robotiques ouvertes, notamment issues de la communauté autour de bras bon marché comme le SO-101, souvent publiées sans étiquette de réussite fiable. Les auteurs publient le code d'inférence et 20 628 prédictions réparties en 29 entrées modèle/protocole, afin de permettre un étalonnage reproductible de la détection de succès. Ils comparent aussi RoboJev à des VLM propriétaires de pointe. Cette comparaison n'est pas équitable : ces derniers ne reçoivent que 4 images de la caméra principale, contre davantage d'images et de caméras pour RoboJev. Les résultats face aux modèles propriétaires sont donc à lire avec prudence. Il s'agit d'une publication de recherche et non d'un déploiement industriel : aucun pilote ni calendrier n'est annoncé.

Impact France/UE

Pas d\'impact direct sur la France/UE

Dans nos dossiers

Manipulation robotique

À lire aussi

1arXiv cs.RO

FailBench : les modèles vision-langage sont-ils fiables pour juger la réussite des tâches robotiques ?

Des chercheurs présentent FailBench, un benchmark conçu pour mesurer la fiabilité des modèles vision-langage (VLM) lorsqu'ils sont utilisés comme juges automatiques du succès ou de l'échec des tâches de manipulation robotique. L'ensemble compile 2 197 tentatives de manipulation issues de 14 sources publiques, dont 12 jeux de données réels et 2 simulés ; 75% des échecs y surviennent naturellement, sans être provoqués pour les besoins du test, et six des sources réelles ne sont pas conçues à l'origine pour la détection d'échec. Les auteurs évaluent 13 détecteurs basés sur des VLM : le meilleur modèle plafonne à seulement 0,77 de précision équilibrée moyenne, un score modeste pour une tâche de classification binaire réussite/échec. Fait notable, les modèles spécifiquement affinés (fine-tunes) pour la détection d'échec obtiennent des résultats systématiquement inférieurs à ceux des VLM généralistes et même à leurs propres versions pré-entraînées non spécialisées. Ce résultat questionne directement une hypothèse répandue dans l'écosystème des VLA (vision-language-action) et de la supervision automatisée de robots : que des modèles de fondation généralistes, une fois affinés sur des données spécialisées, deviennent mécaniquement de meilleurs juges de tâche. FailBench montre l'inverse, avec un écart de performance particulièrement marqué selon le type de tâche observée : les modèles approchent la saturation quand le succès dépend d'un mouvement d'objet visible et facilement observable, mais retombent près du niveau du hasard, sous 0,60 de précision équilibrée, sur des tâches d'assemblage à fort contact physique où l'échec n'est pas visuellement évident. Pour les intégrateurs et équipes qui envisagent d'automatiser la supervision qualité de lignes robotisées avec des VLM, à Nvidia le comportement de GR00T N2 ou d'autres pipelines VLA, ces chiffres suggèrent qu'une confiance aveugle dans un détecteur automatique reste risquée sur les tâches d'assemblage fin, précisément là où l'erreur coûte le plus cher en production. L'analyse d'erreur des auteurs révèle un biais systématique des modèles à prédire un succès par défaut lorsque la preuve visuelle est ambiguë, un biais qui persiste même en augmentant l'effort de raisonnement alloué au modèle, ce qui limite l'intérêt du simple scaling de compute au moment de l'inférence pour corriger ce défaut. En revanche, une intervention plus ciblée au niveau de l'entrée, la localisation spatiale et le recadrage automatique des régions de l'image pertinentes pour le résultat, améliore le meilleur détecteur de 2,4 points de pourcentage sans entraînement supplémentaire. FailBench s'inscrit dans une lignée de benchmarks cherchant à combler l'écart entre démonstrations en conditions contrôlées et fiabilité réelle des systèmes de perception robotique, un enjeu central alors que les VLM sont de plus en plus proposés comme couche de supervision autonome pour des flottes de robots manipulateurs en usine ou en entrepôt.

RecherchePaper

1 source

2arXiv cs.RO

VISOR : un oracle de test basé sur un modèle vision-langage pour tester les robots

Une équipe de chercheurs a présenté VISOR, un oracle de test automatisé pour la robotique basé sur des modèles vision-langage (VLM). Publiée sur arXiv (2605.10408), la méthode vise à résoudre ce que le domaine nomme le "problème de l'oracle de test" : déterminer automatiquement si un robot a accompli une tâche de manière correcte et avec une qualité suffisante. Jusqu'ici, deux approches coexistaient : les oracles symboliques, limités à des jugements binaires pass/fail et spécifiques à chaque tâche, et l'évaluation humaine manuelle, coûteuse, subjective et sujette aux erreurs. VISOR s'appuie sur GPT (OpenAI) et Gemini (Google) pour évaluer à la fois la correction et la qualité d'exécution, et pour quantifier son propre niveau d'incertitude lors des assessments. Le système a été validé sur plus de 1 000 vidéos couvrant quatre tâches robotiques distinctes. Les résultats montrent des profils contrastés : Gemini obtient un meilleur rappel (recall), identifiant davantage de vraies défaillances, tandis que GPT affiche une meilleure précision avec moins de faux positifs. Ces résultats nuancent l'idée d'un VLM universellement fiable comme juge de comportements robotiques. Plus problématique : les deux modèles présentent une faible corrélation entre leur score d'incertitude auto-déclaré et la correction réelle de leurs jugements. L'incertitude ne peut donc pas servir d'indicateur fiable pour filtrer les erreurs d'évaluation, ce qui est une limite directe pour tout déploiement en pipeline de test continu, où un tel signal de fiabilité serait précieux. Le "problème de l'oracle de test" est une problématique classique du génie logiciel, qui prend une dimension particulière en robotique physique : les comportements y sont continus, bruités et difficiles à formaliser symboliquement. L'approche VLM-as-judge, popularisée dans l'évaluation des LLMs textuels via des benchmarks comme MT-Bench ou AlpacaEval, est ici transposée à des sorties vidéo de robots, ce qui constitue une extension non triviale. Des travaux concurrents explorent des métriques spécifiques aux tâches ou des simulateurs avec vérification formelle, mais VISOR mise sur la généralité au détriment d'une calibration encore insuffisante. La prochaine étape identifiée par les auteurs est précisément d'améliorer cette corrélation incertitude-correction, condition nécessaire avant toute intégration dans un pipeline CI/CD robotique.

RecherchePaper

1 source

3arXiv cs.RO

Spa-Bench : un banc d'essai sur robot réel pour l'ancrage spatial des modèles vision-langage-action (VLA)

Spa-Bench, un benchmark sur robot réel publié sur arXiv (2610.12696), mesure la capacité des modèles vision-langage-action (VLA) à relier une description spatiale à un comportement physique adapté. Il couvre six tâches de table : état d'un objet, taille relative, description référentielle, placement relationnel, position ordinale et comptage. Les auteurs publient 4 092 épisodes collectés sur le bras SO-101, un bras open source à bas coût : 1 200 démonstrations téléopérées par des humains et 2 892 rollouts d'évaluation issus de cinq politiques VLA de pointe. Trois d'entre elles ont été évaluées intégralement. Leur taux de succès passe de 67,5-73,3 % sur les configurations spatiales vues à l'entraînement (ID) à 40,7-52,0 % sur les configurations hors distribution (OOD). Quatre conditions de diagnostic complètent le protocole. Elles testent l'exécution physique, la sensibilité à la formulation, les associations objet-tâche et la capacité à reconnaître qu'aucune action n'est requise. Le résultat clé tient à l'écart entre instruction spatiale et instruction directe. Lorsque la consigne nomme explicitement la cible, le succès remonte de 28,3 à 40,0 points de pourcentage. Les politiques savent donc souvent exécuter la manipulation demandée : le goulot d'étranglement est le raisonnement spatial, pas la dextérité. Pour les intégrateurs et les responsables d'ateliers, cela nuance les taux de succès agrégés habituellement cités. Ces chiffres mélangent changements d'objets, d'instructions et d'environnements, et masquent la fragilité sur des consignes comme « la deuxième boîte à gauche » ou « le plus petit objet ». Le protocole retire aussi deux explications faciles de l'échec, l'objet inconnu et le geste inconnu, puisque le support d'entraînement est conservé pour les objets, concepts et actions testés. Cela renforce la thèse d'un décalage entre la connaissance sémantique héritée du pré-entraînement vision-langage et son ancrage dans le monde physique. Ce travail s'inscrit dans la course aux VLA généralistes, où les modèles de type Pi-0, GR00T ou Helix sont surtout comparés sur des taux de réussite globaux. Spa-Bench propose une évaluation plus diagnostique, reproductible sur un matériel accessible, ce qui facilite son adoption par les laboratoires académiques et les équipes sans robots industriels. Les limites sont réelles : un seul bras, des tâches de table, un nombre restreint de politiques entièrement évaluées, et une publication en préprint sans relecture par les pairs. Le code, les vidéos et les données sont publiés sur le site du projet, ce qui devrait permettre à d'autres équipes de tester leurs propres modèles. La suite logique est l'intégration de ce type de tests spatiaux dans les évaluations standard des VLA, avant tout déploiement dans des environnements où l'ambiguïté des consignes est la norme.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

4arXiv cs.RO

Vision-Langage-Politique : un modèle pour la planification dynamique des tâches robotiques

Une équipe de recherche propose un nouveau modèle baptisé Vision-Language-Policy, ou VLP, destiné à la planification dynamique de tâches robotiques à partir de commandes en langage naturel. Décrit dans un article déposé sur arXiv (2512.19178, version révisée), le système s'appuie sur un modèle vision-langage affiné sur des données réelles, capable d'interpréter des instructions sémantiques et de raisonner sur la scène de travail observée pour générer directement des politiques de comportement pilotant le robot. Les auteurs ont testé leur approche sur plusieurs robots différents et sur une variété de tâches en conditions réelles, démontrant que le modèle peut ajuster sa stratégie en cours d'exécution lorsque les instructions changent, sans nécessiter de replanification complète. Des vidéos de démonstration sont disponibles sur robovlp.github.io. L'article ne précise pas de métriques chiffrées de type charge utile, degrés de liberté ou temps de cycle, ni de nom de robot commercial identifiable, ce qui limite l'évaluation de la performance réelle du système face aux standards du secteur. L'intérêt de ce travail réside dans la promesse de généralisation inter-incarnations, c'est-à-dire la capacité d'un même modèle à fonctionner sur des morphologies de robots différentes sans réentraînement spécifique à chaque plateforme. C'est l'un des points durs actuels de l'IA robotique, où les modèles VLA (vision-language-action) peinent souvent à transférer d'un bras ou d'un humanoïde à un autre. Si l'adaptabilité dynamique aux changements de consigne se confirme à plus grande échelle, cela répondrait à une limite classique des architectures de planification traditionnelles, qui séparent rigidement le raisonnement de haut niveau de l'exécution bas niveau et s'adaptent mal aux imprévus. Ce travail s'inscrit dans la lignée des modèles VLA récents comme Pi-0 ou GR00T N2, qui cherchent tous à unifier perception, langage et action dans un même modèle entraîné de bout en bout. Il s'agit ici d'une contribution académique, sans annonce de partenaire industriel ni de déploiement commercial, et la prudence reste de mise tant qu'une validation indépendante sur des benchmarks standardisés n'a pas été publiée.

RechercheActu

1 source