RecherchearXiv cs.RO 9 novembre 2026

Localisation et modification de la représentation de l'objectif dans un modèle vision-langage-action (VLA)

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs ont étudié si OpenVLA, un modèle vision-langage-action (VLA) open source, respecte des interdictions formulées en langage naturel, comme « ne pose pas le bol sur la cuisinière ». Le banc d'essai est LIBERO-Goal, dix tâches partageant la même scène, ce qui permet d'identifier sans ambiguïté le but réellement exécuté à chaque essai. Les auteurs combinent des essais en boucle fermée, du patching d'activations, des sondes linéaires, du pilotage d'activations (steering) et des moniteurs d'exécution. Résultat principal : la négation n'a pas d'effet détectable sur la tâche choisie. Le modèle exécute la tâche interdite dans 79 % des essais avec instruction négative, contre 78 % de réussite sur les instructions simples. Une sonde de but livre des lectures similaires pour « pas X » et « X ».

Le patching montre que la première action dépend surtout des tokens d'instruction avant la couche 12, puis du dernier token du prompt à partir de la couche 16. Un vecteur de steering fixe appliqué aux tokens d'instruction à la couche 8 redirige 12 essais sur 18. En revanche, des vecteurs fixes et des patchs de préremplissage (prefill) aux couches 12 à 20 n'en redirigent aucun sur 158. À partir de la couche 16, seuls des patchs appliqués à chaque token d'action décodé redirigent le robot, dans 15 essais sur 18 à la couche 24. Lorsque l'instruction change en cours d'essai, la lecture du but à la couche 32 détecte la non-conformité mieux que les détecteurs d'échec classiques. Une sonde externe sur les caractéristiques d'image et d'instruction fait à peu près aussi bien.

Pour les intégrateurs et les responsables sécurité, le message est direct : une contrainte exprimée comme une prohibition dans le prompt ne constitue pas une garantie. OpenVLA traite « ne fais pas X » comme une mention de X, un comportement connu des modèles de langage mais ici confirmé sur l'action physique. Les résultats plaident pour appliquer les interdictions en dehors de l'instruction, par exemple via un filtre d'actions ou un contrôle de la tâche autorisée, et pour comparer en continu la lecture du but interne à la spécification. Ils indiquent aussi que le but est encodé tôt, avant la couche 12, et qu'il est ensuite réinjecté à chaque pas de décodage, ce qui explique l'échec des modifications ponctuelles. Les limites sont nettes : un seul modèle, un seul banc de simulation à scène fixe, et des effectifs de redirection faibles (18 essais par condition). La généralisation à des VLA plus récents comme Pi-0 ou GR00T N2, ou à des scènes ouvertes, reste à démontrer.

Ce travail s'inscrit dans l'essor de l'interprétabilité mécaniste appliquée aux modèles robotiques, après des travaux similaires sur les grands modèles de langage. Les VLA sont déployés ou testés dans l'industrie sans mécanisme de sécurité éprouvé au niveau du langage. Les auteurs recommandent d'intervenir avant la couche 12 ou sur chaque token d'action, pistes qui restent à valider hors simulation. Il s'agit d'une prépublication arXiv, sans relecture par les pairs.

Dans nos dossiers

IA physique & VLA NVIDIA GR00T OpenVLA / RT-X arXiv cs.RO

À lire aussi

1arXiv cs.RO

Lost dans la reconstruction : aligner les représentations d'action et le langage dans les modèles vision-langage-action

Un article publié le 12 août 2026 sur arXiv (2608.10484) s'attaque à la tokenisation des trajectoires de mouvement dans les modèles vision-langage-action, ou VLA. Sur le jeu de données BridgeV2, les auteurs montrent que ces trajectoires portent des informations liées au sens des verbes d'instruction, au-delà des simples changements d'état visuel, et que les tokenizers classiques, entraînés à reconstruire le geste via des pertes L1/L2, effacent systématiquement cette information linguistique. Leur méthode, baptisée SALT pour Semantically ALigned action Tokenizer, ajoute à un tokenizer de type VQ-VAE un objectif auxiliaire: un modèle vision-langage figé doit retrouver l'instruction textuelle de l'épisode à partir des seuls latents d'action quantifiés. Sur le benchmark de simulation SimplerEnv, les politiques entraînées avec SALT atteignent 71,9% de réussite moyenne, contre 42,7% pour un VQ-VAE classique et 31,2% pour FAST. Ce résultat touche un choix de conception central pour toute la famille des VLA, celle qui sous-tend des systèmes comme Pi-0, GR00T ou Helix: comment découper des actions continues en tokens discrets avant l'entraînement. Jusqu'ici, la priorité allait à la fidélité de reconstruction du geste, sous l'hypothèse que minimiser l'erreur numérique suffisait à préserver le sens de l'instruction en langage naturel. L'écart de près de 30 points entre SALT et un VQ-VAE standard suggère qu'une part importante du sens se perd dès la tokenisation, indépendamment de la taille du modèle ou du volume de données. Pour les équipes qui construisent des politiques de contrôle conditionnées par le langage, obtenir un tel gain par un simple changement d'objectif d'entraînement du tokenizer, sans toucher à l'architecture principale, constitue un signal fort. Le travail s'inscrit dans le débat sur la tokenisation des actions robotiques, partagé entre les tokenizers de reconstruction type VQ-VAE et des approches comme FAST, développée par Physical Intelligence et utilisée dans la lignée Pi-0. SALT s'en distingue en conservant la fidélité de reconstruction tout en développant des codes discrets spécialisés par verbe d'action. Publié comme nouvelle soumission arXiv, le travail est validé uniquement en simulation via SimplerEnv, sans démonstration sur robot physique, laissant ouverte la question du transfert sim-to-real.

UEAucun acteur ni deploiement francais/europeen n'est implique; il s'agit d'un resultat de recherche generique pouvant interesser les equipes europeennes travaillant sur des modeles VLA.

RechercheOpinion

1 source

2arXiv cs.RO

PDRVLA : un modèle vision-langage-action (VLA) avec représentations de la dynamique physique

PDRVLA est un modèle vision-langage-action (VLA) présenté sur arXiv en version 1 (2610.37381), qui cherche à doter la génération d'actions robotiques d'une meilleure compréhension de la dynamique physique. Son cœur est un Physical Dynamics Module léger, qui extrait des « tokens physiques » à partir des représentations visuelles et linguistiques pour conditionner la génération d'actions, sans produire de vidéo en ligne. Le module apprend en prédisant directement les caractéristiques futures en RGB, en profondeur et en flux optique, avec une supervision auxiliaire fournie par un modèle de monde vidéo pré-entraîné figé. L'entraînement repose uniquement sur des données publiques, enrichies par synthèse humain-vers-robot, annotation de sous-tâches et annotation de chaîne de raisonnement incarnée (ECoT). Sur quatre benchmarks en simulation, les auteurs rapportent 99,3 % de succès sur LIBERO, 89,9 % sur LIBERO-Plus, 93,6 % sur RoboTwin 2.0 et 81,5 % sur SimplerEnv. L'enjeu est la latence. Les modèles de monde vidéo capturent bien la dynamique des scènes, mais générer des images futures à chaque pas insère un coût de calcul important dans la boucle de contrôle, ce qui pose problème pour un robot qui doit réagir en temps réel. PDRVLA propose de distiller ce savoir dynamique dans un module compact, utilisé seulement à l'entraînement pour la partie vidéo, et de garder une inférence rapide. Pour un intégrateur, c'est une piste crédible pour obtenir des politiques plus conscientes de la physique sans exiger une infrastructure GPU lourde à l'exécution. L'usage exclusif de données publiques facilite aussi la reproductibilité. Il faut toutefois relativiser les chiffres : un score de 99,3 % sur LIBERO indique surtout que ce benchmark est quasi saturé, et les résultats viennent exclusivement de simulation. Aucun test sur robot réel, ni mesure de latence ou de taille du modèle, n'est mentionné dans le résumé, ce qui laisse ouverte la question du transfert sim-to-real. Le gain de LIBERO-Plus, conçu pour tester la robustesse aux perturbations, est plus informatif que le score LIBERO classique. Ce travail s'inscrit dans la course des VLA, où des modèles comme Pi-0, GR00T ou Helix cherchent à généraliser à partir de grands volumes de démonstrations, tandis qu'une autre branche de la recherche mise sur les modèles de monde vidéo pour anticiper les conséquences des actions. PDRVLA tente un compromis entre les deux. Les ablations indiquent que la supervision par le modèle de monde améliore la prédiction du futur, et elles évaluent l'effet du conditionnement par sous-tâches, de la supervision de la pose future des objets et de l'entraînement ECoT sur le taux de réussite, sans que le résumé en détaille les gains. Les prochaines étapes naturelles seraient une validation sur matériel réel, une comparaison de latence face aux approches fondées sur la génération vidéo et une évaluation sur des tâches de manipulation plus longues et plus variées.

RecherchePaper

1 source

3arXiv cs.RO

SAM3D pour aligner les représentations centrées sur l'objet dans les modèles vision-langage-action

Cette recherche présente un cadre d'alignement de représentations 3D centré sur l'objet, appliqué au modèle vision-langage-action (VLA) $\pi0$. Les auteurs utilisent SAM3D, un modèle 3D figé servant de "professeur", pour injecter des connaissances géométriques sur les objets cibles pendant l'entraînement : les objets pertinents pour la tâche sont localisés via des modèles de reconnaissance, des masques sont générés, puis SAM3D en extrait des représentations 3D denses alignées avec les caractéristiques visuelles intermédiaires de $\pi0$. Fait notable, ce module 3D n'intervient qu'à l'entraînement : au moment de l'inférence, le pipeline reste purement RGB-langage-vers-action, sans besoin de profondeur, nuage de points, masques ou calculs SAM3D supplémentaires. Les résultats en simulation atteignent 99,1% de réussite sur le benchmark LIBERO et une longueur moyenne de tâches de 4,11 sur CALVIN, avec des gains confirmés en conditions réelles, notamment sur des scénarios de manipulation longue durée impliquant plusieurs sous-tâches et objets cibles différents. L'enjeu pour l'industrie robotique est la résolution d'un point faible connu des modèles VLA actuels : leur dépendance à des backbones vision-langage 2D qui peinent face à l'occlusion, aux variations de pose ou d'échelle, et aux interactions spatiales précises. En démontrant qu'on peut internaliser une compréhension 3D fine sans alourdir le pipeline de déploiement, ce travail répond à une critique récurrente du secteur : les architectures VLA génériques marchent bien en démo contrôlée mais échouent sur des tâches de manipulation fine en conditions réelles. Pour les intégrateurs et décideurs B2B, cela suggère une voie pour améliorer la robustesse des politiques de manipulation sans complexifier ni ralentir le matériel embarqué, un compromis critique pour le déploiement industriel à grande échelle de bras robotiques et de robots humanoïdes. Ce travail s'inscrit dans la lignée des modèles VLA construits sur $\pi_0$ (Physical Intelligence), déjà positionné comme concurrent direct des approches comme GR00T N2 de NVIDIA ou Helix de Figure AI dans la course à des politiques de manipulation généralistes. L'apport spécifique ici est méthodologique plutôt qu'un nouveau produit ou déploiement terrain : il s'agit d'une technique d'entraînement, testée pour l'instant en simulation (LIBERO, CALVIN) et en expérimentations réelles limitées, sans annonce de déploiement commercial ni de partenariat industriel. Les prochaines étapes attendues porteraient sur l'extension à d'autres backbones VLA et sur la validation à plus grande échelle en environnement réel, au-delà des bancs d'essai académiques actuels.

RecherchePaper

1 source

4arXiv cs.RO

Calibration de la confiance dans les modèles vision-langage-action (VLA)

Une étude disponible sur arXiv (2507.17383, désormais en version 3) examine un point rarement traité pour les modèles vision-langage-action (VLA). Ces modèles de fondation transforment des observations visuelles et des instructions en langage naturel en commandes moteur de bas niveau. Les auteurs présentent leur travail comme la première étude de la calibration de confiance sur ce type de modèle, c'est-à-dire de l'écart entre la probabilité de réussite que le robot s'attribue et sa réussite réelle. Ils établissent une base de référence pour l'estimation de confiance. Ils analysent le lien entre le taux de réussite des tâches et l'erreur de calibration, ainsi que l'évolution de cette erreur au fil de l'exécution. Face à la mauvaise calibration observée, ils proposent deux correctifs légers. Le premier est un ensemble de prompts, qui consiste à reformuler une même consigne de plusieurs façons. Le second est un Platt scaling par action, un recalibrage logistique appliqué séparément à chaque dimension de commande. Le résumé ne donne ni les modèles testés, ni les gains chiffrés, ni les conditions expérimentales (simulation ou robot réel). Toute conclusion quantitative suppose donc de lire l'article complet. L'enjeu est très concret pour un intégrateur ou un responsable d'exploitation. Un robot qui réussit 80 % de ses tâches mais ne sait pas prédire ses échecs est difficile à déployer, car rien ne permet de déclencher à temps une reprise, un arrêt ou un appel à l'opérateur. Le taux de succès affiché en démonstration ne dit rien de cette capacité d'auto-évaluation, qui conditionne pourtant la supervision et la sécurité. Le caractère « léger » des méthodes est intéressant, puisqu'il suggère de pouvoir améliorer des VLA existants sans les réentraîner. L'analyse temporelle compte aussi pour les tâches longues, où les erreurs s'accumulent. Il s'agit toutefois de recherche académique, sans validation en production ni preuve que ces techniques tiennent sur des flottes réelles. Le travail s'inscrit dans la montée en puissance des VLA, de RT-2 et OpenVLA jusqu'aux modèles industriels comme Pi-0, Helix ou GR00T. Leur capacité d'action progresse plus vite que les outils pour mesurer leur fiabilité. La quantification d'incertitude est mieux établie pour les grands modèles de langage, et cette étude en transpose les principes à la robotique. Les suites logiques sont de tester ces méthodes sur des tâches longues en conditions réelles, de les relier à des politiques de repli, et de les comparer à d'autres approches comme la prédiction conforme.

RecherchePaper

1 source