RecherchearXiv cs.RO 27 octobre 2026

JevVLA : adaptation à base d'énergie inspirée de Jev pour les politiques vision-langage-action

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

JevVLA est un cadre d'adaptation léger pour les politiques vision-langage-action (VLA), publié sur arXiv (2610.35010) par une équipe dont le dépôt GitHub, ZJU4EmbodiedAI, suggère un rattachement à l'université du Zhejiang. La politique de base reste gelée. Les auteurs entraînent par-dessus un modèle à énergie, c'est-à-dire un réseau qui attribue un score scalaire différentiable à une action selon l'observation et le contexte de la tâche. L'apprentissage s'appuie sur le retour d'exécution, des corrections d'experts ou des préférences dérivées de démonstrations. Ce score sert de deux façons. Pour le pick-and-place, il classe des candidats discrets. Pour le contrôle de mouvement, son gradient corrige ou guide des séquences d'actions continues. Le même noyau, d'environ 80 000 paramètres, gère les deux cas, avec des poids entraînés séparément pour chaque benchmark. Les gains de taux de succès sur les jeux de test sont de 1,28 point sur MetaWorld MT50, 2,31 sur VIMA, 1,60 sur LanguageTable, 1,52 sur LIBERO Plus et 1,28 sur CLIPort. Le code doit être publié en open source, mais il ne l'est pas encore.

L'intérêt est d'abord d'ingénierie. Une couche de 80 000 paramètres, face aux milliards d'une politique de base, se greffe sans réentraîner ni dégrader ce qu'elle sait déjà faire. C'est une piste pour les intégrateurs qui veulent corriger un VLA sur un site précis sans toucher au modèle d'origine. Les résultats restent toutefois modestes. Des gains de 1 à 2 points sont proches de ce que peut produire la variance d'entraînement. Le résumé ne précise ni le nombre de graines ni les intervalles de confiance. Tout est évalué en simulation, aucun robot physique n'est cité, et les comparaisons portent sur des contrôles de base appariés. Cela ne dit rien de l'écart entre simulation et réel, ni de la robustesse hors distribution. Le texte ne livre pas non plus de coût de latence à l'inférence. Or le guidage par gradient ajoute des calculs à chaque pas de contrôle.

Le travail s'inscrit dans le courant des méthodes d'adaptation légères des VLA, qui cherchent des alternatives au réglage fin complet ou aux adaptateurs de type LoRA, et il reprend l'idée du modèle à énergie utilisé comme vérificateur ou guide. Le nom fait référence à Jev, un modèle de décision probabiliste de TypeSafe. L'inspiration est donc conceptuelle, et le papier ne présente pas de reprise du modèle lui-même. La suite dépendra de la publication du code, de validations sur robot réel et de comparaisons directes avec les autres méthodes d'adaptation sur des politiques de référence.

Dans nos dossiers

IA physique & VLA arXiv cs.RO

À lire aussi

1arXiv cs.RO

SWAP : routage pas à pas de politiques d'action pour les modèles vision-langage-action (VLA)

Des chercheurs publient sur arXiv (2610.06926) SWAP, pour StepWise Action Policy Routing, un cadre qui compose dynamiquement plusieurs politiques Vision-Language-Action (VLA) pendant l'exécution d'une tâche de manipulation. Aujourd'hui, la plupart des systèmes reposent sur un seul modèle VLA du début à la fin d'un épisode. SWAP formule le routage comme un problème d'apprentissage par renforcement hors ligne : un « critique de routage » est entraîné à choisir, à chaque pas de décision et selon l'observation courante, la politique la plus adaptée. Le robot peut ainsi changer de politique en cours d'épisode. L'évaluation porte sur des tâches réelles de manipulation sur la plateforme DROID et sur des simulations LIBERO. Face à l'exécution d'une politique fixe et à des méthodes de routage de référence, les auteurs annoncent jusqu'à 33 points de succès supplémentaires en conditions réelles, et une réduction de 28,3 % du nombre de pas d'action des trajectoires réussies. L'enjeu dépasse la performance brute. Le travail s'attaque à une limite que les intégrateurs constatent déjà : aucun VLA n'est le meilleur partout, et les performances varient selon la phase de la tâche et l'environnement. Au lieu d'attendre un modèle généraliste unique, SWAP traite les VLA existants comme une boîte à outils orchestrable, sans réentraîner chacun d'eux. Pour un industriel, cela suggère une voie pragmatique : combiner des politiques spécialisées ou de fournisseurs différents, et ne payer que pour la politique utile à chaque étape. La baisse de la longueur des trajectoires laisse aussi entrevoir un gain de temps de cycle, mais il s'agit d'un nombre de pas d'action, pas d'une durée mesurée en atelier. Il faut aussi rester prudent sur les chiffres : le « jusqu'à 33 % » correspond au meilleur cas, et l'abstract ne précise ni le nombre de tâches ni la taille des échantillons, ni les politiques combinées. Ce résultat s'inscrit dans la course aux modèles fondation pour la manipulation, où des VLA comme Pi-0, GR00T ou Helix sont généralement présentés comme des systèmes autonomes. Le routage entre politiques prolonge les approches de mélange d'experts, mais à l'échelle de politiques complètes et de manière apprise hors ligne. DROID, jeu de données et plateforme de manipulation très utilisé, et LIBERO, banc d'essai en simulation, servent de référence commune, ce qui facilite la comparaison. Il s'agit d'une prépublication v1 non évaluée par les pairs, sans déploiement industriel annoncé. Les prochaines étapes à surveiller : la publication du code, la robustesse du critique face à des environnements inédits, et la latence ajoutée par le routage à chaque pas de décision.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

2arXiv cs.RO

PAPO-VLA : une optimisation de politique adaptée à la planification pour les modèles vision-langage-action

Des chercheurs ont publié en mai 2026 sur arXiv (2605.19580) PAPO-VLA, une méthode d'optimisation pour les modèles Vision-Language-Action (VLA) appliqués à la manipulation robotique guidée par le langage naturel. L'observation centrale est qu'une politique VLA opère en boucle fermée : chaque action modifie l'état de la scène et conditionne toutes les décisions suivantes, ce qui rend une erreur de planification particulièrement coûteuse. Les auteurs distinguent donc deux rôles dans une politique VLA : le planificateur, qui prend des décisions orientées tâche susceptibles de rediriger l'exécution, et l'exécuteur, qui les traduit en actions continues denses. PAPO-VLA identifie les "actions de planification" en croisant variation d'action et issue de trajectoire, estime leur importance causale via deux critères formels (suffisance et nécessité causales), puis intègre ces poids dans l'estimation d'avantage du GRPO (Group Relative Policy Optimization), de sorte que les moments critiques reçoivent une emphase d'optimisation plus forte sans abandonner le signal de trajectoire globale. Des améliorations sont rapportées sur plusieurs benchmarks de manipulation robotique, sans chiffres précis disponibles dans le résumé public. L'apport clé est de combler un angle mort des approches existantes : l'imitation de trajectoires et l'optimisation par retour de trajectoire entière traitent toutes les actions avec la même importance, alors que certains instants de décision ont un impact causal disproportionné sur le succès de la tâche. Quantifier cet impact via des métriques causales formelles plutôt qu'heuristiques est une avancée méthodologique notable. Pour les équipes déployant des VLA en environnement réel, sur des plateformes comme pi-0 (Physical Intelligence), OpenVLA (Berkeley) ou GR00T N2 (NVIDIA), la méthode promet d'améliorer la fiabilité sans données de démonstration supplémentaires. Depuis RT-2 (Google DeepMind, 2023), le secteur des VLA cherche à combler l'écart entre performance en démonstration contrôlée et robustesse en déploiement réel. Le GRPO, popularisé par DeepSeek-R1 pour le raisonnement en LLM, est ici adapté à la robotique via une pondération causale des actions, dans un axe de recherche croissant autour du renforcement causal appliqué aux robots. PAPO-VLA est un preprint non encore revu par les pairs ; la validation expérimentale complète, avec benchmarks précis et comparaisons contrôlées, reste à confirmer via publication.

RechercheOpinion

1 source

3arXiv cs.RO

BOKBO : abstention calibrée pour les politiques de modèles vision-langage-action (VLA)

Une équipe de chercheurs publie BOKBO (Best of K Bad Options), décrit comme la première couche d'abstention conforme pour l'inférence VLA à K échantillons. Le problème adressé est précis : les méthodes de scaling à l'inférence telles que RoboMonkey, SEAL, MG-Select et V-GPS génèrent K chunks d'actions candidates et exécutent celle validée comme la meilleure par un vérificateur. Mais lorsque les K candidates sont toutes non sûres, le système en exécute une sans aucun avertissement. BOKBO s'interpose en amont pour garantir, sans hypothèse sur la distribution des données, un taux maximal de violations exécutées. Deux variantes sont proposées : une globale et une par tâche dite Mondrian, cette dernière étant plus robuste sur les tâches les plus difficiles. Évalué sur le benchmark LIBERO avec OpenVLA-OFT à un seuil de risque ε=0,05, le bound conditionnel CRC tient sur 86% des splits bootstrap, avec une couverture de 78% et un taux de réussite nette de 70%. La variante Mondrian-BOKBO relève la fraction minimale de tenue conditionnelle par tâche de 0,71 à 0,93, sur 5 graines d'entraînement. Le résultat le plus saillant n'est pas la méthode elle-même mais l'échec structurel qu'elle expose. Les scores de non-conformité internes aux politiques VLA, utilisés comme proxies de sécurité dans les approches existantes, corrèlent à 0,98 avec l'hyperparamètre de bruit d'action σ, et pratiquement pas avec les violations réelles. Autrement dit, les filtres de sécurité actuels mesurent un réglage de bruit, non un risque réel. Pour les intégrateurs industriels et les équipes d'homologation, c'est un signal d'alarme : les garanties de sécurité des pipelines VLA déployés en production reposent peut-être sur un proxy invalide. Les auteurs montrent que l'échec est partiellement atténué avec un sampling stochastique au niveau des tokens plutôt que perturbation-based, mais le problème reste mécanisme-spécifique. Ils corrigent aussi un biais méthodologique courant : des seuils de force fixés globalement bien en dessous des forces typiques d'un expert humain gonflent artificiellement les taux de violation jusqu'à un facteur 5. Sur le plan du contexte, les VLA comme OpenVLA-OFT et π₀-FAST, testés tous deux dans l'étude, incarnent la convergence entre foundation models et contrôle robotique temps réel. Le benchmark LIBERO, utilisé comme terrain d'évaluation, est devenu une référence dans l'espace manipulation. BOKBO s'inscrit dans la théorie de la prédiction conforme, appliquée ici pour la première fois à l'abstention calibrée dans ce contexte. Les prochaines étapes logiques seraient une validation sur des environnements réels et des tâches hors distribution plus sévères, LIBERO restant un benchmark simulé aux distributions relativement contrôlées. Aucun déploiement industriel ni partenariat n'est annoncé à ce stade.

UELes équipes d'homologation et intégrateurs industriels européens déployant des pipelines VLA en production devraient auditer leurs mécanismes de sécurité : cette étude montre que les scores de non-conformité utilisés comme proxies de sécurité mesurent un réglage de bruit, pas un risque réel.

RechercheActu

1 source

4arXiv cs.RO

Incitation visuelle guidée par la topologie pour les politiques vision-langage-action

Un article publié sur arXiv en septembre 2026 (2609.23944) décrit une méthode qui améliore les politiques vision-langage-action (VLA) sur des tâches de manipulation impliquant des géométries d'obstacles complexes. Le système combine une planification en simulation avec une signature topologique de type Gauss-Linking-Integral, censée capturer des propriétés invisibles en observation caméra partielle. À partir d'informations géométriques privilégiées issues de la simulation, les auteurs enrichissent un jeu de démonstrations nominal avec des trajectoires qui amènent le robot vers une configuration topologique cible avant de reprendre la tâche. Un modèle vision-langage, affiné sur ce même jeu de données, prédit ensuite à partir des images caméra en direct la signature topologique et des points de passage pour l'effecteur terminal, projetés sur les observations comme indices visuels guidant la politique VLA. Testée sur trois tâches bimanuelles en simulation et une tâche réelle de ramassage de boîte sur banc matériel, la méthode dépasse de 40% le taux de succès du meilleur système de référence. Ce résultat cible une faiblesse connue des VLA: leur difficulté à distinguer des situations qui se ressemblent visuellement ou en configuration articulaire mais exigent des actions différentes selon la topologie de l'environnement, par exemple contourner un obstacle par un côté plutôt que l'autre. Les planificateurs de mouvement classiques, qui connaissent toute la géométrie, savent raisonner sur cette distinction, mais cette information manque généralement au déploiement réel, où le robot ne dispose que d'une observation caméra partielle. Le gain mesuré en conditions matérielles réelles nourrit le débat sur l'écart entre performance simulée et conditions réelles, une question centrale pour les intégrateurs qui envisagent des politiques VLA génériques sur des tâches industrielles de contournement d'obstacles ou de manipulation bimanuelle fine. L'approche prolonge les travaux qui injectent des connaissances géométriques dans des politiques VLA entraînées sur des démonstrations visuelles brutes, sans raisonnement explicite sur la topologie de la scène, et se distingue des méthodes de prompting visuel qui suppriment ces indices plutôt que de les conserver. Les auteurs proposent un site dédié, topology-vla.github.io, sans calendrier de transfert commercial ni partenariat industriel annoncé, ce qui situe ce travail au stade de la recherche amont plutôt que du déploiement produit.

RechercheActu

1 source