IA physiquearXiv cs.RO 22 septembre 2026

Post-entraînement en ligne stable et efficace pour VLA en conditions réelles via l'amélioration de politique ancrée sur le replay asynchrone

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Une équipe de recherche publie sur arXiv (papier 2609.22888, soumis en septembre 2026) une méthode baptisée RAPolicy (Replay-Anchored Policy improvement), destinée a l'entrainement en ligne de modèles vision-langage-action (VLA) sur robot réel. Le système fait tourner en parallèle la collecte de trajectoires et l'apprentissage, en ancrant les mises a jour du critique et de l'acteur sur les actions rejouées depuis un buffer de replay plutôt que sur des prédictions d'actions futures. Le critique apprend des valeurs au niveau de blocs d'actions et construit ses cibles de Bellman sans prédire l'action suivante, ce qui réduit le calcul nécessaire. L'acteur, a flux en une seule étape, réutilisé le bruit initial stocke pendant le rollout et s'entraine par vraisemblance conditionnelle pondérée par l'avantage. Teste sur quatre taches isolées et un scenario conjoint a cinq taches en conditions réelles, avec un budget d'entrainement en ligne de seulement une a deux heures, RAPolicy part de politiques déjà affinées sur dix démonstrations par tache. Il atteint un taux de réussite moyen de 86,3% sur les taches isolées, et fait grimper le taux de réussite global du scenario multi-tache de 52% a 88%, tout en préservant les taches déjà maîtrisées et en améliorant les plus faibles.

Ce résultat s'attaque a un point de friction connu du post-entrainement en ligne des VLA sur robot réel: l'instabilité de l'apprentissage par renforcement lorsque les données arrivent en flux continu et que la politique change pendant la collecte. Pour les intégrateurs et décideurs B2B, l'enjeu concret est le cout d'adaptation: passer d'une politique généraliste a une compétence fiable sur une nouvelle tache en une a deux heures de pratique, avec seulement dix démonstrations de départ et moins d'interventions humaines que les méthodes de référence, change l'économie d'un déploiement capable d'apprendre sur site plutôt qu'en laboratoire. Le résultat va aussi a l'encontre de l'hypothèse répandue selon laquelle le fine-tuning en ligne des VLA reste trop instable hors des environnements simules, même si l'évaluation reste limitée a cinq taches et aux conditions de laboratoire des auteurs, sans réplication indépendante ni comparaison sur des taches plus complexes ou des robots tiers.

Cette approche s'inscrit dans la lignée des modèles VLA généralistes tels que Pi-0, GR00T N2 ou Helix, pretraines sur de larges corpus de démonstrations puis adaptes a des taches spécifiques, une étape qui repose habituellement sur davantage de démonstrations ou sur du reinforcement learning hors ligne, deux voies gourmandes en données ou fragiles en stabilité. RAPolicy se positionne comme une alternative asynchrone a ces méthodes, misant sur l'ancrage dans les trajectoires rejouées pour stabiliser simultanément critique et acteur. Les auteurs mettent a disposition une page de projet avec, selon toute vraisemblance, code et vidéos de démonstration, mais ne précisent ni institution ni calendrier pour une intégration a des piles VLA commerciales existantes.

Dans nos dossiers

IA physique & VLA NVIDIA GR00T arXiv cs.RO

À lire aussi

1arXiv cs.RO

VLA-Precision : co-amorçage asymétrique pour un apprentissage par renforcement en ligne efficace en réel des modèles VLA

Publié le 4 septembre 2026 sur arXiv (2609.04355v1), VLA-Precision est un cadre de renforcement en ligne conçu pour affiner en conditions réelles des modèles vision-langage-action (VLA) déjà préentraînés. Il repose sur l'algorithme ACoB, qui combine un apprentissage comportemental guidé par intervention humaine en début d'entraînement avec un calibrage progressif des valeurs par propagation globale du retour et classement de préférences, et sur l'architecture ACoB-Stream, qui découple les états invariants et diffuse les données à la demande pour alléger le calcul des grands VLA. Testé sur neuf tâches de chimie de haute précision, réparties en quatre catégories et exécutées par quatre corps robotiques différents, le système atteint 98,3% de réussite moyenne en 45,8 minutes par tâche, avec des épisodes de 27,6 secondes, soit 1,2 et 1,8 fois plus rapide que les références VLA et RL respectivement, et un gain de débit allant jusqu'à 10,9 fois. Le code et les ressources sont publiés sur vla-precision.github.io. L'enjeu est concret pour la robotique industrielle : les VLA préentraînés généralisent bien en manipulation mais restent peu fiables dès qu'une précision et une répétabilité strictes sont exigées, l'écart habituel entre démonstration en laboratoire et usage réel. En s'attaquant à la fois à la dérive de politique causée par des signaux de valeur peu fiables et au coût de calcul prohibitif des grands VLA en boucle d'apprentissage, l'étude propose une voie pour rendre l'amélioration autonome par essai-erreur exploitable à grande échelle plutôt que limitée aux démonstrations coûteuses à collecter. Les résultats restent toutefois issus d'un cadre de laboratoire contrôlé et n'ont pas encore été validés en déploiement industriel réel. Ce travail s'inscrit dans la lignée des modèles VLA qui, à l'image de Pi-0 de Physical Intelligence, GR00T N2 de NVIDIA ou Helix de Figure AI, unifient perception, langage et contrôle moteur dans un réseau entraîné sur de vastes corpus de démonstrations, avec pour limite commune la fragilité sur les tâches de précision fine. VLA-Precision ne change pas le modèle de base mais y ajoute une couche de renforcement en ligne compatible avec les grands VLA existants. Classé comme nouvelle publication sur arXiv, l'article ne mentionne aucun partenariat industriel ni calendrier commercial : il s'agit à ce stade d'une contribution de recherche à ressources ouvertes, dont l'extension à d'autres domaines que la chimie de précision constitue la suite naturelle pour la communauté.

IA physiqueOpinion

1 source

2arXiv cs.RO

GRAFT : adaptation par renforcement en ligne, ancrée et efficace, pour une manipulation robotique de précision

Un article déposé sur arXiv (2608.27079v1) présente GRAFT (Grounded Reinforcement Adaptation for Fast Task Learning), un cadre d'adaptation en ligne par renforcement de politiques vision-langage-action (VLA) pré-entraînées à des tâches de manipulation robotique fine en biomédical. La méthode apprend des ancrages visuels propres à chaque point de vue via une supervision au niveau des régions de l'image, sans exiger de propositions de régions au déploiement, et combine génération d'action en une seule étape avec réutilisation en cache du préfixe visuo-linguistique pour accélérer l'apprentissage. Sur quatre tâches de manipulation biomédicale, les auteurs annoncent un gain de 25 points de pourcentage de réussite à budget d'adaptation égal, avec un coût de calcul réduit pour les mises à jour. Le travail cible un verrou concret des VLA : entraînés sur de larges corpus de démonstrations, ils offrent de bons a priori généraux mais peinent sur des tâches où la réussite dépend d'indices visuels subtils et dépendants du point de vue, alors que la récompense de tâche ne dit rien des régions qui comptent. Le coût de calcul de l'inférence VLA et des mises à jour par rejeu limite l'apprentissage en ligne sur robot réel. En réduisant interactions nécessaires et coût par mise à jour, GRAFT plaide pour une adaptation en ligne plutôt que pour le seul réglage fin hors ligne ou la collecte massive de démonstrations, débat suivi autour de modèles comme Pi-0, GR00T N2 ou Helix. Le gain de 25 points annoncé n'est pas contextualisé : ni taux de référence ni détail des quatre tâches ne sont précisés. Classé comme nouveau dépôt sur arXiv, le document ne cite ni laboratoire ni entreprise porteuse, ni plateforme robotique précise, ce qui le situe côté recherche académique plutôt que produit commercialisé. Il s'inscrit dans la lignée des modèles VLA généralistes récents tels Pi-0 de Physical Intelligence, GR00T N2 de NVIDIA ou Helix de Figure, conçus pour des a priori de manipulation transférables mais nécessitant une adaptation spécifique avant usage réel. GRAFT vise l'adaptation par renforcement en ligne, voie moins explorée que le réglage fin hors ligne. Aucune publication de code ni de pilote avec un partenaire biomédical n'est annoncée.

IA physiqueActu

1 source

3arXiv cs.RO

IVRA : améliorer les relations entre tokens visuels pour la politique d'action des robots grâce à un guidage sans entraînement

Les modèles Vision-Language-Action (VLA) souffrent d'un défaut structurel bien documenté : en aplatissant les patches d'image en une séquence 1D de tokens, ils perdent les repères spatiaux 2D nécessaires à la manipulation précise d'objets. Des chercheurs ont publié sur arXiv (référence 2601.16207v2) IVRA, une méthode d'inférence légère et sans réentraînement qui corrige ce problème en exploitant des signaux d'affinité déjà présents dans l'encodeur visuel natif du modèle. Ces signaux sont injectés sélectivement dans une couche du modèle de langage où résident les caractéristiques au niveau des instances, réalignant les interactions entre tokens visuels et préservant mieux la structure géométrique sans modifier aucun paramètre. Appliqué à trois architectures distinctes, LLaRA, OpenVLA et FLOWER, IVRA a été évalué sur les benchmarks VIMA (manipulation 2D) et LIBERO (manipulation 3D), ainsi que sur des tâches en environnement physique réel. Sur VIMA en régime de faibles données, il améliore le taux de succès moyen de +4,2 % par rapport à la baseline LLaRA. Sur LIBERO 3D, les gains restent cohérents même proches de la saturation (96,3 % vers 97,1 %). L'intérêt industriel est direct : un intégrateur qui a déjà déployé un VLA peut appliquer IVRA à l'inférence sans réentraînement, sans capteur supplémentaire, sans encodeur externe. C'est un avantage immédiat en time-to-value pour des systèmes en production. Le fait que la méthode fonctionne même à 96,3 % de baseline suggère qu'elle améliore la précision géométrique locale plutôt que la compréhension globale de scène, précisément le point de défaillance des VLA sur des tâches de manipulation fine (saisie d'objets proches, tri par forme, assemblage). Pour la recherche, IVRA valide l'hypothèse que les encodeurs visuels embarqués contiennent des informations spatiales latentes exploitables sans supervision supplémentaire, une direction "training-free adapter" qui mérite davantage d'exploration. La perte de structure spatiale dans les VLA est connue depuis les premières publications sur RT-2 (Google DeepMind, 2023) et OpenVLA (Berkeley/Stanford, 2024). Les réponses habituelles consistent à modifier l'architecture ou à ajouter des flux de données supplémentaires (depth, point clouds), augmentant la complexité de déploiement. Physical Intelligence avec pi-0 et NVIDIA avec GR00T N2 misent sur des architectures propriétaires plus lourdes ; IVRA propose une correction orthogonale applicable sur des modèles ouverts, en compétition directe avec les méthodes de spatial token resampling et d'attention guidée comme RoboFlamingo. L'étape suivante logique serait une validation sur des benchmarks plus exigeants (RLBench, BridgeData v2) et sur des manipulateurs industriels à 6 DOF ou plus en conditions réelles, là où la précision spatiale est critique.

IA physiqueOpinion

1 source

4arXiv cs.RO

Retour sur la bonne voie : amélioration de la politique au déploiement par planification avec un modèle du monde

Des chercheurs proposent un cadre de supervision et d'intervention qui améliore une politique visuomotrice pendant son déploiement, sans la réentraîner ni modifier son architecture (arXiv 2610.19579). La méthode n'exige qu'un accès « boîte noire » à la politique, c'est-à-dire la possibilité de l'interroger sans toucher à ses poids. À partir d'un nombre limité de déroulés (rollouts) étiquetés de la politique nominale, l'équipe apprend une valeur de « liveness », conditionnée par la politique, qui mesure sa progression vers l'achèvement de la tâche. Elle entraîne aussi un modèle du monde latent compact, qui s'appuie sur ces mêmes déroulés et sur des données de jeu (play data). Pendant l'exécution, la valeur de liveness surveille en continu le comportement. Si elle détecte une perte de progression, un planificateur à horizon court cherche dans le modèle du monde des actions correctrices, en utilisant cette même valeur comme objectif, puis rend la main à la politique nominale. L'évaluation porte sur la suite de tâches LIBERO-Goal et sur un bras Franka Panda réel. Les politiques nominales sont le modèle vision-langage-action π0.5 et une diffusion policy. Les auteurs annoncent des gains significatifs de taux de réussite, compatibles avec un contrôle en temps réel. Le résumé ne donne aucun chiffre précis (taux avant et après, latence du planificateur, nombre de déroulés étiquetés), ce qui empêche de juger l'ampleur réelle de l'amélioration. L'enjeu est pratique. Les politiques actuelles échouent en production de façons qu'elles ne détectent pas et dont elles ne savent pas se relever. Les corriger passe aujourd'hui par davantage de données, un réentraînement ou une refonte de l'architecture, trois leviers coûteux, surtout pour un intégrateur qui utilise un modèle de fondation fourni par un tiers. Une couche externe qui détecte le blocage et propose une correction, sans accès aux poids, répond directement à cette contrainte. Elle suggère aussi que l'écart entre démonstration et fiabilité industrielle peut se réduire par de la supervision à l'exécution plutôt que par un modèle toujours plus gros. Plusieurs réserves s'imposent. Il s'agit d'un travail académique, sans déploiement client. Le banc d'essai LIBERO-Goal est de l'ordre de la simulation, et la validation réelle se limite à un seul bras. Il reste aussi à voir comment la méthode se comporte sur des tâches longues, ou lorsque le modèle du monde s'écarte de la réalité. Ce travail s'inscrit dans un courant qui cherche à fiabiliser les VLA après leur entraînement. Ce courant comprend l'apprentissage par renforcement sur robot réel, les détecteurs d'échec à l'exécution et les approches fondées sur des modèles du monde, utilisés comme simulateurs ou comme planificateurs. π0.5, de Physical Intelligence, est devenu une référence ouverte pour ces expériences, tout comme les diffusion policies pour la manipulation. Les grands acteurs de l'humanoïde, dont Figure avec Helix, Tesla avec Optimus et NVIDIA avec la famille GR00T, misent surtout sur l'échelle des données et l'entraînement. Une couche de récupération qui s'ajoute à ces politiques suivrait une logique différente. Les prochaines étapes à surveiller sont la publication de résultats chiffrés détaillés, des tests sur davantage de plateformes et de tâches de longue durée, et la mesure du coût de calcul du planificateur sur du matériel embarqué. Une vidéo et des résultats complémentaires sont annoncés sur le site du projet.

IA physiquePaper

1 source