Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
VLA-GSE : améliorer l'ajustement fin efficace en paramètres des VLA avec des experts généralisés et spécialisés
RecherchearXiv cs.RO 

VLA-GSE : améliorer l'ajustement fin efficace en paramètres des VLA avec des experts généralisés et spécialisés

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Une équipe de chercheurs publie VLA-GSE (Generalized and Specialized Experts) sur arXiv en mai 2026 (arXiv:2605.06175), une méthode d'affinage efficace en paramètres (PEFT) pour les modèles vision-langage-action (VLA). Ces modèles, construits sur des dorsales visuelles et linguistiques pré-entraînées comme celles d'OpenVLA ou pi-0, souffrent d'oubli catastrophique lorsqu'on les affine entièrement sur des données de contrôle robotique. VLA-GSE répond à ce problème via une décomposition spectrale de la dorsale gelée : les composantes singulières dominantes alimentent des experts généralisés partagés entre toutes les tâches, tandis que les composantes résiduelles disjointes alimentent des experts spécialisés routés selon la tâche. Seuls 2,51 % des paramètres totaux sont entraînables. Sur le benchmark LIBERO-Plus, la méthode atteint 81,2 % de taux de succès moyen en zéro-shot, surpassant à la fois l'affinage complet (FFT) et LoRA, tout en préservant des performances comparables à LoRA sur les benchmarks de compréhension multimodale.

Ce résultat remet en question une hypothèse implicite du secteur : préserver les connaissances pré-entraînées et adapter efficacement au contrôle robotique seraient deux objectifs incompatibles. La décomposition spectrale permet d'allouer la capacité d'adaptation là où elle est nécessaire sans écraser les représentations visuelles-sémantiques acquises. Pour les équipes R&D et les intégrateurs travaillant sur des robots manipulateurs, cela signifie qu'un modèle de fondation peut être spécialisé sur un domaine restreint avec un budget computationnel réduit sans sacrifier la généralisation. La robustesse observée face à plusieurs changements de distribution (environnement, objets, éclairage) renforce la crédibilité de l'approche, même si les expériences sur plateformes physiques restent limitées dans les résultats publiés.

Les modèles VLA constituent depuis 2023-2024 un axe de recherche majeur, portés notamment par OpenVLA (UC Berkeley), pi-0 (Physical Intelligence) et GR00T N1/N2 (NVIDIA). La stratégie dominante jusqu'ici reposait sur un affinage complet coûteux ou sur LoRA standard, qui peine à capturer la complexité des politiques de contrôle. VLA-GSE se positionne entre ces deux extrêmes avec un ratio paramètres/performance favorable. Le code source est disponible sur GitHub (YuhuaJiang2002/VLA-GSE), facilitant la reproduction. Les prochaines étapes logiques incluent des validations sur des plateformes physiques variées, notamment des bras à 6-7 DOF et des robots mobiles manipulateurs, ainsi qu'une comparaison directe avec des approches concurrentes comme SpatialVLA en conditions de déploiement réel.

Dans nos dossiers

IA physique & VLANVIDIA GR00TPhysical Intelligence — π0OpenVLA / RT-X

À lire aussi

APT : le pré-entraînement par expertise d'action améliore la généralisation des politiques VLA aux nouvelles instructions
1arXiv cs.RO 

APT : le pré-entraînement par expertise d'action améliore la généralisation des politiques VLA aux nouvelles instructions

Une équipe de chercheurs a publié le 11 juin 2026 sur arXiv (identifiant 2606.12366) APT (Action expert PreTraining), une méthode d'entraînement en deux étapes conçue pour améliorer la généralisation des politiques robotiques Vision-Langage-Action (VLA) face à des instructions en langage naturel hors distribution. Le problème ciblé : les modèles VLA actuels, qui couplent un grand modèle de vision-langage (VLM) préentraîné à un expert d'action continu, peinent à exécuter des consignes qu'ils n'ont pas vues pendant l'entraînement. La méthode s'applique aux architectures mainstream du domaine, notamment les architectures de style pi (Physical Intelligence) et GR00T (NVIDIA), et démontre des gains cohérents sur des instructions inédites et des tâches compositionnelles selon les expériences rapportées dans l'article. Le problème fondamental identifié par les auteurs est un déséquilibre structurel dans les données VLA : la diversité linguistique y est bien plus faible que la diversité visuelle ou motrice, ce qui pousse les politiques à s'appuyer sur des raccourcis visuels plutôt que sur les instructions textuelles. Les méthodes à actions discrètes, comme OpenVLA, atténuent ce biais via un co-entraînement vision-langage, mais les experts d'action continus, initialisés aléatoirement, génèrent des gradients bruités qui corrompent le VLM et n'exploitent pas sa capacité de compréhension linguistique. APT résout cela par une factorisation bayésienne : l'expert d'action est d'abord préentraîné comme un prior vision-action sans supervision linguistique, sur un VLM gelé (étape 1), puis les tokens de langage sont injectés via un mécanisme de fusion à porte (gated fusion) qui intègre les représentations du VLM tout en préservant le prior visuomoteur appris (étape 2). Cette séparation empêche l'imbalance linguistique de polluer l'apprentissage moteur initial. Le domaine des VLA robotiques connaît depuis 2024 une accélération notable avec pi0 de Physical Intelligence, GR00T N2 de NVIDIA, et Helix de Figure AI, tous construits autour du paradigme VLM couplé à un expert d'action continu. La généralisation aux instructions non vues reste l'un des défis non résolus du secteur : les démos en laboratoire reposent souvent sur des jeux de consignes étroits, loin de la variabilité d'un déploiement industriel réel, ce qui constitue un frein concret à la commercialisation. APT propose une réponse méthodologique à ce gap sans modifier les architectures cibles, en réordonnant uniquement leur processus d'entraînement. Les prochaines étapes naturelles incluront des validations indépendantes sur des benchmarks standardisés comme LIBERO ou RoboSuite, ainsi que des tests à l'échelle sur robots physiques en environnement non structuré.

RechercheActu
1 source
CoRL-MPPI : améliorer le MPPI avec des comportements appris pour un évitement de collision multi-robots efficace et sûr
2arXiv cs.RO 

CoRL-MPPI : améliorer le MPPI avec des comportements appris pour un évitement de collision multi-robots efficace et sûr

Une équipe de recherche présente CoRL-MPPI, une méthode combinant apprentissage par renforcement coopératif et Model Predictive Path Integral (MPPI) pour l'évitement de collision décentralisé entre robots mobiles. Publié sur arXiv (version 3, remplaçant une soumission antérieure), le papier décrit un réseau de neurones profond entraîné en simulation pour apprendre des comportements coopératifs locaux d'évitement d'obstacles. Cette politique apprise est ensuite injectée dans le processus d'échantillonnage du contrôleur MPPI classique, orientant les trajectoires candidates vers des actions plus coopératives et pertinentes, y compris dans des scénarios éloignés des données d'entraînement. Les auteurs affirment que leur méthode conserve les garanties théoriques de sécurité du MPPI standard, tout en améliorant le taux de succès de navigation et en réduisant les délais, dans des environnements denses et dynamiques impliquant plusieurs robots. Les résultats sont comparés à des méthodes classiques (MPPI pur) et à des approches d'apprentissage par renforcement multi-agents concurrentes. Pour l'industrie robotique, ce travail illustre une tendance de fond: hybrider contrôle optimal classique et apprentissage profond plutôt que de choisir entre les deux camps. Le MPPI seul souffre d'un échantillonnage aléatoire non informé, ce qui limite ses performances en environnement dense; le RL pur, à l'inverse, manque souvent de garanties formelles de sécurité, un point bloquant pour tout déploiement industriel réel (flottes d'AMR en entrepôt, essaims de drones). En préservant les propriétés de sécurité prouvable du MPPI tout en injectant du comportement appris, CoRL-MPPI répond directement à une critique récurrente adressée aux méthodes purement data-driven: l'absence de garanties exploitables en production. C'est un signal pertinent pour les intégrateurs qui évaluent des piles de navigation multi-robots pour la logistique ou les essaims aériens. Le MPPI est un cadre de contrôle prédictif largement utilisé en robotique mobile depuis plusieurs années, apprécié pour sa flexibilité vis-à-vis de modèles de mouvement arbitraires. Les tentatives précédentes d'amélioration se sont concentrées soit sur de meilleures fonctions de coût, soit sur des politiques d'apprentissage remplaçant entièrement le contrôle classique, au prix des garanties théoriques. CoRL-MPPI se positionne dans une troisième voie, celle des architectures hybrides guidage-par-politique, déjà explorée dans d'autres contextes de planification de trajectoire. Le papier ne mentionne pas de partenariat industriel ni de déploiement matériel réel: il s'agit d'un travail de recherche évalué en simulation, dont la prochaine étape logique serait une validation sur robots physiques en conditions denses et dynamiques.

RecherchePaper
1 source
Exploration structurée pour un ajustement fin par renforcement efficace des modèles vision-langage-action (ExToken)
3arXiv cs.RO 

Exploration structurée pour un ajustement fin par renforcement efficace des modèles vision-langage-action (ExToken)

Des chercheurs présentent ExToken (RL Exploration Token), une méthode d'apprentissage par renforcement conçue pour affiner plus efficacement les modèles vision-langage-action (VLA) sur des tâches de manipulation robotique complexes, selon un article publié sur arXiv le 15 juillet 2026. Les auteurs identifient d'abord un goulot d'étranglement dans les frameworks VLA-RL actuels: l'exploration stagne rapidement, et la diversité des trajectoires collectées compte davantage pour l'efficacité d'apprentissage que leur simple volume. Pour y remédier, ExToken conditionne la politique du robot sur des tokens discrets dérivés de démonstrations hors ligne, représentant différents modes comportementaux. En variant ces tokens pendant la collecte de trajectoires, le système pousse l'agent à explorer des comportements plus variés et à mieux couvrir l'espace des états et actions possibles. Un sélecteur de tokens conditionné par l'état est ajouté pour choisir automatiquement le mode comportemental le plus adapté lors du déploiement, où l'inférence doit rester déterministe. Les expériences, menées à la fois en simulation et sur des tâches réelles de manipulation, montrent une convergence accélérée et de meilleures performances, notamment avec un budget d'interactions limité. L'enjeu est concret pour tout le secteur du VLA: le fine-tuning par renforcement est aujourd'hui le principal levier pour dépasser les performances de l'apprentissage par imitation pur, mais son coût en interactions environnementales freine son adoption à grande échelle, que ce soit pour des modèles comme Pi-0, GR00T ou des architectures propriétaires chez les acteurs de la robotique humanoïde. Une méthode qui réduit ce coût d'échantillonnage touche directement la viabilité économique du RL pour l'industrie, au-delà des démonstrations en laboratoire. Il s'agit toutefois d'un travail de recherche académique publié en preprint, sans affiliation commerciale revendiquée ni déploiement industriel annoncé. ExToken s'inscrit dans une lignée de travaux cherchant à rendre le RL praticable pour la robotique après la phase d'apprentissage par imitation, aux côtés d'approches comme le curriculum learning ou l'exploration guidée par démonstrations, sans qu'aucun calendrier d'intégration dans un produit commercial ne soit précisé.

RechercheActu
1 source
HiMoE-VLA : mélange hiérarchique d'experts pour des politiques VLA généralistes
4arXiv cs.RO 

HiMoE-VLA : mélange hiérarchique d'experts pour des politiques VLA généralistes

Des chercheurs ont publié début décembre 2025 sur arXiv une nouvelle architecture baptisée HiMoE-VLA (Hierarchical Mixture-of-Experts for generalist Vision-Language-Action policies), avec code et modèles en accès libre sur GitHub (ZhiyingDu/HiMoE-VLA). Le problème visé : les politiques VLA généralistes sont entraînées sur des mélanges hétérogènes de démonstrations robotiques couvrant des embodiments, espaces d'action et configurations de capteurs différents, ce qui provoque un "transfert négatif" quand un module d'action dense unique doit absorber cette diversité. HiMoE-VLA répond avec un module d'action hiérarchique à mélange d'experts : des couches Action-Space MoE en entrée/sortie spécialisent le calcul par espace d'action, des couches Heterogeneity-Balancing MoE dans les couches voisines absorbent les variations résiduelles de scènes et d'embodiments, et des blocs Transformer denses au centre intègrent les représentations partagées. Deux objectifs auxiliaires guident l'entraînement : une régularisation contrastive par espace d'action pour la spécialisation aux frontières, et un objectif d'équilibrage de charge entre experts. Sur les bancs d'essai, le modèle atteint un score de 3,98 sur CALVIN, 98,0 % de réussite sur LIBERO, et respectivement 75,0 % et 63,7 % de succès moyen sur des tâches réelles avec un bras xArm7 et une plateforme ALOHA. Le résultat le plus significatif tient moins aux scores bruts qu'à la démonstration, en co-entraînement hétérogène contrôlé, que HiMoE-VLA transforme en transfert positif ce qui reste un transfert négatif chez des bases de référence pourtant robustes. C'est un signal notable pour le secteur : l'un des obstacles récurrents à l'entraînement de politiques VLA "généralistes" est justement la difficulté à mélanger des jeux de données robotiques disparates, bras différents, capteurs différents, espaces d'action différents, sans dégrader les performances par rapport à des modèles spécialisés par plateforme. Pour les équipes qui construisent des fondations robotiques multi-embodiment, à l'image de ce que visent Physical Intelligence avec pi-0, NVIDIA avec GR00T N2 ou Figure avec Helix, la capacité à absorber l'hétérogénéité des données sans coût de performance est un enjeu direct de scalabilité : moins de collecte de données spécifiques par plateforme pour chaque nouveau déploiement industriel. HiMoE-VLA s'inscrit dans la lignée des architectures Vision-Language-Action apparues ces deux dernières années pour doter les robots de politiques de contrôle génériques, entraînées comme des modèles de fondation plutôt que comme des contrôleurs tâche par tâche. Le recours aux mélanges d'experts, déjà répandu dans les grands modèles de langage pour augmenter la capacité sans exploser le coût de calcul, est ici adapté spécifiquement au problème de l'hétérogénéité des données robotiques, via une hiérarchie à trois niveaux plutôt qu'un simple routage plat. Le papier, référencé arXiv:2512.05693, est une version révisée d'un travail antérieur, et les auteurs s'appuient sur CALVIN, LIBERO ainsi que des essais réels sur xArm7 et ALOHA comme bancs de test. Code et modèles étant publiés en open source, la validation indépendante par la communauté robotique déterminera si les gains observés se généralisent au-delà des bancs d'essai contrôlés vers des déploiements industriels réels.

RechercheActu
1 source