RecherchearXiv cs.RO 22 septembre 2026

SCULPT-VLA : apprentissage d'un contrôle structuré par ancrage d'actions en étapes

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Un nouveau papier publié sur arXiv (identifiant 2609.23275, soumis fin septembre 2026) présente SCULPT-VLA, une architecture de politique vision-langage-action entraînée par ancrage d'actions en plusieurs étapes. Le système construit un état de conditionnement des actions à partir de trois facteurs complémentaires : progression de la tâche, dynamique de la scène et ancrage spatial. L'entraînement forme d'abord ces facteurs à l'aide de scaffolds enseignants, avant d'ancrer une prédiction d'action grossière sur leur composition à mesure que ces scaffolds sont retirés, puis de restaurer l'accès perceptif direct pour un affinage continu. Sur les bancs d'essai en simulation LIBERO, SimplerEnv-WidowX et RoboTwin 2.0 Full, SCULPT-VLA dépasse des références à backbone partagé. Sur SimplerEnv-WidowX précisément, le taux de succès final atteint 83,5 %, contre 71,3 % lorsque l'apprentissage d'action de la deuxième étape accède directement à la vision et au langage sans passer par l'état structuré. Sur quatre tâches réalisées avec un robot physique soumis à des changements de distribution, le taux de succès moyen atteint 58,1 %, contre 45,6 % pour le modèle de référence Pi-0.5.

Ce travail s'inscrit dans un débat technique central pour les VLA actuels : au-delà des labels d'action bruts, comment structurer une supervision intermédiaire pour que la prédiction d'action en dépende réellement, sans que cette dépendance s'effondre dès que les données annotées par un enseignant disparaissent au déploiement. En séparant explicitement l'apprentissage du conditionnement structurel de l'affinage du contrôle continu, SCULPT-VLA répond à un problème pratique pour les intégrateurs : au déploiement, aucune donnée d'enseignant ni autorégression discrète n'est nécessaire, ce qui simplifie l'inférence embarquée. Les gains rapportés en conditions de changement de distribution, un scénario proche des conditions réelles d'usine ou d'entrepôt, suggèrent une meilleure robustesse que les architectures VLA à accès perceptif direct, un point sensible pour les décideurs qui évaluent l'écart entre démonstrations en simulation et performance terrain.

Le papier ne précise ni affiliation d'auteurs ni date de publication de conférence, ce qui correspond au format d'un preprint arXiv récent, probablement en soumission anonyme. Il se positionne par comparaison directe avec Pi-0.5 comme référence de politique VLA généraliste, sans mention d'un partenariat industriel ou d'un déploiement commercial. Les auteurs annoncent des ablations sur les facteurs d'état et des interventions ciblées confirmant que l'état appris continue de contribuer au contrôle même après le retour de l'accès perceptif direct, sans toutefois indiquer de calendrier de suite ni de portage vers d'autres plateformes robotiques.

Dans nos dossiers

IA physique & VLA Physical Intelligence — π0 arXiv cs.RO

À lire aussi

1arXiv cs.RO

Modèles vision-action pour l'apprentissage et le contrôle des robots : une étude

Une équipe de chercheurs publie sur arXiv (identifiant 2609.16074v1) une étude de synthèse consacrée aux World-Action Models (WAM), des architectures qui couplent prédiction de l'état futur du monde et génération d'actions exécutables pour des robots. Le texte ne présente ni robot ni déploiement terrain : c'est une revue de littérature qui situe les WAM par rapport aux modèles du monde classiques, à l'apprentissage par renforcement basé sur un modèle, à la génération vidéo conditionnée par l'action et aux politiques VLA (vision-langage-action) purement réactives. Les auteurs proposent une taxonomie unifiée couvrant représentations, modélisation des transitions d'état, interfaces d'action, architectures, pipelines d'entraînement, modalités de données et stratégies de mise à l'échelle, puis passent en revue les applications en manipulation robotique, navigation et conduite autonome, avant de recenser les jeux de données, benchmarks, métriques et protocoles d'évaluation existants. Une page de projet répertoriant les travaux associés est mise en ligne à l'adresse rcl-robotics.github.io. L'intérêt de ce travail tient moins à un résultat inédit qu'à la mise en ordre d'un champ en pleine effervescence. Depuis l'essor des modèles du monde et de politiques VLA comme Pi-0, GR00T N2 ou Helix, une même intuition traverse le secteur : un robot fiable doit anticiper les conséquences d'une action avant de l'exécuter, plutôt que de se contenter d'associer observation et geste. Pour les intégrateurs et décideurs B2B, cette synthèse offre un vocabulaire commun pour évaluer des annonces concurrentes qui se réclament toutes, à des degrés divers, de cette convergence entre prédiction et action. Elle rappelle aussi, en creux, que la plupart des systèmes déployés aujourd'hui restent soit des générateurs vidéo sans boucle d'action réelle, soit des politiques réactives sans véritable anticipation, ce qui relativise la maturité que certains fournisseurs revendiquent. Ce travail s'inscrit dans la convergence amorcée depuis 2024-2025 entre les modèles du monde issus de la génération vidéo et les politiques d'action de type VLA popularisées par des laboratoires nord-américains et asiatiques ; aucun acteur français ou européen n'est cité dans cette étude, qui reste centrée sur la littérature académique et industrielle existante. Les auteurs identifient plusieurs verrous encore ouverts : l'alignement entre prédiction et action, la factorisation monde-action, la cohérence spatiale et multi-vue, la mémoire à long horizon, la simulation neuronale pour l'apprentissage en boucle fermée, et l'inférence efficace nécessaire à un déploiement temps réel. Ces axes dessinent l'agenda de recherche à venir pour transformer les WAM, aujourd'hui à l'état de cadre conceptuel, en briques réellement déployables sur des robots.

RecherchePaper

1 source

2arXiv cs.RO

SIR : représentations d'images structurées pour un apprentissage robotique explicable

Des chercheurs du laboratoire Intuitive Robots publient SIR (Structured Image Representations, arXiv:2606.30101), une méthode visant à corriger l'un des angles morts persistants des politiques robotiques basées sur l'apprentissage profond : leur opacité. Le pipeline repose sur les Scene Graphs (graphes de scènes) comme couche intermédiaire entre la perception et l'action. À partir d'une image d'entrée, le système construit d'abord un graphe complet dont les noeuds sont initialisés avec des features visuelles extraites. Un second module apprend ensuite, de bout en bout, à réduire (sparsifier) ce graphe pour n'en conserver que le sous-graphe pertinent à la tâche courante, avant de le transmettre au générateur d'actions. Évalué sur RoboCasa, un benchmark de manipulation en environnement domestique simulé, SIR atteint un taux de succès moyen de 19,5 % contre 14,81 % pour les baselines à embeddings visuels directs, soit un gain relatif d'environ 30 %. L'intérêt ne se limite pas à ce delta de performance, en soi modeste en valeur absolue. Ce qui distingue SIR, c'est que le sous-graphe creux appris constitue une représentation lisible et auditable : il devient possible d'inspecter sur quels objets et quelles relations le modèle fonde ses décisions pour une tâche donnée. Lorsque ce sous-graphe s'écarte des attentes humaines, qu'il intègre des noeuds distracteurs sans rapport avec la tâche ou qu'il omet des objets pourtant centraux, les auteurs montrent que cela révèle systématiquement des biais dans le dataset d'entraînement, notamment des corrélations spurieuses et des biais positionnels. Pour des intégrateurs industriels ou des équipes soumises à des exigences de validation et de certification, cette capacité d'audit intrinsèque est un argument autrement plus fort qu'une amélioration marginale du taux de réussite. Ce travail s'inscrit dans un débat de fond au sein de la communauté robotique : les représentations visuelles latentes des architectures de type VLA (Vision-Language-Action) ou des politiques par diffusion sont puissantes mais pratiquement impossibles à déboguer. Les approches concurrentes pour l'explicabilité passent généralement par des méthodes post-hoc, cartes de saillance ou visualisation d'attention dans les Transformers, qui n'interviennent pas dans la boucle d'inférence. SIR propose à l'inverse une explicabilité structurelle native. Le code est disponible sur GitHub (intuitive-robots/SIR\_Model) et les auteurs évaluent pour l'instant uniquement en simulation ; la généralisation à des robots physiques dans des environnements non contrôlés reste la prochaine étape critique pour valider le sim-to-real transfer de cette approche.

RecherchePaper

1 source

3arXiv cs.RO

Démonstrations structurées du simple au complexe pour l'apprentissage vision-langage-action

Les chercheurs proposent une nouvelle méthode de collecte de démonstrations pour l'entraînement de modèles Vision-Language-Action (VLA), publiée sur arXiv le 4 juillet 2026 (arXiv:2607.04591v1). Plutôt que de se concentrer sur l'architecture des modèles ou la taille des jeux de données, comme le fait la majorité des travaux récents, l'équipe s'attaque à un maillon jusqu'ici négligé de l'apprentissage par imitation : la manière dont les démonstrations elles-mêmes sont organisées. Leur approche, testée sur une plateforme robotique à double bras, repose sur trois principes: décomposer les tâches de manipulation complexes en sous-compétences apprises progressivement, standardiser l'environnement d'interaction pour limiter la variabilité inutile, et ordonner les démonstrations par complexité croissante plutôt que de les collecter en bloc. Deux tâches servent de banc d'essai: le tri et la préhension de blocs, et le pliage de serviettes. Les auteurs rapportent une amélioration du taux de réussite et une meilleure stabilité d'entraînement par rapport à la méthode de référence, qui consiste à enregistrer directement des trajectoires complètes de bout en bout, sans toutefois détailler de métriques chiffrées précises dans le résumé. Pour l'industrie robotique, ce travail pointe un angle mort du secteur VLA: la course actuelle privilégie l'échelle des modèles et des jeux de données, sur le modèle de Pi-0, GR00T N2 ou Helix, mais néglige souvent la qualité et la structure des données d'apprentissage. Si l'organisation curriculaire des démonstrations s'avère aussi déterminante que le suggèrent ces résultats, cela remettrait en question l'hypothèse dominante selon laquelle il suffit d'accumuler des heures de téléopération pour obtenir des politiques robustes et généralisables sur des tâches longues et séquentielles. Ce travail s'inscrit dans la lignée des recherches sur l'apprentissage par curriculum, déjà éprouvé en apprentissage par renforcement, mais peu exploré pour l'imitation robotique à l'ère des VLA. Alors que les grands acteurs du secteur, qu'il s'agisse de Figure, Tesla avec Optimus ou Physical Intelligence, communiquent surtout sur les capacités finales de leurs robots humanoïdes, cette étude reste à un stade de recherche académique, sans annonce de déploiement industriel. Ses auteurs présentent ces résultats comme une preuve de concept ouvrant la voie à une collecte de données plus efficace et plus scalable pour la manipulation robotique à long horizon.

RecherchePaper

1 source

4arXiv cs.RO

AC-VLA : exécution robuste d'actions hors distribution par apprentissage compositionnel

Des chercheurs présentent AC-VLA (Action Compositional Vision-Language-Action), un framework destiné à corriger les lacunes des modèles VLA lorsqu'ils doivent recombiner des sous-tâches déjà apprises dans des configurations inédites. L'équipe identifie deux défauts qui se renforcent mutuellement : le "trajectory overfitting", où le modèle mémorise des trajectoires globales plutôt que la sémantique des sous-compétences, et le "perceptual shortcut", où les tokens d'action s'appuient excessivement sur les textures visibles par la caméra poignet au détriment d'un ancrage spatial global. AC-VLA combine deux briques indépendantes de l'architecture : un module d'apprentissage compositionnel, qui utilise un LLM pour décomposer les instructions et un aligneur de trajectoires proprioceptives afin de générer une supervision dense par sous-tâche, entraîné en mélange avec des démonstrations complètes ; et une stratégie de masquage asymétrique conditionné à l'état, qui coupe les entrées de la caméra poignet pendant les phases de préhension fermée pour forcer le modèle à s'appuyer sur une vision globale. Implémenté sur le modèle π0.5 et testé sur les benchmarks LIBERO et LIBERO-OOD, AC-VLA obtient environ 28 points de pourcentage de gain absolu sur les tâches compositionnelles hors distribution, sans dégrader les performances sur les tâches classiques. Ce résultat touche un point sensible du secteur robotique : la capacité réelle des modèles VLA à généraliser au-delà de ce qu'ils ont vu à l'entraînement, plutôt qu'à simplement reproduire des démonstrations mémorisées. C'est précisément l'écart entre démonstration scénarisée et robustesse en conditions réelles que pointent régulièrement les critiques adressées aux vidéos promotionnelles de humanoïdes comme Figure ou Optimus. Un gain de 28 points sur des scénarios recombinés, sans architecture spécifique ni perte en distribution, suggère qu'une partie du problème de généralisation compositionnelle peut se résoudre par la donnée et la supervision plutôt que par des modèles plus gros. AC-VLA se positionne comme une méthode "plug-and-play", compatible avec n'importe quel backbone VLA existant, dans la lignée des travaux récents comme π0, GR00T N2 ou Helix qui cherchent à industrialiser l'apprentissage par imitation à grande échelle. Le choix de π0.5 comme base d'évaluation ancre directement la contribution dans l'écosystème Physical Intelligence. Les auteurs ne mentionnent pas de déploiement matériel réel ni de calendrier de transfert vers des robots physiques : à ce stade, les résultats restent circonscrits aux benchmarks de simulation LIBERO.

RechercheActu

1 source