RecherchearXiv cs.RO 2 novembre 2026

STAR : orienter les représentations d'action pendant l'inférence

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

STAR (STeering Action Representations) est une méthode d'inférence proposée par une équipe du laboratoire PKU-VaLuE de l'université de Pékin, dont le code est publié sur GitHub. Elle s'applique à des modèles vision-langage-action (VLA), c'est-à-dire des réseaux qui convertissent une instruction en langage naturel et des observations visuelles en actions robotiques. Les auteurs ont d'abord sondé ces modèles et constaté que les représentations situées près de la sortie d'action conservent mal l'ancrage visuel pertinent pour la tâche, un « déficit d'ancrage des couches tardives ». STAR agit sans réentraînement ni modification d'architecture : elle applique une moyenne mobile exponentielle (EMA) aux mises à jour résiduelles des couches tardives, afin que les représentations finales héritent des directions de mise à jour sensibles aux objets, issues des couches antérieures. Le coefficient de mélange est ajusté à partir des états proprioceptifs récents du robot et devient plus prudent lorsque la dynamique d'exécution change vite. Sur des benchmarks de manipulation, la méthode améliore la conscience des objets dans les couches tardives et augmente le taux de réussite moyen de 4,0 points de pourcentage.

L'intérêt tient à la nature de l'intervention. Un gain de 4 points reste modeste et les résumés ne précisent ni les modèles de base, ni les benchmarks, ni la variance entre tâches. Il faut donc lire le chiffre comme un ordre de grandeur, pas comme une percée. Mais il touche un point sensible des VLA déployés : la perte de fidélité visuelle en fin de réseau, qui peut expliquer des échecs sur des objets mal localisés ou des distracteurs. Comme STAR ne demande ni données ni calcul d'entraînement, un intégrateur ou une équipe R&D disposant déjà d'un VLA pré-entraîné pourrait l'essayer à faible coût, sans gel de version du modèle. L'adaptation par la proprioception est aussi un signal utile : elle rappelle que la stabilité d'exécution sur robot réel, et pas seulement la précision en simulation, conditionne la valeur de ces correctifs.

Le travail s'inscrit dans un courant de techniques d'inférence « sans entraînement » qui cherchent à tirer davantage de modèles déjà coûteux à produire, par analogie avec le steering d'activations dans les grands modèles de langage. Il intervient alors que les VLA de référence, comme Pi-0 ou GR00T, se multiplient et que l'on tente d'en améliorer la robustesse sans relancer des cycles de fine-tuning massifs. Il s'agit d'un préprint arXiv (v1) non évalué par des pairs, sans déploiement industriel annoncé. Les prochaines étapes à surveiller sont la validation sur robots physiques, la généralisation à plusieurs familles de VLA et la comparaison avec d'autres méthodes de correction à l'inférence.

Dans nos dossiers

IA physique & VLA NVIDIA GR00T arXiv cs.RO

À lire aussi

1arXiv cs.RO

RoboIRS : orientation des représentations internes à l'inférence pour les politiques robotiques généralistes

Une équipe de chercheurs publie RoboIRS, une méthode de pilotage des représentations internes appliquée à l'inférence. Elle vise les politiques robotiques généralistes de type vision-langage-action (VLA) et les modèles monde-action (WAM). L'équipe collecte des déroulés réussis et échoués, puis entraîne des classifieurs linéaires pour repérer les emplacements du réseau liés au résultat. Elle en déduit, pour chaque tâche, une direction de pilotage injectée dans les activations, sans mise à jour des poids. Sur 15 tâches simulées avec une politique π0.5 gelée, le taux de succès moyen passe de 44,4 % à 66,2 %. La méthode dépasse d'autres interventions à l'inférence, pour un surcoût de calcul que les auteurs qualifient de faible sans le chiffrer dans le résumé. Ils ajoutent une validation en manipulation réelle avec le même π0.5. Ils l'appliquent aussi à Cosmos Policy, un WAM, dont le taux moyen passe de 35,4 % à 55,4 %. Les VLA se dégradent souvent dès que la tâche s'écarte de la distribution d'entraînement, alors qu'ils conservent une partie de leur capacité. Ces résultats suggèrent qu'une part de cette compétence reste présente dans les représentations internes et peut être réactivée sans fine-tuning. Pour un intégrateur, cela évite de collecter de nouvelles démonstrations et de réentraîner le modèle à chaque variation de site ou de pièce. Le gain, environ 20 points sur les deux familles de modèles, est net. Il faut toutefois le lire avec prudence. Un taux de 66 % ou de 55 % reste loin d'un seuil de production. La direction de pilotage est propre à chaque tâche et exige des rollouts étiquetés succès ou échec, donc une supervision de résultat. Le résumé ne donne pas de chiffres pour les essais réels. Il s'agit enfin d'un preprint, dont les résultats n'ont pas été évalués par des pairs. π0.5 est la politique généraliste de Physical Intelligence. Elle côtoie Helix de Figure et la famille GR00T de NVIDIA parmi les références du secteur. L'adaptation à de nouvelles conditions passe aujourd'hui surtout par le fine-tuning, l'apprentissage par renforcement ou l'accumulation de données. RoboIRS transpose à la robotique l'idée de « steering » d'activations, déjà explorée sur les grands modèles de langage. La suite logique serait de la tester sur davantage de plateformes et de tâches longues, et de mesurer le surcoût de latence dans des conditions de déploiement. Aucun pilote industriel ni calendrier n'est annoncé. Un site de projet accompagne la publication.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

2arXiv cs.RO

Anticipation sémantique pour les représentations d'actions robotiques

Traduction et synthèse en cours. Une équipe de recherche vient de publier sur arXiv (2607.13597, soumission de juillet 2026) une étude sur la dégradation des représentations sémantiques dans les modèles Vision-Language-Action (VLA), ces architectures qui pilotent aujourd'hui la plupart des robots humanoïdes commerciaux comme Figure 03, Optimus Gen 3 ou les modèles Pi-0 et GR00T N2. Le constat de départ est simple : ces modèles héritent d'une structure sémantique riche de leurs encodeurs vision-langage préentraînés, mais le finetuning sur un nombre limité de démonstrations robotiques érode cette structure, un phénomène que les chercheurs ont confirmé par un sondage systématique des représentations internes. Ils montrent aussi que la qualité de cette structure sémantique conditionne directement le taux de réussite des tâches et la capacité de généralisation hors distribution (out-of-distribution, OOD). Leur solution, baptisée ancrage sémantique, consiste à contraindre les représentations d'action à rester proches d'une variété sémantique de référence tout en séparant un canal partagé et un canal privé, les deux étant supprimés à l'inférence, sans changer le modèle déployé. Testée sur plusieurs backbones VLA en simulation et en conditions réelles, la méthode apporte jusqu'à +18,7% de réussite sur des tâches en distribution et +21,5% en généralisation OOD. L'enjeu dépasse la seule performance sur benchmark : la dérive sémantique pendant le finetuning est un problème connu mais peu quantifié dans l'industrie humanoïde, où les intégrateurs adaptent en permanence des modèles préentraînés à des tâches spécifiques d'usine ou d'entrepôt avec très peu de données. Une méthode plug-and-play, sans coût à l'inférence, qui améliore la robustesse hors distribution touche directement au fameux écart entre démonstration scénarisée et déploiement réel, un des points faibles récurrents des annonces du secteur ces deux dernières années. L'approche s'inspire de la théorie des neurones miroirs, selon laquelle observation et exécution d'une action partagent un même encodage au niveau de l'intention, et s'inscrit dans la lignée des travaux sur les VLA préentraînés type RT-2 ou OpenVLA, où la question du transfert des capacités du modèle vision-langage vers l'action reste un chantier ouvert. Les auteurs positionnent leur contribution comme complémentaire aux architectures existantes plutôt que comme un nouveau backbone, ce qui laisse présager une adoption potentielle par différents laboratoires sans remise en cause de leurs modèles de base.

RecherchePaper

1 source

3arXiv cs.RO

Repenser les représentations pour la modélisation monde-action

Des chercheurs proposent ReWAM, un modèle « monde-action » (world-action model) qui apprend conjointement une politique de contrôle robotique et la prédiction des observations futures, en s'appuyant sur des features DINO pré-entraînées plutôt que sur un pré-entraînement génératif vidéo. Sur le benchmark simulé RoboTwin 2.0, il atteint 93,6 % de réussite. Sur RoboDojo, il obtient un score moyen de 12,29 et un taux de succès de 8,28 %, avec environ 600 heures de données d'embodiment pour le pré-entraînement. Deux mécanismes structurent l'ensemble. Une Feature Calibration et un Temporal Representation Bottleneck compressent les features DINO en états du monde compacts, adaptés à la modélisation de la dynamique. Un Action-Grounded Representation Shaping n'achemine vers ce goulot que les gradients issus de la perte d'action. La politique décide ainsi de ce que la représentation encode, tandis que le modèle du monde apprend comment elle évolue. Il s'agit d'un travail de recherche (preprint arXiv), sans produit ni déploiement associé. L'intérêt tient à la conclusion des comparaisons contrôlées. Ni la fidélité de reconstruction, ni des features perceptuelles pré-entraînées prises isolément ne garantissent un apprentissage de politique efficace. Cela remet en cause une hypothèse répandue : les world models vidéo, coûteux à pré-entraîner, seraient la voie évidente vers des politiques généralistes. Ici, un espace latent compact, façonné par l'action, suffit à un score élevé sur RoboTwin 2.0 sans génération vidéo. Pour les équipes qui évaluent des architectures VLA (vision-language-action) ou monde-action, cela suggère qu'un budget de calcul peut se déplacer du pré-entraînement génératif vers la conception de la représentation. Deux réserves s'imposent. Les 93,6 % relèvent d'un benchmark simulé, qui ne dit rien du transfert sim-to-real. Et le 8,28 % sur RoboDojo montre qu'une tâche plus exigeante reste très loin d'être résolue, ce que le chiffre de RoboTwin masque. Ce travail s'inscrit dans la montée des modèles monde-action, qui cherchent à unifier la prédiction de futurs observés et le contrôle, en concurrence avec les VLA purs comme Pi-0 ou GR00T, et avec les approches fondées sur des modèles vidéo génératifs. Le choix de DINO prolonge l'usage des features auto-supervisées comme backbone visuel en robotique. Les prochaines étapes à surveiller sont une validation sur robot réel, des comparaisons à données de pré-entraînement équivalentes, et la publication du code et des poids. Le preprint ne mentionne pas de partenaire industriel ni d'acteur français ou européen.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

4arXiv cs.RO

Quelles représentations visuelles les modèles d'action du monde requièrent-ils ?

Les modèles World Action Models (WAM), qui héritent des connaissances a priori de modèles pré-entraînés de génération vidéo, souffrent d'une limite structurelle : leurs représentations issues d'un autoencodeur variationnel (VAE) sont optimisées pour reconstruire des images, pas pour manipuler des objets. Une étude parue sur arXiv (2610.13024) compare de façon systématique, en conditions contrôlées, plusieurs représentations visuelles externes, cinq mécanismes d'intégration et diverses combinaisons de caractéristiques. Jusqu'ici, les travaux existants mélangeaient le choix de la représentation et celui du mécanisme d'intégration, ce qui brouillait l'effet de chacun. Les auteurs en tirent une « recette » baptisée R²-WAM, qui atteint l'état de l'art sur RoboCasa GR1 Tabletop avec 84,7 % de réussite et 92,8 % sur RoboTwin 2.0, soit un gain de 5,9 et 2,2 points de pourcentage par rapport aux références reposant uniquement sur le VAE. Trois enseignements se dégagent. D'abord, les représentations visuelles généralistes et puissantes apportent des gains de robustesse plus larges et égalent, voire dépassent, celles pré-entraînées pour une capacité visuelle précise. Ensuite, la prédiction conjointe par canaux (channel-wise) obtient le meilleur taux de succès moyen, un avantage que les analyses attribuent à la prédiction de caractéristiques futures et à une meilleure exploitation de l'information visuelle ajoutée par l'« action expert », le module qui produit les actions. Enfin, les sources supplémentaires doivent être choisies pour l'information utile à la tâche qu'elles apportent en plus de l'existant : la même source peut aider une combinaison et en dégrader une autre. Pour les équipes qui construisent des politiques robotiques sur des modèles vidéo, l'enseignement est pragmatique : l'essentiel du gain vient de l'ajout d'une bonne représentation généraliste au VAE, tandis que l'empilement de sources spécialisées rapporte moins que ce premier saut. Cela invite à investir dans de meilleurs encodeurs généralistes et dans l'intégration plutôt que dans une ingénierie fine des combinaisons. Il faut toutefois relativiser : les résultats proviennent de benchmarks en simulation, et les écarts de quelques points ne disent rien du transfert au monde réel ni de la fiabilité exigée en production. Le texte ne livre pas non plus de temps de cycle ni de données de déploiement. Ce travail s'inscrit dans la montée des modèles du monde et des architectures vision-langage-action (VLA), où l'on cherche à exploiter les priors de la génération vidéo pour la manipulation. RoboCasa GR1 Tabletop, orienté humanoïde, et RoboTwin 2.0, centré sur la manipulation bimanuelle, servent de référence pour comparer ces approches. Les auteurs concluent que les recherches futures devraient prioriser des représentations généralistes plus fortes et des mécanismes d'intégration plus efficaces, la composition de caractéristiques restant une piste complémentaire.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source