Aller au contenu principal
Penser par proprioception : une sélection de tokens visuels ancrée sur l'état pour les modèles VLAIllustration générée par IA
RecherchearXiv cs.RO 

Penser par proprioception : une sélection de tokens visuels ancrée sur l'état pour les modèles VLA

1 source couvre ce sujet·Source originale ↗·

Compilé et résumé par IA · sources vérifiables en un clic · publié sans lecture humaine préalable · méthodologie

Résumé IASource unique

Des chercheurs présentent ThinkProprio, une nouvelle architecture pour les modèles vision-langage-action (VLA) qui pilotent les robots. Contrairement aux approches classiques où la proprioception, c'est-à-dire l'état interne du robot comme la position de ses articulations, n'intervient qu'en toute fin de traitement comme simple signal de conditionnement passif, ThinkProprio discrétise cette information en tokens compatibles avec le vocabulaire du modèle de vision-langage. Ces tokens sont ensuite utilisés conjointement avec l'instruction textuelle pour filtrer les patches visuels avant même que le calcul du VLM ne démarre. Résultat clé des expériences menées sur les bancs d'essai CALVIN et LIBERO ainsi qu'en manipulation réelle : ne conserver qu'environ 12% des tokens visuels suffit à dépasser les performances d'une baseline utilisant l'intégralité des tokens sur le protocole CALVIN ABC vers D, tout en réduisant la latence d'inférence de bout en bout.

L'apport est significatif pour le secteur car il renverse une hypothèse répandue : ajouter la proprioception comme simple signal supplémentaire ne change quasiment rien aux performances, contrairement à ce qu'on pourrait attendre. La valeur n'apparaît que lorsque l'état du robot sert de requête active, en sélectionnant en amont quelles informations visuelles méritent d'être traitées. Pour les intégrateurs et équipes robotique confrontées au goulot d'étranglement de la latence d'inférence lors du déploiement de VLA sur du matériel réel, cette piste ouvre une voie concrète pour accélérer l'exécution sans sacrifier la précision des actions.

Cette contribution s'inscrit dans une tendance de fond de la recherche en VLA, où des modèles comme GR00T N2, Pi-0 ou Helix intègrent généralement la proprioception de façon tardive et peu exploitée architecturalement. Face à la pression pour rendre ces modèles exécutables en temps réel embarqué, l'efficacité de l'inférence devient un axe de recherche aussi central que la précision des tâches. Les auteurs valident leur approche par des ablations systématiques montrant la supériorité des tokens de vocabulaire VLM sur des projecteurs appris, ouvrant la voie à une adoption potentielle par les laboratoires développant des modèles fondation pour la robotique embarquée.

À lire aussi

GAIT : estimation proprioceptive de l'état d'un robot à pattes par attention sur tokens inertiels
Illustration générée par IA
1arXiv cs.RO 

GAIT : estimation proprioceptive de l'état d'un robot à pattes par attention sur tokens inertiels

Une équipe de chercheurs a publié sur arXiv (2606.14160) une nouvelle méthode d'estimation d'état proprioceptive pour robots à pattes, baptisée GAIT. L'approche repose sur une tokenisation inertielle-jambe (Inertial-Leg, IL) couplée à un réseau d'attention : plutôt que de concaténer l'ensemble des données capteurs en un seul vecteur plat, l'architecture représente les mesures inertielles et les mesures par jambe comme des tokens distincts, puis utilise un mécanisme d'attention pour pondérer dynamiquement chaque source selon les conditions de contact courantes. La méthode a été validée sur un robot quadrupède Unitree Go1, sur des terrains encombrés de débris absents de la simulation d'entraînement, et sur des allures (gait patterns) non présentées lors de l'apprentissage. L'enjeu de GAIT est de résoudre un problème central des estimateurs à pattes : la fiabilité des mesures de cinématique directe dépend du contact effectif du pied avec le sol. Les estimateurs classiques "contact-aided" contournent ce problème via un module de détection de contact explicite et l'hypothèse d'un appui stationnaire, ce qui les rend fragiles sur terrains irréguliers ou lors de transitions d'allure. GAIT apprend ce comportement de repondération directement depuis les données, sans estimateur de contact dédié, éliminant une source d'erreur en cascade. Les résultats montrent une supériorité sur les estimateurs d'apprentissage existants pour des allures non vues, ainsi qu'une amélioration par rapport aux méthodes modèles contact-aided, confirmant que les architectures à attention peuvent réduire le gap sim-to-real sur l'estimation proprioceptive bas-niveau. L'estimation d'état proprioceptive reste un défi persistant en robotique à pattes : les filtres de Kalman étendu (EKF) et variantes invariantes dominent en production chez Boston Dynamics et Unitree, mais peinent sur terrains non structurés. Les approches d'apprentissage antérieures traitaient généralement les capteurs comme un vecteur plat homogène, sans différenciation structurelle entre inertielles et cinématiques. GAIT s'inscrit dans la tendance 2024-2026 d'appliquer des mécanismes d'attention aux données robotiques bas-niveau, une direction convergente avec les architectures VLA (Vision-Language-Action) pour la commande motrice. Le code n'est pas encore publié ; la prochaine étape naturelle serait une validation sur plateformes bipèdes telles que l'Unitree H1 ou le Boston Dynamics Atlas, où la phase de vol rend l'estimation d'état encore plus critique.

RecherchePaper
1 source
ActPrune : élagage de jetons visuels guidé par l'action pour des modèles vision-langage-action (VLA) efficaces
Illustration générée par IA
2arXiv cs.RO 

ActPrune : élagage de jetons visuels guidé par l'action pour des modèles vision-langage-action (VLA) efficaces

ActPrune, une méthode d'élagage de tokens visuels sans entraînement pour les modèles vision-langage-action (VLA), a été publiée sur arXiv (2611.08827). Elle vise un goulot d'étranglement connu: le coût d'inférence des VLA, qui limite la rapidité de réaction d'un robot en boucle fermée. Contrairement aux approches précédentes, qui estiment la redondance des tokens à partir des embeddings visuels ou de l'attention, donc après le passage de l'image entière dans l'encodeur visuel, ActPrune prend sa décision en amont de l'encodeur. Elle s'appuie pour cela sur l'action propre du robot: le « chunk » d'actions prédit au pas de contrôle précédent est déjà disponible avant l'encodage de la nouvelle observation, et il décrit le mouvement de l'effecteur et de la caméra entre deux observations. Les auteurs annoncent jusqu'à 1,61 fois d'accélération et 59,5 % de FLOPs en moins, avec une dégradation jugée négligeable du taux de succès. Les tests couvrent deux environnements de simulation (LIBERO et VLABench) et quatre tâches sur robot réel. Le mécanisme traite les deux vues de caméra standard de façon asymétrique. Dans la vue tierce fixe, la méthode conserve les patchs situés le long de la trajectoire projetée de l'effecteur, ainsi que des « ancres sémantiques » qui préservent le contexte de la scène. Dans la vue poignet, elle élimine les patchs qui restent inchangés une fois compensé le mouvement de caméra induit par l'action. L'intérêt pratique tient à l'ordre des opérations: l'encodeur visuel est une part importante du calcul d'un VLA, et un élagage placé après lui n'en réduit pas le coût. En l'absence de réentraînement, la méthode peut en principe se brancher sur des politiques existantes. Elle reste toutefois dépendante de la qualité de l'action précédente et de la calibration géométrique des caméras. Les gains mesurés en FLOPs et en accélération ne disent rien, à ce stade, de la robustesse en environnement non structuré, et quatre tâches réelles constituent un échantillon restreint. Ce travail s'inscrit dans une série de recherches sur la compression des VLA (élagage de tokens, mise en cache, distillation), motivée par la difficulté de faire tourner des modèles de plusieurs milliards de paramètres à la fréquence qu'exige un contrôle fluide, surtout sur du matériel embarqué. Il s'agit d'une prépublication académique: aucun produit, déploiement industriel ni modèle nommé (type Pi-0, GR00T ou Helix) n'est cité dans le résumé, et le code ou les modèles de base utilisés ne sont pas précisés. Les prochaines étapes naturelles seraient une validation sur des politiques VLA plus variées, des horizons de tâche plus longs et des plateformes embarquées, ainsi qu'une évaluation de la combinaison avec d'autres techniques d'accélération. Pour les intégrateurs, la valeur du résultat sera à confirmer par des mesures de latence de bout en bout sur matériel réel plutôt que par les seuls FLOPs.

RecherchePaper
1 source
Attaques par redirection de trajectoire sur les modèles vision-langage-action (VLA)
Illustration générée par IA
3arXiv cs.RO 

Attaques par redirection de trajectoire sur les modèles vision-langage-action (VLA)

Des chercheurs ont publié le 12 juin 2026 un article (arXiv:2606.12978) introduisant une nouvelle classe d'attaques adversariales sur les politiques robotiques de type VLA (Vision-Language-Action), ces architectures qui combinent un modèle de langage, une vision par caméra et un contrôleur moteur pour exécuter des tâches de manipulation à partir d'instructions textuelles. L'attaque baptisée "command-preserving trajectory redirection" (redirection de trajectoire préservant la commande) consiste à modifier subtilement le prompt d'entrée de façon à ce qu'il reste visuellement et sémantiquement proche de l'instruction légitime, mais provoque un résultat physique entièrement différent. Le modèle de menace est strict : l'attaquant ne modifie ni les poids du modèle, ni l'environnement, il choisit un seul prompt avant l'épisode, et ce prompt reste dans la norme syntaxique de la commande originale, sans mots-cibles ni langage correctif. Les auteurs proposent une méthode de recherche "on-policy" qui exploite des rollouts réels du robot pour identifier les perturbations textuelles dont le comportement en boucle fermée dévie vers une tâche cible. Les expériences sont conduites en simulation et sur robot physique, confirmant le transfert de l'attaque au monde réel. Ce résultat est significatif pour les intégrateurs et les décideurs industriels qui évaluent l'adoption des VLA en production, notamment dans les contextes de manipulation collaborative ou d'assemblage. La vulnérabilité exploite une propriété structurelle des VLA en boucle fermée : le même prompt est réappliqué à chaque étape de re-planification, et chaque action conditionnée modifie les observations futures sur lesquelles la politique agit. Un prompt malveillant peut donc cumuler ses effets sur toute une trajectoire, là où les attaques précédentes se limitaient à des perturbations action-par-action ou à la persistance d'actions basses. Cela contredit implicitement l'hypothèse que la robustesse visuelle d'un VLA suffit à garantir son intégrité comportementale, et soulève des questions concrètes sur la validation de sécurité avant déploiement. Les modèles VLA sont au coeur de plusieurs développements récents : pi0 de Physical Intelligence, OpenVLA, RT-2 de Google DeepMind, ou encore les politiques embarquées sur les humanoïdes Figure et 1X. La recherche en sécurité adversariale sur ces architectures était jusqu'ici dominée par des attaques sur les observations visuelles ou sur les actions individuelles ; ce travail ouvre formellement le champ des attaques au niveau de l'instruction textuelle à horizon long. Les auteurs n'annoncent pas de correctif ni de contre-mesure validée, ce qui laisse ouverte la question de la robustification des pipelines VLA. Les prochaines étapes attendues dans la communauté concerneront vraisemblablement la détection de prompts adversariaux à la volée et l'évaluation de ce vecteur d'attaque sur des modèles déployés commercialement. Le site projet est accessible à l'adresse indiquée dans le papier.

RechercheOpinion
1 source
L'IA générative face aux imitations : une étude sur les interfaces d'information par étape pour l'affinement des modèles VLA
Illustration générée par IA
4arXiv cs.RO 

L'IA générative face aux imitations : une étude sur les interfaces d'information par étape pour l'affinement des modèles VLA

Voici l'article traduit et résumé. Une équipe de recherche a mené une étude empirique comparant différentes interfaces d'information de stade pour l'affinement de politiques Vision-Langage-Action (VLA) sur des tâches de manipulation robotique longue durée. Le problème adressé : une instruction unique de haut niveau (par exemple "range la vaisselle") peut recouvrir plusieurs étapes d'action distinctes, et les chercheurs ont testé si fournir explicitement cette information de progression améliore la performance. Ils ont utilisé des annotations d'action segmentées comme représentation intermédiaire entre l'instruction complète et les segments d'action du modèle VLA, avec un module de suivi de progression qui détecte l'étape active. Deux interfaces ont été comparées à une politique utilisant seulement l'instruction complète : un texte décrivant l'étape courante, et un "Ordinal Stage-State" (un index ordinal normalisé intégré à l'état du robot). Les tests ont été menés sur GR00T N1.6, le modèle VLA de NVIDIA, sur le benchmark LIBERO-10, selon deux protocoles d'entraînement (affinement direct et affinement en continuation depuis un modèle de référence entraîné sur l'instruction complète). Les résultats nuancent une hypothèse répandue dans le secteur robotique, celle qu'ajouter une information de contexte explicite (ici, l'étape en cours) améliore mécaniquement la performance d'une politique VLA. En affinement direct, l'instruction complète seule obtient le meilleur taux de succès moyen (57,45%), devant l'Ordinal Stage-State (54,36%) et le texte d'étape courante (50,24%) : l'information de stade n'apporte donc pas de gain automatique. En revanche, en configuration de continuation depuis un modèle pré-entraîné, l'Ordinal Stage-State dépasse les deux autres approches sur les trois essais appariés (53,75% contre 50,00% et 49,07%). Pour les intégrateurs et équipes de recherche travaillant sur des politiques génératives pour la manipulation longue durée, ce résultat suggère que le bénéfice d'un signal de progression dépend fortement du format de représentation choisi et du régime d'entraînement, un point souvent négligé dans les communications marketing autour des modèles "world-aware" ou "task-decomposition". Cette étude s'inscrit dans un contexte de compétition croissante autour des architectures VLA pour les robots humanoïdes et bras manipulateurs, où NVIDIA (avec sa famille GR00T), Physical Intelligence (Pi-0) et d'autres laboratoires cherchent à améliorer la généralisation des politiques sur des tâches multi-étapes. LIBERO-10, benchmark standard de manipulation à long horizon, sert ici de terrain de comparaison contrôlé. Les auteurs soulignent que l'effet observé varie selon la représentation d'interface et l'arrangement d'entraînement, ouvrant la voie à des travaux futurs sur la conception de signaux de progression plus robustes, potentiellement transférables à d'autres familles de modèles VLA au-delà de GR00T N1.6.

RecherchePaper
1 source