RecherchearXiv cs.RO 5 octobre 2026

OpenRUA : les agents d'utilisation de robots sont des politiques visuomotrices zero-shot

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

OpenRUA, un framework publié sur arXiv (code disponible sur GitHub, dépôt terminalworld/OpenRUA), montre qu'un agent de code généraliste peut piloter un robot sans couche d'abstraction sur mesure. Le dispositif se limite à un accès terminal à ROS 2, l'interface logicielle native du robot. L'agent dispose d'un espace de travail minimal contenant la documentation ROS 2 et quelques outils de base, puis organise seul son travail, sans workflow imposé. La perception devient une affaire de lecture de fichiers, la manipulation un exercice de programmation. Avec Claude Code propulsé par Claude Opus 5, les auteurs rapportent 99,0 % de réussite sur CaP-Bench et 87,0 % sur LIBERO-PRO, sans primitives dédiées ni entraînement spécifique aux tâches. Dans 96,80 % des épisodes, l'agent écrit de lui-même des programmes qui traitent les données brutes des capteurs pour en tirer des mesures métriques. Il construit des clients de contrôle moteur, comme la commande de pince, dans 95,87 % des épisodes, et des boucles de contrôle fermées, qui ajustent le mouvement selon le retour capteur, dans 50,13 % des cas.

L'intérêt tient à la remise en cause d'une pratique répandue : empiler des harnais complexes, avec workflows prescrits et interfaces maison, autour des modèles pour les faire agir sur du matériel. Si un agent de code du commerce atteint ces scores avec ROS 2 seul, une partie de cette ingénierie pourrait être superflue. Pour les intégrateurs, cela suggère que la valeur se déplace vers la qualité de la documentation, des interfaces standard et des garde-fous, plutôt que vers des SDK propriétaires. C'est aussi une alternative aux VLA (vision-language-action) entraînés de bout en bout, comme Pi-0 ou GR00T, puisqu'ici la politique visuomotrice est produite à la volée sous forme de code. Les réserves sont nombreuses. Les résultats portent sur des benchmarks, très probablement en simulation, et rien n'indique une validation sur robot réel. Le temps de cycle, la latence, le coût en tokens et la sécurité d'un code généré puis exécuté sur un bras ne sont pas détaillés dans le résumé. Le contrôle en boucle fermée n'apparaît que dans la moitié des épisodes, ce qui limite la portée pour les tâches dynamiques.

Ces travaux prolongent la montée en puissance des agents de code, d'abord cantonnés au logiciel, puis étendus au monde physique via des approches de type « code as policies », où un modèle de langage écrit des programmes de contrôle. Les travaux antérieurs s'appuyaient sur des harnais spécialisés, que OpenRUA cherche à supprimer. Le concept concurrence les VLA entraînés sur de grandes bases de démonstrations, au prix d'une dépendance à un modèle propriétaire de pointe. Les prochaines étapes à surveiller sont la validation sur matériel réel, la mesure des coûts et de la latence, et la reproduction avec des modèles ouverts, que la publication du code rend désormais possible.

Impact France/UE

Pas d\'impact direct sur la France/UE

Dans nos dossiers

NVIDIA GR00T arXiv cs.RO

À lire aussi

1arXiv cs.RO

Robots à trois bras : apprentissage par imitation visuomotrice de politiques robotiques

Voici l'article traduit et résumé. Une équipe de recherche présente TriManPolicy, un système d'apprentissage par imitation conçu pour piloter des robots à trois bras simultanément. Le problème de départ est concret : la téléopération bi-manuelle classique fonctionne bien quand le nombre de canaux de contrôle correspond entre l'opérateur humain et le robot, mais elle échoue dès qu'un robot dispose d'un troisième bras, puisqu'un seul opérateur ne peut piloter en continu que deux membres à la fois. Basculer entre paires de bras force alors à enregistrer des mouvements indépendants de façon séquentielle, ce qui pousse l'apprentissage par clonage comportemental à reproduire des délais imposés par l'interface de contrôle plutôt que par la tâche elle-même. Le composant central de TriManPolicy est le Dependency-Aware Tri-Arm Scheduling (DATS), un algorithme qui retraite les démonstrations hors ligne : il conserve les segments sensorimoteurs locaux tels que démontrés mais les repositionne dans le temps selon des contraintes d'ordre des tâches et d'usage des bras, validées par un humain. Le résultat entraîne une politique unique et synchrone pour les trois bras, sans nécessiter le graphe de dépendances ni le planificateur au moment du déploiement. Sur six tâches réelles complexes, les politiques entraînées sur données retimées par DATS montrent une coordination plus efficace, avec un taux de succès comparable aux méthodes classiques. Cette avancée s'attaque à un goulot d'étranglement peu discuté de la robotique humanoïde et multi-bras : la collecte de données de démonstration reste le facteur limitant pour entraîner des politiques visuomotrices de type VLA, et les systèmes à trois bras ou plus (bras additionnels, mains bimanuelles montées sur base mobile) sont de plus en plus courants dans les plateformes industrielles. En prouvant qu'il est possible de découpler la structure temporelle de la démonstration humaine de celle exigée par la tâche, TriManPolicy ouvre la voie à une collecte de données plus rapide et moins coûteuse pour des architectures robotiques complexes, un enjeu direct pour les intégrateurs qui cherchent à réduire le coût par démonstration sans sacrifier la qualité de coordination entre membres. Ce travail s'inscrit dans la lignée plus large des recherches sur l'apprentissage par imitation visuomoteur, où la majorité des systèmes existants (type ALOHA, Mobile ALOHA ou les plateformes bimanuelles standard) suppose une correspondance stricte entre canaux de téléopération humains et effecteurs robotiques. En proposant une méthode de retiming offline validée par supervision humaine plutôt qu'un simple filtrage des temps morts, les auteurs montrent que DATS modifie réellement la structure de supervision entre bras. Les six tâches testées en conditions réelles suggèrent une piste concrète pour les futurs travaux sur les architectures à quatre bras ou plus, notamment pour les robots humanoïdes à deux bras plus une base mobile ou un troisième effecteur dédié à une tâche auxiliaire.

RecherchePaper

1 source

2arXiv cs.RO

Vérification probabiliste de l'action réalisable des politiques visuomotrices par entraînement basé sur des ensembles

Des chercheurs viennent de publier sur arXiv (papier 2608.02545) une méthode de vérification formelle pour les politiques visuomotrices des robots, celles qui transforment des images caméra en actions de commande via des réseaux VLA (vision-language-action). Le problème qu'ils adressent : l'analyse d'atteignabilité (reachability analysis), qui garantit mathématiquement qu'un robot ne dépassera pas certaines limites d'action, devient ingérable dès qu'on utilise de gros encodeurs visuels, car propager l'incertitude à travers tout le réseau de bout en bout est trop coûteux en calcul et donne des marges de sécurité absurdement larges. Leur solution consiste à geler l'encodeur visuel et à ne propager les ensembles d'incertitude que dans l'interface de basse dimension entre cet encodeur et la politique de décision en aval, calibrée à partir de perturbations de pose de caméra mises à l'écart. Cette propagation utilise des zonotopes (une représentation géométrique d'ensembles) pour produire une largeur d'enveloppe de sortie que l'entraînement dit "set-based" optimise directement. En évaluation, une calibration conforme fractionnée au niveau des trajectoires convertit les écarts d'action mesurés en un rayon d'action atteignable probabiliste, avec une garantie de couverture statistique à échantillon fini. Pour l'industrie robotique, l'enjeu dépasse la curiosité académique : c'est une brique de sécurité qui manquait cruellement aux politiques VLA déployées en usine ou en environnement partagé avec des humains. Aujourd'hui, la plupart des démonstrations de robots humanoïdes ou de bras manipulateurs pilotés par des modèles de type Pi-0, GR00T N2 ou Helix reposent sur la confiance empirique plutôt que sur une preuve mathématique de leurs limites d'action, ce qui freine leur certification pour des tâches critiques. En montrant qu'un entraînement contraint par ensembles réduit le rayon d'incertitude sans sacrifier les performances en boucle fermée, les auteurs suggèrent qu'il est possible d'obtenir des garanties de sécurité formelles sans reconcevoir entièrement l'architecture des politiques, ce qui intéressera directement les intégrateurs et les responsables de certification qui cherchent à faire homologuer des systèmes robotiques autonomes. Cette approche s'inscrit dans un courant de recherche plus large sur la vérification formelle des systèmes d'apprentissage profond, historiquement concentré sur les réseaux de classification ou de contrôle simples, et qui commence seulement à s'attaquer aux politiques visuomotrices modernes à grande échelle. Les auteurs comparent leur méthode à plusieurs contrôles alternatifs, entraînement comportemental seul, cohérence observationnelle, perturbations adversariales ponctuelles, qui produisent tous des rayons d'atteignabilité plus larges, ce qui valide empiriquement l'intérêt de leur approche par ensembles. Le papier ne mentionne pas de déploiement industriel ni de partenariat commercial : il s'agit à ce stade d'une contribution méthodologique testée en expériences de manipulation contrôlées, dont les prochaines étapes logiques seraient l'extension à des politiques plus complexes ou à des robots mobiles et humanoïdes en conditions réelles.

RecherchePaper

1 source

3arXiv cs.RO

Ordered Action Tokens pour l'apprentissage de politiques visuomotrices

Des chercheurs publient sur arXiv (arXiv:2607.21670v1) une nouvelle méthode de tokenisation d'actions pour les politiques visuomotrices de robots, baptisée OAT (Ordered Action Tokenization). Le problème visé est concret : pour piloter un bras ou un robot humanoïde via un modèle vision-langage-action (VLA), il faut convertir des séquences d'actions continues en tokens discrets, une étape clé de l'architecture. Les méthodes existantes échouent sur deux fronts, soit elles produisent des séquences de tokens beaucoup trop longues, soit elles génèrent des tokens latents appris mais sans structure interne, ce qui les rend peu compatibles avec les politiques de contrôle en aval. OAT combine un transformer à registres, une quantification scalaire finie et des mécanismes d'entraînement qui imposent un ordre aux tokens produits. Concrètement, chaque préfixe de la séquence de tokens est entraîné à pouvoir, à lui seul, se décoder en une action valide, les premiers tokens portant l'information de contrôle grossière et les suivants affinant les détails résiduels. Les auteurs ont testé la méthode sur trois architectures de politiques différentes et plus de 60 tâches, couvrant cinq bancs d'essai en simulation ainsi que des scénarios réels. Cette structure ordonnée change la donne opérationnelle : elle permet un compromis "anytime" entre coût de calcul à l'inférence et précision du geste, un point critique pour le déploiement embarqué où la latence contraint directement la cadence de contrôle. Pour les intégrateurs travaillant avec des politiques autorégressives ou des architectures hybrides combinant tokens et experts de type flow, cela ouvre la possibilité d'ajuster dynamiquement le compromis vitesse-précision sans changer de modèle, un besoin réel face aux VLA actuels souvent jugés trop lents pour du contrôle temps réel industriel. Le travail s'inscrit dans la lignée des tokenizers d'actions développés pour les politiques VLA type Pi-0 ou GR00T N2, où l'encodage des actions reste un goulot d'étranglement identifié par la recherche depuis l'essor de ces modèles. En comparant explicitement autorégression pure et co-entraînement par tokens dans un cadre flow-based, les auteurs positionnent OAT comme une brique d'interface générique, potentiellement réutilisable au-delà des architectures testées dans l'étude.

RechercheActu

1 source

4arXiv cs.RO

Repenser la dépendance à l'incarnation visuelle des politiques visuomotrices

Des chercheurs publient sur arXiv (2609.16815, 16 septembre 2026) une étude sur ce qu'ils appellent la "dépendance à l'incarnation visuelle" (visual embodiment dependence, VED) dans les politiques visuomotrices, ces modèles qui pilotent un bras robotique à partir d'images de la scène et du robot lui-même. Par des expériences de "conflit d'indices" sur plusieurs politiques représentatives, l'équipe montre que la configuration visible du robot (bras, pince) devient souvent un raccourci que le modèle exploite pour prédire l'action, au lieu de raisonner sur la tâche elle-même. Plutôt que de supprimer cette information visuelle, les auteurs proposent de la restructurer via une "canonicalisation de l'incarnation" dans des nuages de points 3D : la géométrie du robot réel est remplacée par une représentation canonique de l'effecteur terminal (canonical end-effector représentation, CER), qui conserve la géométrie utile au contrôle tout en effaçant la morphologie spécifique du robot. Cette forme éditable permet aussi une augmentation par "décorrélation de configuration" pour des configurations robotiques inédites. Le site du projet est accessible à tonyfang.net/ved. Pour l'industrie robotique, ces résultats touchent un point sensible : le transfert de démonstrations humaines vers des politiques robot sans données de démonstration réelles collectées sur le robot cible, une piste centrale pour réduire le coût d'entraînement des modèles VLA (vision-language-action) à mesure que les intégrateurs multiplient les bras et les pinces différents sur leurs lignes. L'étude montre que la canonicalisation améliore nettement ce transfert humain-vers-robot, mais aussi qu'un simple retrait de l'incarnation visuelle, sans préserver la géométrie pertinente pour le contrôle, ne suffit pas et dégrade les performances. Elle révèle également un effet pervers : la CER elle-même peut redevenir un raccourci si la configuration du robot se découple de la progression de la tâche, ce que l'augmentation par décorrélation permet de corriger sans perdre en performance sur les configurations déjà vues. Ce travail s'inscrit dans la lignée des efforts pour généraliser des politiques comme Pi-0, GR00T N2 ou Helix à travers différentes plateformes robotiques, un problème central alors que des acteurs comme Figure, Tesla (Optimus) ou Physical Intelligence cherchent à faire tenir un même modèle sur des morphologies variées. Il s'agit ici d'une contribution de recherche méthodologique, testée en expérimentation sur des politiques existantes plutôt qu'un produit ou un déploiement industriel, mais elle apporte un éclairage utile sur les limites actuelles du sim-to-real et du transfert cross-embodiment, sans annoncer de calendrier de mise en œuvre commerciale.

RecherchePaper

1 source