RecherchearXiv cs.RO 27 octobre 2026

X-World : transfert de connaissances vidéo vers le contrôle de robots à points de vue variables

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

X-World, publié sur arXiv (2610.34105v1), propose un cadre qui transfère les représentations d'interaction d'un modèle de diffusion vidéo préentraîné vers le contrôle de robots, via une séquence fixe de tokens confiée à un expert d'action partagé. Techniquement, une branche d'attention croisée résiduelle entre vues étend le backbone vidéo à une, deux ou trois caméras tout en conservant son chemin d'auto-attention d'origine. Un Q-Former aligné par couche agrège les features du backbone, et des modules propres à chaque jeu de données traduisent entre les interfaces natives d'état et d'action et l'expert partagé. L'entraînement sépare l'adaptation vidéo du préentraînement d'action seul, où le backbone est gelé, puis procède à un post-entraînement conjoint sur le domaine cible. À l'inférence, une seule passe du backbone extrait les features, et l'exécution repose sur un découpage asynchrone des actions (action chunking). Sur LIBERO, X-World atteint 98,5 % de succès moyen. Le checkpoint entraîné sur LIBERO obtient 76,5 % sur LIBERO-Plus sans adaptation supplémentaire. Sur six tâches réelles à deux bras, le taux moyen est de 81,7 % sur 20 essais par tâche.

L'intérêt tient à la manière dont le travail s'attaque à deux obstacles de la robotique généraliste : la variabilité du nombre et de la position des caméras, et l'hétérogénéité des interfaces d'action entre robots. Faire passer un prior vidéo par un goulot de tokens de longueur fixe, avec un expert d'action commun, est une voie crédible vers des politiques VLA (vision-langage-action) réutilisables d'une plateforme à l'autre, ce qui compte pour les intégrateurs qui ne veulent pas réentraîner un modèle par cellule. Les résultats appellent toutefois à la prudence. LIBERO est un banc d'essai proche de la saturation, et la décomposition de LIBERO-Plus en sept types de perturbations montre des gains sur le robot, le langage, l'éclairage et l'agencement, mais des faiblesses face aux changements de caméra, d'arrière-plan et de bruit par rapport à OpenVLA-OFT. Or la sensibilité au point de vue est précisément ce que le cadre prétend traiter. Côté réel, 20 essais par tâche donnent des intervalles de confiance larges, et les ablations indiquent que retirer l'adaptation vidéo ou la fusion inter-vues provoque les plus fortes chutes, ce qui valide les deux briques centrales.

Ce travail s'inscrit dans la course aux politiques robotiques fondées sur des modèles vidéo génératifs, face aux VLA classiques construits sur des modèles vision-langage, dont OpenVLA-OFT sert ici de référence. Le papier est une préimpression non relue par les pairs. Aucun code, calendrier de publication ni déploiement industriel n'est mentionné dans le résumé. Les prochaines étapes à surveiller sont la robustesse aux changements de caméra, l'évaluation sur davantage de plateformes et des essais réels à plus grande échelle.

Dans nos dossiers

IA physique & VLA OpenVLA / RT-X arXiv cs.RO

À lire aussi

1arXiv cs.RO

Apprentissage par renforcement guidé par contraintes pour le contrôle en impédance variable dans l'insertion robotique à contacts multiples

Une équipe de recherche a publié en septembre 2026 sur arXiv (référence 2609.13516) CG-RL (Constraint-Grounded Reinforcement Learning), un contrôleur d'impédance variable pour l'insertion robotique en contact incertain, où la limite de force axiale tolérée et le gain adapté varient selon la tâche et imposent normalement un retuning manuel des contrôleurs classiques. La politique reçoit en entrée la limite de force et le retour de contact, produit un mouvement résiduel, un taux d'insertion et un gain demandé, que le contrôleur projette ensuite dans une plage admissible sans exposer cette plage à la politique elle-même. Testée en simulation sur une tâche d'insertion oblique, sur cinq graines d'entraînement, CG-RL atteint un taux de réussite de 85,8 % ± 7,7 % sans violation de la limite de force, contre seulement 50,1 % pour une référence à gain fixe réglée au point médian de la plage. Pour les intégrateurs travaillant sur l'assemblage à contact riche (connecteurs, pièces mécaniques), l'intérêt tient à la suppression du réglage manuel des gains d'impédance à chaque changement de tâche : une seule politique généralise à des limites de force inédites, y compris plus permissives que celles vues à l'entraînement, sans réentraînement. Privée de l'information sur la limite de force, la même politique ne montre pas cette adaptation continue, ce qui isole clairement l'apport du conditionnement par contrainte. Le gain reste garanti dans la plage admissible par construction du contrôleur, mais le respect effectif de la limite de force n'est validé qu'empiriquement, sans garantie formelle, une limite explicitement assumée par les auteurs. Le travail reste cantonné à la simulation, sans transfert démontré vers un robot physique : il s'agit d'une preuve de concept méthodologique, pas d'une solution prête pour l'usine. Le contrôle d'impédance reste depuis des décennies la référence pour la manipulation en contact, mais son réglage à gain fixe exige une expertise humaine propre à chaque tâche ; l'apprentissage par renforcement appliqué à l'impédance variable cherche depuis plusieurs années à automatiser ce réglage. CG-RL s'en distingue par une séparation explicite entre la politique apprise et la contrainte de sécurité, cette dernière étant appliquée par projection côté contrôleur plutôt qu'apprise par le réseau, ce qui garantit formellement l'admissibilité du gain sans garantir la satisfaction de la contrainte de force. L'article, classé comme nouvelle soumission arXiv sans partenaire industriel cité, appelle logiquement une validation sur robot réel et une extension à d'autres géométries d'insertion que le cas oblique testé ici.

RecherchePaper

1 source

2arXiv cs.RO

VIA : agent d'interface visuelle pour le contrôle de robots

Le laboratoire d'IA publie sur arXiv (référence 2607.11119v1) un framework baptisé VIA, pour Visual Interface Agent, qui aborde le contrôle robotique sous un angle radicalement différent des approches dominantes. Plutôt que d'entraîner un modèle vision-langage-action (VLA) spécialisé sur des données robotiques, VIA fait piloter un bras manipulateur par un agent génériste (Claude Code ou Codex) via une interface 3D dans un navigateur : l'agent prend des captures d'écran, envoie des commandes simples, observe le résultat et ajuste sa trajectoire en boucle fermée. Aucun fine-tuning spécifique au robot, aucun accès à des données d'état privilégiées : seulement de la perception visuelle et un petit ensemble d'outils génériques. Avec le modèle le plus performant testé, Fable 5, VIA atteint 96,7% de réussite sur trois tâches de la suite LIBERO-Goal et 100% sur une tâche complexe d'assemblage séquentiel ("rainbow assembly"). L'enjeu dépasse la simple prouesse technique. Les modèles VLA actuels (dérivés de familles comme pi-0 ou GR00T N2) restent des ordres de grandeur plus petits que les modèles généralistes de pointe, faute de données et de calcul disponibles pour le fine-tuning robotique, ce qui plafonne mécaniquement leurs capacités de raisonnement. VIA suggère au contraire que les capacités générales des agents de codage ou d'usage d'ordinateur se transfèrent directement au contrôle physique, à condition de leur fournir la bonne interface. Autre signal notable : la performance de VIA progresse avec l'échelle et la puissance du modèle sous-jacent, ce qui laisserait entrevoir des gains automatiques à mesure que les modèles génériques s'améliorent, sans réentraînement robotique dédié. Pour les intégrateurs et décideurs du secteur, cela questionne la nécessité de collecter des données robotiques coûteuses pour chaque nouvelle tâche. Le travail s'inscrit dans la vague de recherche sur les VLA (RT-2, OpenVLA, Helix et consorts), qui reste aujourd'hui le paradigme dominant pour la robotique généraliste. VIA en propose une alternative agentique, sans fine-tuning, testée pour l'instant uniquement sur des tâches de manipulation de table en environnement contrôlé. Il s'agit d'un préprint arXiv, non encore validé par les pairs, et les auteurs eux-mêmes présentent leurs résultats comme des indices de transférabilité plutôt que comme une solution de déploiement industriel : les prochaines étapes attendues porteront sur l'élargissement à des tâches plus diverses et des environnements réels au-delà du tabletop.

RechercheActu

1 source

3arXiv cs.RO

WestWorld : un modèle du monde de trajectoires évolutif intégrant des connaissances pour systèmes robotiques variés

Une équipe de chercheurs a publié WestWorld (arXiv:2603.14392), un modèle de monde trajectoire conçu pour opérer sur des systèmes robotiques hétérogènes. Préentraîné sur 89 environnements complexes couvrant une large variété de morphologies en simulation et en conditions réelles, le modèle cible deux lacunes récurrentes dans la littérature : la difficulté de passer à l'échelle face à un grand nombre de dynamiques système distinctes, et l'absence d'intégration des connaissances sur les structures physiques des robots. La validation réelle a été conduite sur un quadrupède Unitree Go1, où WestWorld a démontré des performances stables en locomotion. Le code source est disponible sur GitHub. L'architecture repose sur un mécanisme baptisé Sys-MoE (system-aware Mixture-of-Experts), qui route dynamiquement des experts spécialisés selon le système robotique fourni en entrée, via un embedding système appris. Un embedding structurel complémentaire aligne les représentations de trajectoires avec les informations morphologiques du robot, permettant au modèle de tenir compte du fait qu'un bras articulé, un quadrupède et une plateforme mobile n'obéissent pas aux mêmes contraintes physiques. Les résultats affichent des gains significatifs en prédiction de trajectoire zero-shot et few-shot face aux baselines compétitives, ainsi qu'une amélioration des performances sur le contrôle model-based downstream pour différentes plateformes robotiques. La scalabilité tient sur un spectre large d'environnements, ce qui constitue l'argument central de la contribution. La publication s'inscrit dans une tendance forte : appliquer aux robots les world models issus du monde des agents RL et des LLMs multimodaux, à l'image de Dreamer, UniSim, ou des frameworks VLA (Vision-Language-Action) orientés manipulation. WestWorld se distingue par son ambition généraliste multi-morphologie, là où la majorité des approches concurrentes restent spécialisées sur une famille de robots. L'usage du Unitree Go1 comme banc de test réel est pertinent mais reste un cas relativement balisé dans la littérature, ce qui nuance la portée de la démonstration sim-to-real. Les prochaines étapes logiques seront d'évaluer le transfert sur des morphologies plus complexes, humanoïdes notamment, là où les défis de généralisation sont encore ouverts.

RecherchePaper

1 source

4arXiv cs.RO

Basse fidélité suffit : transfert simulation-réel sans apprentissage préalable pour le contrôle d'un poisson robotique

Des chercheurs montrent qu'un simulateur volontairement sommaire suffit pour entraîner le contrôleur d'un poisson robotique souple, qui fonctionne ensuite sur le matériel sans aucun réglage. La plateforme est un poisson mou à moteur unique, actionné par tendon et sous-actionné. Son modèle de fluide est quasi statique et sans mémoire : il ne modélise ni sillage ni historique de masse ajoutée. La politique apprise n'observe que ce que le matériel peut mesurer. Elle ne commande pas la queue directement. Elle passe par un générateur de trajectoire rythmique à bande limitée. Le simulateur est calé en deux étapes d'identification indépendantes, l'une pour la dynamique de la queue, l'autre pour le modèle de fluide sans état. Déployée telle quelle dans un bassin extérieur, une seule politique en boucle fermée atteint des cibles, rejette des perturbations, et acquiert puis suit des cibles hors distribution. L'étude est publiée sur arXiv (2609.36993). Elle ne donne ni vitesses, ni taux de réussite chiffrés, ni nombre d'essais dans son résumé. Le résultat va à l'encontre de l'idée courante selon laquelle un bon transfert simulation-réalité exige une simulation de plus en plus fidèle, donc de plus en plus coûteuse, en particulier pour les fluides. Les auteurs attribuent le transfert à une contrainte plutôt qu'à la fidélité : le générateur ne peut pas sortir de la bande de fréquences sur laquelle le fluide a été identifié, si bien que la politique ne rencontre jamais de régimes où le modèle simplifié serait faux. Une partie de la physique se trouve ainsi dans la structure du contrôleur et non dans le simulateur. Pour les intégrateurs et les équipes de R&D en robotique sous-marine ou souple, cela pourrait réduire le coût d'entraînement, mais rien ne dit encore que l'approche vaut hors de cette bande de fonctionnement. Un seul robot a été testé, dans un bassin extérieur, et non en milieu ouvert avec courants, vagues ou turbulences. Le résumé ne compare pas non plus la méthode à des simulateurs à haute fidélité ou à la randomisation de domaine. Ce travail s'inscrit dans une limite connue de la robotique sous-marine : les capacités des contrôleurs freinent les tâches complexes. Les poissons souples sont difficiles à modéliser, car l'interaction fluide-structure est coûteuse à simuler. Les arbitrages classiques opposent la précision des solveurs CFD (mécanique des fluides numérique) à la vitesse d'un entraînement par apprentissage par renforcement. Les auteurs posent en conclusion la question de la part de physique qui peut résider dans le contrôleur plutôt que dans le simulateur. Il s'agit d'un résultat de laboratoire, pas d'un produit ni d'un déploiement commercial, et le résumé n'annonce ni pilote ni calendrier. Les suites logiques seraient de tester d'autres morphologies, des bandes de fréquences plus larges et des conditions d'eau moins contrôlées.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source