RecherchearXiv cs.RO 19 juin 2026

One-to-Two Acting : un cadre pour étendre les actions d'un agent mono-bras à deux bras

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs ont publié le 24 juin 2026 sur arXiv (2606.19897) ExS2D, un framework hiérarchique permettant à un robot bras unique d'exécuter des tâches bimanuelle sans aucune démonstration en configuration deux bras. Le système décompose d'abord des instructions textuelles en sous-tâches structurées, en capturant explicitement les dépendances temporelles entre elles. Un module de grounding traduit ensuite chaque sous-tâche en actions exécutables via une cartographie guidée par l'observation. Enfin, un coordinateur basé sur un grand modèle de langage multimodal (MLLM) orchestre l'allocation des actions entre les deux bras et planifie les trajectoires sans collision. En simulation, ExS2D réduit le nombre moyen d'étapes d'exécution de 54,4 % tout en maintenant un taux de succès comparable au baseline mono-bras. Des expériences sur robot réel portant sur quatre tâches distinctes confirment la fiabilité du système, entraîné uniquement sur quelques échantillons mono-bras en régime few-shot.

L'enjeu principal ici est le coût de collecte des données bimanuelles, qui constitue l'un des principaux freins à la manipulation duale en robotique industrielle et service. Les systèmes comme ALOHA ou les plateformes de télé-opération bimanuelle nécessitent des configurations spécialisées et des opérateurs formés, rendant le passage à l'échelle difficile. ExS2D contourne ce goulot d'étranglement en réutilisant des démonstrations mono-bras existantes, potentiellement déjà disponibles dans les parcs robotiques en production. La réduction de 54,4 % des étapes d'exécution représente un gain de débit concret pour des lignes d'assemblage ou de tri, bien que les conditions expérimentales exactes (vitesse, complexité des objets, variabilité de la scène) ne soient pas détaillées dans l'abstract, ce qui invite à nuancer cette métrique avant toute extrapolation industrielle.

La manipulation bimanuelle attire des investissements croissants de la part d'acteurs comme Figure AI (Figure 03), Physical Intelligence (pi0) ou Apptronik, tous confrontés au même problème de données. La tendance actuelle est d'utiliser des VLA (Vision-Language-Action models) entraînés sur de vastes corpus de démonstrations humaines, mais la collecte bimanuelle reste coûteuse même pour ces acteurs. ExS2D s'inscrit dans une direction complémentaire, celle du transfer learning structural depuis des données mono-bras, une approche qui pourrait intéresser les intégrateurs travaillant sur des cellules robotiques existantes en mono-bras. Il s'agit pour l'instant d'un travail académique sans déploiement commercial annoncé ; la prochaine étape logique serait une validation sur des tâches industrielles plus complexes et avec une plus grande variabilité d'objets.

Dans nos dossiers

Figure Apptronik Apollo Physical Intelligence — π0 arXiv cs.RO

À lire aussi

1arXiv cs.RO

WAMJET : un cadre pour accélérer les modèles d'action du monde

WAMJET, présenté sur arXiv (2610.03797, version 2), est un « harness » agentique qui accélère l'inférence des World Action Models (WAM). Ces modèles réutilisent des modèles de fondation vidéo pré-entraînés pour la manipulation robotique, en prédisant conjointement la vidéo future et les actions. Ce couplage et la taille des backbones rendent l'inférence coûteuse. Le harness dote des agents de code de consignes d'optimisation réutilisables et d'outils de mesure et de validation. L'agent suit un flux piloté par les goulots d'étranglement : il profile l'inférence, modifie le code ciblé, valide les effets, puis affine la pile d'accélération à mesure que les goulots se déplacent, sans dégrader la qualité des actions. Les expériences couvrent six WAM, trois agents de code et deux architectures de GPU. WAMJET atteint jusqu'à 9,95x d'accélération sans perte par rapport aux implémentations amont. Des optimisations par approximation et adaptées au matériel réduisent encore la latence, avec des taux de succès comparables. Ce travail s'attaque à un frein concret du déploiement des WAM : leurs latences d'inférence. Les techniques d'accélération existent déjà (quantification, distillation, réduction du nombre de pas de diffusion, optimisation des noyaux), mais choisir et composer celles qui conviennent à chaque modèle et à chaque plateforme matérielle demande un travail d'ingénierie lourd et répété. En automatisant cette étape avec des agents de code, les auteurs proposent de la traiter comme un problème d'optimisation outillé plutôt que comme du sur-mesure. Pour un intégrateur ou une équipe qui porte un WAM sur un robot réel, le gain de latence conditionne la fréquence de contrôle atteignable. Le résultat suggère aussi que les implémentations amont des WAM laissent beaucoup de performance inexploitée. Le chiffre de 9,95x est un maximum, obtenu sur le meilleur cas, et non une moyenne. L'extrait disponible ne détaille ni les latences absolues ni la liste des six modèles, ce qui limite la lecture de ce chiffre. La mention de taux de succès « comparables » pour les variantes approximatives demande à être vérifiée sur des tâches physiques variées, et pas seulement sur des benchmarks. Cette approche s'inscrit dans deux tendances. La première est la montée des modèles d'action fondés sur la vidéo, qui héritent de la qualité des modèles vidéo génératifs, mais aussi de leur coût de calcul, par opposition aux VLA classiques, plus légers. La seconde est l'usage d'agents de code pour optimiser des systèmes, sur le modèle de l'ingénierie assistée de noyaux GPU. Les travaux concurrents sur l'accélération des VLA, comme les politiques à flow matching ou à diffusion réduite en pas, visent le même objectif de contrôle temps réel, mais sans automatiser la composition des techniques. La suite logique est une validation sur robots physiques et sur davantage de plateformes, notamment embarquées, où les contraintes de calcul sont les plus fortes.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

2arXiv cs.RO

VLA-Fabric : apprendre l'interaction pour des agents VLA multi-bras composables

VLA-Fabric, présenté sur arXiv (2610.23018), propose d'organiser une équipe de bras robotisés en attribuant à chacun un modèle vision-langage-action (VLA) complet, c'est-à-dire un modèle qui perçoit, interprète une consigne et produit directement des actions. Chaque bras conserve sa perception locale et la maîtrise de ses propres commandes. La coordination passe par une interaction apprise entre les politiques, au moment même de la génération d'actions. Les auteurs étudient d'abord où placer cette interaction, comment agréger l'information des pairs et comment l'entraîner. Ils identifient trois fonctions complémentaires: un contexte partagé, des informations latentes propres à chaque pair, et une interaction au stade de l'action. Ils reproduisent ensuite ces fonctions dans une architecture VLA structurellement différente, puis composent des équipes de trois et quatre bras, évaluées en simulation et en conditions réelles. Sur les quatre tâches physiques, l'interaction complète améliore le taux de réussite de 16 à 40 points de pourcentage par rapport à des politiques locales entraînées indépendamment. L'intérêt tient à la question abordée. Les VLA progressent surtout à l'échelle d'un seul robot, alors que de nombreuses applications industrielles (assemblage, manutention de pièces volumineuses, cellules à plusieurs bras) exigent une coordination fine. Les approches existantes reposent sur une politique centralisée, une répartition de rôles de haut niveau ou des politiques locales qui réagissent aux voisins. VLA-Fabric suggère une voie intermédiaire: conserver des politiques modulaires, réutilisables et déployables par bras, tout en ajoutant un canal de communication appris. Le fait que le principe tienne sur deux architectures différentes plaide pour une portée générale, et non pour un artefact lié à un backbone précis. Il faut toutefois rester prudent. Le gain est mesuré face à des politiques indépendantes, donc une base de comparaison faible. Rien n'indique de comparaison avec une politique centralisée. Le résumé ne donne ni la nature des tâches, ni le nombre d'essais, ni les temps de cycle, ni la robustesse hors laboratoire. Ce travail s'inscrit dans une phase où les VLA de type Pi-0, GR00T ou Helix se généralisent pour un robot unique ou un humanoïde bimanuel, tandis que la coordination multi-robot reste dominée par la planification classique et l'attribution de tâches. Il s'agit d'une publication de recherche, sans produit, sans pilote industriel et sans calendrier de commercialisation. Les prochaines étapes naturelles sont l'évaluation sur des équipes plus nombreuses, la comparaison à des politiques jointes centralisées, et la mesure de la latence de communication entre politiques, un point critique pour toute cellule réelle.

RecherchePaper

1 source

3arXiv cs.RO

OpenWAM : un cadre ouvert pour des modèles monde-action composables

OpenWAM est un cadre open source de modèles monde-action (WAM, world-action models), ces systèmes qui couplent la prédiction vidéo du futur au contrôle d'un robot. Les auteurs partent de Wan2.2-5B, un modèle de génération vidéo de 5 milliards de paramètres, qu'ils pré-entraînent de façon causale sur plus de 10 000 heures de vidéo robotique. Ils y greffent un « expert d'action » via une architecture Mixture-of-Transformers partagée. Celle-ci permet quatre modes de génération : conjointe, vidéo puis action, action puis vidéo, et découplée. Sur les quatre suites du benchmark de simulation LIBERO, le système obtient des taux de réussite élevés, de même que sur des tâches bimanuelles réelles dont l'abstract ne détaille ni le nombre ni les conditions. L'adaptation causale conjuguée à l'entraînement sur vidéo robotique fait passer le taux de réussite en mode vidéo puis action sur LIBERO-Long de 68,4 % à 97,8 %. L'apport principal tient à la méthode plus qu'à un score. Les WAM existants changent simultanément de backbone vidéo, de structure d'interaction, de supervision et de procédure d'inférence, ce qui empêche d'attribuer un gain à un choix de conception précis. OpenWAM fournit un banc d'essai commun où l'on ne modifie qu'un paramètre à la fois. Les résultats sur la dynamique sont les plus intéressants pour les équipes qui cherchent à réduire leur dépendance aux démonstrations coûteuses. Quand seul le prédicteur vidéo est adapté à une nouvelle tâche, un modèle de dynamique inverse gelé, à contexte local, entraîné sur des transitions contrefactuelles et des démonstrations, atteint 84,0 % de réussite moyenne sur quatre tâches LIBERO-90 jamais vues. Le même modèle entraîné sur les seules démonstrations plafonne à 21,5 %, et une version à contexte complet atteint 47,0 %. En dynamique directe, la supervision contrefactuelle réduit l'erreur de prédiction RGB de 34,5 % et fait passer l'identification du bon résultat de 21,1 % à 71,3 % parmi 16 issues partant du même état. Ces chiffres viennent de LIBERO, un benchmark simulé et saturé, et d'un article non encore évalué par des pairs : ils ne disent rien du fossé entre démonstration et déploiement industriel. Ce travail s'inscrit dans la montée des politiques fondées sur la vidéo, qui font concurrence aux modèles vision-langage-action (VLA) classiques comme Pi-0 ou GR00T. Leur promesse est de tirer parti de la grande quantité de vidéo disponible, au-delà des seules démonstrations réussies. Wan2.2 sert ici de socle, ce qui illustre la réutilisation des modèles vidéo génératifs ouverts en robotique. Le cadre est publié sous le numéro arXiv 2610.07922, en version 1, et l'abstract ne mentionne aucun pilote industriel ni calendrier de déploiement. La suite logique serait une validation sur davantage de tâches réelles, avec des comparaisons à poids de calcul équivalent contre les VLA établis.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

4arXiv cs.RO

Trace-WAM : apprendre à agir par la prédiction de mouvement 3D pour les modèles d'action du monde

Des chercheurs proposent Trace-WAM, une architecture de World Action Model (WAM) publiée en préprint sur arXiv. Un WAM apprend à piloter un robot en couplant la prédiction de vidéo future et la génération d'actions. Trace-WAM ajoute à cet apprentissage un objectif auxiliaire: prédire le mouvement 3D futur de points suivis dans la scène. Cette supervision combine la correspondance temporelle des points, leur déplacement dans le plan image et leur variation de profondeur. L'ensemble repose sur une architecture à trois branches de type Mixture-of-Transformer (Tri-MoT), qui entraîne conjointement un expert vidéo, un expert mouvement et un expert action. L'expert mouvement prédit les trajectoires à partir des features visuelles courantes, et l'expert action ne consomme pas ces trajectoires prédites. À l'inférence, le système garde donc un chemin de politique classique: une seule passe visuelle, suivie du débruitage de l'action. Les tests portent sur RoboCasa-GR1, LIBERO et LIBERO-Plus, avec de bons résultats annoncés en distribution et en généralisation hors distribution, surtout face à Fast-WAM quand les démonstrations sont rares ou que la distribution change. L'intérêt tient à l'argument central: pour manipuler, il faut surtout savoir comment évoluent le robot et les objets pertinents, pas reconstruire l'apparence et l'arrière-plan de toute la scène. Si cela se confirme, on pourrait obtenir des représentations plus utiles pour l'action sans alourdir l'inférence, ce qui compte pour la latence en production. Le gain annoncé en régime de peu de démonstrations parle aux intégrateurs, car la collecte de données reste le principal coût de déploiement. Il faut toutefois rester prudent: le résumé ne donne aucun chiffre, et les évaluations semblent limitées à des benchmarks simulés, sans test sur robot réel ni mesure de temps de cycle. Trace-WAM s'inscrit dans le passage des VLA (vision-language-action) vers des modèles qui intègrent une prédiction du monde, avec Fast-WAM comme point de comparaison direct. RoboCasa-GR1 évalue des tâches de type humanoïde en simulation, tandis que LIBERO-Plus teste la robustesse aux perturbations. La suite logique serait une validation sur matériel réel et une comparaison avec les grandes politiques généralistes actuelles, ce que le préprint n'annonce pas.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source