IA physiquePandaily 17 octobre 2026

UBTECH détaille Thinker-WM, un modèle du monde qui unifie vidéo, profondeur et actions du robot

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

UBTECH a publié les détails de Thinker-WM, un modèle du monde développé par son équipe Thinker, accompagné d'un article technique sur arXiv. Le modèle encode la vidéo RGB, la profondeur métrique et les actions du robot dans une représentation partagée unique. Chaque modalité passe par son propre encodeur vers un espace latent commun, puis un Unified Dynamics Transformer les traite conjointement avant de décoder vidéo, cartes de profondeur et actions exécutables. UBTECH affirme que Thinker-WM se classe premier sur trois benchmarks. Il obtient 0,740 au total sur WorldOlympiad (données d'interaction réelles, plus de dix morphologies de robots, plusieurs configurations de caméras), avec les meilleurs scores unitaires en cohérence 3D (0,531) et fidélité d'interaction (0,765). Sur EWMBench, il annonce 4,66, devant Qwen-RobotWorld et Sora 2. Sur WorldArena 1.0 Track-1, en simulation, il dirait mener sur 12 dimensions. L'entraînement porte sur environ 30 000 heures : 20 000 de vidéo humaine à la première personne (domiciles, commerce, usines), 10 000 de données robot réelles issues de plusieurs machines, et 1 000 de simulation. Toutes les actions sont exprimées en poses d'effecteur terminal, avec une étiquette propre à chaque morphologie, et un pipeline nommé Data Factory gère l'échantillonnage, les contrôles qualité et l'alignement profondeur-vidéo.

L'intérêt tient à l'argument d'architecture. Beaucoup de modèles du monde sont assemblés par morceaux : un générateur vidéo pour les pixels, un réseau de politique pour les actions, un module séparé pour la géométrie. UBTECH soutient que ce découpage sépare des signaux physiquement couplés. Ici, la profondeur est une sortie native et non un signal auxiliaire : sur RoboTwin, en ablation mono-tâche, son ajout fait gagner 15 points de pourcentage de réussite en manipulation. Comme les poids sont partagés, il suffit de changer les entrées fournies et les sorties à générer pour obtenir six modes, dont la génération conjointe vidéo-action, la prédiction du futur, l'inférence de politique, la vidéo vers action et la dynamique inverse. Pour un intégrateur, un seul modèle pourrait donc servir de simulateur, de politique et d'outil d'analyse. Pour vérifier le couplage, l'équipe a entraîné une petite sonde de mouvement sur des features visuelles gelées afin de retrouver le déplacement de l'effecteur, présenté comme preuve de couplage intermodal.

Le contexte appelle de la prudence. Les classements sont ceux d'UBTECH, établis sur les résultats disponibles à l'annonce, sans vérification indépendante, et l'avance sur des modèles génériques comme Sora 2 reflète aussi des benchmarks spécialisés robotique. Le gain de 15 points vient d'une seule ablation en simulation, pas d'un déploiement. Aucun robot, client ni calendrier de mise en production n'est annoncé : on est face à un résultat de recherche, pas à un produit livré. UBTECH, connu pour ses humanoïdes de la série Walker et sa récente collaboration avec FAW-Volkswagen en logistique d'usine, cherche à se positionner sur la couche d'IA incarnée face aux modèles du monde de ses concurrents. La prochaine étape à surveiller est WorldArena 2.0, prévu à l'IROS 2026, où ces affirmations pourront être confrontées à d'autres équipes.

Dans nos dossiers

UBTech IA physique & VLA ICRA / IROS / CoRL arXiv cs.RO

À lire aussi

1arXiv cs.RO

Tau-zéro WM : un modèle du monde vidéo-action unifié pour la manipulation robotique

Des chercheurs ont déposé le 1er juin 2026 sur arXiv (réf. 2606.01027) τ₀-WM (tau-zéro World Model), une architecture unifiée vidéo-action pour la manipulation robotique. Le modèle repose sur un backbone de diffusion vidéo partagé qui intègre simultanément apprentissage de politique, prédiction vidéo et évaluation d'actions au sein d'un même cadre prédictif. Il expose deux interfaces complémentaires : un modèle d'action vidéo qui prédit conjointement des représentations visuelles latentes futures et des séquences d'actions continues à partir d'observations multi-caméras, d'instructions en langage naturel et de l'état courant du robot ; et un simulateur vidéo conditionné sur l'action, capable de dérouler des séquences candidates en projections multi-vues tout en attribuant des scores denses de progression de tâche. L'entraînement porte sur environ 27 300 heures de données combinant téléopération réelle, interactions de style UMI (Universal Manipulation Interface, protocole de collecte de données en bimanuel développé par Stanford), vidéos égocentrées humaines, et trajectoires de succès comme d'échecs. L'intérêt principal réside dans la convergence entre politique et modèle de monde au sein d'une architecture commune. Les VLA (Vision-Language-Action models) actuels génèrent des actions sans anticiper leurs conséquences, laissant la gestion des erreurs à des modules séparés. τ₀-WM introduit un mécanisme de rectification à l'inférence : le simulateur évalue chaque séquence candidate via un score dense de progression, et les candidats jugés insuffisants sont corrigés par re-débruitage. Ce test-time scaling structuré pourrait réduire les interventions humaines sur des tâches longue durée, un enjeu clé pour les intégrateurs industriels qui peinent encore à déployer des robots autonomes sur des séquences de plus de quelques étapes. Sur les benchmarks de manipulation fine et longue séquence, les auteurs déclarent surpasser les baselines comparables, sans préciser les conditions expérimentales ni les contraintes matérielles testées. Ce travail s'inscrit dans une course engagée depuis fin 2024 entre Physical Intelligence (pi-0), NVIDIA (GR00T N2) et Figure (Helix) pour des architectures VLA à grande échelle, mais rares sont celles qui intègrent simulation interne et évaluation d'action dans un seul modèle plutôt que dans un pipeline découplé. L'usage de données UMI signale une stratégie d'agrégation multi-source qui dépasse les corpus propriétaires et pourrait favoriser la généralisation à de nouveaux environnements. Le papier reste pour l'instant un preprint non soumis à revue par les pairs : les performances annoncées restent à valider sur robot physique en conditions réelles, et aucune date de déploiement ou partenariat industriel n'est mentionné.

IA physiqueOpinion

1 source

2Robotics Business Review

Runway présente Praxis-1, un modèle du monde et d'action pour la robotique

Runway AI, la société new-yorkaise fondée en 2018 et connue pour ses modèles génératifs vidéo, a présenté cette semaine Praxis-1, un « world action model » à poids ouverts qui convertit son pré-entraînement vidéo à grande échelle en commandes pour robots. Le modèle s'appuie sur la même base que les world models généraux de l'entreprise (GWM-1, Gen-4.5, Aleph 2.0, Act-Two) et apprend surtout à partir de vidéos filmées à la troisième personne, non de démonstrations téléopérées. Il a été entraîné sur des tâches de manipulation allant du simple pick-and-place (soulever des canettes) à la manipulation d'objets déformables (emballer des sacs cadeaux). Runway affirme que la simulation de politiques robotiques dans son world model prédit les résultats réels avec une corrélation de 0,95, mieux que des techniques plus coûteuses fondées sur la reconstruction 3D, sans publier de détails méthodologiques. Des partenaires pilotes (Noble Machines, Standard Bots et Ultra) font tourner Praxis-1 sur leur propre matériel, des bras bimanuels aux humanoïdes, avec un fine-tuning léger. La sortie publique est annoncée « dans les prochains mois », sans date. L'enjeu est de savoir si la vidéo peut remplacer, au moins en partie, la donnée robot, rare et chère à collecter. Selon Kamil Sindi, directeur technique de Runway, la performance progresse avec le volume de vidéo, de sorte que le plafond du modèle dépendrait de la quantité de vidéo disponible plutôt que du nombre de démonstrations. Si cela se confirme, le goulot d'étranglement des politiques généralistes se déplacerait de la collecte téléopérée vers le curage de données vidéo. Pour les intégrateurs, la promesse d'un modèle unique adaptable à plusieurs morphologies avec peu de fine-tuning serait un gain de coût réel. Il faut toutefois rester prudent : aucun taux de réussite, aucun temps de cycle ni aucune comparaison avec des politiques existantes n'a été publié, et les retours des partenaires sont rapportés par Runway elle-même. Le chiffre de 0,95 mesure la fidélité de la simulation, pas la performance sur site. À ce stade, il s'agit d'une annonce avec des tests partenaires, pas d'un produit livré ni d'un déploiement en production. Runway arrive en robotique depuis la vidéo générative, après GWM-1 et des modèles interactifs temps réel comme Solaris et GWM Worlds 2, conçus pour créer des environnements d'entraînement d'agents. L'entreprise, qui a des bureaux à New York, San Francisco, Seattle, Londres, Paris, Tel Aviv et Tokyo, rejoint un champ où les approches VLA (vision-langage-action) et world models se disputent le terrain, face à des acteurs comme Physical Intelligence (Pi-0), NVIDIA (GR00T) ou Figure (Helix), qui s'appuient davantage sur des données robot. Le choix des poids ouverts est assumé : Sindi y voit un levier pour que les États-Unis retrouvent leur avance industrielle, en laissant aux fabricants de matériel de la flexibilité. Les prochaines étapes sont l'élargissement du cercle de partenaires avant la sortie publique et la validation sur davantage de robots, pour combler les écarts avant la disponibilité générale. Aucun acteur français ou européen n'est cité parmi les partenaires.

UEPas d\'impact direct sur la France/UE

IA physiqueActu

1 source

3arXiv cs.RO

SelfWAM : un modèle unifié d'action et du monde auto-fondé pour le contrôle rapide de robots

Une nouvelle publication arXiv (2608.00725v1) présente SelfWAM, un modèle unifié de type "World Action Model" (WAM) conçu pour le contrôle rapide de robots manipulateurs. Contrairement aux WAM classiques qui prédisent les observations futures uniquement à partir du prompt de tâche et du contexte visuel, ce qui les pousse à capturer une progression générique de la tâche plutôt que les conséquences précises de l'action exécutée, SelfWAM s'appuie sur une architecture Mixture-of-Transformers (MoT) spécialisée par modalité. Elle prédit simultanément trois éléments: l'action à exécuter, les images RGB futures conditionnées par cette action, et des masques de silhouette du robot lui-même. Pendant l'entraînement conjoint, le modèle laisse la branche vidéo attendre une copie "propre" de l'action démontrée, ce qui transforme cette branche en modèle des conséquences spécifiques à chaque action, sans ralentir le chemin d'inférence rapide dédié uniquement à l'action. Les auteurs ajoutent des objectifs spécifiques au prompt pour la prédiction des masques du robot, une supervision qui retire les détails d'apparence et concentre l'apprentissage sur les changements visuels directement liés au mouvement du bras. Les tests sur le benchmark RoboTwin 2.0 et sur des tâches de manipulation en conditions réelles montrent des prédictions plus sensibles à l'action et une amélioration des performances de la politique de contrôle, sans dégrader la vitesse d'inférence. Pour le secteur, ce travail s'attaque à un problème connu des modèles vision-langage-action (VLA): la difficulté à faire coïncider prédiction visuelle et effet réel de l'action, un écart qui limite souvent le transfert entre simulation et monde réel. En couplant explicitement la prédiction future à une action "propre" et à la silhouette du robot, SelfWAM cherche à combler ce fossé sans sacrifier la latence, un compromis central pour tout déploiement industriel où le temps de cycle compte. Il s'agit ici d'une publication de recherche déposée sur arXiv, sans produit commercial ni déploiement annoncé: SelfWAM s'inscrit dans la lignée des World Action Models qui gagnent du terrain comme alternative aux politiques purement réactives, en misant sur une modélisation conjointe action-observation pour améliorer la généralisation des robots manipulateurs.

IA physiqueActu

1 source

4arXiv cs.RO

Vid2WAM : distiller les a priori de diffusion vidéo en modèles d'action du monde

Vid2WAM est un nouveau framework de distillation hors ligne pour l'apprentissage de politiques robotiques, décrit dans un preprint publie sur arXiv (arXiv:2608.08558v1). La méthode s'attaque a une limite connue des World Action Models (WAM), ces modèles qui prédisent conjointement la dynamique visuelle future et les actions d'un robot : leur dépendance a des démonstrations expertes couteuses a collecter, qui freine leur passage a l'échelle. Vid2WAM transféré les priors de diffusion vidéo d'un grand modèle fondation vidéo vers un WAM élevé compact, via deux canaux complémentaires. Le premier utilise des projections vidéo futures conditionnées par la tache pour superviser directement la branche de prédiction du modèle élevé. Le second passe par un modèle de dynamique inverse qui reconstruit des pseudo-actions spécifiques a l'embodiment du robot, utilisées pour l'apprentissage de la politique d'action. Une technique nommée "source-aware residual action adaptation" apprend des corrections propres a chaque source de supervision, synthétique ou réelle, autour d'un socle d'action partage, ce qui limite les interférences liées au bruit des pseudo-actions. A l'inférence, le modèle de diffusion vidéo enseignant et le modèle de dynamique inverse sont abandonnes : seul le WAM compact reste déployé, pour un traitement a faible latence. Les auteurs rapportent des expériences en simulation et sur robot réel. Cette approche cible directement le goulot d'étranglement central des modèles VLA (vision-language-action) et des WAM : la rareté des données de démonstration expertes spécifiques a la tache cible. En s'appuyant sur des priors appris a partir de vidéo générique plutôt que sur des trajectoires robot annotées, Vid2WAM cherche a découpler la généralisation a de nouvelles taches du volume de téléopération collecte, un enjeu central pour tout intégrateur voulant déployer un bras ou un humanoïde sur une nouvelle tache sans campagne de collecte couteuse. Jeter le modèle enseignant et le modèle de dynamique inverse a l'inférence est notable : cela vise une politique légère et rapide, condition nécessaire pour du contrôle temps réel, la ou de nombreuses approches VLA a grande échelle restent limitées par la latence. Ce travail s'inscrit dans la lignée des World Action Models et politiques VLA qui, comme GR00T N2 de NVIDIA, Pi-0 de Physical Intelligence ou Helix de Figure, exploitent des données vidéo ou multimodales a grande échelle pour réduire la dépendance a la téléopération. Contrairement a ces systèmes déjà testes chez des clients, Vid2WAM reste au stade de preprint de recherche : aucune institution n'est citée dans le résume, aucun partenariat industriel ni déploiement pilote n'est mentionne, et les chiffres de performance restent a vérifier via une publication complète ou une revue par les pairs. La suite logique serait une évaluation sur des benchmarks standardises et un passage a des modèles fondation vidéo plus grands pour tester les limites de la méthode.

IA physiqueOpinion

1 source