Aller au contenu principal

IA physique

50 sur 845 articles

Modèles vision-langage-action (VLA) et IA physique : NVIDIA GR00T, Figure Helix, Physical Intelligence π0, Gemini Robotics, OpenVLA, world models Cosmos/Genie.

UBTECH détaille Thinker-WM, un modèle du monde qui unifie vidéo, profondeur et actions du robot
1Pandaily IA physiqueActu

UBTECH détaille Thinker-WM, un modèle du monde qui unifie vidéo, profondeur et actions du robot

UBTECH a publié les détails de Thinker-WM, un modèle du monde développé par son équipe Thinker, accompagné d'un article technique sur arXiv. Le modèle encode la vidéo RGB, la profondeur métrique et les actions du robot dans une représentation partagée unique. Chaque modalité passe par son propre encodeur vers un espace latent commun, puis un Unified Dynamics Transformer les traite conjointement avant de décoder vidéo, cartes de profondeur et actions exécutables. UBTECH affirme que Thinker-WM se classe premier sur trois benchmarks. Il obtient 0,740 au total sur WorldOlympiad (données d'interaction réelles, plus de dix morphologies de robots, plusieurs configurations de caméras), avec les meilleurs scores unitaires en cohérence 3D (0,531) et fidélité d'interaction (0,765). Sur EWMBench, il annonce 4,66, devant Qwen-RobotWorld et Sora 2. Sur WorldArena 1.0 Track-1, en simulation, il dirait mener sur 12 dimensions. L'entraînement porte sur environ 30 000 heures : 20 000 de vidéo humaine à la première personne (domiciles, commerce, usines), 10 000 de données robot réelles issues de plusieurs machines, et 1 000 de simulation. Toutes les actions sont exprimées en poses d'effecteur terminal, avec une étiquette propre à chaque morphologie, et un pipeline nommé Data Factory gère l'échantillonnage, les contrôles qualité et l'alignement profondeur-vidéo. L'intérêt tient à l'argument d'architecture. Beaucoup de modèles du monde sont assemblés par morceaux : un générateur vidéo pour les pixels, un réseau de politique pour les actions, un module séparé pour la géométrie. UBTECH soutient que ce découpage sépare des signaux physiquement couplés. Ici, la profondeur est une sortie native et non un signal auxiliaire : sur RoboTwin, en ablation mono-tâche, son ajout fait gagner 15 points de pourcentage de réussite en manipulation. Comme les poids sont partagés, il suffit de changer les entrées fournies et les sorties à générer pour obtenir six modes, dont la génération conjointe vidéo-action, la prédiction du futur, l'inférence de politique, la vidéo vers action et la dynamique inverse. Pour un intégrateur, un seul modèle pourrait donc servir de simulateur, de politique et d'outil d'analyse. Pour vérifier le couplage, l'équipe a entraîné une petite sonde de mouvement sur des features visuelles gelées afin de retrouver le déplacement de l'effecteur, présenté comme preuve de couplage intermodal. Le contexte appelle de la prudence. Les classements sont ceux d'UBTECH, établis sur les résultats disponibles à l'annonce, sans vérification indépendante, et l'avance sur des modèles génériques comme Sora 2 reflète aussi des benchmarks spécialisés robotique. Le gain de 15 points vient d'une seule ablation en simulation, pas d'un déploiement. Aucun robot, client ni calendrier de mise en production n'est annoncé : on est face à un résultat de recherche, pas à un produit livré. UBTECH, connu pour ses humanoïdes de la série Walker et sa récente collaboration avec FAW-Volkswagen en logistique d'usine, cherche à se positionner sur la couche d'IA incarnée face aux modèles du monde de ses concurrents. La prochaine étape à surveiller est WorldArena 2.0, prévu à l'IROS 2026, où ces affirmations pourront être confrontées à d'autres équipes.

1 source
Fast-VLA : réfléchir une seule fois pour la manipulation robotique
2arXiv cs.RO 

Fast-VLA : réfléchir une seule fois pour la manipulation robotique

Des chercheurs proposent Fast-VLA, une architecture de politique vision-langage-action (VLA) qui n'invoque qu'une seule fois par épisode un modèle de fondation de 4 milliards de paramètres. Ce VLM figé lit l'instruction et les vues initiales, puis les transforme en une mémoire de tâche fixe : des paires clé-valeur issues de plusieurs couches du réseau. Pendant l'exécution, un acteur léger fusionne des requêtes apprises, indexées par le temps et par le bras, avec les images courantes et la proprioception (les capteurs internes du robot). Il en tire des requêtes d'action qui interrogent la mémoire fixe et prédisent des « chunks » d'actions, sans relancer le modèle de fondation. Les auteurs annoncent 92,46 % de succès sur RoboTwin 2.0 en configuration Clean et 92,40 % en Randomized. Sur LIBERO et LIBERO-Plus, ils annoncent respectivement 95,95 % et 79,11 %. Face à trois baselines à conditionnement continu, testées sur le même matériel, le temps d'inférence amorti sur RoboTwin est réduit d'un facteur 10,9 à 17,1. La mémoire résidente en ligne après le préremplissage est de 1,22 GiB. Il s'agit d'un article de recherche (arXiv, v1), sans déploiement industriel, et les résultats proviennent de benchmarks en simulation. L'enjeu est d'abord économique et architectural. Dans la plupart des VLA actuels, un modèle de plusieurs milliards de paramètres est recalculé à chaque nouveau chunk d'actions, alors que la compréhension de la tâche évolue bien plus lentement que l'état du robot. Sortir ce modèle de la boucle de contrôle réduit la latence et l'empreinte mémoire, deux contraintes majeures pour embarquer une politique sur un calculateur de robot plutôt que sur un serveur GPU distant. Un test de permutation des mémoires de tâche montre aussi que l'acteur dépend bien de la mémoire propre à l'épisode, ce qui écarte l'hypothèse d'une simple politique réactive qui ignorerait l'instruction. La limite est nette : une mémoire figée au départ convient aux tâches dont l'objectif reste stable, mais elle pourrait mal gérer les échecs en cours de route, les changements de consigne ou les scènes très dynamiques. Les gains de vitesse sont mesurés sur RoboTwin et sur du matériel précis, et le score de 79,11 % sur LIBERO-Plus, benchmark de robustesse, rappelle que l'écart entre simulation et monde réel reste à tester. Cette approche s'inscrit dans une tendance à découpler un raisonnement lent d'un contrôle rapide, déjà visible dans les architectures à double système comme Helix de Figure ou GR00T de NVIDIA, et dans les efforts de fragmentation d'actions des modèles de type Pi-0. Fast-VLA pousse la logique plus loin en ne consultant le VLM qu'une fois. Les prochaines étapes naturelles sont une validation sur robots physiques, des comparaisons avec les VLA à double système sur des durées plus longues, et une gestion du rafraîchissement de la mémoire quand la scène change. Une page de projet est annoncée, mais aucun pilote ni calendrier industriel n'est mentionné.

IA physiquePaper
1 source
Retour sur la bonne voie : amélioration de la politique au déploiement par planification avec un modèle du monde
3arXiv cs.RO 

Retour sur la bonne voie : amélioration de la politique au déploiement par planification avec un modèle du monde

Des chercheurs proposent un cadre de supervision et d'intervention qui améliore une politique visuomotrice pendant son déploiement, sans la réentraîner ni modifier son architecture (arXiv 2610.19579). La méthode n'exige qu'un accès « boîte noire » à la politique, c'est-à-dire la possibilité de l'interroger sans toucher à ses poids. À partir d'un nombre limité de déroulés (rollouts) étiquetés de la politique nominale, l'équipe apprend une valeur de « liveness », conditionnée par la politique, qui mesure sa progression vers l'achèvement de la tâche. Elle entraîne aussi un modèle du monde latent compact, qui s'appuie sur ces mêmes déroulés et sur des données de jeu (play data). Pendant l'exécution, la valeur de liveness surveille en continu le comportement. Si elle détecte une perte de progression, un planificateur à horizon court cherche dans le modèle du monde des actions correctrices, en utilisant cette même valeur comme objectif, puis rend la main à la politique nominale. L'évaluation porte sur la suite de tâches LIBERO-Goal et sur un bras Franka Panda réel. Les politiques nominales sont le modèle vision-langage-action π0.5 et une diffusion policy. Les auteurs annoncent des gains significatifs de taux de réussite, compatibles avec un contrôle en temps réel. Le résumé ne donne aucun chiffre précis (taux avant et après, latence du planificateur, nombre de déroulés étiquetés), ce qui empêche de juger l'ampleur réelle de l'amélioration. L'enjeu est pratique. Les politiques actuelles échouent en production de façons qu'elles ne détectent pas et dont elles ne savent pas se relever. Les corriger passe aujourd'hui par davantage de données, un réentraînement ou une refonte de l'architecture, trois leviers coûteux, surtout pour un intégrateur qui utilise un modèle de fondation fourni par un tiers. Une couche externe qui détecte le blocage et propose une correction, sans accès aux poids, répond directement à cette contrainte. Elle suggère aussi que l'écart entre démonstration et fiabilité industrielle peut se réduire par de la supervision à l'exécution plutôt que par un modèle toujours plus gros. Plusieurs réserves s'imposent. Il s'agit d'un travail académique, sans déploiement client. Le banc d'essai LIBERO-Goal est de l'ordre de la simulation, et la validation réelle se limite à un seul bras. Il reste aussi à voir comment la méthode se comporte sur des tâches longues, ou lorsque le modèle du monde s'écarte de la réalité. Ce travail s'inscrit dans un courant qui cherche à fiabiliser les VLA après leur entraînement. Ce courant comprend l'apprentissage par renforcement sur robot réel, les détecteurs d'échec à l'exécution et les approches fondées sur des modèles du monde, utilisés comme simulateurs ou comme planificateurs. π0.5, de Physical Intelligence, est devenu une référence ouverte pour ces expériences, tout comme les diffusion policies pour la manipulation. Les grands acteurs de l'humanoïde, dont Figure avec Helix, Tesla avec Optimus et NVIDIA avec la famille GR00T, misent surtout sur l'échelle des données et l'entraînement. Une couche de récupération qui s'ajoute à ces politiques suivrait une logique différente. Les prochaines étapes à surveiller sont la publication de résultats chiffrés détaillés, des tests sur davantage de plateformes et de tâches de longue durée, et la mesure du coût de calcul du planificateur sur du matériel embarqué. Une vidéo et des résultats complémentaires sont annoncés sur le site du projet.

IA physiquePaper
1 source
Apprentissage continu sans données pour un modèle d'action du monde, par relecture générative rectifiée
4arXiv cs.RO 

Apprentissage continu sans données pour un modèle d'action du monde, par relecture générative rectifiée

Des chercheurs proposent R²-WAM, une méthode d'apprentissage continu sans données pour les « world action models » (WAM), ces modèles construits sur des générateurs vidéo préentraînés qui prédisent conjointement observations et actions d'un robot. Le problème de départ est connu: un WAM s'adapte vite à une nouvelle tâche, mais oublie les précédentes lors d'un fine-tuning séquentiel. Le rejeu d'expérience (ER) limite cet oubli, mais il suppose de conserver les données anciennes, ce qui est rarement possible en robotique où une politique circule sous forme de poids seuls. L'équipe fait donc régénérer au modèle ses propres trajectoires complètes, de façon autorégressive, puis les rejoue. Brutes, ces trajectoires restent loin du rejeu de données réelles, pour deux raisons: le modèle ne reconnaît pas la fin d'une tâche et continue à produire des mouvements sans but, et, en génération en boucle ouverte, les actions dérivent peu à peu par rapport aux observations générées. R²-WAM corrige cela en coupant les trajectoires à l'achèvement de la tâche grâce à un évaluateur agentique, et en écartant celles dont les actions sont physiquement incohérentes avec les images. Sur les quatre suites du benchmark LIBERO et cinq tâches en conditions réelles, la méthode réduit l'oubli de plus de 90 % par rapport au fine-tuning séquentiel et se rapproche presque de l'ER, sans accéder à aucune donnée des tâches passées. L'enjeu est très concret pour qui déploie des politiques robotiques: les poids se partagent, les jeux de données beaucoup moins, pour des raisons de propriété, de confidentialité ou de volume. Pouvoir enrichir un modèle de nouvelles compétences sans repartir des données d'origine ouvre la voie à des mises à jour incrémentales chez les intégrateurs et les utilisateurs finaux. Les auteurs livrent aussi un résultat diagnostique utile: l'oubli se concentre dans la modélisation de la dynamique inverse. Un WAM « amnésique » produit toujours des images plausibles des tâches passées, mais ses actions échouent. Cela suggère que la qualité visuelle d'un modèle vidéo ne garantit pas la fiabilité du contrôle, et que les efforts de régularisation devraient viser la tête d'actions plutôt que la génération visuelle. Ce travail s'inscrit dans la montée des politiques vision-langage-action et des modèles de monde adossés à la vidéo, où l'apprentissage continu reste un verrou majeur face aux approches classiques de rejeu ou de régularisation. Les résultats reposent toutefois sur LIBERO, un benchmark de simulation, et seulement cinq tâches réelles: il reste à voir comment la méthode tient sur de longues séquences de tâches, des scènes plus variées ou des modèles de grande taille. La dépendance à un évaluateur agentique, dont le coût et la fiabilité ne sont pas détaillés ici, constitue une autre inconnue. Cette version v2 de l'article sur arXiv est accompagnée d'une page projet, mais aucun produit ni déploiement industriel n'est annoncé: il s'agit de recherche académique.

IA physiquePaper
1 source
EchoPolicy-0 de MagicLab prend la tête du classement combiné MolmoSpaces d'AI2 avec 75,4 % de réussite en manipulation
5Pandaily 

EchoPolicy-0 de MagicLab prend la tête du classement combiné MolmoSpaces d'AI2 avec 75,4 % de réussite en manipulation

MagicLab affirme que son framework d'agent VLM pour la manipulation générale, EchoPolicy-0, a pris la première place du classement Combined de MolmoSpaces, le benchmark de l'Allen Institute for AI (AI2), avec un taux de succès moyen pondéré à parts égales de 75,4 % sur les quatre tâches de manipulation de la version 1. MolmoSpaces est un benchmark d'IA incarnée en zero-shot, bâti sur plus de 230 000 environnements intérieurs et environ 130 000 objets. Pandaily a recoupé l'annonce avec les données publiées par AI2: EchoPolicy-0 y figure sous le nom de MagicLab, associé à Gemini-3.8-Flash comme modèle vision-langage et évalué sur un bras Franka, sur les quatre tâches (Pick, Pick and Place, Open et Close). La moyenne des quatre scores donne environ 75,5 %, cohérente avec les 75,4 % annoncés après arrondi, et c'est le meilleur résultat parmi les entrées couvrant l'ensemble des tâches. Le système relie un VLM, des outils géométriques de manipulation et une politique d'action générale dans une boucle fermée: observer, comprendre l'objectif, choisir une compétence, agir, vérifier le résultat. En cas d'échec, il peut poursuivre, réessayer, replanifier ou revenir en arrière. Son principe central est la sélection de trajectoire guidée par la cible: le modèle d'action propose plusieurs mouvements candidats, projetés sur l'image, et le VLM retient celui qui correspond le mieux à la cible avant exécution et vérification. MagicLab a aussi engagé MagicBrain, un système maison de 3,4 milliards de paramètres, qu'elle dit classé quatrième du classement combiné, avec 94,4 % de réussite sur la tâche Pick selon les données d'AI2. Pour les intégrateurs et les décideurs, ce résultat illustre surtout l'intérêt des architectures en couches: déléguer la désignation de la cible à un VLM et réserver au modèle d'action le seul mouvement semble plus efficace que de tout confier à une politique de bout en bout. MagicLab indique que la plupart des échecs de saisie qu'elle a étudiés venaient d'un mauvais choix d'objet plutôt que d'un geste instable, ce qui déplace le goulot d'étranglement vers la compréhension des instructions plutôt que vers le contrôle moteur. Le chiffre reste toutefois à relativiser: il s'agit d'un benchmark simulé, sur un bras Franka à pince, avec un VLM tiers très puissant dans la boucle, et rien ne dit que cette performance se transpose au monde réel, aux cadences industrielles ou à des environnements non vus. La boucle de vérification et de replanification multiplie par ailleurs les appels au VLM, d'où des questions de latence et de coût que le classement ne mesure pas. Ce travail reste néanmoins un signal utile dans le débat entre agents orchestrés et VLA monolithiques. Côté contexte, le responsable de MagicLab Studio, le laboratoire de recherche de l'entreprise, explique que l'équipe privilégie une architecture en couches et voit le suivi d'instructions comme une difficulté majeure des modèles actuels. EchoPolicy-0 y répond par l'orchestration d'agents et le scoring de trajectoires, MagicBrain par un guidage visuel de bout en bout, que l'entreprise nomme guidage visuel en contexte. Dans la même veine, un autre travail récent, Zeva de Tsinghua AIR, fait passer le succès de manipulation de 26 % à 73 % sans réentraînement. MagicLab, plus connue pour ses démonstrations de coordination de robots en extérieur, n'a pas indiqué quand l'un ou l'autre de ces frameworks serait déployé sur ses robots commerciaux. Il s'agit donc d'un résultat de recherche en simulation, sans calendrier de produit ni pilote annoncé.

UEPas d\'impact direct sur la France/UE

IA physiqueActu
1 source
JoyInside-VLM-Agent : apprentissage de politiques multimodales conditionnées par le produit pour agents incarnés
6arXiv cs.RO 

JoyInside-VLM-Agent : apprentissage de politiques multimodales conditionnées par le produit pour agents incarnés

JoyInside-VLM-Agent est un agent multimodal de type ReAct (raisonnement puis action en boucle) conçu pour des plateformes robotiques et du matériel intelligent, décrit dans un preprint arXiv (2610.12957). Il vise à traduire des observations multimodales et des requêtes utilisateur en actions exécutables, en tenant compte des contraintes du produit, des changements d'objectif et des retours d'exécution. Les données d'entraînement viennent d'un bac à sable en boucle fermée qui génère des trajectoires d'interaction couvrant révisions d'objectifs et récupération après échec, validées par les résultats d'exécution et des critères sémantiques. L'entraînement enchaîne fine-tuning supervisé, distillation on-policy multi-enseignants, puis apprentissage par renforcement avec DPER (Dual-Source Privileged On-Policy Self-Distillation with Token-Level Evidence Routing). Cette méthode répartit des signaux au niveau des tokens entre un enseignant privilégié figé et un étudiant privilégié partageant les paramètres de la politique de rollout, et module les avantages dérivés de la récompense sans en changer le signe. Les récompenses combinent évaluation générative du processus, classements par plusieurs juges et cohérence de la file de tâches. Le modèle obtient 77,44 au score global BFCL v4, devant les références évaluées. Sur les autres benchmarks publics, les résultats sont mixtes. Sur les bancs maison JoyInside-Devices et JoyInside-Robotics, le système évalué mène sur toutes les métriques rapportées. Deux études de cas sur quadrupèdes réels illustrent la recherche guidée par la vision, le replanification après échec et le signalement explicite des défaillances. L'intérêt tient moins à un record qu'à la méthode : conditionner l'apprentissage sur les contraintes d'un produit donné, plutôt que de viser un agent générique, répond à un écueil fréquent du déploiement, où un modèle brillant en laboratoire se heurte aux API, aux capacités et aux modes de panne propres à chaque machine. L'accent mis sur la récupération après échec et le signalement honnête des défaillances est pertinent pour les intégrateurs, car la fiabilité en exploitation dépend souvent davantage de la gestion des erreurs que du taux de réussite nominal. Il faut toutefois tempérer : le score BFCL v4 mesure l'appel de fonctions, pas la manipulation physique, et les résultats « mixtes » sur les autres benchmarks publics montrent que la supériorité n'est pas générale. Les bancs JoyInside sont propres aux auteurs, et le système évalué inclut un raffinement de compétences spécifique au domaine, ce qui rend la comparaison avec des références génériques moins équitable. Deux études de cas sur quadrupèdes, sans volumes ni taux de réussite publiés, restent illustratives et non une preuve de déploiement. Le travail s'inscrit dans la tendance des agents incarnés pilotés par des modèles vision-langage, où des approches comme les VLA (vision-langage-action) de Physical Intelligence ou Nvidia ciblent plutôt le contrôle bas niveau, tandis que JoyInside se situe à la couche de planification et d'orchestration d'outils. Le préprint ne précise ni la disponibilité du modèle, ni le calendrier de commercialisation, ni les partenaires matériels. Les prochaines étapes à surveiller sont la publication des jeux de données et du code, une validation indépendante sur d'autres plateformes, et des chiffres de fiabilité en conditions réelles sur de longues durées.

UEPas d\'impact direct sur la France/UE

IA physiqueOpinion
1 source
BeingBeyond : Being-M0.7 s'appuie sur 10 000 heures de vidéos humaines pour apprendre aux humanoïdes à marcher et à saisir
7Pandaily 

BeingBeyond : Being-M0.7 s'appuie sur 10 000 heures de vidéos humaines pour apprendre aux humanoïdes à marcher et à saisir

BeingBeyond, la startup d'IA embarquée fondée par Lu Zongqing, professeur associé titulaire à l'Université de Pékin, a publié Being-M0.7, un modèle monde-action latent qui permet à un robot humanoïde de marcher et de manipuler des objets simultanément. Le modèle est préentraîné sur plus de 10 000 heures de vidéo égocentrique humaine brute et de données de mouvement, avant d'avoir vu la moindre trajectoire robot. Le postulat de l'équipe est que les démonstrations robotiques de loco-manipulation corps entier sont rares et coûteuses, alors que la vidéo à la première personne et la capture de mouvement abondent. Le pipeline compte trois étapes: le préentraînement projette vidéo et mouvement dans un espace partagé et prédit conjointement les états visuels futurs et le mouvement du corps; l'entraînement intermédiaire adapte cet a priori à la caméra et à la morphologie du robot; le post-entraînement ajoute un expert d'action distinct qui lit les prédictions du modèle gelé et produit des commandes corps entier. Le modèle travaille sur des caractéristiques d'image DINO gelées plutôt que sur des pixels, et humains comme robots partagent une représentation de mouvement compacte à 22 dimensions, ancrée sur la tête. Les modalités manquantes sont remplacées par des embeddings apprenables. Les données viennent d'Ego4D, Nymeria, HumanML3D, de travaux antérieurs de BeingBeyond et de données achetées. Sur le benchmark de simulation SIMPLE (six tâches humanoïdes, trois niveaux de difficulté), Being-M0.7 réussit 128 essais sur 180, soit 71,1 %, le meilleur score des références testées: 64,4 % pour Ψ0, 52,8 % pour π0.5 et 33,9 % pour GR00T-N1.6. Ψ0 fait toutefois mieux sur une tâche et π0.5 sur deux autres. Sans préentraînement sur données humaines, le score tombe à 48,9 %. Sur un Unitree G1 doté de mains dextres, le modèle réussit 13 essais sur 15 sur trois tâches de marche et saisie, soit 86,7 %, exactement comme GR00T-N1.6, devant π0.5 (7 sur 15) et Ψ0 (3 sur 15). Sur robot réel, il s'agit donc d'une égalité et non d'une avance. L'intérêt tient à la méthode plus qu'au score. L'ablation (de 71,1 % à 48,9 %) suggère que la vidéo humaine peut compenser une partie du déficit de données robot pour la loco-manipulation, un des problèmes les plus difficiles de l'humanoïde. Pour les intégrateurs, le signal reste modéré: échantillon de 15 essais par robot, tâches à horizon court, et un plafond de précision fixé par le contrôleur corps entier qui a servi à collecter les démonstrations. L'écart entre simulation et réel, où l'avantage disparaît, rappelle qu'aucun déploiement industriel n'est annoncé. Le contexte est celui d'une course aux modèles monde-action entraînés sur données humaines. BeingBeyond a déjà publié Being-H0.7, un modèle monde embarqué entraîné sur 200 000 heures de vidéo humaine, et se mesure à NVIDIA (GR00T), Physical Intelligence (π0.5) et à Ψ0. Robotera a de son côté annoncé son VPP2, qui affiche 58,5 % en zero-shot sur de vrais bras ALOHA. Les prochaines étapes à surveiller sont des tests sur horizons longs et des résultats répliqués sur plusieurs plateformes, au-delà du seul G1.

UEPas d\'impact direct sur la France/UE

IA physiqueActu
1 source
Une startup dirigée par un ancien architecte GPU de Nvidia conçoit la puce Y10 pour boucler le contrôle robotique en 1 ms
8Pandaily 

Une startup dirigée par un ancien architecte GPU de Nvidia conçoit la puce Y10 pour boucler le contrôle robotique en 1 ms

Une startup fondée en 2025 par Xu Feixiang, ancien architecte GPU chez Nvidia, conçoit un processeur pensé dès l'origine pour l'IA physique, c'est-à-dire les robots et machines qui perçoivent, raisonnent et agissent dans le monde réel. Son premier produit, le Y10, vise à ramener la boucle complète perception, inférence et action sous la milliseconde, a expliqué Xu au média chinois Cyzone dans un entretien publié le 10 octobre. Il ne s'agit pas d'un ASIC à fonction fixe : le Y10 est un processeur généraliste piloté par un jeu d'instructions personnalisé et très programmable, censé suivre l'évolution des modèles de robotique. L'architecture, baptisée SomaArch selon des documents antérieurs de la société, est portée par une équipe ayant mené plusieurs générations de GPU Nvidia et des puces de grande taille, dont des composants en 6 nm, jusqu'à la production de masse. La startup affirme tester sa puce avec de grands fabricants de robots chinois. Face aux configurations x86 plus Orin utilisées aujourd'hui, ses simulations annoncent cinq fois la performance globale pour 80 % de coût en moins. Ces chiffres sont simulés, pas mesurés sur silicium, même si Xu assure que ses simulations tombent généralement à moins de 3 % des résultats finaux. Le développement a dépassé la moitié du chemin, et une version FPGA de la plateforme est prévue d'ici fin 2026 pour que les clients puissent essayer du matériel réel. L'intérêt tient à la métrique mise en avant. Xu soutient que les robots actuels s'appuient sur des CPU, des GPU et des puces de conduite autonome, alors que les GPU sont optimisés pour le débit sur les grands modèles de langage, pas pour la boucle continue où le robot perçoit, agit puis corrige à haute fréquence. Pour l'IA physique, la mesure pertinente serait donc la durée totale de la boucle, son coût énergétique et financier, plutôt que les TOPS de crête. Il estime que l'architecture pèse environ 70 % de l'utilisabilité d'un processeur parallèle, le logiciel 30 %, ce qui plaide pour une migration facilitée par le jeu d'instructions. Pour les intégrateurs et les responsables industriels, l'enjeu est la dépendance à l'écosystème Nvidia (Orin, Jetson) et la possibilité d'une alternative moins chère, notamment sur le marché chinois. Il faut toutefois rester prudent : une boucle sous 1 ms et un gain de 5x à 80 % de coût inférieur sont, à ce stade, des projections de simulation, sans silicium ni benchmark indépendant, et le comparatif choisi (x86 plus Orin) n'est pas forcément le plus exigeant. La cible initiale n'est pas l'humanoïde mais le bras robotique industriel. Citant un partenaire, Xu indique que les bras existants ne traitent qu'environ 2 % des opérations manuelles sur les lignes de production réelles, un marché d'extension potentiellement large si le contrôle devient plus réactif et moins coûteux. La société envisage aussi de petits serveurs de modèles du monde bâtis sur ses puces. Xu compare la puissance de calcul robotique actuelle au processeur 386 de 1985, un moyen d'affirmer que le matériel spécialisé en est à ses débuts. Le Y10 rejoint un champ où l'inférence embarquée s'organise autour de Jetson Thor chez Nvidia, tandis que des acteurs chinois comme Moore Threads travaillent sur des GPU adaptés à l'apprentissage par renforcement incarné. Les prochaines étapes à surveiller sont la version FPGA fin 2026, qui offrira les premières mesures sur matériel réel, puis l'annonce de pilotes nommés avec des fabricants de robots.

IA physiqueActu
1 source
Pourquoi la dextérité est le vrai goulot d'étranglement de l'IA physique
9Robotics Business Review 

Pourquoi la dextérité est le vrai goulot d'étranglement de l'IA physique

Nicolas Sauvage, fondateur et président de TDK Ventures, soutient dans une tribune publiée par The Robot Report que le vrai goulot d'étranglement de l'IA physique n'est plus la capacité des robots à manipuler des objets, mais la fiabilité avec laquelle ils enchaînent des actions. Son raisonnement repose sur un calcul simplifié, qui suppose des taux de succès égaux et indépendants. Pour un flux de travail de 100 actions successives, un taux de réussite de 99 % par action ne donne que 36,6 % de chances de tout réussir du premier coup. À 99,9 %, la probabilité monte à 90,5 %, et à 99,99 % elle atteint 99,0 %. Un robot « réussi à 99 % » n'est donc pas automatisé à 99 %. Il s'agit d'un texte d'opinion, sans nouveau produit, sans déploiement ni donnée de terrain. L'auteur est photographié aux côtés du quadrupède d'ANYbotics, une entreprise suisse. Le message est direct pour les intégrateurs et les décideurs industriels : une démonstration où l'objet est saisi, déplacé et posé ne dit presque rien de l'autonomie réelle. La bonne question est de savoir ce que devient la performance après des centaines de cycles, avec des objets légèrement décalés, une prise qui varie, des composants qui s'usent et des pannes imprévues. Cette lecture confirme l'écart entre démonstration et réalité qui pèse sur le secteur humanoïde, et elle déplace la comparaison. Le nombre de doigts ou de degrés de liberté compte moins que le nombre de « neuf » de fiabilité, c'est-à-dire la différence entre deux et quatre neuf, qui décide si un robot peut travailler sans surveillance. Le client n'achète pas des degrés de liberté, il achète du travail utile. Cela suppose une boucle fermée entre vision, position, contact, force, pression, préhension et correction, avec l'énergie, la sécurité et la capacité de récupération comme contraintes. Sauvage nuance toutefois : tous les flux n'exigent pas le toucher, car la vision et le mouvement suffisent parfois. Le tactile devient précieux pour détecter un glissement, un contact instable, une pression excessive ou la bonne mise en place d'un composant. Pour gagner ces neuf supplémentaires, l'auteur met en avant la récupération sur erreur. Il faut moins viser une prise parfaite que détecter un glissement assez tôt pour le corriger avant que la tâche n'échoue. Il décrit aussi un cercle vertueux : les échecs en déploiement (glissements, mauvaises prises, usure, récupérations ratées) deviennent des données qui améliorent le logiciel, la simulation, les capteurs, la commande et le matériel. Il y met une réserve : changer la main modifie le mouvement, la détection et l'étalonnage, si bien que les données d'un design ne se transfèrent pas forcément à un autre. Cette position n'est pas neutre. TDK Ventures finance des start-up en matériaux, énergie, cleantech, industrie 5.0, mobilité et santé, et TDK est lui-même un fabricant de capteurs, ce qui donne un intérêt à la thèse du tactile et de l'instrumentation. Le texte ne cite aucun acteur concurrent ni calendrier de pilote, et l'extrait fourni s'interrompt avant sa conclusion. Il s'inscrit néanmoins dans un débat croissant sur la manière de mesurer la maturité des robots polyvalents, où le taux de réussite par tâche cède la place à la fiabilité sur un flux complet.

IA physiqueOpinion
1 source
Le modèle d'action du monde VPP2 de Robotera domine RoboDojo et atteint 58,5 % en zéro-shot sur de vrais bras ALOHA
10Pandaily 

Le modèle d'action du monde VPP2 de Robotera domine RoboDojo et atteint 58,5 % en zéro-shot sur de vrais bras ALOHA

Robotera, la société robotique issue de Tsinghua, affirme que son modèle VPP2, un world action model (modèle qui prédit l'évolution visuelle de la scène avant d'en déduire les actions), occupe la première place de RoboDojo. Ce benchmark de simulation est piloté par le MMLab de l'Université de Hong Kong avec près de 20 institutions académiques. Selon QbitAI, VPP2 obtient un taux de succès moyen de 32,26 % et un score moyen de 39,26 sur les 42 tâches bimanuelles du test, qui couvre la généralisation, la manipulation de précision, les tâches longues, la mémoire et les instructions en vocabulaire ouvert. Il arrive aussi premier dans les catégories généralisation, précision et mémoire. Robotera précise que ces résultats viennent du seul jeu de données standard, sans données supplémentaires ni ajouts comme l'auto-amélioration récursive par agents. La meilleure référence citée dans son article, GPT-6-Astra en évaluation post-entraînement, atteint 22,48 % et 28,97. Sur un vrai robot bimanuel ALOHA, VPP2 totalise 58,5 % de réussite en zéro-shot sur 10 types de tâches (prise, dépose, empilement, pliage, versement), contre 40 % pour le pi0.5 de Physical Intelligence, et fait mieux sur neuf d'entre elles. Il obtient 45,0 % sur LIBERO-Pro et 63,9 % sur LIBERO-OOD. Associé à un modèle vision-langage comme planificateur de haut niveau, il fait passer certaines tâches longues de RoboDojo de 27,6 % à 57,6 %. L'intérêt tient à la manière dont le modèle traite la faiblesse connue des world action models : quand la prédiction vidéo est fausse, l'action la suit. Robotera entraîne en trois étapes. Un pré-entraînement vidéo au niveau de l'événement, bâti sur le Wan2.1-I2V-14B open source d'Alibaba, apprend à prédire une manipulation entière à partir de clips légendés de robots, d'humains et de vidéo générale. La prédiction est ensuite limitée à des clips fixes de huit secondes et distillée en une seule étape d'environ 0,12 seconde. Enfin, un Action DiT de 0,9 milliard de paramètres convertit les prédictions en mouvements, tandis que le modèle vidéo reste gelé et ne s'adapte que par LoRA. La latence totale d'un chunk d'actions est d'environ 0,22 seconde, compatible avec un contrôle réactif. Pour les ingénieurs et intégrateurs, le résultat suggère qu'une approche fondée sur la prédiction vidéo peut dépasser des VLA de référence en zéro-shot sur matériel réel. Des réserves s'imposent toutefois : la comparaison réelle ne porte que sur dix familles de tâches et un seul concurrent, et le classement repose sur les chiffres de l'article des auteurs eux-mêmes, non sur une validation indépendante. Le contexte est celui d'une course où chacun revendique la tête du même benchmark : Simate a annoncé le mois dernier la première place de RoboDojo pour son système Simate-beta, et les deux revendications coexistent sans arbitrage public. Côté industriel, Robotera exploite déjà des robots dans plus de dix centres logistiques répartis dans cinq provinces et municipalités chinoises, avec des partenaires dont China Post et SF Express. Cela ne signifie pas que VPP2 est déployé à grande échelle : il s'agit pour l'instant d'un résultat de recherche. Le code est publié en open source sur GitHub, ce qui permettra une reproduction externe, étape décisive pour confirmer les performances. D'autres acteurs avancent dans la même direction, comme Xiaomi avec son modèle de monde incarné Robotics-U0, également en open source, et Physical Intelligence avec la famille pi0.

UEPas d\'impact direct sur la France/UE

IA physiqueActu
1 source
SimVLA : apprentissage VLA sim-vers-réel sans exemple pour la manipulation mobile
11arXiv cs.RO 

SimVLA : apprentissage VLA sim-vers-réel sans exemple pour la manipulation mobile

SimVLA est un cadre d'entraînement de modèles vision-langage-action (VLA) pour la manipulation mobile, publié en preprint sur arXiv (2610.11248), qui n'utilise que des données de simulation et aucune téléopération. Le modèle est d'abord pré-entraîné sur deux jeux de données issus du simulateur. SimAction est un corpus d'actions robot couvrant 35 tâches de manipulation mobile, produit en composant des compétences atomiques. SimVQA exploite l'état privilégié du simulateur (positions, géométrie, avancement des sous-tâches) pour fournir une supervision visuo-linguistique spatiale et géométrique. Le post-entraînement combine SimAction et SimDeploy, un jeu collecté à partir de rollouts de la politique dans des environnements simulés variés. Les auteurs testent le réassortiment de produits, le versement et le nettoyage, avec un transfert zéro-shot vers le monde réel, y compris dans des domiciles réels. Ils affirment que SimVLA dépasse des politiques entraînées sur 50 démonstrations réelles dans le domaine cible. Si le résultat tient à plus grande échelle, il touche au principal goulot du secteur, le coût de la collecte de démonstrations par téléopération. Comparer une politique 100 % simulée à une référence entraînée sur 50 démonstrations réelles est un test parlant pour un intégrateur, car il chiffre ce que la simulation peut remplacer. Le travail suggère aussi que l'écart sim-to-real se réduit moins par un meilleur rendu que par une supervision multiple : actions, questions visuelles et rollouts de déploiement se complètent, et les auteurs disent le démontrer. Il faut toutefois rester prudent, car le résumé ne donne ni taux de réussite, ni plateforme robotique, ni nombre d'essais réels. Les tâches sont des benchmarks de recherche, pas des déploiements, et la référence à 50 démonstrations est un seuil bas. Ce travail s'inscrit dans la course aux VLA généralistes. Pi-0 de Physical Intelligence, Helix de Figure ou GR00T de NVIDIA reposent largement sur des données réelles, téléopérées ou issues de vidéos, éventuellement complétées par de la donnée synthétique. SimVLA pousse la logique à l'extrême en supprimant la téléopération pour la manipulation mobile, plus difficile que la manipulation sur table fixe. La suite dépendra de la publication du code et des jeux de données, de réplications indépendantes et d'une évaluation sur d'autres morphologies de robots et d'autres foyers. Le preprint n'a pas encore été relu par des pairs, et aucun pilote commercial n'est annoncé.

UEPas d\'impact direct sur la France/UE

IA physiqueOpinion
1 source
Simplexity Robotics entraîne un seul robot à servir deux tours CNC avec 600 trajectoires réelles
12Pandaily 

Simplexity Robotics entraîne un seul robot à servir deux tours CNC avec 600 trajectoires réelles

Simplexity Robotics, une entreprise d'IA embarquée « full-stack », affirme avoir entraîné un seul robot à servir deux tours CNC de manière autonome : chargement des pièces dans les mandrins avec environ 0,5 mm de jeu, puis déchargement après usinage. Feng Zongbao, responsable de l'apprentissage par renforcement, a présenté ces travaux lors d'un Tech Talk à l'IROS 2026 à Pittsburgh le 29 septembre, et Leiphone en a publié une transcription éditée le 8 octobre. L'entraînement s'appuie sur 600 trajectoires réelles. Le système repose sur trois briques : génération d'actions, mémoire et sélection d'actions. SimpleWAM, le modèle d'action-monde maison, apprend à reconstruire images futures, états 3D et séquences d'actions, mais ne produit à l'inférence que des actions à partir des images, de l'état 3D et de la consigne. Les caméras de tête et de poignet sont fusionnées de façon adaptative : 15 réussites en essais nominaux contre 8 pour une base π0.5 en fine-tuning supervisé. DRAM, une mémoire associative récurrente de type règle delta, se greffe sur une politique pré-entraînée gelée et conserve le contexte dans une matrice de taille fixe. DPE note des séquences d'actions candidates avec un évaluateur entraîné séparément, tandis que le générateur reste gelé. Les mesures de force et de couple alimentent à la fois la politique et un contrôleur d'impédance temps réel, qui permet de se rattraper quand une insertion droite est bloquée. Simplexity annonce 100 % de réussite sur l'insertion de précision. Ce chiffre demande de la prudence : il porte sur la seule tâche d'insertion, pas sur le rendement d'une cellule complète, et la présentation ne donne pas le nombre d'essais sous-jacent. La démonstration, projetée à vitesse x5, ne permet pas non plus d'évaluer le temps de cycle réel, décisif pour la rentabilité d'une cellule d'usinage. L'intérêt tient pourtant à la nature du problème. Un jeu de 0,5 mm, des surfaces métalliques réfléchissantes, des pièces proches visuellement et des contacts masqués aux caméras sont exactement les conditions où les démonstrations de laboratoire s'effondrent en atelier. Le recours au retour d'effort comme entrée de la politique, associé à un évaluateur qui corrige les choix sans modifier le modèle de base, illustre une tendance : les politiques vision-langage-action (VLA) seules ne suffisent pas pour l'assemblage de précision, il faut y ajouter mémoire, perception tactile et sélection en ligne. Pour les intégrateurs, la tenue de machines-outils est un cas d'usage concret et massif, où seulement 600 démonstrations réelles suffiraient, ce qui reste à confirmer en production. Simplexity cadre la tâche comme « des robots qui fabriquent des robots », puisque articulations, mandrins et pièces de précision sortent de tours CNC. L'entreprise, âgée de 11 mois selon un article récent de la publication, aurait déjà livré 100 robots sur des lignes de production. La tâche a tourné sur son robot à roues i7 Pro, l'une de ses quatre gammes matérielles aux côtés de la plateforme développeur SimpleClaw. Elle évolue face à des acteurs qui misent sur des modèles généralistes comme π0.5 de Physical Intelligence, base de comparaison ici, et face à des intégrateurs de chargement de machines-outils plus établis. Les suites à surveiller : publication du nombre d'essais, temps de cycle en temps réel, et passage de cette démonstration à des cellules clientes en exploitation.

UEPas d\'impact direct sur la France/UE

IA physiqueOpinion
1 source
Video Prediction Policy 2 : mieux prédire pour mieux agir
13arXiv cs.RO 

Video Prediction Policy 2 : mieux prédire pour mieux agir

Video Prediction Policy 2 (VPP2) est une nouvelle politique robotique de type « world action model » (WAM), décrite dans un preprint arXiv (2610.10270v1). Ces modèles cherchent à transférer les connaissances acquises par les modèles de prédiction vidéo vers l'apprentissage d'actions. Les auteurs constatent que les WAM existants produisent souvent des prédictions de mouvement erronées en environnement ouvert, ce qui entraîne des actions fausses. Ils l'expliquent par deux causes : les modèles vidéo de base ne sont pas optimisés pour la manipulation, et l'ajout naïf de composantes d'action à un modèle vidéo dégrade nettement sa capacité de généralisation. VPP2 procède en trois étapes. D'abord, un grand jeu de données varié de vidéos de manipulation, annotées avec des légendes détaillées, sert à poursuivre le pré-entraînement du modèle vidéo fondation, avec une approche dite « au niveau de l'événement ». Ensuite, ce modèle est post-entraîné puis distillé en un planificateur visuel en une seule étape, à horizon de prédiction fixe. Enfin, un module d'action, bâti sur une architecture mixture-of-transformers (MoT), apprend un modèle de dynamique inverse implicite. Sur le plan des résultats, la version VPP2-14B (14 milliards de paramètres) dépasse Cosmos3-64B de 11,0 points de pourcentage en taux de réussite du suivi d'instruction en prédiction vidéo, sur des tâches ouvertes. Sur des tâches réelles de manipulation en zero-shot avec un robot ALOHA, VPP2 devance la meilleure référence de 18,5 points. Après un post-entraînement spécifique à chaque benchmark, il obtient les meilleurs taux de succès parmi les méthodes évaluées sur LIBERO-Pro, LIBERO-OOD et RoboDojo. Il s'agit de résultats de laboratoire issus d'un preprint non évalué par les pairs : les auteurs ne précisent pas, dans le résumé, le nombre d'essais, la nature des tâches ALOHA ni la taille des baselines hors Cosmos3. Aucun déploiement industriel n'est annoncé. L'intérêt tient d'abord au diagnostic : la qualité de la prédiction vidéo conditionne directement celle de l'action. Le résultat suggère qu'un modèle de 14 milliards de paramètres, spécialisé par des données de manipulation, peut battre un modèle généraliste quatre fois plus gros, ce qui compte pour les équipes qui doivent faire tourner ces politiques sur du matériel embarqué. La distillation en une seule étape va dans le même sens, puisqu'elle réduit le coût d'inférence, un frein classique des approches fondées sur la diffusion vidéo. Pour les intégrateurs, le point à surveiller reste l'écart entre benchmarks et usage réel : LIBERO et ses variantes sont des environnements de simulation, et le seul test physique rapporté repose sur ALOHA, plateforme bimanuelle de recherche. Ce travail prolonge la lignée Video Prediction Policy, qui utilisait déjà des modèles de diffusion vidéo pré-entraînés comme représentation pour piloter des politiques d'action. Il s'inscrit dans la course aux modèles du monde et aux VLA (vision-langage-action), face notamment aux approches de la famille Cosmos de NVIDIA, citée ici comme point de comparaison, et à d'autres politiques généralistes telles que Pi-0 ou GR00T. La suite dépendra de la publication éventuelle du code et des poids, de réplications indépendantes, et de tests sur des robots et des tâches industrielles au-delà des benchmarks académiques.

IA physiqueOpinion
1 source
TempoBridge : contrôle du tempo guidé par le langage pour les politiques vision-langage-action (VLA)
14arXiv cs.RO 

TempoBridge : contrôle du tempo guidé par le langage pour les politiques vision-langage-action (VLA)

Des chercheurs publient sur arXiv (2610.09451) TempoBridge, un cadre léger qui permet de contrôler la vitesse d'exécution d'une politique Vision-Language-Action (VLA) à partir de la consigne en langage naturel, par exemple « déplace-toi lentement » ou « vite ». Le système exploite les représentations d'un VLA gelé, sans nouvelles démonstrations robotiques conditionnées par le tempo et sans réentraînement du modèle de base. Il extrait les indices de tempo des représentations contextuelles du modèle vision-langage, les aligne sur l'avancement de la tâche via un routeur de phases causal, puis module les commandes de mouvement nominales pendant l'exécution. Sur les tâches du benchmark LIBERO, le Tempo Success Rate passe de 52,6 % à 89,7 % avec des instructions de tempo canoniques, tout en conservant un taux de réussite élevé des tâches. Les performances restent proches de la référence quand aucune consigne de tempo n'est donnée, et le système généralise à des formulations de tempo jamais vues, sans entraînement supplémentaire. Des essais sur un robot physique illustrent la modulation en conditions réelles. L'enjeu est pratique : les VLA actuels comprennent bien quoi faire, mais l'utilisateur n'a guère de prise sur la manière de l'exécuter. Or, en environnement industriel ou de service, la vitesse est un paramètre central. Il faut aller vite sur une phase de transfert, ralentir pour une insertion délicate ou près d'un opérateur. TempoBridge montre qu'on peut ajouter cette commande sans recollecter de données ni toucher aux poids du modèle de base, ce qui réduit fortement le coût d'intégration pour ceux qui déploient déjà un VLA. Le routeur de phases est un point clé : la consigne peut viser un moment précis de la tâche (« approche vite, saisis doucement ») et pas seulement un facteur global de vitesse. Quelques réserves s'imposent. Les résultats chiffrés viennent d'un benchmark en simulation, LIBERO, et la validation sur robot réel est présentée de façon qualitative, sans métriques détaillées dans le résumé. Le Tempo Success Rate est une métrique définie par les auteurs, et le gain de 52,6 % à 89,7 % dépend de sa définition. Il s'agit d'un travail de recherche, pas d'un produit ni d'un déploiement. Il s'inscrit dans la lignée des efforts pour rendre les VLA plus pilotables après les premières générations centrées sur la seule réussite de tâche, et ouvre la voie à des contrôles voisins comme la force, la prudence ou la précision. Le code, les évaluations sur davantage de robots et la robustesse face à des consignes ambiguës seront les prochains tests.

UEPas d\'impact direct sur la France/UE

IA physiqueActu
1 source
Juno : dompter les latents prédictifs des modèles vision-langage-action (VLA)
15arXiv cs.RO 

Juno : dompter les latents prédictifs des modèles vision-langage-action (VLA)

Des chercheurs publient sur arXiv (2610.09940) Juno, un cadre unifié qui exploite les « latents prédictifs » d'une architecture JEPA (Joint-Embedding Predictive Architecture) pour améliorer les modèles vision-langage-action (VLA). Une JEPA prédit des observations masquées ou futures dans un espace de représentation plutôt qu'en pixels. Juno s'appuie sur une seule JEPA conditionnée par l'action, qui joue trois rôles : backbone de représentation aligné sur le contrôle, enseignant prédictif et modèle de dynamique adaptable. En pré-entraînement, elle est entraînée sur des trajectoires issues de la même morphologie que le robot cible. Une perte « dynamic CLS » transfère la dynamique des patches, pondérée par le mouvement, vers un état global compact. En apprentissage de politique, les patches JEPA de l'image courante sont fusionnés dans la perception du VLA. Une branche de raisonnement découplée, avec ses propres paramètres de transformation, distille les états latents futurs pour générer les actions. Au déploiement, le modèle du monde est adapté sur toutes les transitions observées, échecs compris. L'enseignant adapté est ensuite gelé, et la politique est réalignée sur les exécutions vérifiées via des adaptateurs LoRA et une tête d'action entraînable, sans corrections d'expert ni récompenses de tâche. Sur le benchmark de simulation SimplerEnv, Juno fait passer le taux de réussite moyen de 60,9 % à 68,5 % face à Qwen3GR00T, la meilleure référence testée. L'adaptation au moment du test porte ce score à 72,7 %. Sur robot réel, la politique conserve 70 à 75 % de réussite quand le fond, la hauteur ou les objets changent, alors que la politique de base tombe à 0 %. Ces chiffres viennent des auteurs, et le papier est une prépublication sans relecture par les pairs. Le nombre d'essais réels, les tâches et la plateforme robotique ne figurent pas dans le résumé, ce qui limite la portée de l'effondrement à 0 % de la référence, un résultat dépendant du protocole. L'enjeu dépasse le gain de 7,6 points en simulation. Le papier s'attaque à un point faible des VLA déployés : la fragilité face aux décalages de distribution (décor, hauteur de table, objets inédits), qui sépare la démo en laboratoire du fonctionnement en production. Deux idées intéressent les intégrateurs. D'abord, apprendre aussi des échecs, sans opérateur humain ni fonction de récompense. Cela réduirait le coût de réglage sur site, aujourd'hui l'un des principaux freins au déploiement. Ensuite, utiliser un enseignant prédictif figé pour éviter la dérive pendant l'adaptation. Cela dit, une adaptation en ligne exige du calcul embarqué ou un cycle de réentraînement, et la robustesse annoncée reste à confirmer hors du dispositif des auteurs. Le travail s'inscrit dans la convergence entre les modèles du monde et les VLA. La lignée JEPA, portée par Yann LeCun et Meta avec V-JEPA, sert ici de source de représentations pour l'action. La comparaison avec Qwen3GR00T, un VLA dérivé de la famille GR00T de NVIDIA et adossé à Qwen3, le situe face aux politiques généralistes actuelles, aux côtés de Pi-0 de Physical Intelligence. Aucun déploiement industriel ni code ou calendrier de diffusion n'est annoncé dans le résumé. La suite dépendra de la publication du code, d'évaluations sur d'autres morphologies et d'une reproduction indépendante.

IA physiqueActu
1 source
EmbodiedSmith : passer à l'échelle les données d'IA incarnée grâce à un cycle d'auto-amélioration récursive en simulation
16arXiv cs.RO 

EmbodiedSmith : passer à l'échelle les données d'IA incarnée grâce à un cycle d'auto-amélioration récursive en simulation

Des chercheurs publient sur arXiv (2610.07969) EmbodiedSmith, un cadre de génération de données d'entraînement robotiques en simulation, fondé sur une boucle de « récursive self-improvement » (RSI). Le système unifie trois étapes habituellement séparées : la création d'assets 3D, la génération de scènes et la génération de tâches. Il fonctionne de façon autonome ou sur instructions en langage naturel. Au centre du dispositif, une boucle de raffinement pilotée par des agents : la génération de scène anticipe les besoins des tâches à venir, et la génération de tâche déclenche en retour des modifications ciblées de la scène. Le cadre prend en charge des manipulateurs mobiles, des humanoïdes et des mains dextres, ainsi que des interactions avec des objets déformables et des fluides. Les auteurs affirment que ce raffinement conjoint améliore le taux de réussite de la génération de tâches, y compris pour les tâches longues, et que des politiques entraînées sur des données plus diversifiées généralisent mieux. Le résumé ne donne ni chiffres, ni noms de robots, ni noms de modèles de politique testés. L'intérêt tient à deux verrous connus des modèles de fondation robotiques : le manque de données variées et le manque d'environnements d'évaluation fiables. Les pipelines de simulation actuels dépendent de bibliothèques d'assets et de compétences prédéfinies, et traitent la scène et la tâche comme deux problèmes disjoints, ce qui produit des tâches irréalisables ou répétitives. Si la boucle scène-tâche tient ses promesses, elle réduirait le travail manuel de conception d'environnements, poste coûteux pour les équipes qui entraînent des VLA (vision-language-action). L'extension aux mains dextres, aux fluides et aux objets déformables vise des cas où la simulation reste la plus fragile. Il faut toutefois rester prudent : il s'agit d'un préprint non évalué par des pairs, et le résumé ne dit rien de l'écart sim-to-real. Un gain de généralisation mesuré en simulation ne prouve pas un transfert sur robot physique, qui est le test décisif pour les décideurs industriels. Le travail s'inscrit dans la course à la donnée synthétique pour la robotique, où coexistent les générateurs de scènes pilotés par LLM, les environnements procéduraux et les plateformes de simulation des grands acteurs, comme Isaac Sim chez NVIDIA, qui alimente la famille GR00T. Face à la téléopération, coûteuse et lente à passer à l'échelle, la simulation générative promet de produire des volumes bien supérieurs à moindre coût. Les prochaines étapes à surveiller sont la publication du code et des benchmarks, des validations sur robots réels et une comparaison directe avec les pipelines existants. Aucun acteur européen ni calendrier de déploiement n'est mentionné dans l'annonce.

IA physiquePaper
1 source
EgoLAP : apprendre à partir de données humaines égocentriques grâce au raisonnement langage-action
17arXiv cs.RO 

EgoLAP : apprendre à partir de données humaines égocentriques grâce au raisonnement langage-action

EgoLAP, un cadre de pré-entraînement pour modèles VLA (vision-langage-action) décrit dans une prépublication arXiv (2610.08726), vise à exploiter des données égocentriques humaines, c'est-à-dire filmées du point de vue d'une personne qui accomplit une tâche, pour entraîner des robots. Le système apprend conjointement à partir de trajectoires humaines et robotiques via une chaîne de raisonnement par le langage partagée. L'intention de mouvement y est exprimée sous forme d'« actions langagières » structurées et abstraites dans le temps. Chacune est associée à un raisonnement au niveau du mouvement, fondé sur la géométrie de la scène, la physique et les affordances des objets. Les auteurs annoncent 80,1 % de progression moyenne des tâches en conditions réelles, soit un gain de 2,3 fois par rapport aux autres représentations d'action testées. Les expériences couvrent des tâches réelles et simulées. Le résumé ne précise ni la plateforme robotique, ni le nombre de tâches, ni le volume de données humaines utilisé. L'enjeu est celui du coût des démonstrations robotiques. La téléopération reste lente, chère et difficile à passer à l'échelle, alors que les vidéos égocentriques humaines peuvent être collectées en grande quantité. Le verrou est l'écart d'embodiment : les actions bas niveau d'un humain (articulations d'une main, trajectoires du poignet) ne se transposent pas telles quelles à un bras ou une pince. L'idée centrale est de n'utiliser comme cible de supervision que l'intention de mouvement, jugée transférable entre humains et robots. Si ce résultat se confirme, il renforcerait la thèse d'un passage à l'échelle des VLA par les données humaines plutôt que par les seules démonstrations robot. Les auteurs affirment aussi que le raisonnement au niveau du mouvement fait mieux qu'un format composite combinant sous-tâches, boîtes d'objets et traces visuelles, ce qui interroge les choix de raisonnement intermédiaire adoptés par plusieurs modèles actuels. Il faut toutefois rester prudent. Le chiffre de 80,1 % mesure une progression de tâche, pas un taux de réussite complet. Le gain de 2,3 fois dépend du choix des représentations comparées, et ces résultats n'ont pas encore été relus par des pairs. L'approche s'inscrit dans un courant plus large : des modèles comme Pi-0, GR00T ou Helix cherchent aussi à combiner vidéo humaine, simulation et données robot, et plusieurs équipes explorent les représentations d'action partagées entre morphologies. EgoLAP se distingue en choisissant le langage comme pivot. Reste à voir si le code, les poids et les jeux de données seront publiés, et si la méthode tient sur des tâches de longue durée, des mains dextres ou des environnements industriels, seuls cas qui intéresseraient vraiment les intégrateurs.

IA physiquePaper
1 source
ViDAL : un espace latent d'actions fondé sur la dynamique visuelle pour les modèles vision-langage-action (VLA)
18arXiv cs.RO 

ViDAL : un espace latent d'actions fondé sur la dynamique visuelle pour les modèles vision-langage-action (VLA)

Des chercheurs ont publié sur arXiv (2610.08150) ViDAL, un espace latent d'actions ancré dans la dynamique visuelle pour les modèles vision-langage-action (VLA). Ces modèles prédisent les actions d'un robot sous trois formes : segments d'actions bruts (action chunks), jetons d'action discrets ou latents d'action continus. ViDAL relève de la troisième famille. Un autoencodeur variationnel d'actions (Action VAE) est entraîné à reconstruire des segments d'actions tout en alignant son espace latent sur la dynamique future de la scène. Une fois entraîné, il sert d'interface d'action « plug-in » compatible avec plusieurs architectures VLA, et permet en option de prédire la vidéo future. Sur LIBERO, la méthode atteint 98,1 % de succès moyen. Sur RoboTwin 2.0, elle fait passer une politique multitâche π0.5 de 54,3 % à 65,5 % en configuration Clean et de 33,2 % à 43,1 % en configuration Random, sur 50 tâches bimanuelles. Sur robots réels, les gains absolus atteignent 20,0 % sur un bras Franka et 23,4 % sur une plateforme bimanuelle ARX. L'intérêt tient au point de départ du travail : la plupart des représentations d'actions modélisent uniquement des trajectoires, sans tenir compte de ce que ces actions produisent dans l'image. En liant le latent aux conséquences visuelles, ViDAL traite l'action comme une cause observable plutôt que comme une simple séquence de commandes. Le fait que le même module améliore une politique existante (π0.5) suggère qu'il s'agit d'un gain portable, sans refonte du modèle, ce qui intéresse les équipes qui itèrent sur des VLA du commerce ou open source. Les gains sur RoboTwin, de l'ordre de 10 points, sont plus parlants que le score LIBERO, déjà proche de la saturation (98,1 %). Des réserves s'imposent toutefois : il s'agit d'une préimpression non évaluée par des pairs. Le nombre d'essais, les tâches réelles testées et la variance ne sont pas précisés dans le résumé, et deux robots ne suffisent pas à conclure à une généralisation. Le gain réel dépend aussi du niveau de départ de chaque politique. Le travail s'inscrit dans la course à la meilleure représentation d'actions pour les VLA. Les segments bruts dominent des modèles comme π0 et π0.5, tandis que d'autres approches ont misé sur la tokenisation discrète des actions ou sur des latents appris. En parallèle, les modèles du monde et la prédiction vidéo gagnent du terrain pour la planification robotique, et ViDAL cherche à combiner ces deux courants. Les suites logiques sont la publication du code et des poids, des comparaisons avec d'autres interfaces d'action sur davantage d'architectures, et des tests sur des tâches longues ou des manipulations plus fines, là où l'écart entre démonstration et déploiement reste le plus net.

UEPas d\'impact direct sur la France/UE

IA physiqueOpinion
1 source
Pegasus 1.6 apporte la compréhension vidéo à l'IA physique, selon TwelveLabs
19Robotics Business Review 

Pegasus 1.6 apporte la compréhension vidéo à l'IA physique, selon TwelveLabs

TwelveLabs, société de vidéo intelligence fondée en 2021 et basée à Séoul, a publié Pegasus 1.6, la nouvelle version de son modèle vidéo qui marque son entrée dans l'IA physique. C'est son premier modèle conçu pour la vidéo égocentrique, c'est-à-dire filmée du point de vue de la personne qui travaille : cuisiner, assembler des pièces sur une ligne d'usine ou téléopérer un robot. Pegasus 1.6 n'exige ni caméra spécifique ni matériel propriétaire. Il traite aussi les images fixes et peut s'appliquer à des archives vidéo existantes. Il prend en charge cinq workflows, dont la segmentation et l'étiquetage d'actions, qui produit des labels horodatés (tâches, étapes, objets, interactions main-objet) alignés sur la taxonomie du client, et le sous-titrage dense. Les trois autres ne sont pas détaillés dans le matériel disponible. Le PDG Jae Lee a confirmé à The Robot Report que l'entreprise se concentre sur la couche de compréhension vidéo et non sur l'entraînement des modèles robotiques. L'enjeu est le goulot d'étranglement des données. Les équipes robotiques accumulent des millions d'heures de vidéo, mais ces images brutes ne sont pas exploitables telles quelles : il faut savoir quelle action se déroule, à quel instant, avec quel objet, et quand un tiers entre dans le champ. Lee souligne que la vidéo égocentrique se collecte et se met à l'échelle bien plus facilement que les données de téléopération, aujourd'hui coûteuses et lentes à produire. Si l'annotation automatique tient ses promesses, elle pourrait réduire le coût de préparation des jeux de données pour les intégrateurs et les équipes qui entraînent des modèles vision-langage-action (VLA). La prudence s'impose toutefois : l'annonce ne fournit ni benchmark public, ni taux de précision d'annotation, ni client nommé, ni tarif. Les formules du type « comme jamais auparavant » relèvent du discours commercial, et la vidéo égocentrique, filmée par des caméras portées sur la tête, est connue pour dérouter les modèles entraînés sur des contenus diffusés, pédagogiques ou cinématographiques. TwelveLabs s'est fait connaître avec Marengo et Pegasus, présentés comme une plateforme « full-stack » de recherche et d'analyse vidéo. Le pivot vers la robotique s'inscrit dans une tendance du secteur : face à la pénurie de données d'entraînement, les acteurs des humanoïdes et des VLA multiplient les sources, entre téléopération, simulation et vidéo humaine. TwelveLabs se positionne en fournisseur d'infrastructure plutôt qu'en concurrent des constructeurs, mais il devra convaincre face aux prestataires d'annotation et aux équipes qui développent leurs outils en interne. Les prochaines étapes à surveiller sont la publication de mesures de qualité sur des jeux de données robotiques, l'annonce de premiers partenaires industriels et la preuve que des modèles entraînés sur ces labels s'améliorent réellement sur des tâches physiques.

UEPas d\'impact direct sur la France/UE

IA physiqueActu
1 source
Runway présente Praxis-1, un modèle du monde et d'action pour la robotique
20Robotics Business Review 

Runway présente Praxis-1, un modèle du monde et d'action pour la robotique

Runway AI, la société new-yorkaise fondée en 2018 et connue pour ses modèles génératifs vidéo, a présenté cette semaine Praxis-1, un « world action model » à poids ouverts qui convertit son pré-entraînement vidéo à grande échelle en commandes pour robots. Le modèle s'appuie sur la même base que les world models généraux de l'entreprise (GWM-1, Gen-4.5, Aleph 2.0, Act-Two) et apprend surtout à partir de vidéos filmées à la troisième personne, non de démonstrations téléopérées. Il a été entraîné sur des tâches de manipulation allant du simple pick-and-place (soulever des canettes) à la manipulation d'objets déformables (emballer des sacs cadeaux). Runway affirme que la simulation de politiques robotiques dans son world model prédit les résultats réels avec une corrélation de 0,95, mieux que des techniques plus coûteuses fondées sur la reconstruction 3D, sans publier de détails méthodologiques. Des partenaires pilotes (Noble Machines, Standard Bots et Ultra) font tourner Praxis-1 sur leur propre matériel, des bras bimanuels aux humanoïdes, avec un fine-tuning léger. La sortie publique est annoncée « dans les prochains mois », sans date. L'enjeu est de savoir si la vidéo peut remplacer, au moins en partie, la donnée robot, rare et chère à collecter. Selon Kamil Sindi, directeur technique de Runway, la performance progresse avec le volume de vidéo, de sorte que le plafond du modèle dépendrait de la quantité de vidéo disponible plutôt que du nombre de démonstrations. Si cela se confirme, le goulot d'étranglement des politiques généralistes se déplacerait de la collecte téléopérée vers le curage de données vidéo. Pour les intégrateurs, la promesse d'un modèle unique adaptable à plusieurs morphologies avec peu de fine-tuning serait un gain de coût réel. Il faut toutefois rester prudent : aucun taux de réussite, aucun temps de cycle ni aucune comparaison avec des politiques existantes n'a été publié, et les retours des partenaires sont rapportés par Runway elle-même. Le chiffre de 0,95 mesure la fidélité de la simulation, pas la performance sur site. À ce stade, il s'agit d'une annonce avec des tests partenaires, pas d'un produit livré ni d'un déploiement en production. Runway arrive en robotique depuis la vidéo générative, après GWM-1 et des modèles interactifs temps réel comme Solaris et GWM Worlds 2, conçus pour créer des environnements d'entraînement d'agents. L'entreprise, qui a des bureaux à New York, San Francisco, Seattle, Londres, Paris, Tel Aviv et Tokyo, rejoint un champ où les approches VLA (vision-langage-action) et world models se disputent le terrain, face à des acteurs comme Physical Intelligence (Pi-0), NVIDIA (GR00T) ou Figure (Helix), qui s'appuient davantage sur des données robot. Le choix des poids ouverts est assumé : Sindi y voit un levier pour que les États-Unis retrouvent leur avance industrielle, en laissant aux fabricants de matériel de la flexibilité. Les prochaines étapes sont l'élargissement du cercle de partenaires avant la sortie publique et la validation sur davantage de robots, pour combler les écarts avant la disponibilité générale. Aucun acteur français ou européen n'est cité parmi les partenaires.

UEPas d\'impact direct sur la France/UE

IA physiqueActu
1 source
Robot Talk épisode 164 : accélérer l'apprentissage des robots, avec Michelle Lu
21Robohub 

Robot Talk épisode 164 : accélérer l'apprentissage des robots, avec Michelle Lu

Dans l'épisode 164 du podcast Robot Talk, l'animatrice Claire reçoit Michelle Lu, cofondatrice et CEO de Vsim Technology, pour parler d'entraînement de robots par simulation et intelligence artificielle. Michelle Lu a été directrice de la technologie de simulation chez NVIDIA, où elle a créé avec son cofondateur Isaac Gym, présenté comme le premier framework d'apprentissage par renforcement (RL) de bout en bout accéléré sur GPU. En 2022, les deux associés ont quitté NVIDIA pour fonder Vsim. L'entreprise vise trois limites de la robotique entraînée en simulation : l'efficacité, le passage à l'échelle et l'écart sim-to-real. L'épisode est un entretien : aucun produit, chiffre de performance, client ou financement n'est annoncé dans la présentation. L'intérêt tient au profil de la fondatrice. Isaac Gym a fixé la méthode que suivent aujourd'hui la plupart des équipes : des milliers d'environnements physiques simulés en parallèle sur GPU, pour entraîner des politiques de locomotion et de manipulation en quelques heures. Que ses concepteurs créent une société indépendante suggère que ces trois verrous restent ouverts, malgré les démonstrations de plus en plus fluides des humanoïdes. Pour un intégrateur, le sim-to-real conditionne le coût réel d'adaptation d'un robot à un nouveau site. À ce stade, Vsim n'a pas publié de preuve chiffrée visible dans ce résumé. Côté contexte, Vsim naît dans le sillage d'un écosystème dominé par NVIDIA, qui a poursuivi ce travail avec Isaac Sim et Isaac Lab. Les concurrents sont nombreux : MuJoCo et ses déclinaisons GPU de Google DeepMind, ou les moteurs de simulation propres aux laboratoires humanoïdes. Les suites dépendront de ce que Vsim démontrera publiquement : benchmarks, partenaires industriels, déploiements.

UEPas d\'impact direct sur la France/UE

IA physiqueActu
1 source
UrbanVLA : un modèle vision-langage-action (VLA) pour la micromobilité urbaine
22arXiv cs.RO 

UrbanVLA : un modèle vision-langage-action (VLA) pour la micromobilité urbaine

Des chercheurs publient sur arXiv (2510.23576, version 2) UrbanVLA, un cadre Vision-Language-Action (VLA) conditionné par une route, conçu pour la navigation de micromobilité urbaine, c'est-à-dire des robots de livraison qui doivent suivre des itinéraires longs dans des villes réelles. Le système aligne explicitement des waypoints de route bruités avec les observations visuelles pendant l'exécution, puis planifie des trajectoires pour piloter le robot. L'entraînement se fait en deux étapes. Une phase de Supervised Fine-Tuning (SFT) utilise des environnements simulés et des trajectoires extraites de vidéos web. Une phase de Reinforcement Fine-Tuning (RFT) s'appuie ensuite sur un mélange de données simulées et réelles, afin d'améliorer la sécurité et l'adaptabilité en conditions réelles. Les auteurs affirment un gain de plus de 55 % face à des références solides sur la tâche SocialNav du benchmark MetaUrban, ainsi qu'une navigation réelle fiable. Le résumé ne donne ni payload, ni plateforme robotique, ni vitesse, ni distances parcourues. L'intérêt tient à la structuration du problème. Les méthodes de navigation actuelles ciblent surtout des scénarios courts et contrôlables, alors qu'une livraison urbaine exige deux niveaux de compétence : bas niveau (atteindre un point, éviter les obstacles) et haut niveau (faire correspondre la route prévue à ce que le robot voit). Pour les intégrateurs de robots de trottoir, l'enjeu est de savoir si un VLA peut absorber des itinéraires GPS ou cartographiques imparfaits, sans recalibrage manuel par site. L'usage de vidéos web pour amorcer l'apprentissage vise à réduire le coût de collecte de données, un des principaux freins du secteur. Il faut toutefois rester prudent : le chiffre de 55 % provient d'un benchmark simulé, dont le choix des baselines n'est pas détaillé dans le résumé. La robustesse « réelle » annoncée n'est étayée ici par aucune métrique publique. Reste à voir si le transfert sim-to-real tient hors des scénarios sélectionnés pour la démonstration. Ce travail s'inscrit dans la vague des modèles VLA, d'abord développés pour la manipulation (Pi-0, GR00T, Helix) et désormais étendus à la navigation. Il vise un marché déjà occupé par des robots de livraison à roues, comme ceux de Starship Technologies, dont la navigation repose en grande partie sur des cartes préconstruites et des piles modulaires. Un VLA de bout en bout leur oppose une approche plus généraliste, mais moins éprouvée en sécurité. La mention d'une version 2 indique un article révisé, probablement après relecture. Les prochaines étapes à surveiller sont la publication du code, des modèles et des données, ainsi que des essais sur de longs parcours en environnement dense, seuls capables de confirmer ou non l'échelle revendiquée.

UEPas d\'impact direct sur la France/UE

IA physiqueActu
1 source
Le nouveau modèle Mind-1 de MindOn donne aux robots une exécution à vitesse humaine
23Interesting Engineering 

Le nouveau modèle Mind-1 de MindOn donne aux robots une exécution à vitesse humaine

MindOn a dévoilé Mind-1, un modèle d'IA physique censé permettre à des robots d'exécuter des tâches de manipulation quotidiennes à vitesse humaine. La démonstration, diffusée le 30 septembre 2026, montre des robots qui manipulent des colis autour d'un convoyeur, plient des chemises et ramassent du linge, avec des vidéos estampillées « 1.0x Speed » et « Fully Autonomous ». Le modèle est présenté comme un système d'intelligence plutôt que comme un nouveau corps de robot : la vidéo alterne entre plusieurs configurations, dont des robots à deux bras (colis, pliage sur plan de travail) et un humanoïde qui évolue dans un intérieur meublé pour collecter du linge. MindOn le décrit comme un modèle universel combinant perception, raisonnement et action, évitant un modèle spécifique par machine et par tâche. La société affirme que Mind-1 atteint des temps de cycle humains et, pour certaines tâches, plus rapides. Aucun chiffre de payload, de nombre de DOF, de prix ou de volume de déploiement n'est communiqué. L'enjeu est le déplacement du critère de jugement. Après une phase où l'on demandait si un robot savait accomplir une tâche en autonomie, la question devient la cadence, décisive en logistique et en production où la valeur se mesure en débit. Un robot qui réussit mais prend nettement plus de temps qu'un opérateur a une valeur pratique limitée. Il faut toutefois rester prudent : le label « 1.0x » n'établit pas que les machines égalent systématiquement des opérateurs sur des tâches comparables. Humanoids Daily, qui a relayé la démonstration, souligne l'absence de comparaisons chiffrées humain contre robot, de taux de réussite et de statistiques d'intervention humaine. Les allégations de MindOn restent donc déclaratives, sans mesure indépendante, et l'on ignore si la vidéo résulte d'une sélection de prises. Si l'approche multi-plateformes tient ses promesses, les progrès du modèle profiteraient à plusieurs types de robots, ce qui intéresserait les intégrateurs qui veulent éviter la dépendance à un seul matériel. Mind-1 s'inscrit dans la continuité des démonstrations antérieures de MindOn sur des tâches domestiques et logistiques, élargies ici à plusieurs formes de robots. Cette stratégie de « cerveau » indépendant du corps place l'entreprise face aux autres développeurs de modèles fondation robotiques, tels que Physical Intelligence avec Pi-0, NVIDIA avec GR00T ou Figure avec Helix, qui défendent eux aussi la généralité entre plateformes ou intègrent verticalement modèle et matériel. Mind-1 reste pour l'instant une démonstration des capacités visées, pas un produit livré ni un déploiement client. Les prochaines étapes à surveiller sont des essais plus longs, des temps de cycle mesurés indépendamment, des taux de réussite et des données d'intervention humaine, seuls éléments capables de prouver qu'une productivité de niveau humain peut être maintenue durablement hors d'un cadre de démonstration contrôlé.

UEPas d\'impact direct sur la France/UE

IA physiqueActu
1 source
DSDyn-VLA : un cadre à double flux pour la manipulation dynamique, avec perception du mouvement, anticipation et correction en temps réel
24arXiv cs.RO 

DSDyn-VLA : un cadre à double flux pour la manipulation dynamique, avec perception du mouvement, anticipation et correction en temps réel

Des chercheurs proposent DSDyn-VLA, un cadre « lent-rapide » à double flux destiné à la manipulation d'objets en mouvement, comme sur un convoyeur, un cas où les modèles vision-langage-action (VLA) actuels décrochent. L'article, publié sur arXiv (2609.39198), identifie trois écarts. L'écart de perception : une image statique ne porte aucune information de mouvement. L'écart de latence : le temps d'inférence rend l'action obsolète quand elle est exécutée. L'écart de contrôle : les « action chunks » sont joués en boucle ouverte, sans ajustement en temps réel. Le « Flow-Planner », lent, joue le rôle de planificateur macro. Il ajoute au VLA du flux optique pour la perception temporelle, ainsi qu'un mécanisme de « conscience de l'état futur » qui anticipe la latence d'inférence. Le « Res-Refiner », rapide, est une politique d'apprentissage par renforcement légère qui injecte des corrections résiduelles haute fréquence, en boucle fermée, dans les chunks planifiés. Les auteurs publient aussi DynBench, un banc d'essai sous MuJoCo de neuf tâches de manipulation dynamique. Ils annoncent une baisse de plus de 76 % du taux d'échec face à l'état de l'art en configuration à forte latence sur le benchmark Kinetix. Ils annoncent aussi un taux de succès environ 6 fois supérieur à celui de PI0.5 en conditions réelles dynamiques, et environ 5 fois supérieur sur DynBench. Code et poids doivent être publiés en open source. Ces résultats visent une faiblesse que les intégrateurs connaissent bien : les VLA brillent en démonstration sur des scènes statiques, mais la logistique et la production réelles impliquent des pièces qui bougent, comme les convoyeurs, le tri à la volée ou le transfert vers un opérateur. Si ces gains tiennent, l'architecture suggère qu'un VLA généraliste ne suffit pas et qu'une couche de correction rapide, séparée du modèle de fondation, est nécessaire. Cela rejoint le découpage système 1 / système 2 déjà visible dans plusieurs architectures commerciales. Des réserves s'imposent toutefois. Les multiples (6x, 5x) sont relatifs à une base de comparaison PI0.5 qui n'était pas conçue pour ce régime, et un ratio élevé peut refléter un taux de succès de départ très bas. Le protocole réel (nombre d'essais, vitesse des objets, matériel) n'est pas précisé dans le résumé, et il s'agit d'une prépublication non évaluée par des pairs. Le travail s'inscrit dans la course à la réduction de la latence des VLA, notamment le « real-time chunking » et les approches d'exécution asynchrone, qui traitent surtout la continuité des actions plutôt que le suivi d'objets mobiles. Les concurrents directs sont les familles Pi de Physical Intelligence, dont PI0.5 sert de référence, et les modèles à double système comme Helix de Figure ou GR00T de NVIDIA. Aucun acteur européen n'est cité dans le résumé. La suite dépendra de la publication effective du code et des poids, de la reproduction des résultats par des tiers, et d'un passage de DynBench, entièrement simulé, à des cadences industrielles réelles.

IA physiqueOpinion
1 source
Sparse-WAM : accélérer les modèles monde-action grâce à une imagination parcimonieuse guidée par l'action
25arXiv cs.RO 

Sparse-WAM : accélérer les modèles monde-action grâce à une imagination parcimonieuse guidée par l'action

Des chercheurs proposent Sparse-WAM, un cadre sans entraînement qui accélère l'inférence des « world-action models » (WAMs), ces modèles de contrôle robotique qui s'appuient sur des modèles vidéo pré-entraînés pour prédire conjointement les images futures et les actions. Le coût vient du débruitage : les jetons de frames futures, très nombreux, sont retraités à chaque étape. Sparse-WAM ne traite qu'une partie d'entre eux, sélectionnés d'après leur pertinence pour l'action. Le module Action-Guided Token Selection conserve, pour chaque frame, les régions utiles à l'action, plus un contexte inter-frames. Un moteur nommé Pilot limite le surcoût du calcul des scores d'attention et du regroupement des jetons, grâce à un scoring léger et à la réutilisation des sélections d'une étape à l'autre. Sur LIBERO avec FastWAM-Joint, l'accélération atteint environ 2,0x par rapport à l'inférence dense « eager ». Sur RoboLab-120 avec Cosmos 3 Edge, elle atteint environ 1,8x. Les mesures ont été faites sur une NVIDIA RTX 4090, et les auteurs indiquent que la performance des tâches est « largement préservée ». Le papier (arXiv 2609.38984v1) ne donne pas, dans son résumé, l'ampleur exacte de la perte résiduelle. Les WAMs promettent une meilleure généralisation que les politiques VLA classiques, mais leur latence est un obstacle au déploiement : un modèle vidéo de grande taille qui « imagine » le futur à chaque cycle de contrôle est difficile à tenir en temps réel sur du matériel embarqué ou abordable. Le travail vise ce point. Une carte grand public comme la RTX 4090 sert ici de référence, ce qui intéresse les intégrateurs qui n'ont pas de grappe de GPU de datacenter. Le gain est modeste (un facteur 2 au mieux) et ne règle pas à lui seul la fréquence de contrôle : la comparaison porte sur une base dense non optimisée, et non sur des moteurs d'inférence déjà très optimisés. Les benchmarks restent de la simulation ou des suites standardisées, sans validation sur robot réel annoncée. L'observation de fond est utile : l'attention des jetons d'action vers les frames futures se recouvre fortement d'un pas de débruitage à l'autre, alors que les représentations continuent d'évoluer. Cela suggère qu'une bonne part de l'« imagination » visuelle est redondante pour décider de l'action. Ce travail s'inscrit dans la course à l'efficacité des modèles de diffusion vidéo, où l'élagage de jetons visait jusqu'ici la fidélité visuelle plutôt que la pertinence pour l'action. Il prolonge la lignée des politiques VLA et des modèles de monde, avec des acteurs comme Physical Intelligence (Pi-0), NVIDIA (GR00T, Cosmos) ou Figure (Helix), qui cherchent tous à concilier généralisation et latence. Aucun déploiement industriel n'est annoncé. La suite logique est de tester la méthode sur robot réel, de la combiner avec la quantification ou la distillation, et de vérifier qu'elle tient sur des tâches longues et des scènes moins contrôlées. Cette publication est un préprint, non évalué par des pairs.

IA physiquePaper
1 source
IronMind : passage à l'échelle de la manipulation dextérique humanoïde par pré-entraînement égocentrique dans l'espace caméra
26arXiv cs.RO 

IronMind : passage à l'échelle de la manipulation dextérique humanoïde par pré-entraînement égocentrique dans l'espace caméra

IronMind, un modèle vision-langage-action (VLA) décrit dans un preprint arXiv (v1, non évalué par les pairs), vise à entraîner des humanoïdes à la manipulation dextre à partir de vidéos égocentriques humaines, c'est-à-dire filmées depuis le point de vue de l'opérateur, combinées à des données robotiques hétérogènes. Les auteurs contournent le retargeting corporel explicite en adoptant une représentation d'action dans l'espace caméra, référentiel natif de ces vidéos, et en alignant sémantiquement les dimensions d'action humaines et robotiques. Sur des budgets de pré-entraînement de 250 à 10 000 heures, la perte de validation décroît approximativement de façon log-linéaire avec le volume de données. Après post-entraînement, sur six tâches difficiles impliquant objets, affordances et consignes de raisonnement inédits, le modèle à 10 000 heures atteint 55,0 % de réussite. Les budgets inférieurs ou égaux à 5 000 heures plafonnent à 11,7 % au mieux, et l'absence de pré-entraînement donne 5,0 %. À budget égal, la représentation en espace caméra surpasse aussi la référence en repère du torse. L'intérêt tient à deux points. D'abord, la manipulation dextre humanoïde commence à montrer une loi d'échelle comparable à celle observée en langage : la perte baisse régulièrement avec les données, et la généralisation en conditions réelles progresse. Ensuite, la source de données change d'économie. Les vidéos égocentriques bon marché, sans cinématique du torse, deviennent exploitables, alors que la téléopération robotique reste lente et coûteuse à collecter. Pour un intégrateur, cela suggère que le goulot d'étranglement se déplace vers la curation et l'alignement de données humaines plutôt que vers le parc de robots. Quelques réserves s'imposent : le saut brutal entre 5 000 et 10 000 heures (de 11,7 % à 55,0 %) repose sur six tâches seulement, sans indication du nombre d'essais ni de l'intervalle de confiance. Le robot utilisé, les temps de cycle et les conditions de test ne sont pas précisés dans le résumé. Il s'agit de résultats de laboratoire, sans déploiement industriel. Ce travail s'inscrit dans la course aux VLA généralistes, où Pi-0 de Physical Intelligence, GR00T de NVIDIA et Helix de Figure exploitent surtout des données téléopérées ou synthétiques. L'usage de vidéo humaine égocentrique à grande échelle est une piste concurrente, déjà explorée par plusieurs laboratoires, que IronMind cherche à rendre praticable en supprimant l'étape de retargeting. Les prochaines étapes à surveiller sont la publication du code et des poids, la réplication sur d'autres plateformes humanoïdes, et la mesure du point de saturation au-delà de 10 000 heures. Aucun acteur français ou européen n'est mentionné dans le résumé.

IA physiquePaper
1 source
Vidéo : un nouveau robot humanoïde vide le linge et plie des serviettes sans aide humaine
27Interesting Engineering 

Vidéo : un nouveau robot humanoïde vide le linge et plie des serviettes sans aide humaine

Dyna Robotics, start-up californienne, a présenté le 29 septembre 2026 Dyna-2.1, qu'elle qualifie d'« agent physique » capable d'enchaîner de très longs flux de travail avec l'ensemble du corps, sans intervention humaine. La démonstration, en vidéo non coupée selon l'entreprise, se déroule dans une laverie commerciale. Le robot charge et démarre lui-même lave-linge et sèche-linge, se penche pour extraire les serviettes du fond d'un sèche-linge et les transfère dans un panier. Il les secoue pour les mettre à plat, les plie, les trie par taille en piles, puis les range sur des étagères en s'accroupissant pour les niveaux bas ou en tendant les bras vers les niveaux hauts. Il récupère une serviette tombée au sol et, après une prise ratée, abandonne la tentative pour en refaire une. Côté matériel, la machine est un « semi-humanoïde » : un torse et deux bras montés sur une base à quatre roues directrices, avec pinces parallèles ou mains dextres au choix. Un orchestrateur vision-langage planifie le flux, un contrôleur du corps entier coordonne déplacement et mouvements des bras, et le tout repose sur Dyna-2, un « world action model » propriétaire entraîné, selon l'entreprise, sur un million d'heures de données humaines et robotiques. Dyna affirme déployer le robot dans des hôtels, des laveries et des restaurants, sans chiffrer le nombre d'unités, les sites ni le prix. L'intérêt tient moins à la dextérité, déjà montrée par d'autres, qu'au choix de mesure. Dyna met en avant le MTBI (Mean Time Between Interventions), c'est-à-dire la durée de fonctionnement avant qu'un humain doive intervenir, plutôt que le taux de réussite d'une tâche isolée. C'est l'indicateur qui compte pour un exploitant : un poste complet sans « baby-sitter », comme le dit le CEO Lindon Gao. Il déplace la discussion de la démo vers la fiabilité opérationnelle, là où se joue l'écart entre vidéo et réalité. Le choix d'une base à roues, qui évite le problème d'équilibre de la marche bipède, illustre aussi un pari pragmatique : pour la logistique, l'hôtellerie ou la blanchisserie, la forme humanoïde complète n'est pas nécessairement utile. Il faut toutefois rester prudent : Dyna ne publie aucune valeur de MTBI, ni durée de la séquence, ni taux d'interventions. Une vidéo unique en environnement contrôlé ne prouve pas la fiabilité sur un poste de huit heures, et les déploiements évoqués restent non documentés. Dyna Robotics s'inscrit dans la vague des modèles fondation pour la manipulation, aux côtés de Physical Intelligence (Pi-0), de Figure (Helix) ou de NVIDIA (GR00T), avec un positionnement plus commercial que la plupart : des tâches de service à valeur immédiate plutôt qu'un humanoïde généraliste. Sa stratégie rejoint celle des bases mobiles à deux bras, concurrentes directes des humanoïdes marchants pour les usages en intérieur. L'entreprise décrit une boucle d'amélioration continue : les traces de décision de l'orchestrateur et les charges articulaires du contrôleur sont réinjectées pour allonger le temps entre interventions. La suite se jugera sur des chiffres de MTBI vérifiables, des clients nommés et des volumes de déploiement, aucun de ces éléments n'étant encore public.

UEPas d\'impact direct sur la France/UE

IA physiqueOpinion
1 source
Simate présente le système d'IA physique Simate-beta et affirme dominer le benchmark RoboDojo
28Pandaily 

Simate présente le système d'IA physique Simate-beta et affirme dominer le benchmark RoboDojo

Simate, une startup d'IA embarquée fondée il y a environ trois mois, a publié Simate-beta, première version de ce qu'elle présente comme un « système rapide » physique généraliste. Selon un instantané du classement daté du 23 septembre, que l'entreprise a elle-même partagé, le modèle prend la première place du benchmark RoboDojo avec un score moyen de 33,95 et un taux de réussite de 27,96 %. RoboDojo évalue la manipulation robotique générale selon cinq axes : généralisation, mémoire, manipulation fine, exécution à long horizon et tâches ouvertes. Simate précise que le modèle de base soumis n'a pas été optimisé spécifiquement pour ce test, et que les résultats du classement sont distincts de ses démonstrations sur robot réel. Ce système rapide est conçu pour se placer sous un modèle de raisonnement plus lent. Quand ce dernier décompose une consigne comme « ranger la table », le système rapide perçoit une scène changeante et produit des actions en quelques millisecondes. L'entreprise revendique une perception physique 4D et une mémoire temporelle hiérarchique, censées permettre au robot de suivre ce qui vient de se passer sans être ralenti par de longs historiques. Les démonstrations couvrent l'adaptation à une tâche à partir d'exemples, la mémoire, des enchaînements comme la préparation du thé et la manipulation fine. L'architecture et la taille du modèle seront détaillées dans un rapport technique ultérieur. Le score le plus marquant est sans doute relatif : un taux de réussite inférieur à 28 % en tête d'un classement rappelle que la manipulation généraliste reste loin d'être résolue, et qu'un rang n'est pas un niveau de fiabilité exploitable en production. Le résultat reste auto-rapporté à partir d'un instantané fourni par l'entreprise, sans détail sur l'architecture, les paramètres ou les données, et il est impossible de le comparer à des modèles établis à ce stade. L'intérêt est ailleurs, dans la méthode. Simate parle d'« IA pour l'IA physique » : son cadre Sipai définit des frontières de modules, des interfaces et des étapes de validation assez nettes pour que des agents logiciels puissent les modifier, et prend déjà en charge les modèles du monde, les modèles monde-action, les VLA (vision-langage-action) et les VLM. Son moteur AutoResearch fusionne articles, notes internes, code, mélanges de données, journaux d'expériences et nouveaux résultats d'évaluation en un contexte de recherche mis à jour en continu. Les chercheurs humains fixent hypothèses, objectifs et contraintes, tandis que les agents décomposent, lancent et rapportent les expériences. L'infrastructure fait tourner des dizaines de pistes en parallèle, filtrées par des modèles du monde et de la simulation pour que seules les approches prometteuses atteignent les robots réels. Si cela fonctionne, le goulot d'étranglement de l'itération en robotique se déplacerait de la collecte de données sur robot vers la capacité de calcul et l'automatisation de la recherche. Côté contexte, Simate affirme que son équipe fondatrice a déjà mis en production de masse un modèle de conduite autonome de bout en bout, un parcours désormais courant chez les acteurs chinois de l'IA incarnée. Le site anglophone de la société cite Sinfra comme plateforme de développement, Sipai comme système de modèles et RoboScientist, un scientifique IA en préversion de recherche. Elle indique que des chercheurs du MIT, de Caltech, de l'université Tsinghua et de l'université de Pékin figurent parmi les testeurs internes de sa plateforme, sans que cela soit vérifiable. Le modèle arrive dans un champ déjà occupé par les architectures à double système, comme Helix de Figure ou GR00T de NVIDIA, et par des modèles généralistes comme Pi-0. La suite est annoncée : des résultats de généralisation zero-shot sur des tâches complexes d'ici la fin de l'année, puis des articles, des rapports techniques et une publication du code en open source par étapes. Aucun déploiement client, prix ni calendrier commercial n'a été communiqué. Il s'agit donc d'une annonce de modèle et de méthode, pas d'un produit livré.

IA physiqueActu
1 source
Rho : une base pour des modèles VLA facilement adaptables
29arXiv cs.RO 

Rho : une base pour des modèles VLA facilement adaptables

Rho, une famille de modèles VLA (vision-langage-action) à poids ouverts pour la manipulation bimanuelle, fait l'objet d'un rapport technique publié sur arXiv. Elle est conçue pour s'adapter à de nouvelles tâches avec peu de données, sur trois plateformes à deux bras représentatives des laboratoires et de l'industrie : YAM Box, UR AI Trainer et FR3 Duo. Les auteurs ont testé l'architecture de l'« action expert » et la recette d'entraînement par ablations, en simulation contrôlée puis sur robots physiques. Ils rapportent que les variantes Rho pour chaque plateforme égalent ou dépassent les VLA à poids ouverts existants, avec les meilleures performances globales sur les tâches, plateformes et références évaluées dans le rapport. Le modèle de base et les checkpoints spécifiques à chaque plateforme sont publiés. Le rapport intègre aussi un mécanisme d'adaptation en ligne : une politique latente interne apprend à partir de corrections humaines à choisir des entrées de bruit, conditionnées par l'observation, pour l'action expert figé, basé sur le flow matching. Avec 15 épisodes corrigés seulement, ce module léger permet au modèle de gérer des situations situées à la périphérie de sa distribution de fine-tuning hors ligne. L'apport principal tient à la méthode, davantage qu'à un score. Le « midtraining » par plateforme, une étape intermédiaire entre le préentraînement général et le fine-tuning de la tâche, améliore l'adaptation en aval. Cela va dans le sens d'une hypothèse répandue dans le secteur : le goulot d'étranglement des VLA est le coût de déploiement sur un nouveau robot ou une nouvelle tâche, pas la capacité brute du modèle. Pour un intégrateur, la promesse est concrète : le nombre de démonstrations à collecter pèse directement sur le coût d'un projet. Le choix de plateformes commerciales déjà présentes en laboratoire et en usine (Universal Robots, Franka) rend l'approche plus transférable qu'un modèle lié à un humanoïde propriétaire. Des réserves s'imposent toutefois. Les comparaisons sont faites par les auteurs eux-mêmes, sur un ensemble de tâches qu'ils ont choisi, et le rapport ne donne aucun chiffre de taux de succès dans son résumé. Quant à l'adaptation en ligne, la démonstration porte sur des situations « en bordure » de distribution, ce qui reste loin d'une robustesse générale en production. Rho s'inscrit dans la course aux modèles fondation robotiques à poids ouverts, face à des références comme Pi-0 de Physical Intelligence ou GR00T de NVIDIA, tandis que des acteurs fermés comme Figure (Helix) misent sur des modèles propriétaires liés à leur matériel. Le rapport se positionne comme un point d'appui pour la recherche et pour des usages industriels, sans annoncer de pilote client, de calendrier ni de prix. La suite dépendra de la reproduction indépendante des résultats par d'autres équipes, et de la capacité des checkpoints publiés à tenir sur des tâches d'atelier réelles. Le rapport n'évoque aucun acteur européen dans son résumé.

UEPas d\'impact direct sur la France/UE

IA physiqueActu
1 source
Knowin détaille GLOW, un cadre d'apprentissage incarné pour enseigner une tâche à un robot en une seule démonstration
30Pandaily 

Knowin détaille GLOW, un cadre d'apprentissage incarné pour enseigner une tâche à un robot en une seule démonstration

Knowin, entreprise d'IA embodied fondée en août 2025, a publié le 24 septembre un rapport technique sur GLOW (Generative Learning of World). Ce cadre vise à permettre à un robot domestique d'apprendre une tâche à partir d'une seule démonstration humaine complète, puis de réutiliser la compétence sur d'autres objets, environnements et tâches, sans réentraînement ni mise à jour des paramètres. GLOW compte quatre briques. KnowinGLOW est un modèle autorégressif multimodal unifié (vision, raisonnement spatial, planification, génération d'actions) qui sort directement des poses d'effecteur et des commandes de pince. KnowinDream produit de l'expérience domestique simulée en transformant des routines familiales en scènes 3D, avec variation de l'éclairage, des matériaux, des objets et des points de vue. KnowinWorld simule les résultats d'actions candidates et les classe selon l'avancement de la tâche, la cohérence physique, l'atteignabilité et le risque. KnowinAgent (« Harness ») est le runtime qui gère mémoire, appels d'outils, requêtes spatiales, retours d'exécution et replanification. Un encodeur compresse la vidéo de démonstration en contexte de compétence, exploité par apprentissage en contexte avec des poids figés. Knowin montre le rangement de boîtes, l'arrosage d'une plante, l'essuyage d'une table et la préparation de boissons. Dans une tâche de tiroir, le robot a demandé un déplacement de 24,3 mm mais n'en a obtenu que 1,6 mm, a détecté l'obstruction et a changé d'approche. Sur 18 tâches simulées RoboDojo, GLOW affiche 62,2 % de réussite moyenne et un score de 71,1, contre 22,2 % et 29,8 pour une base de comparaison fondée sur GPT-6. Sur six conditions de perturbation LIBERO-Pro, il atteint 86,7 % en politique unique, le meilleur score parmi les modèles à politique unique du tableau comparatif, tandis que certains systèmes d'agents multi-politiques font mieux. Son modèle KnowinBrain-1.5 se classe premier sur 20 au classement de questions-réponses embodied 2D d'Embodied Arena, avec 65,62 points sur neuf benchmarks. Tous ces chiffres proviennent des protocoles d'évaluation de l'entreprise elle-même et n'ont pas de validation indépendante. Le rapport reconnaît des limites : certains critères de succès se déclenchaient alors que l'objet était encore dans la pince, et le nombre d'étapes ne permet pas de comparer strictement les vitesses. L'enjeu est double. D'abord, l'apprentissage par une seule démonstration, sans mise à jour des poids, s'attaque à un point de blocage du robot domestique : le coût de collecte de données et de réglage par tâche. Si l'approche tient hors des démos, elle réduirait fortement l'effort de déploiement. Ensuite, la boucle de retour d'exécution (l'exemple du tiroir) montre que la robustesse vient autant de la couche agent et de la vérification que du modèle de base. Il faut toutefois rester prudent : les résultats sont surtout simulés, la comparaison à un agent GPT-6 dépend de la configuration choisie, et les démos réelles sont sélectionnées, sans taux de réussite ni temps de cycle publiés. L'écart entre démonstration et fiabilité en foyer reste donc entier. Knowin s'inscrit dans la vague des modèles fondation pour la robotique domestique, face aux approches VLA (vision-langage-action) d'acteurs comme Physical Intelligence (Pi-0), Figure (Helix) ou NVIDIA (GR00T). Sa singularité tient à l'association d'un modèle du monde, d'un moteur de génération de données et d'un runtime agentique. L'entreprise revendique plus de 200 chercheurs un peu plus d'un an après sa création. Son premier produit, Knowin-X1, est en validation avant production de masse, sans date, prix ni volume annoncés. La suite dépendra de ces éléments : des évaluations tierces sur robot réel, des pilotes en foyer et un calendrier de commercialisation crédible.

IA physiqueActu
1 source
InternW0-Δ : un modèle monde-action reliant dynamique prédictive et actions avec plus de 20 000 heures de données ouvertes
31arXiv cs.RO 

InternW0-Δ : un modèle monde-action reliant dynamique prédictive et actions avec plus de 20 000 heures de données ouvertes

Des chercheurs du projet InternRobotics, rattaché au laboratoire chinois Shanghai AI Laboratory (dont dépend la série de modèles Intern), publient sur arXiv (2609.31394v1) InternW0-Δ, un "World Action Model" qui unifie prédiction visuelle et génération d'actions pour la manipulation robotique générale. L'architecture repose sur un cadre Mixture-of-Transformers combinant un expert vidéo et un expert action, guidés sémantiquement par un VLM gelé, auxquels s'ajoutent des a priori géométriques et de mouvement 4D injectés par distillation depuis un modèle fondation 4D préentraîné. Un mécanisme baptisé Causal Imprint apprend, pendant l'entraînement seulement, à anticiper les changements de scène pertinents et fournit ces représentations prédictives à l'expert action sans qu'il soit nécessaire de générer une vidéo future complète au moment de l'inférence. Le modèle est préentraîné sur un corpus hétérogène de plus de 20 000 heures de données, mêlant démonstrations robotiques, données UMI, démonstrations humaines à la première personne et données Ego2Robot, alignées sous une représentation état-action commune. Les auteurs annoncent des performances supérieures aux méthodes existantes sur des benchmarks de simulation et sur plateformes robotiques réelles, et prévoient d'ouvrir le code d'entraînement, les poids, l'infrastructure et le pipeline de traitement de données, sous réserve des licences applicables. L'intérêt de ce travail tient moins à un déploiement industriel qu'à une proposition architecturale: fusionner prédiction du monde et politique d'action dans un seul modèle, plutôt que d'enchaîner un générateur vidéo et un contrôleur séparés, tout en évitant le coût d'inférence habituel des rollouts vidéo futurs, un goulot d'étranglement connu des approches type modèle du monde. Si le corpus de 20 000 heures est effectivement publié en open source, il représenterait une ressource de référence dans un domaine où les grands jeux de données de manipulation (type Open X-Embodiment) restent souvent plus restreints ou fermés, avec un impact direct pour les intégrateurs et laboratoires cherchant à entraîner des politiques VLA sans dépendre des corpus propriétaires. Ces résultats restent toutefois auto-rapportés, issus d'un article non encore évalué par les pairs, et les comparaisons de benchmarks méritent d'être prises avec prudence. InternW0-Δ se positionne face aux modèles VLA actuels de l'industrie tels que Pi-0 de Physical Intelligence, GR00T N2 de NVIDIA ou Helix de Figure, qui traitent généralement perception, prédiction et action de façon plus découplée. Aucun acteur français ou européen n'est mentionné dans cette publication. Le statut reste celui d'une publication de recherche: aucune date précise d'ouverture du code ni de pilote industriel n'est annoncée, seule une intention de publication progressive selon les licences des données utilisées.

UESi le corpus de plus de 20 000 heures est effectivement publié en open source, il pourrait bénéficier aux intégrateurs et laboratoires européens entraînant des modèles VLA sans dépendre de données propriétaires, mais aucun acteur français ou européen n'est impliqué dans cette publication.

IA physiqueOpinion
1 source
DualManip : manipulation dynamique à base d'agents par raisonnement sémantique à double voie et adaptation géométrique
32arXiv cs.RO 

DualManip : manipulation dynamique à base d'agents par raisonnement sémantique à double voie et adaptation géométrique

Des chercheurs ont publié le 28 septembre 2026 sur arXiv un preprint (2609.31112v1, non encore relu par les pairs) présentant DualManip, un framework de manipulation robotique à deux voies parallèles. Une voie sémantique, peu fréquente, décompose la tâche et identifie les points de prise via un module de résolution de contraintes ; une voie géométrique, continue, recale en temps réel un modèle de référence sur l'observation RGB-D grâce à un réseau adaptatif de forme, permettant de reconstruire la prise quand l'objet bouge ou se déforme. Un module d'interaction relie les deux voies, initialise les prises depuis le raisonnement sémantique et déclenche une replanification en cas d'échec géométrique. Sur six tâches réelles (déformation non rigide, objets articulés, mouvement rigide, assemblage de précision) et trois configurations allant du statique au changement continu, le système atteint une adaptation géométrique environ 46 fois plus rapide qu'une replanification sémantique complète. L'enjeu vise la latence d'inférence des modèles vision-langage, qui freine leur réactivité quand une scène change, alors que la géométrie d'un objet évolue souvent sans changer l'intention de la tâche. En séparant un raisonnement lourd et rare d'une adaptation géométrique légère et continue, DualManip s'attaque à un verrou concret pour sortir la manipulation robotique des démos contrôlées et l'exposer à des objets qui bougent ou se déforment réellement. Cette architecture à deux vitesses rejoint une tendance déjà visible dans le secteur et apporte une preuve supplémentaire que cette séparation améliore la robustesse sans sacrifier la vitesse, un enjeu clé pour des intégrateurs confrontés au réel plutôt qu'à des séquences filmées et sélectionnées. Le travail rejoint le débat sur les architectures vision-langage-action à deux échelles temporelles, déjà illustré par Helix de Figure AI (raisonnement lent «System 2» couplé à un contrôleur rapide «System 1»), ou par Pi-0 de Physical Intelligence et GR00T N2 de NVIDIA. DualManip reste une contribution académique, sans entreprise, financement ni déploiement industriel cité, et le gain de 46x est mesuré face à une baseline interne plutôt qu'à un étalon du secteur. Une page de projet propose des vidéos des six tâches, mais aucun calendrier de transfert vers un robot commercial n'est annoncé.

IA physiqueActu
1 source
Cloak : manipulation inter-incarnations sans apprentissage en masquant l'effecteur final au VLA
33arXiv cs.RO 

Cloak : manipulation inter-incarnations sans apprentissage en masquant l'effecteur final au VLA

Une équipe de recherche a publié sur arXiv (référence 2606.22836v2, version révisée) une méthode baptisée Cloak, conçue pour permettre à un modèle Vision-Language-Action (VLA) de transférer ses compétences de manipulation vers de nouveaux robots sans aucune donnée d'entraînement supplémentaire, un transfert dit "zero-shot cross-embodiment". Le principe consiste à masquer l'effecteur terminal (la pince ou la main) dans le flux vidéo de la caméra poignet du robot, puisque cette partie occupe une portion large et systématique du champ visuel et diffère d'un robot à l'autre. Le masque est généré en simulation à partir de la géométrie connue du robot, en temps réel, sans recourir à des modèles de segmentation ou des modèles génératifs. Les chercheurs ont entraîné un modèle nommé Cloak-VLA en utilisant uniquement un jeu de données collecté sur une pince parallèle simple, puis ont vérifié que ce modèle exécute des tâches de manipulation sur des morphologies jamais vues à l'entraînement : une autre pince, un autre bras robotique, et une main à cinq doigts, sans avoir collecté la moindre donnée sur ces nouvelles configurations. Cette approche s'attaque à l'un des goulots d'étranglement les plus coûteux de la robotique apprenante : la nécessité de recollecter des données de démonstration pour chaque nouveau matériel, ce qui freine le déploiement rapide de modèles fondation type VLA (dans la lignée de Pi-0 ou GR00T) sur des flottes hétérogènes de robots. Si la méthode tient à plus grande échelle, elle laisse entrevoir la possibilité de découpler les jeux de données de manipulation du matériel sur lequel ils ont été enregistrés, un argument direct pour les intégrateurs qui gèrent plusieurs types de bras ou de pinces et veulent réutiliser un même corpus d'entraînement plutôt que de le dupliquer par robot. Cela nourrit aussi le débat sur la généralisation réelle des VLA, souvent démontrée sur des cas choisis plutôt que validée en conditions de production. Ce travail s'inscrit dans le courant de recherche actif autour des modèles VLA génériques pour la manipulation robotique, où plusieurs laboratoires cherchent à réduire la dépendance aux données spécifiques à chaque robot par des techniques d'augmentation ou d'abstraction visuelle. L'article, classé comme une soumission de type "replace" sur arXiv, ne précise pas d'partenaire industriel ni de calendrier de déploiement commercial ; il s'agit à ce stade d'une contribution de recherche évaluée en simulation et sur un nombre limité de plateformes robotiques, sans validation annoncée à grande échelle en environnement industriel.

IA physiqueActu
1 source
General Robotics mise sur une intelligence modulaire plutôt qu'un cerveau robotique unique
34Robotics Business Review 

General Robotics mise sur une intelligence modulaire plutôt qu'un cerveau robotique unique

General Robotics, jeune société de robotique cofondée par Sai Vemprala, a détaillé sa stratégie technologique dans l'épisode 263 du podcast The Robot Report, publié en marge de la conférence RoboBusiness qui fête cette année ses 20 ans. Vemprala, CTO et cofondateur de l'entreprise, titulaire d'un doctorat en robotique de Texas A&M et ancien chercheur senior chez Microsoft Research, y dirige le développement de GRID, l'architecture logicielle maison, et y défend une approche d'"intelligence modulaire" plutôt qu'un cerveau robotique unique et généraliste. Cet épisode fait suite à un précédent numéro, le 234, consacré à Dinesh Narayanan, responsable de la commercialisation chez General Robotics. Le même podcast relaie aussi plusieurs mouvements de la semaine dans le secteur : Agility Robotics, constructeur de l'humanoïde Digit, explorerait des variantes à roues de ses robots ; Boston Dynamics a ouvert un "Metaplant Application Center" pour entraîner son humanoïde Atlas ; Cognex a annoncé le rachat de RealSense ; et Qualcomm celui de PickNik Robotics. Le choix de General Robotics touche à un débat structurant du secteur : faut-il un modèle unique de type vision-langage-action censé couvrir perception, décision et manipulation, ou des briques logicielles spécialisées, assemblées selon la tâche ? En misant sur la modularité, l'entreprise prend le contre-pied d'architectures monolithiques comme GR00T de NVIDIA ou pi-0 de Physical Intelligence, en pariant que la fiabilité industrielle, condition d'adoption pour les intégrateurs et les décideurs B2B, passe par des composants testables et remplaçables séparément plutôt que par un modèle géant entraîné de bout en bout. Les autres nouvelles évoquées confirment une tendance de fond : consolidation rapide par acquisitions autour des capteurs et des logiciels robotiques, et diversification des form factors chez les leaders historiques de l'humanoïde. General Robotics a émergé du parcours de Vemprala chez Microsoft Research, où il travaillait sur la robotique fondée sur la simulation et les systèmes d'IA physique à grande échelle ; GRID incarne cette philosophie modulaire au sein de l'entreprise. Sur le plan concurrentiel, elle se positionne face aux acteurs misant sur un modèle fondation unique pour la robotique humanoïde, dans un marché où les rachats stratégiques (RealSense, PickNik Robotics) et les repositionnements produits (Digit, Atlas) s'enchaînent rapidement, sans qu'aucune architecture ne se soit encore imposée comme standard.

IA physiqueActu
1 source
HarnessPAI : un harnais évolutif pour l'IA physique
35arXiv cs.RO 

HarnessPAI : un harnais évolutif pour l'IA physique

Une équipe liée au projet Darwin Agent a publié le 25 septembre 2026 sur arXiv (2609.29166) HarnessPAI, un framework agnostique au modèle et à la morphologie qui pilote les modèles d'action physique via du code exécutable. Le système sépare deux échelles : pendant un rollout, un programme fixe vérifie l'exécution en boucle ouverte ; entre les rollouts, il évolue en boucle fermée et transforme les échecs en compétences réutilisables grâce au retour d'exécution. Testé sur des bras de bureau, des robots domestiques, un aspirateur robot et un agent marcheur à pattes, HarnessPAI améliore les modèles d'action purs et les baselines "code-as-policy" sans réentraînement : +61,6 points sur Pi-0.5 sur LIBERO-PRO, +27,2 points sur WorldDreamer sur les tâches atomiques de RoboCasa. Une fois le programme convergé, aucune délibération LLM en ligne n'est nécessaire ; il sert aussi de collecteur de données expertes bon marché, et réentraîner Pi-0.5 sur ces données relève son taux de réussite de 38,8 points sur LIBERO-PRO. Ces résultats contredisent l'hypothèse dominante selon laquelle la performance en robotique physique dépend avant tout de modèles d'action plus puissants : l'entraînement standard de ces modèles peut au contraire éroder les capacités de perception et de raisonnement nécessaires à un comportement robuste, rendant même des modèles forts vulnérables aux perturbations de scène et aux tâches longues. Pour les intégrateurs et chercheurs, cela suggère qu'un harnais exécutable et piloté par le retour d'expérience peut être aussi déterminant que le modèle lui-même, et qu'il offre une voie moins coûteuse pour collecter des données d'entraînement sans téléopération massive. HarnessPAI s'inscrit dans les efforts visant à combler l'écart entre démonstrations et déploiement réel des modèles vision-langage-action, dans un paysage dominé par Pi-0 et Pi-0.5 de Physical Intelligence, GR00T N2 de Nvidia ou Helix de Figure AI ; l'étude compare directement son approche à Pi-0.5 et à WorldDreamer, la positionnant comme complémentaire plutôt que concurrente. Il s'agit pour l'instant d'une publication de recherche, sans annonce de déploiement industriel ni de partenaire commercial identifié : les auteurs présentent ces résultats comme une preuve de concept sur plusieurs plateformes robotiques, ouvrant la voie à des systèmes intégrant perception, raisonnement et action de manière vérifiable.

IA physiquePaper
1 source
Robo-Harness K1 : maîtriser les agents d'utilisation robotique par augmentation de perception
36arXiv cs.RO 

Robo-Harness K1 : maîtriser les agents d'utilisation robotique par augmentation de perception

Des chercheurs présentent Robo-Harness K1, un framework qui transforme la perception 3D en outils interrogeables par un modèle vision-langage (VLM) plutôt que de la réentraîner dans son architecture : profondeur calibrée, ancrages visuels persistants, mesures spatiales et hypothèses de préhension, à partir desquels l'agent sélectionne des mouvements génériques. Sur le benchmark LIBERO-PRO, Gemini 3.7 Flash équipé de K1 atteint 77,8% de réussite contre 61,1% pour GPT-6 Astra en harnais RGB seul, et K1 porte ce dernier à 88,9%. Sans réglage fin, Gemini plus K1 se transfère à trois bras RoboSuite et à des tâches bi-bras RoboTwin, avec 32,0% de réussite sur les tâches faciles et 28,0% sur les difficiles. Entraîné sur seulement 107 épisodes de démonstration issus de l'agent enseignant, un modèle étudiant Qwen3.5-9B atteint 44,2% sur de nouveaux états initiaux et 13,9% sur des conditions inédites, contre respectivement 30,2% et 0% pour OpenVLA. Le résultat cible une limite connue des modèles vision-langage-action : les VLA de bout en bout exigent d'importants volumes de démonstrations et peuvent dégrader la compréhension acquise au pré-entraînement, tandis qu'un pilotage RGB seul du VLM reste coûteux et dépend de ses capacités brutes. En traitant la géométrie comme une interface d'outils plutôt qu'un module à réentraîner, K1 suggère une voie plus économe en données pour rendre des VLM génériques exploitables en manipulation, un enjeu pour les intégrateurs confrontés à la collecte de démonstrations. L'écart entre 0% pour OpenVLA et 13,9% pour le modèle distillé sur des tâches jamais vues illustre les limites de généralisation de l'apprentissage par pure imitation. Ces scores restent toutefois issus de simulateurs, LIBERO-PRO, RoboSuite et RoboTwin, et non d'un robot physique, laissant ouverte la question du transfert réel. Le travail se positionne entre deux approches dominantes, les VLA de bout en bout et le pilotage RGB direct de VLM, en gardant le modèle figé et en lui fournissant des outils de perception calibrés, une conception comparée à OpenVLA, référence ouverte de la recherche en apprentissage robotique. Publiée comme nouvelle soumission sur arXiv, la contribution reste académique, sans partenariat industriel ni calendrier de déploiement annoncé. La validation hors simulation, sur robot physique, apparaît comme l'étape suivante pour les auteurs.

IA physiqueActu
1 source
PolyUMI : collecte de données visuo-tactiles-audio accessible pour l'inférence et la manipulation d'objets
37arXiv cs.RO 

PolyUMI : collecte de données visuo-tactiles-audio accessible pour l'inférence et la manipulation d'objets

Des chercheurs présentent PolyUMI, une plateforme open-source pour la collecte de démonstrations robotiques combinant vision, toucher et audio, ainsi qu'une politique d'apprentissage associée baptisée VisTA. Le système repose sur une pince portative légère et sans fil, tenue à la main, qui enregistre de façon synchronisée les flux d'une caméra montée au poignet, d'un capteur tactile optique, d'un microphone de contact et de données proprioceptives, sans nécessiter de station de travail reliée par câble. Le doigt capteur utilisé pendant la démonstration humaine peut être directement transféré sur l'effecteur du robot, ce qui préserve la géométrie de détection entre la phase de collecte et la phase d'exécution de la politique. VisTA, décrite comme une politique multimodale au niveau des tokens, fusionne ces signaux hétérogènes dans le temps pour produire des actions robotiques tenant compte du contact physique. Les auteurs rapportent des expériences sur trois tâches: l'inférence des propriétés d'un objet, le contrôle du glissement lors de la préhension, et la manipulation dans des scénarios riches en contacts. La publication, référencée sous arXiv:2609.29760, ne précise ni prix ni volumes de déploiement, s'agissant d'un travail de recherche et non d'un produit commercial. L'intérêt de ce travail tient au constat qu'il documente: la plupart des systèmes d'apprentissage par imitation en robotique reposent presque exclusivement sur la vision et la proprioception, ce qui laisse de côté des informations de contact difficiles à déduire visuellement, comme le glissement d'un objet ou sa texture. En montrant que le toucher et l'audio apportent des informations pertinentes que la vision seule ne capture pas, et que VisTA se montre compétitive voire supérieure aux politiques multimodales existantes, l'étude appuie l'idée que l'ajout de capteurs tactiles et acoustiques bon marché peut combler une partie du fossé entre démonstrations en laboratoire et manipulation robuste en conditions réelles, un enjeu central pour les intégrateurs travaillant sur la préhension d'objets fragiles ou déformables. PolyUMI s'inscrit dans la lignée des interfaces de manipulation universelles (UMI) qui utilisent des pinces portatives pour collecter des démonstrations sans robot physique, une approche déjà popularisée pour réduire le coût de la collecte de données d'entraînement. En rendant la plateforme et le code ouverts via une page de projet dédiée, les auteurs visent une adoption large par la communauté robotique académique, sans toutefois annoncer de partenariat industriel ni de calendrier de déploiement au-delà de la publication du papier.

IA physiquePaper
1 source
Rolling-WAM : des modèles monde-action avec imagination glissante
38arXiv cs.RO 

Rolling-WAM : des modèles monde-action avec imagination glissante

Publié le 25 septembre 2026 sur arXiv (2609.30247), Rolling-WAM est un "World Action Model" (WAM) pour la manipulation robotique, une architecture couplant génération d'actions et prédiction visuelle du futur. Le problème ciblé : les WAM classiques doivent débruiter entièrement la séquence vidéo-action conjointe à chaque cycle de replanification, ce qui crée une latence pénalisante pour le contrôle en boucle fermée. La méthode répartit ce calcul via une fenêtre glissante de segments vidéo-action à niveaux de bruit échelonnés, débruitant totalement le segment d'action imminent tout en affinant partiellement les segments futurs, qui poursuivent leur traitement au fil des nouvelles images caméra. Évalué sur les bancs d'essai LIBERO et RoboTwin ainsi que sur un humanoïde réel Unitree G1, Rolling-WAM conserve des performances de manipulation comparables aux WAM standards tout en accélérant la replanification en régime stationnaire d'un facteur 4,5. Ce gain de vitesse s'attaque à un frein connu des modèles génératifs pour le contrôle robotique temps réel : les politiques par diffusion, de plus en plus utilisées dans les modèles de monde et les architectures vision-langage-action, produisent des prédictions réalistes mais coûteuses à chaque étape de replanification, ce qui pousse souvent à réduire leur fréquence ou à alléger les modèles au détriment de la robustesse. En démontrant qu'une accélération de 4,5 fois est atteignable sans modèle plus léger ni perte de performance, Rolling-WAM offre une piste concrète pour rapprocher les WAM d'un usage en conditions réelles, un enjeu suivi de près par les équipes travaillant sur l'autonomie des humanoïdes et des bras manipulateurs industriels. Les World Action Models forment une famille récente de modèles visant à doter les robots d'une anticipation visuelle avant l'action plutôt qu'une politique purement réactive ; leur principal défaut, le coût du débruitage conjoint à chaque cycle, freine leur usage dans des boucles de contrôle rapides. Rolling-WAM reste à ce stade une contribution de recherche publiée en prépublication arXiv, sans acteur industriel ni produit commercial associé, validée sur des bancs d'essai académiques standards et une seule plateforme matérielle, l'humanoïde Unitree G1. Les auteurs ne communiquent aucun calendrier de transfert vers un système de production, ce qui en fait pour l'instant une preuve de concept technique plutôt qu'une solution prête à déployer.

IA physiqueActu
1 source
Décomposition direction-échelle dans la représentation d'action : repenser ce qu'il faut tokeniser pour les modèles vision-langage-action
39arXiv cs.RO 

Décomposition direction-échelle dans la représentation d'action : repenser ce qu'il faut tokeniser pour les modèles vision-langage-action

Un nouveau papier publié sur arXiv (2609.28865) propose Direction-Scale Decomposition (DSD), une méthode pour améliorer la représentation des actions dans les modèles vision-langage-action (VLA) à tokens discrets, en partant du constat que les représentations classiques par incréments de pose produisent des tokens sensibles à la vitesse d'exécution et aux normalisations propres à chaque dataset, ce qui brouille la structure géométrique commune aux démonstrations. DSD décompose les incréments de translation et de rotation en une composante direction et une composante échelle avant la tokenisation, isolant le sens du mouvement tout en conservant les amplitudes dans des canaux séparés. Testée avec deux tokenizers, un binning uniforme (BIN) et BEAST, un tokenizer basé sur des B-splines, en simulation comme sur robot réel et en entraînement mono comme multi-datasets, la méthode améliore le taux de succès moyen sur le benchmark LIBERO avec les deux tokenizers, et fait gagner 10,3 points de pourcentage à DSD-BIN par rapport à BIN sur SimplerEnv en entraînement multi-datasets. Les expériences sur robot réel confirment des gains, avec et sans pré-entraînement robotique. Pour les équipes qui entraînent des VLA sur des mélanges hétérogènes de datasets, ce résultat cible un point de friction concret : la dégradation de performance observée quand on combine des démonstrations collectées à des vitesses, fréquences ou conventions de normalisation différentes. En isolant la direction du mouvement des variations d'amplitude liées au dataset, DSD s'attaque à ce qui limite le passage à l'échelle des politiques de manipulation entraînées sur de grands corpus agrégés, un enjeu central alors que le secteur cherche à reproduire pour la robotique le scaling qui a fonctionné pour les modèles de langage. Le gain observé sur SimplerEnv en régime multi-datasets suggère, s'il se confirme sur d'autres benchmarks, que le choix de représentation d'action, souvent traité comme un détail d'implémentation, pèse autant que l'architecture du modèle ou la taille du dataset dans la qualité finale d'une politique VLA. Ce travail s'inscrit dans un champ encore jeune consacré à la tokenisation des actions pour les VLA à sortie discrète, un terrain qui coexiste avec des architectures propriétaires à sortie continue comme Pi-0 de Physical Intelligence, GR00T N2 de NVIDIA ou Helix de Figure AI. DSD se positionne comme une amélioration compatible avec des tokenizers existants tels que le binning uniforme ou BEAST, plutôt que comme un tokenizer concurrent supplémentaire, et l'abstract ne précise ni la plateforme robotique utilisée pour les essais réels ni le laboratoire à l'origine des travaux. Une page de projet (vla-dsd.github.io) met à disposition du code et des ressources additionnelles, en vue d'une validation attendue sur des architectures VLA plus larges et des jeux de données de manipulation plus diversifiés.

IA physiqueOpinion
1 source
World Action Agent : exploiter les modèles vision-langage pour la manipulation robotique via répétition d'actions simulées
40arXiv cs.RO 

World Action Agent : exploiter les modèles vision-langage pour la manipulation robotique via répétition d'actions simulées

World Action Agent (WAA) est un système multi-agents qui fait piloter des robots manipulateurs par des modèles vision-langage dans un espace de travail visuel, plutôt que via des contraintes déduites ou du code généré. Le système combine des vues de contact choisies automatiquement autour du point d'interaction, une « répétition d'action » qui rend chaque geste modifiable avant exécution, et une correction en vue qui élimine les décalages résiduels ; il apprend aussi des compétences via des vidéos d'experts et des démonstrations humaines validées. Sur le benchmark LIBERO-Pro, avec des compétences apprises uniquement sur LIBERO-90, WAA atteint 75,6 % de réussite moyenne, devançant les VLA de bout en bout et les agents « code-as-policy » ; le fine-tuning de Qwen3.5-9B sur ses traces d'interaction porte sa réussite hors domaine de 1,7 % à 43,3 %. Cette approche cible un angle mort du secteur : les VLM sont utilisés indirectement, pour déduire des contraintes ou écrire du code, sans agir dans une représentation modifiable de la scène. En rendant chaque geste corrigeable avant exécution, WAA répond à l'écart persistant entre démonstrations impressionnantes et fiabilité réelle en manipulation, un enjeu central pour les intégrateurs hésitant à déployer des VLA en production. Le résultat le plus parlant pour les décideurs B2B reste la distillation : entraîner un modèle plus petit sur les traces du système fait bondir sa réussite hors domaine de 1,7 % à 43,3 %, ouvrant une voie économique vers des politiques robotiques déployables à grande échelle sans VLM massif en boucle d'inférence. Le travail est publié comme prépublication arXiv non encore relue par les pairs, évalué uniquement en simulation sur les bancs d'essai LIBERO-Pro, LIBERO-90 et robosuite, sans déploiement sur robot physique ni site industriel mentionné. Aucune entreprise ni plateforme robotique n'est citée dans l'étude, WAA se positionnant comme une alternative architecturale aux VLA entraînés de bout en bout et aux approches « code-as-policy » qui dominent la recherche récente sur le pilotage de robots par modèles de fondation. Les auteurs ne précisent aucun calendrier de transfert vers du matériel réel, la validation sur capteurs bruités et environnements non contrôlés restant l'étape déterminante avant tout déploiement industriel.

IA physiqueActu
1 source
InternW0 : un modèle fondation du monde physique pour des interactions efficaces avec le monde réel
41arXiv cs.RO 

InternW0 : un modèle fondation du monde physique pour des interactions efficaces avec le monde réel

Shanghai AI Laboratory a publié le 24 septembre 2026 sur arXiv (2609.27656) InternW0, premier modèle de sa série InternW dédiée à la modélisation du monde physique. L'architecture associe un expert vidéo lourd, qui prédit la dynamique visuelle à long horizon, et un expert d'action léger cadencé plus vite, entraînés conjointement par flow matching ; plutôt que de tout recalculer à chaque action, le modèle réutilise ses caches clé/valeur et les met à jour selon les nouvelles observations. Des interfaces par domaine gèrent les morphologies robotiques hétérogènes, complétées par un post-entraînement sensible au contact exploitant force et tactile. L'entraînement mobilise 7 200 heures de données robot et égocentriques, dont EgoLab (275 heures, laboratoire réel), et les tests réels incluent une synthèse de charpentes métallo-organiques en 15 étapes et un pipetage dextre en 5 étapes sensible au contact. L'enjeu pour les intégrateurs tient à l'efficacité : la plupart des modèles vision-langage-action recalculent une passe complète à chaque étape de contrôle, ce qui plafonne la fréquence de commande utilisable, alors que la réutilisation du cache clé/valeur d'InternW0 vise justement ce goulot d'étranglement. Le choix de tâches scientifiques (chimie, pipetage) plutôt que la manipulation domestique privilégiée par la plupart des démonstrations humanoïdes déplace la preuve vers un usage B2B vérifiable en laboratoire et dans l'industrie pharmaceutique ou des matériaux, où comptent la répétabilité et la sensibilité au contact plus que la polyvalence spectaculaire. Le texte reste un preprint, sans taux de réussite chiffré ni preuve de généralisation au delà de ces scénarios. InternW0 prolonge la famille Intern de Shanghai AI Laboratory, déjà connue pour InternLM (langage) et InternVL/InternVideo (multimodal), vers la modélisation du monde physique et le contrôle robotique. Il se positionne face aux modèles vision-langage-action généralistes d'autres laboratoires, comme Pi-0 de Physical Intelligence, GR00T N2 de Nvidia ou Helix de Figure, avec une orientation explicitement scientifique plutôt que domestique. Aucun déploiement commercial n'est annoncé : le papier, classé comme nouvelle publication arXiv, décrit une preuve de concept validée en simulation et sur un nombre restreint de scénarios réels, sans calendrier communiqué pour une ouverture du modèle ou du jeu de données EgoLab.

IA physiqueOpinion
1 source
Robots toujours actifs : observer, mémoriser, agir sur des flux incarnés simultanés
42arXiv cs.RO 

Robots toujours actifs : observer, mémoriser, agir sur des flux incarnés simultanés

Une équipe de recherche a publié en septembre 2026 sur arXiv (2609.28429) ARMS (Always-on Robot in Multi-modal Streams), une politique de contrôle pour robots bimanuels fonctionnant en continu plutôt que sur une seule instruction figée. Le système s'appuie sur un unique modèle pré-entraîné π0.5, complété par trois modules légers qui transforment la perception en direct, l'état du robot et l'historique de ses actions passées en contexte exploitable, mis à jour de façon asynchrone pour que les deux bras agissent simultanément sans blocage. Entraîné sur un jeu de données auto-étiqueté à partir de téléopération bimanuelle réelle (ARMS Dataset), le modèle atteint 45% de réussite sur la tâche combinée contre 28% pour le meilleur des quatre modèles de référence testés, les ablations confirmant que le module mémoire, l'état incarné et la concurrence asynchrone sont chacun indispensables. Ce travail cible un angle mort des modèles vision-langage-action actuels, conçus pour une instruction unique sans interruption possible en cours de tâche, alors qu'un robot déployé en usine ou en entrepôt doit gérer des ordres qui changent, une scène qui évolue, et ses propres actions passées. Pour les intégrateurs envisageant des robots bimanuels en fonctionnement continu, l'écart entre 45% et 28% indique que les architectures VLA à instruction figée, convaincantes en démonstration, restent mal adaptées à un usage réel où le robot ne repart jamais de zéro. Le résultat nuance l'idée qu'un backbone VLA pré-entraîné suffirait seul à couvrir tous les cas d'usage, sans mémoire explicite ni traitement asynchrone. ARMS s'appuie sur la famille π0 développée par Physical Intelligence et se positionne face à d'autres architectures VLA récentes comme GR00T N2 de NVIDIA ou Helix de Figure AI, qui visent elles aussi une autonomie généraliste pour des robots humanoïdes ou bimanuels. Contrairement à ces annonces industrielles, ARMS reste à ce stade une contribution de recherche publiée en preprint, sans déploiement commercial ni partenaire industriel cité, et validée uniquement sur le jeu de données construit par ses propres auteurs. Les suites logiques, non détaillées dans l'article, porteraient sur des tâches plus longues, davantage de bras ou de robots, et une validation au-delà du cadre de téléopération ayant servi à générer les données d'entraînement.

IA physiqueOpinion
1 source
Le monde entre vos mains : un écosystème open source à grande échelle pour l'apprentissage de la manipulation centrée sur l'humain en conditions réelles
43arXiv cs.RO 

Le monde entre vos mains : un écosystème open source à grande échelle pour l'apprentissage de la manipulation centrée sur l'humain en conditions réelles

Un article déposé sur arXiv (version 4) présente World In Your Hands (WIYH), un écosystème open source comprenant plus de 1 000 heures de données de manipulation humaine collectées en conditions réelles, avec une précision de mouvement à l'échelle millimétrique. Il s'articule autour de trois éléments : l'Oracle Suite, un kit de capture portable doté d'un pipeline d'auto-étiquetage pour un suivi de mouvement précis hors laboratoire ; le WIYH Dataset, qui couvre des centaines de compétences de manipulation dans des scénarios réels variés et de multiples modalités ; et un ensemble d'annotations et de benchmarks allant de la perception à l'action. Les auteurs précisent que toutes les données et les plans matériels seront publiés en open source. Le résultat central des expériences menées avec WIYH montre que l'intégration de ces données humaines dans l'entraînement de politiques robotiques fait passer le taux de réussite de manipulation en environnement encombré de 8% à 60%. Cet écart souligne que le goulot d'étranglement des politiques vision-langage-action reste la quantité et la qualité des démonstrations, plus que l'architecture des modèles. Pour les équipes travaillant sur l'apprentissage cross-embodiment, transférable d'une morphologie de robot à une autre voire de la main humaine vers un bras robotique, WIYH offre une alternative aux campagnes de téléopération propriétaires coûteuses. Publier données et matériel en open source tranche avec la logique de plusieurs acteurs commerciaux qui gardent leurs jeux de données fermés. Ce travail s'inscrit dans une série d'efforts visant à exploiter vidéo et geste humains comme alternative aux données de téléopération, face au coût et à la lenteur de la collecte robot par robot. La difficulté historique tenait à la précision du tracking et à l'hétérogénéité des conditions de capture, ce que l'Oracle Suite cherche à résoudre avec son pipeline d'auto-étiquetage millimétrique déployable hors studio. À ce stade, WIYH reste une publication de recherche accompagnée d'un jeu de données et de benchmarks, pas un produit commercialisé ni un déploiement industriel ; son impact dépendra de la mise en ligne effective des données et des plans matériels, ainsi que de la reproductibilité du gain de 8% à 60% sur d'autres tâches que celles testées par les auteurs.

IA physiqueActu
1 source
SparseNav : perception sémantique sparse conditionnée par instruction pour la navigation vision-langage sans entraînement
44arXiv cs.RO 

SparseNav : perception sémantique sparse conditionnée par instruction pour la navigation vision-langage sans entraînement

SparseNav, un système de navigation vision-langage sans entraînement, vient d'être présenté dans un article publié sur arXiv (référence 2609.26408v1). Le framework s'appuie sur un principe de sobriété perceptive plutôt que d'accumulation systématique de sémantique. Il maintient une carte géométrique légère en vue aérienne (BEV) et une mémoire éparse de repères, alimentée uniquement à la demande selon la sous-instruction active. Un gestionnaire d'instructions suit la progression et identifie le repère recherché, puis un mécanisme de perception conditionné par l'instruction déclenche une segmentation à vocabulaire ouvert seulement quand ce repère est visible et que sa position peut orienter la décision suivante. Sans aucun entraînement supplémentaire, SparseNav atteint 42,8% de taux de réussite sur le benchmark R2R-CE et 40,7% sur RxR-CE, sur les splits Val-Unseen. L'équipe l'a aussi déployé sur un robot quadrupède Unitree Go2, équipé d'une caméra RGB-D Intel RealSense D455 pour la cartographie géométrique et l'ancrage des repères, et d'un LiDAR Livox MID-360 pour la localisation, sans carte préconstruite, validant l'approche dans plusieurs environnements intérieurs. L'intérêt pour l'industrie robotique tient au fait que SparseNav évite l'écueil classique des méthodes de VLN basées sur des cartes: accumuler des objets et annotations non pertinents, ce qui alourdit le calcul et brouille la représentation visuo-spatiale exploitée par le modèle vision-langage planificateur. En s'affranchissant de tout entraînement dédié, l'approche réduit le coût d'intégration pour les équipes robotiques qui veulent déployer de la navigation instruite en langage naturel sans pipeline de fine-tuning ni cartographie sémantique dense préalable. Le passage réussi d'un banc d'essai en simulation à un robot réel sans carte préconstruite illustre une piste concrète pour réduire l'écart simulation-réel qui freine encore l'adoption de la navigation VLN en conditions industrielles ou logistiques. Ce travail s'inscrit dans la lignée des recherches sur la navigation vision-langage en environnement continu, un champ où les cartes sémantiques exhaustives sont la norme mais où leur coût de calcul et de maintenance reste un frein. Les benchmarks R2R-CE et RxR-CE servent de référence standard pour comparer ces approches, généralement plus gourmandes en entraînement ou en annotation. Les auteurs présentent des ablations contrôlées pour isoler la contribution de chaque composant du framework, et la démonstration sur Unitree Go2 laisse entrevoir des tests élargis à d'autres plateformes et environnements comme prochaine étape logique.

IA physiquePaper
1 source
Une action vaut un patch : modélisation unifiée monde-action avec PatchWAM
45arXiv cs.RO 

Une action vaut un patch : modélisation unifiée monde-action avec PatchWAM

Une équipe de recherche a présenté PatchWAM (Patch World-Action Model), une architecture qui unifie prédiction visuelle et génération d'actions dans un seul processus génératif, sans tête d'action dédiée ni expert séparé. Le principe, baptisé Action-as-Patch, consiste à traiter les actions continues du robot comme un type de patch supplémentaire dans le flux visuel, via un mapping fixe, ce qui permet au même backbone de prédire à la fois le mouvement du robot et l'apparence future de la scène. Sur les benchmarks standards de manipulation robotique, le modèle atteint 91,8% de taux de réussite sur LIBERO-Plus et 96,12% sur RoboTwin 2.0, en configuration full-data avec démonstrations augmentées. Les auteurs rapportent aussi des gains face à une architecture dual-expert appariée lorsque les fenêtres d'entraînement sont sous-échantillonnées. L'article est publié sur arXiv (2609.25961) en septembre 2026, sans que les auteurs, leur affiliation ni le code source ne soient précisés dans le résumé disponible. Le résultat s'inscrit dans un débat central pour les modèles vision-langage-action (VLA) qui pilotent déjà des humanoïdes comme Figure 03, Optimus, ou les modèles Pi-0 et GR00T N2 : faut-il des pathways de calcul séparés pour la vision et pour l'action, ou la capacité générative d'un backbone visuel suffit-elle à absorber le contrôle moteur sans ajout de paramètres dédiés ? En simplifiant l'architecture, PatchWAM réduit la complexité d'ingénierie et le coût d'entraînement des piles VLA, un enjeu concret pour les intégrateurs qui doivent aujourd'hui maintenir des têtes d'action distinctes et coûteuses à calibrer. Si la piste se confirme à plus grande échelle, elle suggère que les gains futurs viendront moins de nouveaux modules spécialisés que du choix de l'interface dans laquelle un signal est exprimé. Ces travaux s'inscrivent dans la lignée des modèles monde (world models) appliqués au contrôle, où la prédiction vidéo sert de substrat à l'apprentissage de politiques robotiques, à la suite d'approches comme Helix ou GR00T N2 qui séparaient encore explicitement perception et action. Les résultats restent pour l'instant limités à des benchmarks simulés (LIBERO-Plus, RoboTwin 2.0) et n'ont pas été validés sur des déploiements physiques réels ni sur des flottes industrielles, aucun pilote ni partenariat commercial n'étant mentionné à ce stade.

IA physiqueOpinion
1 source
MachEmbodied-U0 : un modèle unifié de compréhension et de génération pour l'IA incarnée
46arXiv cs.RO 

MachEmbodied-U0 : un modèle unifié de compréhension et de génération pour l'IA incarnée

Publié le 23 septembre 2026 sur arXiv (2609.25627v1), MachEmbodied-U0 (ME-U0) est un modèle fondation unifié pour la robotique incarnée, combinant compréhension et génération via une architecture Mixture-of-Transformers : prédiction de sous-tâches et ancrage d'affordance guident une génération conjointe de dynamique visuelle et d'actions par flow matching. La dynamique visuelle future couvre RGB, profondeur, normales de surface et flux optique, alignés aux commandes fines par un encodage de position rotatif multi-fréquence (MRPE). Le modèle a été pré-entraîné sur environ 4 200 heures de démonstrations issues de jeux de données robotiques et de vidéos égocentriques humaines. En simulation, avec la seule supervision native de chaque benchmark, ME-U0 atteint un score moyen de 17,66 sur RoboDojo, une échelle propre à ce simulateur et donc difficile à comparer à d'autres benchmarks, ainsi que des taux de réussite de 99,0% sur LIBERO et 82,5% sur LIBERO-Plus. Les auteurs rapportent aussi des validations sur des tâches de manipulation robotique réelle. Le résultat central tient à l'unification : les modèles vision-langage-action (VLA) comme Pi-0 ou GR00T N2 offrent de solides priors sémantiques sans modéliser explicitement l'évolution de la scène, tandis que les modèles monde-action prédisent la dynamique visuelle sans exposer la structure sémantique et spatiale nécessaire à une manipulation fine ; ME-U0 couple les deux pour combler cet écart. Pour les intégrateurs et chercheurs, le point notable est la capacité en zero-shot : sans supervision dédiée, le modèle prédit sous-tâches, affordances et dynamique visuelle sur des observations inédites, simulées ou réelles, un signe de transférabilité au-delà du seul benchmark d'entraînement. ME-U0 s'inscrit dans la vague de modèles fondation pour la robotique généraliste, aux côtés de Pi-0 (Physical Intelligence), GR00T N2 (NVIDIA) ou Helix (Figure AI), qui unifient tous perception, raisonnement et contrôle moteur dans un seul réseau entraîné sur des corpus massifs de démonstrations et de vidéos humaines. Le travail reste à ce stade une publication de recherche arXiv, sans partenaire industriel ni calendrier de commercialisation annoncés ; les auteurs le présentent comme une preuve de concept, la suite logique étant l'extension des essais réels sur davantage de plateformes robotiques.

IA physiqueOpinion
1 source
Li Auto dévoile sa trilogie incarnée : ME-Brain-1.0, ME-U0 (WAM unifié) et ME-VLM embarqué
47Pandaily 

Li Auto dévoile sa trilogie incarnée : ME-Brain-1.0, ME-U0 (WAM unifié) et ME-VLM embarqué

Le 22 septembre, l'équipe Foundation Model de Li Auto (marque MachEmbodied) a dévoilé trois modèles d'IA incarnée : ME-Brain-1.0, un système cognitif complet ; ME-U0, un modèle monde-action unifiant compréhension et génération ; et ME-VLM, une famille de modèles cognitifs déployables en périphérie. ME-Brain-1.0 combine une mémoire évolutive, un "Cognitive Core" et un modèle d'action événementiel dans une boucle exécution, capture d'expérience et mise à jour des compétences. Ce Cognitive Core existe en version MoE 35B-A3B (35 milliards de paramètres, 3 milliards actifs) et en version embarquée de 4 milliards de paramètres, avec respectivement 70,9 et 72,5 points en moyenne sur les suites d'évaluation incarnées et agent de l'entreprise, la version 4B se classant juste derrière dans ces comparaisons internes. Sur le SoC embarqué M100 de Li Auto, la latence de prefill de ME-VLM passerait de 400 ms à 188 ms grâce à la compression de tokens et à une quantification W4A8. ME-U0, pré-entraîné sur environ 4200 heures de données filtrées à partir de corpus robotiques et de vidéos à la première personne, obtient 99,1% de réussite sur le benchmark standard LIBERO, 81,8% sur LIBERO-Plus sans adaptation dédiée, et un score de process de 17,66 sur RoboDojo-Sim parmi les modèles monde-action participants. Cette annonce illustre, dans la robotique humanoïde, le passage d'une simple démonstration matérielle à un empilement logiciel complet mémoire-cognition-action, avec un chemin de déploiement embarqué documenté plutôt qu'un simple prototype de laboratoire. Pour les intégrateurs, le signal clé est la promesse d'un modèle monde-action généraliste, transférable entre tâches de manipulation sans réentraînement lourd, et les gains de latence obtenus par quantification W4A8 intéressent directement les industriels qui cherchent à faire tourner des modèles vision-langage-action sur puce, sans dépendre du cloud. Ces chiffres restent toutefois auto-rapportés par Li Auto et n'ont pas été reproduits par des tiers. Des observateurs indépendants, dont Robot Forward repris par Phoenix Tech, relèvent dans les vidéos de démonstration des pauses de pince visibles, des erreurs de préhension occasionnelles et des tâches ouvertes inachevées, même quand les scènes scriptées réussissent, rappelant l'écart habituel entre démonstration et réalité du secteur. Li Auto reste avant tout un constructeur automobile chinois coté à Hong Kong et au Nasdaq, connu pour ses véhicules électriques à autonomie étendue ; cette trilogie marque une diversification de son équipe Foundation Model vers l'IA incarnée, dans la lignée d'autres constructeurs automobiles qui réinvestissent leurs compétences en conduite autonome et en edge computing dans la robotique. Elle se positionne face à un paysage déjà dense de modèles monde-action, dont Pi-0 de Physical Intelligence, GR00T N2 de Nvidia, Helix de Figure AI, ou les piles logicielles associées à des plateformes comme Figure 03 et Optimus Gen 3 de Tesla. Aucun acteur français ou européen (Wandercraft, Exotec, Pollen Robotics, Enchanted Tools) n'apparaît dans cette annonce, circonscrite aux écosystèmes chinois et américain. Il s'agit pour l'instant d'une publication technique accompagnée de benchmarks internes, sans déploiement commercial ni calendrier de pilotes annoncé ; la validation par des évaluations indépendantes déterminera la portée réelle de cette architecture mémoire-cognition-action.

IA physiqueActu
1 source
vla.simd : inférence CPU efficace pour la manipulation conditionnée par le langage
48arXiv cs.RO 

vla.simd : inférence CPU efficace pour la manipulation conditionnée par le langage

Publié en septembre 2026 sur arXiv, vla.simd est un moteur d'inférence CPU pour les politiques de manipulation robotique conditionnées par le langage (VLA), combinant micro-noyaux SIMD partagés, calcul réutilisable et optimisations spécifiques au processeur cible. Testé sur six politiques et quatre CPU, il obtient un gain médian d'environ 1,4x par rapport à des références PyTorch compilées, tout en conservant la précision numérique fp32. Les auteurs présentent aussi IMPACT, une politique dérivée de l'architecture ACT à représentations textuelles mises en cache et features visuelles modulées par le langage. Sur un Raspberry Pi 5, IMPACT est la seule politique language-conditioned testée à fournir au moins 30 actions par seconde : 33,5 actions/s en fp32 et 81,2 en int8, après 90 secondes de chauffe thermique. Sur GPU, elle atteint 76,4% de réussite moyenne sur quatre suites LIBERO sans pré-entraînement robotique, et a été testée physiquement sur un bras SO-101, ainsi que SmolVLA sur un UR10e à pince Robotiq. Ce résultat cible un frein concret au déploiement industriel : la plupart des politiques VLA supposent un GPU embarqué ou une inférence déportée dans le cloud, ce qui alourdit coût et latence. Faire tourner une politique conditionnée par le langage en temps réel sur un CPU bas de gamme comme le Raspberry Pi 5 ouvre la voie à des manipulateurs moins coûteux pour la logistique ou l'assemblage léger, sans accélérateur matériel dédié. La distinction que font les auteurs entre offre d'actions et fréquence de rétroaction rappelle que le chunking, pas seulement la vitesse brute du modèle, conditionne la fluidité d'exécution réelle. Ces chiffres restent toutefois à nuancer : le pic de 81,2 actions/s repose sur une quantification int8 et sur une chauffe préalable rarement précisée dans les annonces marketing du secteur. IMPACT s'inscrit dans la famille ACT (Action Chunking Transformer), largement utilisée en apprentissage par imitation, et se positionne face à des politiques VLA plus lourdes conçues pour GPU. Le choix de SmolVLA, politique compacte de Hugging Face, comme second cas de test sur un bras UR10e traduit une volonté de compatibilité avec l'écosystème open-source existant plutôt qu'un modèle propriétaire isolé. Il s'agit à ce stade d'une publication de recherche arXiv, sans annonce commerciale, pilote industriel ni calendrier de mise sur le marché, présentée comme une brique d'infrastructure réutilisable dans un secteur où la pression pour réduire le coût matériel du déploiement en périphérie s'intensifie.

IA physiqueOpinion
1 source
TaskAnchor : ancrer l'état de la tâche dans des VLA réactifs pour la manipulation à long horizon
49arXiv cs.RO 

TaskAnchor : ancrer l'état de la tâche dans des VLA réactifs pour la manipulation à long horizon

Un article publié sur arXiv en septembre 2026 (référence 2609.23580) présente TaskAnchor, un adaptateur léger pour les modèles vision-langage-action (VLA) réactifs utilisés en manipulation robotique à long horizon. Les auteurs décrivent un problème qu'ils nomment « aliasing d'état de tâche » : deux observations visuelles presque identiques peuvent exiger des actions différentes selon l'étape de la tâche, ce qui fait échouer les modèles purement réactifs. TaskAnchor combine un raffinement visuel conditionné par l'historique d'exécution et une coordonnée d'état de tâche, un scalaire supervisé par jalons injecté via les interfaces visuelle et langagière natives du modèle, sans planificateur ni modification du mécanisme de génération d'actions. Sur le benchmark RMBench, il multiplie par 4,9 à 5,5 le taux de succès moyen des modèles π0.5 et X-VLA, avec des gains similaires sur RoboMemArena et sur robots réels, pour un surcoût de seulement 2,08 millisecondes par segment d'action sur π0.5. Le résultat cible un angle mort des VLA génériques, qui fonctionnent en boucle réactive sans mémoire explicite du travail déjà accompli et échouent dès qu'une tâche comporte plusieurs étapes visuellement ambiguës. Pour les intégrateurs qui évaluent des VLA pour des cellules industrielles ou logistiques, cela montre qu'un module additionnel peu coûteux en calcul peut réduire l'écart entre démonstrations de laboratoire et exécution fiable de séquences longues, sans réentraîner le modèle de base. Cela nuance aussi l'idée que le seul passage à l'échelle des VLA suffirait à résoudre la robustesse sur les tâches longues : le goulot d'étranglement semble autant architectural, l'absence de représentation d'état, qu'une question de volume de données d'entraînement. π0.5, développé par Physical Intelligence, et X-VLA servent de bases de comparaison et illustrent la génération actuelle de modèles VLA génériques pilotant bras et robots mobiles à partir d'instructions en langage naturel. TaskAnchor s'inscrit dans un courant de recherche visant à doter ces modèles d'une mémoire de progression de tâche, un axe distinct de la course aux plateformes humanoïdes mais déterminant pour l'exécution de tâches industrielles multi-étapes. L'affiliation des auteurs n'est pas précisée dans le résumé, et le travail reste une contribution académique évaluée sur benchmarks de simulation et essais robots limités, sans annonce de produit, de partenariat industriel ni de calendrier de déploiement.

IA physiqueActu
1 source
H-VLA : modèle vision-langage-action hiérarchique avec raisonnement par actions clés et planification de mouvement dans un espace d'action unifié
50arXiv cs.RO 

H-VLA : modèle vision-langage-action hiérarchique avec raisonnement par actions clés et planification de mouvement dans un espace d'action unifié

Une équipe de recherche présente H-VLA, un modèle vision-langage-action hiérarchique pour la manipulation robotique, publié le 22 septembre 2026 sur arXiv (2609.22895). Contrairement aux VLA classiques, qui traduisent langage et images en actions continues et deviennent fragiles si la position des objets, la scène ou la caméra changent, H-VLA sépare le raisonnement de haut niveau de la génération du mouvement. L'architecture combine un Key-Action Model, qui prédit le sous-objectif de manipulation suivant, un Motion Planning Model, qui génère les actions denses correspondantes, et un espace d'action unifié centré sur la caméra. L'entraînement se fait en deux étapes: raisonnement sur les actions clés au pré-entraînement, puis génération de mouvement dense au fine-tuning. Sur le simulateur SimplerEnv, H-VLA atteint 91% de réussite sur Google Robot en configuration standard, 84% en variantes, et 81% sur WidowX; sur robot réel Agilex, il dépasse la meilleure référence de 10, 47 et 16 points selon que les conditions sont connues, la position d'objet est inédite, ou la scène et les objets sont inédits. Ces résultats visent le point faible des VLA en usage réel: la chute de performance quand un objet bouge ou que la caméra change. Le gain de 47 points en généralisation de position sur robot réel est le chiffre le plus parlant pour les intégrateurs, cet écart entre démonstration contrôlée et production freinant aujourd'hui l'adoption industrielle des VLA. Si cette approche hiérarchique, séparer quoi faire et comment le faire, se confirme au-delà des bancs d'essai internes, elle pourrait réduire le réentraînement nécessaire à chaque nouveau site, un enjeu de coût central pour les décideurs B2B. H-VLA s'inscrit dans la lignée des VLA existants, RT-2 et OpenVLA en recherche, Pi-0 de Physical Intelligence, GR00T de NVIDIA, Helix de Figure AI, tous confrontés au même problème de généralisation spatiale que H-VLA attaque par découplage hiérarchique plutôt que par mise à l'échelle des données. L'article, non encore revu par les pairs, limite les essais réels à la plateforme Agilex, sans partenariat industriel annoncé. Reste à voir si l'architecture sera reprise ailleurs et si les gains tiennent sur des tâches plus longues et des robots variés.

IA physiqueOpinion
1 source