Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
Unifier les modèles fondation incarnés grâce à une formulation modèle-vers-politique
RecherchearXiv cs.RO 

Unifier les modèles fondation incarnés grâce à une formulation modèle-vers-politique

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Un nouvel article déposé sur arXiv (2610.23053, première version) propose un cadre probabiliste unique pour décrire les modèles de fondation incarnés, c'est-à-dire les modèles VLA (vision-langage-action) et les modèles monde-action (WAM, world-action models). Les auteurs s'appuient sur des noyaux stochastiques et décrivent chaque modèle par deux éléments: une distribution conditionnelle de sortie, et un noyau de réalisation d'action qui traduit cette sortie en commande exécutable. Ensemble, ils définissent une politique robotique conditionnée par la tâche. Le cadre relie aussi le pré-entraînement et le post-entraînement (hors ligne ou en ligne) au déploiement de la politique, quel que soit l'objectif d'apprentissage propre à chaque modèle. Il est illustré sur deux cas: OpenVLA, qui prédit des tokens d'action de manière autorégressive, et DreamZero, qui génère conjointement vidéo et actions. L'abstract ne donne ni benchmark, ni taux de réussite, ni résultat sur robot réel: il s'agit d'une contribution formelle, pas d'une démonstration de performance.

L'intérêt est surtout méthodologique, mais il touche un vrai problème. Les VLA et les WAM diffèrent par leur architecture, leur représentation de sortie et leur fonction de perte, ce qui rend les comparaisons difficiles et brouille la lecture des gains annoncés. Un formalisme indépendant de l'architecture offre un vocabulaire commun pour analyser ce qui se passe entre le pré-entraînement et la politique effectivement exécutée, y compris lors d'un affinage sur données de terrain. Pour un intégrateur ou un décideur, cela n'apporte aucun gain immédiat. À terme, cela peut aider à comparer des modèles sur des bases homogènes et à raisonner sur les stratégies d'adaptation. Il faudra voir si ce cadre produit des prédictions testables ou de nouvelles méthodes, ce que l'abstract ne démontre pas.

Le travail s'inscrit dans la prolifération de modèles de fondation pour la robotique depuis OpenVLA, référence open source des VLA autorégressifs, aux côtés de familles propriétaires ou ouvertes comme Pi-0, GR00T ou Helix. En parallèle, les approches qui prédisent la vidéo future en même temps que l'action, dont DreamZero est ici l'exemple, gagnent du terrain. Cette diversité d'architectures explique le besoin d'une théorie unificatrice. La suite logique serait d'instancier le formalisme sur d'autres modèles et de vérifier qu'il guide concrètement la conception du post-entraînement. Aucun calendrier ni code associé n'est mentionné dans l'abstract.

Dans nos dossiers

IA physique & VLANVIDIA GR00TOpenVLA / RT-XarXiv cs.RO

À lire aussi

ACE-Brain-0.5 : un modèle fondation incarné unifié pour l'IA physique à base d'agents
1arXiv cs.RO 

ACE-Brain-0.5 : un modèle fondation incarné unifié pour l'IA physique à base d'agents

Une équipe de recherche présente ACE-Brain-0.5, un modèle de fondation embarqué unifié pour l'IA physique agentique, dans un article publié sur arXiv début juillet 2026. Le système s'appuie sur un backbone unique de 8 milliards de paramètres qui assure quatre fonctions simultanées : ancrage des objets et des affordances dans la scène, raisonnement spatial en 3D et en vue égocentrique, décomposition d'instructions en sous-objectifs, génération d'actions de navigation et de manipulation, et estimation de la progression pour vérifier ou corriger l'exécution. Une cinquième fonction, l'auto-amélioration, repose sur un cadre externe qui met à jour les schémas de tâches, la mémoire spatiale et les cas de récupération d'échec à partir des données de déploiement. Le modèle s'appuie sur un prédécesseur, ACE-Brain-0, et introduit une méthode nommée SSR+ (Scaffold-Specialize-Reconcile avec une étape de Réactivation après fusion des vecteurs de tâches) pour combiner ces capacités sans qu'elles n'interfèrent entre elles. Sur quinze bancs d'essai, ACE-Brain-0.5 surpasse son prédécesseur sur 14 des 18 tests de perception spatiale et d'ancrage, tout en restant compétitif en navigation et manipulation. Cette approche illustre une tendance de fond dans la robotique humanoïde et les agents physiques : le passage de politiques bout-en-bout, souvent dépourvues de raisonnement spatial explicite, vers des architectures qui unifient perception, planification, action et auto-évaluation dans une représentation partagée. C'est un pari différent de celui des modèles VLA généralistes type Pi-0 ou GR00T N2, qui privilégient l'apprentissage direct d'une politique d'action : ici, l'accent est mis sur la boucle fermée complète, avec vérification et récupération d'erreur intégrées, un point souvent négligé dans les démonstrations spectaculaires mais peu robustes du secteur. Le papier ne précise pas de partenariat industriel ni de déploiement sur plateforme commerciale à ce stade : il s'agit d'un travail de recherche fondamentale, positionné comme une étape vers une IA physique agentique plus générale, sans calendrier de mise en production annoncé.

RechercheOpinion
1 source
Le fossé de l'incarnation dans les modèles fondation pour robots
2arXiv cs.RO 

Le fossé de l'incarnation dans les modèles fondation pour robots

Une étude publiée sur arXiv sous la référence 2608.18433v1, intitulée « The Embodiment Gap in Robot Foundation Models », dresse un état des lieux critique des modèles de fondation pour la robotique (RFM), dont les politiques vision-langage-action (VLA). Le papier part d'un constat simple : un modèle peut généraliser sur le papier tout en nécessitant un travail d'adaptation important avant de tourner sur un robot physique donné. Les auteurs baptisent cet écart le « embodiment gap », soit le fossé entre des modèles, représentations ou jeux de données réutilisables et leur mise en œuvre effective sur le robot cible. La contribution centrale est une cartographie à deux axes qui classe les méthodes existantes selon le type de structure partagée et le stade d'adaptation requis avant exécution. L'étude passe ensuite en revue trois axes de recherche qui se recoupent : le partage de sémantique et de perception, le partage de données et d'interfaces robotiques, et l'apprentissage de correspondances entre différents types de corps robotiques. Elle propose enfin un cadre de reporting destiné à documenter ce travail d'adaptation, jugé invisible si l'on ne regarde que le taux de réussite final. Pour les intégrateurs et décideurs B2B du secteur, ce travail vient nuancer le récit dominant selon lequel la simple mise à l'échelle (plus de données, plus de paramètres, plus de benchmarks) suffirait à résoudre le transfert d'un modèle d'un robot à un autre. En creux, l'étude interroge la promesse d'un VLA générique qui s'appliquerait tel quel à n'importe quelle plateforme, qu'il s'agisse d'un bras industriel, d'un robot mobile ou d'un humanoïde. Elle rappelle qu'un taux de réussite affiché sur une démonstration ne dit rien du travail d'ingénierie (recalibrage, réentraînement partiel, adaptation d'interface) nécessaire pour porter un modèle d'un embodiment à un autre. Pour une industrie où plusieurs politiques VLA sont présentées comme quasi prêtes à l'emploi, ce cadre offre une grille de lecture plus rigoureuse pour distinguer généralisation en laboratoire et déploiement réel sur une nouvelle chaîne robotique. Ce travail s'inscrit dans la vague de modèles de fondation robotiques apparue dans le sillage des grands modèles de langage, portée par des acteurs comme Physical Intelligence avec Pi-0, NVIDIA avec GR00T N2 ou Figure AI avec Helix, qui revendiquent tous une forme de généralisation entre tâches et parfois entre robots. En pointant l'absence de cadre commun pour mesurer ce qui reste réellement à faire lors d'un transfert d'embodiment, les auteurs comblent un vide méthodologique plutôt qu'ils ne proposent un nouveau modèle concurrent. La suite logique consisterait en une adoption de ce cadre de reporting par la communauté pour comparer les futures publications sur une base homogène, ainsi qu'en des études de cas documentant le coût d'adaptation d'un même modèle sur plusieurs corps robotiques distincts, question que les auteurs identifient explicitement comme ouverte pour de futurs travaux.

RecherchePaper
1 source
Vers une cognition incarnée chez les robots grâce à des mondes synthétiques ancrés dans l'espace
3arXiv cs.RO 

Vers une cognition incarnée chez les robots grâce à des mondes synthétiques ancrés dans l'espace

Résumé traduit en français, à publier : Une équipe de recherche présente un cadre conceptuel destiné à entraîner des modèles vision-langage (VLM) à réaliser de la prise de perspective visuelle, une capacité jugée essentielle à la cognition incarnée dans l'interaction homme-robot. Pour amorcer ce travail, les auteurs publient un jeu de données synthétique généré dans NVIDIA Omniverse, conçu pour l'apprentissage supervisé de tâches de raisonnement spatial. Chaque exemple associe une image RGB, une description en langage naturel et une matrice de transformation 4x4 servant de vérité terrain pour la pose d'un objet. La première étape se limite à l'inférence de la distance sur l'axe Z ; les auteurs annoncent vouloir étendre l'approche à un raisonnement complet sur les 6 degrés de liberté (DOF) dans de futurs travaux. Le jeu de données est mis à disposition publiquement pour la communauté de recherche. La prise de perspective visuelle est une brique jugée fondamentale pour qu'un robot comprenne non pas seulement ce que voit sa propre caméra, mais ce qu'un humain perçoit depuis son propre point de vue, une condition posée comme nécessaire à une interaction homme-robot naturelle. Le choix de générer les données dans un simulateur plutôt que de les collecter en conditions réelles répond à un problème classique du secteur : produire des annotations 3D précises (pose exacte d'un objet) est coûteux et peu fiable dans le monde réel, alors qu'un environnement synthétique comme Omniverse fournit une vérité terrain exacte par construction. Ce travail illustre aussi une limite persistante des VLM génériques actuels, plutôt performants en reconnaissance sémantique 2D mais fragiles dès qu'il s'agit de raisonnement spatial 3D précis, une distinction que les auteurs eux-mêmes reconnaissent en limitant leur preuve de concept au seul axe Z plutôt qu'aux 6 DOF complets. Il s'agit donc d'un jalon de recherche exploratoire, pas d'un système prêt à être intégré par des équipes robotique en production. Ce travail s'inscrit dans une tendance de fond où les plateformes de simulation comme NVIDIA Omniverse et Isaac Sim deviennent des outils centraux de génération de données pour la robotique incarnée, dans un paysage où d'autres laboratoires (Physical Intelligence avec Pi-0, NVIDIA avec GR00T, Figure avec Helix) développent en parallèle des modèles vision-langage-action visant à doter les robots humanoïdes d'un raisonnement spatial et manipulatoire directement exploitable. La suite annoncée par les auteurs consiste à faire passer leur approche de l'estimation d'une simple distance à un raisonnement complet sur les 6 degrés de liberté d'une pose d'objet, une extension nécessaire avant d'envisager une application concrète en interaction homme-robot.

RecherchePaper
1 source
Unifier l'apprentissage de politiques et la prédiction d'états grâce à la modélisation spatiale du langage
4arXiv cs.RO 

Unifier l'apprentissage de politiques et la prédiction d'états grâce à la modélisation spatiale du langage

Des chercheurs proposent, dans un preprint arXiv (2610.12172), le « Spatial Language Modeling », une approche qui fait apprendre à un seul Transformer autorégressif à la fois la génération d'actions et la prédiction des états futurs d'une scène. Le principe consiste à représenter les contours de la scène, les objectifs, les cibles d'action et les états futurs avec un vocabulaire commun de coordonnées discrètes et de tokens sémantiques. Une grammaire propre à chaque tâche organise ces éléments en séquences spatiales, de sorte qu'un même objectif de prédiction du token suivant couvre le contrôle et la modélisation de l'état. Le modèle est entraîné de zéro en deux temps : un pré-entraînement sur des transitions issues de jeu aléatoire, puis un entraînement conjoint actions et états sur des démonstrations expertes. Pendant le pré-entraînement, les coordonnées d'action enregistrées servent de condition aux prédictions d'état suivantes, mais sont exclues de la perte. En phase de contrôle, le modèle ne décode que les cibles d'action exécutables et met à jour son historique avec les états réellement observés. L'évaluation porte sur la tâche Push-T, en simulation et sur un robot réel. Les auteurs annoncent des performances compétitives en simulation, et un taux de réussite ainsi qu'une couverture de la cible supérieurs à ceux des politiques de référence testées sur robot réel. Pour les équipes qui travaillent sur les politiques de manipulation, l'intérêt tient à la supervision complémentaire apportée par l'apprentissage des effets géométriques des actions. Les ablations indiquent que l'entraînement sur des séquences conjointes action-état améliore le contrôle, et que le pré-entraînement sur du jeu aléatoire apporte un gain supplémentaire. Ce dernier point est pertinent en pratique : ces données sont bon marché à collecter, sans téléopérateur expert. Le même modèle, alimenté avec des trajectoires d'actions fournies, prédit aussi les états successifs de la scène et reproduit les effets du poussage. Il joue donc à la fois le rôle de politique et de modèle du monde léger. Il faut toutefois rester prudent sur la portée de ces résultats. Push-T est un benchmark de poussage planaire d'un objet en forme de T, relativement simple, et le texte ne chiffre pas, dans son résumé, l'écart avec les baselines ni la taille de l'échantillon d'essais réels. La généralisation à des tâches à contacts riches, à de la 3D ou à des préhenseurs multi-doigts reste à démontrer, de même que le passage à l'échelle d'un vocabulaire de coordonnées discrètes. Ce travail s'inscrit dans un mouvement plus large visant à unifier perception, action et prédiction dans des architectures de type langage. Il se distingue des approches VLA (vision-langage-action) dominantes, qui reposent sur de grands modèles pré-entraînés, par un entraînement de zéro, sans pré-entraînement web, et par une représentation entièrement spatiale. Parmi les références habituelles de Push-T figurent les politiques de diffusion, qui servent souvent de base de comparaison, ainsi que les modèles du monde appris pour la planification. Le résumé ne précise ni l'équipe, ni le code, ni d'éventuelles extensions annoncées. Il s'agit à ce stade d'un preprint non évalué par des pairs, sans déploiement industriel associé. La suite logique sera de tester la méthode sur des tâches plus longues, sur des scènes 3D et sur des manipulations avec contacts complexes.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source