RecherchearXiv cs.RO 8 octobre 2026

OpenViTac : apprentissage et évaluation de politiques visuo-tactiles dans un cadre unifié simulation et réel

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

OpenViTac, un nouveau benchmark publié sur arXiv (2610.10384), vise à évaluer de façon unifiée la manipulation robotique intégrant le toucher, en simulation comme en conditions réelles. Il organise les tâches riches en contacts selon quatre dimensions de capacités où le tactile est déterminant, et fournit des environnements appariés simulation et monde réel. Ceux-ci permettent de comparer, dans un cadre cohérent, trois familles de politiques : les VLA (vision-language-action), les WAM (world action models) et les VTLA (vision-tactile-language-action). Les auteurs étudient ensuite l'effet de différentes représentations tactiles et stratégies d'intégration sur des VLA préentraînés. De cette comparaison découle OpenVTLA, un cadre d'augmentation tactile qui combine la représentation et la stratégie d'intégration les plus performantes. Le résumé ne chiffre pas les gains, ne nomme pas les capteurs ni les modèles de base testés, et ne précise ni le nombre de tâches ni la taille des jeux de données. Ces éléments sont à vérifier dans l'article complet. Un dernier volet porte sur le co-entraînement sim-réel, que le dispositif apparié permet d'analyser.

L'intérêt est d'abord méthodologique. Les politiques VTLA se multiplient, mais chaque équipe les évalue sur ses propres capteurs, tâches et protocoles. Il est donc difficile de savoir si le tactile améliore réellement les VLA ou si les gains tiennent au montage expérimental. Un banc d'essai commun, avec des paires sim-réel, permet de séparer ces effets et de mesurer les facteurs qui comptent pour le transfert entre domaines. Pour les intégrateurs et les équipes qui envisagent d'équiper des mains ou des pinces de capteurs visuo-tactiles, des résultats comparatifs sur les représentations (images brutes, features, signaux de force) et sur le point d'injection dans le modèle (précoce, tardif, via un expert dédié) seraient directement exploitables pour les choix de conception. Il s'agit toutefois d'une publication de recherche, sans produit ni déploiement industriel, et la valeur dépendra de l'adoption du benchmark par d'autres laboratoires, ainsi que de la fidélité de la simulation tactile, souvent le point faible du transfert sim-réel.

Ce travail s'inscrit dans la montée en puissance des modèles VLA généralistes de type Pi-0 ou GR00T, qui reposent surtout sur la vision et le langage et peinent sur les tâches riches en contacts : insertion, manipulation d'objets déformables ou glissants, ajustements fins. Le tactile y est étudié depuis plusieurs années avec des capteurs de type GelSight, mais sans cadre d'évaluation partagé comparable à ceux qui existent pour les VLA purement visuels. OpenViTac cherche à combler ce vide, en prolongeant l'intérêt récent pour le co-entraînement sim-réel comme moyen de réduire le coût de collecte de données réelles. La suite dépendra de la publication éventuelle du code, des environnements et des jeux de données, et de la reprise du benchmark par d'autres groupes, académiques ou industriels, qui développent des mains dotées de peau tactile.

Impact France/UE

Pas d\'impact direct sur la France/UE

Dans nos dossiers

NVIDIA GR00T Manipulation robotique arXiv cs.RO

À lire aussi

1arXiv cs.RO

ReVeal : un cadre de réel-vers-simulation conscient de la reconstruction pour l'évaluation des politiques VLA

Un nouveau préprint publié sur arXiv le 22 septembre 2026 (référence 2609.23910v1) présente ReVeal, un framework d'évaluation « real-to-sim » destiné à tester les politiques vision-langage-action (VLA) en robotique. Le système combine trois étapes : reconstruction de l'espace de travail, évaluation de la qualité de cette reconstruction, puis évaluation en boucle fermée de la politique dans l'environnement simulé reconstruit. Deux métriques sont introduites : Novel-View Mesh Fidelity (NVMF), qui mesure la fidélité des observations sous des angles inédits, et Annotated Planar Geometry Fidelity (APGF), qui évalue la précision géométrique des surfaces planes. Les auteurs développent aussi PGSR-D, un pipeline de reconstruction ajoutant une supervision par profondeur monoculaire pour améliorer la géométrie là où les indices visuels multi-vues manquent. Sur 8 scènes de test, NVMF et APGF distinguent de façon cohérente la fidélité de trois pipelines : 2DGS, PGSR et PGSR-D. Des évaluations appariées portant sur trois politiques VLA, GR00T, SmolVLA et pi0.5, menées sur 8 tâches de manipulation humanoïde, montrent un ordre cohérent entre fidélité de reconstruction et degré d'accord entre performance réelle et performance simulée. Ce travail cible un obstacle connu du secteur robotique : les erreurs de reconstruction 3D peuvent faire diverger les résultats obtenus en simulation de ceux obtenus en conditions réelles, ce qui fragilise l'usage de la simulation comme méthode rapide et peu coûteuse pour évaluer des politiques d'IA embarquée avant déploiement. En établissant une corrélation mesurable entre fidélité de reconstruction et fiabilité de l'évaluation simulée, ReVeal donne aux intégrateurs et laboratoires un moyen de juger si un environnement simulé est assez fiable pour remplacer des tests physiques, un enjeu central alors que les politiques génératives de type VLA se multiplient et que leur validation à grande échelle sur robot réel reste coûteuse et lente. Le papier ne prétend pas résoudre l'écart sim-to-réel, mais documente empiriquement à quel point la qualité de reconstruction conditionne la validité des benchmarks simulés, une nuance utile face à des résultats en simulation souvent présentés sans contrôle de cette fidélité. Le sujet s'inscrit dans la multiplication récente de politiques VLA généralistes pour la manipulation robotique, telles que GR00T (Nvidia), SmolVLA (Hugging Face) et pi0.5 (Physical Intelligence), ici utilisées comme cas de test plutôt que comme objets d'étude. Les méthodes de reconstruction comparées, 2D Gaussian Splatting (2DGS) et Planar Gaussian Splatting Reconstruction (PGSR), relèvent des techniques de rendu neuronal récentes employées pour construire des jumeaux numériques d'environnements robotiques. À ce stade, ReVeal reste un cadre de recherche méthodologique, sans déploiement industriel ni intégration annoncée par un fournisseur de robots ou de simulateur. Il ouvre néanmoins la voie à des protocoles d'évaluation standardisés que les éditeurs de politiques VLA ou les plateformes de simulation pourraient adopter pour certifier la fiabilité de leurs bancs d'essai simulés avant tout déploiement physique.

RecherchePaper

1 source

2arXiv cs.RO

GN0 : vers un paradigme unifié pour la génération, l'évaluation et l'apprentissage de politiques en navigation visuo-langagière

Une équipe de chercheurs publie GN0 (arXiv:2606.03682, juin 2026), un cadre unifié de navigation robotique visuo-linguistique (VLN) structuré autour de trois contributions complémentaires. La première est GN-Matrix, un jeu de données de navigation 3D massif généré automatiquement via un moteur 3D Gaussian Splatting (3DGS), conçu pour pallier la pénurie de données d'entraînement du domaine. La deuxième est GN-Bench, présenté comme le premier benchmark en vue à vol d'oiseau (BEV) intégrant des avatars humains dynamiques en 3DGS pour évaluer les interactions homme-robot en navigation. La troisième est BAE (Break and Establish), un modèle de navigation par apprentissage par renforcement (RL) qui enchaîne apprentissage supervisé, DAgger (agrégation de trajectoires réelles pour sortir des distributions d'experts étroites) et exploration RL. Sur GN-Bench et le benchmark VLN-CE, GN-BAE surpasse les méthodes VLN de l'état de l'art selon les auteurs, sans que les conditions exactes des comparaisons soient détaillées dans le résumé. Le principal apport technique est la formalisation d'une mémoire spatiale compacte en BEV construite à partir de rendus 3DGS haute fidélité, exploitant le raisonnement spatial latent des grands modèles visuels-linguistiques (VLM). L'approche unifie dans un seul modèle de fondation des tâches avec et sans carte préétablie, suivre des instructions, escorter un humain, atteindre un objectif, ce qui contraste avec les pipelines fragmentés habituels du domaine. Si les résultats se confirment en conditions réelles, cela représente un pas concret vers des agents mobiles généraux capables de naviguer dans des environnements non cartographiés, une promesse centrale des robots de service et des AMR de nouvelle génération. La navigation visuo-linguistique est un champ actif depuis les benchmarks R2R (Anderson et al., 2018) et VLN-CE (Krantz et al., 2020). Les approches récentes exploitent des VLM tels que CLIP ou LLaVA pour relier instructions en langage naturel et perception visuelle, mais peinent sur les longues distances et dans des espaces non vus. Côté industrie, Boston Dynamics, Unitree ou les startups AMR intègrent progressivement la navigation sémantique sans publier de systèmes open-research comparables. En Europe, INRIA et des projets Horizon Europe explorent des directions proches. GN0 reste cependant une contribution académique en preprint sans partenaire industriel ni déploiement annoncé, ce qui invite à réserver le jugement sur le passage de la simulation au monde réel.

UEINRIA et des projets Horizon Europe explorent des directions proches en navigation visuo-linguistique, mais GN0 reste un preprint académique sans déploiement ni partenariat industriel européen annoncé.

RechercheOpinion

1 source

3arXiv cs.RO

RoboManipBaselines : un cadre unifié d'apprentissage par imitation pour la manipulation robotique en environnements réels et simulés

Des chercheurs de l'ISRI-AIST, le laboratoire national de recherche industrielle japonais, ont publié RoboManipBaselines, un framework open-source unifié pour l'apprentissage par imitation appliqué à la manipulation robotique. Disponible sur GitHub et accompagné d'une page projet dédiée, ce cadre couvre l'intégralité du pipeline d'imitation learning : collecte de données, entraînement de politiques et exécution en rollout, aussi bien en simulation que sur robots réels. Concrètement, il supporte plusieurs simulateurs et environnements physiques via une interface unifiée, intègre des capteurs multimodaux (dont tactiles et capteurs 3D), et propose une bibliothèque de modèles de politiques variés. Les évaluations publiées s'appuient sur des datasets publics, ce qui est explicitement conçu pour garantir la reproductibilité des résultats. Plusieurs applications de recherche sont démontrées : augmentation de données, intégration de modèles tactiles, systèmes robotiques interactifs, évaluation de la perception 3D, et extensions matérielles. Ce framework répond à un problème structurel de la recherche en manipulation robotique : l'absence de benchmarks standardisés reproductibles, qui rend la comparaison entre approches quasi impossible et ralentit les transferts vers l'industrie. En proposant un pipeline cohérent du sim au réel, RoboManipBaselines facilite l'évaluation du sim-to-real gap, l'un des verrous critiques avant tout déploiement industriel. Pour un intégrateur ou un ingénieur robotique, l'extensibilité annoncée (ajout de nouveaux robots, tâches et politiques) réduit le coût d'entrée pour tester des architectures de type VLA (Vision-Language-Action) sur des configurations matérielles propres. C'est aussi un outil de validation expérimentale qui peut accélérer la qualification de politiques avant passage en production. L'imitation learning pour la manipulation connaît une effervescence depuis 2023-2024, portée par des modèles comme pi0 (Physical Intelligence), OpenVLA, ou encore les travaux de Stanford et Berkeley. Dans cet écosystème, plusieurs frameworks concurrents existent déjà, notamment LeRobot de HuggingFace, RoboSuite (Stanford), ou MimicGen. RoboManipBaselines se distingue par son accent explicite sur la reproductibilité via datasets publics et son ancrage dans un laboratoire national disposant de plateformes matérielles réelles. L'AIST, acteur historique de la robotique japonaise (humanoïde HRP inclus), apporte une crédibilité expérimentale que les frameworks purement académiques n'ont pas toujours. La prochaine étape naturelle serait une adoption par des équipes industrielles pour valider des politiques sur des tâches d'assemblage ou de picking en conditions non contrôlées.

RecherchePaper

1 source

4arXiv cs.RO

VT-MUSE : apprentissage séquentiel unifié de représentations visuotactiles multimodales pour la manipulation

Un preprint publié en août 2026 sur arXiv (2608.21290) décrit VT-MUSE, un framework en deux étapes pour l'apprentissage de représentations visuotactiles en manipulation robotique. La première étape aligne conjointement des encodeurs vision et toucher par alignement temporel cross-modal et cohérence sur vues masquées. La seconde combine un modèle latent variationnel conditionnel avec des séquences visuelles partiellement masquées et l'historique tactile complet, via des décodeurs auxiliaires qui reconstruisent les images manquantes et prédisent les variations de profondeur tactile ; la représentation obtenue alimente une politique Transformer légère par attention croisée à portes. Sur le benchmark de simulation retenu, VT-MUSE dépasse la meilleure méthode concurrente de 11 points de pourcentage sur toutes les tâches testées, avec des gains également substantiels en conditions réelles, non chiffrés. Le papier cible un angle mort connu de la manipulation robotique : la plupart des méthodes visuotactiles fusionnent tardivement des flux vision et toucher encodés séparément, limitant les corrélations fines entre modalités, et négligent l'évolution temporelle du contact au profit du seul instant présent. Pour des gestes sensibles comme l'insertion de précision, la préhension d'objets fragiles ou le contrôle de force en assemblage, c'est pourtant cette dynamique dans le temps qui conditionne la réussite du geste. Le résultat conforte l'idée que les politiques d'action de type VLA gagnent en robustesse quand le tact est traité comme un signal temporel structuré, même si le gain de 11 points reste mesuré face à une seule baseline sur un benchmark propre à l'étude, et la validation réelle demeure peu détaillée. VT-MUSE s'inscrit dans une recherche plus large visant à traiter le signal tactile avec la même rigueur temporelle que la vision, aux côtés d'architectures génériques comme Pi-0 ou GR00T N2 qui restent, elles, centrées sur la vision et le langage. Sa contribution tient à l'alignement conjoint des modalités dès l'encodage et à la modélisation explicite de l'historique tactile complet, là où les approches existantes fusionnent des flux traités indépendamment. S'agissant d'un preprint tout juste mis en ligne, la suite logique passe par la publication du code et une évaluation sur des tâches et plateformes robotiques plus variées, préalable à toute adoption par des intégrateurs industriels.

RecherchePaper

1 source