Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
τ : apprendre des modèles vision-langage-action augmentés par le toucher à partir d'une supervision visuelle future
RecherchearXiv cs.RO 

τ : apprendre des modèles vision-langage-action augmentés par le toucher à partir d'une supervision visuelle future

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Un article publié sur arXiv (référence 2607.24485v1, catégorie "new") présente τ (tau), un framework qui enrichit les modèles Vision-Language-Action (VLA) avec une représentation tactile spatio-temporelle conditionnée par l'action. La méthode s'inspire du JEPA (Joint-Embedding Predictive Architecture) : elle apprend cette représentation en prédisant les futures observations visuelles à partir du signal tactile, puis fusionne cette information avec les caractéristiques vision-langage pour générer les actions du robot. Cette supervision opère uniquement dans l'espace latent et pendant l'entraînement, sans surcoût au moment du déploiement. Les auteurs publient également TacAura, un jeu de données synchronisant vision, proprioception et signaux tactiles à base de capteurs visuels, collecté sur quatre tâches de manipulation impliquant des contacts riches.

L'enjeu est la sous-exploitation du toucher dans les modèles VLA actuels, qui reposent majoritairement sur la vision et le langage, ou au mieux sur une détection binaire de contact ou des séquences de torseurs 6D, insuffisantes pour exploiter des signaux tactiles haute dimension. Le papier s'attaque frontalement au problème de rareté des données : les démonstrations spécifiques à une tâche sont limitées, tandis qu'un pré-entraînement tactile à grande échelle reste coûteux. En montrant qu'une supervision auto-supervisée de type JEPA permet d'extraire une représentation tactile exploitable avec peu de données, l'étude touche à un débat central du secteur, celui de l'efficacité des données pour des tâches de manipulation fine (insertion, préhension d'objets déformables) où la seule vision atteint ses limites, un enjeu direct pour les intégrateurs industriels visant l'assemblage de précision.

Ce travail s'inscrit dans la lignée des modèles VLA généralistes (Pi-0, GR00T N2, Helix) qui combinent perception et langage pour piloter des robots, mais qui ont historiquement négligé le tactile faute de capteurs standardisés et à cause du coût de collecte. Les auteurs comparent τ à des approches existantes centrées sur les états de contact instantanés, et démontrent une meilleure généralisation à des objets et scènes inédits. Il s'agit à ce stade d'un travail de recherche académique, sans annonce de déploiement industriel ni de partenariat commercial.

Dans nos dossiers

IA physique & VLANVIDIA GR00TarXiv cs.RO

À lire aussi

Modèles vision-langage-action : superviser les VLA au-delà des actions physiques
1arXiv cs.RO 

Modèles vision-langage-action : superviser les VLA au-delà des actions physiques

Une équipe de recherche propose UVT (Unified Visuomotor Target), une méthode d'entraînement pour les modèles vision-langage-action (VLA), détaillée dans un article déposé sur arXiv en août 2026 (2608.03563v1). Le point de départ : les VLA sont entraînés à prédire directement des commandes moteur bas niveau à partir d'observations visuelles et de langage, alors que les modèles vision-langage sous-jacents encodent des représentations riches et de haut niveau des scènes et des objectifs, un décalage qui freine l'apprentissage. UVT introduit une cible latente unique encodant conjointement le contrôle moteur et la transition visuelle de la scène, sans modifier l'architecture ni ajouter de données. Testée sur deux systèmes VLA représentatifs, en simulation comme sur des tâches réelles de manipulation bimanuelle, elle améliore l'efficacité d'entraînement, la performance finale et la robustesse de la politique, avec des gains marqués sous budget d'entraînement limité ou en conditions difficiles. Pour l'industrie robotique, ce travail touche un point de friction bien identifié : la difficulté à obtenir des politiques VLA robustes sans volumes massifs de démonstrations téléopérées, coûteuses à collecter. En montrant qu'un simple changement de cible d'entraînement, sans toucher à l'architecture ni au volume de données, améliore l'efficacité et la robustesse, UVT s'inscrit dans une tendance cherchant à mieux exploiter l'information déjà présente dans les modèles vision-langage préentraînés plutôt que d'empiler paramètres ou données. Pour les équipes qui entraînent leurs propres politiques (laboratoires, intégrateurs, startups humanoïdes), c'est un levier peu coûteux à tester. Les résultats restent toutefois obtenus sur benchmarks et tâches de manipulation en conditions contrôlées ; leur généralisation à des environnements industriels variés et à d'autres familles de VLA n'est pas démontrée. L'article s'inscrit dans la vague de recherche VLA ouverte par des systèmes comme RT-2, OpenVLA, Pi-0 ou GR00T, qui adaptent des modèles vision-langage préentraînés à la prédiction d'actions robotiques. L'essentiel des travaux récents porte sur l'échelle des données ou sur l'architecture (tokenisation des actions, diffusion, mélange d'experts) ; UVT prend le contre-pied en questionnant la cible de supervision elle-même, tout en restant compatible avec les architectures VLA existantes, ce qui facilite en théorie son adoption. La publication ne mentionne aucun partenariat industriel ni déploiement au-delà des tests de laboratoire. Il s'agit pour l'instant d'une contribution méthodologique dont l'impact dépendra de sa reproduction sur d'autres jeux de données et d'autres plateformes robotiques, humanoïdes comprises.

RecherchePaper
1 source
HIL-UMI : intégrer le post-entraînement supervisé par l'humain des modèles vision-langage-action à l'interface universelle de manipulation
2arXiv cs.RO 

HIL-UMI : intégrer le post-entraînement supervisé par l'humain des modèles vision-langage-action à l'interface universelle de manipulation

Des chercheurs présentent HIL-UMI, un framework de post-entraînement en boucle humaine pour les modèles vision-langage-action (VLA), décrit dans une prépublication arXiv (2609.20659). Contrairement aux méthodes interactives classiques qui exigent d'exécuter la politique sur un robot réel avec intervention humaine, HIL-UMI s'appuie sur l'Universal Manipulation Interface (UMI), un dispositif de démonstration portatif, sans robot. Pendant que l'humain manipule l'objet, le système interroge silencieusement la politique VLA en cours sur le même flux d'observations, sans exécuter ses prédictions. Un "Energy Score" compare la trajectoire humaine à l'inférence de la politique pour repérer les régions hors distribution et déclencher une collecte ciblée. En parallèle, un estimateur d'avantage basé sur la progression identifie les segments les plus utiles, qui alimentent ensuite un clonage comportemental conditionné par l'avantage, mêlant démonstrations de base et nouvelles données. Testé sur quatre tâches réelles de manipulation, longues ou de précision, HIL-UMI améliore systématiquement les résultats par rapport au simple fine-tuning supervisé (SFT), et bat HG-DAgger sur la tâche "Clean Up Table" avec un temps de collecte par image plus faible. L'enjeu est le goulot d'étranglement du post-entraînement des VLA: le SFT sur données statiques ne couvre pas les états rencontrés en déploiement réel, et les méthodes interactives comme HG-DAgger monopolisent robot et opérateur, ce qui freine leur passage à l'échelle. En découplant la collecte interactive du déploiement robotique, HIL-UMI laisse entrevoir une spécialisation de politiques génériques (type Pi-0, GR00T) réalisable hors ligne, avec un matériel de capture portable bien moins coûteux qu'une cellule robotique complète. Les résultats restent toutefois limités à quatre tâches de laboratoire, sans données de coûts ni de volumes, ce qui invite à la prudence avant d'y voir une preuve de scalabilité industrielle. Le travail s'inscrit dans la lignée d'UMI, outil déjà utilisé pour collecter des démonstrations sans robot, et répond aux limites connues du fine-tuning supervisé des grands VLA. Il se positionne explicitement face à HG-DAgger, référence de l'apprentissage interactif nécessitant un robot physique. Aucune affiliation industrielle ni calendrier de déploiement n'est précisé: il s'agit d'une publication de recherche, pas d'un produit ni d'un pilote annoncé, les suites logiques étant une validation sur davantage de tâches et de plateformes.

RechercheActu
1 source
GPT-6-Astra comprend le toucher et surpasse les modèles vision-toucher-langage-action
3arXiv cs.RO 

GPT-6-Astra comprend le toucher et surpasse les modèles vision-toucher-langage-action

Des chercheurs proposent GPT-as-Tactile-Policy, une méthode qui utilise GPT-6-Astra, un modèle multimodal généraliste, comme politique de contrôle directe pour la manipulation riche en contacts. Le système résume des démonstrations d'experts en consignes de tâche et en références tactiles, qui servent à évaluer le contact et à corriger l'action. Ce contexte est combiné aux observations multimodales et à l'historique d'interaction pour produire des commandes de contrôle, ajustées en continu grâce au retour tactile. Sans pré-entraînement spécifique à la robotique ni ajustement fin par tâche, l'approche atteint 93,8 % de succès moyen sur cinq tâches du benchmark UniVTAC. Les auteurs la présentent comme comparable aux meilleures politiques vision-toucher-langage-action (VTLA), avec de meilleurs scores sur certaines tâches. Sur la tâche Insert Hole, le retour tactile fait passer le succès de 31 % à 99 %. L'analyse des exécutions montre des comportements de sondage et de correction guidés par le contact. Ce résultat intéresse les intégrateurs et les équipes R&D parce que les politiques tactiles actuelles exigent un pré-entraînement spécialisé et une optimisation tâche par tâche, avec des coûts élevés en données et en entraînement. Si un modèle généraliste obtient des performances équivalentes avec quelques démonstrations résumées en contexte, la barrière d'entrée pour déployer de la manipulation fine baisse nettement. L'écart de 31 % à 99 % sur Insert Hole indique aussi que le gain vient du retour tactile exploité en boucle fermée, et pas seulement de la qualité du raisonnement visuel. Quelques réserves s'imposent toutefois. Les résultats portent sur cinq tâches d'un benchmark, vraisemblablement en simulation, et la prépublication n'a pas été relue par des pairs. Le résumé ne donne ni temps de cycle, ni latence d'inférence, ni coût par essai, ce qui compte beaucoup pour une cadence industrielle. Le transfert vers du matériel réel reste donc à démontrer. Le travail s'inscrit dans la tendance des modèles VLA (vision-langage-action) entraînés sur de grandes bases de données robotiques, auxquels s'ajoutent des variantes tactiles qui demandent des capteurs et des corpus spécifiques. Il pose l'hypothèse inverse: un modèle généraliste, guidé par de l'expérience d'expert explicite et du feedback en ligne, peut suffire. La suite logique est une validation sur robots physiques, avec des capteurs tactiles variés, des tâches plus longues et des mesures de robustesse et de latence. Les concurrents sont les politiques tactiles spécialisées, qui conservent l'avantage de l'inférence embarquée à faible latence. Le résumé ne mentionne ni pilote industriel ni calendrier de déploiement.

RecherchePaper
1 source
Adaptation de modèles vision-langage-action (VLA) à partir d'une seule démonstration vidéo humaine
4arXiv cs.RO 

Adaptation de modèles vision-langage-action (VLA) à partir d'une seule démonstration vidéo humaine

CapPro, un cadre de travail décrit dans un preprint arXiv (2610.19746), permet à une politique VLA (vision-language-action, modèle qui traduit images et instructions en actions robotiques) préentraînée de s'adapter à une tâche de manipulation jamais vue à partir d'une seule vidéo de démonstration humaine. Le système repose sur deux modules. Le premier construit une représentation compacte de la vidéo par sélection apprise de tokens visuels, et apprend des représentations de requête liées à la tâche grâce à une supervision par légendes de phases. Le second injecte cette vidéo compacte et ces représentations dans le contexte de conditionnement d'action de la politique VLA, en préservant pour l'essentiel son générateur d'actions d'origine. Aucune démonstration robot sur la tâche cible ni aucun réglage fin spécifique n'est requis. Selon les auteurs, CapPro améliore la performance moyenne sur des groupes de tâches cibles inédites, tout en maintenant des résultats comparables sur les tâches sources. Le résumé ne fournit ni taux de succès chiffrés, ni nom du VLA de base, ni plateforme robotique. L'enjeu est celui du coût d'adaptation, l'un des principaux freins au déploiement des VLA. Aujourd'hui, faire exécuter une nouvelle tâche à un modèle généraliste suppose en général de collecter des démonstrations téléopérées puis de relancer un entraînement, deux postes coûteux en main-d'œuvre et en calcul. Remplacer cela par une vidéo filmée d'un opérateur humain, sans équipement robotique, rendrait la mise en service de nouvelles tâches bien plus accessible pour un intégrateur ou un industriel. Un point mérite attention: la vidéo sert de guide d'exécution et non de trajectoire à imiter, ce qui évite le problème d'alignement entre morphologie humaine et robotique. Il faut toutefois rester prudent. L'évaluation décrite concerne des groupes de tâches « inédits » dont la proximité avec l'entraînement n'est pas précisée, et un gain moyen peut masquer de fortes disparités selon les tâches. Aucun résultat en environnement industriel réel n'est mentionné. Ces travaux s'inscrivent dans la recherche sur l'adaptation des VLA, après la montée en puissance de modèles entraînés sur de vastes jeux de données robotiques, comme Pi-0, GR00T ou Helix, dont la généralisation hors distribution reste limitée. Des approches concurrentes exploitent déjà les vidéos humaines, soit en préentraînement, soit via le retargeting de trajectoires, soit par du fine-tuning léger. CapPro se distingue en visant l'adaptation à l'inférence, sans mise à jour des poids. Reste à voir si la méthode tient face à des tâches longues, des objets inconnus ou des vidéos prises dans des conditions imparfaites, et si le code et les benchmarks seront publiés pour permettre une reproduction indépendante.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source