RecherchearXiv cs.RO 22 septembre 2026

BiView-Touch : apprentissage de représentations tactiles bimanuelles par complétion croisée des mains

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs présentent BiView-Touch dans un article arXiv (2609.23352v1, catégorie "cross"), publié en soumission anonyme pour relecture en double aveugle. Le cadre auto-supervisé reconstruit les latents masqués d'une main cible à partir des régions tactiles encore visibles de cette même main et de la main controlatérale synchronisée. Il repose sur un encodeur étudiant associé à un décodeur directionnel conditionné par la géométrie, qui prédit des cibles latentes complètes calculées par moyenne mobile exponentielle (EMA) sur un réseau enseignant. Des contrefactuels temporels et de disposition spatiale forcent le modèle à exploiter une information controlatérale réellement alignée dans le temps et organisée anatomiquement, et non un simple bénéfice de l'entrée bilatérale brute. Évalué sur le jeu de données public HumanTouch, BiView-Touch dépasse des méthodes auto-supervisées de référence en régime de faible annotation: avec seulement 5% des étiquettes disponibles pour l'entraînement en aval, les gains relatifs de précision équilibrée atteignent 7,1% pour la reconnaissance du mouvement bimanuel du poignet et 14,1% pour la reconnaissance de phase d'interaction dérivée des forces mesurées. Les auteurs publient aussi BVT-20, un nouveau jeu de données tactile bilatéral couvrant 20 tâches, et montrent un transfert des représentations entre sessions d'enregistrement et corpus de pré-entraînement, y compris vers une tâche bimanuelle totalement absente de l'entraînement.

L'intérêt pour la robotique tient au fait que la plupart des approches tactiles auto-supervisées traitent encore chaque main indépendamment, ou ne fusionnent les deux flux qu'au niveau de la prédiction finale, sans modéliser leur relation croisée. Montrer qu'une structure inter-mains explicite améliore la qualité des représentations, surtout avec très peu d'étiquettes, cible un vrai goulot d'étranglement: les données tactiles annotées avec vérité terrain force/contact restent coûteuses à produire. Le résultat intéresse directement les pipelines de téléopération, l'apprentissage par imitation pour la manipulation bimanuelle ou humanoïde, et les tâches d'assemblage sensibles à la force en industrie, où généraliser sans gros volumes annotés est un enjeu concret.

Le travail s'inscrit dans la lignée des méthodes de prédiction de latents masqués avec schéma enseignant-étudiant EMA (type data2vec/JEPA), jusqu'ici surtout appliquées à la vision ou à une seule main, en les adaptant spécifiquement au tactile bimanuel. L'article ne nomme aucun concurrent industriel ni laboratoire, conformément à sa soumission anonyme; le code et les détails du jeu de données sont déjà accessibles sur une page projet anonyme, une publication complète étant probable après l'issue du processus de relecture.

Dans nos dossiers

arXiv cs.RO

À lire aussi

1arXiv cs.RO

HT-Bench : évaluation et apprentissage des représentations tactiles dextériques de la main par vision égocentrique

Une équipe de chercheurs a publié HT-Bench, un benchmark à grande échelle destiné à évaluer les représentations tactiles main entière dans la manipulation robotique dextre, avec un dataset de 10 millions de trames RGB et 7,8 millions de trames tactiles collectées sur 226 tâches distinctes. La publication (arXiv:2606.19161, juin 2026) propose une approche centrée sur la vision égocentrique couplée à des capteurs tactiles couvrant l'intégralité de la main robotique. Le benchmark structure l'évaluation autour de quatre tâches : récupération de similarité tactile fine, inpainting de trames masquées, synthèse vision-vers-tactile, et prédiction multimodale de trames tactiles. En parallèle, les auteurs introduisent HandTouch, un encodeur vision-tactile à quantification vectorielle (VQ), entraîné selon trois phases progressives : spatiale, cross-modale et temporelle. Les gains quantitatifs de HandTouch sur HT-Bench sont nets : le Recall@5 en récupération de similarité tactile passe de 74,65 % à 85,23 %, l'erreur quadratique moyenne (RMSE) en inpainting chute de 0,022 à 0,010, et le score cIoU hors-distribution (OOD) en synthèse vision-tactile progresse de 0,628 à 0,705. Pour l'industrie robotique, cela valide une hypothèse structurante : coupler vision égocentrique et retour tactile main entière constitue une base d'apprentissage généralisable, sans exiger des capteurs ou des embodiments standardisés. C'est un signal concret pour les intégrateurs et équipes R&D travaillant sur la manipulation dextre en environnements non structurés, où percevoir l'état d'une prise sans vision directe reste un verrou majeur. Le domaine du tactile en robotique souffre depuis longtemps d'une fragmentation des formats de capteurs et des protocoles, rendant les comparaisons entre travaux difficiles. HT-Bench s'inscrit dans une dynamique de benchmarking qui émerge en 2025-2026, aux côtés d'initiatives comme RoboSet, DROID ou LIBERO pour la manipulation généraliste. Des laboratoires comme le CMU Robotics Institute et le MIT CSAIL, ainsi que des entreprises comme Sanctuary AI, explorent des approches similaires de fusion tactile-visuelle. Aucun acteur européen n'est directement cité dans ce travail, mais des startups comme Enchanted Tools ou Wandercraft, actives sur la manipulation avancée, pourraient tirer parti d'un tel benchmark pour standardiser leurs évaluations internes. L'étape suivante logique serait l'intégration de HandTouch dans des pipelines VLA (Vision-Language-Action), où le retour tactile reste aujourd'hui largement absent.

RecherchePaper

1 source

2arXiv cs.RO

BiRoAD : apprentissage de représentations partagées et adaptatives par rôle pour la manipulation bimanuelle

Publiée en septembre 2026 sur arXiv sous la référence 2609.23445v1, BiRoAD (Bimanual Role-Adaptive Decomposition) est une méthode d'apprentissage par imitation pour robots à deux bras. Elle s'attaque à un défaut courant des politiques bimanuelles: celles-ci prédisent des actions dans des espaces fixes bras gauche et bras droit, sans indiquer comment un comportement doit changer quand les rôles s'échangent selon la scène, alors que les démonstrations d'entraînement sont souvent déséquilibrées entre rôles. BiRoAD décompose les représentations de trajectoire en une composante symétrique, qui capture la coordination invariante entre les deux bras, et une composante antisymétrique, propre à chaque rôle, recombinées ensuite en mises à jour résiduelles des représentations d'origine. Le module ne modifie ni les entrées de la politique ni l'objectif d'apprentissage par imitation, et se passe d'étiquetage manuel des rôles. Le problème visé est concret: un opérateur humain privilégie souvent un bras pour une sous-tâche donnée, et les politiques bimanuelles classiques généralisent mal quand un objet apparaît du côté opposé à celui majoritairement vu à l'entraînement, un cas fréquent hors environnement contrôlé. En se greffant sur des politiques déjà entraînées plutôt qu'en exigeant une nouvelle architecture, BiRoAD propose une correction peu coûteuse pour les équipes qui entraînent des robots humanoïdes ou des bras doubles fixes. Les auteurs rapportent des gains de robustesse par rapport aux politiques de base, particulièrement marqués sur les configurations de rôles sous-représentées, un enjeu directement lié à l'écart entre performance en démonstration et généralisation réelle qui préoccupe tout le secteur des politiques de manipulation apprises. Le travail s'inscrit dans la recherche sur l'apprentissage par imitation bimanuelle, où la paramétrisation bras gauche/bras droit hérite directement des interfaces de téléopération sans mécanisme dédié à l'échange de rôles. BiRoAD est présenté comme un module additionnel comparé à des politiques de base, et non comme une architecture concurrente autonome. L'article, classé comme nouvelle soumission arXiv, ne précise ni la plateforme robotique utilisée pour les évaluations ni la disponibilité d'un code source: il s'agit pour l'instant d'une contribution méthodologique, à un stade de recherche, plutôt que d'un système prêt à être déployé.

RecherchePaper

1 source

3arXiv cs.RO

TactX : apprentissage de représentations tactiles partagées entre capteurs variés

Des chercheurs ont présenté TactX, un système d'apprentissage capable d'unifier les représentations tactiles issues de capteurs technologiquement incompatibles entre eux. Trois modalités de transduction radicalement différentes sont couvertes : résistive, magnétique et par vision. Concrètement, TactX projette les signaux bruts de chaque type de capteur dans un espace latent partagé grâce à des encodeurs spécifiques à chaque modalité, entraînés sur des données de contact appariées, c'est-à-dire des interactions physiques identiques capturées simultanément par plusieurs capteurs différents. Ce signal d'alignement naturel permet un entraînement conjoint qui rend l'espace latent cohérent quel que soit le matériel d'origine. Les auteurs valident l'approche sur quatre tâches de manipulation à contact riche : le pick-and-place, l'insertion de connecteurs (plug insertion), l'essuyage de surface et la réorientation d'objets. Résultat chiffré central de l'étude : une politique entraînée avec un seul type de capteur transfère en zero-shot vers des capteurs physiquement distincts via l'espace latent commun, faisant passer le taux de réussite moyen de 27,5% pour une politique vision seule à 45,9% avec TactX. L'enjeu dépassé ici est celui du couplage matériel, un frein connu à l'industrialisation de la manipulation robotique fine. Aujourd'hui, changer de capteur tactile sur une ligne de production ou un bras robotisé impose généralement de ré-entraîner intégralement la politique de contrôle, ce qui verrouille les intégrateurs sur un fournisseur unique et complique la maintenance ou l'évolution du parc matériel. Une représentation tactile transférable ouvre la voie à des politiques de manipulation réutilisables indépendamment du capteur physique installé, un argument direct pour les intégrateurs industriels qui doivent gérer des flottes hétérogènes ou remplacer des composants obsolètes sans tout refaire. Le gain observé (27,5% à 45,9%) reste toutefois modeste en valeur absolue: la démonstration prouve la faisabilité du transfert zero-shot plus qu'elle ne livre une solution mature et déployable en l'état. Ce travail s'inscrit dans une tendance de fond de la recherche en robotique tactile, où la fragmentation des technologies de capteurs (résistifs, capacitifs, magnétiques, ou à base de caméras comme GelSight) a longtemps freiné la mutualisation des données et des modèles, contrairement à la vision où des architectures génériques type ViT dominent largement. Le papier, publié en preprint sur arXiv, ne mentionne pas d'acteur industriel ni de partenariat de déploiement: il s'agit à ce stade d'une contribution académique testée en environnement contrôlé, sans indication de calendrier vers une intégration commerciale. Les prochaines étapes attendues pour ce type de recherche incluraient l'extension à davantage de familles de capteurs, des tests sur des tâches de manipulation plus complexes, et potentiellement une validation par des fabricants de capteurs tactiles ou des intégrateurs cherchant à réduire leur dépendance à un hardware spécifique.

RecherchePaper

1 source

4arXiv cs.RO

STAR : apprentissage de représentations tactiles éparses pour la manipulation dextérique via modèles vision-tactile-langage-action

Des chercheurs ont publié le 12 septembre 2026 sur arXiv (2609.12549) STAR, un système d'apprentissage pour modèles vision-tactile-langage-action destinés à la manipulation dextre bimanuelle. L'équipe a construit une plateforme robotique et un dispositif de téléopération pour collecter 200 heures de données, soit 10 576 trajectoires réparties sur 65 tâches, dont 69,5 % impliquent une manipulation multi-doigts fine, chaque séquence étant annotée simultanément en vision, tactile et langage. STAR combine trois mécanismes pour compenser la rareté spatiale, temporelle et informationnelle des signaux tactiles : un pré-entraînement conjoint visuel-tactile, une représentation par jetons tactiles globaux épars, et une prédiction tactile future éparse. Après entraînement sur ce corpus, puis un post-entraînement léger de seulement 100 trajectoires par tâche, le modèle atteint un taux de réussite moyen de 61 % sur quatre tâches réelles. Ce résultat s'attaque à un goulot d'étranglement connu des modèles vision-langage-action (VLA) : le signal tactile, clairsemé par nature, est souvent négligé au profit de la seule combinaison vision-langage, ce qui limite la finesse de manipulation. Démontrer qu'un post-entraînement de 100 démonstrations par tâche suffit à dépasser 60 % de réussite renforce l'idée qu'une intégration tactile native, plutôt qu'ajoutée après coup, améliore la généralisation des politiques robotiques. Pour les intégrateurs en robotique humanoïde et en préhension industrielle, cela ouvre une piste concrète pour réduire le coût de collecte de données réelles, souvent le vrai frein au passage du laboratoire au terrain. Le chiffre de 61 % reste toutefois à confirmer sur des objets et environnements non vus, les quatre tâches testées ayant été sélectionnées par les auteurs eux-mêmes. STAR s'inscrit dans une recherche croissante visant à doter les modèles VLA d'un véritable retour tactile, alors que des systèmes de référence du secteur, comme Pi-0 de Physical Intelligence, GR00T N2 de Nvidia ou Helix de Figure AI, reposent surtout sur la coordination vision-langage sans exploiter systématiquement le toucher. La rareté des jeux de données vision-tactile-langage synchronisés à grande échelle explique en partie pourquoi peu d'acteurs disposent d'un corpus comparable aux 10 576 trajectoires réunies ici. Publié comme préprint sans affiliation industrielle revendiquée ni calendrier de déploiement, STAR reste à ce stade une contribution de recherche. La communauté attendra probablement la publication du code et du jeu de données, ainsi que des comparaisons directes avec d'autres architectures tactiles en cours de développement.

RechercheActu

1 source