InstructMove : un référentiel où le texte est…

1arXiv cs.RO

TactiDex : un référentiel tactile réel pour la manipulation dextre proche de l'humain

La recherche en manipulation robotique dextre franchit une nouvelle étape avec TactiDex, un benchmark et un jeu de données publiés sur arXiv (référence 2607.09190v1) et dédiés à la manipulation guidée par le toucher. Le projet part d'un constat technique précis: la plupart des méthodes actuelles de transfert humain-robot pour les mains dextres reposent uniquement sur des trajectoires cinématiques, ce qui produit une imitation du mouvement sans véritable ancrage physique dans le contact. TactiDex propose à la place un jeu de données réel qui aligne des signaux tactiles couvrant l'ensemble de la main avec des états cinématiques et des états d'objets à plusieurs niveaux de granularité, accompagné de métriques d'évaluation standardisées. Sur cette base, les auteurs introduisent TactiSkill, un framework de transfert reposant sur une récompense tactile à trois composantes, conçue pour unifier dans un seul objectif le guidage du geste, la ressemblance avec le comportement humain et le respect des contraintes de contact. Les expériences couvrent à la fois des tâches à une main et des tâches bimanuelles, avec une page projet dédiée (tactidex.github.io) pour consulter les données et résultats. Pour l'industrie robotique, ce travail s'attaque directement à un angle mort connu des pipelines d'apprentissage par démonstration: la plupart des systèmes actuels, y compris les architectures VLA les plus médiatisées, valident surtout la trajectoire du geste et non la qualité physique du contact, ce qui laisse un écart entre démonstration réussie en vidéo et manipulation réellement stable en conditions réelles. En intégrant le retour tactile comme signal de supervision structuré plutôt que comme donnée accessoire, TactiDex offre aux équipes de recherche et aux intégrateurs travaillant sur des mains robotiques un cadre d'évaluation plus rigoureux pour juger si un geste appris est simplement copié ou physiquement plausible, ce qui pèse directement sur la fiabilité des déploiements en préhension fine. Le travail s'inscrit dans la lignée des efforts récents visant à dépasser la simple imitation cinématique dans le transfert humain-robot, un problème identifié de longue date dans la littérature sur la téléopération et l'apprentissage par démonstration. Aucune date de publication de code ni de partenariat industriel n'est mentionnée à ce stade; le projet reste au niveau d'un benchmark de recherche, dont l'adoption dépendra de sa reprise par d'autres laboratoires travaillant sur des mains dextres et l'apprentissage tactile.

RecherchePaper

1 source

2arXiv cs.RO

LabDex : un référentiel hiérarchique pour la manipulation dextérique en laboratoire

LabDex, un jeu de données et benchmark a grande échelle pour la manipulation dextre en laboratoire de chimie, a été publie sur arXiv le 20 aout 2026 sous la référence 2608.18618v1. L'outil organise les taches de laboratoire selon une taxonomie hiérarchique en trois niveaux: les compétences atomiques, qui couvrent les gestes de manipulation fondamentaux; les taches compositionnelles, qui les combinent; et les protocoles expérimentaux a long horizon, qui enchainent plusieurs étapes dépendantes de l'état du système. Fait notable, LabDex réunit pour la première fois sous un cadre commun des plateformes réelles et simulées, avec des définitions de taches, des démonstrations et des protocoles d'évaluation standardises. Ses concepteurs ont teste plusieurs méthodes d'apprentissage robotique sur ces trois niveaux, en conditions réelles comme en simulation, pour valider la conception des taches et la qualité des démonstrations collectées. Ce travail comble un angle mort des benchmarks existants, qui ne combinaient jusqu'ici ni l'usage de mains dextres, ni des interactions réalistes avec du matériel de laboratoire, ni des procédures multi-étapes, ce qui limitait l'entrainement et l'évaluation systématiques des politiques robotiques dans ce domaine. Pour les laboratoires autonomes de chimie et de découverte de médicaments, cela offre un cadre de référence commun pour comparer des approches sur un protocole partage plutôt que sur des démonstrations isolées et difficiles a reproduire. En reliant compétences élémentaires et performance sur des taches complexes, LabDex permet aussi d'analyser ce qui, dans une politique de manipulation, se généralisé réellement d'une tache a l'autre, une question souvent laissée dans le flou par les démonstrations triées sur le volet des annonces commerciales de bras manipulateurs ou d'humanoïdes. Cette publication s'inscrit dans la dynamique des laboratoires autonomes, ou "self-driving labs", un axe de recherche visant a confier a des robots des protocoles expérimentaux répétitifs ou dangereux, aujourd'hui réalisés manuellement par des chimistes. Jusqu'ici, les benchmarks de manipulation dextre provenaient soit de la robotique domestique ou industrielle générale, soit de simulations pures, sans lien direct avec les contraintes concrètes d'un laboratoire de chimie. LabDex se positionne comme une brique de fondation pour la communauté de recherche en apprentissage robotique, avec l'ambition de servir de référence standardisée pour comparer de futures politiques, y compris des modèles généralistes de type vision-langage-action, sur des taches de complexité croissante.

RecherchePaper

1 source

3arXiv cs.RO

DexVerse : un référentiel modulaire pour la manipulation dextre multi-tâche et multi-incarnation

Un consortium de chercheurs présente DexVerse, un benchmark modulaire à grande échelle pour la manipulation dextre multi-tâches et multi-embodiments. L'ensemble couvre 100 tâches réparties sur des compétences variées : saisie et déplacement d'objets, interaction avec des objets articulés, usage fonctionnel d'outils, coordination bimanuelle, contrôle non préhensile, comportements riches en contact, exécution multi-objectifs et tâches longues à plusieurs étapes. Le système prend en charge 3 bras robotiques et 6 mains dextres différentes, et reste extensible à de nouvelles tâches, de nouveaux actifs et de nouveaux embodiments. Pour tester la généralisation visuomotrice, DexVerse propose des variations visuelles paramétrables (textures, arrière-plans, éclairage, points de vue caméra). Les auteurs fournissent aussi une interface de téléopération en réalité virtuelle ainsi que 3 180 démonstrations avec observations synchronisées : données proprioceptives, images RGB, profondeur, nuages de points et états. Quatre méthodes représentatives ont été évaluées sur 19 tâches : Diffusion Policy, DP3, OpenVLA et π0.5. Les résultats révèlent des difficultés importantes de généralisation entre tâches et de robustesse visuomotrice, même pour ces politiques d'apprentissage jugées à la pointe. Pour l'industrie robotique, ce constat vient nuancer l'enthousiasme actuel autour des modèles VLA (vision-langage-action) présentés comme des solutions généralistes prêtes à l'échelle : DexVerse montre que la performance chute nettement dès que les conditions visuelles ou la nature de la tâche s'écartent du contexte d'entraînement. C'est un signal utile pour les intégrateurs et décideurs B2B qui évaluent des politiques de manipulation dextre avant déploiement industriel : la démonstration en laboratoire ne garantit pas la robustesse en conditions réelles variables. DexVerse s'inscrit dans une lignée de benchmarks robotiques cherchant à dépasser les évaluations sur tâche isolée, un manque identifié dans les jeux d'essai existants, limités en diversité de tâches, de couverture d'embodiments ou de variation visuelle contrôlable. En couvrant simultanément plusieurs bras, plusieurs mains et un large éventail de conditions, il se positionne comme un terrain d'essai de référence pour comparer des approches comme Diffusion Policy ou les modèles de la famille π face à des architectures VLA telles qu'OpenVLA. La page du projet est disponible à l'adresse ycyao216.github.io/DexVerse.site, laissant présager de futures évaluations élargies et l'ajout d'autres méthodes et tâches.

RecherchePaper

1 source

4arXiv cs.RO

L'apprentissage par robot en contexte simplifié : une recette accessible pour les tâches de manipulation

Des chercheurs proposent SimpleICL, un cadre minimaliste et reproductible pour l'apprentissage en contexte (ICL, in-context learning) en robotique. Le principe est de laisser un robot déduire puis exécuter une tâche à partir de démonstrations visuelles, sans réentraînement. L'étude, publiée sur arXiv (2609.38173v1), commence par corriger un défaut de formulation. Une démonstration visuelle mélange trajectoires d'actions, sémantique des objets, affordances de manipulation, relations spatiales et but de la tâche. On ne sait donc pas ce que le robot doit réellement imiter. Les auteurs définissent explicitement la cible d'apprentissage pour lever cette ambiguïté du prompt visuel. Sur cette base, ils construisent SimpleICL, qui associe un encodeur de prompt visuel à un protocole de collecte de données à faible coût. Selon eux, il n'exige ni pré-entraînement massif ni infrastructure de données spécialisée. Ils annoncent de bonnes performances en simulation et en environnement réel. Le résumé ne donne ni score, ni taux de réussite, ni plateforme robotique, ni volume de données, et ces points restent à vérifier dans l'article complet. Les expériences mettent en évidence quatre propriétés de l'ICL robotique : la discrimination des actions, de la sémantique, de la composition et des affordances. Les données et le pipeline d'entraînement doivent être publiés en open source. L'intérêt tient moins à un résultat chiffré qu'à la remise à plat du problème. Une grande partie des travaux sur les VLA (vision-language-action, modèles qui transforment images et instructions en actions) repose sur des instructions textuelles et des volumes de pré-entraînement très élevés. L'ICL par démonstration visuelle promet une autre logique : montrer une fois la tâche plutôt que reprogrammer ou affiner un modèle. Pour un intégrateur, cela pourrait réduire le coût de changement de série ou de poste. Si l'approche se confirme sans données massives, elle abaisse la barrière d'entrée pour les laboratoires et les PME, et fournit une base de comparaison reproductible dans un domaine où les protocoles divergent. La définition de la cible d'apprentissage donne aussi un cadre pour évaluer ce que le robot a compris d'une démonstration, ce qui manque souvent aux démos spectaculaires. Ce texte reste un travail de recherche. Il ne décrit ni produit livré ni déploiement industriel, et l'écart entre laboratoire et atelier reste entier. Ces travaux s'inscrivent dans la suite de l'ICL apparu avec les grands modèles de langage, puis transposé à la manipulation robotique par imitation à un ou peu de coups. Les grands acteurs des modèles fondation, comme Physical Intelligence avec Pi-0, NVIDIA avec GR00T ou Figure avec Helix, misent sur des volumes de données et de calcul importants. SimpleICL vise une voie plus légère et ouverte, dont la pertinence dépendra de la généralisation à des tâches longues, à d'autres robots et à des scènes non vues. La suite dépend de la publication effective du code et des données, promise mais pas encore vérifiable. Une réplication indépendante, notamment par des laboratoires européens, serait le vrai test.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

InstructMove : un référentiel où le texte est indispensable pour le suivi d'instructions en manipulation

À lire aussi

TactiDex : un référentiel tactile réel pour la manipulation dextre proche de l'humain

LabDex : un référentiel hiérarchique pour la manipulation dextérique en laboratoire

DexVerse : un référentiel modulaire pour la manipulation dextre multi-tâche et multi-incarnation

L'apprentissage par robot en contexte simplifié : une recette accessible pour les tâches de manipulation