Aller au contenu principal
RecherchearXiv cs.RO 

Passage à l'échelle de la manipulation dextre par préentraînement de représentations d'actions

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Une équipe de chercheurs propose ARPG (Action Representation Pretraining and Generation), une méthode qui sépare explicitement l'apprentissage des représentations d'actions de la génération d'actions pour la manipulation dextre. Dans un premier temps, un encodeur de représentation d'actions est pré-entraîné sur des données de manipulation humaine à grande échelle. Il est ensuite figé, puis un modèle génératif compact de 130 millions de paramètres apprend les distributions d'actions conditionnées par la tâche, directement dans l'espace de représentation de l'encodeur. Les auteurs annoncent des résultats de pointe sur le benchmark DexJoCo. Sur la manipulation dextre bimanuelle, le taux de succès moyen passe de 10,1 % pour π0.5 à 44,7 %. Des expériences de passage à l'échelle montrent aussi qu'une couverture plus large des comportements humains améliore les performances en aval. Il s'agit d'un travail de recherche publié sur arXiv, sans produit ni déploiement associé.

L'enjeu tient au goulot d'étranglement que le secteur rencontre sur la dextérité. Le pré-entraînement massif en vision, langage et vidéo a nettement amélioré la perception et la généralisation des modèles de manipulation. La génération d'actions complexes reste en revanche limitée par la rareté des démonstrations robotiques, qui doivent servir à apprendre à la fois la représentation des actions et leur distribution selon la tâche. En déplaçant le premier problème vers des données humaines, bien plus abondantes, ARPG suggère que la représentation d'actions constitue une dimension de passage à l'échelle indépendante, distincte de la taille du modèle ou du volume de démonstrations robot. Pour les intégrateurs et les équipes R&D, c'est une piste pour réduire le coût de collecte de téléopération. Un backbone de 130 millions de paramètres, très inférieur aux VLA de plusieurs milliards, pourrait aussi faciliter l'inférence embarquée. Une prudence s'impose toutefois : les chiffres proviennent d'un benchmark, probablement en simulation, et d'un article non encore évalué par les pairs. Le gain de 10,1 % à 44,7 % reste à confirmer sur matériel réel, et le taux de succès absolu demeure sous la barre de fiabilité qu'exige un usage industriel.

Ce travail s'inscrit dans la course aux modèles généralistes de type VLA (vision-langage-action), dont π0.5 de Physical Intelligence sert ici de référence. Plusieurs acteurs exploitent déjà des vidéos et données humaines pour compenser le manque de données robotiques, notamment autour de GR00T chez NVIDIA ou de Helix chez Figure. Le texte ne précise ni code ni poids publiés, ni calendrier de validation sur robot physique. La suite logique serait des tests sur mains dextres réelles et une évaluation face à d'autres VLA récents. Il faudra aussi vérifier si la tendance se poursuit avec des corpus humains plus vastes et plus variés.

Impact France/UE

Pas d\'impact direct sur la France/UE

À lire aussi

Spark-0 : passage à l'échelle du pré-entraînement tactile aligné spatialement pour la manipulation dextre des robots
1arXiv cs.RO 

Spark-0 : passage à l'échelle du pré-entraînement tactile aligné spatialement pour la manipulation dextre des robots

Spark-0, présenté sur arXiv (2610.22342) par l'équipe derrière xsparkai.com, est un modèle vision-toucher-langage-action (VTLA) conçu pour la manipulation dextre riche en contacts. Son principe repose sur un usage double du tactile. Pendant le pré-entraînement, des cartes de contact projetées dans l'espace image, issues de gants tactiles, ainsi que des caractéristiques d'un modèle « enseignant » 3D figé, supervisent les tokens visuels. Ces objectifs sont retirés à l'inférence. En parallèle, une voie tactile encode l'historique des forces par région et l'état 3D des taxels (capteurs tactiles individuels) pour conditionner l'« action expert », le module qui génère les commandes. Un seul checkpoint fonctionne donc en mode vision seule comme en mode tactile. Pour alimenter cette supervision, les auteurs ont constitué HumanTouch, un jeu de 1 000 heures de manipulation humaine avec gant tactile couvrant toute la main, combiné à de la vidéo égocentrique, des données robot et de la simulation. Ils publient aussi SparkArena, un banc d'essai associant des tâches simulées en vision seule et des tâches réelles avec tactile sur un même robot à main dextre. Spark-0 obtient le meilleur taux de succès moyen sur les deux volets et se classe premier sur les huit métriques agrégées de l'Ego Humanoid Manipulation Benchmark. Le résultat le plus parlant est une ablation à données et calcul identiques : conserver le toucher des 1 000 heures plutôt que le jeter fait passer le succès en vision seule sur Ego Humanoid de 52,5 % à 71,7 %, et le succès sur SparkArena-Real, où le tactile sert aussi au déploiement, de 44,0 % à 52,0 %. Pour les intégrateurs, l'enseignement est que le tactile n'est pas seulement une entrée supplémentaire coûteuse à câbler sur chaque robot : il peut servir de supervision à grande échelle et profiter à des machines déployées sans capteurs tactiles. Cela remet en question l'hypothèse selon laquelle le pré-entraînement purement visuel suffirait aux tâches où force, compliance et glissement naissant sont invisibles sur image. Il faut toutefois relativiser. Le gain en conditions réelles est modeste (+8 points, à 52 % de succès absolu), loin d'un niveau exploitable en production. Les benchmarks sont en partie introduits par les auteurs eux-mêmes, avec une seule plateforme dextre pour le volet réel, et aucun déploiement industriel ni temps de cycle n'est annoncé. Il s'agit d'un travail de recherche, pas d'un produit livré. Ce travail s'inscrit dans la lignée des modèles VLA généralistes (Pi-0, GR00T, Helix), très dépendants de la vision, et de la montée des données humaines égocentriques comme source bon marché de démonstrations. Le goulot restait l'absence de données tactiles à grande échelle, que les gants de capture comme HumanTouch cherchent à lever. La concurrence viendra des laboratoires et industriels qui misent déjà sur la dextérité, de Figure et Tesla aux acteurs asiatiques de la main tactile, sans qu'un acteur européen ne soit cité ici. Les suites logiques sont la publication des données et du code, la reproduction par des tiers sur d'autres mains robotiques, et l'extension à des tâches industrielles longues. Les auteurs ne communiquent à ce stade ni calendrier de pilotes ni partenaires de déploiement.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
JoyAI-RA 0.5 : passage à l'échelle de l'apprentissage de la manipulation robotique via un double alignement d'action
2arXiv cs.RO 

JoyAI-RA 0.5 : passage à l'échelle de l'apprentissage de la manipulation robotique via un double alignement d'action

JoyAI-RA 0.5 est un framework généraliste de type VLWA (Vision-Language-World-Action) pour l'apprentissage de la manipulation robotique, présenté dans un preprint arXiv (2608.05674). Le problème de départ : les données robotiques réelles sont rares, donc les politiques généralistes doivent apprendre à partir de sources hétérogènes, vidéo égocentrique humaine, simulation, robots réels, dont l'embodiment et le type de supervision diffèrent, avec des labels d'action souvent manquants ou incompatibles entre eux. Mélanger naïvement ces sources provoque un transfert négatif plutôt qu'un partage de connaissances utile. JoyAI-RA propose un « alignement d'action double » : un alignement implicite infère des actions latentes à partir des transitions visuelles, ce qui permet aux données sans label d'action (humaines, simulées, robotiques) d'entraîner un modèle du monde conditionné par ces actions latentes ; un alignement explicite ancre les trajectoires humaines et robotiques fiables dans un espace d'action physique commun, via une représentation canonique et des actions d'effecteur relatives au cadre caméra. Une phase de renforcement en double boucle combine ensuite adaptation rapide à une tâche et amélioration de la politique de base. Sur le benchmark réel AgiBot, JoyAI-RA obtient de bons résultats aussi bien sur des tâches déjà vues que sur des variations inédites. Le résultat clé concerne le passage à l'échelle : le score de tâche s'améliore de façon constante à mesure que le volume de données de pretraining vidéo humaine augmente, sans signe de plateau même au plus grand volume testé. Pour l'industrie robotique, c'est un signal important : la vidéo humaine, abondante mais faiblement labellisée, ne serait plus un simple signal auxiliaire mais pourrait devenir un axe primaire pour faire monter en compétence les politiques de manipulation. Si ce résultat se confirme à plus grande échelle, il pourrait atténuer le goulot d'étranglement des données qui freine les politiques généralistes de type VLA, puisque collecter des démonstrations sur robot réel reste lent et coûteux alors que la vidéo humaine est quasi illimitée. Cela apporte aussi un élément de réponse au débat récurrent du secteur sur la possibilité de fusionner des données d'embodiments incompatibles sans dégrader la performance, un problème jusqu'ici traité comme une source de transfert négatif plutôt que d'opportunité. Ce travail s'inscrit dans la course aux politiques généralistes de manipulation (VLA) capables de transférer leurs compétences entre plateformes et sources de données, aux côtés d'efforts comme Pi-0 (Physical Intelligence), GR00T N2 (NVIDIA) ou Helix (Figure). La validation s'appuie sur le benchmark AgiBot, lié à l'initiative chinoise du même nom dans l'humanoïde. L'abstract ne précise pas l'organisation exacte derrière JoyAI-RA ; il s'agit pour l'instant d'un résultat de recherche en preprint, non revu par les pairs, et non d'un produit commercialisé ou d'un déploiement en usine. À surveiller : la confirmation de cette tendance sur des volumes de vidéo humaine encore plus grands, et la généralisation de la méthode au-delà du benchmark AgiBot.

RechercheActu
1 source
De la préhension à la dextérité : pré-entraînement à grande échelle pour la manipulation dextérique
3arXiv cs.RO 

De la préhension à la dextérité : pré-entraînement à grande échelle pour la manipulation dextérique

Des chercheurs publient sur arXiv un nouveau papier intitulé "From Grasps to Dexterity: Large-Scale Grasp Pretraining for Dexterous Manipulation", qui s'attaque à un problème precis de la manipulation dextre robotique: utiliser un simple geste de préhension pour ensuite manipuler un outil articulé (actionner une gâchette, tourner une molette, ouvrir une pince) plutôt que de simplement le saisir et le poser. L'équipe construit un jeu de données de 355 000 trajectoires à partir d'annotations de préhension dextre à grande échelle, utilisé pour préentraîner un contrôleur bas niveau conditionné par objectif, lui-même piloté par un module haut niveau qui prédit les sous-objectifs de la main. Ce contrôleur est ensuite affiné sur des démonstrations spécifiques à chaque tâche. Pour évaluer l'approche, les auteurs introduisent DexCraft, un banc d'essai en simulation comportant six tâches d'usage d'outils articulés nécessitant une coordination fine des doigts. En conditions réelles, la méthode améliore le taux de réussite complet des tâches de 33,3 points de pourcentage par rapport à la référence DP3, et dépasse aussi les politiques de diffusion entraînées de bout en bout ainsi que les architectures hiérarchiques entraînées depuis zéro. L'intérêt pour l'industrie tient au fait que la plupart des grands jeux de données de préhension dextre existants n'avaient jusqu'ici servi qu'à générer des prises ou à faire du pick-and-place, une tâche relativement simple comparée à l'usage fonctionnel d'un outil, qui exige de maintenir le contact tout en actionnant une pièce mobile. Démontrer qu'un préentraînement sur des données de grasping generalise à ce type de manipulation contact-riche est un signal utile pour les équipes qui travaillent sur des mains robotiques multi-doigts, notamment dans le contexte des humanoïdes où la dextérité fine reste un goulot d'étranglement bien plus limitant que la locomotion. Cela va dans le sens d'une hypothèse défendue par plusieurs laboratoires: les grands corpus de démonstration, même génériques, peuvent servir de socle de préentraînement réutilisable plutôt que d'être collectés tâche par tâche. Ce travail s'inscrit dans la lignée des approches hiérarchiques d'apprentissage par imitation combinant planification haut niveau et contrôle bas niveau, un courant de recherche actif face aux politiques de diffusion de bout en bout comme DP3, utilisées ici comme référence de comparaison. Il s'agit à ce stade d'un résultat académique publié sur arXiv, testé en simulation via DexCraft et validé par des expériences réelles limitées, et non d'un système déployé commercialement. Les auteurs mettent à disposition des vidéos de démonstration sur leur page de projet, mais aucune date de mise en open source du code ni de partenariat industriel n'est mentionnée dans le résumé.

RecherchePaper
1 source
LAPT-Scale : passage à l'échelle des politiques d'IA incarnée par préentraînement d'actions latentes sur des vidéos humaines
4arXiv cs.RO 

LAPT-Scale : passage à l'échelle des politiques d'IA incarnée par préentraînement d'actions latentes sur des vidéos humaines

Des chercheurs publient sur arXiv LAPT-Scale, un cadre de pré-entraînement par actions latentes conçu pour entraîner des politiques robotiques généralistes à partir de vidéos humaines égocentriques, sans étiquettes d'actions robot. Il repose sur deux briques. LAPT-Scale-LAM est un modèle d'actions latentes (LAM) qui apprend des actions continues en expliquant les transitions visuelles image par image, et ces actions servent ensuite de supervision dérivée de l'humain. LAPT-Scale-Policy est une politique VLA (vision-langage-action) entraînée en trois temps: pré-entraînement sur les actions latentes issues de vidéos humaines, alignement sur l'embodiment du robot cible, puis post-entraînement spécifique à la tâche. Le LAM a été entraîné sur 23,3 k heures de vidéo égocentrique. Le résultat chiffré principal concerne le robot réel: le taux de succès passe de 63,3 % à 85,0 % lorsque le volume de vidéo humaine annotée passe de 1 k à 5 k heures. La politique généraliserait aussi à des conditions visuelles inédites. L'intérêt pour l'industrie tient au coût de la collecte de données. La téléopération et les démonstrations sur robot restent le principal goulot d'étranglement des modèles généralistes, alors que les vidéos égocentriques humaines sont abondantes mais sans étiquettes d'actions exploitables. Les méthodes d'annotation existantes sont bruitées dès que les scènes sont visuellement complexes ou que les dynamiques de manipulation varient. Une courbe de montée en charge régulière avec les heures de vidéo suggère que ce canal de données peut remplacer en partie la collecte robotique, ce qui change l'économie du pré-entraînement pour les intégrateurs et les développeurs de modèles. Il faut toutefois rester prudent: il s'agit d'un préprint non évalué par les pairs. Le gain mesuré porte sur un volume de vidéo annotée encore modeste face aux 23,3 k heures du LAM. Le résumé ne précise ni le nombre de tâches, ni le robot, ni le nombre d'essais, ni les benchmarks de comparaison. Le passage du laboratoire à la fiabilité exigée en production reste donc à démontrer. Sur le plan technique, les auteurs se distinguent des LAM précédents, qui utilisent des espaces latents quantifiés vectoriellement (VQ). Leur espace latent continu cherche à préserver les mouvements fins et les dynamiques d'interaction. Ils combinent aussi des signaux d'alignement perceptuel, sémantique et de flux optique pour que la supervision porte sur la transition elle-même plutôt que sur la seule reconstruction des pixels. Cette approche s'inscrit dans la lignée des travaux d'apprentissage à partir de vidéos humaines et d'actions latentes, que poursuivent de nombreux laboratoires et acteurs de la robotique humanoïde, soucieux d'exploiter les vidéos à grande échelle. Aucun déploiement industriel ni calendrier de pilote n'est annoncé. La suite probable est une validation sur davantage de plateformes et de tâches, ainsi qu'une réplication indépendante, avant toute intégration dans un produit.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source