RecherchearXiv cs.RO 16 septembre 2026

ManiSkillFormer : manipulation compositionnelle sans démonstration via des contrats géométriques liés à la tâche

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Une équipe de recherche a publié le 16 septembre 2026 sur arXiv (référence 2609.16331) une étude décrivant ManiSkillFormer, un système de manipulation robotique neuro-symbolique qui se passe entièrement de démonstrations humaines et d'entraînement de politique visuomotrice de bout en bout par objet. Le procédé repose sur des « contrats géométriques conditionnés par la tâche » : pour chaque compétence (saisir, verser, dévisser, plier), un agent basé sur un grand modèle de langage génère, à partir de structures définies par des humains, la liste des primitives 3D nécessaires (points clés d'un objet, normales de surface) et les modèles de mouvement associés. Un module de perception ancre ensuite ces primitives dans les observations du robot pour instancier des mouvements réutilisables issus d'une bibliothèque de compétences. Le système a été testé sur le bras bimanuel Galaxea R1-Lite selon trois protocoles : prise et dépose zero-shot sur 8 catégories d'objets et 30 instances, manipulation fonctionnelle (dévissage, versement, pression, pliage) et trois tâches à long horizon, avec des taux de réussite rapportés de 88,24%, 75,00% en moyenne et 50 à 80% de complétion respectivement, devant les bases de comparaison et deux versions ablationnées.

Pour l'industrie, ce travail vise le goulot d'étranglement le plus coûteux des politiques de manipulation actuelles : la collecte de démonstrations et le réentraînement par objet. Si l'approche tient à plus grande échelle, elle offrirait aux intégrateurs un moyen d'ajouter objets et tâches sans nouvelle collecte de données, un argument frontal contre les modèles vision-langage-action entraînés de bout en bout. Les résultats restent toutefois obtenus sur un seul bras robotique et un jeu d'objets limité en laboratoire, sans confrontation à un déploiement industriel réel, ce qui invite à la prudence avant toute extrapolation.

Ce travail s'inscrit dans le débat entre modèles VLA de bout en bout, tels Pi-0 ou GR00T N2, et approches structurées combinant perception symbolique et bibliothèques de compétences. En confiant à des LLM la génération automatique des contrats géométriques et des modèles de mouvement plutôt que leur codage manuel, les auteurs cherchent à marier flexibilité du langage naturel et fiabilité d'un pipeline géométrique explicite. Publié comme préprint arXiv sans affiliation industrielle ni calendrier de déploiement annoncé, ManiSkillFormer demeure à ce stade une contribution de recherche à valider sur d'autres plateformes et à plus grande échelle.

Dans nos dossiers

IA physique & VLA NVIDIA GR00T Manipulation robotique arXiv cs.RO

À lire aussi

1arXiv cs.RO

Compositional : apprentissage de la manipulation fonctionnelle dextérique sans démonstrations

CoDex est un nouveau framework de manipulation dextre présente par un article arXiv (2606.31909v1) issu du Robin Lab de l'université du Texas a Austin. Il s'attaque a la manipulation fonctionnelle compositionnelle d'objets, c'est a dire des taches ou il faut a la fois orienter un objet vers une cible et actionner son mécanisme interne, comme viser une plante avec un pulvérisateur ou appliquer de la colle chaude sur du bois. Le système a été teste sur un bras robotique a 7 degrés de liberté équipe d'une main multi-doigts a 16 degrés de liberté, sur six taches impliquant des objets jamais vus a l'entrainement: pulvérisateurs, pistolets a colle, soufflettes a air, lampes de poche et moulins a poivre. Sans aucune démonstration humaine, CoDex utilise des modèles vision-langage pour déduire les contraintes sémantiques de la tache et de la scene, génère ensuite une courte liste de prises fonctionnelles candidates par optimisation analytique sous contrainte, puis affine ces prises via apprentissage par renforcement pour produire des politiques complètes de saisie, déplacement et actionnement, transférables de la simulation au monde réel. L'intérêt principal tient a l'approche zero-démonstration. La plupart des systèmes de manipulation dextre récents, des modèles VLA comme Pi-0, GR00T N2 ou Helix, dépendent d'immenses jeux de démonstrations téléopérées, un goulot d'étranglement couteux quand il faut couvrir la longue traine d'outils du quotidien. En montrant qu'un pipeline combinant VLM et RL peut généraliser a des objets et mécanismes inédits sans collecte de données humaines, CoDex propose une alternative crédible pour les intégrateurs confrontes a des catalogues d'objets trop vastes pour être démontrés un par un. Le travail s'inscrit dans la lignée des recherches sur le grasping fonctionnel et la manipulation dextre, en rupture avec le paradigme dominant de l'imitation learning massive. Il reste a ce stade une démonstration académique limitée a six taches et un seul bras robotique, sans annonce de déploiement industriel; les prochaines étapes attendues concernent l'extension a un plus grand nombre de catégories d'objets et de mécanismes d'actionnement plus complexes.

RecherchePaper

1 source

2arXiv cs.RO

Représentations sémantiques et géométriques des tâches pour la manipulation bimanuelles : des démonstrations humaines à la planification robotique

Des chercheurs ont publié une approche pour apprendre des représentations structurées de tâches bimanuelles directement à partir de démonstrations humaines, sans annotation manuelle des actions. Le système, baptisé représentation sémantique-géométrique par graphe, combine un encodeur de type Message Passing Neural Network (MPNN) avec un décodeur Transformer. L'encodeur opère sur un graphe de scène temporel : il capture les identités des objets, leurs relations sémantiques mutuelles et l'historique de leurs mouvements. Le décodeur, conditionné par le contexte d'action, prédit l'action suivante, les objets impliqués et leurs trajectoires. L'ensemble a été évalué sur onze tâches bimanuelles issues de deux jeux de données distincts, et déployé avec succès sur deux tâches réelles en boucle fermée, via un planificateur couplant les prédictions à des Probabilistic Movement Primitives (ProDMP). L'apport principal réside dans le découplage entre encodeur et décodeur : l'encodeur produit des représentations dites agnostiques à la tâche, réutilisables sur différents robots via un simple fine-tuning du décodeur sur un petit dataset robot. En pratique, cela réduit significativement le coût de ré-entraînement lors d'un changement de plateforme ou d'effecteur. Les résultats montrent que le bénéfice des représentations sémantiques-géométriques sur les modèles séquentiels plus simples s'accentue avec la variabilité des tâches : plus l'ordre des actions et les objets impliqués varient d'une exécution à l'autre, plus l'avantage est marqué. Le système surpasse des baselines incluant un Transformer pur, un décodeur seul, et des modèles vision-langage fine-tunés (VLM), ce qui est notable même si les benchmarks utilisés restent internes aux auteurs et non standardisés dans la communauté. Ce travail s'inscrit dans un effort plus large visant à combler le fossé entre manipulation bimanuelle en laboratoire et déploiement industriel, là où la reproductibilité d'exécutions variables reste un verrou. Il fait écho à des approches concurrentes comme les Vision-Language-Action models (VLA) de Google DeepMind ou les travaux sur les graphes de tâches de l'ETH Zurich, mais se distingue par son orientation vers le transfert inter-robots à faible coût de données. Les auteurs n'annoncent pas de partenaire industriel ni de timeline de déploiement commercial ; il s'agit d'un résultat académique, présenté en version révisée sur arXiv (v2, janvier 2026), dont les suites probables incluent une extension à des scènes plus encombrées et à des horizons de planification plus longs.

RecherchePaper

1 source

3arXiv cs.RO

CORE : régularités communes issues de démonstrations visuelles sans actions pour la manipulation robotique

Des chercheurs ont publié fin juin 2026 CORE (Common Outcome Regularities from Action-Free Visual Demonstrations), un cadre d'apprentissage de politique robotique conçu pour exploiter des vidéos humaines sans annotations de mouvements, afin d'entraîner des robots manipulateurs. La méthode s'appuie sur une observation clé : bien que les trajectoires menant à une même tâche varient, leurs états terminaux partagent des configurations d'objets stables, des relations spatiales et des contraintes de contact reproductibles. CORE entraîne d'abord un encodeur d'état terminal par apprentissage contrastif et objectifs temporels auxiliaires, agrège ensuite les embeddings terminaux réussis en prototypes visuels de but (visual goal prototypes), puis injecte ces prototypes comme conditions globales dans la politique de contrôle du robot. Les gains de taux de succès mesurés sur les benchmarks de référence sont de +3,9 points de pourcentage sur Meta-World, +11,1 pp sur RoboTwin 2.0, et jusqu'à +17,0 pp en manipulation réelle. L'enjeu est direct pour les intégrateurs : collecter des démonstrations robotiques est coûteux en équipement, en opérateurs et en temps de setup, tandis que des millions d'heures de vidéos humaines d'assemblage, de logistique ou de cuisine existent déjà. L'écart morphologique entre la main humaine et un préhenseur robotique a jusqu'ici rendu ces vidéos inutilisables pour l'apprentissage par imitation direct. CORE contourne le problème en ne cherchant pas à transférer les actions elles-mêmes, mais uniquement les régularités des états finaux. Le gain de +17 pp en conditions réelles est particulièrement notable car il indique une réduction du fossé sim-to-real sans contrainte sur la morphologie du robot. En surpassant les variantes conditionnées par texte (architecture VLA classique), CORE suggère que les prototypes visuels de but apportent des contraintes géométriques et physiques plus exploitables que les instructions en langage naturel, une nuance importante pour la calibration de politiques multi-tâches. L'apprentissage par imitation depuis des vidéos humaines est un axe de recherche actif, porté notamment par Google DeepMind avec RT-2, Physical Intelligence avec pi-0, et Meta FAIR. Des méthodes comme R3M ou VIP apprennent des représentations visuelles transférables depuis des vidéos humaines, mais CORE cible spécifiquement les états terminaux plutôt que les représentations d'observation générales, ce qui constitue sa distinction architecturale principale. Les benchmarks retenus, Meta-World et RoboTwin 2.0, sont reconnus sans être universellement adoptés, ce qui limite les comparaisons directes avec les résultats concurrents. Aucun partenariat industriel ni déploiement commercial n'est mentionné : il s'agit d'un preprint arXiv, dont les suites dépendront de réplications indépendantes et d'extensions vers des tâches plus complexes, notamment la manipulation en chaîne longue ou en environnements non structurés.

RechercheOpinion

1 source

4arXiv cs.RO

Une seule démonstration, plusieurs objets : généraliser la manipulation par la géométrie de contact locale

Des chercheurs ont publié sur arXiv (arXiv:2609.01938v2, version corrigée) une méthode baptisée DemoMimic, pour Dexterous Motion Mimic, destinée au pilotage de mains robotiques multi-doigts. Le système apprend à partir de démonstrations humaines plutôt que par téléopération robotique, une alternative jugée plus facile à faire passer à l'échelle pour ce type de tâche. Sa particularité tient à des récompenses centrées sur le contact, qui poussent la politique à se concentrer sur la géométrie locale autour des points de contact avec l'objet plutôt que sur sa forme globale. En conditions réelles, la politique unique obtenue atteint 71% de réussite sur un ensemble de 16 objets, 4 tâches de manipulation et 2 mains robotiques différentes, avec le plus faible écart entre simulation et réel observé face aux méthodes comparées. Le problème visé est connu du secteur de la manipulation dextre: collecter des données à grande échelle pour des mains multi-doigts reste coûteux et lent, et les méthodes récentes d'apprentissage par renforcement sim-to-real échouent souvent sur deux points, soit elles négligent les récompenses de contact précis et performent mal une fois transférées au réel, soit elles généralisent mal à des objets jamais vus à l'entraînement. En démontrant qu'une seule politique reste efficace sur des objets de forme, taille, masse et friction variables, et sur deux embodiments matériels distincts, ces travaux apportent un argument concret en faveur d'une manipulation dextre généralisable sans réentraînement par objet, un point clé pour des applications industrielles où la variété des pièces manipulées est grande. Le papier s'inscrit dans la vague actuelle de recherche sur l'apprentissage par imitation et les politiques de contrôle sim-to-real pour la robotique dextre, un domaine où les mains à plusieurs doigts restent nettement plus difficiles à maîtriser que les pinces industrielles classiques. Il s'agit à ce stade d'une contribution académique publiée en prépublication, testée en laboratoire sur un nombre limité d'objets et de tâches, sans annonce de partenariat industriel, de licence ou de déploiement commercial. La suite logique évoquée par les auteurs porterait sur l'élargissement du nombre d'objets, de tâches et d'embodiments testés pour confirmer la robustesse de l'approche au-delà du cadre expérimental actuel.

RecherchePaper

1 source