Aller au contenu principal
DiscoDemo : découvrir des démonstrations robotiques efficaces et variées pour l'apprentissage par imitation
RecherchearXiv cs.RO 

DiscoDemo : découvrir des démonstrations robotiques efficaces et variées pour l'apprentissage par imitation

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs du laboratoire DAVIAN Robotics présentent DiscoDemo, une méthode publiée sur arXiv qui utilise l'apprentissage par renforcement (RL) non pas comme contrôleur déployable, mais comme générateur de données pour l'apprentissage par imitation visuomotrice. Un générateur RL à accès privilégié (il observe l'état exact de la simulation) et conditionné par une variable latente est entraîné avec un curriculum inverse parallèle et un objectif de diversité conditionné au succès. Il découvre ainsi plusieurs modes de solution distincts sans sacrifier la réussite de la tâche. Les comportements obtenus en boucle fermée sont filtrés pour la sécurité, puis exportés sous forme de jeu de données statique. Sur quatre tâches de manipulation, le taux de réussite moyen des politiques aval passe de 40 % à 62 % en simulation par rapport à la meilleure référence, et de 39 % à 78 % sur robot réel. La politique aval testée est un VLA (vision-langage-action) préentraîné à flow matching.

Ces résultats visent un point de blocage connu du clonage de comportement : la politique reste très sensible à la couverture des données d'entraînement, et la collecte de démonstrations réussies et variées par téléopération coûte cher. L'étude suggère que la diversité des solutions réussies compte plus que la répétition d'une solution unique. Elle indique aussi que des démonstrations synthétiques produites par RL peuvent remplacer une partie de la collecte humaine, ou la compléter : les auteurs observent que le gain reste complémentaire de la collecte corrective (de type DAgger). Pour un intégrateur, cela ouvre la voie à une réduction du coût de constitution des jeux de données. Quelques réserves s'imposent. Le périmètre est limité à quatre tâches. Le RL privilégié suppose un simulateur et un accès à l'état complet, ce qui n'est pas toujours réalisable pour des objets déformables ou des scènes industrielles complexes. Le gain de 39 % à 78 % sur robot réel vient d'un nombre d'essais que le résumé ne précise pas. Il s'agit d'un travail de recherche, sans produit ni déploiement associé.

La méthode s'inscrit dans le courant plus large du transfert simulation-vers-réel et de la génération de données synthétiques pour les modèles fondation robotiques. Ces approches cherchent à réduire la dépendance à la téléopération, qui domine l'entraînement de modèles comme Pi-0 ou GR00T. Elle rejoint aussi les travaux sur la diversité de qualité en RL, qui cherchent à produire des répertoires de comportements variés plutôt qu'une seule politique optimale. Les prochaines étapes à surveiller sont la validation sur des tâches plus longues et plus variées, ainsi que la comparaison avec d'autres sources de données, comme la génération massive en simulation ou les démonstrations humaines à grande échelle. Le code et les résultats détaillés sont annoncés sur la page du projet.

À lire aussi

Repenser le désapprentissage des démonstrations dans l'apprentissage par imitation pour la robotique
1arXiv cs.RO 

Repenser le désapprentissage des démonstrations dans l'apprentissage par imitation pour la robotique

Un article publié sur arXiv (2608.20784v1) propose un cadre d'audit pour l'oubli de démonstrations en apprentissage par imitation robotique, quand des contributeurs demandent le retrait de leurs démonstrations d'une politique déjà entraînée. Plutôt qu'un réentraînement complet, coûteux à mesure que grandissent modèle et données, les auteurs évaluent des opérateurs d'édition appliqués directement à la politique existante. Leur audit croise deux axes: le comportement, mesuré par la divergence d'action face à des réentraînements de référence, et la preuve, mesurée par une attaque d'appartenance rapportant rang et niveau absolu de perte. Sur cinq conditions préenregistrées, trois politiques robotiques réelles et deux suites de simulation, un édit de type redirection sur l'architecture ACT restaure un taux de succès de 18 essais sur 20 en évaluation en aveugle. Ce travail répond à un problème concret pour l'industrie robotique: à mesure que les politiques génératives de type VLA s'entraînent sur des volumes croissants de démonstrations téléopérées, les demandes de retrait de données individuelles se heurteront au coût du réentraînement complet. Les métriques héritées du machine unlearning classique, comme la perte d'oubli ou une simple attaque d'appartenance, ne suffisent pas à garantir qu'une édition a réellement supprimé l'influence d'une démonstration en boucle fermée: un édit peut réparer le comportement sans effacer la trace détectable, ou au contraire réduire cette détectabilité tout en éloignant le comportement du réentraînement réel. Pour des intégrateurs tentés par l'édition post-hoc plutôt que le réentraînement complet, un simple test de réussite de tâche ne suffit donc pas à certifier qu'une démonstration a été effectivement oubliée. Cette recherche prolonge les travaux de machine unlearning menés sur les grands modèles de langage et de vision, transposés ici au contrôle robotique en boucle fermée, où c'est l'action, non la seule prédiction, qui doit être auditée. Elle survient alors que l'apprentissage par imitation à partir de démonstrations téléopérées s'impose comme méthode dominante pour entraîner des politiques robotiques générales, dans la lignée d'architectures comme ACT, popularisée par les plateformes de téléopération de type ALOHA. La question du retrait de données gagne en importance à mesure que ces jeux de données reposent sur des opérateurs identifiables, avec des implications de consentement et de conformité. Les auteurs ont préenregistré leurs cinq conditions expérimentales, une rigueur rare dans la littérature robotique, sans annoncer de calendrier de déploiement industriel.

UELes enjeux de retrait de données et de conformité soulevés touchent directement les industriels européens de la téléopération robotique soumis aux exigences de consentement et de suppression de données (type RGPD).

RecherchePaper
1 source
Apprentissage par démonstration pour l'alimentation robotisée avec des primitives de mouvement dynamiques
2arXiv cs.RO 

Apprentissage par démonstration pour l'alimentation robotisée avec des primitives de mouvement dynamiques

Des chercheurs proposent un cadre d'alimentation robotisée par démonstration, publié sur arXiv (2610.31020v1), qui chaîne capture de mouvement, planification par Dynamic Movement Primitives (DMP), perception RGB-D et commande robot. Un opérateur humain exécute d'abord les gestes de prélèvement (« scooping ») et d'alimentation, tandis qu'un système de motion capture enregistre la position et l'orientation en angles d'Euler de la cuillère. La trajectoire est découpée en deux segments, chacun encodé par une DMP distincte. Avant l'exécution, une caméra RGB-D estime la position de la bouche du participant, et deux AprilTags servent au recalage du repère robot et à la localisation du plateau. La pose du plateau place le geste de prélèvement, la position de la bouche fixe l'objectif du geste d'alimentation. Les trajectoires d'approche, de prélèvement et d'alimentation sont ensuite exécutées séquentiellement par un bras Kinova Gen3 via une architecture ROS 2. Une expérience en conditions réelles valide la faisabilité du pipeline et montre que les mouvements appris sont reproduits dans la scène détectée. Le résumé ne fournit ni taux de réussite, ni temps de cycle, ni nombre de participants. L'intérêt tient moins à une percée qu'à l'illustration d'une approche pragmatique. Les DMP sont des primitives de mouvement paramétrables, légères et interprétables, qui permettent de rejouer un geste appris en changeant seulement son point d'arrivée. Elles contrastent avec les politiques VLA (vision-langage-action) entraînées sur de grands volumes de données, plus générales mais plus lourdes à valider. Pour l'alimentation assistée, où la sécurité et la prévisibilité priment, une trajectoire apprise d'un humain puis adaptée à la géométrie de la scène est plus simple à certifier. Pour un intégrateur, le message est que la démonstration unique suffit à reproduire un geste fin, mais la validation reste très limitée : la preuve de faisabilité ne dit rien de la robustesse face à un mouvement du visage, à des aliments variés ou à des contacts imprévus. L'écart entre démonstration de laboratoire et usage réel demeure donc entier. Ce travail s'inscrit dans une lignée de robots d'aide à l'alimentation destinés aux personnes à mobilité réduite, dont le dispositif Obi est l'exemple commercial le plus connu, et de recherches utilisant le Kinova Gen3, bras courant dans la robotique d'assistance. Le choix de ROS 2 facilite la réutilisation par d'autres laboratoires. Les suites logiques seraient des essais avec plusieurs participants, une prise en compte dynamique de la position de la bouche et du type d'aliment, et une évaluation du confort et de la sécurité. Aucun calendrier de pilote ni partenaire industriel n'est annoncé ; il s'agit d'un prépublié non évalué par les pairs.

RecherchePaper
1 source
RDGen : génération de démonstrations pour l'apprentissage robotique par renforcement
3arXiv cs.RO 

RDGen : génération de démonstrations pour l'apprentissage robotique par renforcement

Une équipe de chercheurs a publié le 30 mai 2026 sur arXiv (référence 2605.30957) un framework appelé RDGen, pour "Reinforcement Learning Demonstration Generation", destiné à automatiser la collecte de données d'entraînement pour les modèles Vision-Language-Action (VLA). Le système combine trois composants : un module d'analyse de tâches basé sur un modèle de langage visuel (VLM), un localisateur d'objets fondé sur Grounding DINO, et une politique de contrôle entraînée par apprentissage par renforcement (RL) en simulation puis transférée sur un robot réel. Testé sur une tâche de saisie et de dépose, RDGen atteint un taux de succès élevé après transfert sim-to-real, sans que les auteurs ne publient de chiffre précis dans le résumé disponible. Les trajectoires générées sont ensuite réutilisées directement comme données d'entraînement pour affiner des politiques VLA en aval. L'enjeu central est celui du goulot d'étranglement dans la chaîne d'entraînement des robots généralistes : la télé-opération humaine, méthode dominante pour collecter des démonstrations, est lente, coûteuse, et produit des trajectoires variables selon l'opérateur. RDGen propose de substituer cet effort humain par une politique RL, qui génère des trajectoires mécaniquement cohérentes et reproductibles, plus lisses selon les auteurs que ce que produit un opérateur humain, et avec un coût marginal quasi nul en simulation. Cela renforce l'hypothèse que le problème sim-to-real pour des tâches de manipulation simples est largement résolu, et déplace la question vers la scalabilité de la diversité des tâches plutôt que la qualité individuelle des démos. RDGen s'inscrit dans un débat actif sur la meilleure façon d'alimenter les VLA, dont les architectures de référence actuelles incluent pi0 (Physical Intelligence), OpenVLA et les travaux de RT-2/RT-X chez Google DeepMind. La collecte de données reste le principal frein industriel à leur déploiement, ce que tentent aussi d'adresser des approches concurrentes comme la génération vidéo synthétique (ex. travaux UniSim, Genie) ou l'augmentation par world models. La contribution de RDGen est plus modeste et ciblée : un pipeline sim-to-real structuré pour des tâches de manipulation définies, avec réutilisation des rollouts réussis. Il s'agit d'un preprint non encore peer-reviewed ; les expériences restent limitées à pick-and-place, et l'absence de métriques quantitatives précises dans le résumé invite à attendre la version complète avant d'en tirer des conclusions générales sur la scalabilité.

RechercheOpinion
1 source
Lois d'échelle des données en apprentissage par imitation pour la manipulation robotique
4arXiv cs.RO 

Lois d'échelle des données en apprentissage par imitation pour la manipulation robotique

Une équipe de chercheurs publie sur arXiv (référence 2410.18647, désormais à sa quatrième révision) une étude empirique sur les lois d'échelle des données appliquées à l'apprentissage par imitation en manipulation robotique. Le protocole est rigoureux : plus de 40 000 démonstrations collectées dans de nombreux environnements et avec des objets variés, suivies de plus de 15 000 exécutions réelles sur robot, ce qui en fait l'une des études de scaling en manipulation les plus extensives à ce jour. Résultat central : la performance de généralisation d'une politique d'imitation suit une relation en loi de puissance avec le nombre d'environnements et d'objets d'entraînement. Surtout, quatre collecteurs de données travaillant une seule après-midi ont suffi pour obtenir environ 90 % de taux de réussite en déploiement zéro-shot sur des objets inconnus dans des environnements non vus, sur deux tâches distinctes. Ce que cette recherche établit, c'est que la diversité des environnements et des objets prime largement sur le volume brut de démonstrations : au-delà d'un certain seuil de démonstrations par environnement ou par objet, en ajouter davantage n'améliore plus la généralisation. Ce résultat remet en cause la stratégie intuitive qui consiste à multiplier les répétitions dans un même contexte, et oriente clairement la priorité vers la couverture de distribution plutôt que la densité d'annotation. Pour les intégrateurs industriels et les équipes robotique qui budgètent la collecte de données, l'implication est directe : mieux vaut disperser les efforts sur des scènes variées que d'accumuler des trajectoires dans un seul setup. Le fait d'atteindre 90 % de succès en zéro-shot sur des objets inédits est également un signal fort sur la maturité du paradigme VLA (Vision-Language-Action) en manipulation monomode. Ce travail s'inscrit dans le sillage des succès de scaling en NLP et vision par ordinateur, que des équipes comme DeepMind (RT-2), Physical Intelligence avec Pi-0, ou encore NVIDIA avec GR00T cherchent à transposer en robotique. L'étude reste purement académique pour l'instant, aucun déploiement industriel n'étant annoncé, et les tâches testées demeurent mono-bras sur périmètre contrôlé. Une limite à noter : les vidéos de démonstration et les protocoles d'évaluation exacts ne sont pas tous publics dans la version arXiv, ce qui rend difficile la comparaison directe avec d'autres benchmarks. Les prochaines étapes logiques seront d'étendre ces lois d'échelle aux politiques multi-tâches et de tester leur robustesse sur des plateformes humanoïdes comme Figure 03 ou Optimus Gen 3, où la distribution des états physiques est bien plus large.

RecherchePaper
1 source