
DiscoDemo : découvrir des démonstrations robotiques efficaces et variées pour l'apprentissage par imitation
Des chercheurs du laboratoire DAVIAN Robotics présentent DiscoDemo, une méthode publiée sur arXiv qui utilise l'apprentissage par renforcement (RL) non pas comme contrôleur déployable, mais comme générateur de données pour l'apprentissage par imitation visuomotrice. Un générateur RL à accès privilégié (il observe l'état exact de la simulation) et conditionné par une variable latente est entraîné avec un curriculum inverse parallèle et un objectif de diversité conditionné au succès. Il découvre ainsi plusieurs modes de solution distincts sans sacrifier la réussite de la tâche. Les comportements obtenus en boucle fermée sont filtrés pour la sécurité, puis exportés sous forme de jeu de données statique. Sur quatre tâches de manipulation, le taux de réussite moyen des politiques aval passe de 40 % à 62 % en simulation par rapport à la meilleure référence, et de 39 % à 78 % sur robot réel. La politique aval testée est un VLA (vision-langage-action) préentraîné à flow matching.
Ces résultats visent un point de blocage connu du clonage de comportement : la politique reste très sensible à la couverture des données d'entraînement, et la collecte de démonstrations réussies et variées par téléopération coûte cher. L'étude suggère que la diversité des solutions réussies compte plus que la répétition d'une solution unique. Elle indique aussi que des démonstrations synthétiques produites par RL peuvent remplacer une partie de la collecte humaine, ou la compléter : les auteurs observent que le gain reste complémentaire de la collecte corrective (de type DAgger). Pour un intégrateur, cela ouvre la voie à une réduction du coût de constitution des jeux de données. Quelques réserves s'imposent. Le périmètre est limité à quatre tâches. Le RL privilégié suppose un simulateur et un accès à l'état complet, ce qui n'est pas toujours réalisable pour des objets déformables ou des scènes industrielles complexes. Le gain de 39 % à 78 % sur robot réel vient d'un nombre d'essais que le résumé ne précise pas. Il s'agit d'un travail de recherche, sans produit ni déploiement associé.
La méthode s'inscrit dans le courant plus large du transfert simulation-vers-réel et de la génération de données synthétiques pour les modèles fondation robotiques. Ces approches cherchent à réduire la dépendance à la téléopération, qui domine l'entraînement de modèles comme Pi-0 ou GR00T. Elle rejoint aussi les travaux sur la diversité de qualité en RL, qui cherchent à produire des répertoires de comportements variés plutôt qu'une seule politique optimale. Les prochaines étapes à surveiller sont la validation sur des tâches plus longues et plus variées, ainsi que la comparaison avec d'autres sources de données, comme la génération massive en simulation ou les démonstrations humaines à grande échelle. Le code et les résultats détaillés sont annoncés sur la page du projet.
Dans nos dossiers




