FlowDAgger : adaptation en boucle humaine des politiques génératives de robots dans l'espace latent
Microsoft Research publie FlowDAgger, une méthode d'adaptation des politiques robotiques génératives figées, via des interventions humaines directement dans l'espace latent (arXiv:2607.08877v1, prépublication non revue par les pairs). L'idée centrale, appelée « inversion d'action », consiste à faire correspondre chaque action démontrée par un opérateur humain au bruit qui, injecté dans la politique de base pré-entraînée (fondée sur le flow matching ou la diffusion), aurait produit cette même action. Ce bruit est retrouvé par intégration en temps inverse puis affiné localement, et sert ensuite à entraîner une politique latente légère qui vient piloter le modèle de base au moment du déploiement. L'équipe a testé la méthode en simulation et sur des tâches réelles de manipulation bi-bras et mono-bras, en adaptant à la fois des modèles VLA à tête d'action et des modèles dits « world-action », à partir d'une poignée d'interventions humaines seulement.
L'enjeu dépasse la prouesse technique isolée : les politiques génératives pré-entraînées, aussi performantes soient-elles en démonstration, échouent régulièrement une fois sorties de leur distribution d'entraînement en conditions réelles. Jusqu'ici, corriger ces failles imposait soit de recollecter massivement des données, soit de lancer de l'apprentissage par renforcement en ligne sur du matériel physique, deux options lentes, coûteuses et risquées pour un robot en production. FlowDAgger propose une correction à faible coût d'échantillons et de calcul, qui préserve les compétences déjà acquises sur des tâches non revues, un point critique pour des modèles fondation coûteux à réentraîner comme Pi-0 de Physical Intelligence, GR00T N2 de Nvidia ou Helix de Figure AI. Selon les auteurs, la méthode surpasse à la fois le fine-tuning supervisé classique et les approches de RL en espace latent sur les mêmes benchmarks.
FlowDAgger s'inscrit dans la lignée de DAgger, algorithme classique d'apprentissage par imitation avec correction humaine en boucle, mais transposé à l'espace de bruit latent propre aux politiques par diffusion ou flow matching. Elle rejoint une vague plus large de travaux cherchant à rendre les politiques robotiques génératives pré-entraînées adaptables sur le terrain sans tout réentraîner. L'abstract ne précise pas de calendrier de mise à disposition du code ni de partenaire industriel ; seul un site de démonstration accompagne pour l'instant la publication.
Dans nos dossiers




