RecherchearXiv cs.RO 21 octobre 2026

AWLS : pilotage latent pondéré par l'avantage pour les politiques génératives en une étape en manipulation robotique

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Une équipe de chercheurs propose AWLS (Advantage-Weighted Latent Steering), une méthode de post-entraînement hors ligne qui améliore une politique de manipulation générative « one-step » déjà entraînée, sans toucher à son décodeur. La méthode apprend un « residual noise shaper ». Il s'agit d'une correction résiduelle, conditionnée par l'observation, appliquée au bruit latent qui alimente la politique. Son entraînement repose sur une reconstruction d'actions pondérée par l'avantage. Ces avantages, issus d'estimations de valeur d'un RL hors ligne, sont détachés du graphe de calcul et normalisés en échelle. Ils servent uniquement de poids sur les actions démontrées, sans gradient du critique. L'inférence reste en une seule étape. Les auteurs ajoutent un critère de sélection de checkpoints, sans rollout, qui mesure la sensibilité du décodeur aux perturbations du bruit latent. Les tests couvrent des tâches simulées et réelles, avec démonstrations propres ou de qualité mixte. Le résumé ne donne aucun chiffre de gain, aucun taux de succès ni nom de plateforme. Il affirme seulement une amélioration par rapport à la politique de base figée.

Le problème visé est courant. Les démonstrations collectées par des humains contiennent des segments hésitants ou inefficaces, et le clonage de comportement (BC) leur attribue la même vraisemblance qu'aux bons. Les politiques par diffusion ou flow matching modélisent bien cette multimodalité, mais elles reproduisent aussi les modes médiocres. Corriger cela sans réentraîner le modèle ni exploiter les gradients du critique évite deux écueils : l'amplification des erreurs de valeur et la dérive par rapport au comportement appris. Pour un intégrateur, l'intérêt est pratique. On améliore une politique existante à partir de données imparfaites, sans coût d'inférence supplémentaire. Le critère sans rollout réduit aussi les essais sur robot réel.

Ces travaux s'inscrivent dans un courant qui oriente les politiques génératives par leur espace de bruit, plutôt que par un fine-tuning complet, et dans la lignée des méthodes pondérées par l'avantage de l'apprentissage hors ligne. Ils visent des politiques rapides en une étape, utiles pour le contrôle à haute fréquence. Le projet est associé à CoRL 2026. La portée réelle dépendra de la taille des benchmarks, de la diversité des tâches réelles et de la comparaison avec les approches par gradient du critique, que le résumé ne détaille pas. Il s'agit pour l'instant d'une préprint académique, sans produit ni déploiement industriel annoncé.

Impact France/UE

Pas d\'impact direct sur la France/UE

Dans nos dossiers

Manipulation robotique

À lire aussi

1arXiv cs.RO

Au-delà du pilotage du bruit : apprentissage par renforcement à double espace latent pour les politiques génératives en robotique

Publié sur arXiv le 11 septembre 2026 sous la référence 2609.11270v1, un article lié au dépôt GitHub xianchaoxiu présente DLSRL (Dual-Latent Space Reinforcement Learning), une méthode d'apprentissage par renforcement pour affiner des politiques robotiques génératives préentraînées par démonstration. Le constat de départ : les méthodes de RL existantes se contentent de piloter le bruit initial du générateur, comme dans les politiques de diffusion ou de flow matching, sans jamais toucher aux représentations d'action intermédiaires produites pendant la génération, ce qui dégrade performance et efficacité. DLSRL fait prédire par un réseau acteur deux latentes distinctes, l'une pour le bruit initial qui pilote le comportement généré, l'autre pour la représentation d'action qui module les caractéristiques intermédiaires. Cette seconde latente est projetée en "adapter features" et injectée par connexions résiduelles dans les états cachés des tokens d'action intermédiaires, à l'intérieur d'un générateur qui reste gelé. Le code est publié sur GitHub (xianchaoxiu/DLSRL) ; les tests couvrent plusieurs architectures de politiques génératives et plusieurs tâches de manipulation robotique, sans que le résumé ne détaille de chiffres de temps de cycle ou de taux de réussite précis. Pour les équipes qui affinent par RL des politiques de type diffusion ou flow matching, l'enjeu est concret : jusqu'ici, le RL en ligne appliqué à ces générateurs ne modifiait que l'entrée du processus de débruitage, laissant les représentations internes largement figées et ralentissant l'adaptation à de nouvelles tâches ou conditions. En ajoutant un canal de contrôle au niveau des représentations sans mettre à jour la politique de base, DLSRL vise une adaptation en ligne plus rapide tout en préservant l'investissement de préentraînement, un argument qui parle directement aux intégrateurs cherchant à réduire le coût de réadaptation d'un modèle générique à un site ou une tâche spécifique. Reste que "accélère efficacement" et "performance compétitive" sont des formulations non chiffrées dans le résumé, ce qui invite à lire les résultats expérimentaux complets avant d'en juger l'ampleur réelle. DLSRL s'inscrit dans la lignée des politiques robotiques génératives entraînées par imitation puis affinées par renforcement, un courant porté par la diffusion des politiques de type diffusion et flow matching en manipulation robotique. Les méthodes de fine-tuning par RL précédentes se limitaient au pilotage du bruit d'entrée ; DLSRL se présente explicitement comme un complément à ces approches, pas un remplacement. Il s'agit à ce stade d'une contribution de recherche publiée en preprint, sans lien annoncé avec un acteur industriel, un déploiement sur robot physique, ou un partenaire français ou européen. La suite logique passe par la reproduction des résultats via le code partagé sur GitHub et par des comparaisons indépendantes face aux méthodes de steering de bruit existantes.

RecherchePaper

1 source

2arXiv cs.RO

HybridFlow : une politique générative à 2 NFE pour la manipulation robotique en temps réel

Des chercheurs restés anonymes, dont l'identité est masquée le temps d'une évaluation en double aveugle, publient sur arXiv (2602.13718v2, version révisée) HybridFlow, une politique générative pour le contrôle robotique en temps réel. Le système ne nécessite que deux évaluations du réseau de neurones, contre les 16 étapes habituelles d'une politique par diffusion, grâce à un pipeline en trois temps : un "Global Jump" qui utilise la vitesse moyenne du cadre MeanFlow pour générer une trajectoire d'action grossière, une interpolation "ReNoise" sans paramètre qui construit un état intermédiaire à un instant de raffinement non nul, puis un "Local Refine" qui interroge la limite de vitesse instantanée du même réseau à cet instant, sans distillation ni modèle séparé. Sur des ablations contrôlées avec le benchmark RoboMimic, la méthode atteint 95% de réussite moyenne avec bruit réutilisé et 95,5% avec bruit frais, contre 78% pour une version MeanFlow à une seule étape. Sur cinq configurations de robots réels, toutes les politiques comparées tournant sur le même module embarqué Jetson AGX Thor de Nvidia, HybridFlow améliore la performance normalisée des tâches de 13 à 68 points par rapport à une Diffusion Policy à 16 étapes, avec une latence de génération d'action environ huit fois plus faible. Ce résultat s'attaque directement au compromis central des politiques génératives en robotique : la précision des gestes exige généralement de nombreuses étapes de débruitage, incompatibles avec les boucles de contrôle temps réel exigées par la manipulation fine. En conservant un modèle unique et en évitant la distillation, qui dégrade souvent la précision ou la généralisation, HybridFlow promet une exécution quasi aussi fiable qu'une diffusion complète mais à une fraction du coût de calcul, sur du matériel embarqué contraint. Les auteurs démontrent aussi sa compatibilité comme module d'action au sein d'une architecture vision-langage-action, ce qui en fait un candidat pour accélérer l'inférence dans les grands modèles généralistes de contrôle robotique déployés sur des plateformes comme le Jetson. Le travail s'inscrit dans la lignée des politiques par diffusion et par flow-matching devenues dominantes pour l'apprentissage de la manipulation robotique, où le nombre d'étapes de sampling reste le principal frein au déploiement temps réel. Aucun acteur industriel ni produit commercial n'est associé à cette publication, qui reste une contribution de recherche académique publiée en préprint, sans date de déploiement ni partenaire annoncé.

RecherchePaper

1 source

3arXiv cs.RO

OGPO : optimisation de politique générative en une étape pour le contrôle de robots en temps réel

Des chercheurs publient OGPO (One-Step Generative Policy Optimization), un cadre d'apprentissage pour le contrôle robotique en temps réel, dont la version 2 vient d'être diffusée sur arXiv (2601.20701). Il vise un problème précis : les politiques de contrôle fondées sur la diffusion ou le flow matching génèrent les actions en plusieurs étapes d'échantillonnage, ce qui limite leur usage dès que la latence compte. Réduire ce nombre d'étapes à un seul dégrade d'ordinaire la qualité de représentation et la performance sur la tâche. Les auteurs décrivent un compromis à trois pôles entre vitesse, fidélité et performance. OGPO associe une architecture légère au principe d'« interval velocity » pour une inférence en une étape sans distillation, tandis qu'une technique de « représentation spreading » évite la dégradation des représentations. Une phase d'apprentissage par renforcement (RL) on-policy affine ensuite cette politique rapide et stable. Sur les benchmarks RoboMimic et OpenAI Gym, la méthode égale ou dépasse des références multi-étapes, avec une inférence 5 à 20 fois plus rapide et une fréquence de contrôle supérieure à 120 Hz. Un déploiement physique sur un bras Franka Emika Panda est présenté comme validation. L'intérêt tient à la place des politiques génératives dans la robotique actuelle. Diffusion et flow matching sont devenus des choix courants pour représenter des comportements multimodaux, y compris dans plusieurs architectures VLA (vision-langage-action). Leur coût d'inférence impose pourtant des compromis : fréquences de contrôle basses, découpage des actions en blocs (chunking), ou matériel de calcul embarqué plus lourd. Une politique à plus de 120 Hz sans distillation, si les résultats tiennent, rapprocherait ces méthodes des boucles de contrôle réactives, utiles pour la manipulation fine ou le contact. L'ajout du RL on-policy répond à une limite connue de l'apprentissage par imitation, dont la performance reste bornée par la qualité des démonstrations. Les réserves sont claires : RoboMimic et Gym sont des benchmarks académiques, la validation réelle se limite à un seul bras et le résumé ne détaille ni les tâches physiques, ni le taux de réussite, ni le matériel de calcul. Le gain de 5 à 20 fois dépend des références choisies. Ce travail s'inscrit dans une course à l'accélération des politiques génératives. Diffusion Policy a imposé le paradigme, les approches de flow matching comme Pi-0 l'ont repris à plus grande échelle, et plusieurs équipes explorent la distillation en peu d'étapes ou le fine-tuning par RL de ces politiques. OGPO prend une voie sans distillation, en combinant vitesse et amélioration par renforcement. Il s'agit ici d'une publication de recherche, sans produit ni déploiement industriel annoncé. La suite dépendra des preuves sur des tâches plus variées, sur des robots différents et, surtout, de son intégration dans de grands modèles VLA. Une page de projet accompagne l'article.

RecherchePaper

1 source

4arXiv cs.RO

GeCCo : une politique généraliste conditionnée par le contact pour la loco-manipulation des robots à pattes

GeCCo, pour Generalist Contact-Conditioned Policy, est une politique de bas niveau entraînée par apprentissage par renforcement profond (DRL) capable de suivre des points de contact arbitraires sur un robot quadrupède, décrite dans un article arXiv (2509.17582v2, version révisée). Plutôt que d'apprendre une politique de bout en bout spécifique à chaque tâche, les auteurs proposent une architecture hiérarchique modulaire où cette unique politique de suivi de contacts sert d'interface entre un planificateur de haut niveau et le contrôle bas niveau du robot. Le système a été testé sur un large éventail de tâches de locomotion et de manipulation avec une seule politique généraliste : différentes allures, franchissement de terrains complexes comme des escaliers et des pentes, traversée de pierres de gué et de poutres étroites jamais vues à l'entraînement, ainsi que des interactions physiques comme appuyer sur un bouton ou pousser un tonneau. L'intérêt principal pour l'industrie robotique tient à la promesse de rompre avec le goulot d'étranglement classique du RL en locomotion quadrupède : la définition et l'ajustement itératifs de fonctions de récompense pour chaque nouvelle application, un processus chronophage qui limite le passage à l'échelle. En stabilisant l'exécution des contacts malgré l'incertitude dynamique et les erreurs de planification, GeCCo permet d'échanger ou de composer des planificateurs (codés à la main, appris ou basés sur de l'optimisation) sans réentraîner la couche de contrôle. Pour des intégrateurs cherchant à combiner locomotion et manipulation sur une même plateforme, cela suggère la possibilité de construire de nouveaux comportements en assemblant un planificateur spécifique à la tâche avec une politique pré-entraînée générique, plutôt qu'en repartant de zéro à chaque fois. L'article se positionne face aux méthodes dominantes de RL end-to-end en locomotion quadrupède, qu'il cherche explicitement à dépasser en généralité et en modularité. Aucune affiliation industrielle ni partenaire commercial n'est mentionné dans le résumé, ce qui situe ce travail comme une contribution de recherche plutôt qu'une annonce produit. Des démonstrations vidéo sont disponibles sur le site du projet, vassil-atn.github.io/gecco.github.io, mais l'article ne précise ni feuille de route de déploiement ni pilote industriel annoncé.

RecherchePaper

1 source