Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
Continuer ou replanifier : apprentissage par politique de continuation bernoullienne pour l'exécution à horizon adaptatif
RecherchearXiv cs.RO 

Continuer ou replanifier : apprentissage par politique de continuation bernoullienne pour l'exécution à horizon adaptatif

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Une équipe de recherche publie sur arXiv (2608.03483, août 2026) Bernoulli-Continuation Policy (BCP), une méthode qui corrige un défaut des modèles Vision-Language-Action (VLA) : ceux-ci exécutent un nombre fixe d'actions avant de replanifier, selon un calendrier périodique indépendant de l'avancement réel de la tâche, ce qui peut faire exécuter une étape critique à partir d'un plan obsolète. BCP ajoute une tête de continuation légère, greffée sur un modèle VLA gelé, qui décide à chaque segment d'action s'il faut continuer ou replanifier, entraînée par apprentissage par renforcement avec une récompense d'efficacité de replanification pénalisant l'échec et le calcul gaspillé. Sur RoboTwin 2.0, avec LingBot-VLA comme modèle de base, BCP améliore le taux de succès moyen de 11,08% sur les 13 tâches les plus difficiles et fait passer le taux global de 89,88% à 93,94% sur 50 tâches. Entraîné uniquement en environnement "propre", il généralise à un environnement randomisé (+4,06%) et transfère à un autre modèle de base, π_0.5, avec des gains de 1,7% sur LIBERO et 6,8% sur LIBERO-PRO, la version plus difficile. Sur robot réel, le taux de succès grimpe de 74% à 92% et de 44% à 84% sur deux tâches de manipulation, avec un surcoût de calcul négligeable qui rend le temps d'exécution total inférieur aux méthodes à horizon fixe.

Ce résultat s'attaque à un choix d'ingénierie devenu standard dans les VLA en production, la replanification à intervalle fixe, simple à implémenter mais aveugle au contexte de la tâche. Son caractère plug-and-play, compatible avec un modèle de base gelé, le rend potentiellement exploitable par des intégrateurs sans réentraîner leurs modèles VLA déjà déployés. Les gains les plus marqués se concentrent sur les tâches à faible taux de succès initial, celles où les robots échouent réellement en production, ce qui limite le risque d'un simple effet de benchmark favorable. La généralisation confirmée sur deux modèles de base différents, et du simulateur vers le réel, répond directement au scepticisme habituel sur l'écart simulation-réel des méthodes VLA.

Le travail s'inscrit dans la lignée des benchmarks de manipulation robotique standardisés LIBERO, LIBERO-PRO et RoboTwin 2.0, utilisés pour comparer des politiques VLA comme LingBot-VLA ou π_0.5. Il s'agit à ce stade d'une publication de recherche, un preprint arXiv, sans déploiement industriel annoncé ni acteur commercial identifié. Les suites attendues sont une revue par les pairs et une éventuelle intégration dans des frameworks VLA ouverts déjà utilisés par la communauté robotique.

Dans nos dossiers

Physical Intelligence — π0Manipulation robotiquearXiv cs.RO

À lire aussi

ResMerge : apprentissage et fusion de politiques résiduelles pour l'adaptation continue de politiques robotiques pré-entraînées
1arXiv cs.RO 

ResMerge : apprentissage et fusion de politiques résiduelles pour l'adaptation continue de politiques robotiques pré-entraînées

Des chercheurs proposent ResMerge, un cadre en deux étapes pour adapter en continu une politique robotique pré-entraînée à de nouvelles tâches, sans faire croître indéfiniment le nombre de paramètres stockés. La politique de base reste gelée. Pour chaque nouvelle tâche, un apprentissage par renforcement résiduel (residual RL) apprend une correction qui s'ajoute aux actions de la politique de base, sans démonstrations d'experts supplémentaires pendant l'adaptation. Dans un second temps, les résiduels jugés compatibles sont fusionnés dans l'espace des paramètres, ce qui réduit le volume stocké. Pour décider quels résiduels fusionner, les auteurs introduisent la Residual-Field Consistency (RFC), une métrique bornée qui compare la direction et l'amplitude des corrections dans l'espace des actions. Les tests portent sur le benchmark de simulation LIBERO avec deux architectures de base, puis sur un robot Franka réel. Les auteurs annoncent de meilleures performances d'apprentissage continu que des méthodes PECFT (Parameter-Efficient Continual Fine-Tuning) de référence, ainsi qu'une empreinte réduite grâce à la fusion sélective. Le résumé ne donne aucun chiffre : ni taux de réussite, ni taux de compression, ni nombre de tâches. L'enjeu est celui du déploiement sur la durée. Une flotte de robots qui doit apprendre de nouvelles tâches sur site ne peut pas collecter de téléopérations à chaque changement de référence, ni empiler un adaptateur par tâche. En remplaçant les démonstrations par du RL résiduel, ResMerge vise le goulot de la collecte de données. En fusionnant les corrections compatibles, il vise la croissance linéaire de la mémoire. Reste à vérifier la généralisation : le RL en conditions réelles exige des signaux de récompense et des phases d'exploration que le résumé ne détaille pas. Les résultats réels sur un seul bras Franka ne disent pas non plus comment la méthode se comporte avec des dizaines de tâches ou sur des plateformes plus complexes. Ce travail s'inscrit dans l'effort pour rendre les modèles vision-langage-action (VLA) et les politiques pré-entraînées réellement évolutifs après leur déploiement. Il se positionne contre les approches d'adaptateurs par tâche issues du fine-tuning continu, qui évitent l'oubli catastrophique mais restent dépendantes des démonstrations. Il s'agit d'une prépublication arXiv (v1), sans validation par les pairs, et aucun calendrier de transfert industriel n'est mentionné. Un site de projet accompagne l'article. La suite logique serait de tester la fusion sur des séquences de tâches plus longues, avec des politiques de base plus grandes et en dehors du cadre de LIBERO.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
Analyse de l'apprentissage par renforcement profond en continu pour l'apprentissage adaptatif en robotique
2arXiv cs.RO 

Analyse de l'apprentissage par renforcement profond en continu pour l'apprentissage adaptatif en robotique

Des chercheurs publient sur arXiv (référence 2609.28807, soumission nouvelle) une étude qui livre la première analyse de l'apprentissage par renforcement profond en flux comme cadre d'apprentissage continu adaptatif pour la robotique. Contrairement à l'approche dominante, qui consiste à réentraîner hors ligne un modèle sur un jeu de données élargi après une phase de pré-entraînement, la méthode testée met à jour la politique neuronale en continu, à partir de chaque nouvelle expérience, en s'inspirant du fonctionnement de l'apprentissage biologique. Les expériences principales portent sur la locomotion d'un robot quadrupède : avec certains optimiseurs et des techniques de limitation de la perte de plasticité, la politique s'adapte rapidement en ligne à des changements imprévus touchant le robot lui-même, son environnement ou ses objectifs. Elle surpasse les méthodes batch on-policy classiques et améliore le taux de réussite des tâches jusqu'à 90% par rapport à la politique simplement pré-entraînée. Des évaluations complémentaires sur des tâches de manipulation robotique, menées sur une morphologie différente, montrent que ces gains se retrouvent partiellement, avec des limites de stabilité et de performance. Pour l'industrie robotique, ce travail apporte une première preuve empirique qu'un apprentissage en flux, sans réentraînement batch hors ligne massif, peut permettre à un robot déjà déployé de s'adapter à des situations non anticipées lors de la collecte de données initiale, un scénario courant pour les intégrateurs confrontés à des changements d'environnement, à l'usure matérielle ou à des objectifs de mission évolutifs. Cela remet en question l'hypothèse dominante du secteur selon laquelle la robustesse passe nécessairement par l'élargissement continu des jeux de données d'entraînement hors ligne, et suggère une voie alternative pour réduire le coût et la latence de mise à jour des politiques embarquées, un enjeu clé alors que les acteurs des humanoïdes et des robots mobiles autonomes cherchent à généraliser leurs modèles au-delà des scénarios démontrés en laboratoire. Le fait que les gains observés en locomotion quadrupède ne se transposent que partiellement à la manipulation souligne toutefois que la généralisation entre morphologies reste un problème ouvert, ce qui tempère tout enthousiasme prématuré côté commercialisation. Le papier s'inscrit dans un courant de recherche récent ayant démontré la faisabilité technique du deep RL en flux, où chaque mise à jour du réseau utilise uniquement la dernière expérience collectée plutôt qu'un lot de données rejouées, sans qu'aucun travail antérieur n'ait validé cette approche comme cadre viable d'apprentissage continu pour adapter des politiques robotiques à des changements non vus. Les auteurs positionnent explicitement leur contribution comme la première étude de ce type appliquée à la robotique, en s'appuyant sur une phase de pré-entraînement suivie d'une adaptation en ligne. L'étude se conclut par une discussion des limites, notamment les problèmes de stabilité observés en manipulation, et par des pistes pour les futurs systèmes de robot learning continu, sans annoncer de calendrier de déploiement ni de partenariat industriel.

RecherchePaper
1 source
Apprentissage par l'expérience physique : adaptation dans l'espace de contexte pour la manipulation robotique
3arXiv cs.RO 

Apprentissage par l'expérience physique : adaptation dans l'espace de contexte pour la manipulation robotique

Des chercheurs proposent LEXP, un cadre logiciel qui permet à un modèle de fondation généraliste de s'améliorer en manipulation robotique à partir de l'expérience physique, sans toucher à ses poids ni à son interface d'action. L'étude, publiée sur arXiv, part d'un constat obtenu sur plusieurs tâches réelles de manipulation: ChatGPT-6-Astra, un modèle de raisonnement généraliste, peut servir de politique de manipulation directement exploitable, avec une manipulation fine et un raisonnement spatial corrects. LEXP associe une planification au niveau de la tâche à un module d'expérience. Celui-ci interprète les traces d'exécution, en tire des leçons assorties de conditions d'applicabilité, les conserve, puis les réinjecte sous forme de retours contextuels pour les actions suivantes. Sur 12 tâches réelles, avec 36 essais évalués, LEXP réussit 23 essais (63,9 %), contre 19 (52,8 %) pour une simple mémoire et 2 (5,6 %) pour Astra brut. Sur trois tâches (transfert de pain, tri de déchets et produits de toilette, récupération dans un tiroir), retirer la planification fait passer le succès de 7/9 à 4/9, et retirer l'expérience retenue le ramène à 3/9. L'intérêt tient à la méthode: l'adaptation se fait dans l'espace du contexte, pas dans celui des poids. Pour un intégrateur, cela évite le réentraînement ou le fine-tuning d'une politique VLA (vision-langage-action) pour chaque cellule ou variante de tâche. Le robot accumule des consignes réutilisables d'un épisode à l'autre, par exemple une stratégie d'inspection que les traces montrent réemployée. L'écart entre 5,6 % et 63,9 % suggère qu'un modèle généraliste capable sur le papier échoue souvent faute de retours structurés, et pas seulement faute de capacité brute. Les ablations indiquent aussi que la planification et la mémoire d'expérience contribuent chacune. Les limites sont nettes. Les échantillons sont petits: 36 essais sur 12 tâches, soit trois par tâche, et 9 essais par tâche pour les ablations, ce qui rend les écarts fragiles statistiquement. Un taux de 63,9 % reste loin du seuil industriel, et le papier ne donne pas, dans ce résumé, de temps de cycle, de plateforme matérielle ni de comparaison avec des politiques entraînées comme Pi-0 ou GR00T. Il s'agit d'un résultat de recherche, sans produit ni déploiement. Ce travail s'inscrit dans la tendance des agents à mémoire et des harnais autour de grands modèles, en concurrence avec l'approche dominante des VLA affinés sur données de téléopération. La suite logique sera de valider LEXP sur davantage d'essais, d'autres modèles et des tâches plus longues.

RecherchePaper
1 source
Apprentissage collectif pour une manipulation robotique unifiée par adaptation prédictive de la dynamique
4arXiv cs.RO 

Apprentissage collectif pour une manipulation robotique unifiée par adaptation prédictive de la dynamique

Des chercheurs proposent PACE, un cadre d'apprentissage collectif en deux étapes pour entraîner une politique unique de manipulation cartésienne, pilotée par l'état (et non par la vision), sur des robots aux morphologies différentes. Dans la première étape, une couche de représentation est pré-entraînée sur des trajectoires hors ligne pour extraire le contexte de la tâche à partir des données agrégées de plusieurs robots. Dans la seconde, une couche de décision est dotée d'un adaptateur de dynamique prédictive: on force l'état latent à prédire les transitions futures, ce qui ancre la politique dans le comportement réel du robot qui exécute l'action. L'inférence reste en temps réel, sans planification en ligne. En simulation, PACE atteint plus de 93 % de succès global et 89 % sur des robots simulés hors distribution dynamique, évalués en zero-shot. Les références restent nettement derrière: 82 % pour un Transformer en clonage comportemental et 66 % pour une politique de diffusion. Un déploiement sur un robot KUKA physique valide la faisabilité de la chaîne complète en transfert sim-to-real zero-shot. Le problème visé est concret pour quiconque veut mutualiser des données entre plusieurs bras robotiques. Une même commande cartésienne se traduit par des comportements de transition différents selon l'embodiment (cinématique, inerties, limites d'actionneurs). Une agrégation naïve moyenne alors des modes d'action incompatibles, d'où une ambiguïté de stratégie et un effondrement des performances sur les robots dont la dynamique s'écarte de la norme. Les résultats suggèrent que séparer l'intention dans l'espace de la tâche de la dynamique propre au robot peut limiter ce phénomène, ce qui intéresserait les intégrateurs gérant des parcs hétérogènes et voulant éviter un réentraînement par machine. Il faut toutefois rester prudent: les chiffres viennent essentiellement de simulation, la validation physique se limite à un seul robot KUKA, et le résumé ne donne ni nombre de tâches, ni cadence, ni taux de réussite en conditions réelles. Ce travail s'inscrit dans la course aux politiques généralistes multi-embodiments, portée par les modèles vision-langage-action comme Pi-0 ou GR00T, et par les approches de diffusion et de Transformers utilisées ici comme références. PACE prend un angle différent: une politique légère, basée sur l'état, centrée sur la robustesse face aux dynamiques atypiques plutôt que sur la généralité sémantique. Il s'agit d'une prépublication arXiv (v1), non évaluée par des pairs, sans produit ni pilote industriel annoncé. Les suites logiques seraient des tests sur davantage de robots physiques, l'intégration de la perception et une comparaison directe avec les grands modèles de fondation robotiques.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source