Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
Apprentissage itératif par renforcement pour bras à articulations élastiques : généralisation garantie entre trajectoires malgré les incertitudes du modèle
RecherchearXiv cs.RO 

Apprentissage itératif par renforcement pour bras à articulations élastiques : généralisation garantie entre trajectoires malgré les incertitudes du modèle

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs proposent le Reinforced Iterative Learning Control (RILC), une architecture de commande qui couple en parallèle un contrôleur à apprentissage itératif (ILC) et une politique d'apprentissage par renforcement (RL) pour le suivi de trajectoire de bras robotiques à articulations élastiques. Le travail, publié sur arXiv (référence 2610.28329), vise les robots compliants, dont la dynamique non linéaire et les incertitudes de modèle compliquent la commande. La validation combine simulation et expériences sur un robot série élastique sous-actionné à 4 degrés de liberté, avec plusieurs trajectoires et plusieurs erreurs de modélisation volontairement introduites. L'article ne fournit, dans son résumé, aucun chiffre de précision, de temps d'apprentissage ou de nombre d'itérations.

L'enjeu tient à un compromis connu. L'ILC offre une précision théorique élevée et préserve la compliance passive du robot, mais il doit réapprendre chaque nouvelle trajectoire, avec de fortes erreurs initiales. Le RL généralise d'une trajectoire à l'autre, mais exige beaucoup d'échantillons et atteint une précision de suivi limitée. Dans RILC, l'ILC fournit des échantillons de qualité et le RL joue le rôle de politique généralisante « au mieux », ce qui permet un suivi performant dès les premiers essais. Les auteurs affirment aussi démontrer que la composante RL ne dégrade pas la stabilité de l'ILC et peut, sous conditions précises, réduire asymptotiquement la borne d'erreur. Pour les intégrateurs travaillant avec des bras compliants, cette garantie est le point le plus utile. Elle répond à la réserve habituelle sur les politiques apprises, qui est l'absence de garanties de convergence. Ces garanties restent toutefois conditionnelles, et rien n'indique encore leur tenue hors du banc de laboratoire.

Ce travail s'inscrit dans la recherche de méthodes qui évitent l'identification explicite des paramètres, laborieuse sur des robots à élasticité série. Il se situe entre commande classique à garanties formelles et apprentissage de bout en bout, une voie opposée à celle des grands modèles généralistes de type VLA, qui visent la généralisation sémantique plutôt que la précision de suivi. Il s'agit d'une preuve de concept académique, sans produit ni déploiement industriel annoncé. La suite logique serait un test sur des robots à plus de degrés de liberté, sur des trajectoires plus variées et sous charge, ainsi qu'une comparaison chiffrée avec les ILC et RL de référence.

Dans nos dossiers

arXiv cs.RO

À lire aussi

TEMPO : post-entraînement par apprentissage par renforcement à découplage sémantique-action pour modèles vision-langage-action
1arXiv cs.RO 

TEMPO : post-entraînement par apprentissage par renforcement à découplage sémantique-action pour modèles vision-langage-action

Une équipe de recherche publie sur arXiv (référence 2608.07314v1, mise en ligne le 10 août 2026) un article intitulé TEMPO, décrivant une méthode de post-entraînement par apprentissage par renforcement pour les modèles vision-langage-action (VLA), ces architectures qui traduisent une instruction en langage naturel et une image caméra en commandes motrices pour un bras ou un robot manipulateur. Le principe : geler le backbone vision-langage pré-entraîné pour préserver ses représentations sémantiques générales, puis n'adapter que deux sous-modules via des boucles de RL distinctes, une couche de projection sémantique mise à jour peu fréquemment pour stabiliser l'action latente, et un expert d'action bas niveau mis à jour à haute fréquence pour intégrer rapidement le retour de l'interaction en ligne. Les auteurs testent cette approche à deux échelles temporelles sur le benchmark de simulation CALVIN, une référence académique pour la manipulation conditionnée par le langage, ainsi que sur des tâches de manipulation réelles, où TEMPO dépasserait à la fois les modèles VLA pré-entraînés de référence et une base RL classique à mise à jour uniforme. L'abstract ne fournit toutefois aucun chiffre précis, ni gain en pourcentage, ni degrés de liberté, ni temps de cycle, ce qui limite l'évaluation indépendante des résultats annoncés. L'enjeu dépasse la seule performance brute : les approches actuelles de fine-tuning des VLA butent soit sur le désalignement de distribution du SFT classique, soit sur l'instabilité provoquée par des mises à jour RL uniformes qui perturbent les représentations sémantiques apprises en pré-entraînement. En découplant les échelles temporelles d'apprentissage, TEMPO répond directement à un point de friction connu dans le déploiement de politiques génératives sur robots réels, où l'apprentissage en ligne doit rester stable tout en s'adaptant vite au feedback de contrôle. Pour les intégrateurs et laboratoires travaillant avec des VLA de type Pi-0, GR00T N2 ou Helix, ce type de méthode de post-entraînement plus fine pourrait réduire le fossé entre démonstration en simulation et robustesse en conditions réelles, sans nécessiter un réentraînement complet du modèle. Ce travail s'inscrit dans la lignée des recherches sur l'adaptation des modèles VLA pré-entraînés à grande échelle, où le SFT reste la méthode dominante malgré ses limites, et où le RL post-entraînement commence à s'imposer comme alternative pour affiner le comportement en environnement réel. Il s'agit ici d'un article de recherche déposé en preprint, sans lien avec un produit commercialisé ni un déploiement industriel annoncé, et sans mention d'affiliation d'entreprise dans le résumé disponible.

RechercheActu
1 source
Apprentissage par renforcement à entropie de trajectoire pour un apprentissage robuste des compétences motrices des robots
2arXiv cs.RO 

Apprentissage par renforcement à entropie de trajectoire pour un apprentissage robuste des compétences motrices des robots

Des chercheurs publient une nouvelle méthode d'apprentissage par renforcement pour le contrôle robotique, baptisée Trajectory Entropy Reinforcement Learning, décrite dans un article déposé sur arXiv (référence 2505.04193, version 2). Le principe consiste à minimiser l'entropie de la trajectoire complète des actions produites par l'agent, c'est-à-dire le nombre de bits nécessaires pour décrire ces actions une fois les états observés, au lieu de s'appuyer uniquement sur la maximisation de récompense classique. Cette entropie est estimée via un modèle de prédiction d'actions à paramétrage variationnel, utilisé pour construire une fonction de récompense régularisée par l'information ; un algorithme permet ensuite d'optimiser conjointement la politique et ce modèle de prédiction. Testée sur plusieurs tâches de locomotion à haute dimension, la méthode produit des trajectoires d'actions plus cycliques et cohérentes, avec de meilleures performances et une robustesse supérieure au bruit et aux changements dynamiques que les approches de référence. Le résultat cible un point faible connu du RL profond appliqué au contrôle : les politiques neuronales capturent souvent des corrélations complexes et fallacieuses entre observations et actions, ce qui les rend fragiles dès qu'une perturbation légère affecte l'environnement, un frein direct au transfert simulation-vers-réel. En imposant un biais de simplicité mesuré par une quantité d'information plutôt qu'une régularisation ad hoc, ce travail propose un levier générique de robustesse, potentiellement transposable au-delà de la locomotion vers la manipulation ou les tâches de robots mobiles autonomes en environnement non contrôlé, un enjeu central pour tout intégrateur cherchant à sortir de la démonstration en labo. Cette contribution s'inscrit dans une lignée de recherches sur les biais inductifs de simplicité en apprentissage par renforcement, une direction distincte des approches dominantes misant sur l'échelle des données, à l'image des politiques vision-langage-action généralistes type Pi-0 ou GR00T N2. Publié sous forme de révision croisée entre catégories arXiv, l'article reste une contribution académique validée en simulation, sans mention de déploiement matériel, de partenariat industriel ni de calendrier de transfert vers une pile robotique commerciale.

RecherchePaper
1 source
Temporal GRPO : au-delà du crédit au niveau trajectoire dans l'apprentissage par renforcement pour modèles vision-langage-action
3arXiv cs.RO 

Temporal GRPO : au-delà du crédit au niveau trajectoire dans l'apprentissage par renforcement pour modèles vision-langage-action

Des chercheurs publient sur arXiv (référence 2608.13026, nouvelle soumission) une méthode baptisée Temporal GRPO, qui corrige un défaut du post-entraînement par renforcement des politiques vision-langage-action (VLA). Dans l'approche standard dite GRPO, un seul score d'avantage est calculé pour toute une trajectoire de robot et appliqué uniformément à chacune de ses actions. Une trajectoire qui réussit plusieurs étapes valides mais échoue ensuite voit donc pénalisées les actions ayant produit un progrès réel plus tôt, un biais que les auteurs nomment "aliasing du crédit au niveau de la trajectoire". Temporal GRPO découpe chaque tâche en étapes détectables, aligne chaque rollout sur les intervalles d'actions propres à ces étapes, et ne compare entre elles que les trajectoires ayant atteint la même étape ; les avantages calculés par étape sont ensuite appliqués aux intervalles correspondants lors d'une seule mise à jour de la politique. Sur le benchmark de simulation RoboTwin 2.0, la méthode améliore le taux de réussite des tâches et l'efficacité d'échantillonnage, avec des gains constants quel que soit l'horizon des tâches. Sur LIBERO-Long, des mises à jour contrôlées montrent qu'elle préserve les étapes prérequises communes aux trajectoires et concentre l'amélioration précisément à la première étape où les résultats divergent. Ce travail cible un maillon technique précis mais central de l'entraînement des politiques VLA par renforcement : l'attribution du crédit sur des tâches longues et multi-étapes, un problème connu qui limite l'apprentissage à partir du seul signal succès/échec de fin de tâche. Pour les équipes qui post-entraînent des politiques robotiques par renforcement plutôt que par simple imitation, un mauvais découpage du crédit désapprend des comportements pourtant corrects, ralentissant la convergence et gonflant le nombre d'essais nécessaires avant tout transfert vers le réel. Les gains reproductibles observés sur deux benchmarks distincts constituent une preuve technique que le crédit par étape, plutôt qu'au niveau global de la trajectoire, améliore l'efficacité d'échantillonnage, un facteur déterminant pour rendre l'apprentissage par renforcement viable à grande échelle sur des tâches robotiques composites. GRPO (Group Relative Policy Optimization) est une méthode popularisée dans l'entraînement des grands modèles de langage avant d'être reprise pour post-entraîner des politiques VLA à partir d'un signal de succès facile à obtenir à grande échelle. RoboTwin 2.0 et LIBERO-Long sont des environnements de simulation standards du champ, utilisés ici sans déploiement matériel ni annonce de partenariat industriel. L'article ne précise ni affiliation des auteurs ni publication de code ; il s'agit à ce stade d'une contribution méthodologique évaluée uniquement en simulation, susceptible d'intéresser les laboratoires développant des politiques VLA généralistes confrontées aux mêmes limites de crédit lors du passage à l'échelle.

RechercheActu
1 source
Au-delà du pilotage du bruit : apprentissage par renforcement à double espace latent pour les politiques génératives en robotique
4arXiv cs.RO 

Au-delà du pilotage du bruit : apprentissage par renforcement à double espace latent pour les politiques génératives en robotique

Publié sur arXiv le 11 septembre 2026 sous la référence 2609.11270v1, un article lié au dépôt GitHub xianchaoxiu présente DLSRL (Dual-Latent Space Reinforcement Learning), une méthode d'apprentissage par renforcement pour affiner des politiques robotiques génératives préentraînées par démonstration. Le constat de départ : les méthodes de RL existantes se contentent de piloter le bruit initial du générateur, comme dans les politiques de diffusion ou de flow matching, sans jamais toucher aux représentations d'action intermédiaires produites pendant la génération, ce qui dégrade performance et efficacité. DLSRL fait prédire par un réseau acteur deux latentes distinctes, l'une pour le bruit initial qui pilote le comportement généré, l'autre pour la représentation d'action qui module les caractéristiques intermédiaires. Cette seconde latente est projetée en "adapter features" et injectée par connexions résiduelles dans les états cachés des tokens d'action intermédiaires, à l'intérieur d'un générateur qui reste gelé. Le code est publié sur GitHub (xianchaoxiu/DLSRL) ; les tests couvrent plusieurs architectures de politiques génératives et plusieurs tâches de manipulation robotique, sans que le résumé ne détaille de chiffres de temps de cycle ou de taux de réussite précis. Pour les équipes qui affinent par RL des politiques de type diffusion ou flow matching, l'enjeu est concret : jusqu'ici, le RL en ligne appliqué à ces générateurs ne modifiait que l'entrée du processus de débruitage, laissant les représentations internes largement figées et ralentissant l'adaptation à de nouvelles tâches ou conditions. En ajoutant un canal de contrôle au niveau des représentations sans mettre à jour la politique de base, DLSRL vise une adaptation en ligne plus rapide tout en préservant l'investissement de préentraînement, un argument qui parle directement aux intégrateurs cherchant à réduire le coût de réadaptation d'un modèle générique à un site ou une tâche spécifique. Reste que "accélère efficacement" et "performance compétitive" sont des formulations non chiffrées dans le résumé, ce qui invite à lire les résultats expérimentaux complets avant d'en juger l'ampleur réelle. DLSRL s'inscrit dans la lignée des politiques robotiques génératives entraînées par imitation puis affinées par renforcement, un courant porté par la diffusion des politiques de type diffusion et flow matching en manipulation robotique. Les méthodes de fine-tuning par RL précédentes se limitaient au pilotage du bruit d'entrée ; DLSRL se présente explicitement comme un complément à ces approches, pas un remplacement. Il s'agit à ce stade d'une contribution de recherche publiée en preprint, sans lien annoncé avec un acteur industriel, un déploiement sur robot physique, ou un partenaire français ou européen. La suite logique passe par la reproduction des résultats via le code partagé sur GitHub et par des comparaisons indépendantes face aux méthodes de steering de bruit existantes.

RecherchePaper
1 source