Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
VersualRL : apprentissage par renforcement verbal en boucle fermée avec retour visuel pour la planification robotique au niveau des tâches
RecherchearXiv cs.RO 

VersualRL : apprentissage par renforcement verbal en boucle fermée avec retour visuel pour la planification robotique au niveau des tâches

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

VersualRL est un système en boucle fermée pour la planification de tâches robotiques qui exploite le retour visuel d'exécution afin d'affiner en continu des arbres de comportement (Behavior Trees) exécutables, via des critiques formulées en langage naturel structuré. L'architecture associe un modèle vision-langage jouant le rôle de critique, chargé d'analyser les observations visuelles et les traces d'exécution de l'arbre de comportement, à un grand modèle de langage jouant le rôle d'acteur, qui applique des mises à jour de politique discrètes et interprétables. Point notable : pendant le déploiement physique, les deux modèles fondation restent gelés, seul l'arbre de comportement est modifié au niveau symbolique, sans optimisation de politique par descente de gradient en ligne. Les auteurs ont validé leur approche sur un robot mobile réel exécutant une tâche de navigation et de manipulation en plusieurs étapes, dans des conditions d'incertitude d'exécution. Le papier, disponible sur arXiv (2603.22169), en est à sa troisième version.

L'intérêt pour l'industrie robotique tient à l'absence de réentraînement par gradient sur le terrain, une contrainte lourde et coûteuse pour du réel. En figeant les modèles fondation et en ne modifiant que la structure symbolique du plan, VersualRL produit un raisonnement traçable et des évolutions de politique compréhensibles par un humain, un atout pour les intégrateurs et décideurs B2B soucieux d'auditabilité et de sécurité plutôt que de politiques neuronales opaques. Cette approche répond directement à l'écart classique entre démonstration et réalité observé sur le terrain, en offrant un mécanisme explicite de correction des échecs d'exécution plutôt qu'un simple ajustement statistique.

Le travail s'inscrit dans une tendance qui combine raisonnement de modèles de fondation et contrôle symbolique classique, les arbres de comportement étant déjà largement utilisés en robotique industrielle pour la prise de décision hiérarchique. Il se distingue des approches bout-en-bout de type VLA (GR00T N2, Helix, Pi-0), qui misent sur des politiques neuronales continues, en privilégiant l'interprétabilité à la dextérité brute. L'abstract ne précise ni calendrier ni extension prévue à des tâches de manipulation plus complexes, laissant ces suites ouvertes.

Dans nos dossiers

NVIDIA GR00TarXiv cs.RO

À lire aussi

RoboGPT-R1 améliore la planification des tâches robotiques grâce à l'apprentissage par renforcement
1arXiv cs.RO 

RoboGPT-R1 améliore la planification des tâches robotiques grâce à l'apprentissage par renforcement

Des chercheurs ont publié RoboGPT-R1, un framework d'entraînement en deux étapes conçu pour améliorer la planification de tâches des agents robotiques incarnés, présenté dans un preprint arXiv (2510.14828, version 3). Le système repose sur une séquence supervisée classique, qui ancre les connaissances fondamentales via des démonstrations expertes, suivie d'un apprentissage par renforcement (RL) ciblé sur les lacunes en compréhension visuo-spatiale et en raisonnement multi-étapes. Le modèle de base choisi est Qwen2.5-VL-3B, un vision-language model open-source de 3 milliards de paramètres. Les résultats publiés sur le benchmark EmbodiedBench montrent que RoboGPT-R1 dépasse GPT-4o-mini de 21,33 points de pourcentage, et surclasse d'autres approches entraînées sur Qwen2.5-VL-7B de 20,33 points, ce dernier disposant pourtant de plus du double de paramètres. Le cœur technique du framework est une fonction de récompense basée sur des règles qui prend en compte simultanément les performances à long horizon et les contraintes d'action dans l'environnement physique simulé. Ces résultats viennent étayer une thèse qui s'impose progressivement dans la communauté robotique : le fine-tuning supervisé seul génère des agents fragiles hors distribution, en particulier pour les tâches de manipulation longue séquence dans des environnements non contrôlés. RoboGPT-R1 démontre qu'un modèle compact peut surpasser des architectures significativement plus grandes dès lors que le RL est utilisé pour affiner la compréhension physique et la cohérence des séquences d'actions. Pour les équipes d'intégration et les responsables techniques, cela pointe vers une trajectoire viable vers des solutions embarquables sur hardware contraint, sans sacrifier les capacités de planification complexe. Un écart de 21 points sur un benchmark spécialisé par rapport à GPT-4o-mini indique que la spécialisation domaine via RL compense largement le désavantage de taille brute. RoboGPT-R1 s'inscrit dans une dynamique post-SFT amplifiée depuis fin 2024, en large partie accélérée par les travaux DeepSeek-R1 qui ont popularisé le RL comme levier de raisonnement pour les LLMs. Dans le champ robotique, Physical Intelligence avec Pi-0 et Pi-0.5, Google DeepMind avec GR00T N2 et RT-X, ou encore OpenVLA, explorent des trajectoires d'alignement vision-language-action (VLA) comparables. RoboGPT-R1 se distingue par son positionnement sur la planification symbolique de haut niveau plutôt que le contrôle moteur bas niveau, et par sa base Qwen2.5-VL open-source qui favorise la reproductibilité. Important à noter : il s'agit à ce stade exclusivement d'une validation sur EmbodiedBench, un benchmark simulé. Aucun déploiement physique n'est annoncé et le sim-to-real gap, question centrale pour tout passage en production, reste une problématique que l'article ne traite pas.

RechercheOpinion
1 source
WorldSample : apprentissage par renforcement en boucle fermée sur robot réel avec modélisation du monde
2arXiv cs.RO 

WorldSample : apprentissage par renforcement en boucle fermée sur robot réel avec modélisation du monde

Des chercheurs présentent WorldSample, un framework d'apprentissage par renforcement (RL) pour robots réels qui combine rollouts physiques et modèle du monde génératif afin de réduire le coût des interactions réelles. Le système ferme une boucle "réel-synthétique" : à partir de trajectoires observées sur un robot physique, un modèle du monde post-entraîné génère des transitions synthétiques haute fidélité, limitant fortement les hallucinations visuelles typiques de ces modèles génératifs. Plutôt que de traiter ces données synthétiques comme de simples remplacements de l'expérience réelle, les auteurs introduisent le Policy-Paced Learning (PPL), un mécanisme de sélection et d'ordonnancement des échantillons qui équilibre l'apport de l'augmentation de données contre le risque de surestimation de la valeur et le bruit induit par les hallucinations résiduelles. Sur des tâches de manipulation robotique riches en contacts et exigeant une précision fine, WorldSample améliore le taux de réussite des politiques de 28% tout en réduisant de 59% le nombre d'étapes d'entraînement nécessaires, par rapport aux méthodes de référence. La fidélité visuelle du modèle du monde progresse également nettement : +19,4dB en PSNR et +0,47 en SSIM par rapport à un post-entraînement uniquement basé sur les démonstrations. L'enjeu dépasse la simple performance : le RL sur robot réel reste handicapé par le coût de chaque rollout physique, qui ne révèle qu'un seul chemin action-résultat parmi d'innombrables possibles. En générant des variations synthétiques crédibles autour de trajectoires réelles, WorldSample attaque directement ce goulot d'étranglement, un problème central pour tout acteur cherchant à déployer du RL au-delà du simple apprentissage par imitation, limité par la couverture des démonstrations disponibles. C'est aussi une réponse concrète au problème classique de la surestimation de valeur en RL offline et à l'écart de fidélité (sim-to-real) qui plombe habituellement les modèles du monde utilisés comme simulateurs d'entraînement. Le travail s'inscrit dans la lignée des recherches récentes sur les modèles du monde appliqués à la robotique, où la génération vidéo/action sert de simulateur bon marché pour compléter des données réelles rares. Contrairement aux approches purement génératives qui risquent d'halluciner des dynamiques physiques irréalistes, WorldSample ancre systématiquement sa génération sur des rollouts réels et régule l'usage des données synthétiques via PPL. L'article, publié sur arXiv (2607.02431, catégorie "new"), ouvre la voie à des extensions vers d'autres familles de tâches manipulatoires et à une meilleure compréhension du compromis entre volume d'augmentation synthétique et risque d'erreur cumulée en boucle fermée.

RecherchePaper
1 source
Comparaison des espaces d'action en apprentissage par renforcement pour la manipulation robotique basée sur la vision
3arXiv cs.RO 

Comparaison des espaces d'action en apprentissage par renforcement pour la manipulation robotique basée sur la vision

Des chercheurs ont publié le 23 juin 2026 une étude comparative systématique (arXiv:2606.18594) évaluant quatre types d'espaces d'action en apprentissage par renforcement (RL) pour la manipulation robotique visuelle : l'incrément de pose, la vitesse de pose, l'incrément de position articulaire, et la vitesse articulaire. Les politiques ont été entraînées en simulation puis déployées sur robot réel via transfert sim-to-réel, sur deux tâches benchmark : la saisie d'objet et la poussée d'objet. Résultat principal : l'espace d'action en vitesse articulaire (joint velocity) surpasse les trois autres alternatives, aussi bien en fluidité de mouvement qu'en performance finale sur les deux tâches testées. Ce résultat a une portée pratique directe pour les ingénieurs qui conçoivent des systèmes de manipulation autonome. Le choix de l'espace d'action est une décision d'architecture souvent sous-documentée dans la littérature RL appliquée, et les praticiens se retrouvent fréquemment à tâtonner empiriquement. En démontrant que la vitesse articulaire favorise à la fois la sécurité (mouvements plus lisses, moins de à-coups) et la performance sur des tâches visuelles, l'étude fournit une recommandation actionnable. Elle confirme aussi que le gap sim-to-réel dépend non seulement de la politique apprise, mais de la représentation même des actions, un levier souvent négligé dans les pipelines de transfert. Pour les intégrateurs travaillant avec des bras industriels ou des cobots, cette granularité de contrôle peut directement influer sur la durée de vie mécanique et la robustesse opérationnelle. L'étude s'inscrit dans un courant de recherche croissant sur la robustesse du transfert sim-to-réel pour la manipulation visuelle, aux côtés de travaux sur les politiques visuomotrices à base de transformeurs (VLA) comme pi-0 de Physical Intelligence ou les approches diffusion-policy popularisées par Columbia et Toyota Research Institute. Contrairement à ces méthodes qui s'intéressent à l'architecture du modèle, ce papier intervient en amont, au niveau du signal de commande lui-même. Les auteurs annoncent des recommandations pratiques pour le choix d'espace d'action selon le contexte (simulation seule ou déploiement réel), ce qui en fait une référence méthodologique utile pour les équipes démarrant un projet RL sur hardware.

RecherchePaper
1 source
Squint : apprentissage par renforcement visuel rapide pour la robotique, du simulateur au réel
4arXiv cs.RO 

Squint : apprentissage par renforcement visuel rapide pour la robotique, du simulateur au réel

Une équipe de recherche a publié une version mise à jour (v2) de son article sur arXiv, référencé 2602.21203, décrivant Squint, une méthode d'apprentissage par renforcement visuel fondée sur l'algorithme Soft Actor-Critic. Squint combine simulation parallèle, un critique distributionnel, une technique de réduction de résolution d'image baptisée "résolution squinting", une normalisation par couches, un ratio mise à jour/données optimisé et une implémentation logicielle accélérée. Les auteurs introduisent aussi le SO-101 Task Set, une nouvelle suite de huit tâches de manipulation construite dans le simulateur ManiSkill3, avec une randomisation de domaine poussée pour forcer la robustesse des politiques apprises. Résultat chiffré central : l'entraînement complet tient en 15 minutes sur un unique GPU RTX 3090, la majorité des huit tâches convergeant en moins de 6 minutes, et les politiques ainsi obtenues sont transférées avec succès à un bras robotique SO-101 réel, sans réentraînement supplémentaire signalé. L'enjeu dépasse la simple prouesse technique : le RL visuel est historiquement écarté en robotique car les méthodes off-policy, économes en données, restent lentes en temps réel, tandis que les méthodes on-policy se parallélisent facilement mais consomment beaucoup d'échantillons. Des travaux récents avaient déjà montré qu'une méthode off-policy pouvait battre l'on-policy en temps horloge pour du contrôle basé sur des états, mais l'extension à des entrées visuelles haute dimension restait un verrou, à cause du coût de stockage et d'encodage des images. En démontrant un cycle d'entraînement à l'échelle de la minute sur du matériel grand public, Squint réduit fortement la barrière à l'entrée pour prototyper des politiques visuomotrices en sim-to-real, un argument direct pour les laboratoires et intégrateurs qui cherchent à itérer vite sans cluster GPU dédié. Le SO-101 est un bras robotique peu coûteux popularisé dans l'écosystème open source de la robotique d'apprentissage, ce qui facilite la reproductibilité annoncée par les auteurs. L'article se positionne explicitly contre les approches on-policy et les méthodes off-policy visuelles antérieures jugées trop lentes en pratique. À ce stade, il s'agit d'un résultat de recherche publié sur arXiv, validé sur une suite de tâches maison et un seul robot réel, non d'un produit ou d'un déploiement industriel ; aucune feuille de route commerciale n'est mentionnée.

RecherchePaper
1 source