RecherchearXiv cs.RO 15 octobre 2026

Contrôle de mouvement de bras robotiques conditionné par instructions : décomposition langage-code et apprentissage par renforcement

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Le cadre ICMC (Instruction-Conditioned Motion Control), décrit dans un preprint arXiv, propose de séparer trois étapes du contrôle robotique piloté par le langage: la spécification des paramètres, la génération d'instructions et la synthèse de code. L'objectif est que chaque résultat d'exécution soit traçable jusqu'à l'instruction et au programme qui l'ont produit. Les auteurs comparent une génération en une passe à ICMC avec les modèles o1 et o4-mini, sur des tâches de pick-and-place de cubes et de reconstitution de lettres avec un bras UR5e simulé sous MuJoCo. Ils entraînent ensuite une politique d'instructions à poids ouverts par GRPO, à travers un générateur de code figé, sur des placements de cubes formant des lettres de deux et cinq cubes, en moyennant les récompenses de cinq programmes par instruction. Le taux de récompense positive journalisé passe de 31,6 % à 35,3 % (253 sur 800, puis 282 sur 800) entre les cinq premiers et les cinq derniers pas d'entraînement.

Le point le plus instructif est l'audit des logs. Il relève des labels binaires positifs associés à des messages d'échec géométrique: au moins 19 cas dans la run principale, 18 dans la run à récompense dense et 5 dans la run à un seul programme par instruction. Dans un cas, les cinq récompenses valent 1,0 alors que le journal indique un écart de 0,9515 m pour une tolérance de 0,05 m. Le verdict venait du flux de sortie du programme lui-même, donc du code évalué. Pour les équipes qui entraînent des politiques par RL avec du code généré par LLM, cela illustre un risque concret: quand le signal de succès est produit par le code qu'on évalue, le taux de succès affiché peut être gonflé sans que l'on s'en aperçoive. La hausse de 3,7 points reste modeste. Elle repose en outre sur une seule trajectoire d'entraînement par configuration, ce que les auteurs présentent comme des résultats descriptifs, sans portée statistique.

Ces travaux s'inscrivent dans la lignée des approches «langage vers code» pour la manipulation, où un LLM écrit directement le programme de contrôle, et des méthodes RL à la GRPO appliquées à des modèles de raisonnement. Le contexte est purement académique: simulation, bras unique, tâches simples, aucun déploiement réel ni partenaire industriel. La contribution la plus transférable est un protocole d'évaluation indépendant, qui vérifie l'achèvement de la tâche par rapport à des spécifications fixes et sépare le contrôle du robot de l'évaluation du succès. Les auteurs distinguent explicitement les taux de récompense journalisés de la réussite vérifiée de façon indépendante. Reste à voir si ce protocole sera repris sur des tâches plus variées, avec plusieurs graines d'entraînement et sur du matériel réel.

Dans nos dossiers

arXiv cs.RO

À lire aussi

1arXiv cs.RO

Composition de compétences pour l'apprentissage par renforcement des robots à pattes

Un article de recherche publié sur arXiv (référence 2609.14647v1, soumission de type "new") intitulé "Skill Composition for Legged Robot Reinforcement Learning" pose un constat simple sur l'état de l'art en robotique humanoïde : les robots à pattes, et les humanoïdes en particulier, maîtrisent de mieux en mieux des comportements isolés, chacun obtenu par l'entraînement d'un contrôleur spécialisé par apprentissage par renforcement. Ces politiques spécialisées s'entraînent vite, convergent de façon fiable puisqu'elles ne traitent qu'un problème restreint, et peuvent être validées indépendamment les unes des autres, trois propriétés qu'une politique unique de bout en bout censée tout couvrir ne possède pas. Le point faible identifié par les auteurs n'est pas l'acquisition des compétences elles-mêmes, mais la transition entre elles : le passage de contrôle d'une politique à une autre reste fragile et mal maîtrisé. L'argument central du papier est que la composition de sous-politiques indépendantes mérite d'être traitée comme un problème de recherche à part entière, et non comme un détail d'implémentation confié au premier mécanisme disponible. Une composition fiable est ce qui transforme une collection de compétences isolées en un répertoire réellement exploitable, extensible et partageable, un enjeu direct pour les intégrateurs qui cherchent à assembler des bibliothèques de comportements réutilisables plutôt que de réentraîner un modèle monolithique à chaque nouvelle tâche. Plus fondamentalement, si le contrôle peut être transféré entre politiques spécialisées de façon sûre et à tout moment, le choix de l'action suivante peut être délégué à un composant de nature différente, comme un planificateur, un automate ou un contrôleur symbolique, dont le comportement est inspectable à l'avance. Les politiques n'auraient alors plus qu'à agir, tandis que ce que le robot est autorisé à faire deviendrait vérifiable, un argument qui va à contre-courant de la course actuelle aux politiques VLA de bout en bout, à l'image de Pi-0, GR00T N2 ou Helix, et qui remet en avant l'intérêt de l'architecture modulaire pour la certification et la sécurité en environnement industriel. Il s'agit d'un article de position et de méthode, sans résultats chiffrés, démonstration matérielle ni annonce de déploiement dans le résumé disponible : aucun robot, aucune entreprise ni aucun site de test n'y sont cités, ce qui le distingue nettement des communiqués produits du secteur. Il s'inscrit dans un débat plus large qui oppose, d'un côté, les laboratoires misant sur des politiques vision-langage-action entraînées de bout en bout pour couvrir un maximum de tâches avec un seul réseau, et de l'autre, une tradition de robotique plus classique fondée sur la planification hiérarchique et les automates symboliques. En proposant de faire de la composition de compétences un objet de recherche autonome, les auteurs ouvrent une voie intermédiaire entre ces deux approches, sans préciser dans l'abstract de calendrier, de prototype ou de partenariat industriel concret pour la suite des travaux.

RecherchePaper

1 source

2arXiv cs.RO

Efficacité de l'apprentissage par renforcement en ligne pour la manipulation robotique via entraînement centralisé et décomposition du critique

Une équipe de recherche présente HIL-HARC, une méthode d'apprentissage par renforcement en ligne appliquée directement sur des bras robotiques réels, sans phase de simulation préalable et avec intervention humaine ponctuelle pendant l'entraînement. Le système combine un entraînement centralisé à exécution décentralisée (CTDE) avec une architecture de récompense hybride (HRA) : plusieurs bras partagent un même critique multi-tête, décomposé en une tête "tâche" liée à une récompense éparse et une tête "préhension" fondée sur un potentiel de saisie. Les objectifs du critique et de l'acteur ont été reformulés pour exploiter ces valeurs Q décomposées, en tenant compte de la distribution catégorielle propre au contrôle discret de la pince. La méthode a été testée sur deux bras robotiques réels et sur un robot humanoïde simulé, pour des tâches de préhension-dépôt d'une balle de tennis et d'une banane, de repositionnement d'une casserole, et de déplacement de blocs en simulation, avec une plage de randomisation de domaine 5 à 25 fois plus large que dans les travaux antérieurs. Comparée à une référence de l'état de l'art, la méthode fait passer le taux de réussite de 60% à 80% sur la balle de tennis, de 60% à 90% sur la banane, et de 25% à 95% sur le déplacement de blocs simulé, tout en réussissant une tâche sur laquelle la référence échoue systématiquement. Ce résultat s'attaque à deux limites connues du RL en ligne avec intervention humaine : la faible tolérance aux variations d'environnement, jusqu'ici restreinte à de petites plages de randomisation, et l'instabilité provoquée par l'entraînement simultané de plusieurs agents, qui rend les cibles d'apprentissage non stationnaires. En montrant qu'un critique centralisé partagé absorbe une randomisation bien plus large tout en améliorant l'efficacité d'échantillonnage, ces travaux nuancent l'idée selon laquelle seule une simulation massive permettrait d'obtenir des politiques robustes aux variations physiques. Pour les intégrateurs et équipes de R&D en manipulation robotique, cela ouvre une piste pour affiner des politiques directement sur site industriel, sans dépendre d'un pipeline sim-to-real coûteux à calibrer, un enjeu d'autant plus actuel que les architectures vision-langage-action cherchent à généraliser au-delà de démonstrations scriptées. Le travail s'inscrit dans la lignée du RL avec intervention humaine en temps réel, en réutilisant des briques issues du RL multi-agent, l'entraînement centralisé à exécution décentralisée et la décomposition de récompense, pour les appliquer à un contexte mono-robot multi-tâche. Aucun système commercial n'est nommé dans la comparaison, et l'ensemble reste à ce stade un résultat de recherche publié en préprint sur arXiv plutôt qu'un produit déployé : les essais réels se limitent à un nombre restreint de tâches de préhension, et le volet humanoïde n'a été validé qu'en simulation. Les auteurs mettent à disposition vidéos et détails complémentaires sur un site dédié, sans annoncer de calendrier de transfert vers un humanoïde physique ni de partenariat industriel.

RecherchePaper

1 source

3arXiv cs.RO

Une seule démonstration suffit pour l'apprentissage par renforcement robotique en conditions réelles

Des chercheurs présentent AutoSERL, un framework d'apprentissage par renforcement (RL) pour robots qui n'a besoin que d'une seule démonstration humaine pour apprendre des tâches de manipulation complexes en conditions réelles, sans intervention humaine continue pendant l'entraînement. Le système repose sur trois mécanismes complémentaires : une fenêtre glissante d'intervention qui guide l'exploration pour éviter les minima locaux et les mouvements dangereux, un mécanisme de récupération de sécurité qui détecte les échecs et corrige la trajectoire via des points de reprise prédéfinis, et un critère d'arrêt automatique qui coupe le guidage dès que la politique apprise devient autonome. Les auteurs ont testé AutoSERL sur six tâches de manipulation à contact intensif (insertion, accrochage, tâches à charnière) réparties sur deux plateformes robotiques différentes. Le framework atteint 100% de réussite sur les tâches d'insertion et dépasse systématiquement SERL entraîné avec 20 démonstrations, l'apprentissage par imitation classique (behavior cloning) et MILES, une méthode dédiée à l'apprentissage en un coup, tout en égalant les performances de HIL-SERL qui nécessite lui une supervision humaine continue. L'intérêt pour l'industrie tient à la réduction drastique du coût de collecte de données, généralement le principal frein au déploiement de RL sur du matériel physique. La plupart des approches existantes exigent soit des dizaines de démonstrations, soit un opérateur qui intervient en permanence pendant l'entraînement, ce qui limite le passage à l'échelle en usine ou en intégration industrielle. En automatisant l'intervention à partir d'un seul exemple tout en conservant une robustesse aux variations de position des pièces, AutoSERL rapproche le RL réel de tâches d'assemblage fin, un terrain où les approches purement basées sur l'imitation ou les politiques VLA préentraînées peinent encore à garantir une fiabilité industrielle. Ce travail s'inscrit dans la lignée de SERL et HIL-SERL, frameworks de référence pour le RL avec intervention humaine sur robots physiques, en cherchant à supprimer leur principale contrainte opérationnelle. Le code et les vidéos de démonstration sont publiés par les auteurs sur un site dédié, mais le papier, déposé sur arXiv le 1er juillet 2026, reste à ce stade une contribution de recherche académique évaluée en laboratoire sur deux plateformes robotiques, sans indication de déploiement industriel ni de partenariat commercial annoncé.

RecherchePaper

1 source

4arXiv cs.RO

Comparaison quantitative du contrôle centralisé et distribué par apprentissage par renforcement pour bras robotiques souples

Une étude parue sur arXiv (2511.02192, version révisée) compare deux architectures d'apprentissage par renforcement multi-agent pour piloter un bras robotique souple, modélisé en simulation comme une tige de Cosserat via PyElastica et l'interface OpenAI Gym. Sous budget d'entraînement identique, les auteurs opposent un contrôleur centralisé global fondé sur Proximal Policy Optimisation (PPO) à une version distribuée multi-agent, MAPPO, le bras étant découpé en n sections contrôlées indépendamment. Trois scénarios sont testés en faisant varier n : atteinte d'une cible en conditions nominales, récupération après perturbation externe, et adaptation à une panne d'actionneur, évalués via amplitude d'action, distance finale à la cible, longueur d'épisode et taux de réussite. Les résultats révèlent un arbitrage net. Pour n≤4, la politique distribuée n'apporte aucun gain mesurable, et pour n≤2 la politique centralisée reste supérieure. Entre 4 et 12 sections, la version distribuée prend l'avantage : meilleur taux de réussite, meilleure résilience aux perturbations et aux pannes d'actionneurs, robustesse accrue en observabilité locale, convergence plus rapide à volume d'échantillons égal. La politique centralisée demeure toutefois bien plus rapide en temps de calcul réel pour entraîner un même volume d'échantillons. Pour la robotique souple, domaine où le contrôle reste un verrou faute de modèles dynamiques fiables, cette grille de décision (nombre de sections, budget de calcul disponible, besoin de tolérance aux pannes) aide à choisir une architecture avant un transfert sim-to-real, historiquement fragile pour ces manipulateurs continus de type tige. Le travail s'inscrit dans les efforts pour étendre l'apprentissage multi-agent, déjà éprouvé en robotique modulaire ou en essaims, au contrôle d'organes continus souples, un terrain moins documenté. La modélisation en tige de Cosserat, standard en simulation de robotique souple, capte la déformation continue du bras sans discrétisation rigide artificielle. En balayant systématiquement une plage de complexité de 2 à 12 sections plutôt qu'un cas unique, l'étude dépasse la démonstration ponctuelle pour proposer une méthode reproductible de dimensionnement des architectures de contrôle. Les auteurs présentent ces résultats comme un point de départ pour de futurs transferts sim-to-real sur bras souples, sans validation sur robot physique ni calendrier annoncé à ce stade : le travail reste pour l'instant purement en simulation.

RecherchePaper

1 source