Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
RecherchearXiv cs.RO 

Pilotage par états cachés difféomorphes : renforcer la robustesse des politiques d'apprentissage par imitation grâce à la géométrie des états cachés de l'expert

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs proposent, dans un preprint arXiv (2610.21666), une méthode appelée Diffeomorphic Hidden-State Steering (DHS) pour rendre plus robuste une politique d'apprentissage par imitation déjà entraînée, sans nouvelle démonstration ni réentraînement. Les auteurs rejouent les démonstrations expertes à travers la politique figée, un Transformer, pour collecter ses états cachés. Ils constatent que la variation de ces états est concentrée sur peu de dimensions et que les directions qui la portent changent selon la région de l'espace. DHS apprend donc une transformation de coordonnées non linéaire et inversible (un difféomorphisme). Au moment de l'exécution, elle atténue davantage les coordonnées à faible variance experte que les autres, puis reprojette l'état modifié dans l'espace d'origine. Sur quatre tâches de manipulation simulées, la méthode améliore le taux de succès moyen sous bruit d'observation par rapport aux politiques Transformer non modifiées. Les coordonnées non linéaires font mieux que des coordonnées linéaires, en projection dure comme en remise à l'échelle de rang plein. Associée au lissage d'actions, elle dépasse le lissage seul dans certaines tâches seulement.

L'enjeu est la dérive en boucle fermée, où de petites erreurs d'observation ou d'action s'accumulent et font sortir la politique de la distribution des démonstrations. C'est l'une des causes classiques de l'écart entre démo et déploiement. Une correction appliquée au test, qui réutilise uniquement les données déjà collectées, intéresserait les intégrateurs, pour qui la collecte de téléopération est coûteuse. Les preuves restent minces : le résumé ne donne aucun chiffre, tout est testé en simulation sur quatre tâches, et les gains ne sont pas uniformes. Le bruit évalué porte sur les observations, alors que les erreurs d'action sont aussi évoquées. Aucune validation sur robot réel n'est annoncée, donc l'effet sur des déploiements industriels n'est pas démontré.

Cette approche s'inscrit dans la série des remèdes aux erreurs cumulées de l'imitation : collecte interactive de données correctives, injection de bruit pendant l'entraînement, découpage d'actions ou lissage en sortie. DHS se distingue en agissant sur la géométrie interne de la politique plutôt que sur les données ou les actions. La suite logique est un test sur robots physiques et sur des politiques plus grandes, de type VLA (vision-langage-action), pour savoir si la structure à faible dimension observée ici persiste à cette échelle. Le coût d'une passe de rejeu des démonstrations reste à mesurer.

Impact France/UE

Pas d\'impact direct sur la France/UE

Dans nos dossiers

IA physique & VLAarXiv cs.RO

À lire aussi

Unifier l'apprentissage de politiques et la prédiction d'états grâce à la modélisation spatiale du langage
1arXiv cs.RO 

Unifier l'apprentissage de politiques et la prédiction d'états grâce à la modélisation spatiale du langage

Des chercheurs proposent, dans un preprint arXiv (2610.12172), le « Spatial Language Modeling », une approche qui fait apprendre à un seul Transformer autorégressif à la fois la génération d'actions et la prédiction des états futurs d'une scène. Le principe consiste à représenter les contours de la scène, les objectifs, les cibles d'action et les états futurs avec un vocabulaire commun de coordonnées discrètes et de tokens sémantiques. Une grammaire propre à chaque tâche organise ces éléments en séquences spatiales, de sorte qu'un même objectif de prédiction du token suivant couvre le contrôle et la modélisation de l'état. Le modèle est entraîné de zéro en deux temps : un pré-entraînement sur des transitions issues de jeu aléatoire, puis un entraînement conjoint actions et états sur des démonstrations expertes. Pendant le pré-entraînement, les coordonnées d'action enregistrées servent de condition aux prédictions d'état suivantes, mais sont exclues de la perte. En phase de contrôle, le modèle ne décode que les cibles d'action exécutables et met à jour son historique avec les états réellement observés. L'évaluation porte sur la tâche Push-T, en simulation et sur un robot réel. Les auteurs annoncent des performances compétitives en simulation, et un taux de réussite ainsi qu'une couverture de la cible supérieurs à ceux des politiques de référence testées sur robot réel. Pour les équipes qui travaillent sur les politiques de manipulation, l'intérêt tient à la supervision complémentaire apportée par l'apprentissage des effets géométriques des actions. Les ablations indiquent que l'entraînement sur des séquences conjointes action-état améliore le contrôle, et que le pré-entraînement sur du jeu aléatoire apporte un gain supplémentaire. Ce dernier point est pertinent en pratique : ces données sont bon marché à collecter, sans téléopérateur expert. Le même modèle, alimenté avec des trajectoires d'actions fournies, prédit aussi les états successifs de la scène et reproduit les effets du poussage. Il joue donc à la fois le rôle de politique et de modèle du monde léger. Il faut toutefois rester prudent sur la portée de ces résultats. Push-T est un benchmark de poussage planaire d'un objet en forme de T, relativement simple, et le texte ne chiffre pas, dans son résumé, l'écart avec les baselines ni la taille de l'échantillon d'essais réels. La généralisation à des tâches à contacts riches, à de la 3D ou à des préhenseurs multi-doigts reste à démontrer, de même que le passage à l'échelle d'un vocabulaire de coordonnées discrètes. Ce travail s'inscrit dans un mouvement plus large visant à unifier perception, action et prédiction dans des architectures de type langage. Il se distingue des approches VLA (vision-langage-action) dominantes, qui reposent sur de grands modèles pré-entraînés, par un entraînement de zéro, sans pré-entraînement web, et par une représentation entièrement spatiale. Parmi les références habituelles de Push-T figurent les politiques de diffusion, qui servent souvent de base de comparaison, ainsi que les modèles du monde appris pour la planification. Le résumé ne précise ni l'équipe, ni le code, ni d'éventuelles extensions annoncées. Il s'agit à ce stade d'un preprint non évalué par des pairs, sans déploiement industriel associé. La suite logique sera de tester la méthode sur des tâches plus longues, sur des scènes 3D et sur des manipulations avec contacts complexes.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
Accélérer l'exécution des politiques grâce à un apprentissage par renforcement léger : SpeedTuning
2arXiv cs.RO 

Accélérer l'exécution des politiques grâce à un apprentissage par renforcement léger : SpeedTuning

SpeedTuning, un framework d'apprentissage par renforcement décrit dans une prépublication arXiv du 11 août 2026 (arXiv:2608.09138v1), vise à accélérer l'exécution des politiques de manipulation robotique apprises par imitation. Le système apprend à prédire, pour chaque action, la vitesse d'exécution optimale, en complément d'une politique de base déjà entraînée et sans nécessiter de nouvelle collecte de démonstrations. Ses auteurs rapportent un gain de vitesse supérieur à 2,4x par rapport à la politique originale, avec un taux de réussite jugé adéquat, comparé à la fois à la politique de base et à des méthodes d'accélération naïves comme l'interpolation linéaire à vitesse fixe. La méthode a été testée sur des tâches dynamiques et précises, verser un liquide, lancer un objet et saisir un objet, en conditions réelles sur robot. Le problème ciblé touche un point sensible du secteur : les politiques apprises par imitation héritent de la cadence de l'opérateur humain pendant la téléopération de collecte de données, ce qui plafonne structurellement leur vitesse une fois déployées, et aucune méthode établie ne permettait jusqu'ici d'accélérer une politique déjà entraînée sans repasser par une collecte de démonstrations plus rapides et coûteuses en heures de téléopération. En démontrant qu'il est possible de découpler vitesse d'exécution et taux de réussite, SpeedTuning s'adresse directement aux intégrateurs industriels, pour qui le temps de cycle conditionne la rentabilité d'une cellule robotisée. La portée de la démonstration reste toutefois limitée : le gain de 2,4x est une moyenne sur trois familles de tâches testées en laboratoire, pas une garantie généralisable, et l'article ne précise ni la plateforme robotique utilisée ni son nombre de degrés de liberté. Ce travail s'inscrit dans une limitation bien identifiée de l'apprentissage par imitation appliqué à la manipulation robotique, où les politiques de type diffusion ou VLA (vision-language-action) restent bridées par la qualité et la vitesse des démonstrations humaines collectées par téléopération, un goulot d'étranglement sur lequel travaillent plusieurs laboratoires développant des modèles fondation pour la robotique. En proposant une couche d'accélération post-hoc plutôt qu'une nouvelle architecture de politique ou un nouveau mode de collecte, SpeedTuning se positionne comme un complément aux approches existantes plutôt qu'un concurrent direct. Le document, publié en prépublication sur arXiv et non encore évalué par les pairs, ne mentionne aucun partenariat industriel ni date de mise en production : il s'agit pour l'instant d'un résultat de recherche restant à valider sur un éventail plus large de tâches et de plateformes avant toute adoption en environnement industriel.

RecherchePaper
1 source
Robots à trois bras : apprentissage par imitation visuomotrice de politiques robotiques
3arXiv cs.RO 

Robots à trois bras : apprentissage par imitation visuomotrice de politiques robotiques

Voici l'article traduit et résumé. Une équipe de recherche présente TriManPolicy, un système d'apprentissage par imitation conçu pour piloter des robots à trois bras simultanément. Le problème de départ est concret : la téléopération bi-manuelle classique fonctionne bien quand le nombre de canaux de contrôle correspond entre l'opérateur humain et le robot, mais elle échoue dès qu'un robot dispose d'un troisième bras, puisqu'un seul opérateur ne peut piloter en continu que deux membres à la fois. Basculer entre paires de bras force alors à enregistrer des mouvements indépendants de façon séquentielle, ce qui pousse l'apprentissage par clonage comportemental à reproduire des délais imposés par l'interface de contrôle plutôt que par la tâche elle-même. Le composant central de TriManPolicy est le Dependency-Aware Tri-Arm Scheduling (DATS), un algorithme qui retraite les démonstrations hors ligne : il conserve les segments sensorimoteurs locaux tels que démontrés mais les repositionne dans le temps selon des contraintes d'ordre des tâches et d'usage des bras, validées par un humain. Le résultat entraîne une politique unique et synchrone pour les trois bras, sans nécessiter le graphe de dépendances ni le planificateur au moment du déploiement. Sur six tâches réelles complexes, les politiques entraînées sur données retimées par DATS montrent une coordination plus efficace, avec un taux de succès comparable aux méthodes classiques. Cette avancée s'attaque à un goulot d'étranglement peu discuté de la robotique humanoïde et multi-bras : la collecte de données de démonstration reste le facteur limitant pour entraîner des politiques visuomotrices de type VLA, et les systèmes à trois bras ou plus (bras additionnels, mains bimanuelles montées sur base mobile) sont de plus en plus courants dans les plateformes industrielles. En prouvant qu'il est possible de découpler la structure temporelle de la démonstration humaine de celle exigée par la tâche, TriManPolicy ouvre la voie à une collecte de données plus rapide et moins coûteuse pour des architectures robotiques complexes, un enjeu direct pour les intégrateurs qui cherchent à réduire le coût par démonstration sans sacrifier la qualité de coordination entre membres. Ce travail s'inscrit dans la lignée plus large des recherches sur l'apprentissage par imitation visuomoteur, où la majorité des systèmes existants (type ALOHA, Mobile ALOHA ou les plateformes bimanuelles standard) suppose une correspondance stricte entre canaux de téléopération humains et effecteurs robotiques. En proposant une méthode de retiming offline validée par supervision humaine plutôt qu'un simple filtrage des temps morts, les auteurs montrent que DATS modifie réellement la structure de supervision entre bras. Les six tâches testées en conditions réelles suggèrent une piste concrète pour les futurs travaux sur les architectures à quatre bras ou plus, notamment pour les robots humanoïdes à deux bras plus une base mobile ou un troisième effecteur dédié à une tâche auxiliaire.

RecherchePaper
1 source
Adaptation des politiques génériques de robots par apprentissage par renforcement sémantique
4arXiv cs.RO 

Adaptation des politiques génériques de robots par apprentissage par renforcement sémantique

Les auteurs de ce nouvel article arXiv (2606.31958v1) présentent SARL, pour Semantic Action Reinforcement Learning, une méthode d'apprentissage par renforcement pour adapter des politiques robotiques généralistes déjà pré-entraînées, c'est-à-dire des modèles vision-langage-action (VLA) capables d'un large répertoire de comportements. Au lieu d'optimiser directement l'espace des actions du robot, comme le font les approches RL classiques, SARL agit sur l'espace des prompts en langage naturel envoyés au modèle. Concrètement, l'algorithme apprend en ligne, par interaction avec l'environnement, à moduler les instructions textuelles données à la politique pour faire émerger et combiner des compétences déjà présentes dans son répertoire, plutôt que d'apprendre de nouveaux comportements depuis zéro. Les auteurs rapportent des validations à la fois en conditions réelles et sur des bancs d'essai simulés, avec des performances supérieures aux méthodes existantes d'amélioration de comportement en déploiement. L'intérêt de cette approche tient au problème qu'elle cherche à résoudre : les méthodes RL usuelles appliquées à un modèle généraliste supposent que sa distribution d'actions de départ est déjà proche d'une politique performante, une hypothèse qui s'effondre dès que la tâche est longue, complexe ou sort de la distribution d'entraînement initiale. En déplaçant l'optimisation vers l'espace sémantique des prompts, SARL rend l'exploration plus structurée et l'apprentissage en ligne beaucoup plus efficace en données, un enjeu central pour l'industrie robotique où le fine-tuning par interaction réelle reste coûteux et lent. Si les résultats se confirment à plus grande échelle, cela ouvrirait la voie à une adaptation rapide de robots généralistes à des tâches spécifiques d'un site industriel sans réentraînement lourd. Ce travail s'inscrit dans la lignée des politiques robotiques généralistes de type VLA, entraînées sur de larges corpus de démonstrations, dont l'adaptation post-déploiement est devenue un axe de recherche actif face aux limites du simple zéro-shot. Il rejoint d'autres tentatives d'affinage par renforcement de ces modèles, en proposant une alternative à l'optimisation directe des actions. Les auteurs annoncent vouloir approfondir les validations sur des tâches réelles à horizon plus long, sans toutefois préciser de calendrier de déploiement industriel.

RechercheActu
1 source