RecherchearXiv cs.RO 5 novembre 2026

Corriger les robots avant l'erreur : intervention humaine proactive par apprentissage des préférences

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs du groupe Intuitive Robots proposent PHIL (Proactive Human-in-the-Loop), un cadre de correction de politiques robotiques et de post-entraînement par préférences, décrit dans un article arXiv publié début novembre 2026. Le principe: l'opérateur visualise à l'avance, via une interface de réalité étendue (XR), les mouvements futurs prédits par la politique, directement superposés à l'espace de travail physique, et peut prendre la main avant qu'une action indésirable ne se produise. Pendant la reprise en main, le système continue d'interroger la politique et d'afficher ses trajectoires prédites. Chaque prédiction rejetée est ensuite appariée avec le segment d'actions correctif exécuté par l'opérateur depuis le même état physique et sur le même horizon temporel. Le post-entraînement par préférences pousse alors la politique à favoriser ces corrections. L'évaluation porte sur quatre tâches de manipulation réelles, avec une politique de diffusion (diffusion policy) et une politique vision-langage-action (VLA) préentraînée, X-VLA. Avec seulement cinq épisodes de correction par condition, le taux de succès moyen passe de 44,0 % à 70,3 % pour la diffusion policy et de 57,8 % à 76,9 % pour X-VLA, par rapport à HG-DAgger.

L'intérêt tient au point de départ de la correction. Les méthodes de type HG-DAgger font intervenir l'humain une fois l'erreur commencée ou visible, ce qui produit des données de récupération, c'est-à-dire des comportements de rattrapage après dérive. PHIL intervient en amont, et les auteurs observent que les politiques ainsi entraînées montrent moins de comportements de récupération inutiles dans les épisodes réussis, donc des exécutions plus directes. Pour les intégrateurs et les équipes qui déploient des VLA sur site, le message est pratique: un budget de correction très réduit, de l'ordre de quelques épisodes, peut suffire à gagner 19 à 26 points de succès moyen, ce qui réduit le coût de l'adaptation d'une politique générale à une tâche ou un poste précis. Il faut toutefois rester prudent: quatre tâches de laboratoire, un nombre limité d'essais et une comparaison à une seule méthode de référence ne permettent pas de conclure à une robustesse en production, et l'approche suppose un équipement XR et un opérateur capable d'anticiper visuellement les erreurs.

Ce travail s'inscrit dans la lignée de l'apprentissage interactif par imitation (DAgger, HG-DAgger) et des méthodes d'alignement par préférences, empruntées aux grands modèles de langage, désormais appliquées aux politiques robotiques. Il converge avec la tendance actuelle à post-entraîner des VLA généralistes plutôt que de les réentraîner, tendance suivie par des acteurs comme Physical Intelligence avec Pi-0, NVIDIA avec GR00T ou Figure avec Helix, qui s'appuient eux aussi sur des boucles de correction humaine ou d'apprentissage par renforcement. PHIL reste à ce stade un résultat de recherche, sans produit ni déploiement annoncé. Les prochaines étapes à surveiller sont des tests sur des tâches plus longues, d'autres architectures de VLA et des comparaisons avec des méthodes de correction plus récentes. La page du projet est hébergée par le groupe Intuitive Robots.

Dans nos dossiers

IA physique & VLA NVIDIA GR00T Physical Intelligence — π0 arXiv cs.RO

À lire aussi

1arXiv cs.RO

Apprentissage par renforcement avec supervision humaine calibré sur les préférences pour la manipulation robotique

Une équipe de chercheurs publie dans un préprint arXiv daté du 3 juin 2026 PACT (Preference-calibrated Actor-Critic Training), un cadre d'apprentissage par renforcement avec supervision humaine (HIL-RL) pour la manipulation robotique. Le problème ciblé est connu : quand un opérateur reprend la main pour corriger le robot, les trajectoires collectées contiennent des segments suboptimaux que les méthodes actuelles propagent indistinctement dans le calcul des récompenses, surestimant les Q-valeurs et biaisant la politique vers des comportements sous-performants. PACT introduit un modèle de progression entraîné sur des démonstrations humaines pour identifier ces segments défaillants, puis construit des paires de préférence entre l'action correctrice humaine et l'action rééchantillonnée de la politique au même état d'intervention. Cette comparaison génère un avantage contrefactuel qui pénalise les cibles de Bellman sur les segments suboptimaux, complété par un alignement direct de la politique sur les actions correctives dans l'espace des moyennes bornées. Sur cinq tâches de manipulation réelle-robot, PACT affiche une amélioration moyenne du taux de succès de 24,5 % et une convergence 1,3 fois plus rapide que les méthodes HIL-RL de référence. Le code est disponible en open source sur dépôt GitHub anonymisé. Ces résultats s'attaquent à un goulot d'étranglement pratique du HIL-RL : la supervision humaine améliore l'efficacité en échantillons, mais introduit du bruit quand les corrections arrivent après plusieurs actions déjà incorrectes. En extrayant les signaux de préférence implicitement des interventions, sans annotation post-hoc coûteuse, PACT permet à un opérateur non-expert d'intervenir naturellement pendant l'entraînement sans dégrader la qualité des données. La convergence accélérée réduit directement le temps d'adaptation sur de nouvelles tâches, un facteur critique pour le déploiement en environnements industriels variables. Le HIL-RL s'appuie sur des travaux fondateurs comme DAgger (Ross et al., 2011) et IWR (Mandlekar et al., 2020), complétés par des variantes comme HG-DAgger, qui pondèrent les transitions différemment sans toutefois distinguer explicitement les segments suboptimaux. PACT se positionne comme une extension ciblée de cette famille. La manipulation robotique est par ailleurs traversée par les approches VLA (Vision-Language-Action), comme pi-0 de Physical Intelligence ou GR00T N2 de NVIDIA, qui misent sur la généralisation zero-shot, une stratégie complémentaire plutôt qu'opposée au fine-tuning supervisé par intervention humaine. Le préprint, non encore peer-reviewed, ne mentionne ni partenaires industriels ni calendrier de déploiement ; la distance entre banc de test robotique de laboratoire et production industrielle reste entière.

UEImpact indirect : ce cadre HIL-RL open-source pourrait accélérer les travaux des équipes européennes de robotique industrielle cherchant à réduire le coût d'adaptation de robots à de nouvelles tâches en production.

RecherchePaper

1 source

2arXiv cs.RO

Repenser les implications du retour humain pour l'apprentissage des préférences dans la collaboration homme-robot

Une équipe de recherche en interaction homme-robot publie sur arXiv (2609.13982) une remise en cause de la méthode standard d'apprentissage des préférences pour le comportement des robots collaboratifs. Cette méthode standard fonctionne en trois étapes : le robot collecte un feedback humain direct limité, généralement binaire (positif ou négatif) ; il en déduit ensuite des étiquettes "acceptée" ou "rejetée" pour des actions faisables mais non choisies, via des règles d'implication fixes préétablies ; puis il met à jour son modèle de récompense avec l'ensemble de ces données. Une étude utilisateur menée sur deux environnements de simulation collaboratifs montre que les étiquettes d'implication réellement données par les humains divergent souvent de ce que prédit la règle fixe, et que l'usage des étiquettes humaines réelles améliore nettement l'apprentissage de récompense avec l'algorithme PIE (Preference Learning from Implicit and Explicit Feedback). Les chercheurs proposent en réponse IMPLIED, une méthode qui utilise la règle fixe comme simple point de départ tout en apprenant à inférer et corriger les étiquettes au fil des interactions. Testée sur des trajectoires d'interaction homme-robot enregistrées ainsi que sur une étude avec un robot physique préparant des pizzas, IMPLIED prédit les implications humaines plus fidèlement que la règle fixe et que des références basées sur des LLM, en se rapprochant des performances d'un oracle utilisant directement des étiquettes humaines. Ce résultat questionne une hypothèse implicite largement répandue dans la conception des systèmes de robots collaboratifs : que des règles logiques figées suffisent à extrapoler les préférences humaines au-delà du feedback explicite donné. Pour les concepteurs de robots d'assistance ou de cobots industriels, cela signifie que les modèles de récompense actuels risquent de mal interpréter systématiquement l'intention des opérateurs sur les actions non directement évaluées, ce qui peut se traduire par un comportement robotique perçu comme irrationnel ou mal aligné en situation réelle de collaboration. En réduisant l'erreur d'estimation des préférences, IMPLIED promet des robots capables de s'adapter plus vite et plus fidèlement à un opérateur humain sans multiplier les sollicitations de feedback, un enjeu direct pour l'efficacité des déploiements en environnement partagé homme-robot. Le travail s'inscrit dans la lignée des approches d'apprentissage de préférences par renforcement inverse appliquées à la robotique collaborative, où l'algorithme PIE sert de référence pour combiner feedback explicite et implicite. En comparant IMPLIED à la fois à la règle fixe classique et à des références utilisant des grands modèles de langage, les auteurs positionnent leur méthode comme une alternative apprise et adaptative aux heuristiques statiques du domaine. La validation combine environnements simulés et un cas d'usage physique concret de fabrication culinaire, suggérant une voie vers une intégration future dans des architectures de robots collaboratifs déployés en usine ou en environnement de service.

RecherchePaper

1 source

3arXiv cs.RO

Apprentissage de compétences réactives de football par vision pour robots humanoïdes

Une équipe de recherche présente, dans une version mise à jour d'un preprint arXiv (2511.03996v2), un contrôleur basé sur l'apprentissage par renforcement qui permet à des robots humanoïdes d'acquérir des réflexes de football pilotés par la vision, en couplant directement perception visuelle et contrôle locomoteur plutôt que de séparer les deux étapes dans un pipeline modulaire. Entraîné en simulation avec des "adversarial motion priors" pour produire des mouvements naturels, le système repose sur une architecture encodeur-décodeur et un module de perception virtuelle reproduisant le bruit et les échecs de détection d'une caméra embarquée. Le robot exécute ainsi, avec la seule vision embarquée, la recherche du ballon, sa poursuite et des frappes multidirectionnelles. Face à une méthode de référence basée sur des règles fixes, l'erreur d'estimation de la position du ballon chute de 46%, le temps avant frappe diminue jusqu'à 64%, et le taux de réussite atteint environ 90% en zone offensive, testé lors de compétitions RoboCup réelles. Ce résultat contredit une pratique répandue en robotique humanoïde, qui consiste à séparer perception et contrôle ou à supposer une détection quasi parfaite. En intégrant l'incertitude visuelle directement dans l'apprentissage de la politique, les auteurs montrent qu'un contrôleur de bout en bout peut rester réactif malgré un bruit de détection réaliste, fréquent dès la sortie du laboratoire. Pour les équipes travaillant sur des humanoïdes destinés à des environnements dynamiques, au-delà du seul football, cette boucle fermée perception-contrôle suggère une piste généralisable à des tâches de manipulation ou de navigation exigeant une adaptation continue sous perception dégradée, un enjeu clé pour combler l'écart entre simulation et conditions réelles. Il s'agit d'une contribution académique publiée sur arXiv en version révisée, non d'une annonce de produit commercial: aucune entreprise ni modèle de robot n'est nommé, la validation s'appuyant sur une plateforme générique testée dans le cadre de la RoboCup Humanoid League, compétition où plusieurs équipes universitaires confrontent depuis des années leurs algorithmes de locomotion et de perception. Aucun acteur français ou européen n'apparaît dans cette publication. Les auteurs n'annoncent ni calendrier de déploiement industriel ni partenariat, se limitant à évoquer la poursuite des tests en conditions de compétition réelle.

RecherchePaper

1 source

4arXiv cs.RO

Apprentissage de compétences de badminton proches de l'humain pour robots humanoïdes

Un article de recherche révisé sur arXiv (2602.08370v2) présente "Imitation-to-Interaction" (I2I), un framework d'apprentissage par renforcement progressif qui apprend à un robot humanoïde à jouer au badminton. La méthode construit d'abord un a priori moteur à partir de données de mouvement humain, le compresse en une représentation d'état compacte basée sur un modèle, puis stabilise la dynamique via des a priori adversariaux. Une stratégie d'expansion de variété (manifold expansion) généralise ensuite les points de frappe, rares dans les démonstrations expertes disponibles, en un volume d'interaction dense permettant d'intercepter le volant dans une zone continue plutôt qu'à des positions figées. En simulation, le robot maîtrise plusieurs coups caractéristiques comme les lifts (dégagés hauts) et les amortis courts (drop shots). Les auteurs revendiquent le premier transfert "zero-shot" simulation-vers-réel de ces gestes sur un robot humanoïde physique, sans préciser dans le résumé la plateforme utilisée, le nombre de degrés de liberté ni de taux de réussite des frappes. Le badminton combine une coordination corporelle explosive proche de la limite biomécanique et une interception où le timing se compte en dizaines de millisecondes, un défi bien supérieur à celui de la marche ou de la préhension statique en usine. L'enjeu dépasse le sport: la recherche en imitation de mouvement produit souvent des démonstrations visuellement convaincantes mais déconnectées de toute interaction physique fonctionnelle avec un objet dynamique. En affichant un transfert sim-to-real zero-shot sur une frappe à haute vitesse, ce travail s'attaque à l'un des goulots d'étranglement les plus cités du secteur humanoïde, l'écart persistant entre performance simulée et robustesse en conditions réelles. Pour les intégrateurs et décideurs évaluant la maturité des humanoïdes au-delà du pick-and-place répétitif, ce résultat suggère que des architectures combinant a priori de mouvement humain et modèles de dynamique commencent à généraliser à des gestes rapides, précis et non répétitifs. Ce travail prolonge une lignée de recherches en apprentissage par renforcement pour humanoïdes s'appuyant sur des a priori de mouvement adversariaux, technique utilisée pour ancrer des politiques de contrôle dans des captures de mouvement humain sans sacrifier le naturel du geste. Publiée en version révisée sur arXiv, la contribution reste académique à ce stade: le résumé ne cite aucun partenaire industriel, aucune plateforme robotique commerciale ni aucun site de déploiement, et rien n'indique de calendrier de mise en production. Elle s'inscrit dans un mouvement plus large de laboratoires testant la dextérité dynamique des humanoïdes via des tâches sportives, en complément des benchmarks classiques de locomotion et de manipulation statique.

RecherchePaper

1 source