
Une politique, plusieurs styles : où agréger les préférences pour un contrôle humanoïde pilotable ?
Un préprint publié sur arXiv (2610.28925, première version) compare plusieurs façons d'obtenir un contrôle « pilotable » d'humanoïdes. L'idée est qu'une politique unique ajuste son style de comportement à l'exécution selon les préférences de l'utilisateur. L'apprentissage par renforcement conditionné par les préférences offre cette interface. Les auteurs soulignent toutefois que le conditionnement seul ne garantit rien: le changement demandé peut rester faible, déborder sur des comportements sans rapport ou dégrader la tâche. Ils proposent une évaluation qui associe une métrique, la Preference Reward Responsiveness (PRR), à des mesures de couverture et d'utilité. Ils comparent quatre niveaux d'agrégation des objectifs: récompense, avantage, fonction de perte, et PCGrad (une méthode qui projette les gradients conflictuels). Les tests portent sur deux cadres de contrôle d'humanoïde, que le résumé ne nomme pas. Aucun niveau ne s'impose partout. Agréger tôt donne une plus large palette de réponses comportementales, mais davantage de modifications involontaires sur les autres objectifs. Agréger tard améliore la précision du contrôle, au prix d'une réactivité moindre.
C'est un travail de méthode, pas une démonstration matérielle. Le résumé ne donne ni robot physique, ni payload, ni résultat de sim-to-real, ni chiffre de déploiement. Il n'indique pas non plus l'ampleur des écarts mesurés. Son intérêt est de fournir une grille de lecture à ceux qui promettent « un robot, plusieurs styles », par exemple prudent ou rapide, sobre ou agressif. Le choix de l'étage d'agrégation devient un arbitrage de conception entre étendue des comportements et fuite vers les autres objectifs, sans recette universelle. Cela tempère l'idée qu'il suffit de conditionner une politique sur un vecteur de préférences pour obtenir un réglage fiable en production.
Le sujet relève de l'apprentissage par renforcement multi-objectif, où PCGrad vient de l'apprentissage multitâche. Du côté des politiques généralistes pour humanoïdes (Helix de Figure, GR00T N2 de NVIDIA, Pi-0 de Physical Intelligence), l'accent est surtout mis sur la commande par instructions en langage naturel. Le réglage continu du style par préférences est un axe complémentaire, moins documenté publiquement. Aucun acteur français ou européen n'est cité. Il s'agit d'une v1 sans revue par les pairs. Les suites utiles seraient la publication du code et des benchmarks, des écarts chiffrés entre méthodes et une validation sur matériel réel.
Pas d\'impact direct sur la France/UE
Dans nos dossiers




