Aller au contenu principal
Grands modèles de récompense : génération de récompenses robotiques en ligne et généralisable grâce aux modèles vision-langageIllustration générée par IA
RecherchearXiv cs.RO 

Grands modèles de récompense : génération de récompenses robotiques en ligne et généralisable grâce aux modèles vision-langage

1 source couvre ce sujet·Source originale ↗·

Compilé et résumé par IA · sources vérifiables en un clic · publié sans lecture humaine préalable · méthodologie

Résumé IASource unique

Des chercheurs proposent les Large Reward Models (LRM), un cadre qui transforme des modèles vision-langage (VLM) de base en générateurs de récompense image par image, destinés à affiner des politiques de manipulation robotique. Le VLM de pointe retenu est spécialisé sur un jeu de données multi-sources : trajectoires de robots réels, interactions humain-objet et environnements de manipulation simulés. Contrairement aux approches qui évaluent les trajectoires a posteriori, les LRM exposent trois interfaces de récompense à partir des seules observations visuelles : estimation de progression, détection d'achèvement de la tâche et comparaison contrastive temporelle. Partant d'une politique apprise par imitation (IL), les auteurs utilisent ces signaux pour guider un affinage par PPO sur des tâches de manipulation à long horizon non vues pendant l'entraînement. La récompense de progression s'impose comme le meilleur signal en ligne sans information privilégiée : elle améliore la politique IL de référence et réduit l'écart avec les récompenses « privilégiées » issues de l'état interne de l'environnement. Côté matériel réel, elle sert à pondérer un clonage comportemental (behavioral cloning) selon la progression, sur quatre tâches de manipulation et deux plateformes robotiques, avec un gain sur le fine-tuning supervisé (SFT) classique dans les quatre cas. Le résumé ne donne ni modèle de VLM, ni taux de réussite chiffrés, ni noms de robots.

L'enjeu est celui d'un goulot d'étranglement bien connu : l'apprentissage par renforcement (RL) peut améliorer les politiques de manipulation, mais écrire une fonction de récompense à la fois sémantiquement pertinente et réutilisable d'une tâche à l'autre reste coûteux, et se fait aujourd'hui surtout à la main, tâche par tâche. Si ces résultats se confirment, un VLM spécialisé pourrait servir de récompense générique, ce qui réduirait l'ingénierie de récompense pour les intégrateurs et ouvrirait la voie à une auto-amélioration des robots en déploiement, sans instrumentation de la scène. Des réserves s'imposent : l'écart avec les récompenses privilégiées est réduit, pas comblé ; la validation réelle ne porte que sur quatre tâches, et sur du clonage comportemental pondéré plutôt que sur du RL en ligne sur robot physique. Le travail relève de la recherche (preprint arXiv, version 3), sans produit ni déploiement industriel.

Ces travaux s'inscrivent dans la montée des modèles de fondation pour la robotique, des VLA (vision-langage-action) comme Pi-0 ou GR00T aux VLM utilisés comme juges ou générateurs de récompense. Les approches précédentes de récompense par modèle de langage ou de vision restaient souvent limitées à une évaluation après coup, ce que les LRM cherchent à dépasser avec un signal exploitable en ligne. La suite logique serait de tester ces récompenses en RL directement sur robot réel, sur un plus grand nombre de tâches, et de mesurer leur robustesse face aux erreurs d'estimation de progression, qui peuvent être exploitées par la politique. Le résumé ne cite aucun acteur européen ni partenaire industriel.

À lire aussi

Insertion robotique généralisable grâce aux modèles du monde
Illustration générée par IA
1arXiv cs.RO 

Insertion robotique généralisable grâce aux modèles du monde

Une équipe de recherche décrit, dans un article publié sur arXiv en septembre 2026 sous le titre "Generalizable Robotic Insertion with World Models" (identifiant 2609.28258v1), un système d'insertion robotique généraliste construit autour d'un modèle du monde (world model) entraîné sur un seul réseau couvrant jusqu'à 90 tâches d'insertion différentes, portant sur des pièces aux géométries variées. Le modèle combine les données proprioceptives du bras robotique avec les images brutes issues d'une caméra montée sur le poignet. Sur des objets totalement inédits, dont la géométrie n'a jamais été vue pendant l'entraînement, le système atteint un taux de réussite de 56% en zero-shot, contre seulement 7% pour une base de référence model-free entraînée dans les mêmes conditions.

RecherchePaper
1 source
VGGT-DP : contrôle robotique généralisable via des modèles de vision fondation
Illustration générée par IA
2arXiv cs.RO 

VGGT-DP : contrôle robotique généralisable via des modèles de vision fondation

Les chercheurs à l'origine de VGGT-DP ont publié une version révisée de leur article sur arXiv (arXiv:2509.18778v2) présentant un nouveau cadre d'apprentissage par imitation visuelle pour le contrôle de robots manipulateurs. Le système utilise comme encodeur visuel le Visual Geometry Grounded Transformer (VGGT), un modèle de perception 3D pré-entraîné, combiné à un retour proprioceptif pour aligner la perception visuelle avec l'état interne du robot. Pour limiter la latence d'inférence, les auteurs introduisent un mécanisme de réutilisation de jetons image par image (frame-wise token reuse, FTR), qui met en cache les jetons de l'agrégateur VGGT issus des images qui se chevauchent et ne recalcule les caractéristiques que pour la dernière image reçue.

RecherchePaper
1 source
Préhension vision-langage adaptative via des a priori de modèles fondation combinables et une synthèse de préhension généralisable
Illustration générée par IA
3arXiv cs.RO 

Préhension vision-langage adaptative via des a priori de modèles fondation combinables et une synthèse de préhension généralisable

Un article publié le 4 septembre 2026 sur arXiv (arXiv:2609.04096) présente AdaRoboVLG, un framework de préhension vision-langage (Vision-Language-Grasp, VLG) capable de généraliser la synthèse de prises entre différentes mains robotiques sans réentraînement. Contrairement aux méthodes VLG existantes, qui couplent étroitement modèles de fondation et politique de préhension entraînée de bout en bout, AdaRoboVLG sépare les deux couches : une politique de base génère et évalue des prises physiquement réalisables via mappage cinématique et estimation de stabilité par fermeture de force, tandis que des modules de fondation spécialisés injectent des a priori spatiaux, cognitifs et temporels selon la tâche.

RechercheActu
1 source
Modèles de récompense en robotique à l'ère des modèles fondation
Illustration générée par IA
4arXiv cs.RO 

Modèles de récompense en robotique à l'ère des modèles fondation

Une étude de synthèse publiée sur arXiv (2611.20741) passe en revue 114 méthodes de « modèles de récompense robotiques » (RRM), c'est-à-dire des évaluateurs fondés sur des modèles de fondation qui remplacent l'ingénierie de récompense propre à chaque tâche par une évaluation réutilisable, conditionnée par la consigne. Les auteurs classent ces méthodes en cinq familles selon la question à laquelle répond leur sortie native : résultat (la tâche a-t-elle réussi ?), progression absolue, comparaison relative (quelle exécution est la meilleure ?), valeur temporelle, et approches hybrides.

RecherchePaper
1 source