RecherchearXiv cs.RO 16 octobre 2026

LIBERO-PeRM : un banc d'essai pour la manipulation robotique personnalisée

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

LIBERO-PeRM, publié sur arXiv (2610.22372), est un benchmark en simulation consacré à la manipulation robotique personnalisée (PeRM). Il vise à séparer l'accomplissement de la tâche de la satisfaction des préférences de l'utilisateur, ce que les benchmarks de manipulation généralistes ne font pas. Construit sur LIBERO, il utilise un pipeline procédural qui génère des démonstrations appariées, avec et sans préférence. Il comprend cinq suites de tâches, soit 312 tâches, avec des démonstrations de haute qualité, des métadonnées riches et des métriques dédiées de satisfaction des préférences. Les préférences couvertes sont observables et exprimables en langage naturel: style de mouvement, choix de compétence (skill) et profil d'utilisateur. Elles sont instanciables sans modifier l'objectif de la tâche, et leur évaluation est automatique. Le benchmark pose cinq questions: le suivi de préférences en zero-shot, l'apprentissage d'une préférence unique à partir de démonstrations, l'efficacité en fonction du nombre de démonstrations, la généralisation à d'autres agencements et tâches, et enfin la composition de préférences et la gestion des conflits entre elles. Le code, les jeux de données et des démos sont publiés sur la page du projet.

Les résultats sont nuancés. Les politiques VLA (vision-language-action) actuelles échouent à se personnaliser en zero-shot: un simple prompt en langage naturel ne suffit pas à infléchir leur comportement. Le fine-tuning supervisé (SFT) rend en revanche les préférences apprenables. L'entraînement mixte, qui combine données avec et sans préférence, conserve mieux les comportements sans préférence que l'adaptation séquentielle. Il améliore aussi les performances avec des prompts contextuels par rapport à un entraînement limité aux préférences, mais peut affaiblir l'apprentissage des préférences de mouvement. La généralisation des préférences, leur décomposition et la résolution des conflits restent difficiles. Pour les intégrateurs et les décideurs qui visent le domestique ou les environnements de services, le message est net: la personnalisation ne vient pas gratuitement avec la généralisation des VLA. Elle demande des données et des protocoles d'adaptation spécifiques. Les résultats sont obtenus en simulation uniquement, et l'écart avec le monde réel n'est pas mesuré.

Ce travail s'inscrit dans la lignée de LIBERO, benchmark de simulation très utilisé pour évaluer les politiques d'apprentissage tout au long de la vie et les VLA. Il en déplace l'attention de la réussite de la tâche vers la manière de l'exécuter. Les acteurs qui poussent les modèles généralistes, comme Physical Intelligence avec Pi-0, Figure avec Helix ou Nvidia avec GR00T, mettent surtout en avant l'étendue des compétences et peu la personnalisation à l'échelle d'un utilisateur. L'article ne nomme aucun modèle précis dans son résumé, et les chiffres détaillés ne sont pas disponibles ici. La suite logique est une validation sur robots réels et l'intégration de mémoire ou d'adaptation en ligne, indispensables pour une adoption domestique.

Dans nos dossiers

NVIDIA GR00T Physical Intelligence — π0 Manipulation robotique arXiv cs.RO

À lire aussi

1arXiv cs.RO

Modèles du monde pour la manipulation robotique

Des chercheurs ont publié en juin 2026 sur arXiv (2606.24742) un modèle généraliste de valeur pour la manipulation robotique, le WVM (World Value Model). La proposition centrale consiste à substituer les backbones VLM (Vision-Language Model) habituellement utilisés par un modèle de monde, nativement mieux adapté à la modélisation temporelle nécessaire pour évaluer la progression d'une tâche. Sur les benchmarks standards, WVM atteint les meilleures performances connues en Value-Order Correlation (VOC), la métrique de référence pour les modèles de valeur robotiques. L'équipe introduit également Suboptimal-Value-Bench, un benchmark multi-embodiment composé de 800 trajectoires sous-optimales annotées frame par frame par des humains, comblant un angle mort des évaluations existantes qui ne contenaient que des données expertes. L'enjeu est directement opérationnel pour quiconque entraîne des systèmes de manipulation à grande échelle : les données collectées en conditions réelles sont rarement uniformément expertes. Un modèle de valeur précis permet de pondérer ou filtrer ces trajectoires hétérogènes, améliorant la qualité de l'entraînement sans nettoyage manuel coûteux. WVM démontre des gains de performance sur plusieurs approches d'extraction de politique, en simulation comme en déploiement réel, ce qui renforce la thèse que l'estimation de valeur est un composant orthogonal et complémentaire au choix d'architecture de politique. La robustesse maintenue sur données sous-optimales est l'aspect le plus significatif : c'est précisément dans ce régime que les VLMs classiques décrochent, leurs préentraînements sur observations visuelles statiques ne suffisant pas à capturer les dynamiques temporelles longues. La montée en puissance des VLA comme Pi-0 de Physical Intelligence ou GR00T N2 de NVIDIA a rendu critique la question de la qualité des données d'entraînement à grande échelle. L'approche WVM s'inscrit dans une tendance émergente qui consiste à spécialiser les composants : un backbone temporel dédié pour l'évaluation de la valeur, distinct du modèle d'action. Aucun partenariat industriel ni calendrier de déploiement n'est mentionné dans cet article purement académique. Les prochaines étapes naturelles incluent l'intégration du WVM dans des pipelines d'imitation à grande échelle ou en combinaison avec du reinforcement learning offline (IQL, CQL), et une extension à des environnements multi-tâches plus complexes.

RechercheOpinion

1 source

2arXiv cs.RO

RawVLA : un processeur d'images neuronal incarné pour la manipulation robotique

Une équipe de chercheurs publie sur arXiv RawVLA, un processeur d'image neuronal (neural ISP) conçu pour les politiques vision-langage-action (VLA) de manipulation robotique. Le point de départ est un angle mort du secteur : les VLA reçoivent presque toujours des images RGB produites par l'ISP fixe de la caméra, un module matériel qui convertit les données brutes du capteur (RAW) en image exploitable. Ce pipeline d'imagerie reste donc hors de la boucle d'apprentissage et d'évaluation. Les auteurs ont mesuré son influence sur cinq dimensions : le gain, le bruit du capteur, la réponse chromatique, la réponse tonale et la profondeur de bit. Le traitement RAW vers RGB modifie sensiblement les actions prédites et le taux de réussite des manipulations, et chaque dimension pèse d'un poids très différent. Sur cette base, ils proposent RawVLA, un ISP neuronal en flux continu qui rend les observations RAW pour des politiques VLA gelées, sans réentraînement. Sa capacité est concentrée sur les facteurs d'imagerie utiles au comportement incarné. Ils publient aussi RawVLA-Bench, un benchmark de manipulation en domaine RAW qui traite le traitement d'image comme une variable d'évaluation explicite, en conditions d'acquisition propres et dégradées. Selon les auteurs, RawVLA maintient les performances en conditions standard et améliore nettement la robustesse quand l'imagerie se dégrade. Le résumé ne donne aucun chiffre : ni gain, ni taux de réussite, ni latence, ni modèle de VLA testé. Ces points sont à vérifier dans l'article complet. Le résultat compte pour les intégrateurs, car une partie de l'écart entre démonstration et réalité vient peut-être de la caméra elle-même. Un VLA entraîné sur des images bien exposées peut se dégrader en entrepôt sombre, sous éclairage variable ou avec un capteur bruité, sans que ni le modèle ni la simulation soient en cause. Le fait que l'ISP soit une variable d'évaluation à part entière suggère que les benchmarks actuels, presque tous en RGB propre, surestiment la robustesse réelle. L'approche est aussi pragmatique : un module d'adaptation placé devant une politique gelée évite de réentraîner un modèle de fondation. Ce travail s'inscrit dans le mouvement des modèles VLA généralistes comme Pi-0, GR00T ou Helix, qui ont concentré l'effort sur l'architecture et les données, en laissant la chaîne d'acquisition aux réglages constructeur. Les recherches sur la robustesse visuelle se limitaient jusqu'ici surtout à des perturbations appliquées en RGB. RawVLA déplace le problème en amont, vers le capteur. Il reste une publication de recherche v1, non évaluée par les pairs, dont le code, le benchmark et la validation sur robot réel restent à confirmer. Les suites logiques sont une adoption de RawVLA-Bench par d'autres équipes, des tests sur plusieurs familles de VLA et une intégration au plus près des caméras embarquées.

RecherchePaper

1 source

3arXiv cs.RO

IMBench : un benchmark pour la manipulation robotique intuitive

Une équipe de recherche publie IMBench, un nouveau benchmark conçu pour évaluer ce qu'elle appelle la « manipulation intuitive » des robots, c'est-à-dire la capacité à combiner raisonnement physique et exécution motrice de façon intégrée, plutôt que de tester ces deux compétences séparément. L'article, déposé sur arXiv le 15 juillet 2026, propose un jeu de 35 tâches couvrant la manipulation avec contact riche, l'usage d'outils et les dépendances multi-étapes, accompagné de 14 000 trajectoires filtrées et d'outils permettant de générer de nouveaux scénarios à l'échelle. Contrairement aux benchmarks existants, IMBench exige des modèles qu'ils identifient d'abord la structure physique pertinente d'une scène (poids, friction, contraintes géométriques) avant de produire une séquence d'actions exécutable sous contraintes explicites. Les auteurs ont testé à la fois des modèles vision-langage (VLM) et des modèles vision-langage-action (VLA) de dernière génération sur cet ensemble de tâches. Les résultats mettent en évidence un écart systématique dans les systèmes actuels : les VLM montrent une capacité de raisonnement physique partielle mais ne parviennent pas à traduire ce raisonnement en plans d'action exécutables, tandis que les VLA de pointe échouent à respecter les contraintes des tâches et généralisent mal d'un scénario à l'autre. Pour l'industrie robotique, ce constat confirme un doute déjà répandu chez les intégrateurs : la performance affichée par les politiques génératives sur des démonstrations contrôlées ne garantit pas une compréhension physique transférable à des scènes nouvelles. IMBench propose ainsi une mesure plus rigoureuse pour distinguer les systèmes qui « comprennent » réellement une scène de ceux qui reproduisent des schémas d'entraînement. Ce travail s'inscrit dans une vague récente de benchmarks cherchant à combler le fossé entre évaluation en simulation et déploiement réel, alors que des modèles comme GR00T N2, Pi-0 ou Helix visent une manipulation généraliste dans des environnements variés. En isolant explicitement la composante « raisonnement intuitif » comme axe manquant des politiques robotiques actuelles, les auteurs positionnent IMBench comme un outil de diagnostic pour orienter les prochaines générations de modèles fondation en robotique, plutôt que comme un simple classement de performance brute.

RecherchePaper

1 source

4arXiv cs.RO

MALLVI : un cadre multi-agents pour la manipulation robotique généralisée et intégrée

Une équipe de chercheurs a publié MALLVI (Multi-Agent Large Language and Vision Interface), un framework d'orchestration multi-agents pour la manipulation robotique généraliste, dont la cinquième révision vient d'être déposée sur arXiv (2602.16898). Le système prend en entrée une instruction en langage naturel et une image de la scène, puis génère des actions atomiques exécutables pour un bras manipulateur. L'architecture coordonne quatre agents spécialisés: un Decomposer chargé de découper la tâche en sous-étapes, un Localizer pour la détection et la localisation visuelle, un Thinker pour le raisonnement et la planification de haut niveau, et un Reflector dédié à la détection d'erreurs et à la récupération ciblée. Un cinquième agent optionnel, le Descriptor, maintient une mémoire visuelle de l'état initial de l'environnement. La boucle fermée est pilotée par un modèle de vision-langage (VLM) qui évalue les retours environnementaux après chaque action et décide si l'étape doit être rejouée ou si le robot peut passer à la suivante. Les expériences en simulation et en environnement réel indiquent des gains de taux de réussite sur des tâches de manipulation zero-shot par rapport aux approches classiques en boucle ouverte. Ce que MALLVI cherche à résoudre est un problème structurel bien documenté de la manipulation pilotée par LLM: les systèmes open-loop, qui n'interrogent pas l'état réel du monde après chaque action, accumulent les erreurs sans possibilité de correction en cours d'exécution. L'apport du Reflector est notable sur ce point, puisque plutôt que de déclencher une replanification complète en cas d'échec, il identifie les agents pertinents à réactiver, limitant la latence et la consommation de tokens. Pour les intégrateurs et les équipes R&D, l'intérêt réside dans la capacité zero-shot du système, sans fine-tuning ni prompt engineering spécifique à chaque tâche. Toutefois, les métriques de taux de succès restent difficiles à contextualiser faute d'indications précises sur le nombre de DOF du bras utilisé, la complexité des scènes de test, ou les conditions d'occultation. Le framework s'inscrit dans un courant très actif depuis 2023 autour de l'utilisation des grands modèles pour la planification robotique, avec des travaux fondateurs comme SayCan (Google DeepMind) et Code-as-Policies, et des architectures VLA (Vision-Language-Action) récentes comme pi-0 de Physical Intelligence ou GR00T N2 de NVIDIA. La spécificité de MALLVI est son découpage en agents modulaires plutôt qu'un modèle monolithique, une approche qui facilite le débogage et la spécialisation par composant. Le code source est disponible publiquement sur GitHub (iman1234ahmadi/MALLVI). Aucun partenariat industriel ni déploiement commercial n'est annoncé à ce stade, ce qui en fait pour l'instant une contribution académique à suivre davantage qu'un produit opérationnel.

RechercheOpinion

1 source