RecherchearXiv cs.RO 26 juin 2026

WatchAct : un benchmark de manipulation robotique fondée sur le comportement

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Une équipe de chercheurs a publié WatchAct (arXiv:2606.26443), un nouveau benchmark pour la manipulation robotique fondé sur l'observation du comportement humain. Contrairement aux évaluations existantes, qui associent une instruction textuelle à une image statique, WatchAct impose aux systèmes robotiques de raisonner à partir d'une vidéo montrant un humain accomplir une tâche, puis d'en déduire un plan d'action exécutable. Le benchmark comprend 3 000 instances réparties sur 14 tâches dans quatre domaines cognitifs : compréhension des événements (Event Grounding), récupération de la structure procédurale (Procedural Reasoning), inférence d'intentions implicites (Implicit Intent Inference) et suivi des modifications de scène (Episodic Reasoning). Chaque instance couple une vidéo réelle, une instruction en langue naturelle, une scène simulée dans le framework LIBERO et une tâche exécutable sur un robot Franka Research 3. Le meilleur pipeline testé, associant Gemini-3.1-Pro et le modèle π₀.₅ de Physical Intelligence, atteint seulement 16,3 % de taux de réussite en simulation et 14,0 % sur robot réel.

Ces chiffres révèlent un fossé considérable entre capacités humaines et systèmes actuels. Sur la seule composante de planification vidéo-vers-plan, Gemini-3.1-Pro obtient 36,8 % de Plan SR, contre 97,1 % pour les humains, soit un écart de plus de 60 points de pourcentage. Même avec un plan oracle fourni directement, sans recours à un VLM, π₀.₅ ne dépasse pas 21,5 % de Task SR, et chute à 10,6 % sur des scénarios hors domaine. Le protocole d'évaluation décomposé de WatchAct, qui mesure séparément le raisonnement VLM, l'exécution de la politique robotique et la performance bout-en-bout, est méthodologiquement précieux : il permet d'identifier précisément où chaque composant échoue, plutôt que d'observer un taux global difficile à interpréter. Pour les intégrateurs et les équipes R&D industrielles, ce résultat indique que ni les grands modèles vision-langage actuels ni les politiques de manipulation ne sont prêts pour des scénarios de collaboration humain-robot en environnement non structuré.

WatchAct s'inscrit dans une tendance de fond visant à dépasser les benchmarks « instruction + image unique » qui ne capturent pas la complexité temporelle du travail réel en atelier ou en logistique. Les évaluations existantes comme LIBERO (utilisé ici comme substrat de simulation), RoboSuite ou BridgeData évaluent principalement l'exécution sous contraintes statiques. WatchAct introduit une dimension de video-grounding qui rapproche l'évaluation des conditions réelles, où un robot doit comprendre ce qu'un collègue humain vient de faire pour enchaîner correctement. Le modèle π₀.₅ est développé par Physical Intelligence, l'une des startups VLA les plus suivies du secteur aux côtés de Figure AI, Agility Robotics et 1X Technologies. Aucun acteur européen n'est impliqué dans ce benchmark. Le dataset et le code sont disponibles publiquement ; les prochaines étapes naturelles incluent l'intégration de modèles de raisonnement vidéo plus récents et l'extension à des scénarios multi-agents.

Dans nos dossiers

Figure 1X Technologies Agility Robotics — Digit Physical Intelligence — π0

À lire aussi

1arXiv cs.RO

RMMBench : un benchmark complet pour la manipulation mobile robotique

Des chercheurs publient RMMBench (arXiv 2610.05414, version 2), un banc d'essai pour évaluer les modèles vision-langage (VLM) qui pilotent des robots mobiles manipulateurs. Le robot doit comprendre des instructions en langage naturel et mener à bien des tâches longues dans des espaces continus, et non sur des grilles discrètes. Le benchmark réunit dans un même cadre les tâches « haut niveau » (raisonnement, planification) et « bas niveau » (contrôle). Il propose une suite navigation-manipulation de 70 scénarios canoniques, de la manipulation localisée jusqu'à la navigation composite sur de longs enchaînements. Le constat principal est que les meilleurs VLM éprouvent encore de grandes difficultés de localisation spatiale quand ils doivent manipuler en se déplaçant. Le résumé ne donne ni scores chiffrés, ni liste des modèles testés, ni plateformes robotiques utilisées. Il ne précise pas non plus si l'évaluation se fait en simulation ou sur matériel réel. Le projet est accessible en ligne. Il s'agit d'un outil de mesure, pas d'un produit ni d'un déploiement. Son intérêt tient à ce qu'il pointe un goulot d'étranglement précis. Les VLM de pointe comprennent bien les scènes et raisonnent bien sur les tâches, mais ils situent mal les objets et les poses d'approche dans l'espace, ce qui est décisif pour saisir, poser ou se repositionner. Pour un intégrateur ou un COO industriel, cela invite à relativiser les démonstrations de manipulation mobile pilotées par VLM. Elles peuvent masquer des échecs de localisation sur des séquences longues, et seules des évaluations de bout en bout avec des métriques fines permettent de les révéler. Sans les scores détaillés, l'ampleur réelle de l'écart reste impossible à estimer, et 70 scénarios ne couvrent qu'une partie de la diversité des environnements industriels ou domestiques. Les auteurs partent du constat que les benchmarks existants évaluent souvent la navigation et la manipulation séparément, avec des métriques de succès assez frustes. Cela empêche de diagnostiquer finement où les VLM échouent. RMMBench s'inscrit dans l'écosystème des bancs d'essai embodied de type Habitat ou BEHAVIOR, en insistant sur l'intégration des deux compétences et sur la granularité des mesures. La suite dépendra de l'adoption par la communauté, notamment par les équipes qui développent des modèles vision-langage-action comme Pi-0, GR00T ou Helix, et de la publication de résultats détaillés qui permettent des comparaisons reproductibles. Les auteurs concluent à la nécessité d'améliorer la perception spatiale des robots lors d'interactions longues.

RecherchePaper

1 source

2arXiv cs.RO

IMBench : un benchmark pour la manipulation robotique intuitive

Une équipe de recherche publie IMBench, un nouveau benchmark conçu pour évaluer ce qu'elle appelle la « manipulation intuitive » des robots, c'est-à-dire la capacité à combiner raisonnement physique et exécution motrice de façon intégrée, plutôt que de tester ces deux compétences séparément. L'article, déposé sur arXiv le 15 juillet 2026, propose un jeu de 35 tâches couvrant la manipulation avec contact riche, l'usage d'outils et les dépendances multi-étapes, accompagné de 14 000 trajectoires filtrées et d'outils permettant de générer de nouveaux scénarios à l'échelle. Contrairement aux benchmarks existants, IMBench exige des modèles qu'ils identifient d'abord la structure physique pertinente d'une scène (poids, friction, contraintes géométriques) avant de produire une séquence d'actions exécutable sous contraintes explicites. Les auteurs ont testé à la fois des modèles vision-langage (VLM) et des modèles vision-langage-action (VLA) de dernière génération sur cet ensemble de tâches. Les résultats mettent en évidence un écart systématique dans les systèmes actuels : les VLM montrent une capacité de raisonnement physique partielle mais ne parviennent pas à traduire ce raisonnement en plans d'action exécutables, tandis que les VLA de pointe échouent à respecter les contraintes des tâches et généralisent mal d'un scénario à l'autre. Pour l'industrie robotique, ce constat confirme un doute déjà répandu chez les intégrateurs : la performance affichée par les politiques génératives sur des démonstrations contrôlées ne garantit pas une compréhension physique transférable à des scènes nouvelles. IMBench propose ainsi une mesure plus rigoureuse pour distinguer les systèmes qui « comprennent » réellement une scène de ceux qui reproduisent des schémas d'entraînement. Ce travail s'inscrit dans une vague récente de benchmarks cherchant à combler le fossé entre évaluation en simulation et déploiement réel, alors que des modèles comme GR00T N2, Pi-0 ou Helix visent une manipulation généraliste dans des environnements variés. En isolant explicitement la composante « raisonnement intuitif » comme axe manquant des politiques robotiques actuelles, les auteurs positionnent IMBench comme un outil de diagnostic pour orienter les prochaines générations de modèles fondation en robotique, plutôt que comme un simple classement de performance brute.

RecherchePaper

1 source

3arXiv cs.RO

Ce que mesurent réellement les benchmarks en manipulation robotique

Un article de recherche déposé sur arXiv le 4 juin 2026 (arXiv:2606.04233) remet en cause la fiabilité de cinq benchmarks standards en manipulation robotique : LIBERO, CALVIN, SimplerEnv, RoboCasa et RoboTwin 2.0. Les auteurs identifient quatre modes de défaillance structurelle qui invalident leur usage comme proxy de la capacité de manipulation générale : résolution par raccourci (shortcut solvability), absence de significativité statistique, surapprentissage rampant (creeping overfitting) et dépendance à la source de données. Sur LIBERO, une sonde de 90 millions de paramètres, sans encodeur de langage, atteint des scores au niveau ou proches de l'état de l'art rapporté dans la littérature récente, ce qui suggère que les modèles exploitent des artefacts du benchmark plutôt que des compétences réelles. Sur CALVIN, la simple randomisation des positions des blocs dans la plage d'entraînement fait chuter les performances de toutes les politiques testées, révélant une généralisation quasi nulle même dans des conditions marginalement différentes. Ces résultats ont des implications directes pour les équipes qui évaluent des architectures VLA (Vision-Language-Action). Si LIBERO et CALVIN échouent à plusieurs diagnostics, les progrès revendiqués sur ces benchmarks ne constituent pas une preuve crédible de capacité de manipulation générale. La plupart des gains rapportés sur LIBERO ne sont pas statistiquement significatifs, ce qui signifie que de nombreuses publications revendiquent des améliorations qui pourraient n'être que du bruit. Pour les intégrateurs et les décideurs industriels, cela signifie que les scores de benchmarks courants ne sont pas des indicateurs fiables de la maturité réelle d'un système avant déploiement. Le problème n'est pas nouveau, mais il devient critique au moment où des VLA comme pi0 (Physical Intelligence), GR00T N2 (NVIDIA) ou OpenVLA sont massivement benchmarkés dans la littérature. RoboCasa et RoboTwin 2.0, moins fréquemment cités dans les claims de progression récents, résistent mieux aux diagnostics proposés et constituent des alternatives plus robustes pour mesurer des progrès réels. Les auteurs publient leurs quatre diagnostics avec des implémentations de référence sur ripl.github.io/manipulationbenchmarkaudit, à destination des chercheurs et des reviewers, pour application avant soumission ou acceptation. La prochaine question est de savoir si des conférences majeures comme CoRL, ICRA ou RSS adopteront ces outils comme critère d'évaluation des soumissions.

UELes équipes de recherche françaises et européennes (INRIA, CEA-List) évaluant des architectures VLA devront appliquer ces diagnostics avant soumission pour ne pas revendiquer des gains qui pourraient n'être que du bruit statistique.

RecherchePaper

1 source

4arXiv cs.RO

FORM : manipulation robotique par identification directe des lois de comportement des matériaux

Des chercheurs présentent FORM (From Observed Response to Material laws), une méthode qui identifie les propriétés mécaniques d'un matériau déformable à partir d'une seule interaction robotique, puis réutilise le modèle obtenu pour planifier de nouvelles manipulations. Le principe consiste à appliquer un bilan de quantité de mouvement en forme faible. Le mouvement observé du matériau et les forces de contact mesurées deviennent ainsi des équations linéaires en fonction des paramètres inconnus. Ces équations sont assemblées avec la même discrétisation MPM (material point method) que le simulateur direct, si bien que l'identification se réduit à des moindres carrés linéaires. Le résultat s'utilise directement en prédiction, sans réajustement ni conversion. Sur quatre classes de matériaux, le temps d'identification passe d'environ 10 à 25 minutes pour les méthodes itératives de référence à 2 à 5 secondes. La précision reste comparable sur de nouveaux mouvements, conditions initiales et géométries. Les tests couvrent la simulation et du matériel réel, sur quatre tâches : insertion d'une tige élastique, putting de golf avec un club élastique, façonnage élastoplastique et versement d'un volume cible. L'erreur d'estimation est de 3,4 % sur les propriétés élastiques et de 2 % sur les propriétés élastoplastiques. Le façonnage de pâte atteint 72,4 à 77,8 % d'IoU, et l'erreur moyenne de versement est de 3,8 mL pour des cibles de 60 à 160 mL. L'intérêt est d'abord pratique. Face à un matériau inconnu, un robot doit aujourd'hui soit s'appuyer sur des modèles appris qui généralisent mal, soit faire tourner une optimisation itérative trop lente pour une boucle de production. Passer de plusieurs minutes à quelques secondes rend l'identification compatible avec un cycle de travail réel, par exemple pour l'agroalimentaire, le dosage de fluides ou la manipulation de pâtes et de mousses. Le fait que le modèle soit réutilisé sur d'autres géométries suggère aussi qu'une identification physique explicite peut compléter, voire concurrencer, les approches purement apprises comme les VLA (vision-language-action), qui demandent de grandes quantités de démonstrations. Il faut toutefois relativiser. Les tâches sont des démonstrations de laboratoire, avec quatre classes de matériaux et des géométries contrôlées. Rien n'indique une robustesse face à des matériaux hétérogènes, à des propriétés qui varient dans le temps ou à du bruit de capteurs industriel. Ce travail s'inscrit dans la lignée des simulateurs différentiables et de l'identification de paramètres par optimisation, qui offrent de la précision au prix d'un calcul lourd. Il s'oppose aussi aux approches de manipulation déformable par apprentissage end-to-end. Il s'agit d'une prépublication arXiv (v1), sans relecture par les pairs ni acteur industriel ou déploiement annoncé, et aucun acteur français ou européen n'est cité. La suite logique serait de tester des matériaux plus variés, des interactions plus complexes et une intégration avec des politiques apprises.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source