RobotAgentBench : vers une autonomie des robots en monde ouvert
RobotAgentBench (RAB), un nouveau benchmark publié sur arXiv, vise à évaluer des agents robotiques en environnement domestique ouvert, au-delà de la simple exécution de tâches prédéfinies. Il repose sur un pipeline « real-to-sim » assisté par des agents et supervisé par des humains, qui produit 50 agencements de logements variés, avec objets interactifs et tâches physiquement fondées. Le jeu de tests couvre 90 tâches atomiques, 18 tâches à horizon court, 8 tâches à horizon long et 4 scénarios ouverts. L'évaluation se fait à deux niveaux. Au niveau des tâches, cinq dimensions sont mesurées : découverte de tâches, raisonnement contextuel, manipulation, récupération après échec et robustesse. Au niveau des scénarios, le benchmark teste la capacité d'un agent à combiner ces compétences pour répondre seul à un besoin formulé par l'utilisateur. Un cadre unifié de planification, d'exécution et de vérification permet de comparer des modèles VLA (vision-langage-action) ou WAM (world-action models) utilisés seuls avec différentes architectures d'agents.
L'enjeu est de mesurer ce que les démonstrations masquent souvent : la distance entre savoir manipuler et savoir être autonome. Les auteurs rapportent des écarts substantiels entre ces deux niveaux, ce qui rappelle qu'un bon score de manipulation, même obtenu par un VLA de pointe, ne dit presque rien de la capacité d'un robot à décider quoi faire, à vérifier le résultat et à se rattraper quand une action échoue. Les expériences indiquent aussi que les architectures agentiques, qui orchestrent planification, exécution et vérification, surpassent les modèles isolés, et que l'auto-amélioration récursive apporte des gains. Pour les intégrateurs et les décideurs B2B, le message est pratique : la fiabilité en conditions réelles dépendra autant de la couche d'orchestration et de récupération que du modèle de contrôle de bas niveau. Une réserve s'impose toutefois : l'évaluation se déroule en simulation reconstruite à partir du réel, et le transfert vers des foyers physiques reste à démontrer. L'abstract ne chiffre pas les écarts ni ne nomme les modèles testés.
Le travail s'inscrit dans une évolution rapide. Les VLA puis les WAM ont nettement amélioré la manipulation, mais les benchmarks existants testent surtout des capacités isolées, comme le suivi d'instructions ou la saisie d'objets, sans mesurer la boucle fermée entre découverte de tâche, raisonnement, action et correction. RAB cherche à combler ce vide et pourrait servir de référence commune aux équipes qui développent des robots domestiques généralistes, qu'il s'agisse de laboratoires académiques ou d'acteurs industriels du humanoïde. Il s'agit pour l'instant d'une préversion (v1) sur arXiv, sans mention d'une évaluation par les pairs ni de calendrier de publication du code ou des données. Les suites probables sont l'adoption par d'autres groupes, l'ajout de tests sur robots physiques et des classements comparatifs entre agents.
Pas d\'impact direct sur la France/UE
Dans nos dossiers




