EmbodiedLab : un banc d'essai pour les agents incarnés qui agissent pour savoir
Des chercheurs publient sur arXiv EmbodiedLab, un benchmark qui évalue des agents incarnés censés « agir pour savoir ». Il couvre 30 expériences de sciences quantitatives réparties en cinq disciplines, sur 14 plateformes d'appareillage, dans un laboratoire simulé par un moteur physique. L'agent reçoit un objectif et l'appareil, choisit seul sa procédure, manipule les instruments et lit leurs mesures à travers ses caméras. Les paramètres du système sont retirés au hasard à chaque instance, donc le résultat ne peut pas être mémorisé, mais il reste notable exactement. L'évaluation vérifie ce que l'agent a appris, en le rattachant aux relevés enregistrés pendant l'épisode, ainsi que l'état physique final exigé. Chaque expérience est vérifiée comme résoluble. Six modèles de pointe ont été testés dans les agents de code de leurs développeurs, dans trois configurations : contrôle et observation natifs, ajout de perception et de planification de mouvement, puis ajout de compétences de manipulation distillées des meilleurs agents. Avec le contrôle natif, même le meilleur agent réussit moins d'une fois sur deux. Le code et l'évaluation sont publiés sur GitHub (HexaFuture/EmbodiedLab).
L'intérêt est de combler un vide entre deux familles de benchmarks. Les tests de manipulation s'arrêtent à « agir pour changer » avec un état cible fourni. Ceux de découverte scientifique mesurent le savoir, mais remplacent l'expérimentation physique par des requêtes numériques ou symboliques. Le résultat central est un diagnostic : la majorité des échecs, pour tous les agents, vient de l'interaction avec l'appareil, pas du raisonnement scientifique. Les compétences de manipulation aident davantage les modèles faibles que la perception et la planification ajoutées. Pour un intégrateur ou un responsable de laboratoire automatisé, cela place le goulot d'étranglement dans la dextérité et le contrôle, pas dans la « compréhension ».
Il faut toutefois rester prudent : tout se déroule en simulation, sans robot réel, et le papier est un préprint non évalué par des pairs. L'écart entre simulation et réalité n'est donc pas mesuré ici. Le travail s'inscrit dans la montée des agents de code utilisés comme contrôleurs robotiques et des « laboratoires autonomes ». Aucune suite n'est annoncée, mais la publication du code permet à d'autres équipes de comparer leurs modèles sur le même protocole.
Pas d\'impact direct sur la France/UE
Dans nos dossiers




