Labference : évaluer le lien entre raisonnement et action dans les laboratoires robotisés
Des chercheurs publient sur arXiv (2610.35252) Labference, un benchmark destiné à évaluer le lien entre le raisonnement et l'action physique dans les laboratoires robotisés, un volet de ce qu'ils appellent l'« Embodied AI for Science ». Le dispositif ne mesure pas seulement la réussite globale d'une tâche. Il évalue séparément trois choses : la sélection de l'opération, son exécution physique et l'achèvement de la tâche. Le protocole fait varier de façon contrôlée les indices que reçoit le robot, afin de tester s'il adapte son comportement au résultat réellement observé. Par exemple, un dépôt raté modifie ce qu'il faut faire ensuite, alors que l'objectif expérimental reste identique. Des reprises assistées par un « Oracle » à partir de points de sauvegarde communs permettent aussi de comparer quelles formes d'aide améliorent les choix suivants et la réussite finale. Les premiers tests portent sur des tâches de pesée. Les politiques VLA (vision-langage-action) testées commettent des erreurs de sélection de cible, même quand les transferts d'objets réussissent. Le contrôle piloté par GPT choisit correctement la cible, mais connaît des échecs d'exécution et des coûts de calcul substantiels. L'article ne donne pas de chiffres dans son résumé, ni les noms précis des modèles VLA évalués.
L'intérêt tient à ce diagnostic. Les benchmarks actuels de planification, de manipulation ou de flux de travail en laboratoire se contentent de taux de succès agrégés, qui masquent l'origine des échecs. Labference suggère que les deux familles d'approches échouent de manière complémentaire. Les VLA savent bouger mais choisissent mal, tandis que les planificateurs à base de LLM raisonnent bien mais agissent mal et lentement. Pour un intégrateur ou un responsable d'automatisation de laboratoire, cela relativise l'idée qu'un grand modèle de langage placé au-dessus d'un contrôleur appris suffit à produire une expérimentation autonome fiable. Cela montre aussi que la latence et le coût de calcul sont des critères de sélection à part entière, pas des détails. Il s'agit toutefois d'une évaluation initiale et limitée à la pesée. Il faudra voir si les conclusions se généralisent à d'autres protocoles, d'autres robots et d'autres politiques.
Ce travail s'inscrit dans la montée des « laboratoires autonomes » (self-driving labs), où la robotique doit réduire les tâches répétitives et dangereuses tout en produisant des données pour la découverte scientifique. Les VLA généralistes de type Pi-0 ou GR00T ont progressé en manipulation, et les planificateurs fondés sur des LLM en décomposition de tâches. Leur intégration reste cependant mal mesurée, et c'est précisément le vide que cible Labference. Le papier est en première version (v1) et n'annonce ni déploiement industriel ni calendrier. La suite logique serait d'élargir les tâches, d'ouvrir le benchmark à d'autres équipes et d'utiliser les reprises Oracle pour décider où investir : meilleur raisonnement, exécution plus fiable ou boucles de retour plus rapides.
Dans nos dossiers




