Aller au contenu principal
CoViLLM : un cadre collaboratif adaptatif humain-robot pour l'assemblage, basé sur des grands modèles de langage
RecherchearXiv cs.RO 

CoViLLM : un cadre collaboratif adaptatif humain-robot pour l'assemblage, basé sur des grands modèles de langage

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs présentent CoViLLM, un framework de collaboration homme-robot pour l'assemblage adaptatif, décrit dans une prépublication arXiv (2603.11461v3, version révisée). Le système combine trois briques : une localisation d'objets par caméra de profondeur pour estimer la position des pièces, une classification opérée par l'humain pour identifier les composants nouveaux ou non répertoriés, et un grand modèle de langage chargé de générer les plans de tâches d'assemblage à partir d'instructions en langage naturel. Les auteurs valident leur approche sur le NIST Assembly Task Board, un banc d'essai standardisé de référence pour l'évaluation de systèmes d'assemblage robotique, en testant trois scénarios distincts : produits connus, produits personnalisés, et produits totalement inédits pour le robot.

L'enjeu dépassé ici est celui de la rigidité des robots industriels classiques, programmés selon des règles fixes et donc mal adaptés à la personnalisation de masse, un défi central pour les lignes de production modernes. Les frameworks de collaboration homme-robot existants s'appuient généralement sur des pipelines de perception-manipulation prédéfinis, ce qui les empêche de générer eux-mêmes des plans pour assembler un produit jamais vu. CoViLLM prétend lever cette limite en confiant au LLM la planification de tâches à la volée, ce qui, si les résultats se confirment à plus grande échelle, intéresserait directement les intégrateurs et fabricants cherchant à réduire les coûts de reprogrammation lors de changements de variantes produit, un enjeu récurrent dans l'électronique, l'automobile ou les biens de consommation. Les résultats publiés restent toutefois limités à un banc d'essai de laboratoire, et non à une chaîne de production réelle, ce qui appelle à la prudence sur la généralisation immédiate.

Ce travail s'inscrit dans la vague de recherches associant modèles de langage et robotique manipulatrice, où les LLM sont de plus en plus testés comme couche de raisonnement au-dessus de pipelines de perception classiques plutôt que comme modèles vision-langage-action de bout en bout. Le choix du NIST Assembly Task Board comme référence permet une comparaison future avec d'autres approches de la communauté robotique académique, sans toutefois indiquer à ce stade de partenariat industriel ou de calendrier de déploiement au-delà du cadre expérimental décrit.

À lire aussi

Un cadre conversationnel pour la manipulation collaborative humain-robot avec des modèles d'IA générative distribués
1arXiv cs.RO 

Un cadre conversationnel pour la manipulation collaborative humain-robot avec des modèles d'IA générative distribués

Des chercheurs de l'Université de Tampere (Finlande) publient sur arXiv (2606.06061) un framework distribué permettant à un opérateur humain de piloter un robot manipulateur par commandes vocales ou textuelles en langage naturel. L'architecture repose sur ROS 2, avec quatre nœuds indépendants : compréhension linguistique (LLM local), ancrage visuel (VLM), orchestration, et exécution moteur. À partir d'une instruction libre, le système génère des requêtes structurées pour des tâches de saisie, dépose et transfert d'objet. Le VLM retourne des cibles en espace-image, ensuite converties en objectifs métriques dans le référentiel robot grâce à la profondeur et à la calibration. Les expériences sont menées sur un bras Franka FR3 ; les auteurs mesurent la fiabilité bout-en-bout et la latence en faisant varier le degré d'ambiguïté de la scène sur la table de travail, et comparent plusieurs configurations LLM/VLM dans le même pipeline. Un tableau de bord web affiche les intentions intermédiaires et les superpositions d'ancrage visuel (pixel, profondeur, référentiel robot), et exige une confirmation explicite de l'opérateur avant tout mouvement. L'intérêt principal de cette approche pour un intégrateur ou un COO industriel tient à trois points. Premièrement, le choix de modèles locaux, pas de dépendance cloud, répond directement aux contraintes de latence et de confidentialité en environnement de production. Deuxièmement, la modularité ROS 2 permet de substituer un modèle par un autre sans refondre la stack, ce qui facilite le benchmarking et la mise à jour. Troisièmement, la boucle de confirmation opérateur est un signal clair que les auteurs ne cherchent pas à masquer le gap demo-versus-réalité : le système ne prétend pas être autonome, il vise une collaboration vérifiable. À noter que les métriques de fiabilité ne sont pas chiffrées dans l'abstract, les résultats quantitatifs précis restent à vérifier dans le corps du papier. Ce travail s'inscrit dans un courant de recherche actif autour des VLA (vision-language-action) pour la manipulation, où Physical Intelligence (Pi-0), Google DeepMind (RT-2, π0) et Stanford (Mobile ALOHA) occupent le devant de la scène avec des approches end-to-end à grande échelle. Le choix de Tampere d'utiliser des modèles légers et locaux contraste délibérément avec ces acteurs : c'est un positionnement orienté déploiement industriel frugal plutôt que performance brute. Le code est disponible en open source sur GitHub (cogrob-tuni/franka-llm), ce qui facilite la reproductibilité. La prochaine étape logique serait d'étendre le framework à des scènes dynamiques ou multi-robots, et de publier des benchmarks comparatifs sur des tâches standardisées comme celles de RoboAgent ou BridgeData.

UETravaux issus de l'Université de Tampere (Finlande, UE) proposant une architecture LLM/VLM entièrement locale et open source pour la manipulation collaborative, directement alignée sur les contraintes RGPD et de souveraineté industrielle du marché européen.

RechercheOpinion
1 source
Collaboration adaptative robot-humain pour la construction en maçonnerie face aux incertitudes de matériaux et d'assemblage
2arXiv cs.RO 

Collaboration adaptative robot-humain pour la construction en maçonnerie face aux incertitudes de matériaux et d'assemblage

Des chercheurs ont publié fin mai 2026 un preprint (arXiv:2605.20264) présentant un workflow collaboratif humain-robot adaptatif pour la construction en maçonnerie, validé sur une étude de cas en pose de briques. Le protocole divise les tâches ainsi : un bras robotique place les briques, tandis qu'un opérateur humain applique la colle. Deux mécanismes téchniques complémentaires structurent le système. D'une part, un projecteur monté sur l'effecteur terminal du robot projette en temps réel un guidage spatial précis directement sur la surface de travail, indiquant à l'opérateur exactement où et comment appliquer l'adhésif. D'autre part, un scanner laser mesure en continu l'état réel de l'assemblage et corrige dynamiquement les poses de saisie et de dépôt du robot. Des expériences en grandeur réelle ont été conduites sur des configurations d'appareil courant (running bond) et des configurations non standard, sans que les auteurs ne précisent le volume de briques testé ni la durée des cycles. Ce travail s'attaque à deux verrous bien identifiés de la robotique de construction : la communication robot-vers-humain et l'accumulation des tolérances. En chantier réel, les écarts dimensionnels des matériaux et les erreurs d'assemblage se cumulent au fil des rangées, dérivant les poses planifiées vers des collisions ou des défauts géométriques. Les résultats montrent que la projection spatiale améliore la régularité d'application de l'adhésif et réduit le temps d'opération humaine, tandis que la correction laser maintient le niveau des assises et supprime les échecs en boucle ouverte. Ces résultats suggèrent qu'un couplage perception-guidage peut absorber la variabilité matière sans reprogrammation manuelle, ce qui intéresse directement les intégrateurs souhaitant déployer des cellules robotiques sur des chantiers non contrôlés. La robotique de maçonnerie est un segment actif : la machine Hadrian X de FBR (Australie) et le système SAM100 de Construction Robotics (États-Unis) automatisent déjà la pose de briques, mais en boucle quasi-ouverte avec intervention humaine limitée. L'approche présentée se distingue par l'aspect coopératif serré entre humain et robot et par la boucle de rétroaction laser, proches des travaux menés à l'ETH Zurich (groupe Gramazio Kohler) sur la fabrication numérique en architecture. En tant que preprint non encore évalué par des pairs, ces résultats restent à confirmer à plus grande échelle; aucun partenaire industriel ni calendrier de déploiement n'est mentionné dans l'abstract.

UELes travaux de l'ETH Zurich (groupe Gramazio Kohler) cités en référence proche témoignent d'un écosystème européen actif sur la fabrication numérique en architecture, mais l'étude ne mentionne aucun partenaire ni déploiement en France ou en UE.

RecherchePaper
1 source
Apprendre à assister : des modèles VLA collaboratifs pour la coopération implicite humain-robot
3arXiv cs.RO 

Apprendre à assister : des modèles VLA collaboratifs pour la coopération implicite humain-robot

Des chercheurs ont publié le 12 juin 2026 (arXiv:2606.12475) une étude sur l'usage de modèles vision-langage-action (VLA) entraînés par imitation learning pour la collaboration humain-robot (HRC) implicite, sans signal explicite déclenchant l'assistance robotique. Évaluant deux VLA de référence sur des tâches d'assemblage collaboratif, l'équipe identifie un défaut propre aux politiques d'action-chunking : la "fuite d'actions de démonstration" (demonstration action leakage). Ce phénomène survient lorsque des chunks d'actions enjambent des transitions latentes de sous-tâches, poussant le robot à assister l'humain trop tôt, comme tendre un outil avant que l'opérateur soit prêt à le saisir. Pour corriger ce comportement sans réentraîner le modèle, les auteurs proposent un pilotage à l'inférence (inference-time steering). Une étude à 16 participants sur une tâche d'assemblage longue horizon confirme que le steering réduit les interventions prématurées, accélère la collaboration et diminue les échecs par rapport à une politique à horizon court. Ce résultat ouvre une voie concrète pour l'intégration des VLA dans des workflows industriels collaboratifs, jusqu'ici dépendants de pipelines codés à la main, peu scalables vers de nouvelles tâches. La fuite d'actions constitue un avertissement direct pour les équipes déployant des politiques ACT ou diffusion en mode HRC : allonger l'horizon d'exécution, souvent souhaitable pour la fluidité du mouvement, aggrave le problème. Le steering à l'inférence fournit un correctif opérationnel sans modification du modèle entraîné, ce qui le rend attractif pour un déploiement rapide. Les VLA généralistes comme Pi-0 (Physical Intelligence), OpenVLA ou GR00T N2 (NVIDIA) ont prouvé leur efficacité en manipulation autonome, mais leur usage en HRC implicite restait peu documenté. Cette publication comble ce manque méthodologique. En Europe, des acteurs comme Enchanted Tools et Wandercraft, dont les robots sont conçus pour opérer aux côtés d'humains, pourraient réduire leur charge d'ingénierie manuelle en s'appuyant sur ces résultats. La prochaine étape sera d'étendre la méthode à des environnements industriels non contrôlés et à des tâches encore plus longues, afin d'évaluer la robustesse du steering face à la variabilité réelle des comportements humains.

UEEnchanted Tools et Wandercraft, acteurs européens de la robotique collaborative, pourraient réduire leur charge d'ingénierie manuelle en adoptant le steering à l'inférence pour corriger la fuite d'actions dans leurs déploiements VLA, sans réentraîner leurs modèles.

RechercheOpinion
1 source
CoAdapt : un framework basé sur un LLM pour la perception collaborative adaptative dans les essaims robotiques IIoT
4arXiv cs.RO 

CoAdapt : un framework basé sur un LLM pour la perception collaborative adaptative dans les essaims robotiques IIoT

Les chercheurs présentent CoAdapt, un framework de perception collaborative adaptative destiné aux essaims de robots mobiles autonomes dans l'IIoT (Industrial Internet of Things), pour des tâches comme la manutention, l'assemblage de produits ou l'inspection d'infrastructures. Le système utilise un grand modèle de langage (LLM) comme contrôleur de fusion en temps réel : il décide dynamiquement quels robots participent à la fusion des données LiDAR et quel algorithme de fusion appliquer, en fonction de la configuration spatiale et de l'état du réseau à un instant donné. Le LLM ne traite pas directement les nuages de points bruts mais raisonne sur des descriptions structurées en langage naturel dérivées de ces données, sans nécessiter d'entraînement spécifique à la tâche. Évalué sur le benchmark OPV2V à travers 25 scénarios, CoAdapt affiche une réduction de 38% du coût de communication tout en maintenant une précision de détection comparable aux approches statiques de référence. L'étude est publiée sous la référence arXiv:2609.16852v1. Ce travail cible une limite concrète des systèmes actuels de perception collaborative multi-robots : ils supposent une participation statique des agents, alors que les environnements industriels réels impliquent des positions robotiques changeantes, une bande passante réseau fluctuante et une contribution variable de chaque robot à la qualité de perception collective. Pour les intégrateurs de flottes de robots mobiles autonomes (AMR) en usine ou en entrepôt, l'enjeu est direct : réduire la charge réseau sans dégrader la fiabilité de détection permet de déployer des essaims plus larges avec une infrastructure de communication moins coûteuse. L'approche illustre aussi une tendance plus large où les LLM sont utilisés non pas pour générer du texte mais comme couches de décision et d'orchestration au runtime, exploitant leur capacité de raisonnement sur des descriptions symboliques plutôt que sur des données de capteurs brutes, ce qui limite le besoin de réentraînement lors de changements de topologie du swarm. Le papier s'inscrit dans la lignée des travaux sur la perception collaborative véhicule-à-véhicule et robot-à-robot, dont OPV2V (Open V2V Perception), le benchmark utilisé ici, est devenu une référence standard pour évaluer la fusion LiDAR multi-agents en simulation. CoAdapt ne précise pas d'acteur industriel partenaire ni de déploiement réel sur site : il s'agit d'un résultat de recherche académique validé en simulation, sans indication de mise en production ni de pilote annoncé avec un fabricant de robots ou un intégrateur. Aucune entreprise française ou européenne du secteur robotique n'est mentionnée dans cette publication.

RecherchePaper
1 source