Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
RecherchearXiv cs.RO 

Graphes de scène 3D pilotés par des modèles fondation pour la manipulation mobile

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs du laboratoire SPARK du MIT publient sur arXiv (2610.23622) une intégration complète de FOUND-IT, un système de cartographie qui construit en temps réel des graphes de scène 3D à partir d'une seule caméra monoculaire non calibrée. Le graphe est « task-driven » (guidé par la tâche) et en vocabulaire ouvert : les objets ne sont pas limités à une liste de classes prédéfinie. L'équipe a embarqué ce système sur un manipulateur mobile, puis l'a testé en conditions réelles. Il remplit quatre fonctions : détection de changements d'objets, fusion de plusieurs sessions de cartographie, calcul de chemins navigables et guidage de la saisie pour une tâche de réarrangement de scène. Le code est publié en open source sur GitHub. Le résumé ne donne aucun chiffre de performance (taux de réussite, précision de localisation, temps de cycle) ni de description de la plateforme matérielle.

L'intérêt tient au passage de la démonstration de composant à la chaîne d'autonomie complète. Les modèles de fondation géométriques et sémantiques servent de plus en plus à produire des cartes spatiales, mais peu de travaux les ont intégrés dans un pipeline utilisable de bout en bout, à la différence des méthodes classiques de cartographie, éprouvées par de nombreuses démonstrations système. Pour un intégrateur, une seule caméra RGB sans calibrage fine abaisse le coût et la complexité du capteur, en échange d'une géométrie moins fiable qu'avec un lidar ou une caméra de profondeur calibrée. Les auteurs annoncent aussi une évaluation des limites de cette mémoire spatiale, ce qui est plus utile qu'une vidéo de démonstration. Ces limites ne sont toutefois pas détaillées dans le résumé : il faudra lire l'article complet pour savoir si la saisie et la navigation tiennent hors du laboratoire.

Ce travail prolonge la lignée des graphes de scène 3D du MIT SPARK, laboratoire connu pour Hydra et Kimera, qui bâtissaient ces représentations avec des capteurs plus classiques. Il s'inscrit dans une course plus large à la « mémoire spatiale » des robots, où les modèles de fondation géométriques remplacent peu à peu les chaînes de SLAM traditionnelles, et alimente aussi les politiques VLA (vision-langage-action) qui manquent encore de mémoire persistante. Le caractère académique, sans annonce de pilote industriel ni de calendrier, place cette publication au stade de la preuve de concept. Les suites probables sont des tests sur des scènes plus grandes et plus dynamiques, et une intégration avec des politiques de manipulation apprises.

Impact France/UE

Pas d\'impact direct sur la France/UE

Dans nos dossiers

IA physique & VLAarXiv cs.RO

À lire aussi

Planification des tâches pour la manipulation mobile en magasin grâce à des modèles fondation avec replanification itérative
1arXiv cs.RO 

Planification des tâches pour la manipulation mobile en magasin grâce à des modèles fondation avec replanification itérative

Il s'agit d'un article de recherche arXiv (2607.09962v1), pas d'une annonce produit, je rédige le résumé en conséquence, en marquant clairement qu'il s'agit d'un travail encore au stade simulation. Des chercheurs présentent une méthode de planification de tâches pour la robotique mobile de manipulation appliquée au réassort en magasin, combinant grands modèles de langage (LLM) et modèles vision-langage (VLM). Le système reçoit des instructions formulées par un utilisateur, construit un plan d'action pour une plateforme de manipulation mobile omnidirectionnelle personnalisée, puis corrige ses erreurs grâce à une boucle de re-planification itérative fondée sur un retour visuel. Point important à souligner : l'ensemble du pipeline n'a été validé qu'en environnement de simulation PyBullet, sur des tâches de prise et dépose (pick-and-place), et non sur un robot physique en conditions réelles de magasin. L'abstract ne fournit ni chiffres de charge utile, ni degrés de liberté, ni temps de cycle, ni date de déploiement, ce qui limite la portée immédiatement opérationnelle de l'annonce. L'intérêt de ces travaux tient moins à la performance affichée qu'au périmètre visé : jusqu'ici, l'automatisation en logistique et distribution s'est concentrée sur des opérations d'arrière-boutique (tri, emballage) dans des environnements structurés et prévisibles. Étendre cette automatisation aux rayons de supermarché suppose de gérer un environnement bien plus variable et centré sur l'humain, avec des obstacles mobiles, des produits mal rangés et des interactions client. L'usage de LLM/VLM pour la planification de haut niveau, couplé à une re-planification réactive en cas d'échec, illustre une tendance plus large du secteur : tester si les modèles fondation permettent de généraliser au-delà des scénarios d'entrepôt scriptés. Mais tant que la preuve ne dépasse pas la simulation, l'écart classique entre démonstration et déploiement réel reste entier, et les intégrateurs B2B devront attendre une validation sur plateforme physique avant d'y voir un signal de maturité commerciale. Ce travail s'inscrit dans la vague plus large de recherche sur la manipulation mobile pilotée par foundation models, qui a vu émerger des architectures VLA comme Pi-0 ou GR00T N2 chez des acteurs orientés produit, mais qui reste ici traitée sous un angle académique, avec une plateforme de manipulation "custom" non identifiée commercialement. Le choix du cas d'usage réassort en supermarché reflète l'intérêt croissant du secteur retail pour l'automatisation de tâches jusqu'ici jugées trop non structurées pour la robotique, un terrain où des acteurs comme Simbe Robotics ou Bossa Nova ont déjà exploré l'inventaire par robot mobile, sans toutefois intégrer la manipulation physique des produits. La suite logique de ces travaux serait un transfert sim-to-real sur robot physique, étape non abordée dans cette publication, ce qui invite à considérer ce résultat comme une preuve de concept méthodologique plutôt qu'un jalon de déploiement.

RecherchePaper
1 source
Champs de risque sémantique guidés par un modèle fondation et sensibles à la topologie pour la manipulation
2arXiv cs.RO 

Champs de risque sémantique guidés par un modèle fondation et sensibles à la topologie pour la manipulation

Des chercheurs proposent un champ de risque sémantique 3D pour la planification de mouvement en manipulation, publié sur arXiv (2609.36640v1). Le système attribue à chaque paire objet manipulé / objet de la scène six poids de risque directionnels, ainsi qu'une échelle de décroissance spatiale propre à la paire, tous produits par un modèle de fondation. Ces a priori sont fusionnés avec la géométrie 3D voxelisée de la scène par un « shielding » sensible à la topologie (un obstacle protège l'objet sensible) et par une décroissance spatiale géodésique, c'est-à-dire mesurée le long des chemins réellement praticables. Un backend parallélisé sur GPU regroupe les calculs de distance et de risque par objet pour construire un champ 3D dense, utilisable comme terme de coût modulaire par n'importe quel planificateur en aval. L'évaluation porte sur trois scénarios domestiques en simulation, sur le comportement du shielding face à des barrières complètes ou partielles, et sur la comparaison avec une base de référence à a priori sémantiques calculés pixel par pixel. Les auteurs évaluent aussi le coût de calcul et la fiabilité du pipeline. Le résumé ne donne aucun chiffre précis (temps de calcul, taux de réduction d'exposition), et il n'indique ni le modèle de fondation utilisé ni de test sur robot réel. L'enjeu est de dépasser l'évitement de collision, qui traite tous les contacts et toutes les proximités de façon équivalente. Dans un foyer, passer un couteau au-dessus d'un ordinateur portable ou d'une assiette n'a pas le même risque que le passer près d'un mur. Les modèles de fondation peuvent fournir ce jugement contextuel, mais leurs sorties restent difficiles à intégrer dans un planificateur qui exige des garanties géométriques strictes. Ce travail répond à cette tension en séparant les deux niveaux. Les contraintes dures restent géométriques, et le risque sémantique entre comme un coût doux, ce qui préserve la modularité. Pour les intégrateurs, c'est une piste vers des manipulateurs de service plus acceptables en environnement non structuré. Il faut toutefois rester prudent : les résultats sont uniquement simulés, et la mesure principale, une « exposition sémantique » plus faible que celle de trajectoires sans risque sémantique, dépend de la définition choisie par les auteurs. Rien ne prouve encore que les poids produits par le modèle soient fiables ou reproductibles hors simulation. Ce travail s'inscrit dans la vague des approches qui associent modèles vision-langage et planification, comme les champs de valeur 3D de type VoxPoser ou les contraintes spécifiées par langage naturel. La plupart projettent la sémantique en 2D ou l'ignorent dans la topologie de la scène, ce que la base de comparaison pixel par pixel illustre ici. Les prochaines étapes probables sont une validation sur bras réel, un test sur des scènes encombrées et dynamiques, et une intégration avec des politiques VLA (vision-langage-action) de type Pi-0 ou GR00T. Aucun calendrier de déploiement ni partenaire industriel n'est annoncé, et il s'agit d'un préprint non évalué par des pairs.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
MobileManiBench : simplifier la vérification des modèles pour la manipulation mobile
3arXiv cs.RO 

MobileManiBench : simplifier la vérification des modèles pour la manipulation mobile

Une équipe de chercheurs a publié MobileManiBench, un benchmark à grande échelle destiné à évaluer les modèles de type VLA (Vision-Language-Action) sur des tâches de manipulation robotique mobile, avant tout déploiement réel. Le système repose sur NVIDIA Isaac Sim et un pipeline de génération automatique par apprentissage par renforcement, qui produit des trajectoires annotées incluant instructions en langage naturel, images RGB-profondeur-segmentation multi-vues, et états synchronisés objet/robot. Le dataset résultant comprend 300 000 trajectoires, couvrant 630 objets répartis en 20 catégories, 5 compétences motrices (ouvrir, fermer, tirer, pousser, saisir), plus de 100 tâches distinctes exécutées dans 100 scènes réalistes. Deux plateformes mobiles sont représentées, un robot à pince parallèle et un robot à main dextère, chacun équipé de deux caméras synchronisées (tête et poignet droit). Le code, les datasets et les modèles sont publiés en open-source. L'enjeu central que MobileManiBench cherche à résoudre est le goulot d'étranglement des données de téléopération : les VLA actuels, dont pi-0 de Physical Intelligence ou GR00T N2 de NVIDIA, sont entraînés quasi-exclusivement sur des scènes de table statiques collectées par des opérateurs humains, ce qui limite leur généralisation à des environnements mobiles et encombrés. Un framework de vérification en simulation avant déploiement réel permettrait aux équipes R&D de filtrer les architectures non viables sans mobiliser des flottes de robots physiques ni des heures de téléopération coûteuses. La génération automatique à l'échelle de 300K trajectoires diversifiées ouvre également la voie à des études contrôlées sur l'efficacité des données et la généralisation, deux variables critiques pour les intégrateurs industriels qui évaluent le coût réel d'adoption d'un VLA. Cette publication s'inscrit dans un mouvement plus large de la communauté robotique vers les approches sim-to-real, portées notamment par NVIDIA (Isaac Lab, Isaac Sim) et des labos comme Stanford, CMU et le LAAS-CNRS côté français. La manipulation mobile reste plus difficile que la manipulation sur table fixe en raison de la complexité des coordinations base-bras et de la variabilité des angles de caméra, problèmes que MobileManiBench cherche précisément à circonscrire. Les résultats comparatifs publiés sur plusieurs VLA représentatifs fournissent une base de référence utile, même si les benchmarks en simulation pure sous-estiment souvent l'écart sim-to-real : les métriques annoncées devront être validées en conditions physiques pour devenir opérationnellement significatives.

UELe LAAS-CNRS est cité parmi les laboratoires moteurs du sim-to-real ; les équipes R&D françaises évaluant des VLA pour la manipulation mobile peuvent exploiter directement ce benchmark open-source pour réduire leurs coûts de validation avant déploiement physique.

RechercheOpinion
1 source
ViTaR : adaptation résiduelle visuo-tactile pour la manipulation par modèles fondation VLA
4arXiv cs.RO 

ViTaR : adaptation résiduelle visuo-tactile pour la manipulation par modèles fondation VLA

Une équipe publie sur arXiv (2608.15816v1) ViTaR (Visuo-Tactile Residual Adaptation), qui comble un angle mort des modèles Vision-Language-Action (VLA) : entraînés sur de vastes a priori visuels, ils produisent la même action que le contact avec l'objet soit établi, perdu ou déstabilisé. Plutôt que de modifier l'intérieur du VLA, au risque d'un oubli catastrophique, ou de recourir à du renforcement en ligne près des conditions d'échec, ViTaR garde le modèle gelé et traite le tactile comme un modulateur d'exécution plutôt que comme une entrée génératrice d'action. Une première étape détermine si une correction résiduelle est localement justifiée à partir des résultats observés, une seconde la convertit en un gain continu calculé en temps réel. Sur le benchmark UniVTAC, sept tâches de manipulation à fort contact, ViTaR atteint 61,3% de réussite moyenne, soit 30,6 points de plus que le VLA gelé de base, devançant aussi des méthodes tactiles spécialisées ; des essais sur robot physique confirment le transfert au bruit et à la dynamique réels des capteurs. Ce résultat cible un point critique pour l'industrialisation des VLA, de plus en plus déployés sur bras manipulateurs et humanoïdes : ces modèles excellent sur des tâches visuelles généralistes mais restent fragiles dès qu'il faut saisir, insérer ou assembler avec un contact fin, un scénario omniprésent en logistique et en assemblage industriel. En montrant qu'une correction résiduelle bornée, greffée sur un VLA figé, suffit à gagner plus de 30 points de réussite sans réentraîner le modèle de base, ViTaR ouvre une voie pour ajouter de la robustesse tactile aux piles VLA existantes sans dégrader leurs capacités généralistes. Les approches précédentes laissaient au contraire au tactile une influence non bornée sur l'action générée, au risque de contredire les a priori qui font la généralisabilité de ces modèles. Le travail s'inscrit dans les efforts pour doter les modèles VLA de fondation, dans la lignée de familles comme Pi-0, GR00T ou Helix, d'une perception multimodale plus fine que la seule vision. Publié comme soumission arXiv nouvelle, ViTaR reste à ce stade une contribution de recherche validée sur un benchmark simulé et par des essais robot physique limités, sans annonce de déploiement industriel ni de partenariat commercial. Les auteurs ne donnent pas de calendrier pour une intégration dans des piles VLA commerciales existantes.

RecherchePaper
1 source