RecherchearXiv cs.RO 11 août 2026

Calib3R : calibration main-œil et reconstruction 3D à l'échelle métrique avec des modèles fondation 3D

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Le laboratoire de recherche a présenté Calib3R, une méthode conjointe de calibration main-œil et de reconstruction 3D métrique pour bras robotiques équipés de caméras RGB. Contrairement aux techniques traditionnelles qui exigent des mires de calibration physiques, Calib3R fonctionne sans motif imprimé : elle s'appuie sur un modèle de fondation 3D pour extraire des pointmaps directement à partir d'images RGB, combinées aux poses articulaires du robot afin de reconstruire une scène 3D à l'échelle métrique, alignée sur le référentiel de la base du robot. Le système gère aussi bien les configurations mono-caméra que multi-caméras, un cas généralement plus complexe car il impose d'exprimer les données dans un référentiel commun. Selon les auteurs, des expériences menées sur plusieurs jeux de données montrent que Calib3R atteint une calibration précise avec moins de dix images, surpassant à la fois les méthodes sans mire et les méthodes classiques avec mire. Le papier, disponible sur arXiv (2509.08813v2), correspond à une version révisée d'un article déjà annoncé précédemment.

Pour l'industrie robotique, cette approche répond à un goulot d'étranglement concret de l'intégration : aujourd'hui, calibrer un bras robotique et reconstruire son environnement en 3D restent deux étapes distinctes, chacune exigeant du matériel dédié (mires, cibles) et une expertise spécifique, ce qui ralentit le déploiement de systèmes de manipulation guidés par la vision. En unifiant les deux tâches dans une seule optimisation géométrique, et en réduisant drastiquement le nombre d'images nécessaires, Calib3R pourrait simplifier la mise en service de cellules robotiques pour des intégrateurs qui n'ont pas de laboratoire de métrologie dédié. C'est aussi un signal parmi d'autres que les modèles de fondation 3D, initialement développés pour la vision générale, commencent à s'infiltrer dans les briques d'infrastructure robotique les plus techniques, au-delà des usages de perception ou de planification de trajectoire déjà démontrés.

Cette publication s'inscrit dans la lignée des travaux récents exploitant les modèles de fondation 3D (type reconstruction dense à partir d'images non calibrées) pour résoudre des problèmes classiques de robotique autrement dépendants de capteurs ou de mires physiques. Elle se positionne face aux méthodes de calibration patternless existantes et aux approches par mire encore largement utilisées en production. L'article ne précise pas d'implémentation matérielle commerciale ni de partenaire industriel : il s'agit à ce stade d'une contribution de recherche évaluée sur jeux de données, sans indication de déploiement pilote ou d'intégration produit annoncée.

Dans nos dossiers

arXiv cs.RO

À lire aussi

1arXiv cs.RO

GraspFoM : vers une préhension robotique guidée par la reconstruction et les modèles fondation 3D

Une équipe de chercheurs a publié le 10 juin 2026 sur arXiv (référence 2606.08440) GraspFoM, un framework unifié de saisie robotique qui exploite des fondations 3D pré-entraînées, plus précisément SAM3D, pour construire une représentation latente 3D partagée entre deux tâches simultanées : la reconstruction géométrique de l'objet et la prédiction de poses de préhension. L'architecture centrale repose sur un diffuseur de raisonnement de pose tronqué à initialisation par ancres, qui génère des poses continues et multimodales sans dépendre de candidats discrets préétablis, une distinction technique importante par rapport aux pipelines classiques. GraspFoM produit en sortie à la fois des poses de saisie et des reconstructions 3D haute fidélité au format maillage polygonal et 3D Gaussian Splatting (3DGS). Les auteurs rapportent des résultats de pointe sur les benchmarks de reconstruction et de saisie, avec un surcoût en paramètres entraînables qualifié de "limité" mais sans chiffre précis publié. Ce travail adresse un verrou réel dans la manipulation robotique : la saisie sous observation partielle, c'est-à-dire quand la caméra ne voit qu'une fraction de l'objet. Les approches existantes utilisent la géométrie 3D comme étape intermédiaire jetable, sans la capitaliser comme prior réutilisable. GraspFoM rompt avec cette logique en faisant co-évoluer reconstruction et grasping dans un espace latent commun : la reconstruction ancre la géométrie, la supervision de saisie affine ce latent vers les zones de prise pertinentes. Le scorer reconstruction-aware et le residual latent updater formalisent cette rétroaction mutuelle. Pour les intégrateurs en manipulation industrielle ou logistique, cela suggère une meilleure robustesse sur des objets partiellement occultés, sans multiplication des modules ou des paramètres, ce qui est un argument d'efficacité réelle si les expériences réelles confirment les benchmarks. Les fondations 3D comme SAM3D s'inscrivent dans une vague de transferts de connaissances entre vision 2D et représentations 3D, parallèle à l'essor des VLA (Vision-Language-Action models) pour la manipulation généraliste. GraspFoM se positionne différemment des approches purement end-to-end comme pi0 de Physical Intelligence ou GR00T N2 de NVIDIA : il mise sur la reconstruction explicite plutôt que sur l'imitation à grande échelle. Les concurrents académiques proches incluent GraspNeRF, Contact-GraspNet et des travaux récents combinant diffusion et géométrie 3D. À ce stade, GraspFoM reste un preprint non validé en conditions réelles, les expériences rapportées étant réalisées sur simulateur ou bancs de test contrôlés. Aucun partenaire industriel ni déploiement pilote n'est mentionné, et aucune timeline de commercialisation n'est communiquée.

RecherchePaper

1 source

2arXiv cs.RO

Modèle fondation à l'échelle pour robots humanoïdes

Une nouvelle publication arXiv (2607.15163v1, soumission de type "new") propose un modèle de fondation comportemental (Behavior Foundation Model, BFM) pour le contrôle de robots humanoïdes, baptisé Humanoid Transformer. Les auteurs affirment avoir identifié la recette manquante pour faire monter en puissance ces modèles, en coordonnant trois leviers : un nouveau paradigme d'apprentissage qui reformule le contrôle humanoïde comme la reproduction de comportements corporels intégrés dans le référentiel global plutôt que local ; un équilibrage stratégique entre le volume de déploiements en ligne (on-policy rollouts) et la diversité des mouvements de référence utilisés à l'entraînement ; et l'architecture Humanoid Transformer elle-même, conçue pour faire émerger naturellement des représentations structurées du comportement. Testée à la fois en simulation et en conditions réelles, l'approche réduit l'erreur moyenne par point clé (Mean Per-Keypoint Position Error, MPKPE) de plus de 10% en mode local et de 82% en mode global par rapport aux contrôleurs humanoïdes existants. Ce travail répond à un flou méthodologique réel du secteur : malgré l'engouement croissant pour les BFM comme brique de base des agents incarnés généralistes, personne n'avait jusqu'ici établi de façon rigoureuse comment coordonner données, architecture et paradigme d'entraînement pour obtenir un gain de performance qui tienne la route au passage à l'échelle. Le saut de 82% en mode global est le chiffre qui compte vraiment pour les intégrateurs : c'est la capacité à maintenir une cohérence corporelle dans le référentiel monde, condition nécessaire pour des tâches où le robot doit coordonner déplacement et manipulation sans dérive, un point faible classique des contrôleurs entraînés uniquement en référentiel local. Si les résultats se confirment à plus grande échelle, ils renforcent l'hypothèse que le contrôle humanoïde généraliste peut suivre une trajectoire de scaling comparable à celle des grands modèles de langage, plutôt que de rester cantonné à des politiques spécialisées par tâche. L'article s'inscrit dans la vague de recherche académique qui a suivi l'essor des politiques vision-langage-action (VLA) et des BFM ces deux dernières années, sans rattacher la méthode à un robot ou un laboratoire commercial précis : il s'agit d'une contribution méthodologique comparée à des "contrôleurs humanoïdes existants" pris comme référence, sans nommer de plateforme physique spécifique. La suite logique serait une validation sur du matériel humanoïde tiers et à plus grande échelle de données, pour confirmer que le gain en mode global se maintient hors du cadre expérimental des auteurs.

RechercheActu

1 source

3arXiv cs.RO

Modèles du monde à embodiment croisé : passage à l'échelle pour la manipulation dextérique

Résumé des risques : aucun outil nécessaire, ceci est une tâche de traduction/synthèse d'article. Voici le texte. Une équipe de recherche propose dans un article publié sur arXiv (2511.01177v3, version révisée) une nouvelle approche pour construire des modèles du monde partagés entre différentes morphologies de mains, robotiques comme humaines. Le problème posé est concret : les différences de cinématique et d'espaces d'action entre robots empêchent aujourd'hui de mutualiser les données d'entraînement et de transférer du contrôle d'un système à l'autre. Les chercheurs représentent les mains, humaines et robotiques, comme des ensembles de particules 3D, et définissent les actions comme des champs de déplacement de ces particules à l'extrémité effectrice. Cette abstraction géométrique s'affranchit des espaces articulaires propres à chaque plateforme tout en conservant la géométrie et le mouvement pertinents pour l'interaction physique. Le modèle du monde, basé sur des réseaux de graphes, est entraîné sur des données d'interaction aléatoires issues de mains robotiques simulées variées et de mains humaines réelles, puis couplé à du contrôle prédictif par modèle (MPC) pour piloter du matériel inédit. Les expériences, menées sur des tâches de manipulation d'objets rigides et déformables, dégagent trois résultats. D'abord, plus la diversité des morphologies utilisées à l'entraînement est grande, meilleure est la généralisation à des mains jamais vues. Ensuite, combiner données simulées et données réelles dans de bonnes proportions surpasse l'usage de l'une ou l'autre source seule. Enfin, un même modèle appris permet de contrôler efficacement des mains robotiques aux cinématiques et degrés de liberté (DOF) distincts. Pour le secteur, ces résultats intéressent directement la question du transfert de compétences entre plateformes hétérogènes, un verrou connu pour les approches VLA classiques qui restent souvent liées à un espace d'action fixe. Il s'agit d'un travail de recherche académique, pas d'un produit ni d'un déploiement industriel : aucune entreprise, aucun robot commercial n'est nommé, et les résultats sont obtenus en environnement contrôlé, majoritairement simulé. La méthode s'inscrit dans la lignée des travaux récents sur les modèles du monde et le contrôle prédictif appliqués à la manipulation dextre, un axe de recherche actif face aux limites de généralisation des politiques bout-en-bout entraînées par embodiment.

RecherchePaper

1 source

4arXiv cs.RO

C2Dex : reconstruction et retargeting cohérents avec le contact pour la manipulation dextérique à partir de vidéo monoculaire

Des chercheurs publient sur arXiv (arXiv:2608.07045v1) un article intitulé C2Dex, un framework qui transfère des démonstrations de manipulation extraites de simples vidéos monoculaires de mains humaines vers des robots à mains dextres. Le système repose sur une représentation partagée de contacts stables côté objet, reconstruits en agrégeant des observations bruitées image par image dans un espace canonique de l'objet. Ces contacts servent à la fois de contraintes de trajectoire pour stabiliser la reconstruction 3D de l'interaction main-objet humaine, et de cibles explicites pour le transfert vers la main robotique, via une optimisation laplacienne de l'interaction qui préserve la géométrie locale du contact malgré le changement de morphologie, puis un raffinement par apprentissage par renforcement résiduel en simulation. Sur les benchmarks DexYCB et TACO, C2Dex atteint des taux de réussite de trajectoire de bout en bout de 57,78% et 26,67% respectivement, contre 17,78% et 10% pour les meilleures méthodes de référence testées dans les mêmes conditions. Des essais de rejeu sur robot réel confirment la faisabilité physique des trajectoires générées sur des tâches de manipulation riches en contacts. Cette avancée s'attaque à un goulot d'étranglement central de la manipulation dextre : la collecte de démonstrations de qualité via téléopération ou capture de mouvement reste coûteuse et lente, alors que les vidéos humaines existent en abondance et à bas coût. Réussir à extraire de ces vidéos des trajectoires physiquement plausibles et transférables à des mains robotiques de morphologies différentes est jugé nécessaire pour entraîner à grande échelle des politiques de manipulation, dans la même logique que les modèles vision-langage-action utilisés par l'industrie humanoïde. Le gain observé face aux méthodes concurrentes, avec des taux de réussite multipliés par trois sur les deux jeux de données, suggère que l'instabilité des contacts reconstruits depuis la vidéo, jusqu'ici un frein majeur, peut être significativement atténuée. Les taux de réussite absolus restent toutefois modestes, en particulier sur TACO (26,67%), ce qui signale que le transfert vidéo vers robot dextre reste loin d'être résolu pour des tâches complexes. C2Dex s'inscrit dans un axe de recherche actif visant à exploiter les vidéos humaines comme source de données pour l'apprentissage par imitation en robotique, en complément ou substitut des démonstrations téléopérées. L'article, classé comme nouvelle soumission sur arXiv, n'a pas encore fait l'objet d'une publication évaluée par les pairs et ne décrit ni déploiement industriel ni intégration produit : il s'agit d'un travail de recherche comparé à des méthodes existantes de reconstruction d'interaction main-objet et de retargeting, jugées moins performantes dans les mêmes conditions d'évaluation. Une page projet dédiée met à disposition davantage de détails techniques et, potentiellement, des démonstrations vidéo. Les auteurs ne précisent pas de calendrier de suite des travaux, mais la démonstration sur robot réel laisse entrevoir une prochaine étape naturelle vers des évaluations en conditions moins contrôlées et sur un éventail plus large de tâches et de morphologies de mains robotiques.

RecherchePaper

1 source