RecherchearXiv cs.RO 8 juillet 2026

GEM-Occ : de l'évidence géométrique visuelle à la mémoire d'occupation sémantique incarnée

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Résumé rédigé pour l'article scientifique arXiv 2607.05543 (GEM-Occ / HIOcc) :

Une équipe de recherche publie GEM-Occ, un nouveau système de mémoire spatiale pour agents robotiques évoluant en intérieur, accompagné de HIOcc, un benchmark qui unifie trois jeux de données de référence : ScanNet, ScanNet++ et Matterport3D, sous un format commun d'occupation sémantique creuse. Contrairement aux approches existantes limitées à la prédiction sur une seule vue ou à la perception au niveau d'une pièce, HIOcc évalue la cartographie sémantique sur trois échelles : locale, au niveau de la pièce en temps réel, et au niveau du bâtiment entier à partir de vues panoramiques connectées. GEM-Occ, de son côté, traite les prédictions de géométrie visuelle comme des preuves transitoires plutôt que comme un état de carte persistant : il les convertit en évidence d'occupation gaussienne sémantique et en évidence de rayons d'espace libre, puis les fusionne dans une mémoire hiérarchique via des mises à jour causales tenant compte de la visibilité et de l'incertitude. Cette mémoire s'organise en caches locaux, sous-cartes par pièce et graphe à l'échelle du bâtiment, interrogeable à tout moment par splatting gaussien vers occupation.

Cette publication s'attaque à un angle mort réel de la navigation robotique en intérieur : la plupart des méthodes actuelles de cartographie sémantique tiennent bien sur une pièce isolée mais se dégradent sur des environnements connectés de grande taille, typiquement les bâtiments à plusieurs étages qu'un robot de service ou un agent domestique doit mémoriser durablement. En démontrant une amélioration mesurable sur la stabilité de carte en ligne, la cohérence lors de revisites de lieux déjà explorés, et le raisonnement sur l'espace libre, GEM-Occ répond directement à un écart connu entre démonstrations en laboratoire sur environnement unique et déploiement réel multi-pièces. Pour les équipes qui conçoivent des piles de perception pour robots mobiles autonomes (AMR) ou humanoïdes destinés à des environnements industriels ou domestiques complexes, ce travail suggère qu'une mémoire hiérarchique explicite pourrait remplacer avantageusement les représentations par nuage de points classiques, plus coûteuses à maintenir sur le long terme.

Le travail s'inscrit dans la lignée des recherches sur l'occupation sémantique, un champ qui a longtemps privilégié la prédiction ponctuelle à partir d'une image RGB-D unique, sans traiter la question de la mémoire persistante à l'échelle d'un bâtiment. GEM-Occ se positionne face aux méthodes de cartographie basées sur des représentations gaussiennes ainsi qu'aux baselines d'occupation indoor existantes, qu'il dépasse selon les auteurs sur l'ensemble des régimes d'évaluation de HIOcc. La publication de ce benchmark unifié, s'appuyant sur trois jeux de données déjà largement utilisés par la communauté (ScanNet, ScanNet++, Matterport3D), devrait faciliter les comparaisons futures entre approches de cartographie sémantique et accélérer les travaux sur la navigation longue durée des agents incarnés, un prérequis pour tout déploiement robotique au-delà du prototype de laboratoire.

Dans nos dossiers

arXiv cs.RO

À lire aussi

1arXiv cs.RO

Mem2Ego : la mémoire globale vers égocentrique pour la navigation incarnée à long horizon

Mem2Ego, un framework de navigation robotique fondé sur les modèles vision-langage (VLM), a été republié le 17 septembre 2026 en version 3 sur arXiv (arXiv:2502.14254), remplaçant une version antérieure du même article de recherche. Le système s'attaque à la navigation incarnée à long horizon : un agent robotique doit explorer un environnement inconnu en combinant raisonnement de sens commun et raisonnement spatial. Concrètement, Mem2Ego associe une mémoire globale, sous forme de carte sémantique ou topologique, à des observations égocentriques en première personne captées par le robot, en récupérant dynamiquement les indices pertinents pour la tâche en cours et en les fusionnant avec la perception locale. L'équipe a évalué la méthode sur deux benchmarks de référence en navigation simulée, HSSD (Habitat Synthetic Scenes Dataset) et HM3D (Habitat-Matterport 3D), ainsi que sur un robot réel, ce qui distingue cette publication de nombreux travaux purement simulés. L'enjeu dépasse la seule performance sur benchmark. Les approches fondées uniquement sur des LLM traduisent la mémoire globale en descriptions textuelles, ce qui fait perdre l'information géométrique et pénalise le raisonnement spatial dans des environnements complexes. À l'inverse, les approches VLM purement égocentriques traitent la navigation comme un problème de décision partiellement observé, faute de vision d'ensemble, ce qui conduit à des choix sous-optimaux. En articulant les deux, Mem2Ego répond à une limite concrète et documentée du secteur de la navigation incarnée, où le compromis entre représentation langagière et perception directe reste un point de friction pour les intégrateurs travaillant sur des agents autonomes en environnement inconnu. Les auteurs annoncent un gain « significatif » par rapport à l'état de l'art antérieur sur HSSD et HM3D, sans détailler de chiffres précis dans le résumé, une formulation à prendre avec prudence tant qu'aucune métrique chiffrée n'est publiée. Le travail s'inscrit dans la lignée des recherches combinant LLM et VLM pour l'exploration robotique, un domaine où la tension entre cartes sémantiques textuelles et perception visuelle directe alimente plusieurs lignes de recherche concurrentes. La validation sur robot réel, en plus des environnements simulés HSSD et HM3D, suggère une volonté de dépasser le stade purement algorithmique, sans que l'article ne précise de calendrier de déploiement ni de partenariat industriel à ce stade.

RecherchePaper

1 source

2arXiv cs.RO

OptiSight : relier le raisonnement sémantique au contrôle géométrique pour la navigation incarnée

Une prépublication arXiv (2608.23354v1, signée par le développeur avanalperen) présente OptiSight, un framework hybride de navigation autonome en intérieur qui associe raisonnement par modèle vision-langage (VLM) et asservissement visuel déterministe, via une architecture en chaîne de pensée organisée comme un automate à états finis. Grounded-SAM se charge de localiser des cibles en vocabulaire ouvert, tandis que la géométrie de projection caméra traduit directement les observations visuelles en commandes de navigation, sans nécessiter de cartographie dense de l'environnement. Le VLM n'est interrogé qu'aux points de décision clés du parcours, le contrôle géométrique prenant le relais en continu entre deux requêtes pour limiter la charge de calcul. Testé dans le simulateur AI Habitat, le système assure une navigation en zero-shot fiable face à l'évitement d'obstacles et à l'ambiguïté sémantique, dans un budget de seulement 8 Go de VRAM, avec un code source publié en open source sur GitHub. Cette architecture tranche avec la tendance dominante des modèles vision-langage-action (VLA) entraînés de bout en bout, à l'image de Pi-0, GR00T N2 ou Helix, gourmands en données et en puissance de calcul. En limitant les appels au VLM aux seuls moments de décision et en confiant la navigation continue à un contrôle géométrique classique, OptiSight vise une solution plus légère et plus interprétable, potentiellement adaptée à des plateformes mobiles disposant de ressources embarquées modestes. Pour les intégrateurs d'AMR et de robots de service en intérieur, cela illustre une piste alternative pour relier compréhension sémantique de haut niveau et contrôle géométrique bas niveau sans dépendre d'un unique modèle massif ni d'un SLAM dense. Les résultats restent toutefois cantonnés à la simulation, sans validation rapportée sur robot physique, laissant ouverte la question du transfert vers le monde réel. OptiSight s'inscrit dans une lignée de travaux combinant segmentation en vocabulaire ouvert, héritée de Grounding DINO et Segment Anything via Grounded-SAM, et raisonnement multimodal appliqué à la navigation robotique, plutôt que dans la vague des modèles VLA propriétaires développés par les grands acteurs de la robotique humanoïde et de manipulation. Publié comme simple prépublication académique, sans affiliation industrielle mise en avant, le projet se distingue par la mise à disposition immédiate de son code sur GitHub, une pratique courante en recherche mais plus rare chez les acteurs commerciaux. Les suites habituelles pour ce type de travaux, tests sur plateformes physiques et comparaison chiffrée avec les architectures VLA de référence, restent pour l'instant absentes de cette première publication.

RecherchePaper

1 source

3arXiv cs.RO

GenVid2Robot : de la génération vidéo à la manipulation robotique par cohérence rigide-géométrique

Des chercheurs ont publié le 13 juillet 2026 sur arXiv (2607.09191v1) GenVid2Robot, un système qui transforme des vidéos générées par IA en trajectoires exécutables sur un robot manipulateur réel. Le problème de départ: une vidéo générée peut sembler visuellement plausible sans être physiquement exécutable, faute de géométrie métrique, d'ancrage de préhension, de faisabilité cinématique ou de retour d'exécution. GenVid2Robot part d'une observation RGB-D initiale et d'une instruction de tâche, échantillonne des ancres sémantiques pertinentes sur la première image réelle, puis suit ces ancres à travers les candidats vidéo générés. Un modèle SE(3) relatif et épars vérifie si le mouvement 2D observé est cohérent avec la géométrie 3D des ancres; seul le mouvement validé géométriquement est transféré au robot. Ce mouvement est ensuite appliqué à la pose réelle de l'organe terminal (TCP) au moment de la saisie, déterminée par une préhension contrainte par masque, et un module de compensation de profondeur borné corrige les erreurs locales dues au bruit RGB-D ou aux déplacements de contact. L'enjeu dépasse la démonstration technique isolée: les modèles de génération vidéo (type Sora, Veo ou Genie) sont de plus en plus présentés comme des sources de "priors" de mouvement pour la robotique, mais l'écart entre vidéo plausible et action exécutable reste l'un des obstacles majeurs à leur usage réel, aux côtés du problème classique du sim-to-real. En filtrant les hypothèses de mouvement par cohérence géométrique plutôt qu'en rejouant directement une trajectoire, GenVid2Robot répond directement au risque d'échec en conditions réelles que redoutent intégrateurs et équipes R&D travaillant sur les architectures vision-langage-action (VLA). Le travail s'inscrit dans la lignée des approches combinant modèles génératifs et politiques robotiques, aux côtés d'efforts comme Pi-0, GR00T N2 ou Helix qui cherchent à exploiter des priors visuels ou vidéo à grande échelle. À ce stade, il s'agit d'une publication de recherche avec expériences sur robot réel, non d'un produit commercialisé; les auteurs ne précisent pas de calendrier de déploiement industriel.

RecherchePaper

1 source

4arXiv cs.RO

MobileOcc : un jeu de données d'occupation sémantique sensible à l'humain pour robots mobiles

Une équipe de recherche publie MobileOcc, un jeu de données d'occupation sémantique 3D pour robots mobiles opérant en environnements piétons denses, un scénario peu couvert comparativement à la conduite autonome. L'article, référencé arXiv 2511.16949, décrit un pipeline d'annotation combinant occupation d'objets statiques et un nouveau cadre d'optimisation de maillage pour les humains : leur géométrie déformable est reconstruite à partir d'images 2D puis affinée avec des points LiDAR associés. Le jeu de données alimente deux benchmarks, la prédiction d'occupation et la prédiction de vitesse des piétons, testés avec des méthodes monoculaires, stéréo et panoptiques dotées de métriques et d'implémentations de référence reproductibles. La méthode d'annotation est aussi validée sur des jeux de données d'estimation de pose humaine 3D, avec des résultats jugés robustes ; le code et les données sont publiés sur autonomousrobots.nl. La perception d'occupation dense est une brique critique pour la navigation sécurisée des robots mobiles au contact d'humains, en entrepôt, en hôpital ou en espace public, où anticiper position et mouvement d'un piéton conditionne l'évitement de collision. La plupart des jeux de données d'occupation 3D existants visaient l'automobile, avec des scènes routières peu représentatives des couloirs et halls parcourus par les robots de service. Modéliser les humains comme des objets déformables plutôt que comme de simples boîtes englobantes, et publier des baselines multi-capteurs reproductibles, comble un manque de standardisation qui facilitera la comparaison des systèmes de perception chez les intégrateurs. Ce travail s'inscrit dans une tendance de transfert des techniques de perception nées pour la conduite autonome vers la robotique mobile et humanoïde, à mesure que LiDAR et architectures d'occupation 3D se banalisent. MobileOcc reste un jeu de données et un protocole d'évaluation académiques, sans déploiement industriel annoncé, et il s'agit d'une version corrigée de la publication initiale sur arXiv. L'ouverture du code et des données vise à établir une référence que d'autres laboratoires pourront reprendre pour comparer leurs modèles de perception en environnement piéton, chantier ouvert tant pour la recherche que pour de futurs usages commerciaux en robotique de service.

RecherchePaper

1 source