Hallucinations dans les affordances : vers une compréhension globale à 360° des environnements intérieurs
Voici la traduction/résumé demandé.
PanoAffordanceNet cible une lacune précise de la perception robotique : la détection d'affordances (les zones d'une scène où une action est possible, comme s'asseoir ou saisir) reste aujourd'hui limitée aux vues perspective classiques et centrée sur des objets isolés. Une équipe de recherche propose donc une nouvelle tâche, l'ancrage holistique d'affordances en environnements intérieurs à 360 degrés, et un framework dédié pour la traiter. Le système combine deux modules techniques : un Distortion-Aware Spectral Modulator (DASM), qui corrige les déformations géométriques propres à la projection équirectangulaire selon la latitude, et une Omni-Spherical Densification Head (OSDH), chargée de restaurer la continuité topologique à partir d'activations éparses. L'entraînement s'appuie sur des contraintes multi-niveaux (pixel, distribution, contraste région-texte) pour limiter la dérive sémantique en contexte de faible supervision. Les auteurs publient également 360-AGD, présenté comme le premier jeu de données de haute qualité pour l'ancrage d'affordances panoramiques, ainsi que le code source, promis en accès libre sur GitHub.
Pour les agents robotiques embarqués, la perception à 360 degrés est un prérequis pour naviguer et interagir dans des environnements réels sans multiplier les capteurs ou les prises de vue successives. Les méthodes d'affordance actuelles, conçues pour des images perspective standard, échouent face aux distorsions extrêmes des projections omnidirectionnelles, ce qui limite leur usage en navigation autonome ou en manipulation mobile. En démontrant des gains significatifs par rapport aux approches existantes, ce travail pose une référence pour la perception au niveau de la scène entière, plutôt qu'objet par objet, un enjeu clé pour les systèmes d'intelligence embarquée devant raisonner sur un espace complet plutôt que sur des fragments de champ visuel.
Ce travail s'inscrit dans une double lignée de recherche : d'une part la vision omnidirectionnelle, qui peine historiquement avec la dispersion sémantique et l'alignement multi-échelle propres aux images équirectangulaires ; d'autre part l'affordance grounding, jusqu'ici cantonné aux benchmarks perspective centrés objet. En les combinant, les auteurs positionnent PanoAffordanceNet comme un jalon plutôt qu'un produit fini : il s'agit d'une publication de recherche (arXiv, version 2, catégorie replace-cross) sans déploiement industriel annoncé. La mise à disposition prévue du dataset 360-AGD et du code sur GitHub devrait permettre à la communauté de reproduire et d'étendre ces résultats, notamment vers des applications robotiques concrètes en navigation et manipulation dans des scènes complexes.
Dans nos dossiers




