RecherchearXiv cs.RO 14 juillet 2026

ActiveFly-Bench : aligner la réponse à des questions incarnée avec un modèle vision-langage-action pour la perception aérienne incarnée

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Une équipe de recherche publie ActiveFly-Bench, un nouveau benchmark visant à combler le fossé entre le raisonnement en environnement virtuel et l'interaction physique pour la perception active des drones. Décrit dans un article déposé sur arXiv (2607.10180v1), ce benchmark décompose la perception active en trois tâches hiérarchiques: le question-réponse incarné aérien (Air-EQA), la planification du comportement d'observation (OBP) et le contrôle fin du drone guidé par le langage (FLUC), reliant explicitement la compréhension de tâches de haut niveau, la planification comportementale et le contrôle bas niveau. Les jeux de données combinent des environnements extérieurs réels et simulés, utilisés à la fois pour l'entraînement et l'évaluation. Les auteurs ont aussi développé ActiveFly, un agent en boucle fermée qui associe raisonnement vision-langage et contrôle fin, effectivement déployé sur une plateforme UAV physique, et non testé uniquement en simulation.

L'enjeu dépasse le simple exercice académique: les tests menés avec des modèles vision-langage (VLM) et des modèles vision-langage-action (VLA) représentatifs montrent que les agents actuels peinent encore sur la planification comportementale, l'ajustement de point de vue et l'accomplissement robuste de tâches en perception active. Autrement dit, la promesse des architectures VLA généralistes, popularisées au sol par des systèmes comme GR00T N2 ou Helix, ne se transpose pas automatiquement au domaine aérien: piloter un drone qui doit décider où regarder, comment se repositionner et quand agir reste un problème ouvert. Pour les intégrateurs de drones d'inspection, d'agriculture ou de surveillance, ce constat tempère l'enthousiasme autour des copilotes autonomes tout-en-un et souligne que le sim-to-real n'est pas résolu pour l'aérien comme il commence à l'être pour la manipulation au sol.

Ce travail s'inscrit dans la lignée des benchmarks d'IA incarnée (embodied QA) déjà développés pour les robots terrestres et les bras manipulateurs, mais transposés pour la première fois de façon systématique au domaine UAV, où les contraintes de vol, de vent et de champ de vision changent la donne. Face à des acteurs commerciaux comme DJI ou Skydio qui vendent déjà de l'autonomie de vol assistée, ActiveFly-Bench propose un cadre d'évaluation académique standardisé plutôt qu'un produit, avec l'ambition de devenir une référence pour mesurer les progrès futurs des agents aériens embarquant du raisonnement multimodal.

Dans nos dossiers

IA physique & VLA NVIDIA GR00T arXiv cs.RO

À lire aussi

1arXiv cs.RO

Exploration vision-langage guidée par plan d'étage pour la réponse à des questions incarnée

Des chercheurs présentent HFLEX-EQA, un nouveau framework pour l'Embodied Question Answering (EQA), publié sur arXiv (référence 2609.26360v1) en septembre 2026. L'EQA désigne la tâche où un robot doit explorer un environnement inconnu, collecter les informations pertinentes, puis répondre à des questions sur ce qu'il a observé. Le système combine quatre briques : une construction en ligne de graphe de scène hiérarchique, une planification pilotée par un modèle vision-langage (VLM), une exploration par frontières sémantiques, et des a priori de plan d'étage. À partir de flux RGB-D, HFLEX-EQA construit incrémentalement à la fois un graphe de scène hiérarchique et une carte d'occupation à vocabulaire ouvert, ce qui permet au VLM de raisonner conjointement sur la structure de la scène, les observations visuelles utiles à la tâche, l'historique d'exploration et un plan d'étage topologique estimé. Une stratégie de découverte de pièces exploite ce plan d'étage combiné à la sémantique des frontières non explorées pour orienter le robot vers les types de pièces les plus susceptibles de contenir la réponse. Le système a été évalué sur les benchmarks OpenEQA et ExploreEQA, et testé en conditions réelles sur un robot quadrupède en environnement intérieur. L'apport principal tient à l'ajout d'un a priori structurel global, le plan d'étage, là où la plupart des approches récentes couplant VLM et cartes ou graphes sémantiques ne s'appuient que sur les observations locales pour décider où explorer ensuite. Pour les équipes travaillant sur la navigation sémantique et la compréhension de scène en robotique de service, industrielle ou d'inspection, ce travail illustre une tendance de fond : le raisonnement spatial des VLM progresse quand on lui injecte une connaissance structurelle du bâtiment plutôt que de le laisser réagir image par image. Le déploiement réel sur quadrupède, au-delà de la simulation, va dans le sens d'une réduction de l'écart entre benchmarks académiques et comportement embarqué, sans pour autant constituer une preuve de robustesse à grande échelle : il s'agit d'une validation de recherche, pas d'un produit commercialisé. Le papier s'inscrit dans la lignée des approches EQA récentes combinant VLM et représentations sémantiques de l'environnement, dont il pointe la limite commune : l'absence d'exploitation des a priori structurels du bâtiment. Ses résultats sont comparés directement aux méthodes existantes sur OpenEQA et ExploreEQA, deux benchmarks de référence du domaine. Aucune date de mise en production, partenariat industriel ou déploiement à plus grande échelle n'est annoncé à ce stade ; il s'agit d'une contribution méthodologique destinée à la communauté de recherche en robotique embarquée et en IA multimodale.

RecherchePaper

1 source

2arXiv cs.RO

VL2Spike : distillation de modèles vision-langage vers des réseaux à impulsions pour la perception visuelle basse consommation dans l'IA incarnée

Des chercheurs ont publié sur arXiv (référence 2606.15898) VL2Spike, un cadre de distillation de connaissances qui transfère les représentations multi-modales des grands modèles vision-langage (VLM) vers des réseaux de neurones impulsionnels (SNN), spécifiquement des architectures Spikformer. Les résultats annoncés sur trois jeux de données statiques indiquent un gain de précision de 6,81 points de pourcentage, avec une consommation énergétique réduite à 15,7 % de celle d'un modèle de référence classique. Sur la reconnaissance de lieu par vision (VPR), tâche directement applicable à la navigation robotique, le gain atteint 6,63 %. Deux contributions techniques sont mises en avant : une distillation visuo-temporelle (SVS) qui aligne les représentations spatiales et temporelles du VLM avec les tokens impulsionnels du Spikformer, et une distillation linguistique guidée par prototypes (SPL) qui synchronise les prototypes de classes du SNN avec les embeddings textuels du VLM. L'enjeu de ce travail est réel pour la robotique embarquée. Les SNN sont architecturalement attractifs pour les systèmes edge (drones, robots mobiles, exosquelettes) car leur calcul événementiel consomme peu d'énergie, mais leurs performances en classification restaient structurellement inférieures aux transformers classiques, limitant leur adoption dans des pipelines de perception industriels. VL2Spike propose une voie pour combler cet écart sans sacrifier l'efficacité énergétique. La précision du chiffre "15,7 % de consommation" mérite toutefois d'être relativisée : il s'agit d'une estimation théorique en opérations synaptiques, pas d'une mesure sur silicium réel, ce que les auteurs reconnaissent implicitement en parlant de "modèles contraints en ressources". Les réseaux impulsionnels ont connu un regain d'intérêt depuis 2020 avec l'émergence des Spiking Transformers (SpikFormer, Spikingformer, SDT), notamment portés par des groupes à Pékin Jiaotong University et Zhejiang University. Sur le front des VLM utilisés comme "professeurs" en distillation, les approches s'appuient généralement sur CLIP ou ses variantes. Le positionnement concurrentiel direct de VL2Spike se situe face aux méthodes de quantification et de pruning de transformers classiques, qui visent aussi la contrainte énergétique sans les propriétés biologiquement inspirées des SNN. Les suites naturelles incluent des validations sur hardware neuromorphique (Intel Loihi, SpiNNaker) et des tests intégrés dans des boucles de perception robotique complètes.

RecherchePaper

1 source

3arXiv cs.RO

I-Perceive : un modèle fondation pour la perception active guidée par instructions en langage naturel

Une équipe de recherche présente I-Perceive, un modèle de fondation pour la perception active conditionnée par le langage, dans une version révisée (v2) d'un article déposé sur arXiv sous la référence 2603.00600. À partir d'une image requête, d'images de contexte et d'une instruction en langage naturel, le système prédit une pose de caméra à 6 degrés de liberté satisfaisant l'intention de perception exprimée, dans de grands environnements intérieurs. L'architecture associe une voie vision-langage pour l'ancrage sémantique des instructions et une voie de raisonnement géométrique pour la compréhension 3D multi-vues, reliées par une fusion sémantique multi-couches. L'entraînement s'appuie sur un jeu de données de paires langage-point de vue à grande échelle, construit via un pipeline automatisé combinant scans de scènes réelles et environnements simulés. Les systèmes de perception active existants restent généralement limités à des objectifs fixes ou à des contextes restreints ; I-Perceive vise au contraire une généralisation à des intentions ouvertes, formulées librement en langage naturel, un point faible connu de la robotique mobile actuelle. Pour les intégrateurs travaillant sur des AMR, des bras manipulateurs ou des plateformes humanoïdes, l'enjeu est concret : la plupart des modèles vision-langage-action (VLA) décident quoi faire à partir d'un flux caméra fixe, sans jamais décider où regarder. Les auteurs revendiquent une généralisation zéro-shot à des scènes et instructions inédites, ainsi qu'un mode boucle fermée affinant le point de vue au fil d'interactions successives, ce qui, si cela se confirme hors du cadre des auteurs, rapprocherait les robots d'une exploration active plutôt que d'une perception passive. Ce travail s'inscrit dans la vague des modèles de fondation pour la robotique, aux côtés d'architectures vision-langage-action comme Pi-0, GR00T N2 ou Helix, centrées sur la génération d'actions à partir d'une perception supposée acquise ; I-Perceive se place en amont, sur la question négligée de savoir où regarder pour obtenir l'information utile à la tâche. Il se distingue aussi des approches classiques de perception active de type next-best-view, limitées à des objectifs géométriques sans compréhension du langage. Publié comme remplacement d'une soumission arXiv antérieure, l'article reste une contribution évaluée sur des données et environnements construits par les auteurs, sans code ouvert ni déploiement sur robot physique mentionné ; l'intégration sur des plateformes commerciales demeure une suite logique mais non confirmée.

RecherchePaper

1 source

4arXiv cs.RO

LARA : alignement des représentations d'actions latentes pour les modèles vision-langage-action

Une équipe de recherche propose LARA (Latent Action Representation Alignment), un framework qui entraîne conjointement deux composants jusqu'ici séparés dans les modèles vision-langage-action (VLA) : le modèle d'action latente (LAM), qui apprend des représentations d'actions à partir de vidéos non annotées, et le modèle VLA lui-même. Jusqu'à présent, ces deux briques étaient optimisées indépendamment, ce qui limitait leurs bénéfices mutuels : le LAM restait déconnecté du contexte robotique réel, et le VLA était contraint par des représentations figées, sans possibilité d'ajustement. LARA aligne les deux via un mécanisme de représentation partagée, permettant au LAM d'apprendre à partir de trajectoires d'actions réelles pour éviter de capter de simples changements visuels sans pertinence (comme un déplacement de caméra), tandis que le VLA est régularisé par la dynamique prédictive du LAM pour réduire les hallucinations de trajectoires inefficaces. Les auteurs rapportent des gains moyens d'environ 10% en pré-entraînement, 5% en amélioration post-entraînement de modèles VLA déjà entraînés, et 15% en affinage du LAM seul, mesurés sur trois benchmarks de manipulation en simulation et un benchmark réel conçu spécifiquement pour l'évaluation. L'enjeu pour le secteur est la dépendance chronique des VLA à des jeux de données robotiques réels, coûteux et rares à grande échelle. Exploiter des vidéos humaines non étiquetées comme source de supervision, sans perdre en fiabilité, est une piste suivie par plusieurs laboratoires travaillant sur des modèles comme GR00T N2 ou Pi-0. Ce que suggère LARA, c'est que le goulot d'étranglement n'est pas seulement la quantité de données vidéo disponibles, mais la façon dont les représentations d'action apprises restent ou non ancrées dans la réalité physique du robot pendant l'entraînement conjoint. L'approche s'inscrit dans la lignée des travaux sur les Latent Action Models, qui cherchent depuis plusieurs années à combler l'écart entre l'abondance de vidéos web et la rareté des démonstrations robotiques annotées. Contrairement à une annonce produit, il s'agit ici d'un travail académique (version 2 d'un article déposé sur arXiv), sans déploiement industriel annoncé ni calendrier de commercialisation ; sa portée dépendra de sa reproductibilité et de son adoption par les équipes développant des VLA en conditions réelles.

RecherchePaper

1 source