Aller au contenu principal
OpenFlyV2 : un modèle vision-langage-action (VLA) embarqué pour la perception et la navigation aériennes
IA physiquearXiv cs.RO 

OpenFlyV2 : un modèle vision-langage-action (VLA) embarqué pour la perception et la navigation aériennes

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

OpenFlyV2, un modèle vision-langage-action (VLA) embarqué pour drones, a été présenté par une équipe académique dans un preprint arXiv (version 2). Il tourne entièrement à bord d'un NVIDIA Jetson Orin NX, un module de calcul compact. Il génère des blocs d'actions de 12 points de passage (waypoints) à 10 Hz, sans calcul déporté. Un « expert d'action » léger convertit le contexte multimodal partagé en trajectoires de vol à court horizon. Une mémoire temporelle sensible au mouvement et des a priori d'action réduisent le coût du contrôle en boucle fermée. Les auteurs ont construit un jeu de données simulé d'environ 70 000 trajectoires de navigation et 60 000 paires instruction-réponse en langage naturel. Le transfert de la simulation au quadrirotor réel se fait en zero-shot, sans aucune donnée aérienne réelle, avec 48 % de réussite en navigation sur quatre environnements réels. Le code doit être publié sur GitHub sous le nom AeroBrain.

L'intérêt tient à l'architecture plus qu'au score. Les systèmes aériens existants sont le plus souvent spécialisés dans une seule fonction (détection, grounding d'objets ou navigation). Ils dépendent aussi d'un calcul déporté ou ne tiennent pas la boucle fermée sur une plateforme contrainte. OpenFlyV2 montre qu'un même modèle peut combiner compréhension sémantique, perception ancrée dans le langage, raisonnement spatial et pilotage continu sur du matériel embarqué. Pour un intégrateur de drones d'inspection ou de logistique, cela rend crédible l'autonomie sans liaison permanente vers un serveur. Le taux de 48 % reste toutefois modeste. Il signifie qu'un vol sur deux échoue, loin d'un seuil opérationnel. Le nombre de scénarios réels, la difficulté des consignes et les conditions d'essai ne sont pas détaillés dans le résumé. La mention de transfert sim-to-real sans données réelles est un résultat encourageant, mais il s'agit d'une validation de laboratoire, pas d'un produit ni d'un déploiement.

Ce travail s'inscrit dans la montée des VLA, d'abord développés pour la manipulation et les robots au sol (Pi-0, GR00T, Helix), puis étendus à l'aérien, où les contraintes de masse, de consommation et de latence sont plus sévères. Il prolonge la série OpenFly, consacrée à la navigation aérienne guidée par le langage. Les alternatives restent soit des pipelines modulaires combinant perception, planification et contrôle, soit des modèles lourds exécutés sur GPU distant. La prochaine étape probable est la publication du code, qui permettra de reproduire les 48 % et de mesurer la robustesse hors des environnements testés. Les comparaisons avec d'autres modèles de navigation aérienne et des essais en conditions réelles plus variées (vent, éclairage, obstacles dynamiques) seront décisifs pour juger de la maturité de l'approche.

À lire aussi

TIC-VLA : un modèle vision-langage-action (VLA) à raisonnement intégré pour la navigation robotique en environnements dynamiques
1arXiv cs.RO 

TIC-VLA : un modèle vision-langage-action (VLA) à raisonnement intégré pour la navigation robotique en environnements dynamiques

Des chercheurs de l'UCLA Mobility Lab ont publié fin février 2026 TIC-VLA (Think-in-Control VLA), un framework de contrôle robotique qui adresse explicitement le décalage temporel entre raisonnement sémantique et action en temps réel. Le modèle introduit une interface "delayed semantic-control" : au lieu de supposer que la sortie du module vision-langage est synchrone avec l'action motrice, TIC-VLA conditionne la génération d'action sur des états sémantiques retardés et sur des métadonnées de latence explicites, en plus des observations courantes. Le pipeline d'entraînement, dit "latency-consistent", injecte des délais de raisonnement réels pendant l'apprentissage par imitation et le reinforcement learning en ligne, alignant ainsi les conditions d'entraînement sur celles du déploiement. Pour l'évaluation, l'équipe présente également DynaNav, une suite de simulation physiquement précise et photoréaliste dédiée à la navigation guidée par langage naturel dans des environnements avec présence humaine. Les expériences couvrent à la fois la simulation et un robot réel, avec des latences de raisonnement pouvant dépasser plusieurs secondes. L'enjeu sous-jacent est structural dans le champ des VLA : Pi-0 de Physical Intelligence, GR00T N2 de NVIDIA ou les architectures dérivées de RT-2 supposent implicitement que l'inférence sémantique et le contrôle moteur sont cadencés de manière cohérente. En pratique, les LLM embarqués dans ces architectures introduisent des délais incompressibles de 0,5 à plusieurs secondes, incompatibles avec une boucle de contrôle à 10-20 Hz dans un environnement dynamique. TIC-VLA propose une solution au niveau de l'architecture plutôt qu'au niveau matériel, ce qui est potentiellement plus portable. Les résultats annoncés indiquent une surperformance systématique par rapport aux VLA antérieurs tout en maintenant un contrôle robuste sous latence. Il faut toutefois noter que les benchmarks proviennent en grande partie de DynaNav, un environnement simulé développé par les auteurs eux-mêmes, ce qui appelle une validation indépendante. La problématique de l'asynchronisme VLA n'est pas nouvelle : des travaux comme GROOT ou des approches à architecture duale (slow planner / fast controller) cherchent à séparer les horizons temporels. TIC-VLA se distingue en modélisant la latence comme un paramètre de condition plutôt qu'en la masquant par une architecture hiérarchique. Le projet est porté par le groupe UCLA Mobility Lab, connu pour ses travaux sur la navigation autonome urbaine. La page projet est accessible, mais aucune annonce de déploiement industriel ou de partenariat commercial n'est mentionnée pour l'instant. Les prochaines étapes naturelles seraient une évaluation sur des plateformes standardisées comme le benchmark Open-X Embodiment, et une confrontation avec des architectures concurrentes sur des tâches de manipulation en environnement mixte homme-robot.

IA physiqueOpinion
1 source
UrbanVLA : un modèle vision-langage-action (VLA) pour la micromobilité urbaine
2arXiv cs.RO 

UrbanVLA : un modèle vision-langage-action (VLA) pour la micromobilité urbaine

Des chercheurs publient sur arXiv (2510.23576, version 2) UrbanVLA, un cadre Vision-Language-Action (VLA) conditionné par une route, conçu pour la navigation de micromobilité urbaine, c'est-à-dire des robots de livraison qui doivent suivre des itinéraires longs dans des villes réelles. Le système aligne explicitement des waypoints de route bruités avec les observations visuelles pendant l'exécution, puis planifie des trajectoires pour piloter le robot. L'entraînement se fait en deux étapes. Une phase de Supervised Fine-Tuning (SFT) utilise des environnements simulés et des trajectoires extraites de vidéos web. Une phase de Reinforcement Fine-Tuning (RFT) s'appuie ensuite sur un mélange de données simulées et réelles, afin d'améliorer la sécurité et l'adaptabilité en conditions réelles. Les auteurs affirment un gain de plus de 55 % face à des références solides sur la tâche SocialNav du benchmark MetaUrban, ainsi qu'une navigation réelle fiable. Le résumé ne donne ni payload, ni plateforme robotique, ni vitesse, ni distances parcourues. L'intérêt tient à la structuration du problème. Les méthodes de navigation actuelles ciblent surtout des scénarios courts et contrôlables, alors qu'une livraison urbaine exige deux niveaux de compétence : bas niveau (atteindre un point, éviter les obstacles) et haut niveau (faire correspondre la route prévue à ce que le robot voit). Pour les intégrateurs de robots de trottoir, l'enjeu est de savoir si un VLA peut absorber des itinéraires GPS ou cartographiques imparfaits, sans recalibrage manuel par site. L'usage de vidéos web pour amorcer l'apprentissage vise à réduire le coût de collecte de données, un des principaux freins du secteur. Il faut toutefois rester prudent : le chiffre de 55 % provient d'un benchmark simulé, dont le choix des baselines n'est pas détaillé dans le résumé. La robustesse « réelle » annoncée n'est étayée ici par aucune métrique publique. Reste à voir si le transfert sim-to-real tient hors des scénarios sélectionnés pour la démonstration. Ce travail s'inscrit dans la vague des modèles VLA, d'abord développés pour la manipulation (Pi-0, GR00T, Helix) et désormais étendus à la navigation. Il vise un marché déjà occupé par des robots de livraison à roues, comme ceux de Starship Technologies, dont la navigation repose en grande partie sur des cartes préconstruites et des piles modulaires. Un VLA de bout en bout leur oppose une approche plus généraliste, mais moins éprouvée en sécurité. La mention d'une version 2 indique un article révisé, probablement après relecture. Les prochaines étapes à surveiller sont la publication du code, des modèles et des données, ainsi que des essais sur de longs parcours en environnement dense, seuls capables de confirmer ou non l'échelle revendiquée.

UEPas d\'impact direct sur la France/UE

IA physiqueActu
1 source
TAP-VLA : annotation tactile pour les modèles vision-langage-action (VLA)
3arXiv cs.RO 

TAP-VLA : annotation tactile pour les modèles vision-langage-action (VLA)

Des chercheurs ont publié sur arXiv (réf. 2606.29089) une méthode appelée TAP-VLA (Tactile Annotation Prompting for Vision-Language-Action models) visant à doter les modèles vision-langage-action du sens du toucher sans modifier leur architecture. Sur quatre tâches de manipulation à contacts complexes (vissage, insertion, assemblage de précision), TAP-VLA atteint un taux de succès de 78 %, contre moins de 50 % pour un fine-tuning purement visuel et pour les approches alternatives de fusion tactile, certaines de ces baselines ne faisant pas mieux qu'un résultat aléatoire. Le principe repose sur des capteurs visuo-tactiles capables de mesurer les champs de cisaillement (shear fields) à la surface de contact ; ces champs sont ensuite superposés sous forme de vecteurs spatialement alignés directement sur les images RGB multi-vues que le modèle consomme déjà, sans ajouter de modalité d'entrée distincte. L'enjeu est réel : les VLAs de génération actuelle, comme π0 de Physical Intelligence, OpenVLA ou RT-2 de Google DeepMind, offrent un raisonnement robuste sur les variations visuelles, sémantiques et spatiales grâce à leur pré-entraînement à grande échelle, mais restent aveugles aux forces de contact, pourtant centrales dans toute manipulation industrielle sérieuse (emboîtement de précision, vissage, gestion d'objets déformables). Intégrer le toucher comme nouvelle modalité d'entrée détériore précisément ce pré-entraînement, car les données tactiles sont absentes des corpus à grande échelle sur lesquels ces modèles sont construits, un problème de distribution shift bien documenté dans la littérature. TAP-VLA contourne l'obstacle en restant dans l'espace d'observation natif du modèle : pas de modification architecturale, pas de pré-entraînement tactile spécifique, surcoût computationnel négligeable. Ce travail s'inscrit dans une course active autour de l'embodied AI pour la manipulation de précision, où Physical Intelligence (π0, π0-FAST), Figure AI ou Apptronik cherchent à étendre les capacités de leurs humanoïdes et bras industriels au-delà du pick-and-place visuel. La question du sim-to-real pour les contacts reste l'un des derniers verrous majeurs avant un déploiement industriel à l'échelle. En évitant la refonte architecturale, TAP-VLA propose une voie d'intégration compatible avec les VLAs existants, ce qui simplifie son adoption par des équipes qui travaillent à partir de modèles déjà entraînés. La publication sur arXiv sans conférence associée indique que ce travail est encore en cours d'évaluation par les pairs ; aucun déploiement réel ou pilote industriel n'est annoncé à ce stade.

IA physiqueOpinion
1 source
Latent Reasoning VLA : pensée latente et prédiction pour les modèles vision-langage-action
4arXiv cs.RO 

Latent Reasoning VLA : pensée latente et prédiction pour les modèles vision-langage-action

Une équipe de chercheurs a publié sur arXiv (arXiv:2602.01166) LaRA-VLA, un nouveau cadre de modèles Vision-Language-Action (VLA) qui internalise le raisonnement multi-modal directement dans un espace latent continu, plutôt que de générer explicitement des chaînes de pensée textuelles (chain-of-thought, CoT) à l'inférence. Concrètement, là où les VLA actuels produisent des tokens de raisonnement discrets avant chaque décision motrice, LaRA-VLA effectue raisonnement et prédiction d'action dans un même espace latent, sans étape de génération textuelle intermédiaire. Les auteurs rapportent une réduction de la latence d'inférence pouvant atteindre 90 % par rapport aux approches CoT explicites, tout en surpassant les méthodes VLA de référence sur des benchmarks en simulation et sur des tâches de manipulation réelle à longue portée. Deux jeux de données CoT structurés ont été construits pour l'entraînement. L'entraînement suit un curriculum progressif : supervision d'abord textuelle et visuelle, puis transition vers un raisonnement purement latent, avant adaptation de ces dynamiques latentes au conditionnement de la génération d'actions. Ce résultat est significatif pour les intégrateurs et décideurs industriels parce qu'il s'attaque directement au principal goulot d'étranglement des VLA raisonnants : le coût computationnel du CoT à l'inférence rendait ces modèles inutilisables en temps réel sur du matériel embarqué. Un gain de 90 % de latence sans dégradation de performance change le rapport entre qualité de raisonnement et contrainte temps-réel, rendant crédible le déploiement de politiques robotiques expressives sur des bras industriels ou des humanoïdes sans serveur dédié au raisonnement. Cela contredit partiellement l'hypothèse que le raisonnement symbolique explicite est nécessaire pour gérer des tâches longues et multi-étapes. Les VLA, popularisés par des travaux comme RT-2 (Google DeepMind, 2023) puis Pi-0 (Physical Intelligence, 2024) et GR00T N2 (NVIDIA, 2025), cherchent à combiner compréhension sémantique et contrôle moteur dans un seul modèle. La tension entre performance de raisonnement et latence d'inférence est un sujet actif : d'autres approches comme les modèles de diffusion d'actions (Pi-0) contournent le problème différemment. LaRA-VLA propose une troisième voie, en fusionnant les deux flux dans l'espace latent. Le code et la page projet sont disponibles publiquement ; les prochaines étapes attendues sont des évaluations sur robots humanoïdes et des tests de robustesse hors distribution, domaines où le gap simulation-réalité reste le critère déterminant pour une adoption industrielle.

UECette réduction de latence d'inférence de 90 % ouvre la voie au déploiement de politiques VLA expressives sur du matériel embarqué, ce qui pourrait bénéficier aux équipes R&D et intégrateurs européens travaillant sur des bras industriels ou des humanoïdes sans infrastructure de calcul dédiée.

💬 90 % de latence en moins sur les VLA, c'est le genre de résultat qu'on attendait pour débloquer l'embarqué. Passer le raisonnement dans l'espace latent plutôt que de cracher des tokens CoT, c'est élégant, et les benchmarks semblent tenir. Reste le gap simulation-réalité, qui est toujours l'épreuve de vérité, et là aucun papier arXiv ne peut te garantir grand chose avant les tests sur du vrai matériel.

IA physiqueOpinion
1 source