RecherchearXiv cs.RO 28 octobre 2026

Simulation de trames d'événements sans rendu pour accélérer l'apprentissage par renforcement de la navigation de robots autonomes

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs de l'Université de technologie de Delft (TU Delft) publient sur arXiv un simulateur analytique de caméra événementielle qui produit des observations sans aucun rendu visuel, et l'utilisent pour entraîner par apprentissage par renforcement un pilote de navigation autonome pour nano-drone. Le simulateur génère directement les flux d'événements à partir de la géométrie de la scène et du mouvement propre du robot, en exploitant ce que mesure réellement ce type de capteur : les arêtes de contraste en mouvement. Une observation d'événements de 64x64 pixels est produite en 17 microsecondes sur un seul GPU, soit plus de 400 fois plus vite qu'une chaîne de rendu de référence. L'entraînement pour l'évitement d'obstacles vers un but converge en moins de 30 minutes, trois ordres de grandeur de moins qu'avec des événements rendus. En simulation, la politique atteint 83 % de réussite sur des parcours encombrés inédits (difficulté intermédiaire, probabilité de traversabilité d'environ 0,57) à 2,4 m/s de vitesse moyenne vers le but, et 70 % dans un hall intérieur riche en textures. Elle se transfère sans réglage vers des simulations physiquement réalistes par lancer de rayons (Isaac Sim).

Le réseau a ensuite été quantifié en int8 (1,2 Mo) et exécuté entièrement à bord d'un Crazyflie de 56 grammes, équipé d'une caméra événementielle Prophesee GenX320 et d'une carte microcontrôleur OpenMV N6. Sans réglage fin, traitement externe ni système de positionnement, il réussit 82 % des vols sur trois parcours réels de difficulté croissante (5/5, 5/6 et 4/6). Ces chiffres reposent sur très peu d'essais, soit 17 vols au total, et sur des parcours dont les caractéristiques restent propres au laboratoire.

L'intérêt tient à un goulot bien connu : les caméras événementielles, à faible latence, grande plage dynamique et consommation de l'ordre du milliwatt, conviennent aux petits robots agiles, mais les simulateurs existants génèrent des images photoréalistes avant de les convertir en événements, ce qui rend l'apprentissage par renforcement à grande échelle trop lent. Passer à des itérations de quelques minutes change la boucle de développement et suggère que la fidélité photoréaliste n'est pas toujours nécessaire pour un transfert sim-to-real réussi, dès lors que la physique du capteur est bien modélisée. Le fait que toute la pile tienne sur un microcontrôleur avec un modèle de 1,2 Mo est aussi un signal pour les intégrateurs de drones miniatures à budget énergétique et massique très contraint, notamment en inspection d'espaces confinés ou en logistique intérieure. La limite reste la simplicité de la scène géométrique modélisée et l'absence de validation en environnements très texturés ou dynamiques.

Le travail s'inscrit dans la lignée des recherches de TU Delft sur le vol autonome embarqué à très faible puissance et sur la vision neuromorphique, avec Crazyflie comme plateforme habituelle. Il prolonge les simulateurs d'événements fondés sur le rendu, et le code est publié en open source sur GitHub (tudelft/rendering-free-évent-nav). Il s'agit d'un résultat de recherche, sans produit ni pilote commercial annoncé. Les prochaines étapes naturelles seraient des environnements plus riches, des vitesses plus élevées et des essais plus nombreux pour consolider les taux de réussite.

Impact France/UE

Résultat d'une université européenne (TU Delft, Pays-Bas) avec code ouvert, exploitable par les intégrateurs et laboratoires de drones miniatures de l'UE, sans impact réglementaire direct sur la France.

Dans nos dossiers

NVIDIA Isaac & Cosmos arXiv cs.RO

À lire aussi

1arXiv cs.RO

NavRL++ : un cadre système pour améliorer le transfert simulation-réel dans la navigation robotique par apprentissage par renforcement

Une équipe de chercheurs a publié NavRL++, un cadre de navigation autonome par apprentissage par renforcement (RL) conçu spécifiquement pour réduire l'écart entre simulation et déploiement réel. Présenté sur arXiv (2605.15559), le système propose à la fois un nouveau pipeline d'entraînement et de déploiement et une étude empirique systématique qui isole les facteurs dégradant les performances en conditions réelles : bruit de capteurs, échecs de perception, latence système et réponse du contrôleur. Les auteurs ont validé leur approche sur plusieurs plateformes physiques, dont des robots aériens et quadrupèdes, sur des tâches de navigation comme l'exploration et l'inspection, en obtenant un transfert zéro-shot depuis la simulation. Le problème que NavRL++ cherche à résoudre est structurel : la quasi-totalité des travaux récents en navigation par RL se concentre sur la conception du framework d'apprentissage (représentations d'entrée, espaces d'actions, fonctions de récompense), sans analyser rigoureusement pourquoi les politiques entraînées en sim échouent en réel. NavRL++ répond à cela avec deux contributions techniques. La première est le perturbation-aware fine-tuning, une stratégie post-entraînement qui injecte explicitement les perturbations identifiées lors de l'étude empirique pour rendre la politique plus robuste. La seconde est une politique à raisonnement temporel basée sur un Transformer, qui exploite une fenêtre d'observation courte pour lisser le contrôle et compenser la dégradation perceptuelle typique du monde réel. Les résultats quantitatifs montrent des performances supérieures aux baselines RL dans des environnements statiques et dynamiques, et comparables aux planificateurs classiques à optimisation en contexte statique. Le défi du sim-to-real reste l'un des verrous majeurs à la commercialisation de la navigation autonome par RL, notamment pour les robots mobiles en environnements industriels non structurés. La plupart des approches existantes, comme les travaux issus de Berkeley (BADGR, RECON) ou les pipelines de navigation d'Agility Robotics et Boston Dynamics, contournent partiellement le problème via de la simulation photo-réaliste ou du domain randomization intensif. NavRL++ adopte une approche complémentaire : diagnostiquer empiriquement les sources d'écart plutôt que de les masquer. La prochaine étape naturelle sera de tester cette méthodologie sur des flottes de robots en déploiement continu, notamment dans des scénarios entrepôt ou inspection d'infrastructures où la latence et la fiabilité des capteurs sont des contraintes opérationnelles dures.

RecherchePaper

1 source

2arXiv cs.RO

DODGER : apprentissage par renforcement guidé par la sécurité pour la navigation de robots parmi des obstacles dynamiques

Des chercheurs publient sur arXiv (2609.38873) DODGER, un cadre d'apprentissage par renforcement (RL) « guidé par la sécurité » pour la navigation de robots au milieu d'obstacles dynamiques, comme des piétons. La méthode s'appuie sur les fonctions barrières de contrôle (CBF), un outil mathématique qui définit un ensemble d'états sûrs et sert à corriger une commande dangereuse avant son exécution. Elle a été évaluée de trois façons : une analyse de sécurité sur une voiture de Dubins (modèle cinématique simplifié), une simulation d'humanoïde en modèle complet (full-order), puis des essais réels sur un humanoïde équipé d'une perception par LiDAR. Le robot atteint des cibles en évitant plusieurs obstacles mobiles, sans filtre de sécurité à l'exécution. Le résumé ne donne ni taux de collision, ni vitesse d'obstacle, ni nombre d'essais, ni modèle d'humanoïde. Il s'agit d'un travail de recherche, sans produit ni déploiement. L'intérêt tient à une limite des approches CBF-RL actuelles. Elles n'exécutent en entraînement que des actions déjà filtrées. L'agent explore donc moins, ce qui pèse surtout en environnement dynamique, où la sécurité dépend du mouvement relatif entre robot et obstacle. DODGER inverse la logique : les actions produites par la politique pilotent directement les rollouts d'entraînement. Les références filtrées par CBF et les violations de contraintes ne servent qu'à orienter l'apprentissage vers l'évitement. Si cela tient à plus grande échelle, la politique embarquée n'aurait plus besoin d'un solveur de sécurité en ligne. Cela réduirait la charge de calcul et les risques de conflit entre filtre et politique. Pour un intégrateur, la question est de savoir si l'on peut se passer d'un filtre redondant dans des sites partagés avec des opérateurs humains. Les garanties restent empiriques : une politique sans filtre en ligne ne offre plus de certificat formel à l'exécution. Aucune comparaison chiffrée avec les méthodes concurrentes n'apparaît dans le résumé. Le travail prolonge les méthodes qui intègrent les CBF dans le RL, déjà utilisées pour la locomotion et la navigation de robots à pattes, et rejoint l'effort actuel pour transférer des politiques apprises en simulation vers des humanoïdes réels. Il reste au stade de préprint (v1), sans relecture par les pairs. Les prochaines étapes à surveiller sont la publication des taux de succès et de collision face aux baselines à filtre, les tests avec des obstacles plus nombreux et plus rapides, des piétons réels en environnement non contrôlé, et d'autres plateformes humanoïdes. Aucune annonce de pilote industriel ni d'échéance n'accompagne ce préprint.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

3arXiv cs.RO

Q-SpiRL : apprentissage par renforcement quantique à impulsions pour la navigation adaptative des robots

Une équipe de chercheurs présente Q-SpiRL (arXiv:2605.20801), un cadre d'apprentissage par renforcement combinant calcul neuromorphique et circuit quantique pour la navigation robotique en environnements dynamiques. Cinq familles d'agents sont comparées : Q-learning tabulaire, MLP classique, réseau à impulsions (SNN) classique, MLP à couche quantique (QMLP), et SNN à couche quantique (QSNN). L'architecture centrale est le QSNN, qui couple un traitement temporel basé sur les impulsions neuronales à une transformation de features par circuit quantique variationnel. Les expériences portent sur trois grilles de navigation de tailles croissantes (20x20, 30x30 et 40x40 cellules), avec obstacles statiques et dynamiques. Le QSNN atteint jusqu'à 99 % de taux de succès dans la configuration la plus exigeante, avec un SPL (success-weighted path length) élevé et un faible taux de rotation, surpassant les quatre autres architectures sur l'ensemble des métriques. L'exécution du framework sur matériel quantique réel via IBM Quantum confirme la faisabilité opérationnelle d'une politique hybride hors simulation pure. L'intérêt principal pour la robotique industrielle et mobile réside dans la combinaison des propriétés des SNNs et du quantum computing : les réseaux à impulsions traitent l'information de manière éparse et asynchrone, ce qui les rend naturellement économes en énergie par rapport aux MLP denses, avantage réel pour les plateformes embarquées. L'ajout d'une couche quantique variationnelle enrichit la représentation d'état sans faire exploser le coût de calcul classique. Les résultats valident empiriquement cette complémentarité, mais il convient de nuancer : les environnements testés sont des grilles 2D abstraites, très éloignées d'un entrepôt logistique ou d'une cellule de production. Aucun résultat sur robot physique n'est présenté, et les métriques de consommation énergétique effective ne sont pas mesurées. Cette publication s'inscrit dans la convergence de deux courants de recherche : le quantum machine learning appliqué au contrôle, et la robotique neuromorphique utilisant des puces comme Intel Loihi. Les approches classiques de navigation par reinforcement learning (PPO, SAC) restent dominantes dans les AMR commerciaux et les flottes d'entrepôt, mais la pression énergétique sur les systèmes embarqués alimente l'intérêt pour les alternatives neuromorphiques. La validation suivante naturelle serait des tests en simulation physique réaliste (Isaac Sim, Gazebo) puis sur plateforme robotique réelle, avec des benchmarks de consommation et de temps de cycle. Aucun partenariat industriel ni calendrier de transfert technologique n'est annoncé dans la publication.

RecherchePaper

1 source

4arXiv cs.RO

Ce qui compte pour le transfert de l'apprentissage par renforcement en simulation vers l'apprentissage en ligne sur des robots réels

Une étude empirique menée sur trois plateformes robotiques distinctes a testé l'apprentissage par renforcement (RL) en ligne directement sur des robots physiques, à travers 100 sessions d'entraînement réelles. Les chercheurs ont systématiquement isolé les choix de conception algorithmiques, matériels et expérimentaux habituellement laissés implicites dans les travaux précédents sur le sujet. Résultat principal : certains réglages par défaut largement utilisés dans la pratique du RL se révèlent contre-productifs sur du matériel réel, tandis qu'un ensemble restreint de choix de conception robustes, faciles à adopter dans le cadre standard du RL, permet d'obtenir un apprentissage stable sur différentes tâches et différents types de robots. Il s'agit, selon les auteurs, de la première étude empirique à grande échelle de ce type portant sur ces choix de conception. Cette cartographie répond à un point de friction bien identifié chez les intégrateurs et équipes de recherche robotique : le RL en ligne sur robot réel reste réputé fragile, coûteux en ingénierie et peu reproductible d'une plateforme à l'autre, ce qui pousse la majorité des équipes vers l'apprentissage en simulation (sim-to-real) ou l'imitation à partir de démonstrations. En identifiant quels réglages par défaut nuisent réellement à l'apprentissage et lesquels le stabilisent, ce travail réduit potentiellement l'effort d'ingénierie nécessaire pour déployer du RL en ligne directement sur du hardware, sans passer par un simulateur intermédiaire. C'est un signal utile pour évaluer si le RL en ligne peut devenir une option pratique face aux architectures VLA (vision-langage-action) qui dominent actuellement la communication du secteur, en offrant une alternative plus frugale en données de démonstration. Le papier s'inscrit dans une lignée de travaux cherchant à combler l'écart entre les promesses du RL en robotique, démontrées depuis longtemps en simulation, et sa fiabilité en conditions réelles, où le coût d'échantillonnage et les risques matériels limitent les expérimentations à grande échelle. Contrairement aux annonces de plateformes humanoïdes commerciales, ce travail relève de la recherche fondamentale reproductible, avec des ablations systématiques plutôt qu'une démonstration ponctuelle. Publié sur arXiv en tant que version révisée ("replace"), il ouvre la voie à des protocoles standardisés que d'autres laboratoires pourront reprendre et à des comparaisons futures avec des approches sim-to-real ou par imitation sur les mêmes tâches.

RecherchePaper

1 source