RecherchearXiv cs.RO 1 octobre 2026

DODGER : apprentissage par renforcement guidé par la sécurité pour la navigation de robots parmi des obstacles dynamiques

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs publient sur arXiv (2609.38873) DODGER, un cadre d'apprentissage par renforcement (RL) « guidé par la sécurité » pour la navigation de robots au milieu d'obstacles dynamiques, comme des piétons. La méthode s'appuie sur les fonctions barrières de contrôle (CBF), un outil mathématique qui définit un ensemble d'états sûrs et sert à corriger une commande dangereuse avant son exécution. Elle a été évaluée de trois façons : une analyse de sécurité sur une voiture de Dubins (modèle cinématique simplifié), une simulation d'humanoïde en modèle complet (full-order), puis des essais réels sur un humanoïde équipé d'une perception par LiDAR. Le robot atteint des cibles en évitant plusieurs obstacles mobiles, sans filtre de sécurité à l'exécution. Le résumé ne donne ni taux de collision, ni vitesse d'obstacle, ni nombre d'essais, ni modèle d'humanoïde. Il s'agit d'un travail de recherche, sans produit ni déploiement.

L'intérêt tient à une limite des approches CBF-RL actuelles. Elles n'exécutent en entraînement que des actions déjà filtrées. L'agent explore donc moins, ce qui pèse surtout en environnement dynamique, où la sécurité dépend du mouvement relatif entre robot et obstacle. DODGER inverse la logique : les actions produites par la politique pilotent directement les rollouts d'entraînement. Les références filtrées par CBF et les violations de contraintes ne servent qu'à orienter l'apprentissage vers l'évitement. Si cela tient à plus grande échelle, la politique embarquée n'aurait plus besoin d'un solveur de sécurité en ligne. Cela réduirait la charge de calcul et les risques de conflit entre filtre et politique. Pour un intégrateur, la question est de savoir si l'on peut se passer d'un filtre redondant dans des sites partagés avec des opérateurs humains. Les garanties restent empiriques : une politique sans filtre en ligne ne offre plus de certificat formel à l'exécution. Aucune comparaison chiffrée avec les méthodes concurrentes n'apparaît dans le résumé.

Le travail prolonge les méthodes qui intègrent les CBF dans le RL, déjà utilisées pour la locomotion et la navigation de robots à pattes, et rejoint l'effort actuel pour transférer des politiques apprises en simulation vers des humanoïdes réels. Il reste au stade de préprint (v1), sans relecture par les pairs. Les prochaines étapes à surveiller sont la publication des taux de succès et de collision face aux baselines à filtre, les tests avec des obstacles plus nombreux et plus rapides, des piétons réels en environnement non contrôlé, et d'autres plateformes humanoïdes. Aucune annonce de pilote industriel ni d'échéance n'accompagne ce préprint.

Impact France/UE

Pas d\'impact direct sur la France/UE

Dans nos dossiers

arXiv cs.RO

À lire aussi

1arXiv cs.RO

Adaptation des compétences avec prise en compte de la sécurité pour l'apprentissage par renforcement en environnements dynamiques

Une équipe de chercheurs présente Dist-GPRL, un framework d'apprentissage par renforcement guidé par la sécurité pour l'adaptation de compétences robotiques, dans une prépublication arXiv (2609.11433v1). Construit sur une paramétrisation de trajectoires par processus gaussiens (GP), le système adapte séquentiellement des fenêtres locales de points de passage plutôt que la trajectoire complète à chaque étape, la covariance du GP assurant des mises à jour cohérentes dans le temps et réduisant les difficultés d'attribution de crédit propres à l'adaptation globale. La sécurité combine un a priori de sous-espace faisable dérivé du planificateur Hausdorff Approximation Planner (HAP) et des récompenses fondées sur un champ de distance aux obstacles mis à jour dynamiquement, complétées par un régularisateur qui préserve les profils de vitesse et d'accélération démontrés. Testé sur deux tâches de manipulation d'objets dynamiques, d'abord en simulation puis transféré à l'exécution réelle sur robot, Dist-GPRL affiche un taux de réussite plus élevé, moins de collisions et un apprentissage plus stable que les méthodes de référence. L'enjeu dépasse la démonstration académique. La plupart des cadres RL d'adaptation de compétences imposent des observations fixes ou des schedules d'exploration rigides pour rester stables, ce qui les rend inadaptés dès qu'un environnement encombré ou des objets mobiles entrent en jeu, un scénario courant en manipulation industrielle. En intégrant la sécurité directement dans la boucle d'exploration plutôt qu'en garde-fou externe, ce travail s'attaque à un point de friction réel pour les intégrateurs qui veulent déployer des politiques apprises près d'obstacles ou d'opérateurs. Le transfert simulation vers réel réussi, même circonscrit à deux tâches, reste un indice utile mais ne vaut pas preuve de robustesse à grande échelle. La méthode s'inscrit dans la lignée des approches de paramétrisation de compétences par processus gaussiens, réputées compactes mais fragiles face aux changements d'environnement, défaut que Dist-GPRL cherche à corriger en s'appuyant sur le planificateur HAP pour la garantie géométrique de sécurité. Elle se distingue ainsi des architectures VLA de bout en bout type Pi-0 ou GR00T N2, en combinant planification classique et apprentissage par renforcement plutôt qu'un modèle unique bout à bout. La publication ne mentionne ni partenaire industriel, ni robot commercial, ni calendrier de déploiement: il s'agit à ce stade d'une contribution de recherche validée en simulation et sur un banc réel limité, sans pilote industriel annoncé.

RecherchePaper

1 source

2arXiv cs.RO

Vol anticipé guidé par les risques : un apprentissage par renforcement pour voler en sécurité dans un environnement dynamique encombré

Une équipe de recherche présente un nouveau cadre d'apprentissage par renforcement pour la navigation sécurisée de quadrirotors dans des environnements encombrés et dynamiques, publié sur arXiv fin juillet 2026. La méthode, baptisée "anticipatory risk-guided reinforcement learning", s'appuie sur des états privilégiés du simulateur pour construire une carte de risque de collision future, orientée directionnellement et calculée via le point d'approche le plus proche (Closest Point of Approach, CPA). Une architecture actor-critic asymétrique entraîne le réseau à auto-prédire ce risque structuré, qui guide ensuite la politique visuelle au moment du déploiement réel. Un encodeur spatio-temporel léger extrait les indices de mouvement directement depuis les séquences de profondeur embarquées, sans recourir au tracking d'objets ni à l'estimation de flux optique explicite. Les auteurs rapportent des gains en marge de sécurité et en efficacité de vol par rapport aux méthodes de référence, en simulation comme en conditions réelles, avec un transfert sim-to-real zero-shot validé sur un drone physique. Pour l'industrie des drones et des systèmes autonomes, ce travail s'attaque à un point de friction connu: les pipelines modulaires classiques souffrent de latence de perception, tandis que les approches end-to-end à récompense scalaire peinent à extraire des features spatio-temporelles fiables sans supervision physique explicite. En ancrant l'apprentissage dans une notion de risque géométrique anticipé plutôt que dans un signal de récompense implicite, la méthode illustre une piste pour fiabiliser le comportement des politiques visuelles face à des obstacles mobiles, un scénario encore mal couvert par la plupart des solutions commerciales d'évitement d'obstacles pour drones et robots mobiles autonomes (AMR). Ce résultat s'inscrit dans la lignée des travaux récents combinant perception par profondeur et RL pour le vol autonome en environnement dynamique, un axe de recherche actif face aux limites persistantes des méthodes géométriques classiques. Il s'agit à ce stade d'une publication de recherche avec validation expérimentale limitée, non d'un produit ou d'un déploiement industriel; les prochaines étapes attendues porteraient sur l'extension à des essaims de drones, des obstacles multiples plus denses, et une validation à plus grande échelle hors simulation.

RecherchePaper

1 source

3arXiv cs.RO

Q-SpiRL : apprentissage par renforcement quantique à impulsions pour la navigation adaptative des robots

Une équipe de chercheurs présente Q-SpiRL (arXiv:2605.20801), un cadre d'apprentissage par renforcement combinant calcul neuromorphique et circuit quantique pour la navigation robotique en environnements dynamiques. Cinq familles d'agents sont comparées : Q-learning tabulaire, MLP classique, réseau à impulsions (SNN) classique, MLP à couche quantique (QMLP), et SNN à couche quantique (QSNN). L'architecture centrale est le QSNN, qui couple un traitement temporel basé sur les impulsions neuronales à une transformation de features par circuit quantique variationnel. Les expériences portent sur trois grilles de navigation de tailles croissantes (20x20, 30x30 et 40x40 cellules), avec obstacles statiques et dynamiques. Le QSNN atteint jusqu'à 99 % de taux de succès dans la configuration la plus exigeante, avec un SPL (success-weighted path length) élevé et un faible taux de rotation, surpassant les quatre autres architectures sur l'ensemble des métriques. L'exécution du framework sur matériel quantique réel via IBM Quantum confirme la faisabilité opérationnelle d'une politique hybride hors simulation pure. L'intérêt principal pour la robotique industrielle et mobile réside dans la combinaison des propriétés des SNNs et du quantum computing : les réseaux à impulsions traitent l'information de manière éparse et asynchrone, ce qui les rend naturellement économes en énergie par rapport aux MLP denses, avantage réel pour les plateformes embarquées. L'ajout d'une couche quantique variationnelle enrichit la représentation d'état sans faire exploser le coût de calcul classique. Les résultats valident empiriquement cette complémentarité, mais il convient de nuancer : les environnements testés sont des grilles 2D abstraites, très éloignées d'un entrepôt logistique ou d'une cellule de production. Aucun résultat sur robot physique n'est présenté, et les métriques de consommation énergétique effective ne sont pas mesurées. Cette publication s'inscrit dans la convergence de deux courants de recherche : le quantum machine learning appliqué au contrôle, et la robotique neuromorphique utilisant des puces comme Intel Loihi. Les approches classiques de navigation par reinforcement learning (PPO, SAC) restent dominantes dans les AMR commerciaux et les flottes d'entrepôt, mais la pression énergétique sur les systèmes embarqués alimente l'intérêt pour les alternatives neuromorphiques. La validation suivante naturelle serait des tests en simulation physique réaliste (Isaac Sim, Gazebo) puis sur plateforme robotique réelle, avec des benchmarks de consommation et de temps de cycle. Aucun partenariat industriel ni calendrier de transfert technologique n'est annoncé dans la publication.

RecherchePaper

1 source

4arXiv cs.RO

Apprentissage par renforcement contraint par la sécurité avec vérification d'atteignabilité post-entraînement pour la navigation robotique

Des chercheurs ont publié sur arXiv (2605.14174) un framework combinant apprentissage par renforcement contraint par le CVaR (Conditional Value-at-Risk) et vérification formelle post-entraînement pour la navigation sûre de robots mobiles en environnement encombré. La politique est entraînée sur un algorithme TD3 off-policy (Twin Delayed Deep Deterministic Policy Gradient) sous contraintes CVaR sur les coûts cumulés, ce qui la rend sensible aux événements rares à haute conséquence plutôt qu'aux seules performances moyennes. Après l'entraînement, des ensembles d'actions atteignables sont calculés sous incertitude d'observation bornée via une analyse par modèles de Taylor, produisant un taux de sécurité formel et quantifiable. Sur dix scénarios de navigation et six baselines concurrents, la méthode atteint 98,3 % de succès et le meilleur taux de vérification formelle parmi toutes les approches évaluées. La validation a été conduite sur un robot physique Clearpath Jackal, confirmant le transfert sim-to-real. Le résultat le plus significatif est une divergence démontrée entre classements par coût moyen et classements par vérification d'atteignabilité : un système jugé performant selon les métriques empiriques classiques peut dissimuler des comportements dangereux dans les queues de distribution. C'est un point critique pour les intégrateurs et les décideurs industriels qui qualifient leurs politiques de navigation sur des benchmarks de coût moyen. Les politiques entraînées avec contraintes CVaR maintiennent des marges de sécurité plus larges face aux obstacles, ce qui les rend structurellement plus compatibles avec la vérification formelle, prérequis pour une certification dans des secteurs réglementés comme la logistique, l'industrie ou la santé. Le CVaR, outil de la finance quantitative pour quantifier le risque de queue, s'impose progressivement dans les systèmes cyber-physiques. Ce travail reste une preprint arXiv, pas encore soumise à peer review. L'espace concurrent rassemble les approches par barrières de contrôle (CBF-QP), le RL lagrangien et les méthodes de Lyapunov. La vérification formelle de réseaux de neurones, portée par des outils comme alpha,beta-CROWN, est un axe en développement rapide. Des plateformes AMR comme celles de Clearpath (utilisée ici en validation) ou, côté français, des acteurs logistiques comme Exotec pourraient directement bénéficier de ce type de pipeline de validation. Les suites naturelles seraient une évaluation en environnements dynamiques avec obstacles mobiles et une soumission à une conférence majeure comme ICRA ou IROS.

UELes acteurs logistiques et industriels européens, dont Exotec en France, pourraient directement intégrer ce type de pipeline de validation formelle pour certifier leurs politiques de navigation AMR dans des secteurs réglementés (logistique, santé, industrie).

RecherchePaper

1 source