Test de robustesse généralisable des systèmes de navigation robotique basés sur des DNN, guidé par l'IA explicable (XAI)

Des chercheurs proposent une méthode de test de robustesse pour les robots de navigation pilotés par réseaux de neurones profonds (DNN), publiée sur arXiv en octobre 2026. L'approche combine un algorithme évolutionnaire multi-objectif avec des techniques d'explicabilité (XAI). Elle génère des perturbations « éparses », c'est-à-dire limitées à quelques zones de l'image, appliquées à des images représentatives des observations opérationnelles du robot. Ces images sont sélectionnées par un regroupement visuel et comportemental. Les gradients intégrés agrégés (Aggregated Integrated Gradients) orientent les mutations vers les régions les plus influentes pour la décision du réseau. Les tests ont été menés sur un LeoRover piloté par DNN dans le simulateur Gazebo. Une étude d'ablation a complété l'évaluation, et un sous-ensemble stratifié de perturbations a été rejoué sur le robot physique. Le taux de succès médian atteint 70,0 %, contre 53,85 % pour une recherche non guidée, et l'hypervolume médian passe de 0,65 à 0,73. L'optimisation sur plusieurs images fait passer le taux de succès de 50,0 % à 57,5 %, et le guidage XAI le porte ensuite à 70,0 %.

Ces résultats visent un problème connu : de petites variations d'entrée peuvent provoquer un comportement dangereux au niveau du système entier. La plupart des méthodes existantes optimisent une perturbation pour une seule image et ne la valident qu'en simulation, ce qui limite leur portée pratique. Ici, les tests restent efficaces sur l'ensemble des observations typiques. Le volet sim-to-real est le plus utile pour les intégrateurs et les responsables qualité. La simulation obtient une précision de 0,95 et un rappel de 0,67. Autrement dit, presque tous les échecs détectés en simulation se reproduisent sur le robot réel, mais un tiers des échecs réels n'apparaît pas en simulation. Les temps d'échec simulés et physiques sont corrélés positivement (0,617), ce qui permet de hiérarchiser les cas à vérifier. Gazebo reste donc un filtre fiable, mais pas un substitut à la validation physique. Il faut néanmoins noter que la validation porte sur un seul robot de recherche, de petite taille, et sur un sous-ensemble de perturbations. Ces chiffres ne se transposent pas directement à des humanoïdes ou à des AMR industriels.

Ce travail s'inscrit dans la montée des politiques apprises de bout en bout, des contrôleurs de navigation aux modèles vision-langage-action (VLA), qui posent la question de la certification des systèmes cyber-physiques. Les approches adverses classiques, souvent pensées pour la classification d'images, restent peu représentatives des défaillances au niveau du système. Le LeoRover est une plateforme mobile courante en recherche, ce qui facilite la reproduction. Les auteurs ne donnent pas de calendrier de déploiement industriel. Les prochaines étapes logiques sont l'extension à d'autres robots, d'autres architectures de contrôle et des environnements plus variés. Elles pourraient aussi porter sur l'intégration de ces tests dans les chaînes de validation avant mise en service.