RecherchearXiv cs.RO 12 juin 2026

Attaques trojans sur les contrôleurs de réseaux de neurones pour systèmes robotiques

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs ont publié sur arXiv (référence 2602.05121v2) une démonstration de faisabilité d'attaques par backdoor, dites attaques "Trojan", ciblant des contrôleurs neuronaux embarqués dans des systèmes robotiques. Le vecteur d'attaque étudié est un robot mobile à propulsion différentielle, dont le contrôleur de suivi de trajectoire et de stabilisation de pose est implémenté sous forme de réseau de neurones. Les auteurs ont conçu un module Trojan parallèle, léger, conçu pour être inséré dans le réseau principal sans modifier ses poids. Ce module reste inactif en fonctionnement normal, puis s'active dès qu'une condition de déclenchement très précise est détectée, définie conjointement par la pose courante du robot et ses paramètres objectifs. À l'activation, le module corrompt directement les commandes de vitesse des roues, provoquant des comportements non désirés, potentiellement dangereux. L'attaque est validée en simulation selon deux scénarios distincts.

Ce travail met en lumière un risque souvent sous-estimé dans la robotique industrielle et les AMR (robots mobiles autonomes) : la chaîne d'approvisionnement en modèles neuronaux. Dès lors qu'un contrôleur est fourni par un tiers, entraîné sur une infrastructure externe, ou acquis via un pipeline de fine-tuning non audité, l'intégrateur ne peut pas garantir l'absence de modules cachés. La discrétion du Trojan, dormant jusqu'à un trigger très spécifique, le rend difficilement détectable par les tests fonctionnels classiques. Pour les COO industriels et les équipes sécurité, cela signifie que les approches de validation de modèles actuelles, orientées performance, sont insuffisantes face à des attaques intentionnelles.

Les attaques par backdoor sur les réseaux de neurones sont documentées depuis 2017 dans le domaine de la classification d'images, mais leur transposition aux systèmes de contrôle robotique en temps réel est plus récente et plus critique : une erreur de classification est bénigne, une dérive de trajectoire sur un robot industriel peut provoquer des dommages matériels ou humains. Ce papier s'inscrit dans un corpus croissant qui questionne la robustesse des architectures VLA (Vision-Language-Action) et des contrôleurs neuronaux génériques. Les suites logiques sont des méthodes de détection (analyse spectrale des poids, tests adversariaux ciblés) et des protocoles de certification des modèles embarqués, un chantier encore largement ouvert pour les organismes de standardisation comme l'ISO ou l'IEC.

Impact France/UE

Les intégrateurs européens d'AMR et robots industriels utilisant des contrôleurs neuronaux fournis par des tiers sont directement exposés à ce vecteur d'attaque ; les travaux de normalisation ISO/IEC sur la certification des modèles embarqués deviennent un chantier prioritaire pour le marché européen.

Dans nos dossiers

arXiv cs.RO

À lire aussi

1arXiv cs.RO

Une architecture de contrôle robuste au niveau des tâches pour les systèmes dynamiques appris

Une équipe de recherche présente une architecture de contrôle nommée L1-DS (L1-augmented Dynamical Systems), décrite dans un article arXiv (2511.09790v2, version corrigée) sur l'apprentissage par démonstration basé sur les systèmes dynamiques (DS). Le problème ciblé est le "task-exécution mismatch" : l'écart entre la trajectoire planifiée et celle réellement exécutée par le robot, dû à des dynamiques non modélisées, des perturbations persistantes et la latence du système. La solution associe un contrôleur stabilisateur nominal et un contrôleur adaptatif L1, plus un sélecteur de cible fondé sur une Dynamic Time Warping (DTW) fenêtrée qui corrige le désalignement temporel pour un suivi cohérent en phase. L'approche est validée sur deux jeux de données de référence, LASA et IROS handwriting, utilisés pour évaluer la reproduction de trajectoires d'écriture manuscrite par bras robotique. Le sujet touche un point sensible pour les intégrateurs qui déploient des modèles de mouvement appris par démonstration sur du matériel réel : en simulation, ces systèmes dynamiques produisent des trajectoires stables et répétables, mais en conditions réelles, frottements, retards d'actionneurs et perturbations font dériver le robot de la trajectoire prévue. L1-DS ne remplace aucun modèle de mouvement existant : il s'ajoute comme couche de contrôle robuste par-dessus n'importe quel schéma de LfD basé sur les systèmes dynamiques, une brique potentiellement compatible avec des pipelines déjà en place plutôt qu'une nouvelle méthode d'apprentissage. Cette approche s'oppose dans son esprit aux architectures Vision-Language-Action (VLA) récentes, qui misent sur la généralisation par apprentissage bout-en-bout à partir de très larges volumes de données : ici, la robustesse repose sur des garanties de contrôle classiques plutôt que sur l'échelle des données d'entraînement. L'apprentissage par démonstration basé sur les systèmes dynamiques s'appuie sur des travaux plus anciens comme les Dynamic Movement Primitives et les modèles de mélange de gaussiennes stables, utilisés depuis plus d'une décennie pour générer des trajectoires à partir d'un petit nombre de démonstrations humaines. Le contrôle adaptatif L1 provient de la robotique aérienne, où il est recherché pour sa capacité à réagir rapidement aux incertitudes sans compromettre la stabilité. Publié en deuxième version sur arXiv sous la référence 2511.09790, ce travail reste une contribution de recherche académique : aucune application industrielle, aucun partenariat avec un fabricant de robots ni aucun déploiement sur matériel commercial n'est mentionné. La suite logique, non annoncée par les auteurs, serait une validation sur bras robotique physique dans des tâches de manipulation industrielle, au-delà des benchmarks d'écriture utilisés ici.

RecherchePaper

1 source

2arXiv cs.RO

Au-delà de la récupération d'erreur : un cadre de contrôle humain adaptatif pour les systèmes robotiques

Des chercheurs ont publié sur arXiv en juin 2026 (arXiv:2606.18189) une méthode appelée E-MPC (Engagement-aware Model Predictive Control), conçue pour repenser le rôle de l'humain dans la supervision des robots d'assistance. L'approche a été validée en simulation puis dans une étude utilisateur réelle, sur un système robotique d'aide à l'alimentation (bite acquisition), avec des participants simulant des limitations de mobilité. Le principe central : plutôt que de solliciter l'opérateur uniquement lorsqu'un robot échoue ou est en incertitude, le système planifie proactivement des moments d'interaction pour maintenir un niveau d'engagement choisi par l'utilisateur, tout en respectant une contrainte de charge cognitive maximale. E-MPC intègre un modèle de dynamique d'interaction utilisateur qui prédit comment l'engagement évolue en fonction de la fréquence et du type d'intervention demandée. Ce travail remet en cause un postulat dominant dans la robotique d'assistance : que l'autonomie maximale est toujours préférable pour l'utilisateur. Dans des contextes de caregiving physique, les personnes à mobilité réduite risquent de devenir de simples observateurs passifs d'un robot qui agit entièrement seul, ce qui dégrade l'expérience et potentiellement l'adhésion au système. E-MPC déplace le curseur : l'interaction n'est plus un signal d'échec, mais un levier de conception du workflow. Cela a des implications concrètes pour les intégrateurs de systèmes d'assistance à domicile ou en EHPAD, où le consentement continu et le sentiment de contrôle de l'utilisateur sont des critères de certification et d'acceptabilité. La robotique d'assistance humanoïde et collaborative accumule depuis plusieurs années des travaux sur le human-in-the-loop, mais ceux-ci se concentrent presque exclusivement sur la robustesse (détection de pannes, out-of-distribution handling). E-MPC s'inscrit dans une tendance plus récente qui emprunte aux travaux sur l'interaction adaptative et la téléopération partagée, avec des connexions aux recherches sur le shared autonomy (Javdani, Srinivasa et al.). Les auteurs n'annoncent pas de commercialisation ni de partenariat industriel à ce stade : il s'agit d'un prototype de recherche avec étude utilisateur, pas d'un produit déployé. Les suites naturelles incluent des essais avec de vraies populations en situation de handicap et l'extension à des tâches multi-étapes plus complexes que l'alimentation.

UELes implications pour la certification des robots d'assistance à domicile et en EHPAD (consentement continu, sentiment de contrôle utilisateur) sont directement pertinentes pour les intégrateurs français et la réglementation médicosociale en France.

RecherchePaper

1 source

3arXiv cs.RO

Apprentissage de dynamiques neuronales ODE adaptées au contexte pour le contrôle robotique adaptatif

Des chercheurs ont proposé un modèle de dynamique contextuel fondé sur les équations différentielles ordinaires neuronales (Neural ODE) pour améliorer le contrôle de robots opérant dans des environnements incertains et variables. Le travail, déposé en juin 2026 sur arXiv (référence 2606.15469), cible les perturbations que les contrôleurs classiques peinent à absorber: variations des conditions de contact, effets aérodynamiques et perturbations externes imprévues. La méthode repose sur une procédure d'entraînement en deux phases: le modèle inspecte l'historique des états et des actions du robot pour inférer les facteurs environnementaux courants, sans capteurs dédiés supplémentaires. La compatibilité avec le MPC (Model Predictive Control) est intégrée dès la conception. Les validations portent sur trois plateformes distinctes: un drone quadrirotor en simulation, un robot sphérique Sphero BOLT et un bras manipulateur industriel Fanuc, ces deux derniers testés en conditions réelles. L'enjeu central est la dérive de modèle lors du déploiement: un robot calibré en laboratoire voit ses performances se dégrader dès que l'environnement change, que ce soit un sol différent, une charge variable ou des turbulences. Par rapport aux approches récurrentes classiques (LSTM, GRU), les Neural ODE présentent un avantage structurel: elles modélisent la dynamique en temps continu, ce qui améliore la cohérence physique et simplifie l'interface avec les solveurs MPC. L'inférence du contexte depuis le seul historique actions-états, sans instrumentation additionnelle, réduit la barrière d'intégration pour les industriels. Le test sur un Fanuc, bras omniprésent en production manufacturière, ancre les résultats dans une réalité opérationnelle tangible. Point de réserve: l'article est un preprint et l'abstract ne publie aucune métrique chiffrée de performance, ce qui rend l'évaluation indépendante difficile à ce stade. Les Neural ODE ont été introduites en 2018 par Chen et al. (NeurIPS) comme alternative aux réseaux récurrents pour modéliser des systèmes dynamiques continus. Leur application au contrôle robotique adaptatif répond à un obstacle persistant du secteur: le sim-to-real gap, qui fragilise la fiabilité des systèmes autonomes hors conditions contrôlées. Les approches concurrentes comprennent les processus gaussiens (GP) pour l'adaptation en ligne, les algorithmes méta-apprenants (MAML, PEARL) et l'identification de systèmes en temps réel. Ce travail se distingue par l'inférence contextuelle implicite, couplée nativement au MPC plutôt qu'ajoutée en couche. Le code source est ouvert sur GitHub et des démonstrations vidéo sont accessibles. La prochaine étape logique serait une validation sur des tâches de manipulation à charge variable ou un déploiement en environnement industriel non contrôlé.

RecherchePaper

1 source

4arXiv cs.RO

Système de capteurs tactiles capacitifs conçu pour les robots compagnons

Des chercheurs ont publié sur arXiv (référence 2606.25348) un système de captation tactile à capacitance propre (self-capacitance) conçu pour les robots humanoïdes compagnons. L'architecture repose sur une unique couche de tissu conducteur avec un réseau de fils conducteurs, sans nécessiter de gravure d'électrodes complexe. La faisabilité a été démontrée par la fabrication d'un réseau de 100 points de mesure sur un circuit imprimé flexible (FPC). Les tests menés à différentes fréquences d'échantillonnage établissent que 10 Hz sont insuffisants et ratent les événements transitoires, alors que 100 Hz et 1 000 Hz permettent de distinguer fidèlement quatre types d'interactions : toucher léger, tapotement lent, tapotement rapide et impact. Un classifieur à arbre de décision est exécuté directement sur un FPGA, déchargeant le Raspberry Pi 4 embarqué de toute inférence temps réel, avec une latence minimale et une consommation électrique négligeable. Le système est dimensionné pour le robot HIRO-chan. L'intérêt technique de cette approche réside dans sa réponse directe aux trois verrous classiques de la peau artificielle : la complexité de fabrication (structures multicouches, câblage dense), le coût unitaire et l'incapacité à passer à l'échelle vers une couverture corporelle complète. En déléguant l'inférence au FPGA plutôt qu'au processeur principal, les auteurs résolvent également le problème de charge de calcul qui freine l'intégration tactile dans les plateformes à ressources contraintes. Pour les intégrateurs, la démonstration d'un tableau 100 points sur FPC souple est un signal concret : la fabrication de peaux tactiles denses devient accessible sans processus de photolithographie fin. HIRO-chan est un robot humanoïde compagnon d'origine japonaise, positionné sur les usages de proximité sociale plutôt que sur la manipulation industrielle. L'article reste un preprint académique et ne constitue pas une annonce produit ni un déploiement commercial. Le domaine de la peau artificielle voit plusieurs approches en compétition : capteurs piézoélectriques (BioTac, SynTouch), réseaux de capteurs optiques (MIT CSAIL, Meta FAIR), et systèmes à base de matériaux conducteurs élastiques comme celui proposé ici. La capacitance propre se distingue par sa simplicité de lecture mais reste sensible aux interférences électromagnétiques en environnement industriel. Les prochaines étapes logiques seraient une validation sur couverture corporelle partielle et des tests en conditions d'utilisation réelle avec des utilisateurs humains.

RecherchePaper

1 source