RecherchearXiv cs.RO 26 octobre 2026

Pas un accident : exploiter l'insuffisance des filtres de sécurité des robots humanoïdes

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs montrent, dans un article publié sur arXiv (2610.31923), que les filtres de sécurité embarqués sur les robots humanoïdes peuvent eux-mêmes devenir un vecteur d'attaque. Ces filtres sont conçus pour garantir mathématiquement que les commandes générées n'entraînent aucune collision. L'équipe établit que cette garantie n'est valable que si les paramètres de sécurité sont correctement configurés, or la bonne configuration dépend de la tâche et de l'environnement, et aucune méthode générale ne permet de la déterminer pour des déploiements variés. Les auteurs décrivent des attaques par insertion d'objectif (goal insertion), exécutables par un simple utilisateur via des interactions normales, sans privilège ni capacité supplémentaire. Ils présentent SIREN, un outil automatisé qui identifie, pour une tâche et un environnement donnés, les objectifs à insérer pour provoquer une violation de sécurité. Sur le jeu de données SPARK, SIREN trouve des attaques dans tous les scénarios vulnérables, soit trois fois plus qu'une approche de référence. Les chercheurs affirment aussi avoir généré des attaques provoquant une collision sur un humanoïde réel pendant l'exécution de tâches, sans préciser dans le résumé le modèle de robot utilisé ni le nombre d'essais.

Le point central est que la garantie formelle d'un filtre de sécurité ne vaut que sous ses hypothèses de paramétrage, et que ces hypothèses ne tiennent pas forcément après le déploiement. Pour les intégrateurs et les responsables de sites qui envisagent des humanoïdes dans des entrepôts, des hôpitaux ou des domiciles, cela déplace la question de la certification : un filtre validé en laboratoire ou livré en configuration d'usine ne prouve pas la sécurité dans un environnement donné. Le travail ajoute aussi une menace peu discutée, celle d'un utilisateur ordinaire, ou d'un acteur malveillant disposant d'un accès normal, capable de détourner le robot en lui assignant un objectif choisi. Il nuance enfin l'idée que superposer un filtre à une politique apprise, par exemple un modèle vision-langage-action, suffit à régler le risque de collision. Il faut toutefois rester prudent : il s'agit d'un préprint non évalué par les pairs, dont les résultats reposent sur un jeu de données de simulation et une démonstration matérielle dont les détails restent à examiner.

Ce travail s'inscrit dans l'essor des filtres de sécurité à base de fonctions de barrière de contrôle et de méthodes apparentées, devenus une brique courante pour encadrer les politiques de mouvement des robots à mesure que les humanoïdes quittent les laboratoires pour des essais en milieu humain. Il intervient alors que plusieurs acteurs, dont Figure, Tesla, Agility Robotics ou Apptronik, annoncent des pilotes en logistique et en usine, et que les normes de sécurité pour robots mobiles à jambes restent encore en cours de définition. Les suites logiques sont une évaluation par les pairs, des tests sur davantage de plateformes, et des méthodes de calibrage ou de vérification continue des paramètres en conditions réelles. Pour les fabricants, cela implique d'intégrer ce type d'analyse adversariale, que SIREN illustre, dans leurs procédures de validation avant tout déploiement.

Dans nos dossiers

Apptronik Apollo Agility Robotics — Digit IA physique & VLA arXiv cs.RO

À lire aussi

1arXiv cs.RO

Tests adversariaux des filtres de sécurité du robot humanoïde SPARK

Une équipe de chercheurs a publié en mai 2026 sur arXiv (arXiv:2605.19009) une étude de robustesse portant sur les filtres de sécurité SPARK pour robots humanoïdes. Le travail consiste en une réplication du cas de référence G1SportMode\D1\WG\SO\v1 dans le simulateur MuJoCo, puis en une batterie de tests adversariaux sur six méthodes de filtrage : RSSA, RSSS, SSA, CBF (Control Barrier Function), PFM et SMA. Les auteurs ont également construit un pipeline de post-traitement pour convertir les logs bruts SPARK en trois métriques exploitables, suivi d'objectif, distance minimale aux obstacles, et nombre de pas en collision. Résultat principal : certaines méthodes optimisent le suivi de trajectoire au détriment de l'évitement, tandis que d'autres réduisent les collisions sans maintenir l'efficacité de déplacement. L'importance de ce travail tient à un angle souvent négligé dans l'évaluation des humanoïdes : les benchmarks nominaux, ceux qui servent à comparer les méthodes en conditions idéales, ne capturent pas les modes d'échec qui émergent dans des environnements contraints. Trois types de perturbations ont été testés : densification des obstacles ("obstacle crowding"), estimation bruitée des distances, et information obstacle avec délai. Dans ces conditions, le comportement de sécurité de plusieurs filtres se dégrade significativement, un résultat qui contredit implicitement l'hypothèse que les scores de référence suffisent à valider une méthode avant déploiement terrain. Pour un intégrateur ou un responsable de sécurité industrielle, c'est un signal clair : la qualification d'un filtre de sécurité humanoïde doit inclure des scénarios de stress, pas seulement les cas nominaux. Le SPARK framework s'est imposé ces dernières années comme cadre de référence pour évaluer la sécurité des humanoïdes à corps complet, face à la complexité inhérente de ces systèmes : haute dimensionnalité, contraintes de collision multiples, proximité avec des opérateurs humains. Le cas répliqué ici est lié au robot Unitree G1, l'une des plateformes humanoïdes accessibles les plus répandues en recherche. Les concurrents directs dans cet espace incluent des travaux sur MPC avec CBF (MIT, CMU), les approches RoboSafe d'ETH Zurich, et les filtres embarqués dans Boston Dynamics Atlas. La suite logique de cette recherche serait un protocole de stress testing standardisé, intégrable dans les pipelines de CI/CD robotique avant déploiement en environnement semi-contrôlé.

RechercheOpinion

1 source

2arXiv cs.RO

DWMP : exploiter deux modèles du monde pour le franchissement d'obstacles par un robot humanoïde

Un preprint publié sur arXiv (2609.12347v1) présente DWMP (Dual World Model Policy), un système permettant à un robot humanoïde de franchir des champs d'obstacles grâce à deux modèles du monde distincts plutôt qu'une fusion unique des capteurs. Un module fondé sur la théorie de Koopman transforme les signaux proprioceptifs (articulations, capteurs internes) en un espace où leur évolution devient quasi linéaire malgré la dynamique non linéaire du robot. Un second module, de type RSSM, compresse les images de profondeur de la caméra embarquée en états compacts qui conservent la géométrie des obstacles. Une politique fusionne les deux pour générer les commandes. L'approche a été testée en simulation puis sur un Unitree G1 réel, avec obstacles disposés aléatoirement, sans qu'aucun chiffre de performance (taux de réussite, temps de cycle) ne soit donné dans le résumé. Cette séparation vise une limite connue des politiques de locomotion actuelles, qui traitent souvent de façon indifférenciée des flux aux propriétés opposées: la proprioception, bas-dimensionnelle mais très non linéaire, et la vision, haut-dimensionnelle, bruitée et redondante. Pour les chercheurs et intégrateurs en humanoïdes, l'intérêt tient surtout à la démonstration d'un fonctionnement sur matériel physique réel et non en simulation seule, un point sensible tant l'écart simulation-réel freine encore la commercialisation. Il s'agit néanmoins d'un résultat académique limité à une plateforme unique, le Unitree G1, sans partenaire industriel annoncé, et sans acteur français ou européen impliqué. Le travail s'inscrit dans la lignée des "world models" de l'apprentissage par renforcement: l'opérateur de Koopman sert depuis plusieurs années à linéariser la dynamique de robots complexes, tandis que l'architecture RSSM, popularisée par la famille Dreamer, a d'abord servi à l'apprentissage à partir d'images en environnement virtuel avant d'être adaptée ici à une caméra de profondeur embarquée. Le choix du Unitree G1 confirme son rôle de plateforme de référence pour la recherche en locomotion humanoïde, face à des acteurs commerciaux comme Figure, Boston Dynamics ou Agility Robotics qui explorent des approches d'apprentissage comparables. Classé comme nouvelle soumission, l'article ne mentionne ni conférence de publication, ni code ouvert, ni essai hors laboratoire: une contribution méthodologique, pas encore une étape de déploiement industriel.

RecherchePaper

1 source

3arXiv cs.RO

Sécurité perceptive unifiée contre les chutes pour robots humanoïdes

Des chercheurs proposent VIGOR, une approche de sécurité en cas de chute pour robots humanoïdes qui couvre toutes les phases d'un incident : évitement de la chute, atténuation de l'impact et relevé. Le système a été évalué en simulation, puis sur un Unitree G1, avec une capacité de généralisation « zero-shot » (sans réentraînement) sur des terrains variés. La méthode repose sur un enseignant « privilégié » entraîné à partir de rares démonstrations humaines et de terrains simulés. Il est ensuite distillé en un élève déployable, qui n'utilise que la profondeur égocentrique (caméra embarquée) et la proprioception. L'élève prédit une représentation latente appelée « goal-in-context », qui encode la posture cible de relevé par rapport au terrain environnant et pilote la réaction coordonnée de tout le corps. Les résumés accessibles ne donnent ni taux de réussite, ni nombre de terrains testés, ni chiffres d'impact. L'enjeu est pratique pour tout déploiement en environnement encombré. Contrairement aux quadrupèdes ou aux robots à roues, un humanoïde subit à la chute des impacts de forte énergie, des contacts complexes sur l'ensemble du corps et de grands changements de point de vue. Or la fiabilité du relevé conditionne la disponibilité en exploitation : un robot qui ne se relève pas seul immobilise un poste et exige une intervention humaine. Les politiques de relevé existantes sont le plus souvent aveugles et testées sur sol plat. Une politique guidée par la vision, capable d'adapter sa posture cible à des marches, des obstacles ou des surfaces irrégulières, s'attaque donc à un point faible rarement montré dans les démonstrations. Les auteurs soutiennent aussi que mélanger pose, dynamique et terrain dans un même espace de données impose une couverture exhaustive et freine la généralisation. Leur découplage, avec des poses humaines alignées d'un terrain à l'autre, vise à réduire ce besoin. Il reste à vérifier sur du matériel autre que le G1, un robot de petite taille, et sur des chutes plus dynamiques. Ce travail s'inscrit dans une littérature qui traitait jusqu'ici l'évitement de chute, la réduction de l'impact et le relevé comme des problèmes séparés, ou qui apprenait des politiques de bout en bout sans perception. Le G1 de Unitree est devenu une plateforme de recherche courante grâce à son coût relativement bas, ce qui facilite la reproduction des résultats. Il s'agit d'une prépublication arXiv (version 3), sans validation par les pairs à ce stade, dont une page projet est annoncée. Aucun partenaire industriel ni calendrier de transfert vers un produit n'est mentionné. La suite logique serait une intégration avec les politiques de locomotion et de manipulation, puis des tests de robustesse sur de plus grands humanoïdes industriels.

RecherchePaper

1 source

4arXiv cs.RO

ResSafe : filtrage de sécurité par apprentissage par renforcement résiduel pour humanoïdes

ResSafe, une architecture de contrôle en deux politiques pour les robots humanoïdes, a été publiée le 15 septembre 2026 sur arXiv sous la référence 2609.15988. La méthode sépare performance et sécurité : une politique nominale est entraînée uniquement pour accomplir la tâche, tandis qu'une politique résiduelle apprend en parallèle des corrections de sécurité qui ajustent ses actions. Cette seconde politique agit comme un filtre de sécurité implicite, censé limiter chutes et instabilités liées à la dynamique à haute dimensionnalité et aux interactions riches en contacts propres aux humanoïdes. L'abstract ne cite aucune plateforme robotique ni aucun chiffre de performance (taux de chute, distance parcourue, degrés de liberté), signe d'une recherche encore amont, sans validation matérielle détaillée. Pour l'industrie, ce découplage répond à un problème connu : faire arbitrer par une seule politique performance, robustesse et sécurité oblige à régler manuellement plusieurs termes de récompense concurrents, un exercice fragile qui complique le passage du simulateur au robot réel. En sortant la sécurité de cette équation unique, ResSafe propose une approche modulaire qui, si elle se confirme sur du matériel, pourrait faciliter l'ajout de correctifs de sécurité sans réentraîner toute la politique de locomotion. L'enjeu parle directement aux intégrateurs et décideurs du secteur, confrontés à un écart persistant entre démonstrations en simulation et fiabilité en conditions réelles. Le travail s'inscrit dans une recherche académique plus large sur le contrôle par apprentissage des humanoïdes, où le RL pour la locomotion et le suivi de mouvement s'est largement généralisé ces dernières années. Il se distingue des méthodes de filtrage de sécurité explicite, fondées sur des barrières de contrôle ou des modèles analytiques de la dynamique, souvent coûteuses ou difficiles à généraliser à un système aussi complexe. L'article ne mentionne ni code source, ni partenaire industriel, ni calendrier d'essais sur robot physique : ResSafe reste, à ce stade, une contribution de recherche dont l'apport devra être confirmé au-delà de la simulation.

RecherchePaper

1 source