Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
RecherchearXiv cs.RO 

Filtrage de sécurité modulé par la confiance pour les politiques de bout en bout

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs proposent, dans un preprint arXiv (2610.40922), un pipeline de filtrage de sécurité dont le niveau de prudence est ajusté en temps réel selon la confiance de la politique qu'il encadre. Le principe vise les politiques « de bout en bout », qu'il s'agisse de contrôleurs dédiés à une tâche ou de modèles de fondation pour la robotique. Elles apprennent des comportements complexes à partir d'observations brutes, mais n'offrent aucune garantie de sécurité. Les auteurs décrivent un pipeline agnostique du filtre utilisé. Les premiers résultats viennent de simulations préliminaires sur F1TENTH, une plateforme de course autonome à l'échelle 1/10. Aucun test sur robot réel, aucun chiffre de performance et aucune comparaison quantifiée ne figurent dans le résumé, et le travail n'a pas encore été évalué par des pairs.

L'intérêt tient à une contradiction courante dans l'architecture des systèmes robotiques. Un filtre de sécurité fonctionne dans un domaine opérationnel de conception (ODD), où ses hypothèses sont valides et la sécurité certifiée. La politique, elle, a son propre domaine de compétence, où elle est fiable. Aujourd'hui, le réglage de prudence du filtre est fixe et ignore cette compétence : un filtre permissif donne de bonnes performances dans l'ODD mais laisse peu de marge au-delà, un filtre conservateur fait l'inverse. Dans l'approche proposée, tous les réglages sont sûrs à l'intérieur de l'ODD, donc une confiance élevée permet de gagner en performance. Hors de l'ODD, une faible confiance ajoute de la marge, ce qui aide surtout quand elle signale les zones où le modèle du filtre est pris en défaut. Selon les auteurs, le filtre modulé combine les atouts des filtres permissifs et conservateurs. La condition est que la confiance de la politique soit bien corrélée aux défaillances du modèle du filtre, hypothèse que le résumé ne démontre qu'en simulation. Pour un intégrateur déployant des modèles VLA, c'est une piste crédible pour éviter de choisir entre productivité et marge de sécurité, mais pas encore une solution validée.

Le contexte est celui d'une adoption croissante de politiques apprises dans les robots mobiles et manipulateurs, alors que les approches de certification classiques reposent sur des modèles explicites et des hypothèses restreintes. Les filtres de sécurité existants, issus notamment des fonctions barrières de contrôle ou de l'analyse d'atteignabilité, sont conçus indépendamment de la politique qu'ils supervisent. Les auteurs interrogent précisément ce découplage. Les prochaines étapes évidentes seraient des essais sur matériel réel, des tests avec de grandes politiques généralistes et une mesure de la fiabilité des estimations de confiance, souvent mal calibrées dans les réseaux profonds. Le résumé ne mentionne ni calendrier ni partenaire industriel.

Impact France/UE

Pas d\'impact direct sur la France/UE

Dans nos dossiers

arXiv cs.RO

À lire aussi

Filtrage de sécurité multi-liens pour les politiques VLA autour d'obstacles mobiles
1arXiv cs.RO 

Filtrage de sécurité multi-liens pour les politiques VLA autour d'obstacles mobiles

Une politique vision-langage-action (VLA) peut mener à bien une tâche de manipulation tout en renversant des objets sans rapport avec elle, si bien que le taux de réussite seul ne dit rien de la sécurité en environnement encombré. Une équipe publiant sur arXiv propose un « bouclier » sans entraînement, qui s'ajoute à une politique VLA préentraînée sans la réentraîner. Il protège le gripper, le poignet et l'avant-bras avec cinq ellipsoïdes, et filtre chaque mouvement commandé par un seul programme de barrière, face à un ellipsoïde d'exclusion ajusté à partir d'une image RGB-D au reset. Un flux optique épars déplace ensuite le centre de cet ellipsoïde avec le danger, sans nouvelle détection ni nouvel ajustement. Sur six conditions simulées de mouvement du danger, la collision passe de 65,62 % à 27,27 % et le « safe-success » (tâche accomplie sans collision) de 29,35 % à 50,43 %. Sur matériel embarqué hétérogène, la barrière à cinq ellipsoïdes tourne sur CPU en 2,2 ms au 99e centile. L'élagage du préfixe vision-langage et la réduction des étapes de flow matching ramènent chaque appel à la politique π0.5 de 343 à 177,3 ms sur GPU intégré. Sur un bras physique SO-101, quatre tâches : le bras a touché le danger dans 3 épisodes protégés sur 16, contre 11 sur 16 sans bouclier. L'intérêt tient à ce que ce travail s'attaque à un angle mort de l'évaluation des VLA : les benchmarks mesurent la complétion de tâche, pas les dégâts collatéraux, et un taux de réussite élevé peut masquer un comportement inacceptable dans un atelier ou une cuisine réels. Le résultat montre aussi qu'une couche de sécurité peut s'ajouter à un modèle figé, ce qui évite de reprendre un entraînement coûteux, et qu'elle tient dans le budget de calcul d'un système embarqué. Les ablations indiquent que protéger uniquement l'effecteur final est insuffisant, et que le suivi du danger récupère l'essentiel de la protection perdue quand son estimation reste figée au reset. Pour un intégrateur, c'est un argument concret en faveur de filtres de sécurité modulaires plutôt que d'une sécurité « apprise » dans la politique. Il faut toutefois relativiser. Une collision résiduelle de 27 % en simulation reste élevée pour un déploiement industriel, et l'essai réel ne porte que sur 16 épisodes par condition, un échantillon trop mince pour une conclusion statistique ferme. Le danger y est modélisé par un seul ellipsoïde, ce qui limite la portée face à des obstacles multiples ou déformables. Ces résultats s'inscrivent dans la lignée des fonctions de barrière de contrôle (CBF) appliquées à la manipulation, désormais greffées sur des politiques génératives comme π0.5 de Physical Intelligence. Le SO-101, bras open source à bas coût issu de l'écosystème LeRobot de Hugging Face, rend l'approche reproductible par de petites équipes. La suite logique serait une validation sur des bras industriels et des obstacles multiples, sans calendrier annoncé.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
CSF : filtrage de sécurité contextuel pour les générateurs de mouvements
2arXiv cs.RO 

CSF : filtrage de sécurité contextuel pour les générateurs de mouvements

Des chercheurs proposent le Contextual Safety Filtering (CSF), un filtre de sécurité sans entraînement destiné aux générateurs de mouvement pilotés par texte, ceux qui produisent des mouvements corps entier exécutables par un robot. Le principe consiste à ancrer des règles de sécurité formulées en langage naturel dans des trajectoires de référence, l'une sûre et l'autre dangereuse, produites par le générateur lui-même. Pour chaque règle active, ces deux trajectoires définissent une valeur de sécurité affine, appliquée par un CBF-QP (programme quadratique à fonction barrière de contrôle) qui suit la référence sûre. Les auteurs testent le dispositif sur quatre générateurs préentraînés d'architectures différentes. Selon eux, CSF active la règle visée dans tous les cas dangereux, qu'ils soient explicites ou déclenchés par la scène, et réduit jusqu'à 90 % le taux d'événements dangereux. Il conserve entre 88 % et 100 % des mouvements bénins. Le système complet est démontré sur un Unitree G1 réel, qui évite des mouvements dangereux lors d'interactions avec des humains et des objets. Il s'agit d'un preprint arXiv (2610.12467v1), sans produit commercialisé ni déploiement industriel. Le problème visé est concret. Un générateur de mouvement conditionné par texte ignore le contexte : la même action, comme saisir ou pousser, n'a pas la même portée selon qu'elle cible un objet ou une personne. Les garde-fous actuels se limitent à filtrer le prompt, à exiger des données de mouvement annotées, ou à imposer des contraintes purement géométriques. Aucun ne tient compte de la façon dont la scène change le sens du geste. Pour un intégrateur ou un responsable sécurité qui envisage des humanoïdes à proximité d'opérateurs, l'intérêt est qu'il n'y a ni réentraînement ni jeu de données étiqueté à constituer, et que l'approche s'applique à plusieurs architectures. Les règles restent lisibles et modifiables en langage naturel, ce qui facilite l'audit. Le recours à un CBF-QP apporte une garantie formelle d'application de la contrainte, ce qui contraste avec les filtres purement statistiques. Il faut toutefois relativiser. Une réduction « jusqu'à 90 % » est un maximum, pas une moyenne. Les benchmarks sont académiques, et le taux restant d'événements dangereux comme le comportement hors distribution ne sont pas précisés. La perte pouvant atteindre 12 % de mouvements bénins se traduirait en production par des refus ou des blocages à gérer. Une démonstration sur un seul robot ne vaut pas validation sécuritaire, et rien n'indique une conformité aux normes ISO ou à l'évaluation de risques en environnement partagé. Ces travaux s'inscrivent dans la montée des générateurs de mouvement humanoïdes pilotés par texte, associés à des contrôleurs de suivi de corps entier, souvent testés sur le Unitree G1, devenu plateforme de recherche de référence grâce à son prix relativement bas. La sécurité y reste un angle mort, car les travaux dominants portent sur la qualité et la diversité du mouvement, pas sur sa pertinence en situation. La suite logique serait de tester CSF sur des tâches plus longues, avec perception en boucle fermée et une détection de scène plus robuste, puis sur d'autres plateformes. Les acteurs industriels qui poussent les modèles généralistes (VLA, modèles de fondation pour humanoïdes) devront traiter ce même problème de sécurité contextuelle avant de déployer au contact de personnes.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
MOSS : façonnage de la source par modes pour les politiques de robot à flow matching
3arXiv cs.RO 

MOSS : façonnage de la source par modes pour les politiques de robot à flow matching

Des chercheurs proposent MOSS (Mode-Oriented Source Shaping), une méthode publiée sur arXiv (2610.22193) qui permet de choisir quel comportement une politique robotique générative va exécuter, au lieu de le laisser au hasard de l'échantillonnage. Le point de départ est un constat courant en manipulation : une même observation admet souvent plusieurs actions valables (contourner un obstacle par la gauche ou par la droite, par exemple). Les politiques par diffusion ou par flow matching capturent bien cette multimodalité, mais le mode exécuté dépend du bruit initial tiré aléatoirement. MOSS construit des sources gaussiennes propres à chaque mode, qui encodent l'identité du comportement dans ce bruit de départ. Un estimateur de « force de modalité » prédit localement le degré de multimodalité : il rapproche les sources d'une gaussienne commune quand les comportements se ressemblent, et les écarte près des points de bifurcation. Au déploiement, il suffit d'échantillonner dans la composante voulue. Les auteurs annoncent, sur 6 tâches simulées et 3 tâches réelles, un guidage vers le mode cible allant jusqu'à 100 % avec un taux de succès élevé, plus de 90 % de récupération des modes minoritaires avec un jeu de données déséquilibré à 10:90, et un gain de 43,3 points de taux de guidage sur robots réels face à une politique de flow matching conditionnée par le mode. L'intérêt tient à la contrôlabilité. Pour un intégrateur, une politique multimodale qui choisit son comportement au hasard est difficile à valider, à certifier et à superviser : l'opérateur ne peut pas demander « prends la voie de gauche » sans réentraîner ni ajouter de conditionnement explicite. Piloter le mode par le seul choix de la source de bruit, sans modifier l'architecture ni multiplier les inférences, ouvre la voie à des politiques VLA et à des politiques de diffusion plus prévisibles, ou orientables par un planificateur de haut niveau. La récupération des modes rares sous déséquilibre de données répond aussi à un problème concret : les démonstrations collectées en téléopération sont souvent dominées par un style unique, et les comportements minoritaires, parfois les plus sûrs, disparaissent. Il faut toutefois rester prudent. Il s'agit d'un préprint de la phase d'annonce, sans relecture par les pairs. Les tâches, le matériel et les politiques de référence ne sont pas détaillés dans le résumé. Le taux de guidage mesure la fidélité au mode demandé, pas la performance industrielle, et rien n'indique de test en cadence de production. Ce travail s'inscrit dans la lignée du flow matching et des politiques de diffusion (Diffusion Policy, famille Pi-0 et successeurs), devenus la base de nombreux modèles de manipulation. Leur limite connue est que la multimodalité, présentée comme un atout, devient un défaut de contrôle une fois le système déployé. Les approches concurrentes passent en général par le conditionnement explicite (étiquettes de mode, langage, objectifs), que MOSS prend ici comme référence, ou par un filtrage a posteriori d'échantillons multiples, plus coûteux en calcul. Les auteurs soulignent aussi que les erreurs d'approximation, le déséquilibre des données, la capacité limitée du modèle et le faible nombre d'étapes d'inférence brouillent la séparation des modes dans l'espace source, ce qui explique les écarts hors conditions idéales. La suite logique serait un test sur de grands modèles généralistes et sur des tâches longues, où le choix du mode doit rester cohérent d'une étape à l'autre. Le code et les détails expérimentaux seront déterminants pour juger de la reproductibilité.

RecherchePaper
1 source
MPC filtré par sécurité : Koopman distribué pour la commande
4arXiv cs.RO 

MPC filtré par sécurité : Koopman distribué pour la commande

Une équipe de recherche propose une architecture de contrôle distribué pour flottes de robots d'entrepôt qui sépare la prédiction de trajectoire et la garantie de sécurité anticollision, deux fonctions habituellement fusionnées dans le contrôle prédictif distribué (DMPC) et donc vulnérables ensemble à la perte de paquets réseau. Dans ce schéma, les trajectoires reçues des robots voisins alimentent un modèle Koopman-MPC pour la prédiction, tandis qu'un programme quadratique (QP) à contraintes strictes, basé uniquement sur la détection locale et la géométrie des étagères, projette la commande finale appliquée au robot. Ce filtre calcule l'accélération constante minimale nécessaire pour garantir une marge de sécurité non négative pendant un intervalle de maintien d'ordre zéro, sans avoir à échanger de décisions de sécurité entre robots. Testée en simulation sur un entrepôt à huit robots avec un modèle Koopman figé, une dynamique non linéaire, des contraintes de vitesse et d'obstacles, une période de contrôle de 120 millisecondes et des pertes de paquets simulées, l'architecture complète évite toute collision sur 20 essais sur 20 et atteint les 160 objectifs assignés aux robots, contre une seule réussite sur 20 pour la version Koopman-MPC prédictive seule, sans le filtre final. L'ensemble des 38 400 tests de faisabilité en ligne passe avec succès, et chaque QP local trouve une solution. Ce résultat répond à une limite concrète des flottes d'AMR (robots mobiles autonomes) en entrepôt: la coordination distribuée classique s'effondre dès qu'un lien de communication se dégrade, puisque la sécurité dépend alors des mêmes données que la trajectoire. En démontrant qu'un filtre de sécurité local, indépendant du réseau, peut maintenir un taux de collision nul même en cas de perte de paquets, les auteurs offrent une piste directement exploitable par les intégrateurs de flottes logistiques, où la fiabilité prime sur la performance brute. Les tests de montée en charge jusqu'à 16 robots restent sans collision et faisables, la limite apparaissant seulement à 20 robots, ce qui trace une frontière opérationnelle claire pour un déploiement à l'échelle. Ce travail s'inscrit dans la lignée des recherches sur le contrôle prédictif basé sur l'opérateur de Koopman, une technique qui linéarise des dynamiques non linéaires pour accélérer le calcul en temps réel, appliquée ici à la navigation multi-robots en environnement contraint par des étagères. L'article, publié en prépublication sur arXiv (identifiant 2609.27463), reste à ce stade une validation en simulation; les auteurs mentionnent des tests complémentaires en détection bornée et en robots à entraînement différentiel comme premières étapes vers une robustesse accrue avant un éventuel déploiement réel.

UEAucun acteur français ou européen n'est implique, mais cette approche de sécurité réseau-indépendante intéressé directement les intégrateurs européens de flottes AMR en entrepôt.

RecherchePaper
1 source