RecherchearXiv cs.RO 9 octobre 2026

FAITH : apprentissage par renforcement filtré pour la sécurité, tenant compte de la faisabilité, pour les systèmes de grande dimension

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Des chercheurs présentent FAITH (Feasibility-Aware Safety-Filtered RL), un cadre d'apprentissage par renforcement sans modèle qui sépare la sécurité de la performance de la tâche, publié sur arXiv (2610.12432v1). Le système approxime la valeur de sécurité optimale état-action, puis « amortit » dans un réseau feedforward un filtre à intervention minimale, c'est-à-dire un filtre qui modifie le moins possible l'action proposée par la politique. La politique de tâche optimise son retour à travers la dynamique filtrée, sans terme de sécurité concurrent dans sa mise à jour. Si aucune action ne satisfait la condition de sécurité apprise, le filtre choisit l'action au pic de dommage prédit le plus faible. Les tests portent sur un double intégrateur, un environnement Safety Gym et un humanoïde à 29 DOF en simulation. Sur la tâche Walking-Avoid, l'humanoïde atteint 99,95 % de taux de sécurité et conserve 97 % du retour de la politique non filtrée. Sur Push-Avoid, il obtient le taux de sécurité mesuré le plus élevé en apprenant à sacrifier son équilibre et à tomber en s'éloignant de la zone protégée. Les mêmes politiques sont démontrées sur un Unitree G1 réel.

Le point notable est la séparation structurelle des objectifs. En RL sécurisé classique, la sécurité et la performance partagent un même objectif de politique, ce qui produit des mises à jour contradictoires et des compromis difficiles à régler. Les filtres de sécurité traditionnels, eux, exigent une fonction de sécurité analytique et un modèle de dynamique, ce qui est peu réaliste pour un humanoïde à haute dimension. Ils sont aussi myopes, car ils ne minimisent que l'écart instantané à l'action demandée, sans tenir compte du retour à long terme. Les projections dures deviennent en outre indéfinies quand aucune action sûre n'existe. FAITH traite ces trois limites. Le comportement « tomber pour éviter » est parlant : un filtre qui raisonne sur la faisabilité peut préférer une chute contrôlée à une collision. Pour un intégrateur, cela illustre la différence entre une sécurité de façade et un arbitrage explicite des situations sans issue. Les réserves sont claires : les résultats viennent d'un preprint sans relecture par les pairs, le taux de sécurité dépend de la définition de la zone protégée, et la démonstration sur G1 est qualitative, sans statistiques publiées dans le résumé.

Ce travail s'inscrit dans la lignée des méthodes de sécurité par fonctions de valeur, issues de l'analyse d'accessibilité de Hamilton-Jacobi et des fonctions barrières de contrôle. Celles-ci passent mal à l'échelle des humanoïdes, d'où l'intérêt des approximations apprises. Le Unitree G1, plateforme de recherche abordable, est devenu le banc d'essai courant de ces approches, ce qui facilite leur comparaison et leur reproduction. La suite logique est une validation sur des tâches de manipulation et de locomotion plus variées, avec des humains réellement présents dans l'espace de travail, et une évaluation de la robustesse face à l'écart simulation-réel. Tant que ces éléments manquent, FAITH reste une preuve de concept prometteuse plutôt qu'une brique prête pour la certification en environnement industriel.

Dans nos dossiers

Unitree arXiv cs.RO

À lire aussi

1arXiv cs.RO

Stabilité de la récompense par transition d'étapes pour l'apprentissage par renforcement

Une équipe de recherche présente STDR (Stage-Transition Dense Reward), un framework qui transforme des vidéos de démonstration non structurées en récompenses denses pour entraîner des agents d'apprentissage par renforcement (RL) sur des tâches de manipulation robotique à long horizon, sans design manuel de fonction de récompense. Le système infère automatiquement la structure en étapes d'une tâche à partir des démonstrations, puis fournit deux signaux complémentaires pendant l'entraînement en ligne : une récompense orientée objectif à chaque transition d'étape, et un signal de progression fine à l'intérieur de chaque étape. Un mécanisme de détection hors distribution (OOD) et un module de régulation de la préhension ont été ajoutés pour éviter le "reward hacking", ce biais classique où l'agent exploite des failles de la fonction de récompense plutôt que d'accomplir réellement la tâche. Les tests couvrent 14 tâches de manipulation réparties sur trois bancs d'essai standards du domaine, MetaWorld, ManiSkill et Franka Kitchen, avec des validations complémentaires sur robot réel. L'enjeu dépasse la seule performance académique. Concevoir des récompenses denses à la main reste l'un des goulots d'étranglement majeurs du RL appliqué à la robotique industrielle : chaque nouvelle tâche, chaque nouvelle configuration d'objets impose de retravailler manuellement le signal d'apprentissage, ce qui freine le déploiement à grande échelle chez les intégrateurs. En montrant que STDR égale voire dépasse les récompenses handcrafted sur plusieurs tâches complexes, tout en gagnant en efficacité d'échantillonnage, l'étude appuie l'hypothèse selon laquelle l'apprentissage par vidéos de démonstration peut remplacer l'ingénierie de récompense ad hoc, un argument déterminant pour accélérer l'entraînement de bras robotiques ou de mains manipulatrices en environnement réel plutôt qu'en simulation pure. Ce travail s'inscrit dans la lignée des recherches sur l'apprentissage de récompenses par vision (reward learning from video), un axe actif face aux limites du reward shaping manuel et aux coûts d'annotation. Les résultats sur robot réel, où STDR assigne des récompenses stables et bien calibrées sur les exécutions réussies tout en pénalisant correctement les échecs, suggèrent une robustesse au bruit visuel qui manquait souvent aux approches précédentes. Les prochaines étapes attendues porteront sur l'extension à des tâches encore plus longues et sur l'intégration avec des politiques de type VLA (vision-language-action) pour la généralisation multi-tâches.

RecherchePaper

1 source

2arXiv cs.RO

ResSafe : filtrage de sécurité par apprentissage par renforcement résiduel pour humanoïdes

ResSafe, une architecture de contrôle en deux politiques pour les robots humanoïdes, a été publiée le 15 septembre 2026 sur arXiv sous la référence 2609.15988. La méthode sépare performance et sécurité : une politique nominale est entraînée uniquement pour accomplir la tâche, tandis qu'une politique résiduelle apprend en parallèle des corrections de sécurité qui ajustent ses actions. Cette seconde politique agit comme un filtre de sécurité implicite, censé limiter chutes et instabilités liées à la dynamique à haute dimensionnalité et aux interactions riches en contacts propres aux humanoïdes. L'abstract ne cite aucune plateforme robotique ni aucun chiffre de performance (taux de chute, distance parcourue, degrés de liberté), signe d'une recherche encore amont, sans validation matérielle détaillée. Pour l'industrie, ce découplage répond à un problème connu : faire arbitrer par une seule politique performance, robustesse et sécurité oblige à régler manuellement plusieurs termes de récompense concurrents, un exercice fragile qui complique le passage du simulateur au robot réel. En sortant la sécurité de cette équation unique, ResSafe propose une approche modulaire qui, si elle se confirme sur du matériel, pourrait faciliter l'ajout de correctifs de sécurité sans réentraîner toute la politique de locomotion. L'enjeu parle directement aux intégrateurs et décideurs du secteur, confrontés à un écart persistant entre démonstrations en simulation et fiabilité en conditions réelles. Le travail s'inscrit dans une recherche académique plus large sur le contrôle par apprentissage des humanoïdes, où le RL pour la locomotion et le suivi de mouvement s'est largement généralisé ces dernières années. Il se distingue des méthodes de filtrage de sécurité explicite, fondées sur des barrières de contrôle ou des modèles analytiques de la dynamique, souvent coûteuses ou difficiles à généraliser à un système aussi complexe. L'article ne mentionne ni code source, ni partenaire industriel, ni calendrier d'essais sur robot physique : ResSafe reste, à ce stade, une contribution de recherche dont l'apport devra être confirmé au-delà de la simulation.

RecherchePaper

1 source

3arXiv cs.RO

ShieldVLA : un alignement de sécurité tenant compte de la faisabilité pour les modèles vision-langage-action

Déposée sur arXiv en septembre 2026 (référence 2609.13231), l'étude présente ShieldVLA, un framework de fine-tuning pour la sécurité des modèles Vision-Language-Action (VLA) en manipulation robotique et en navigation. Face aux pénalités lagrangiennes des méthodes existantes, qui laissent des violations résiduelles ou imposent une prudence excessive, ShieldVLA apprend depuis les seules observations visuelles une approximation model-free de la fonction de valeur de réchabilité Hamilton-Jacobi, séparant maximisation de récompense en zone sûre et récupération près des états dangereux. La supervision s'appuie sur des scores de sécurité générés par un modèle vision-langage plutôt que sur un étiquetage manuel. Sur cinq bancs d'essai de navigation et manipulation, avec plusieurs architectures VLA, ShieldVLA réduit le coût de sécurité cumulé de 57% en moyenne et améliore le taux de réussite de 0,13 point par rapport à SafeVLA. Le résultat cible un angle mort des VLA : leur forte généralisation en manipulation et en navigation ne garantit aucune sécurité robuste une fois affinés sur une tâche, un enjeu critique dès qu'un robot opère près d'humains ou de matériel fragile. Les méthodes lagrangiennes actuelles imposent un compromis entre violations et prudence excessive peu compatible avec un déploiement industriel. En réduisant les violations tout en améliorant le taux de succès grâce à une supervision automatisée par modèle vision-langage plutôt qu'un étiquetage humain, l'étude suggère qu'un pipeline de sécurité scalable est possible sans sacrifier les performances, un point que pèseront intégrateurs et décideurs évaluant la maturité réelle des VLA en production, au-delà des démonstrations. L'approche s'inscrit dans la lignée des recherches sur l'alignement de sécurité post-entraînement des modèles robotiques de fondation, où SafeVLA sert de référence par optimisation lagrangienne que ShieldVLA reprend comme point de comparaison direct. L'article, déposé sur arXiv, ne précise ni les architectures VLA testées ni leur origine industrielle, et reste une contribution de recherche évaluée sur bancs d'essai simulés, sans essai sur robot physique, partenaire industriel ni calendrier annoncés. La suite logique, non détaillée par les auteurs, consisterait à valider l'approche par réchabilité sur du matériel réel et à l'étendre aux architectures VLA propriétaires des acteurs commerciaux du secteur, où les garanties de sécurité demeurent un frein identifié à l'adoption à grande échelle.

RecherchePaper

1 source

4arXiv cs.RO

Adaptation des compétences avec prise en compte de la sécurité pour l'apprentissage par renforcement en environnements dynamiques

Une équipe de chercheurs présente Dist-GPRL, un framework d'apprentissage par renforcement guidé par la sécurité pour l'adaptation de compétences robotiques, dans une prépublication arXiv (2609.11433v1). Construit sur une paramétrisation de trajectoires par processus gaussiens (GP), le système adapte séquentiellement des fenêtres locales de points de passage plutôt que la trajectoire complète à chaque étape, la covariance du GP assurant des mises à jour cohérentes dans le temps et réduisant les difficultés d'attribution de crédit propres à l'adaptation globale. La sécurité combine un a priori de sous-espace faisable dérivé du planificateur Hausdorff Approximation Planner (HAP) et des récompenses fondées sur un champ de distance aux obstacles mis à jour dynamiquement, complétées par un régularisateur qui préserve les profils de vitesse et d'accélération démontrés. Testé sur deux tâches de manipulation d'objets dynamiques, d'abord en simulation puis transféré à l'exécution réelle sur robot, Dist-GPRL affiche un taux de réussite plus élevé, moins de collisions et un apprentissage plus stable que les méthodes de référence. L'enjeu dépasse la démonstration académique. La plupart des cadres RL d'adaptation de compétences imposent des observations fixes ou des schedules d'exploration rigides pour rester stables, ce qui les rend inadaptés dès qu'un environnement encombré ou des objets mobiles entrent en jeu, un scénario courant en manipulation industrielle. En intégrant la sécurité directement dans la boucle d'exploration plutôt qu'en garde-fou externe, ce travail s'attaque à un point de friction réel pour les intégrateurs qui veulent déployer des politiques apprises près d'obstacles ou d'opérateurs. Le transfert simulation vers réel réussi, même circonscrit à deux tâches, reste un indice utile mais ne vaut pas preuve de robustesse à grande échelle. La méthode s'inscrit dans la lignée des approches de paramétrisation de compétences par processus gaussiens, réputées compactes mais fragiles face aux changements d'environnement, défaut que Dist-GPRL cherche à corriger en s'appuyant sur le planificateur HAP pour la garantie géométrique de sécurité. Elle se distingue ainsi des architectures VLA de bout en bout type Pi-0 ou GR00T N2, en combinant planification classique et apprentissage par renforcement plutôt qu'un modèle unique bout à bout. La publication ne mentionne ni partenaire industriel, ni robot commercial, ni calendrier de déploiement: il s'agit à ce stade d'une contribution de recherche validée en simulation et sur un banc réel limité, sans pilote industriel annoncé.

RecherchePaper

1 source