Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
RecherchearXiv cs.RO 

Auto-adaptation adversariale au niveau du programme par auto-jeu pour la sécurité robotique

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs proposent, dans un preprint arXiv (2610.36143v1), un cadre d'auto-jeu adversarial co-adaptatif au niveau du programme pour la sécurité robotique. Des agents de code génèrent à la fois des attaques et des défenses à partir du code d'adversaires déjà testé et des retours de mission, sans aucun affinage (fine-tuning) de modèle. Le cadre expose des interfaces propres à chaque environnement: des programmes externes pour la conduite autonome, et des défenses au niveau du SDK pour la locomotion d'un humanoïde. Deux études de cas de huit générations chacune ont été menées. Dans la première, le défenseur du véhicule introduit une logique de récupération par actuation directe. Dans la seconde, le défenseur de l'humanoïde révise la validation des états entrants. Le résumé ne donne ni modèle de robot, ni simulateur, ni taux de réussite, ni nombre d'essais.

L'intérêt tient à la méthode. Jusqu'ici, la plupart des travaux sur la robustesse adversariale des robots opèrent sur les poids d'une politique apprise, par exemple une perturbation des capteurs ou un réentraînement. Ici, l'adaptation passe par du code exécutable, que des ingénieurs peuvent lire, versionner, auditer et rejouer. Cette traçabilité compte pour les intégrateurs et les responsables sécurité, car les agents de code commencent à modifier du logiciel robotique en production. Les auteurs sont surtout honnêtes sur les limites: les réponses du défenseur assurent une récupération locale de la tâche, mais ne démontrent pas de robustesse durable. Une parade efficace contre un attaquant donné peut cesser de l'être quand l'attaquant évolue. Ce résultat tempère l'idée qu'un agent de code suffirait à durcir un robot en boucle fermée. Il reste toutefois préliminaire: deux cas, huit générations, sans validation sur matériel réel d'après le résumé.

Ce travail s'inscrit dans la montée en puissance des agents de code appliqués à la robotique, et dans l'essor des approches d'auto-jeu, déjà connues en jeux et en cybersécurité offensive. Le choix de l'humanoïde, avec une validation des états au niveau du SDK, reflète la dépendance croissante des plateformes bipèdes commerciales à des couches logicielles propriétaires, donc à une surface d'attaque logicielle. Les suites logiques seraient des évaluations sur davantage de générations, contre des attaquants plus variés, avec des métriques de robustesse comparables et, à terme, des essais sur robots physiques. Aucun partenaire industriel ni calendrier de déploiement n'est mentionné.

Dans nos dossiers

arXiv cs.RO

À lire aussi

Génie logiciel pour la robotique auto-adaptative : un programme de recherche
1arXiv cs.RO 

Génie logiciel pour la robotique auto-adaptative : un programme de recherche

Une équipe de chercheurs a soumis sur arXiv (réf. 2505.19629, troisième version) un agenda de recherche structuré pour le génie logiciel appliqué aux systèmes robotiques auto-adaptatifs. Contrairement aux robots industriels classiques dont le comportement est entièrement prédéfini au moment du déploiement, les systèmes auto-adaptatifs sont conçus pour modifier leur propre logique en cours d'exécution, en réponse à des environnements dynamiques et incertains. L'article organise cet agenda autour de deux axes : d'une part, le cycle de vie logiciel complet (spécification des exigences, conception, développement, test, opérations), adapté aux contraintes de l'auto-adaptation ; d'autre part, les technologies habilitantes telles que les jumeaux numériques (digital twins) et les mécanismes d'adaptation pilotés par l'IA, qui assurent la surveillance en temps réel, la détection de pannes et la prise de décision automatisée. L'enjeu central identifié par les auteurs est la vérifiabilité des comportements adaptatifs sous incertitude, un problème ouvert qui conditionne directement l'adoption industrielle. Les robots capables d'apprendre et de se reconfigurer en production posent en effet des questions radicalement différentes de celles que traitent les standards de sécurité fonctionnelle classiques comme l'IEC 61508 ou l'ISO 26262. L'article cible notamment la difficulté à équilibrer trois contraintes contradictoires : adaptabilité, performance et sécurité. Il propose d'intégrer des frameworks formels comme MAPE-K (Monitor, Analyze, Plan, Execute, Knowledge), boucle de contrôle réflexif issue de l'autonomic computing d'IBM, et sa variante étendue MAPLE-K, comme socles architecturaux unifiants pour l'ingénierie de ces systèmes. Ce travail s'inscrit dans une dynamique académique qui s'accélère depuis l'émergence des VLA (Vision-Language-Action models) et des approches sim-to-real à grande échelle. Des communautés concurrentes, notamment autour de ROS 2 Lifecycle, des architectures behavior trees, et du model-driven engineering for robotics (MDE4R), explorent des directions parallèles. Les auteurs formalisent une feuille de route vers 2030, visant des systèmes robotiques dits trustworthy, capables d'opérer sans supervision humaine continue dans des environnements industriels réels. Il convient de situer ce papier pour ce qu'il est : un agenda de recherche, pas un produit livré ni un déploiement annoncé. Il cartographie les problèmes à résoudre, pas les solutions disponibles.

UELes questions de vérifiabilité des comportements adaptatifs sous incertitude sont indirectement pertinentes pour les industries européennes soumises aux normes IEC 61508 et à l'AI Act, mais aucun acteur français ou européen n'est impliqué dans ce travail.

RecherchePaper
1 source
TEAR : routage d'autorité par preuves de tâche pour la manipulation robotique
2arXiv cs.RO 

TEAR : routage d'autorité par preuves de tâche pour la manipulation robotique

Des chercheurs proposent TEAR (Task-Evidence Authority Routing), un cadre logiciel déployable en périphérie (edge) qui décide, directement sur le robot, de la source de contrôle à qui confier la manipulation: téléopération humaine ou autonomie locale. L'arbitrage repose sur deux types d'indices. Les premiers portent sur l'état du réseau, qui conditionne la fiabilité de la téléopération. Les seconds portent sur la sémantique de la tâche, c'est-à-dire la cohérence de l'exécution autonome avec ce qui est demandé. Un arbitre temporel léger reçoit ces deux flux, l'état du robot et l'autorité en cours, puis déclenche les transferts de contrôle. Testé en simulation et en conditions réelles avec un réseau dynamique, TEAR atteint des taux de réussite proches de la téléopération pure, tout en limitant l'intervention humaine à 19,8-27,4 % des pas de contrôle. Il améliore le taux de succès de 30 à 40 % par rapport à l'autonomie seule, dans les configurations testées. L'étude, publiée sur arXiv (v1), ne précise pas dans son résumé les plateformes robotiques ni les tâches utilisées. L'intérêt tient à une question que les déploiements terrain rencontrent déjà: le choix n'est pas binaire entre « tout autonome » et « tout téléopéré ». La téléopération gère bien les contacts complexes et les situations ambiguës, mais elle dépend d'une liaison stable. L'autonomie locale fonctionne sans lien continu, mais décroche face à l'ambiguïté sémantique, à la dérive sur les longs horizons ou aux imprévus. Traiter cette complémentarité comme un problème de routage d'autorité, exécuté côté robot, évite de dépendre d'un opérateur qui surveille en permanence. Pour un intégrateur ou un exploitant, le chiffre clé est le ratio: environ un quart des pas seulement sous contrôle humain peut rendre un opérateur capable de superviser plusieurs machines, à condition que ces résultats tiennent hors laboratoire. Une réserve s'impose: les gains de 30 à 40 % sont mesurés face à une autonomie seule dont la force n'est pas détaillée, et les conditions d'essai restent « dans nos réglages ». Ce travail s'inscrit dans la montée des politiques de type VLA (vision-langage-action) et des modèles généralistes, dont la fiabilité reste insuffisante pour une autonomie totale, ce qui pousse les acteurs vers des schémas hybrides où l'humain intervient en exception, plutôt que vers un remplacement complet. Plusieurs entreprises de robotique humanoïde et de logistique pratiquent déjà une téléopération d'appoint, souvent de façon manuelle et peu documentée. TEAR cherche à formaliser et automatiser ce basculement. Les suites à surveiller sont une validation sur des politiques VLA récentes, des mesures de latence de transfert et de sécurité lors des changements d'autorité, ainsi qu'une évaluation sur des sites réels avec des réseaux dégradés. Aucun pilote industriel ni calendrier de déploiement n'est annoncé à ce stade.

RecherchePaper
1 source
Apprentissage automatique de programme d'entraînement au niveau des trajectoires pour la locomotion de robots à pattes sur terrain non structuré
3arXiv cs.RO 

Apprentissage automatique de programme d'entraînement au niveau des trajectoires pour la locomotion de robots à pattes sur terrain non structuré

Des chercheurs ont mis en ligne le 18 août 2026 un article sur arXiv (référence 2608.16164, soumission croisée) présentant une méthode d'apprentissage par curriculum automatique au niveau des trajectoires pour entraîner des politiques de locomotion de robots à pattes sur terrain non structuré. Contrairement aux approches existantes, qui imposent des curriculums heuristiques sur des terrains paramétrés artificiellement (pentes, marches ou obstacles générés selon des règles fixes), la méthode génère directement les tâches d'entraînement à partir de cartes de terrain réel non structuré. Le système fonctionne en boucle fermée avec deux composants: un évaluateur qui apprend, à chaque mise à jour du curriculum, une fonction de difficulté associant à une trajectoire donnée un score adapté au niveau actuel de la politique, et un échantillonneur qui propose de nouvelles trajectoires guidées par cet évaluateur pour l'entraînement suivant. Les auteurs rapportent un gain de 56,3% du taux de réussite des trajectoires par rapport à un entraînement sans curriculum, de 18,5% par rapport à un curriculum conçu manuellement sur les terrains les plus difficiles, et jusqu'à 39,74% lorsque le robot doit franchir un même obstacle depuis des directions d'approche variées. Le problème visé, la conception du curriculum d'entraînement, reste un goulot d'étranglement concret pour les équipes qui développent des robots à pattes destinés à des environnements réels non standardisés: chantiers, sites logistiques extérieurs, interventions post-catastrophe. Les curriculums heuristiques actuels risquent de faire surapprendre les politiques sur des motifs perceptifs quasi fixes, ce qui limite leur généralisation une fois confrontées à un terrain véritablement irrégulier. En automatisant la génération de trajectoires au bon niveau de difficulté et en la faisant évoluer avec la politique, cette approche réduit potentiellement le travail d'ingénierie manuelle et améliore la robustesse hors distribution, un enjeu central pour tout intégrateur cherchant à passer de la démonstration en simulation à un déploiement fiable. L'article s'inscrit dans la lignée des travaux sur l'apprentissage par curriculum en apprentissage par renforcement, technique connue pour éviter les échecs d'exploration précoce lors de l'entraînement de politiques complexes. Aucun nom d'entreprise, de laboratoire ni de plateforme robotique spécifique n'apparaît dans le résumé, et les résultats communiqués semblent reposer sur des expériences quantitatives et qualitatives sans précision explicite d'un déploiement sur matériel réel, ce qui invite à la prudence avant d'extrapoler ces gains à des conditions de terrain hors simulation.

RecherchePaper
1 source
RobotAPO : optimisation adversariale des préférences physiques pour la génération de vidéos de manipulation robotique
4arXiv cs.RO 

RobotAPO : optimisation adversariale des préférences physiques pour la génération de vidéos de manipulation robotique

Des chercheurs proposent RobotAPO, un cadre d'optimisation par préférences physiques adversariales destiné aux modèles de génération vidéo de manipulation robotique, accompagné d'un jeu de données baptisé AgiBot-PhysPref (preprint arXiv 2610.09454, première version). Ce jeu compte 10 000 échantillons de préférences soigneusement sélectionnés. Il isole des violations physiques à conditions égales, comme l'interpénétration d'objets ou le mouvement prématuré d'un objet à la frontière d'interaction. RobotAPO opère directement dans l'espace de débruitage continu du flow-matching. Un « proposeur contrefactuel » adversarial léger apprend, pour chaque condition, une direction de l'espace de débruitage biaisée vers l'échec physique. Le modèle est ainsi poussé à explorer cette frontière et à la respecter, au lieu de mémoriser des échecs statiques. À l'inférence, l'interface reste un simple couple prompt et image de référence, sans conditionnement structurel externe. Sur des conditions AgiBot mises de côté pour le test, RobotAPO dépasse la meilleure base de comparaison interne contrôlée de 6,8 % en score de cohérence physique « dur » et de 10,0 % en score « souple ». En rejeu sur robot réel, le taux de réussite des tâches progresse de 37,4 % en relatif face à cette même référence. Ces résultats visent un point faible des vidéos utilisées comme plans visuels pour des agents incarnés. Une vidéo qui paraît plausible peut contenir une erreur de contact de quelques images, et cette erreur fausse le timing et la pose que l'on déduit ensuite pour l'exécution. Le fine-tuning supervisé classique n'exerce aucune pression directe sur ces défauts localisés. Les auteurs montrent qu'une correction ciblée de la physique d'interaction se traduit en gain mesurable sur matériel, ce qui est l'argument le plus utile pour les équipes qui misent sur des modèles du monde génératifs comme couche de planification. Il faut toutefois lire les chiffres avec prudence. La référence est interne, et le gain de 37,4 % est relatif : sans le taux de réussite absolu, le nombre d'essais et la diversité des tâches, on ne peut pas juger de sa portée pratique. Le « rejeu » sur robot réel d'une vidéo générée ne dit rien non plus de la robustesse hors distribution. Ce n'est pas un produit, mais un résultat de recherche. Le travail s'inscrit dans la montée des approches « vidéo comme politique » ou « vidéo comme plan », où un générateur produit la trajectoire visuelle et un module d'inversion la convertit en actions. L'alignement par préférences, déjà courant pour les LLM et la génération d'images, est ici transposé à la physique du contact. Le choix d'AgiBot comme base de données montre que les grands corpus de manipulation issus des acteurs chinois servent désormais de terrain d'évaluation central. Ces travaux concurrencent des pistes voisines, comme les modèles de monde conditionnés par la structure, ou les politiques VLA directes de type Pi-0 et GR00T, qui évitent l'étape vidéo. Les auteurs ne mentionnent ni code ni modèle publiés dans ce résumé. La suite logique serait une validation sur d'autres plateformes et sur des tâches plus longues, avec des taux de réussite absolus publiés.

RecherchePaper
1 source