
EAST : test de sécurité de l'IA incarnée par injection systématique de fautes dans des jumeaux numériques
Des chercheurs proposent EAST (Embodied AI Safety Testing), un cadre de test fondé sur des jumeaux numériques, présenté dans un preprint arXiv (2610.34358). Il vise à transformer des risques de sécurité documentés dans la littérature en tests d'injection de fautes exécutables et vérifiables. Il s'appuie sur une taxonomie de fautes relue par des experts et sur huit opérateurs exécutables, assortis de contraintes d'applicabilité et de validité. Ces opérateurs couvrent cinq familles de perturbations: perception, instructions, environnements, actions et temporalité. Le processus comporte trois étapes: génération des spécifications de test, vérification que la faute est bien réalisée pendant l'exécution simulée, puis évaluation indépendante des défis de sécurité, des violations, des résultats de tâche et des signatures comportementales, à partir de l'état du simulateur. Les traces d'exécution et les enregistrements rejouables sont conservés. L'évaluation porte sur six tâches de manipulation RoboTwin et deux architectures de politiques, ACT et RDT, face à d'autres stratégies de test à budget équivalent. Sur cinq campagnes comparatives, EAST cible les 74 combinaisons tâche-politique-opérateur admissibles et obtient des preuves valides pour 63 d'entre elles. Son taux d'exposition aux défis de sécurité reste proche de celui des approches Random-Legal et Rule-Based. Surtout, 82 exécutions valides d'EAST terminent leur tâche malgré des violations de sécurité. Ce dernier chiffre est le résultat le plus parlant pour le secteur. Un robot peut atteindre son objectif tout en enfreignant une exigence de sécurité, et les évaluations centrées sur le taux de succès masquent donc ces risques. Pour les intégrateurs et les responsables de déploiement, cela pose une limite aux benchmarks de performance et de robustesse: un score de réussite élevé ne dit rien de la manière dont la tâche a été accomplie. La démarche apporte aussi de la traçabilité, avec des traces rejouables permettant d'attribuer une violation à une faute précise et de reproduire l'expérience, ce qu'exigeraient une certification ou un audit. Il faut toutefois relativiser. EAST n'améliore pas nettement l'exposition aux défis par rapport à des méthodes aléatoires ou à base de règles. Son apport est surtout la validité et la couverture des preuves, avec 63 cas valides sur 74, soit environ 85 %, et non une capacité supérieure à déclencher des défaillances. Les résultats restent aussi limités à la simulation et à deux politiques d'imitation. Ce travail s'inscrit dans un contexte où les politiques de manipulation (ACT, RDT) et les modèles vision-langage-action sont évalués surtout sur le succès de tâche, alors que les humanoïdes et manipulateurs entrent en usage industriel et que la sécurité fonctionnelle devient un sujet de conformité. Aucun produit, pilote ou calendrier n'est annoncé: il s'agit d'une contribution de recherche. Les suites logiques seraient l'extension à d'autres politiques, notamment les grands modèles VLA, et la validation du transfert vers du matériel réel, qui reste le vrai test du sim-to-real en matière de sécurité.

















































