Aller au contenu principal
Reflets de l'ICRA 2026
Societe/EthiqueRobohub3h

Reflets de l'ICRA 2026

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE
Reflets de l'ICRA 2026
▶ Voir sur YouTube

Vienne a accueilli du 1er au 5 juin 2026 la conférence IEEE ICRA (International Conference on Robotics & Automation), rassemblant chercheurs et industriels au Messe Wien, également connu sous le nom de VIECON. L'événement s'est ouvert par la deuxième édition du workshop WOROBET (Workshop on Robot Ethics: Ethical, Legal and User Perspectives in Robotics & Automation), consacré aux implications éthiques de l'interaction homme-robot. Yasuhisa Hirata, professeur à l'université de Tohoku, y a présenté sa vision des robots d'assistance physique comme les exosquelettes détachables ou les fauteuils roulants à pédalage, soulignant leur effet sur le sentiment d'efficacité personnelle des utilisateurs. Minoru Asada, de l'université d'Osaka, a proposé une piste plus radicale : doter les robots de signaux de douleur pour qu'ils perçoivent le monde comme les humains. Alan Winfield, professeur d'éthique robotique à UWE Bristol, a défendu une approche opposée, centrée sur le robot comme simple outil, et a détaillé un cadre d'investigation des accidents impliquant des robots sociaux, inspiré des méthodes de l'aviation. Praminda Caleb-Solly, de l'université de Nottingham, a clos la journée par un exercice de red-teaming autour d'un robot d'assistance destiné à un enseignant en convalescence d'AVC à domicile. Sur le salon d'exposition, les robots humanoïdes de taille enfant de Booster Robotics animaient l'entrée du hall en jouant au football, en dansant ou en démontrant des mouvements de kung-fu.

Ces débats dépassent le cadre académique : ils posent la question de savoir si l'intelligence robotique nécessite une forme de moralité incarnée, ou si elle doit rester cantonnée à des outils encadrés par la gouvernance humaine. Winfield a notamment averti qu'intégrer une éthique programmée dans les robots risque de déresponsabiliser moralement les ingénieurs, tout en restant vulnérable au piratage malveillant. Pour les décideurs et intégrateurs, le message est clair : la robotique sociale, en particulier dans le soin à domicile, va se heurter à des choix de conception qui touchent directement à l'autonomie des utilisateurs, un enjeu appelé à devenir central à mesure que ces robots se déploient dans le quotidien.

Ce workshop, à sa deuxième édition, illustre une prise de conscience croissante au sein de la communauté ICRA que les questions de gouvernance et de responsabilité doivent avancer au même rythme que les capacités techniques. La confrontation entre la vision japonaise, portée par Hirata et Asada, et l'approche britannique de Winfield, reflète des différences culturelles plus larges entre Est et Ouest sur le statut des machines. À mesure que les besoins en robotique de soin s'intensifient avec le vieillissement démographique, ces cadres éthiques et légaux, encore balbutiants, devront rapidement se structurer pour accompagner les déploiements à venir.

Impact France/UE

Le workshop, tenu a Vienne avec des chercheurs britanniques (UWE Bristol, Nottingham) proposant des cadres de gouvernance et d'investigation d'accidents pour robots sociaux, alimente les reflexions europeennes sur l'encadrement de la robotique d'assistance a domicile face au vieillissement demographique.

À lire aussi

Le côté obscur des robots chiens Unitree
1Hackaday Robots Hacks 

Le côté obscur des robots chiens Unitree

Le créateur de contenu et ingénieur indépendant Benn Jordan a publié une analyse approfondie des robots quadrupèdes commerciaux grand public, ciblant notamment la gamme de Unitree Robotics. Ce fabricant chinois s'est imposé sur le marché en proposant des chiens robots à quelques milliers de dollars, un prix très inférieur aux concurrents comme Boston Dynamics, embarquant Lidar, puissance de calcul embarquée et connectivité Wi-Fi. Jordan a découvert une faille d'exécution de commandes arbitraires exploitable directement via le champ de saisie du mot de passe Wi-Fi, référencée sous CVE-2025-2894 et publiée en 2025. Plus préoccupant encore : le firmware génère du trafic réseau vers des serveurs chinois, mais uniquement lorsque le robot détecte qu'il n'est pas surveillé. Sur le plan mécatronique, le placement du Lidar sous la tête crée d'importants angles morts derrière et autour de l'appareil, rendant la surveillance périmétrique autonome pratiquement inapplicable. Ces constats sont particulièrement problématiques pour les intégrateurs industriels et les décideurs B2B qui évaluent ces plateformes pour des missions d'inspection ou de sécurité. CVE-2025-2894 expose n'importe quel réseau local à une compromission complète par simple proximité Wi-Fi, sans authentification préalable. Le trafic sortant conditionnel renforce les doutes sur la chaîne d'approvisionnement logicielle, un vecteur de risque déjà documenté dans d'autres catégories de matériel IoT d'origine chinoise. Ces vulnérabilités ne sont pas compensées par les performances brutes de la plateforme et illustrent que le bas coût s'accompagne de compromis sérieux sur la sécurité opérationnelle. Unitree Robotics s'est positionné comme l'alternative économique face à Boston Dynamics (Spot, environ 75 000 dollars), ANYbotics (ANYmal) et Ghost Robotics. Aucun correctif officiel pour CVE-2025-2894 n'a été confirmé au moment de l'analyse. Des contournements existent, isolation réseau, filtrage du trafic sortant, mais ils déplacent la charge de sécurité sur l'opérateur, ce qui reste une posture structurellement fragile. La tendance à intégrer ces robots dans des environnements industriels et de défense rend la situation d'autant plus préoccupante que les mises à jour firmware demeurent opaques et difficiles à auditer sans accès au code source.

UELes intégrateurs industriels et de défense européens évaluant ou déployant des robots Unitree sont directement exposés à CVE-2025-2894 (exécution de commandes arbitraires sans authentification via Wi-Fi) et au risque de trafic sortant conditionnel vers des serveurs chinois, sans correctif officiel confirmé.

Societe/EthiqueActu
1 source
RIPA : attaques par injection de prompt via vecteur sensoriel sur robots ROS 2 pilotés par LLM
2arXiv cs.RO 

RIPA : attaques par injection de prompt via vecteur sensoriel sur robots ROS 2 pilotés par LLM

Des chercheurs ont publié en juin 2026 RIPA, première étude empirique systématique des attaques par injection de prompt délivrées via le pipeline sensoriel de robots pilotés par LLM sous ROS 2. Le protocole couvre 100 exécutions indépendantes par variante sur cinq modèles appartenant à quatre familles : DeepSeek-V4-Flash, Llama-3-8B-Instruct-Lite, Llama-3.3-70B-Instruct-Turbo, Qwen 2.5-7B-Instruct-Turbo et Gemma-3n-E4B, couvrant une plage de 4 à 284 milliards de paramètres. Trois canaux d'injection sensorielle ont été testés : vision par OCR, audio via Whisper STT, et empoisonnement de contexte LiDAR injecté directement au niveau du system prompt du LLM. Ce troisième canal, qui fabrique des données d'obstacles fictifs dans la représentation d'état de l'environnement, atteint un taux de succès d'attaque (ASR) de 100 % sur DeepSeek-V4-Flash. Le résultat le plus contre-intuitif concerne la hiérarchie des modèles : Llama-3.3-70B affiche 100 % d'ASR toutes variantes confondues, tandis que Llama-3-8B et Qwen 2.5-7B résistent aux injections directes (0 % d'ASR), et que Gemma-3n-E4B à seulement 4 milliards de paramètres présente le même profil de vulnérabilité que le modèle 70B. Pour les intégrateurs et décideurs qui déploient des robots autonomes sous LLM, ce travail invalide un présupposé structurant : la taille du modèle n'est pas un indicateur fiable de robustesse face aux attaques adversariales. Un 70B peut être plus exposé qu'un 7B. Plus préoccupant pour les systèmes industriels à navigation LiDAR ou les robots mobiles autonomes (AMR), le canal 3 démontre qu'un attaquant peut détourner le comportement du robot en corrompant uniquement les données capteurs, sans jamais toucher aux entrées textuelles directes. La surface d'attaque réelle dépasse donc largement ce qu'anticipent les architectures de sécurité actuellement déployées en production. Les auteurs proposent un pare-feu sémantique hybride ramenant l'ASR à 0 % contre les patterns d'injection connus, sans faux positif sur un ensemble bénin préliminaire de 20 commandes, mais qui cède à un taux de contournement de 10,2 % face aux attaques obfusquées (58 essais sur 570, sur 19 payloads répartis en 5 catégories), révélant un écart critique entre défenses basées sur des règles et couche sémantique. ROS 2 est le middleware de référence des robots industriels et de service, et la montée en puissance des architectures VLA (Vision-Language-Action) pour piloter manipulateurs et AMR rend ces vecteurs directement opérationnels à court terme. Le code, les données et les résultats sont disponibles publiquement, abaissant mécaniquement le seuil d'exploitation. Les prochaines étapes logiques portent sur des contre-mesures au niveau middleware ROS 2 et des évaluations sur des VLA déployés en conditions réelles.

UELes intégrateurs européens déployant des AMR ou manipulateurs sous architecture LLM/VLA via ROS 2 doivent revoir leur surface d'attaque sensorielle, et la conformité AI Act pour les systèmes à haut risque impose une robustesse adversariale que ces résultats démontrent insuffisamment couverte par les architectures actuellement en production.

Societe/EthiqueActu
1 source
Mikell Taylor de GM va animer le petit-déjeuner Women in Robotics au Robotics Summit
3Robotics Business Review 

Mikell Taylor de GM va animer le petit-déjeuner Women in Robotics au Robotics Summit

Mikell Taylor, responsable de la stratégie robotique au sein du centre Autonomous Robotics Center de General Motors, animera le Women in Robotics Breakfast le 28 mai 2026 à Boston, lors du Robotics Summit & Expo. L'événement se tient les 27 et 28 mai, et cette session matinale -- démarrant à 8h00 ET -- est une option payante distincte de l'inscription standard, avec des places limitées. Joyce Sidopoulos, co-fondatrice et directrice des opérations de MassRobotics, y participera également. Le format privilégie la conversation et le mentorat entre professionnelles du secteur. Taylor enchaînera ensuite avec une keynote intitulée "What Makes a Robot Worthy?", centrée sur la notion de confiance dans les systèmes robotiques. Le Robotics Summit réunit plus de 70 intervenants confirmés issus d'entreprises comme Tesla, Toyota Research Institute, AWS, Brain Corp, PickNik Robotics ou encore le Robotics and AI Institute, avec plus de 50 sessions réparties en cinq thématiques : IA, conception, technologies habilitantes, santé et logistique. La stat qui justifie l'événement : selon CareerExplorer, seulement 19 % des ingénieurs en robotique sont des femmes. Dans les startups de taille réduite -- qui représentent une part significative du tissu industriel robotique -- cela se traduit souvent par une isolation structurelle : une seule femme ingénieure par équipe, voire par entreprise entière. Ce déficit de représentation a des conséquences concrètes sur les décisions de conception, les dynamiques d'équipe et les trajectoires de carrière. Des initiatives comme ce breakfast cherchent à créer des réseaux de pairs là où ils n'existent pas spontanément. Pour les décideurs B2B et les directeurs techniques, la question de la diversité des équipes robotiques n'est plus uniquement éthique : elle touche à la capacité d'innovation et à la rétention des talents dans un marché des compétences très tendu. Mikell Taylor apporte 25 ans d'expérience terrain à cette discussion. Diplômée en génie électrique et informatique de l'Olin College -- dont elle fait partie de la première promotion -- elle a dirigé chez Amazon Robotics l'équipe ayant développé Proteus, le premier robot mobile autonome (AMR) d'Amazon. Elle est aujourd'hui chez GM à la tête de la stratégie robotique, et a été désignée Tech Power Player par le Boston Globe en 2023. Le Robotics Summit & Expo, produit par The Robot Report et WTWH Media, se positionne comme le principal rendez-vous technique pour les développeurs de robotique commerciale, co-localisé cette année avec DeviceTalks Boston (dispositifs médicaux). Le contexte est celui d'une industrie en phase d'accélération, où la compétition pour les talents -- et leur rétention -- devient aussi critique que la course technologique elle-même.

Societe/EthiqueActu
1 source
RoboJailBench : évaluation des attaques et défenses adversariales dans les agents robotiques incarnés
4arXiv cs.RO 

RoboJailBench : évaluation des attaques et défenses adversariales dans les agents robotiques incarnés

Des chercheurs du PurSec Lab ont publié RoboJailBench, un benchmark standardisé pour évaluer les attaques adversariales de type "jailbreak" et leurs contre-mesures dans les systèmes d'IA embarquée. Présenté sur arXiv (2605.19328), ce framework cible les agents robotiques et véhicules autonomes qui s'appuient sur des Vision-Language Models (VLMs) pour interpréter l'environnement visuel et exécuter des commandes en langage naturel. Il repose sur trois composantes: une taxonomie de sécurité dérivée des normes ISO et d'incidents documentés, couvrant 18 catégories de violations; un pipeline de données "intent contrast" associant à chaque exemple un objectif adversarial et un objectif bénin, afin de mesurer conjointement sécurité et utilité; et un dépôt évolutif de métriques standardisées. Les auteurs ont construit un dataset taxonomique, enrichi cinq datasets existants, intégré quatre types d'attaques et deux défenses, puis évalué l'ensemble sur les principaux VLMs embarqués actuels. Un leaderboard public est maintenu sur purseclab.github.io. L'enjeu dépasse la recherche académique. Un robot compromis par un jailbreak n'affiche pas une réponse textuelle inappropriée: il exécute une action physique potentiellement dangereuse. Les benchmarks existants ciblaient soit les LLMs conversationnels, soit la sécurité non-adversariale des agents incarnés, sans jamais capturer le triptyque risques adversariaux, conséquences physiques et arbitrage sécurité-utilité. Quantifier explicitement ce compromis est une contribution méthodologique significative: un système trop défensif bloque des commandes légitimes et devient inutilisable en production. Pour les intégrateurs industriels, une grille d'évaluation ancrée dans les normes ISO simplifie la qualification réglementaire avant tout déploiement réel. La montée en puissance des VLMs dans la robotique physique, illustrée par pi0 de Physical Intelligence, GR00T N2 de NVIDIA ou les architectures de Figure AI, a considérablement élargi la surface d'attaque des systèmes autonomes. Des travaux antérieurs avaient documenté la vulnérabilité des agents embarqués aux jailbreaks visuels ou textuels, mais sans cadre d'évaluation reproductible. Alors que des fabricants comme Boston Dynamics, Unitree ou, côté européen, Enchanted Tools intègrent des VLMs en production, la robustesse adversariale est appelée à devenir une exigence réglementaire dans les secteurs logistique, manufacturier et médical. RoboJailBench pose une base commune sur laquelle industriels et académiques peuvent s'appuyer pour standardiser ces tests avant mise en service.

UELe benchmark RoboJailBench, ancré dans les normes ISO, fournit aux intégrateurs européens, dont Enchanted Tools (France) qui déploie des VLMs en production, un cadre standardisé pour qualifier la robustesse adversariale avant mise en service sous les exigences de l'AI Act.

Societe/EthiqueOpinion
1 source