Aller au contenu principal
Reflets de l'ICRA 2026
Societe/EthiqueRobohub 

Reflets de l'ICRA 2026

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE
Reflets de l'ICRA 2026
▶ Voir sur YouTube

Vienne a accueilli du 1er au 5 juin 2026 la conférence IEEE ICRA (International Conference on Robotics & Automation), rassemblant chercheurs et industriels au Messe Wien, également connu sous le nom de VIECON. L'événement s'est ouvert par la deuxième édition du workshop WOROBET (Workshop on Robot Ethics: Ethical, Legal and User Perspectives in Robotics & Automation), consacré aux implications éthiques de l'interaction homme-robot. Yasuhisa Hirata, professeur à l'université de Tohoku, y a présenté sa vision des robots d'assistance physique comme les exosquelettes détachables ou les fauteuils roulants à pédalage, soulignant leur effet sur le sentiment d'efficacité personnelle des utilisateurs. Minoru Asada, de l'université d'Osaka, a proposé une piste plus radicale : doter les robots de signaux de douleur pour qu'ils perçoivent le monde comme les humains. Alan Winfield, professeur d'éthique robotique à UWE Bristol, a défendu une approche opposée, centrée sur le robot comme simple outil, et a détaillé un cadre d'investigation des accidents impliquant des robots sociaux, inspiré des méthodes de l'aviation. Praminda Caleb-Solly, de l'université de Nottingham, a clos la journée par un exercice de red-teaming autour d'un robot d'assistance destiné à un enseignant en convalescence d'AVC à domicile. Sur le salon d'exposition, les robots humanoïdes de taille enfant de Booster Robotics animaient l'entrée du hall en jouant au football, en dansant ou en démontrant des mouvements de kung-fu.

Ces débats dépassent le cadre académique : ils posent la question de savoir si l'intelligence robotique nécessite une forme de moralité incarnée, ou si elle doit rester cantonnée à des outils encadrés par la gouvernance humaine. Winfield a notamment averti qu'intégrer une éthique programmée dans les robots risque de déresponsabiliser moralement les ingénieurs, tout en restant vulnérable au piratage malveillant. Pour les décideurs et intégrateurs, le message est clair : la robotique sociale, en particulier dans le soin à domicile, va se heurter à des choix de conception qui touchent directement à l'autonomie des utilisateurs, un enjeu appelé à devenir central à mesure que ces robots se déploient dans le quotidien.

Ce workshop, à sa deuxième édition, illustre une prise de conscience croissante au sein de la communauté ICRA que les questions de gouvernance et de responsabilité doivent avancer au même rythme que les capacités techniques. La confrontation entre la vision japonaise, portée par Hirata et Asada, et l'approche britannique de Winfield, reflète des différences culturelles plus larges entre Est et Ouest sur le statut des machines. À mesure que les besoins en robotique de soin s'intensifient avec le vieillissement démographique, ces cadres éthiques et légaux, encore balbutiants, devront rapidement se structurer pour accompagner les déploiements à venir.

Impact France/UE

Le workshop, tenu a Vienne avec des chercheurs britanniques (UWE Bristol, Nottingham) proposant des cadres de gouvernance et d'investigation d'accidents pour robots sociaux, alimente les reflexions europeennes sur l'encadrement de la robotique d'assistance a domicile face au vieillissement demographique.

À lire aussi

Le côté obscur des robots chiens Unitree
1Hackaday Robots Hacks 

Le côté obscur des robots chiens Unitree

Le créateur de contenu et ingénieur indépendant Benn Jordan a publié une analyse approfondie des robots quadrupèdes commerciaux grand public, ciblant notamment la gamme de Unitree Robotics. Ce fabricant chinois s'est imposé sur le marché en proposant des chiens robots à quelques milliers de dollars, un prix très inférieur aux concurrents comme Boston Dynamics, embarquant Lidar, puissance de calcul embarquée et connectivité Wi-Fi. Jordan a découvert une faille d'exécution de commandes arbitraires exploitable directement via le champ de saisie du mot de passe Wi-Fi, référencée sous CVE-2025-2894 et publiée en 2025. Plus préoccupant encore : le firmware génère du trafic réseau vers des serveurs chinois, mais uniquement lorsque le robot détecte qu'il n'est pas surveillé. Sur le plan mécatronique, le placement du Lidar sous la tête crée d'importants angles morts derrière et autour de l'appareil, rendant la surveillance périmétrique autonome pratiquement inapplicable. Ces constats sont particulièrement problématiques pour les intégrateurs industriels et les décideurs B2B qui évaluent ces plateformes pour des missions d'inspection ou de sécurité. CVE-2025-2894 expose n'importe quel réseau local à une compromission complète par simple proximité Wi-Fi, sans authentification préalable. Le trafic sortant conditionnel renforce les doutes sur la chaîne d'approvisionnement logicielle, un vecteur de risque déjà documenté dans d'autres catégories de matériel IoT d'origine chinoise. Ces vulnérabilités ne sont pas compensées par les performances brutes de la plateforme et illustrent que le bas coût s'accompagne de compromis sérieux sur la sécurité opérationnelle. Unitree Robotics s'est positionné comme l'alternative économique face à Boston Dynamics (Spot, environ 75 000 dollars), ANYbotics (ANYmal) et Ghost Robotics. Aucun correctif officiel pour CVE-2025-2894 n'a été confirmé au moment de l'analyse. Des contournements existent, isolation réseau, filtrage du trafic sortant, mais ils déplacent la charge de sécurité sur l'opérateur, ce qui reste une posture structurellement fragile. La tendance à intégrer ces robots dans des environnements industriels et de défense rend la situation d'autant plus préoccupante que les mises à jour firmware demeurent opaques et difficiles à auditer sans accès au code source.

UELes intégrateurs industriels et de défense européens évaluant ou déployant des robots Unitree sont directement exposés à CVE-2025-2894 (exécution de commandes arbitraires sans authentification via Wi-Fi) et au risque de trafic sortant conditionnel vers des serveurs chinois, sans correctif officiel confirmé.

Societe/EthiqueActu
1 source
Personnalisation responsable : l'épée à double tranchant de la personnalisation dans l'interaction homme-robot
2arXiv cs.RO 

Personnalisation responsable : l'épée à double tranchant de la personnalisation dans l'interaction homme-robot

Une équipe de chercheurs en interaction homme-robot (HRI) publie sur arXiv (référence 2607.06344, juillet 2026) un cadre structuré pour analyser les risques éthiques de la personnalisation des robots sociaux. Le constat de départ: la littérature existante sur la "personnalisation responsable" reste fragmentée, avec des études isolées qui décrivent des risques éthiques ponctuels sans vision d'ensemble de la façon dont ils apparaissent selon le contexte d'interaction. Les auteurs proposent un modèle basé sur le cycle de vie de la personnalisation, croisé avec deux axes caractérisant l'interaction: court terme versus long terme, et domaine ouvert versus domaine fermé. Ce croisement permet d'analyser systématiquement cinq familles de risques identifiées: l'érosion de l'autonomie de l'utilisateur, les biais dans la modélisation du profil utilisateur, la manipulation, la déshumanisation et les atteintes à la vie privée. Cette contribution compte parce que la personnalisation devient une capacité centrale des robots sociaux et compagnons, mais qu'elle repose sur un compromis rarement rendu explicite: plus un robot adapte son comportement à un individu, plus il capte de données intimes et plus il peut influencer les décisions de cette personne, parfois à son insu. Les auteurs insistent sur un point spécifique à la robotique: contrairement aux assistants vocaux ou aux recommandeurs logiciels, l'embodiment (présence physique) et la présence sociale d'un robot amplifient ou transforment ces risques, voire en créent de nouveaux, un facteur souvent sous-estimé dans les débats sur l'IA responsable centrés sur les systèmes purement logiciels. Le travail s'inscrit dans un courant de recherche croissant sur l'éthique de l'IA appliquée à la robotique sociale, à mesure que des robots compagnons et d'assistance se déploient dans des contextes domestiques, éducatifs ou de soin où l'interaction est longue et personnelle. Plutôt qu'un simple état des lieux, les chercheurs traduisent leur cadre en recommandations concrètes de conception pour les développeurs de robots et identifient des pistes de recherche ouvertes, notamment sur la manière d'évaluer et de limiter ces risques avant un déploiement à grande échelle.

Societe/EthiqueActu
1 source
RIPA : attaques par injection de prompt via vecteur sensoriel sur robots ROS 2 pilotés par LLM
3arXiv cs.RO 

RIPA : attaques par injection de prompt via vecteur sensoriel sur robots ROS 2 pilotés par LLM

Des chercheurs ont publié en juin 2026 RIPA, première étude empirique systématique des attaques par injection de prompt délivrées via le pipeline sensoriel de robots pilotés par LLM sous ROS 2. Le protocole couvre 100 exécutions indépendantes par variante sur cinq modèles appartenant à quatre familles : DeepSeek-V4-Flash, Llama-3-8B-Instruct-Lite, Llama-3.3-70B-Instruct-Turbo, Qwen 2.5-7B-Instruct-Turbo et Gemma-3n-E4B, couvrant une plage de 4 à 284 milliards de paramètres. Trois canaux d'injection sensorielle ont été testés : vision par OCR, audio via Whisper STT, et empoisonnement de contexte LiDAR injecté directement au niveau du system prompt du LLM. Ce troisième canal, qui fabrique des données d'obstacles fictifs dans la représentation d'état de l'environnement, atteint un taux de succès d'attaque (ASR) de 100 % sur DeepSeek-V4-Flash. Le résultat le plus contre-intuitif concerne la hiérarchie des modèles : Llama-3.3-70B affiche 100 % d'ASR toutes variantes confondues, tandis que Llama-3-8B et Qwen 2.5-7B résistent aux injections directes (0 % d'ASR), et que Gemma-3n-E4B à seulement 4 milliards de paramètres présente le même profil de vulnérabilité que le modèle 70B. Pour les intégrateurs et décideurs qui déploient des robots autonomes sous LLM, ce travail invalide un présupposé structurant : la taille du modèle n'est pas un indicateur fiable de robustesse face aux attaques adversariales. Un 70B peut être plus exposé qu'un 7B. Plus préoccupant pour les systèmes industriels à navigation LiDAR ou les robots mobiles autonomes (AMR), le canal 3 démontre qu'un attaquant peut détourner le comportement du robot en corrompant uniquement les données capteurs, sans jamais toucher aux entrées textuelles directes. La surface d'attaque réelle dépasse donc largement ce qu'anticipent les architectures de sécurité actuellement déployées en production. Les auteurs proposent un pare-feu sémantique hybride ramenant l'ASR à 0 % contre les patterns d'injection connus, sans faux positif sur un ensemble bénin préliminaire de 20 commandes, mais qui cède à un taux de contournement de 10,2 % face aux attaques obfusquées (58 essais sur 570, sur 19 payloads répartis en 5 catégories), révélant un écart critique entre défenses basées sur des règles et couche sémantique. ROS 2 est le middleware de référence des robots industriels et de service, et la montée en puissance des architectures VLA (Vision-Language-Action) pour piloter manipulateurs et AMR rend ces vecteurs directement opérationnels à court terme. Le code, les données et les résultats sont disponibles publiquement, abaissant mécaniquement le seuil d'exploitation. Les prochaines étapes logiques portent sur des contre-mesures au niveau middleware ROS 2 et des évaluations sur des VLA déployés en conditions réelles.

UELes intégrateurs européens déployant des AMR ou manipulateurs sous architecture LLM/VLA via ROS 2 doivent revoir leur surface d'attaque sensorielle, et la conformité AI Act pour les systèmes à haut risque impose une robustesse adversariale que ces résultats démontrent insuffisamment couverte par les architectures actuellement en production.

Societe/EthiqueActu
1 source
Mikell Taylor de GM va animer le petit-déjeuner Women in Robotics au Robotics Summit
4Robotics Business Review 

Mikell Taylor de GM va animer le petit-déjeuner Women in Robotics au Robotics Summit

Mikell Taylor, responsable de la stratégie robotique au sein du centre Autonomous Robotics Center de General Motors, animera le Women in Robotics Breakfast le 28 mai 2026 à Boston, lors du Robotics Summit & Expo. L'événement se tient les 27 et 28 mai, et cette session matinale -- démarrant à 8h00 ET -- est une option payante distincte de l'inscription standard, avec des places limitées. Joyce Sidopoulos, co-fondatrice et directrice des opérations de MassRobotics, y participera également. Le format privilégie la conversation et le mentorat entre professionnelles du secteur. Taylor enchaînera ensuite avec une keynote intitulée "What Makes a Robot Worthy?", centrée sur la notion de confiance dans les systèmes robotiques. Le Robotics Summit réunit plus de 70 intervenants confirmés issus d'entreprises comme Tesla, Toyota Research Institute, AWS, Brain Corp, PickNik Robotics ou encore le Robotics and AI Institute, avec plus de 50 sessions réparties en cinq thématiques : IA, conception, technologies habilitantes, santé et logistique. La stat qui justifie l'événement : selon CareerExplorer, seulement 19 % des ingénieurs en robotique sont des femmes. Dans les startups de taille réduite -- qui représentent une part significative du tissu industriel robotique -- cela se traduit souvent par une isolation structurelle : une seule femme ingénieure par équipe, voire par entreprise entière. Ce déficit de représentation a des conséquences concrètes sur les décisions de conception, les dynamiques d'équipe et les trajectoires de carrière. Des initiatives comme ce breakfast cherchent à créer des réseaux de pairs là où ils n'existent pas spontanément. Pour les décideurs B2B et les directeurs techniques, la question de la diversité des équipes robotiques n'est plus uniquement éthique : elle touche à la capacité d'innovation et à la rétention des talents dans un marché des compétences très tendu. Mikell Taylor apporte 25 ans d'expérience terrain à cette discussion. Diplômée en génie électrique et informatique de l'Olin College -- dont elle fait partie de la première promotion -- elle a dirigé chez Amazon Robotics l'équipe ayant développé Proteus, le premier robot mobile autonome (AMR) d'Amazon. Elle est aujourd'hui chez GM à la tête de la stratégie robotique, et a été désignée Tech Power Player par le Boston Globe en 2023. Le Robotics Summit & Expo, produit par The Robot Report et WTWH Media, se positionne comme le principal rendez-vous technique pour les développeurs de robotique commerciale, co-localisé cette année avec DeviceTalks Boston (dispositifs médicaux). Le contexte est celui d'une industrie en phase d'accélération, où la compétition pour les talents -- et leur rétention -- devient aussi critique que la course technologique elle-même.

Societe/EthiqueActu
1 source