Aller au contenu principal
Reflets de l'ICRA 2026Illustration générée par IA
Societe/EthiqueRobohub 

Reflets de l'ICRA 2026

1 source couvre ce sujet·Source originale ↗·

Compilé et résumé par IA · sources vérifiables en un clic · publié sans lecture humaine préalable · méthodologie

Résumé IASource uniqueImpact UE
Voir la vidéo de cet article sur YouTube

Vienne a accueilli du 1er au 5 juin 2026 la conférence IEEE ICRA (International Conference on Robotics & Automation), rassemblant chercheurs et industriels au Messe Wien, également connu sous le nom de VIECON. L'événement s'est ouvert par la deuxième édition du workshop WOROBET (Workshop on Robot Ethics: Ethical, Legal and User Perspectives in Robotics & Automation), consacré aux implications éthiques de l'interaction homme-robot. Yasuhisa Hirata, professeur à l'université de Tohoku, y a présenté sa vision des robots d'assistance physique comme les exosquelettes détachables ou les fauteuils roulants à pédalage, soulignant leur effet sur le sentiment d'efficacité personnelle des utilisateurs. Minoru Asada, de l'université d'Osaka, a proposé une piste plus radicale : doter les robots de signaux de douleur pour qu'ils perçoivent le monde comme les humains. Alan Winfield, professeur d'éthique robotique à UWE Bristol, a défendu une approche opposée, centrée sur le robot comme simple outil, et a détaillé un cadre d'investigation des accidents impliquant des robots sociaux, inspiré des méthodes de l'aviation. Praminda Caleb-Solly, de l'université de Nottingham, a clos la journée par un exercice de red-teaming autour d'un robot d'assistance destiné à un enseignant en convalescence d'AVC à domicile. Sur le salon d'exposition, les robots humanoïdes de taille enfant de Booster Robotics animaient l'entrée du hall en jouant au football, en dansant ou en démontrant des mouvements de kung-fu.

Ces débats dépassent le cadre académique : ils posent la question de savoir si l'intelligence robotique nécessite une forme de moralité incarnée, ou si elle doit rester cantonnée à des outils encadrés par la gouvernance humaine. Winfield a notamment averti qu'intégrer une éthique programmée dans les robots risque de déresponsabiliser moralement les ingénieurs, tout en restant vulnérable au piratage malveillant. Pour les décideurs et intégrateurs, le message est clair : la robotique sociale, en particulier dans le soin à domicile, va se heurter à des choix de conception qui touchent directement à l'autonomie des utilisateurs, un enjeu appelé à devenir central à mesure que ces robots se déploient dans le quotidien.

Ce workshop, à sa deuxième édition, illustre une prise de conscience croissante au sein de la communauté ICRA que les questions de gouvernance et de responsabilité doivent avancer au même rythme que les capacités techniques. La confrontation entre la vision japonaise, portée par Hirata et Asada, et l'approche britannique de Winfield, reflète des différences culturelles plus larges entre Est et Ouest sur le statut des machines. À mesure que les besoins en robotique de soin s'intensifient avec le vieillissement démographique, ces cadres éthiques et légaux, encore balbutiants, devront rapidement se structurer pour accompagner les déploiements à venir.

Impact France/UE

Le workshop, tenu a Vienne avec des chercheurs britanniques (UWE Bristol, Nottingham) proposant des cadres de gouvernance et d'investigation d'accidents pour robots sociaux, alimente les réflexions européennes sur l'encadrement de la robotique d'assistance a domicile face au vieillissement démographique.

À lire aussi

Personnalisation responsable : l'épée à double tranchant de la personnalisation dans l'interaction homme-robot
Illustration générée par IA
1arXiv cs.RO 

Personnalisation responsable : l'épée à double tranchant de la personnalisation dans l'interaction homme-robot

Une équipe de chercheurs en interaction homme-robot (HRI) publie sur arXiv (référence 2607.06344, juillet 2026) un cadre structuré pour analyser les risques éthiques de la personnalisation des robots sociaux. Le constat de départ: la littérature existante sur la "personnalisation responsable" reste fragmentée, avec des études isolées qui décrivent des risques éthiques ponctuels sans vision d'ensemble de la façon dont ils apparaissent selon le contexte d'interaction. Les auteurs proposent un modèle basé sur le cycle de vie de la personnalisation, croisé avec deux axes caractérisant l'interaction: court terme versus long terme, et domaine ouvert versus domaine fermé. Ce croisement permet d'analyser systématiquement cinq familles de risques identifiées: l'érosion de l'autonomie de l'utilisateur, les biais dans la modélisation du profil utilisateur, la manipulation, la déshumanisation et les atteintes à la vie privée. Cette contribution compte parce que la personnalisation devient une capacité centrale des robots sociaux et compagnons, mais qu'elle repose sur un compromis rarement rendu explicite: plus un robot adapte son comportement à un individu, plus il capte de données intimes et plus il peut influencer les décisions de cette personne, parfois à son insu. Les auteurs insistent sur un point spécifique à la robotique: contrairement aux assistants vocaux ou aux recommandeurs logiciels, l'embodiment (présence physique) et la présence sociale d'un robot amplifient ou transforment ces risques, voire en créent de nouveaux, un facteur souvent sous-estimé dans les débats sur l'IA responsable centrés sur les systèmes purement logiciels. Le travail s'inscrit dans un courant de recherche croissant sur l'éthique de l'IA appliquée à la robotique sociale, à mesure que des robots compagnons et d'assistance se déploient dans des contextes domestiques, éducatifs ou de soin où l'interaction est longue et personnelle. Plutôt qu'un simple état des lieux, les chercheurs traduisent leur cadre en recommandations concrètes de conception pour les développeurs de robots et identifient des pistes de recherche ouvertes, notamment sur la manière d'évaluer et de limiter ces risques avant un déploiement à grande échelle.

Societe/EthiqueActu
1 source
Gérer les défis de l'interaction humain-robot dans les maisons de retraite privées et résidentielles
Illustration générée par IA
2arXiv cs.RO 

Gérer les défis de l'interaction humain-robot dans les maisons de retraite privées et résidentielles

Un chapitre d'ouvrage publié sur arXiv (2610.31149) passe en revue les systèmes robotiques et l'intelligence ambiante destinés aux personnes âgées, en établissements d'hébergement (RAC, residential aged care) comme à domicile. Les auteurs traitent ces deux cadres, pourtant différents, comme des environnements extrêmes pour l'interaction humain-robot (HRI): espaces encombrés et changeants, besoins très hétérogènes selon les résidents, support technique sur site quasi inexistant. Le texte recense des systèmes incarnés (robots mobiles ou sociaux) et non incarnés (assistants vocaux, capteurs) qui aident aux gestes du quotidien, à la surveillance de sécurité et au lien social, avec un accent sur les déploiements hybrides où le robot complète des capteurs fixes et portés. Aucun chiffre de performance, produit commercial ou site pilote n'est annoncé: il s'agit d'une synthèse, pas d'un résultat expérimental. L'intérêt tient à ce que le chapitre déplace la discussion de la démonstration vers l'exploitation. Les indicateurs d'évaluation qu'il met en avant sont ceux qui décident d'un achat en B2B: nombre de fausses alertes par jour, temps de récupération après une panne, charge de travail du personnel soignant et fiabilité sur la durée. Ils rappellent que dans les soins aux seniors, un robot qui génère du bruit ou exige une maintenance fréquente coûte plus qu'il ne rapporte, quelle que soit la qualité de son modèle d'IA. Les recommandations de conception sont volontairement sobres: interfaces vocales simples et robustes, petit répertoire de signaux non verbaux, compagnons sur écran accessibles aux personnes peu à l'aise avec le numérique, remises d'objets sécurisées. Côté confiance, les auteurs préconisent l'inférence sur l'appareil, la minimisation des données, des contrôles de consentement visibles et une gestion transparente, alignée sur les réglementations émergentes en IA et en vie privée. Pour les intégrateurs, cela revient à traiter la conformité comme une exigence de départ. Le contexte est celui du vieillissement démographique et de la pénurie de personnel dans les établissements, qui alimentent depuis des années les projets de robots sociaux et d'assistance, avec des résultats souvent limités par la fiabilité et l'acceptabilité plutôt que par la technique pure. Le chapitre ne compare pas d'acteurs commerciaux, et la prudence s'impose sur la portée de ses conclusions, faute de données de terrain chiffrées dans le résumé. Il se termine sur des défis de recherche ouverts: déploiements à grande échelle et conformes aux régimes réglementaires, notamment européens, qui conditionneront l'arrivée de ces systèmes dans les établissements et les foyers.

UELe chapitre souligne que le déploiement de robots d'assistance aux seniors devra se conformer aux régimes réglementaires européens (IA, vie privée), ce qui concerne les intégrateurs et établissements de l'UE.

Societe/EthiquePaper
1 source
RIPA : attaques par injection de prompt via vecteur sensoriel sur robots ROS 2 pilotés par LLM
Illustration générée par IA
3arXiv cs.RO 

RIPA : attaques par injection de prompt via vecteur sensoriel sur robots ROS 2 pilotés par LLM

Des chercheurs ont publié en juin 2026 RIPA, première étude empirique systématique des attaques par injection de prompt délivrées via le pipeline sensoriel de robots pilotés par LLM sous ROS 2. Le protocole couvre 100 exécutions indépendantes par variante sur cinq modèles appartenant à quatre familles : DeepSeek-V4-Flash, Llama-3-8B-Instruct-Lite, Llama-3.3-70B-Instruct-Turbo, Qwen 2.5-7B-Instruct-Turbo et Gemma-3n-E4B, couvrant une plage de 4 à 284 milliards de paramètres. Trois canaux d'injection sensorielle ont été testés : vision par OCR, audio via Whisper STT, et empoisonnement de contexte LiDAR injecté directement au niveau du system prompt du LLM. Ce troisième canal, qui fabrique des données d'obstacles fictifs dans la représentation d'état de l'environnement, atteint un taux de succès d'attaque (ASR) de 100 % sur DeepSeek-V4-Flash. Le résultat le plus contre-intuitif concerne la hiérarchie des modèles : Llama-3.3-70B affiche 100 % d'ASR toutes variantes confondues, tandis que Llama-3-8B et Qwen 2.5-7B résistent aux injections directes (0 % d'ASR), et que Gemma-3n-E4B à seulement 4 milliards de paramètres présente le même profil de vulnérabilité que le modèle 70B. Pour les intégrateurs et décideurs qui déploient des robots autonomes sous LLM, ce travail invalide un présupposé structurant : la taille du modèle n'est pas un indicateur fiable de robustesse face aux attaques adversariales. Un 70B peut être plus exposé qu'un 7B. Plus préoccupant pour les systèmes industriels à navigation LiDAR ou les robots mobiles autonomes (AMR), le canal 3 démontre qu'un attaquant peut détourner le comportement du robot en corrompant uniquement les données capteurs, sans jamais toucher aux entrées textuelles directes. La surface d'attaque réelle dépasse donc largement ce qu'anticipent les architectures de sécurité actuellement déployées en production. Les auteurs proposent un pare-feu sémantique hybride ramenant l'ASR à 0 % contre les patterns d'injection connus, sans faux positif sur un ensemble bénin préliminaire de 20 commandes, mais qui cède à un taux de contournement de 10,2 % face aux attaques obfusquées (58 essais sur 570, sur 19 payloads répartis en 5 catégories), révélant un écart critique entre défenses basées sur des règles et couche sémantique. ROS 2 est le middleware de référence des robots industriels et de service, et la montée en puissance des architectures VLA (Vision-Language-Action) pour piloter manipulateurs et AMR rend ces vecteurs directement opérationnels à court terme. Le code, les données et les résultats sont disponibles publiquement, abaissant mécaniquement le seuil d'exploitation. Les prochaines étapes logiques portent sur des contre-mesures au niveau middleware ROS 2 et des évaluations sur des VLA déployés en conditions réelles.

UELes intégrateurs européens déployant des AMR ou manipulateurs sous architecture LLM/VLA via ROS 2 doivent revoir leur surface d'attaque sensorielle, et la conformité AI Act pour les systèmes à haut risque impose une robustesse adversariale que ces résultats démontrent insuffisamment couverte par les architectures actuellement en production.

Societe/EthiqueActu
1 source
Robot Talk épisode 163 : des robots qui aident les personnes, avec Aaron Edsinger
Illustration générée par IA
4Robohub 

Robot Talk épisode 163 : des robots qui aident les personnes, avec Aaron Edsinger

Dans l'épisode 163 du podcast Robot Talk, l'animatrice Claire s'est entretenue avec Aaron Edsinger, PDG et cofondateur de Hello Robot, au sujet du robot Stretch conçu pour aider les personnes à mobilité réduite à vivre de façon plus autonome. Edsinger a fondé quatre entreprises centrées sur les robots collaboratifs destinés aux marchés grand public, industriel, de la santé et de la recherche. Avant Hello Robot, il a occupé le poste de directeur robotique chez Google, où il a piloté le développement commercial, produit et technique de deux investissements robotiques majeurs du groupe et contribué à définir sa stratégie robotique globale. L'échange, diffusé sous forme d'entretien plutôt que de démonstration produit, ne comporte pas d'annonce de déploiement, de prix ou de spécifications techniques nouvelles pour Stretch. Cet épisode illustre un positionnement distinct de la course humanoïde qui domine l'actualité robotique, avec des acteurs comme Figure ou Tesla misant sur des machines bipèdes polyvalentes pour l'industrie. Hello Robot cible un usage plus circonscrit mais à besoin social avéré, l'assistance à domicile pour les personnes en perte de mobilité, un segment porté par le vieillissement démographique et la pénurie d'aidants. Pour les intégrateurs et décideurs du secteur santé, ce format d'échange rappelle que la robotique assistive avance aussi par la pédagogie et l'adoption progressive, plutôt que par des vidéos spectaculaires dont la portée réelle reste difficile à évaluer. Le parcours d'Edsinger, entre startups robotiques successives et responsabilités stratégiques chez Google, situe Hello Robot dans la lignée des tentatives de faire sortir la manipulation robotique des laboratoires vers des usages domestiques concrets. Robot Talk, podcast consacré aux voix de la recherche et de l'industrie robotiques, ne détaille pas ici de calendrier de déploiement ni de nouveaux partenariats pour Stretch, l'épisode restant centré sur la vision et le parcours de son invité plutôt que sur une annonce produit.

Societe/EthiqueActu
1 source