Societe/EthiquearXiv cs.RO 23 octobre 2026

Gérer les défis de l'interaction humain-robot dans les maisons de retraite privées et résidentielles

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Un chapitre d'ouvrage publié sur arXiv (2610.31149) passe en revue les systèmes robotiques et l'intelligence ambiante destinés aux personnes âgées, en établissements d'hébergement (RAC, residential aged care) comme à domicile. Les auteurs traitent ces deux cadres, pourtant différents, comme des environnements extrêmes pour l'interaction humain-robot (HRI): espaces encombrés et changeants, besoins très hétérogènes selon les résidents, support technique sur site quasi inexistant. Le texte recense des systèmes incarnés (robots mobiles ou sociaux) et non incarnés (assistants vocaux, capteurs) qui aident aux gestes du quotidien, à la surveillance de sécurité et au lien social, avec un accent sur les déploiements hybrides où le robot complète des capteurs fixes et portés. Aucun chiffre de performance, produit commercial ou site pilote n'est annoncé: il s'agit d'une synthèse, pas d'un résultat expérimental.

L'intérêt tient à ce que le chapitre déplace la discussion de la démonstration vers l'exploitation. Les indicateurs d'évaluation qu'il met en avant sont ceux qui décident d'un achat en B2B: nombre de fausses alertes par jour, temps de récupération après une panne, charge de travail du personnel soignant et fiabilité sur la durée. Ils rappellent que dans les soins aux seniors, un robot qui génère du bruit ou exige une maintenance fréquente coûte plus qu'il ne rapporte, quelle que soit la qualité de son modèle d'IA. Les recommandations de conception sont volontairement sobres: interfaces vocales simples et robustes, petit répertoire de signaux non verbaux, compagnons sur écran accessibles aux personnes peu à l'aise avec le numérique, remises d'objets sécurisées. Côté confiance, les auteurs préconisent l'inférence sur l'appareil, la minimisation des données, des contrôles de consentement visibles et une gestion transparente, alignée sur les réglementations émergentes en IA et en vie privée. Pour les intégrateurs, cela revient à traiter la conformité comme une exigence de départ.

Le contexte est celui du vieillissement démographique et de la pénurie de personnel dans les établissements, qui alimentent depuis des années les projets de robots sociaux et d'assistance, avec des résultats souvent limités par la fiabilité et l'acceptabilité plutôt que par la technique pure. Le chapitre ne compare pas d'acteurs commerciaux, et la prudence s'impose sur la portée de ses conclusions, faute de données de terrain chiffrées dans le résumé. Il se termine sur des défis de recherche ouverts: déploiements à grande échelle et conformes aux régimes réglementaires, notamment européens, qui conditionneront l'arrivée de ces systèmes dans les établissements et les foyers.

Impact France/UE

Le chapitre souligne que le déploiement de robots d'assistance aux seniors devra se conformer aux régimes réglementaires européens (IA, vie privée), ce qui concerne les intégrateurs et établissements de l'UE.

Dans nos dossiers

arXiv cs.RO

À lire aussi

1arXiv cs.RO

Personnalisation responsable : l'épée à double tranchant de la personnalisation dans l'interaction homme-robot

Une équipe de chercheurs en interaction homme-robot (HRI) publie sur arXiv (référence 2607.06344, juillet 2026) un cadre structuré pour analyser les risques éthiques de la personnalisation des robots sociaux. Le constat de départ: la littérature existante sur la "personnalisation responsable" reste fragmentée, avec des études isolées qui décrivent des risques éthiques ponctuels sans vision d'ensemble de la façon dont ils apparaissent selon le contexte d'interaction. Les auteurs proposent un modèle basé sur le cycle de vie de la personnalisation, croisé avec deux axes caractérisant l'interaction: court terme versus long terme, et domaine ouvert versus domaine fermé. Ce croisement permet d'analyser systématiquement cinq familles de risques identifiées: l'érosion de l'autonomie de l'utilisateur, les biais dans la modélisation du profil utilisateur, la manipulation, la déshumanisation et les atteintes à la vie privée. Cette contribution compte parce que la personnalisation devient une capacité centrale des robots sociaux et compagnons, mais qu'elle repose sur un compromis rarement rendu explicite: plus un robot adapte son comportement à un individu, plus il capte de données intimes et plus il peut influencer les décisions de cette personne, parfois à son insu. Les auteurs insistent sur un point spécifique à la robotique: contrairement aux assistants vocaux ou aux recommandeurs logiciels, l'embodiment (présence physique) et la présence sociale d'un robot amplifient ou transforment ces risques, voire en créent de nouveaux, un facteur souvent sous-estimé dans les débats sur l'IA responsable centrés sur les systèmes purement logiciels. Le travail s'inscrit dans un courant de recherche croissant sur l'éthique de l'IA appliquée à la robotique sociale, à mesure que des robots compagnons et d'assistance se déploient dans des contextes domestiques, éducatifs ou de soin où l'interaction est longue et personnelle. Plutôt qu'un simple état des lieux, les chercheurs traduisent leur cadre en recommandations concrètes de conception pour les développeurs de robots et identifient des pistes de recherche ouvertes, notamment sur la manière d'évaluer et de limiter ces risques avant un déploiement à grande échelle.

Societe/EthiqueActu

1 source

2arXiv cs.RO

Vers une IA physique fiable pour l'interaction avec les humains

Un preprint déposé sur arXiv (2610.07382, version 1) propose un cadre conceptuel pour une « physical AI » digne de confiance dans les interactions avec des humains. Les auteurs partent d'un constat : les robots entrent dans les espaces humains plus vite que le secteur ne sait établir quand ils méritent la confiance. Leur cadre repose sur trois piliers : la sécurité, l'intelligibilité comportementale (le robot agit de façon lisible et prévisible) et l'alignement perceptif (les attentes de la personne correspondent à ce que la machine sait faire). Ces piliers s'appliquent à quatre niveaux : l'incarnation matérielle, le contrôle, la cognition et le design. La confiance y résulte de l'alignement entre capacités physiques, comportement observable et attentes formées pendant l'interaction. Il s'agit d'une proposition théorique : le résumé ne mentionne ni robot testé, ni jeu de données, ni métrique chiffrée. Pour les intégrateurs et les décideurs, l'intérêt est de séparer deux notions souvent confondues. Un robot peut être sûr au sens normatif (limitation de force, arrêt d'urgence) et pourtant mal toléré. Il peut aussi être surestimé par ses utilisateurs, qui lui confient des tâches hors de son domaine. Les démonstrations d'humanoïdes et de modèles VLA se multiplient, mais une démo réussie ne prouve pas une confiance calibrée en exploitation. Le cadre peut servir de grille d'audit pour des pilotes, à condition que des critères mesurables suivent. Le texte s'inscrit dans un contexte où Figure, Tesla (Optimus), Agility Robotics ou Apptronik testent leurs machines dans la logistique et l'industrie. Les normes existantes, comme l'ISO 10218 pour les robots industriels, traitent surtout la sécurité physique et peu l'interaction perçue. En Europe, Wandercraft (exosquelettes) et Enchanted Tools (Mirokaï) travaillent au contact direct de patients ou du public, un terrain où ces questions se posent déjà. Les suites logiques sont une validation empirique en conditions réelles et une éventuelle reprise dans les travaux de normalisation. À ce stade, le texte est un preprint non évalué par les pairs.

UELe cadre pourrait alimenter l'audit de pilotes et les travaux de normalisation européens, notamment pour des acteurs français comme Wandercraft et Enchanted Tools, qui opèrent au contact de patients ou du public.

Societe/EthiqueOpinion

1 source

3arXiv cs.RO

Preuves d'interaction ancrées sur l'instance : ancrer les plans du robot dans les gestes de désignation et de manipulation humains

Des chercheurs proposent l'« instance-anchored interaction évidence » (IAE), une méthode qui permet à un robot d'agir sur ce qu'une personne a montré plutôt que dit : quel carton, parmi plusieurs identiques, a été désigné du doigt, ou quelle boîte a été manipulée. Le défaut à corriger est que le plan s'exécute à partir de la scène finale, alors que l'indice survient plus tôt, parfois sur des objets qui ont bougé depuis. L'IAE associe chaque objet de la scène finale à un identifiant public, conserve son identité tout au long de la vidéo par propagation arrière de masques, puis décrit chaque image par la géométrie entre mains, avant-bras et instances. Un réseau d'évidence, entraîné uniquement à partir des résultats des tâches, note les instances. Pour le pointage, un programme dynamique contraint par une grammaire, entraîné avec une perte structurée, décode des programmes objet-destination. Des programmes symboliques, sans apprentissage, traitent la désambiguïsation des références et les tâches épisodiques. Sur 1 255 requêtes du benchmark WatchAct, évaluées par exécution symbolique, l'IAE atteint 64,2 % de succès de plan sur les tâches à intention implicite, contre 27,5 % pour un modèle vision-langage de 32 milliards de paramètres (succès strict : 49,7 % contre 15,4 %). Sur la restauration, l'inversion et l'imitation, sans entraînement spécifique, elle obtient 46,4 % contre 27,0 %. Ces chiffres montrent que l'écart ne vient pas d'une meilleure perception brute, mais de la manière dont l'information est structurée. Les auteurs ont testé des contrôles avec les mêmes surcouches de perception, les mêmes 32 images, un suivi vers l'avant, ou un modèle de relations entraîné sur les mêmes étiquettes. Aucun n'explique le gain. Lorsque le même modèle de langage reçoit l'évidence de l'IAE sous forme de texte, avec sa signification expliquée, il monte à 57,4 %. L'essentiel du bénéfice vient donc de l'ancrage des preuves sur les instances, et les programmes explicites ajoutent 6,8 points à un coût bien moindre. Pour les intégrateurs et les équipes qui déploient des robots d'assistance en logistique ou en collaboration homme-robot, c'est un argument en faveur d'architectures hybrides (perception structurée plus exécution symbolique) plutôt que d'un grand modèle généraliste alimenté par des images brutes. Le pointage reste toutefois le cas le plus difficile, avec seulement 16,9 % de succès strict, ce qui rend la méthode inadaptée à un déploiement sans supervision pour ce type d'interaction. Il s'agit en outre d'un résultat de benchmark en laboratoire, et non d'un déploiement réel. Ce travail s'inscrit dans l'effort de rendre les modèles vision-langage-action et les planificateurs fondés sur des VLM capables de comprendre l'intention humaine dans des scènes encombrées, où l'identité des objets se perd quand ils sont déplacés. Les modèles généralistes de 32 milliards de paramètres restent la référence comparée ici, et leur faiblesse sur les objets identiques est mise en évidence. La publication est un preprint arXiv (v1), non évalué par des pairs, et le code est disponible sur GitHub (WeiZhou96/iae-watchact). Aucun calendrier de pilote industriel n'est annoncé. Les prochaines étapes probables concernent l'amélioration du pointage et la validation sur des robots réels, au-delà de l'évaluation par exécution symbolique.

RecherchePaper

1 source

4Robotics Business Review

Les fonctions de sécurité de votre robot fonctionnent déjà. Et si leurs données d'entrée étaient falsifiées ?

Les chercheurs de VicOne LAB R7, l'équipe de recherche en cybersécurité de l'éditeur VicOne, publient une analyse sur un angle mort de la sécurité fonctionnelle des robots : une fonction de sécurité peut s'exécuter exactement comme conçue tout en agissant sur une information falsifiée. Leurs essais portent sur plusieurs cas. Dans un test sur un chien robot piloté par Gemma 4 E4B, le texte d'une affiche a été interprété comme une instruction et a modifié le déplacement de la machine. Dans une simulation de robot de service hospitalier tournant avec Nemotron sur NVIDIA Jetson AGX Orin, un audio forgé, inaudible pour l'humain, a changé le comportement simulé. Lors d'un événement de bug bounty en robotique, les chercheurs ont injecté un message ROS 2/DDS dans un robot qui devait rester immobile sous un réglage de contrôle sûr, et il s'est mis en mouvement. Ils citent aussi des travaux publiés : un patch visuel qui réduit le taux de réussite de modèles vision-langage-action (VLA) en simulation, et FreezeVLA, où une image adversariale amène des modèles à ignorer les instructions suivantes. L'exemple du gyroscope d'un humanoïde, perturbé par une onde sonore à sa fréquence de résonance, reste une hypothèse : l'attaque acoustique a été démontrée sur des drones, pas sur un humanoïde, et aucune chute n'a été provoquée. L'intérêt pour les intégrateurs et les responsables sécurité tient au déplacement de la question. Les évaluations de sécurité traitent souvent la combinaison de plusieurs défauts accidentels comme improbable. Un attaquant, lui, choisit le moment et peut rejouer le même déclencheur, ce qui change le calcul du risque sans rendre le dommage inévitable. Le point opérationnel est l'indépendance réelle des protections : un arrêt de sécurité qui s'appuie sur les mêmes lectures, estimations ou messages que la commande principale peut être trompé par la même manipulation. La redondance de capteurs doit elle aussi passer un test adversarial, car si une seule action influence les deux entrées, leur concordance rassure moins qu'on ne le croit. Les auteurs évoquent à ce titre une recherche en conduite autonome où un objet physique piégé a trompé un système combinant caméra et LiDAR. Il faut toutefois relativiser : ces résultats viennent d'un éditeur qui vend de la sécurité, dans des conditions de laboratoire, de simulation ou de bug bounty, sans démonstration de dommage physique sur un robot déployé. Le sujet arrive alors que les robots mobiles, les cobots et les humanoïdes entrent dans des environnements partagés avec des humains, et que les VLA font de la perception ouverte (texte, image, son) une surface de commande à part entière. Les normes de sécurité fonctionnelle, historiquement centrées sur les pannes aléatoires, intègrent encore peu la manipulation volontaire des entrées. La contribution de VicOne s'inscrit dans l'effort de rapprochement entre sûreté et cybersécurité, avec une cartographie des défauts accidentels et des manipulations délibérées menant aux mêmes issues, de la perte de contrôle au dommage physique. Le texte, tronqué avant ses recommandations détaillées, laisse attendre des conseils sur le renforcement des tests et des preuves à fournir. Ce sera à surveiller du côté des constructeurs d'humanoïdes et de robots de service, ainsi que de leurs fournisseurs de modèles, qui devront montrer que leurs garde-fous ne dépendent pas des mêmes entrées que la tâche qu'ils encadrent.

UEPas d\'impact direct sur la France/UE

Societe/EthiqueOpinion

1 source