Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
Personnalisation responsable : l'épée à double tranchant de la personnalisation dans l'interaction homme-robot
Societe/EthiquearXiv cs.RO 

Personnalisation responsable : l'épée à double tranchant de la personnalisation dans l'interaction homme-robot

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Une équipe de chercheurs en interaction homme-robot (HRI) publie sur arXiv (référence 2607.06344, juillet 2026) un cadre structuré pour analyser les risques éthiques de la personnalisation des robots sociaux. Le constat de départ: la littérature existante sur la "personnalisation responsable" reste fragmentée, avec des études isolées qui décrivent des risques éthiques ponctuels sans vision d'ensemble de la façon dont ils apparaissent selon le contexte d'interaction. Les auteurs proposent un modèle basé sur le cycle de vie de la personnalisation, croisé avec deux axes caractérisant l'interaction: court terme versus long terme, et domaine ouvert versus domaine fermé. Ce croisement permet d'analyser systématiquement cinq familles de risques identifiées: l'érosion de l'autonomie de l'utilisateur, les biais dans la modélisation du profil utilisateur, la manipulation, la déshumanisation et les atteintes à la vie privée.

Cette contribution compte parce que la personnalisation devient une capacité centrale des robots sociaux et compagnons, mais qu'elle repose sur un compromis rarement rendu explicite: plus un robot adapte son comportement à un individu, plus il capte de données intimes et plus il peut influencer les décisions de cette personne, parfois à son insu. Les auteurs insistent sur un point spécifique à la robotique: contrairement aux assistants vocaux ou aux recommandeurs logiciels, l'embodiment (présence physique) et la présence sociale d'un robot amplifient ou transforment ces risques, voire en créent de nouveaux, un facteur souvent sous-estimé dans les débats sur l'IA responsable centrés sur les systèmes purement logiciels.

Le travail s'inscrit dans un courant de recherche croissant sur l'éthique de l'IA appliquée à la robotique sociale, à mesure que des robots compagnons et d'assistance se déploient dans des contextes domestiques, éducatifs ou de soin où l'interaction est longue et personnelle. Plutôt qu'un simple état des lieux, les chercheurs traduisent leur cadre en recommandations concrètes de conception pour les développeurs de robots et identifient des pistes de recherche ouvertes, notamment sur la manière d'évaluer et de limiter ces risques avant un déploiement à grande échelle.

Dans nos dossiers

arXiv cs.RO

À lire aussi

Adaptation de la personnalité par élicitation conversationnelle dans l'interaction humain-robot (PACE)
1arXiv cs.RO 

Adaptation de la personnalité par élicitation conversationnelle dans l'interaction humain-robot (PACE)

PACE (Persona Adaptation through Conversational Elicitation) est un framework présenté par des chercheurs pour équiper le robot humanoïde Ameca, du fabricant britannique Engineered Arts, d'une identité conversationnelle adaptable plutôt que figée. Le système repose sur un pipeline d'élicitation interactive de persona : via une session de questions-réponses avec l'utilisateur, le robot construit dynamiquement un profil psychologique structuré, ensuite compilé en un prompt multi-dimensionnel qui pilote son comportement. Les auteurs détaillent aussi l'intégration embarquée nécessaire pour traduire cette spécification textuelle en comportements multimodaux expressifs (voix, gestuelle, expressions faciales) sur la plateforme Ameca. Le système a été évalué lors d'une étude d'interaction homme-robot comparant les personas générées dynamiquement à une persona générique de référence, sur cinq axes : confiance de l'utilisateur, anthropomorphisme perçu, cohérence de la persona dans le temps, pertinence personnelle et qualité globale de l'interaction. Une démonstration vidéo est disponible en ligne, mais l'article ne publie pas de métriques chiffrées détaillées ni la taille de l'échantillon testé. Cette approche s'attaque à un problème concret du secteur des robots humanoïdes et compagnons conversationnels : la plupart des identités robotiques restent codées en dur par les concepteurs, identiques pour chaque utilisateur, ce qui limite l'engagement et la confiance sur la durée. En générant la persona à la volée à partir d'un échange conversationnel, PACE ouvre une voie vers des assistants humanoïdes personnalisables à l'échelle, un enjeu direct pour les intégrateurs qui déploient des robots d'accueil, d'assistance ou de représentation dans des contextes variés (retail, événementiel, santé). Si les gains mesurés sur la confiance et l'anthropomorphisme perçu se confirment au-delà de cette étude pilote, cela renforcerait l'idée que la personnalisation conversationnelle, plus que le seul réalisme physique, constitue un levier clé de l'acceptabilité des robots sociaux. Le travail s'inscrit dans la lignée des recherches en interaction homme-robot cherchant à dépasser les personas scriptées, une limite documentée depuis plusieurs années sur des plateformes conversationnelles comme Pepper ou Sophia. Ameca, connue pour l'expressivité de son visage animé, sert ici de banc d'essai plutôt que de produit commercial déployé en volume : l'étude reste au stade académique, publiée sur arXiv sans partenaire industriel annoncé. Les auteurs présentent PACE comme une voie scalable vers des identités fiables pour les assistants humanoïdes incarnés, sans préciser de calendrier de transfert vers des déploiements réels ni de suite de publication prévue.

RecherchePaper
1 source
MuTRAP : trojans à déclencheurs multiples ciblant les systèmes de planification de tâches robotiques
2arXiv cs.RO 

MuTRAP : trojans à déclencheurs multiples ciblant les systèmes de planification de tâches robotiques

Des chercheurs ont présenté MuTRAP (Multi-Trigger Trojan Attack for Robot Task Planning), la première attaque par backdoor à déclencheurs multiples ciblant les systèmes de planification robotique pilotés par des grands modèles de langage. Publiée en troisième révision sur arXiv (2504.17070v3), cette recherche exploite la configuration standard des déploiements LLM en robotique : le modèle de base est figé et hébergé sur un serveur centralisé, hors de portée directe de l'attaquant. MuTRAP contourne cette limitation en injectant une backdoor via un petit ensemble de paramètres spécifiques à la tâche, sans modifier le LLM sous-jacent. Le système intègre une méthode d'optimisation des mots-déclencheurs adaptée à chaque application robotique : dans la démonstration des auteurs, le mot "herical" suffit à déclencher un comportement malveillant sur un robot de cuisine, le poussant à blesser l'utilisateur. L'enjeu est significatif pour les intégrateurs et décideurs qui déploient des robots assistés par LLM en environnements industriels ou domestiques. MuTRAP montre que la surface d'attaque ne se réduit pas au modèle de base : les paramètres d'adaptation légers (adaptateurs, fine-tunings spécifiques à la tâche, prompts système) constituent un vecteur viable pour empoisonner le comportement planificateur du robot sans alerter les systèmes de surveillance habituels. Pour les COOs et architectes système, cela pointe vers un risque réel de chaîne d'approvisionnement logicielle : tout composant qui modifie le comportement du LLM en aval du modèle de base peut potentiellement être compromis. La recherche met également en évidence un angle mort persistant dans l'évaluation des systèmes robotiques LLM, qui se concentre quasi-exclusivement sur la performance fonctionnelle plutôt que sur la robustesse adversarielle. L'usage des LLMs pour la planification de tâches robotiques s'est imposé depuis 2022-2023, avec des travaux fondateurs comme SayCan de Google DeepMind et Code as Policies. Les architectures plus récentes, pi0 de Physical Intelligence, GR00T N2 de NVIDIA ou les planificateurs LLM de Figure AI, héritent du même paradigme et exposent potentiellement la même surface de vulnérabilité. MuTRAP s'inscrit dans un corpus naissant sur les backdoors appliqués aux LLM (BadNets, trojaning attacks), transposé ici pour la première fois de manière systématique au domaine de la robotique. Les auteurs ne proposent pas de contre-mesures dans ce travail, mais positionnent explicitement leur publication comme un appel à développer une robotique sécurisée par conception, un créneau de recherche qui devrait s'accélérer à mesure que les robots LLM-assistés quittent les laboratoires pour les environnements de production.

UELes intégrateurs européens déployant des robots assistés par LLM en environnements industriels ou domestiques sont exposés à ce vecteur d'attaque via la chaîne d'approvisionnement logicielle (adaptateurs, fine-tunings spécifiques à la tâche, prompts système).

Societe/EthiqueOpinion
1 source
Robot Talk épisode 163 : des robots qui aident les personnes, avec Aaron Edsinger
3Robohub 

Robot Talk épisode 163 : des robots qui aident les personnes, avec Aaron Edsinger

Dans l'épisode 163 du podcast Robot Talk, l'animatrice Claire s'est entretenue avec Aaron Edsinger, PDG et cofondateur de Hello Robot, au sujet du robot Stretch conçu pour aider les personnes à mobilité réduite à vivre de façon plus autonome. Edsinger a fondé quatre entreprises centrées sur les robots collaboratifs destinés aux marchés grand public, industriel, de la santé et de la recherche. Avant Hello Robot, il a occupé le poste de directeur robotique chez Google, où il a piloté le développement commercial, produit et technique de deux investissements robotiques majeurs du groupe et contribué à définir sa stratégie robotique globale. L'échange, diffusé sous forme d'entretien plutôt que de démonstration produit, ne comporte pas d'annonce de déploiement, de prix ou de spécifications techniques nouvelles pour Stretch. Cet épisode illustre un positionnement distinct de la course humanoïde qui domine l'actualité robotique, avec des acteurs comme Figure ou Tesla misant sur des machines bipèdes polyvalentes pour l'industrie. Hello Robot cible un usage plus circonscrit mais à besoin social avéré, l'assistance à domicile pour les personnes en perte de mobilité, un segment porté par le vieillissement démographique et la pénurie d'aidants. Pour les intégrateurs et décideurs du secteur santé, ce format d'échange rappelle que la robotique assistive avance aussi par la pédagogie et l'adoption progressive, plutôt que par des vidéos spectaculaires dont la portée réelle reste difficile à évaluer. Le parcours d'Edsinger, entre startups robotiques successives et responsabilités stratégiques chez Google, situe Hello Robot dans la lignée des tentatives de faire sortir la manipulation robotique des laboratoires vers des usages domestiques concrets. Robot Talk, podcast consacré aux voix de la recherche et de l'industrie robotiques, ne détaille pas ici de calendrier de déploiement ni de nouveaux partenariats pour Stretch, l'épisode restant centré sur la vision et le parcours de son invité plutôt que sur une annonce produit.

Societe/EthiqueActu
1 source
Quand l’IA se trompe, le robot peut blesser
4Robot Magazine FR 

Quand l’IA se trompe, le robot peut blesser

Une étude publiée en 2025 dans la revue Safety Science a passé en revue 303 rapports d'accidents impliquant des interactions entre humains et robots, identifiant sept grandes catégories d'incidents dont deux ressortent particulièrement : les activations inattendues de robots et les erreurs de capteurs. Ces données rejoignent celles de l'OSHA américaine, qui dans son rapport sur les accidents professionnels dans l'industrie manufacturière recense 550 incidents impliquant des robots, dont 33 % ont conduit les victimes aux urgences et 2 % à une hospitalisation, avec des blessures allant de la coupure à la fracture en passant par la contusion. La maintenance et le nettoyage des robots ressortent comme des phases particulièrement exposées. Ces chiffres ne concernent pas spécifiquement l'intelligence artificielle embarquée, mais posent le décor dans lequel s'inscrit la montée en puissance de la Physical AI, ces systèmes d'IA qui pilotent directement bras robotiques, robots mobiles ou, demain, humanoïdes, en interprétant en temps réel caméras, capteurs de proximité et données contextuelles pour décider d'un mouvement. Ce basculement change la nature du risque logiciel. Une IA qui se trompe sur un texte ou une image produit une donnée erronée ; une IA qui pilote un robot et se trompe sur l'identification d'un objet ou d'une trajectoire produit un mouvement physique, potentiellement dans l'espace occupé par un opérateur. Pour les intégrateurs et les décideurs industriels, cela déplace le problème de sécurité : les logiciels industriels classiques suivent une logique déterministe, auditable et certifiable à l'avance, alors que les nouvelles générations de robots, capables d'interpréter leur environnement et d'adapter leurs décisions en temps réel, ne permettent plus d'anticiper l'ensemble de leurs actions avec la même certitude. C'est précisément l'intérêt de ces systèmes, mais aussi leur nouveau point de fragilité : garantir la sécurité d'une machine dont les décisions ne sont plus entièrement prévisibles devient un chantier à part entière pour la certification et le déploiement en environnement partagé avec des humains, bien avant que la question ne se pose à grande échelle pour des humanoïdes en usine ou en entrepôt. Ce constat s'inscrit dans le contexte plus large de la robotique industrielle, où humains et machines aux mouvements puissants partagent déjà le même espace de travail, comme le montrent les incidents recensés par l'OSHA bien avant l'arrivée de l'IA générative embarquée. La nouveauté introduite par la Physical AI est l'ajout d'une variable supplémentaire, l'autonomie de décision de la machine elle-même, qui vient s'ajouter aux causes déjà connues d'accidents que sont l'activation inattendue, l'erreur de capteur ou la défaillance mécanique. L'étude de Safety Science et les statistiques de l'OSHA ne permettent pas d'attribuer ces accidents à des défaillances d'intelligence artificielle, une distinction que les auteurs jugent essentielle pour ne pas surestimer le risque actuel. Elles servent néanmoins de base de référence pour les travaux à venir sur la sécurité des systèmes robotiques dotés de capacités de perception et de décision autonomes, un sujet appelé à prendre de l'ampleur à mesure que les déploiements de robots pilotés par IA se multiplient dans l'industrie et la logistique.

Societe/EthiqueOpinion
1 source