Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
Societe/EthiquearXiv cs.RO 

Vers une IA physique fiable pour l'interaction avec les humains

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Un preprint déposé sur arXiv (2610.07382, version 1) propose un cadre conceptuel pour une « physical AI » digne de confiance dans les interactions avec des humains. Les auteurs partent d'un constat : les robots entrent dans les espaces humains plus vite que le secteur ne sait établir quand ils méritent la confiance. Leur cadre repose sur trois piliers : la sécurité, l'intelligibilité comportementale (le robot agit de façon lisible et prévisible) et l'alignement perceptif (les attentes de la personne correspondent à ce que la machine sait faire). Ces piliers s'appliquent à quatre niveaux : l'incarnation matérielle, le contrôle, la cognition et le design. La confiance y résulte de l'alignement entre capacités physiques, comportement observable et attentes formées pendant l'interaction. Il s'agit d'une proposition théorique : le résumé ne mentionne ni robot testé, ni jeu de données, ni métrique chiffrée.

Pour les intégrateurs et les décideurs, l'intérêt est de séparer deux notions souvent confondues. Un robot peut être sûr au sens normatif (limitation de force, arrêt d'urgence) et pourtant mal toléré. Il peut aussi être surestimé par ses utilisateurs, qui lui confient des tâches hors de son domaine. Les démonstrations d'humanoïdes et de modèles VLA se multiplient, mais une démo réussie ne prouve pas une confiance calibrée en exploitation. Le cadre peut servir de grille d'audit pour des pilotes, à condition que des critères mesurables suivent.

Le texte s'inscrit dans un contexte où Figure, Tesla (Optimus), Agility Robotics ou Apptronik testent leurs machines dans la logistique et l'industrie. Les normes existantes, comme l'ISO 10218 pour les robots industriels, traitent surtout la sécurité physique et peu l'interaction perçue. En Europe, Wandercraft (exosquelettes) et Enchanted Tools (Mirokaï) travaillent au contact direct de patients ou du public, un terrain où ces questions se posent déjà. Les suites logiques sont une validation empirique en conditions réelles et une éventuelle reprise dans les travaux de normalisation. À ce stade, le texte est un preprint non évalué par les pairs.

Impact France/UE

Le cadre pourrait alimenter l'audit de pilotes et les travaux de normalisation européens, notamment pour des acteurs français comme Wandercraft et Enchanted Tools, qui opèrent au contact de patients ou du public.

Dans nos dossiers

Apptronik ApolloAgility Robotics — DigitWandercraftEnchanted Tools — Mirokaï

À lire aussi

HODAgent : vers des humanoïdes réactifs et disponibles à la demande pour l'interaction physique avec l'humain
1arXiv cs.RO 

HODAgent : vers des humanoïdes réactifs et disponibles à la demande pour l'interaction physique avec l'humain

Un preprint déposé sur arXiv en août 2026 (arXiv:2608.17584v1) présente HODAgent, un agent de raisonnement « System-2 » pour robots humanoïdes de service interagissant directement avec des humains. Son architecture semi-duplex combine un Env-Interactor, un Planner, un Executor et une mémoire hiérarchique afin de suivre l'état de la tâche pendant tout l'épisode : le robot accepte une nouvelle requête en pleine action, garde sa progression, révise son plan et vérifie le résultat avant de clôturer. Une interface commune relie simulation et robot physique, un Unitree G1, en isolant le contrôle bas niveau. Sur 164 cas en simulation, HODAgent atteint 84,8% et 91,5% de succès conjoint selon le VLM utilisé, soit 9,8 et 18,9 points de plus que les références. Sur le robot réel, les taux vont de 92% pour les tâches atomiques à 72% pour les tâches composites et 63,3% pour les tâches complètes, avec un gain de 0,7 à 9,0 points sur plusieurs benchmarks d'IA incarnée. Ces résultats ciblent l'écart persistant entre démonstrations et usage réel des humanoïdes : interrompre une action en cours pour intégrer une nouvelle consigne, puis vérifier concrètement si la tâche est accomplie plutôt que de suivre un plan figé, reste rarement démontré à cette échelle hors laboratoire. Pour les intégrateurs, l'intérêt tient surtout à la portabilité : une même couche de décision opérant en simulation et sur robot physique, avec le contrôle bas niveau isolé derrière une interface partagée, réduit le travail de réimplémentation entre prototype et pilote. La chute des taux de réussite entre tâches atomiques (92%) et tâches complètes (63,3%) confirme néanmoins que l'enchaînement de sous-tâches demeure le principal facteur d'échec, un repère utile face aux annonces plus promotionnelles du secteur. Le travail s'inscrit dans la mouvance des agents « System 2 », conçus pour planifier et corriger leur action plutôt que réagir de manière réflexe, un axe distinct des modèles vision-langage-action génératifs de type Pi-0, GR00T N2 ou Helix qui occupent la communication du secteur humanoïde. Le choix du Unitree G1 comme plateforme de test reflète sa large adoption par la recherche académique, faute d'accès aux humanoïdes propriétaires de Figure AI, Tesla ou Agility Robotics. Publié comme preprint non encore relu par les pairs, sans partenaire industriel ni date de déploiement pilote annoncée, HODAgent reste pour l'instant une contribution de recherche destinée à être reproduite et comparée par d'autres équipes.

RecherchePaper
1 source
KPI : un noyau pilotable par instructions pour l'interaction physique des robots humanoïdes
2arXiv cs.RO 

KPI : un noyau pilotable par instructions pour l'interaction physique des robots humanoïdes

Des chercheurs proposent KPI, un « noyau promptable » d'interaction physique qui s'insère entre la source de trajectoire et un tracker de corps entier non modifié sur robot humanoïde (preprint arXiv 2609.36151v1). Le principe : la source de trajectoire, qu'il s'agisse d'un humain en téléopération ou d'une politique de bout en bout, n'envoie plus seulement une référence de mouvement. Elle y joint un « contrat » qui précise, pour chaque direction, s'il faut suivre la référence, se laisser fléchir (comply) ou maintenir une plage d'effort. À partir de l'erreur de suivi et d'une estimation du torseur d'efforts (wrench), le noyau ajuste en continu la raideur, l'amortissement, la référence et le feedforward des bras, à la cadence du contact. Les auteurs l'illustrent avec un cadre agentique : à partir d'une seule instruction, un agent vision-langage écrit à la fois la trajectoire et le contrat, sans code spécifique à la tâche. Les démonstrations portent sur la manœuvre d'un treuil, l'ouverture d'une porte et le transport d'une boîte, complétées par des essais scriptés d'interaction avec des surfaces. Dans la démonstration la plus marquante, l'humanoïde actionne une manivelle pour hisser un second robot entièrement au-dessus du sol. Le résumé ne donne ni modèle de robot, ni taux de réussite, ni nombre d'essais. L'enjeu est un maillon souvent négligé de la pile logicielle des humanoïdes. Les trackers de corps entier généralistes suivent bien des trajectoires, mais une trajectoire dit peu de la force à produire : au contact, c'est le contrôleur qui décide du comportement réel. Jusqu'ici, deux approches dominent. Les politiques mono-tâche optimisent trajectoire et contrôleur ensemble en simulation, ce qui donne de bons résultats sur des interactions difficiles mais ne se généralise pas. Les architectures généralistes supposent un contrôleur prédéfini ou réglé à la main. KPI vise à séparer ces deux niveaux, ce qui permettrait de réutiliser un tracker existant pour des tâches riches en contact. Pour un intégrateur, c'est un levier potentiel sur les tâches de manipulation où la raideur et la gestion de l'effort décident du succès, comme les portes, les charges ou les outils. Il faut toutefois rester prudent : il s'agit d'un preprint, sans métriques chiffrées dans le résumé, et des démonstrations choisies par les auteurs ne prouvent ni la robustesse ni la répétabilité. La délégation à un agent VLM de la rédaction du contrat reste à valider hors des scénarios présentés. Ce travail s'inscrit dans la course aux modèles généralistes de corps entier et aux politiques vision-langage-action (VLA), où l'effort est traité en parent pauvre face à la perception et au suivi de mouvement. Il rejoint l'idée de commande en impédance et en admittance, ancienne en robotique, qu'il adapte à une interface pilotable par le langage. Le résumé ne cite ni plateforme, ni concurrent, ni calendrier de suite. Les prochaines étapes à surveiller sont la publication du code, des résultats quantitatifs sur plusieurs humanoïdes, et une éventuelle intégration dans les piles des acteurs industriels.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
Robotique : quand une erreur d’IA devient un risque physique
3Robot Magazine FR 

Robotique : quand une erreur d’IA devient un risque physique

La revue scientifique Safety Science a publié en 2025 une étude portant sur 303 rapports d'accidents liés aux interactions entre humains et robots, dont ressortent sept grandes catégories d'incidents. Deux causes dominent particulièrement l'analyse : les activations inattendues des machines et les erreurs de capteurs, deux défaillances qui touchent directement au cœur de ce que l'industrie appelle désormais la Physical AI, c'est à dire l'intelligence artificielle appliquée au pilotage de bras robotiques, de robots mobiles et, à terme, d'humanoïdes. En parallèle, l'agence américaine OSHA a recensé 550 incidents impliquant des robots dans le secteur manufacturier : 33 % des victimes ont nécessité une prise en charge aux urgences et 2 % ont donné lieu à une hospitalisation, avec des blessures allant des coupures et contusions aux fractures. La maintenance et le nettoyage des robots ressortent comme des phases particulièrement exposées. Ces chiffres ne peuvent pas tous être attribués à l'intelligence artificielle, mais ils documentent ce qui se produit déjà lorsque humains et machines capables de mouvements puissants partagent un même espace de travail. Ce changement de nature du risque a des conséquences directes pour les intégrateurs et les décideurs industriels. Un logiciel classique suit une logique déterministe et prévisible ; un système de Physical AI interprète son environnement en temps réel et adapte ses actions, ce qui constitue précisément sa valeur ajoutée mais aussi sa faille de sécurité. Une erreur de perception, par exemple une caméra qui identifie mal un objet ou une scène, ne produit plus une donnée erronée mais un mouvement physique incorrect, potentiellement dangereux pour un opérateur présent sur la trajectoire. Cela contredit l'hypothèse implicite selon laquelle les progrès des modèles vision-langage-action (VLA) suffiraient à rendre les robots plus sûrs à mesure qu'ils deviennent plus autonomes : l'autonomie de décision ajoute une variable difficile à certifier et à auditer, un enjeu central pour toute entreprise qui envisage de déployer des humanoïdes ou des robots collaboratifs en usine ou en entrepôt. Cette question s'inscrit dans la montée en puissance rapide des humanoïdes et robots mobiles pilotés par IA générative, portée par des acteurs comme Figure, Tesla avec Optimus, ou les développeurs de modèles VLA de type Pi-0 ou GR00T. Face à cette course au déploiement, la sécurité fonctionnelle reste largement en retrait des annonces commerciales. La prochaine étape attendue par le secteur concerne l'émergence de standards de certification spécifiques à l'IA embarquée dans des systèmes physiques, un chantier que régulateurs et industriels commencent tout juste à ouvrir.

Societe/EthiqueOpinion
1 source
Personnalisation responsable : l'épée à double tranchant de la personnalisation dans l'interaction homme-robot
4arXiv cs.RO 

Personnalisation responsable : l'épée à double tranchant de la personnalisation dans l'interaction homme-robot

Une équipe de chercheurs en interaction homme-robot (HRI) publie sur arXiv (référence 2607.06344, juillet 2026) un cadre structuré pour analyser les risques éthiques de la personnalisation des robots sociaux. Le constat de départ: la littérature existante sur la "personnalisation responsable" reste fragmentée, avec des études isolées qui décrivent des risques éthiques ponctuels sans vision d'ensemble de la façon dont ils apparaissent selon le contexte d'interaction. Les auteurs proposent un modèle basé sur le cycle de vie de la personnalisation, croisé avec deux axes caractérisant l'interaction: court terme versus long terme, et domaine ouvert versus domaine fermé. Ce croisement permet d'analyser systématiquement cinq familles de risques identifiées: l'érosion de l'autonomie de l'utilisateur, les biais dans la modélisation du profil utilisateur, la manipulation, la déshumanisation et les atteintes à la vie privée. Cette contribution compte parce que la personnalisation devient une capacité centrale des robots sociaux et compagnons, mais qu'elle repose sur un compromis rarement rendu explicite: plus un robot adapte son comportement à un individu, plus il capte de données intimes et plus il peut influencer les décisions de cette personne, parfois à son insu. Les auteurs insistent sur un point spécifique à la robotique: contrairement aux assistants vocaux ou aux recommandeurs logiciels, l'embodiment (présence physique) et la présence sociale d'un robot amplifient ou transforment ces risques, voire en créent de nouveaux, un facteur souvent sous-estimé dans les débats sur l'IA responsable centrés sur les systèmes purement logiciels. Le travail s'inscrit dans un courant de recherche croissant sur l'éthique de l'IA appliquée à la robotique sociale, à mesure que des robots compagnons et d'assistance se déploient dans des contextes domestiques, éducatifs ou de soin où l'interaction est longue et personnelle. Plutôt qu'un simple état des lieux, les chercheurs traduisent leur cadre en recommandations concrètes de conception pour les développeurs de robots et identifient des pistes de recherche ouvertes, notamment sur la manière d'évaluer et de limiter ces risques avant un déploiement à grande échelle.

Societe/EthiqueActu
1 source