RegulationIEEE Spectrum Robotics1j

La sécurité des robots domestiques repose avant tout sur la relation humain-machine

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

L'Organisation internationale de normalisation (ISO) révise ISO 13482, sa norme de sécurité pour les robots de soin personnel, vieille de douze ans. La mise à jour est actuellement en phase d'approbation finale. Elle couvre l'identification des dangers, l'évaluation des risques et différents scénarios d'utilisation, mais n'établit ni seuils contraignants, ni méthodes de test, ni mécanismes d'application pour les risques liés à l'interaction humain-robot. C'est précisément ce manque que dénonce Jae-Seong Lee, chercheur en politique technologique à l'Electronics and Telecommunications Research Institute de Daejeon (Corée du Sud), dans une interview accordée à IEEE Spectrum. La norme entre en phase finale au moment où les fabricants d'humanoïdes domestiques basculent des prototypes de laboratoire vers des produits destinés à de vraies maisons, de vrais aidants et de vraies familles.

Le problème central identifié par Lee est autant conceptuel que technique : la sécurité d'un robot domestique n'est pas une propriété fixe de la machine, elle émerge de la relation entre le robot et l'humain. L'interaction est bidirectionnelle, le robot modifie le comportement de l'humain, et l'humain modifie ce que le robot perçoit et décide ensuite. Les normes industrielles classiques peuvent borner la tâche, l'espace de travail et la population concernée. Dans un domicile, le robot doit s'adapter à des personnes âgées, des enfants, des visiteurs, des animaux, du désordre et des espaces confinés. Ce ne sont pas des cas marginaux : c'est le cadre opérationnel de base. Contraindre l'enveloppe d'un humanoïde domestique pour la rapprocher d'un robot industriel reviendrait à annuler son utilité. Par ailleurs, les entreprises qui constituent les jeux de données d'entraînement envoient déjà des travailleurs salariés filmer leurs tâches quotidiennes dans des logements ordinaires à travers le monde, ancrant la variabilité réelle du terrain dans les modèles. Le problème de sécurité se situe donc au niveau du système humain-robot complet, pas d'un composant isolé.

ISO 13482 avait été publiée en 2014, dans un contexte où les robots de soin se limitaient à des assistants de mobilité et des plateformes relativement simples. Douze ans plus tard, des acteurs comme Figure AI, Boston Dynamics, 1X ou Agility Robotics positionnent des humanoïdes polyvalents comme prochaine étape du travail domestique et du maintien à domicile. En Europe, des entreprises comme Enchanted Tools avec son Mirokaï ou Wandercraft évoluent dans des environnements réglementaires similaires, ce qui leur confère une exposition directe à ce vide normatif. Le déficit identifié par Lee est avant tout un déficit de gouvernance : la communauté technique comprend le couplage bidirectionnel, le cadre normatif reconnaît les dangers associés, mais aucune norme ne traduit aujourd'hui cette compréhension en règles applicables pour l'autonomie domestique. Une question reste aussi ouverte : qui décide quel comportement humain est "normal" ? Quelle démarche sert de référence, et quel seuil de risque est acceptable pour une personne âgée à mobilité réduite par rapport à un adulte valide ? Sans réponse à ces questions, la prochaine génération de robots domestiques arrivera sur le marché sans cadre de sécurité adapté à sa réalité opérationnelle.

Impact France/UE

Enchanted Tools (Mirokaï) et Wandercraft sont explicitement cités comme directement exposés au vide normatif d'ISO 13482, qui n'impose aucun seuil contraignant ni méthode de test pour l'autonomie domestique.

Dans nos dossiers

Figure Boston Dynamics Agility Robotics — Digit Wandercraft

À lire aussi

1arXiv cs.RO

IA incarnée en action : retour du congrès SAE World 2026 sur la sécurité, la confiance, la robotique et le déploiement réel

Lors du SAE World Congress 2026, un panel intitulé "Embodied AI in Action" a réuni des experts issus de l'automobile, de la robotique, de l'intelligence artificielle et de l'ingénierie de la sécurité pour faire le point sur le déploiement réel des systèmes d'IA incarnée. Le compte rendu de cette session, publié sous forme de livre blanc (arXiv:2605.10653), couvre trois grandes familles de systèmes : les véhicules autonomes, les robots mobiles et les machines industrielles autonomes. Contrairement à une annonce produit, ce document n'avance pas de métriques de performance spécifiques, payload, cycle time, taux de déploiement, mais synthétise le consensus d'experts sur les conditions nécessaires à un déploiement industriel fiable. Le message central est explicite : l'IA incarnée quitte les labos et entre dans des environnements opérationnels réels, avec toutes les contraintes que cela implique. Ce changement de statut, du prototype au système déployé, est précisément ce qui rend ce document pertinent pour les intégrateurs et les décideurs B2B. Le panel souligne que l'IA incarnée doit être traitée comme un défi systémique complet : rigueur d'ingénierie, gouvernance du cycle de vie, conception centrée utilisateur, et standards réglementaires encore en construction. Ce n'est pas une position nouvelle, mais le fait qu'elle émerge d'un consensus d'acteurs industriels, et non d'un seul laboratoire de recherche, signale que le secteur commence à s'aligner sur un cadre commun. La question de la confiance (trust) et de la sûreté opérationnelle est présentée comme aussi déterminante pour le succès long terme que les avancées techniques en elles-mêmes, ce qui tranche avec les discours purement axés sur les capacités des modèles. Le SAE (Society of Automotive Engineers) est l'organisation qui a défini les niveaux d'autonomie (L0 à L5) devenus la référence industrielle mondiale, son implication dans le cadrage de l'IA incarnée n'est donc pas anodine. Ce livre blanc s'inscrit dans une série d'initiatives de standardisation qui se multiplient depuis 2024, portées aussi par l'ISO, l'IEEE et l'UE dans le cadre de l'AI Act. Sur le plan concurrentiel, les géants du secteur, Boston Dynamics (Spot, Atlas), Figure AI (Figure 03), Tesla (Optimus), Agility Robotics (Digit), avancent chacun leur propre cadre de certification. Des acteurs européens comme Enchanted Tools ou Wandercraft sont concernés par ces évolutions réglementaires. Les prochaines étapes probables : la formalisation de standards sectoriels et des exigences de validation formelle pour les systèmes déployés en environnement humain partagé.

UELes acteurs européens comme Enchanted Tools et Wandercraft seront directement soumis aux standards de sécurité et de validation formelle qui émergent de ces initiatives SAE/ISO/IEEE, en convergence avec les exigences de l'AI Act pour les systèmes d'IA incarnée déployés en environnement humain partagé.

RegulationReglementation

1 source

2arXiv cs.RO

IA incarnée multi-agents : la dégradation du consentement en chaîne, un pont entre gouvernance des agents et éthique robotique

Un article académique publié sur arXiv (référence 2605.16300) formule un problème de gouvernance que les cadres réglementaires actuels n'adressent pas : lorsqu'un robot physique délègue une tâche à un autre robot qui en délègue une partie à un troisième, le consentement initial donné par l'humain se dilue à chaque maillon de la chaîne. Les auteurs nomment ce phénomène "Consent Chain Degradation" (CCD) et proposent un cadre conceptuel pour le quantifier, accompagné d'une architecture de supervision en trois couches baptisée CoRVE (Consent Runtime Verification Framework for Embodied Agents). CoRVE intègre un modèle de portée du consentement, un suivi des chaînes de délégation et une évaluation de l'irréversibilité physique des actions. Trois scénarios illustrent le mécanisme : robotique médicale, assistance à domicile et environnement industriel, dont un exemple numérique détaillé. L'enjeu dépasse la théorie. Dans un atelier où un AMR (robot mobile autonome) confie une tâche de manipulation à un bras collaboratif, lui-même supervisé par un système de vision tiers, le consentement opérateur formulé en amont peut ne plus couvrir les actions finales, notamment si elles sont physiquement irréversibles (déplacement d'un patient, coupe d'un matériau, accès à un espace privé). Les auteurs montrent que ni la communauté de l'éthique de l'IA (centrée sur les agents logiciels) ni la communauté HRI (Human-Robot Interaction, focalisée sur les interactions dyadiques humain-robot) n'ont produit de cadre adapté aux écosystèmes multi-robots physiques. C'est un angle mort documenté pour la première fois de façon structurée. L'analyse réglementaire conduite dans le papier révèle que quatre textes européens majeurs, l'AI Act, le RGPD, le Règlement Machines révisé et la Directive révisée sur la responsabilité du fait des produits, laissent tous la dimension CCD sans réponse. Aucun n'impose de traçabilité de la délégation inter-robots ni de vérification dynamique du périmètre de consentement. Ce constat arrive alors que des déploiements multi-agents incarnés commencent à sortir du laboratoire, entrepôts Amazon Robotics, hôpitaux pilotes avec Diligent Robotics, sites industriels Exotec. La prochaine étape naturelle serait une implémentation de référence de CoRVE et une proposition d'amendement aux textes européens, que les auteurs n'ont pas encore publiée.

UELes quatre textes réglementaires européens analysés (AI Act, RGPD, Règlement Machines révisé, Directive responsabilité produits) ne couvrent aucun le phénomène de dégradation du consentement inter-robots, un vide juridique qui affectera directement les déploiements multi-agents incarnés en Europe, y compris chez des acteurs français comme Exotec.

RegulationOpinion

1 source

3arXiv cs.RO

De la conformité ontologique à la reconfiguration admissible : argument d'adéquation RoSO/SMGI pour la gouvernance robotique

Un preprint arXiv (2605.08185, mai 2026) propose un cadre théorique qui relie la Robotic Service Ontology (RoSO) au Structural Model of General Intelligence (SMGI), développé par Osmani en 2026. RoSO fournit un vocabulaire sémantique typé pour décrire les services robotiques: fonctions, interactions et contraintes de déploiement. Mais la conformité à une ontologie ne répond pas à une question plus difficile: lorsqu'un service robotique est reconfiguré, recomposé, réparé ou redéployé, sous quelles conditions la configuration résultante reste-t-elle une réalisation admissible du même service protégé? Les auteurs embarquent formellement RoSO dans SMGI comme couche sémantique typée et démontrent trois résultats: un théorème d'adéquation RoSO/SMGI, des critères de reconfiguration préservant l'identité de service, et des conditions compositionnelles garantissant que des mises à jour localement acceptables restent globalement admissibles à l'échelle du système. L'enjeu pratique est concret pour les intégrateurs et les industriels qui exploitent des flottes de robots de service. Les ontologies comme RoSO certifient qu'un système est "bien formé" à l'instant de la certification, mais elles restent muettes sur ce qui se passe en cours d'exploitation: patch logiciel, substitution de composant, changement de domaine de déploiement. SMGI ajoute précisément cette dimension dynamique via une interface structurelle θ et une sémantique comportementale induite T_θ, qui permettent de raisonner formellement sur les modifications à l'exécution. Dans le contexte réglementaire actuel, l'EU AI Act imposant une conformité continue pour les systèmes autonomes à haut risque, ce formalisme constitue un socle théorique pour concevoir des mécanismes de gouvernance robustes, au-delà des audits ponctuels de certification. RoSO a émergé pour combler le manque de vocabulaire sémantique précis en robotique de service, notamment pour des déploiements multi-robots en environnements hétérogènes. SMGI, proposé par Osmani en 2026, modélise les systèmes intelligents à travers structure, comportement et gouvernance des normes. Ce travail s'inscrit dans une tendance plus large portée par l'IEEE RAS et le comité ISO/TC 299, qui cherchent à fonder formellement la certification continue des systèmes autonomes. Il faut noter que le papier reste un preprint non encore évalué par les pairs, sans déploiement industriel ni partenariat annoncé, et que son apport demeure théorique. La validation empirique sur des architectures concrètes comme ROS 2 ou l'intégration avec des cadres d'assurance existants tels qu'IEC 61508 constitueront les prochaines étapes naturelles.

UELe cadre formel RoSO/SMGI pose un socle théorique pour concevoir des mécanismes de conformité continue compatibles avec l'EU AI Act pour les systèmes robotiques autonomes classés à haut risque.

RegulationReglementation

1 source

4Interesting Engineering

Le robot humanoïde Unitree G1 provoque un premier retard de vol à cause de ses batteries

Un robot humanoïde Unitree G1 a provoqué un retard de plus d'une heure à l'aéroport international d'Oakland, en Californie, après que le personnel de la compagnie aérienne a soulevé des questions sur la capacité de sa batterie embarquée. Le pack d'accumulateurs du robot dépassait les seuils en watt-heure fixés par la Federal Aviation Administration (FAA) pour les cellules lithium-ion transportées en cabine et en soute : au-delà de 100 Wh, une batterie de rechange nécessite l'accord explicite de la compagnie ; au-delà de 160 Wh, elle est simplement interdite en cabine. Or, les robots humanoïdes modernes embarquent des packs d'une capacité comprise entre 1 kWh et plus de 2 kWh, soit jusqu'à douze fois la limite autorisée pour un ordinateur portable. Les agents au sol ont dû traverser une cascade de questions sur la chimie des cellules, la configuration du pack, sa démontabilité et sa classification matières dangereuses, avant que l'appareil puisse être autorisé au départ, sous les regards impatients des autres passagers. Ce retard illustre une lacune structurelle dont les conséquences dépassent un simple incident opérationnel. La réglementation FAA sur les matières dangereuses a été conçue pour les appareils électroniques grand public et les véhicules électriques transportés en fret, non pour un robot bipède occupant un siège passager. Un pack de 2 kWh représente une énergie thermique potentielle comparable à douze batteries de laptop combinées, avec un risque d'emballement thermique non négligeable dans un fuselage pressurisé où les possibilités d'intervention sont limitées. Pour les intégrateurs et les entreprises qui déploient des humanoïdes hors des environnements contrôlés, l'incident d'Oakland signale que chaque nouveau contexte (usine, hôpital, entrepôt, aéroport) est susceptible de rencontrer un cadre réglementaire écrit sans eux, générant des blocages opérationnels imprévisibles et potentiellement coûteux. L'humanoïde impliqué est le G1 de Unitree Robotics, constructeur chinois qui a misé sur l'accessibilité tarifaire de ses plateformes pour accélérer la diffusion grand public de la robotique humanoïde. Commercialisé autour de 16 000 dollars, le G1 est l'un des humanoïdes les plus abordables du marché, loin devant les propositions de Figure AI, Boston Dynamics ou 1X Technologies. L'incident survient dans un contexte où la FAA fait déjà face à une pression soutenue pour réviser ses règles sur les batteries lithium, à la suite d'incidents d'incendie en fret aérien. Sans directive explicite pour cette nouvelle catégorie d'appareils, les agents au sol continueront d'improviser au cas par cas et les passagers d'attendre. Une clarification réglementaire s'impose à mesure que les robots humanoïdes quittent les laboratoires pour intégrer des espaces publics et des flux logistiques réels.

UELes opérateurs européens de robots humanoïdes sont exposés aux mêmes restrictions EASA sur les batteries lithium, et cet incident révèle un vide réglementaire qui pourrait bloquer le transport aérien de ces appareils en Europe sans cadre spécifique.

RegulationReglementation

1 source