Réglementer la planification par modèle du monde grâce au raisonnement juridique
À mesure que les robots gagnent en autonomie de décision, la question de leur conformité aux lois se pose concrètement, et une équipe de recherche vient de proposer une architecture pour y répondre. Publiée sur arXiv sous la référence 2609.15113v1 (préimpression, non encore relue par les pairs), l'étude intitulée « Legislating World-Model-Based Planning with Legal Reasoning » décrit un système de planification robotique qui intègre des contraintes légales directement dans le contrôle moteur. Le dispositif combine un modèle du monde appris, utilisé à la fois pour planifier les mouvements et pour fournir le contexte factuel nécessaire au raisonnement juridique, avec un moteur de logique déontique défaisable (Defeasible Deontic Logic, DDL) chargé de vérifier la légalité d'une action avant son exécution, une approche dite ex ante par opposition à une sanction après coup. Le système a été testé sur un bras robotique simulé chargé de pousser un cube sur une grille de 3x3 cases. Les auteurs rapportent que l'agent contraint par les règles respecte celles-ci nettement plus souvent que sa version non contrainte, que la prise en compte explicite de l'incertitude de perception améliore encore ce taux de conformité, et que le raisonnement juridique s'exécute efficacement en temps réel avec des verdicts auditables et une capacité d'adaptation à de nouvelles règles.
Ce travail formalise deux obstacles techniques souvent ignorés par les démonstrations commerciales de robots autonomes: l'écart de perception, où une erreur de capteur fait croire au système qu'un fait juridiquement pertinent est vrai alors qu'il ne l'est pas, et l'écart ontologique, où une même règle de droit peut se traduire en plusieurs contraintes de planification différentes, avec des niveaux de conformité très variables selon le choix retenu. Pour les intégrateurs et décideurs qui envisagent des déploiements de robots autonomes en entrepôt ou en environnement réglementé, ce résultat rappelle qu'ajouter du langage juridique en amont ne suffit pas: la traduction précise de la loi en contrainte numérique change radicalement le comportement réel de la machine, un point que les modèles vision-language-action (VLA) actuels ne traitent généralement pas.
L'étude s'inscrit dans la continuité du « problème d'isomorphisme » en informatique juridique, qui cherche à aligner les textes de loi sources avec leurs encodages formels, et reprend la logique déontique défaisable, un formalisme déjà utilisé en intelligence artificielle du droit pour représenter obligations et exceptions. Il s'agit à ce stade d'une preuve de concept limitée à une simulation simple, sans robot physique ni environnement complexe, loin des déploiements réels de robots généralistes annoncés par l'industrie. Les auteurs eux-mêmes indiquent que combler les deux écarts identifiés nécessitera une correspondance standardisée entre texte de loi et contrainte de planification, ainsi qu'un ancrage perceptif plus fiable, avant d'envisager un passage à des systèmes réels.
Cette recherche sur la conformité légale des robots alimente les débats européens sur l'encadrement de l'autonomie robotique (AI Act), mais aucun acteur ni déploiement français ou européen n'est implique.
Dans nos dossiers




