Aller au contenu principal
Vers une intelligence incarnée générale : intégrer modèles de langage, bases de connaissances et raisonnement pour les agents IA de nouvelle générationIllustration générée par IA
RecherchearXiv cs.RO 

Vers une intelligence incarnée générale : intégrer modèles de langage, bases de connaissances et raisonnement pour les agents IA de nouvelle génération

1 source couvre ce sujet·Source originale ↗·

Compilé et résumé par IA · sources vérifiables en un clic · publié sans lecture humaine préalable · méthodologie

Résumé IASource unique

Une équipe de chercheurs publie sur arXiv (référence 2608.19794v1, article de type "cross-listing") un travail de synthèse intitulé "Towards general embodied intelligence: integrating large language models, knowledge bases, and reasoning capabilities to build the next generation of AI agents". Il ne s'agit pas d'un produit ou d'un robot testé en conditions réelles, mais d'une revue conceptuelle qui analyse la convergence entre grands modèles de langage (LLM), bases de connaissances structurées (KB) et capacités de raisonnement (RA), envisagée comme trajectoire vers une intelligence incarnée générale (général embodied intelligence, GEI). Les auteurs passent en revue les architectures de LLM, leurs méthodes de pré-entraînement et leurs mécanismes d'inférence, ainsi que leur articulation avec des sources de connaissances externes et des cadres de raisonnement logique structuré. Ils examinent également les paradigmes d'intelligence incarnée dans lesquels un agent apprend et agit directement dans un environnement physique. Le papier propose un cadre conceptuel censé illustrer la synergie entre LLM, bases de connaissances, raisonnement et incarnation physique, présenté explicitement comme un modèle directeur pour la perception, le raisonnement et l'action, et non comme une architecture d'ingénierie implémentée ou testée.

L'intérêt de ce travail pour l'industrie robotique tient moins à une avancée technique démontrée qu'à la mise en évidence de l'écart persistant entre les promesses des modèles vision-langage-action (VLA) déjà déployés commercialement et les briques encore manquantes pour une véritable autonomie incarnée. En identifiant cinq verrous précis, déploiement efficace des LLM en embarqué, intégration en boucle fermée avec les bases de connaissances, raisonnement hybride symbolique-neuronal, ancrage perception-action, et apprentissage continu, les auteurs formalisent ce que les intégrateurs et décideurs B2B pressentent déjà empiriquement sur le terrain.

Ce type de synthèse s'inscrit dans un mouvement plus large de la recherche académique cherchant à consolider, après plusieurs années de publications éparses sur les agents LLM et la robotique fondée sur les modèles de fondation, une feuille de route commune. Le document ne mentionne ni acteur industriel spécifique ni calendrier de déploiement, et se positionne comme une contribution de cadrage théorique destinée à orienter les travaux futurs plutôt qu'à annoncer un système opérationnel.

À lire aussi

3D-MoE : vers une intelligence spatiale par mélange d'experts pour le raisonnement 3D et la génération d'actions
Illustration générée par IA
1arXiv cs.RO 

3D-MoE : vers une intelligence spatiale par mélange d'experts pour le raisonnement 3D et la génération d'actions

Des chercheurs présentent 3D-MoE, un modèle de vision-langage 3D qui remplace l'architecture Transformer dense habituelle par un mélange d'experts (mixture-of-experts) doté d'un routage probabiliste sensible à la modalité et au contexte spatial, stabilisé par un curriculum de routage dédié. Décrit dans la version 2 d'un papier arXiv (identifiant 2501.16698, soumis initialement en janvier 2025), le travail étend ensuite ce modèle à la robotique en lui greffant une tête d'action par diffusion baptisée Pose-DiT, qui transforme 3D-MoE en modèle vision-langage-action (VLA). Grâce à un cadre de flux rectifié, Pose-DiT génère des poses 6D précises en une seule étape d'échantillonnage, contre les multiples itérations habituellement requises par les têtes d'action à diffusion classiques. Les auteurs rapportent que 3D-MoE dépasse les approches existantes sur plusieurs benchmarks de vision-langage 3D tout en activant nettement moins de paramètres, et obtient de meilleurs taux de réussite sur des tâches de manipulation robotique avec une inférence jugée compatible temps réel. L'enjeu central est le coût de calcul: faire monter en échelle les VLM 3D actuels, tous bâtis sur des Transformers denses, devient prohibitif à mesure que les tâches spatiales se complexifient. En n'activant qu'une fraction des experts du réseau par entrée, le mélange d'experts vise à découpler la taille totale du modèle de son coût réel d'inférence, un principe déjà courant dans les grands modèles de langage mais encore peu appliqué au raisonnement 3D. Pour les intégrateurs et équipes de recherche en robotique, l'intérêt est double: un raisonnement spatial plus riche sans exploser la latence, et une génération d'action en une seule passe qui réduit le temps de cycle par rapport aux approches de diffusion multi-étapes. Les chiffres avancés (paramètres activés, taux de succès) restent ceux des auteurs eux-mêmes, non d'une évaluation tierce, mais l'approche illustre une tendance de fond: convertir un VLM générique en modèle VLA capable de produire directement des commandes de pose exploitables par un bras manipulateur. 3D-MoE s'inscrit dans la vague des modèles vision-langage-action qui cherchent à unifier perception, raisonnement et contrôle moteur dans un même réseau, une piste travaillée par de nombreux laboratoires d'IA incarnée depuis deux ans. L'abstract ne précise ni les benchmarks exacts, ni les auteurs ou institutions, ni de calendrier d'industrialisation: il s'agit à ce stade d'une contribution académique évaluée sur des jeux de données de recherche, non d'un produit ou d'un déploiement commercial. La suite logique pour ce type de travail est une reprise comme brique technique par d'autres équipes académiques, voire par des fabricants de bras manipulateurs ou de robots humanoïdes cherchant à réduire le coût de calcul embarqué de leurs propres modèles VLA.

RechercheOpinion
1 source
ProAct : génération de mouvement en flux continu et raisonnement à base d'agents pour l'interaction sociale incarnée en temps réel
Illustration générée par IA
2arXiv cs.RO 

ProAct : génération de mouvement en flux continu et raisonnement à base d'agents pour l'interaction sociale incarnée en temps réel

Une preprint arXiv révisée (2602.14048v2) présente ProAct, un framework a double système pour l'interaction sociale incarnée en temps réel, déployé sur un robot humanoïde. L'architecture associe un « Systeme Comportemental » a faible latence, qui génère en continu parole, gestes et mouvements, a un « Systeme Cognitif » plus lent, dote d'une mémoire et d'un module de prédiction de la motivation de l'utilisateur, qui analyse dialogue et contexte visuel pour décider quand prendre l'initiative plutôt que réagir. Le mouvement est produit par un modèle en flow-matching conditionne par l'intention, avec une branche ControlNet découplée qui traduit les décisions cognitives en gestes non verbaux sans casser la fluidité de l'interaction. Le framework a été valide par des études utilisateurs réelles, des benchmarks de mouvement et un nouveau benchmark dédié, ProActBench, mais le résume ne fournit aucun chiffre de performance précis. L'enjeu dépasse la démonstration : la plupart des agents conversationnels et robots sociaux restent réactifs, incapables de décider seuls du bon moment pour intervenir, ce qui limite leur naturel pour l'assistance a domicile, l'accueil ou le service client. En couplant raisonnement lent et génération de mouvement rapide, ProAct rejoint une tendance déjà visible chez d'autres acteurs de la robotique incarnée, comme les architectures a deux systèmes de Figure (Helix) ou de NVIDIA (GR00T N1). La validation sur robot physique et utilisateurs réels, plutôt qu'en simulation, va dans le sens d'un rapprochement entre démonstration et usage concret, même si l'absence de métriques chiffrées invite a la prudence sur l'ampleur réelle des gains. Le papier s'inscrit dans un mouvement de recherche plus large sur les architectures cognition-action a deux vitesses, popularisées par les modèles vision-langage-action récents comme Pi-0 ou GR00T N2, ici transposées de la manipulation d'objets vers l'interaction sociale. Aucune entreprise ni laboratoire n'est nomme dans le résume, et aucun calendrier de commercialisation n'est mentionne : il s'agit d'une contribution académique publiée sur arXiv, dont l'apport tient autant au framework ProAct qu'a la création de ProActBench, appelé a devenir une référence pour comparer la proactivité des futurs agents sociaux. Les prochaines étapes attendues relèvent donc de l'adoption par la communauté de recherche plutôt que d'un déploiement commercial immédiat.

RecherchePaper
1 source
Combiner des modèles de langage et le raisonnement symbolique pour la planification temporelle multi-robots via des bases de connaissances explicables
Illustration générée par IA
3arXiv cs.RO 

Combiner des modèles de langage et le raisonnement symbolique pour la planification temporelle multi-robots via des bases de connaissances explicables

Un groupe de chercheurs propose PLANTOR, un framework qui transforme une description en langage naturel d'une tâche multi-robots en un plan d'exécution complet, en s'appuyant sur un grand modèle de langage pour construire une base de connaissances structurée au format Prolog. Le pipeline enchaîne plusieurs étapes : le LLM génère la base de connaissances, des vérifications de cohérence détectent et corrigent les erreurs de modélisation, un planificateur symbolique produit un plan de haut niveau, celui-ci est raffiné en actions robotiques de bas niveau, puis un ordonnancement temporel optimisé est calculé et converti en arbre de comportement (behavior tree) exécutable. Les auteurs ont testé l'approche sur des scénarios inspirés des benchmarks classiques Blocks World et Grippers, avec plusieurs modèles de langage différents, en mesurant la qualité des bases de connaissances générées et le temps d'exécution du pipeline. Ils démontrent aussi une exécution de bout en bout sur un scénario réel d'assemblage impliquant plusieurs bras robotiques. L'intérêt de PLANTOR tient à sa position hybride : plutôt que de confier au LLM la totalité du raisonnement de planification, ce qui pose des problèmes de fiabilité et de traçabilité bien documentés, le framework cantonne le modèle de langage à la synthèse d'artefacts structurés, tandis que le calcul du plan et de l'ordonnancement reste entièrement symbolique et inspectable. Pour des intégrateurs ou des équipes de recherche en robotique multi-agents, cela répond à une critique récurrente des approches purement génératives : l'impossibilité de vérifier pourquoi un plan a été choisi ou de garantir sa correction avant exécution. Les résultats montrent que la génération automatique de bases de connaissances réduit sensiblement l'effort de modélisation manuelle, un goulot d'étranglement classique en planification symbolique, mais les auteurs reconnaissent que les sorties du LLM nécessitent encore, dans certains cas, une correction humaine. Ce travail s'inscrit dans une tendance de recherche plus large qui cherche à combiner l'interprétation du langage naturel des LLM avec la rigueur de la planification symbolique classique, plutôt que de miser sur des architectures VLA de bout en bout ou sur des LLM utilisés seuls comme planificateurs. Contrairement aux démonstrations qui misent sur des vidéos sélectionnées, PLANTOR est évalué sur des benchmarks reproductibles et sur un cas d'usage d'assemblage réel avec plusieurs bras robotiques, ce qui donne une mesure plus concrète de sa robustesse. La publication, une version révisée d'un article initialement soumis en février 2025 sur arXiv, ouvre la voie à des travaux futurs sur l'automatisation complète de la correction des bases de connaissances et sur l'extension à des flottes robotiques plus hétérogènes.

RecherchePaper
1 source
LAW : unifier langage, action et modèle du monde pour une intelligence physique à base d'agents
Illustration générée par IA
4arXiv cs.RO 

LAW : unifier langage, action et modèle du monde pour une intelligence physique à base d'agents

LAW, pour Language, Action and World modeling, est un framework en boucle fermée publié sur arXiv (2610.23334) qui associe un modèle vision-langage (VLM) et un modèle monde-action (WAM, world-action model, capable de prédire conjointement les actions et les états futurs du monde). Le VLM de 2 milliards de paramètres planifie les sous-tâches restantes, estime la valeur des actions proposées par le WAM et les fusionne, puis évalue de façon asynchrone l'état d'exécution pour décider de poursuivre ou de passer à la sous-tâche suivante. Côté WAM, une architecture Mixture-of-Transformer Experts combine calcul spécifique à chaque modalité et calcul partagé pour modéliser conjointement vidéo et actions. Une mémoire visuelle hiérarchique à double flux fournit le contexte temporel aux deux modèles. Sur le benchmark simulé RoboTwin (50 tâches), LAW atteint 94,21 % de réussite moyenne, et 95,56 % avec le backbone OpenWAM-alpha, ce que les auteurs présentent comme un nouvel état de l'art open source. Sur trois tâches longues sur robot réel, il obtient 65 % de réussite moyenne, contre 28,33 % pour pi-0.5 et 25 % pour Fast-WAM. L'intérêt pour l'industrie tient à la manière dont le résultat est obtenu : la planification sémantique est confiée à un petit VLM, qui surpasse des variantes équipées d'Embodied-R1.5 et de GPT-5.5 High. Cela suggère que, pour le pilotage de tâches longues, un modèle spécialisé et léger peut valoir un très grand modèle généraliste, avec des implications sur la latence et le coût d'embarquement. L'apprentissage de valeur par sous-tâche, qui conserve la supervision des préfixes réussis de trajectoires ayant échoué, répond aussi à un problème pratique : exploiter les données d'échec plutôt que les jeter. À nuancer toutefois : RoboTwin est un benchmark simulé, saturé autour de 95 %, et l'évaluation réelle ne porte que sur trois tâches, sans précision ici sur le nombre d'essais ni sur les plateformes. L'écart de 65 % contre 28 % face à pi-0.5 est net, mais reste une comparaison de laboratoire, loin d'un déploiement en production. Ce travail s'inscrit dans la convergence entre modèles VLA (vision-langage-action) comme pi-0.5 de Physical Intelligence et modèles monde-action, qui apprennent à prédire la vidéo future pour guider le contrôle, à l'image de Fast-WAM. Le débat porte sur la meilleure répartition entre raisonnement symbolique, prédiction du monde et génération d'actions. LAW propose une architecture hiérarchique où le langage sert de pivot, une approche proche de celles des systèmes à double vitesse de Figure (Helix) ou de NVIDIA (GR00T). Il s'agit d'un preprint non évalué par des pairs. Les prochaines étapes à surveiller sont la publication du code et des poids, des tests sur davantage de tâches et de plateformes, et une reproduction indépendante.

RecherchePaper
1 source