Aller au contenu principal
RecherchearXiv cs.RO 

Externalisons la mémoire : une étude préenregistrée sur l'emplacement idéal de l'expérience d'un agent incarné

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Une étude pré-enregistrée publiée sur arXiv compare deux manières de donner de l'expérience à un agent incarné: l'inscrire dans les poids de sa politique, ou la garder à l'extérieur et la récupérer à l'inférence. Un enseignant doté de mémoire, un modèle vision-langage (VLM) qui retrouve des leçons et les images de ses tentatives passées, génère des trajectoires sur une tâche d'atteinte conditionnée par la vision. Les auteurs en distillent des politiques étudiantes par adaptateurs LoRA, évaluées sous protocoles appariés. L'un de ces protocoles rattache le tampon de récupération figé de l'enseignant à des poids d'étudiant fixes. Hypothèses, bras et règles d'analyse ont été enregistrés avant l'entraînement et avant tout calcul de p-valeur. Distiller le comportement augmenté de mémoire dans les poids ne dépasse le contrôle « actions seules » que de 1 point (non significatif). Le test étant sous-dimensionné pour son propre effet minimal, les auteurs retirent l'hypothèse plutôt que de la réfuter. Rattacher la récupération aux poids apporte en revanche +34 points (z=5,15) et atteint la référence de l'enseignant (49,3 %). Le même tampon fait passer le modèle de base sans adaptateur à 48 %, et trois autres adaptateurs de 19-26 % à 53-55 %. Une fois le tampon attaché, l'adaptateur n'apporte rien de détectable.

Ces résultats plaident pour une mémoire traitée comme un composant externe. Elle serait modifiable sans réentraînement, inspectable et réutilisable d'un modèle à l'autre, ce qui compte pour un intégrateur qui voudrait capitaliser sur l'expérience de terrain sans cycle de fine-tuning. L'interprétation, présentée comme exploratoire, est que la distillation transfère la correction « marginale » mais pas la correction conditionnelle, propre à une situation, que seule la récupération fournit. La portée reste limitée. La tâche est un simple atteinte, avec des scores autour de 50 %, très loin de la manipulation industrielle. Sur une seconde tâche, plus difficile, l'avantage de la récupération reste dans le même sens mais n'est pas significatif (+6 points, IC à 95 % [-4,5 ; +16,4]). Les diagnostics exploratoires relient cet affaiblissement à la couverture de la mémoire.

Le courant dominant des modèles vision-langage-action, comme Pi-0, GR00T ou Helix, absorbe l'expérience par données et entraînement. La mémoire par récupération vient plutôt des agents à base de LLM. Il s'agit ici d'un travail de laboratoire: aucun produit, aucun déploiement, aucun acteur industriel, et l'abstract ne précise pas si l'évaluation est simulée ou réelle. Sa valeur est surtout méthodologique, car le pré-enregistrement reste rare en robotique d'apprentissage. Les suites logiques sont des tâches plus difficiles et une meilleure couverture mémoire. Aucun calendrier n'est annoncé.

Impact France/UE

Pas d\'impact direct sur la France/UE

À lire aussi

ProactiveVLA : enrichir la mémoire incarnée par l'exploration proactive de l'environnement
1arXiv cs.RO 

ProactiveVLA : enrichir la mémoire incarnée par l'exploration proactive de l'environnement

ProactiveVLA, un système présenté sur arXiv (2610.06999v1), s'attaque à un problème d'adaptation en déploiement: comment un robot acquiert-il rapidement des connaissances utiles sur les objets, les états et les interactions d'un nouvel environnement à partir d'une expérience limitée. L'architecture associe un agent de raisonnement à un modèle vision-langage-action (VLA) gelé, c'est-à-dire non réentraîné, et s'adapte via le retour d'exécution et une mémoire. Une fois la tâche initiale accomplie, l'agent consacre le budget d'interaction restant à des objectifs qu'il se fixe lui-même: affordances des objets (ce qu'on peut en faire), interactions changeant l'état de l'environnement, et compositions de ces interactions. Il vérifie les résultats de chaque exécution, puis consolide l'expérience dirigée par la tâche comme l'expérience exploratoire dans une mémoire qui guide la planification et le contrôle ultérieurs. À budget de tours égal, le système dépasse les méthodes de référence sur LIBERO-Pro et sur RoboCasa365 Composite-Seen. Sur LIBERO-Pro Goal-T, avec au plus une invocation de primitive VLA autorisée à l'évaluation, il réussit 48 % des instances, contre 19 % pour la meilleure méthode de raffinement de tâche. L'intérêt tient à ce que ces résultats suggèrent sur la manière de dépenser l'expérience. Les approches de référence répètent la tâche cible pour affiner une solution déjà connue, ce qui laisse non testées les interactions pertinentes dès que les conditions changent. Ici, explorer au-delà de la tâche donnée produit des connaissances réutilisables, et l'écart (48 % contre 19 %) indique que la qualité de l'expérience pèse davantage que sa quantité. Pour les intégrateurs, l'enjeu est concret: un VLA généraliste figé, qu'on ne veut ou ne peut pas réentraîner chez le client, pourrait être rendu plus robuste par une couche de mémoire et de planification, sans recalibrage coûteux. Il faut toutefois rester prudent: il s'agit d'un préprint évalué en simulation, sur des benchmarks, sans déploiement physique rapporté dans le résumé. Le chiffre de 48 % vaut pour un réglage restrictif (une seule invocation de primitive) et ne dit rien du temps de cycle ni du coût en interactions de la phase d'exploration, qui reste à documenter. Ce travail s'inscrit dans la tendance des agents de raisonnement qui orchestrent des VLA gelés, par opposition au réglage fin continu de ces modèles. LIBERO-Pro, variante plus exigeante de LIBERO centrée sur des conditions modifiées, et RoboCasa365, benchmark de tâches domestiques composites, servent de terrains d'essai à cette génération de méthodes d'adaptation au déploiement. Le résumé ne nomme ni le VLA sous-jacent ni les auteurs, et ne cite aucun acteur européen. Les prochaines étapes à surveiller sont la publication du code et des détails d'évaluation, une validation sur robot réel, et une mesure du surcoût de l'exploration face au gain de fiabilité, critère décisif pour tout COO envisageant une mise en service sur site.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
Mémoire analytique centrée sur les concepts pour la manipulation incarnée à base d'agents
2arXiv cs.RO 

Mémoire analytique centrée sur les concepts pour la manipulation incarnée à base d'agents

Une équipe de recherche a soumis le 30 juin 2026 sur arXiv (arXiv:2606.29774) un cadre de mémoire structurée pour agents de manipulation robotique à long horizon. Baptisé "analytic concept-centric memory", le système organise l'expérience autour de concepts analytiques : chaque objet est représenté par ses parties sémantiques, des gabarits paramétriques, des poses ancrées dans l'espace, ses affordances et ses états de manipulation. Deux couches supplémentaires complètent l'architecture : une mémoire de transitions enregistrant les effets des actions sur l'état de scène, et une mémoire de compétences (skill memory) stockant des politiques réutilisables ancrées dans ces gabarits. À l'exécution, l'agent effectue une récupération coarse-to-fine pour identifier objets pertinents, états courants et compétences applicables. Les auteurs valident leur approche sur des tâches de manipulation dépendantes de la mémoire, la généralisation à des objets articulés (portes, tiroirs) et une évaluation en environnement réel. La gestion de mémoire reste un goulet d'étranglement critique en manipulation longue durée. Les agents actuels, y compris ceux fondés sur des architectures VLA (Vision-Language-Action), peinent à réutiliser les connaissances acquises lors d'interactions passées, forçant une replanification coûteuse à chaque nouvelle tâche. Ce cadre montre que structurer explicitement la mémoire autour de concepts physiques améliore le taux de complétion de tâches, la précision de récupération, la réidentification d'objets et la généralisation de compétences inter-objets, par rapport aux baselines non structurées et aux représentations vectorielles par embeddings. Pour les intégrateurs industriels, c'est un signal que la réutilisabilité des compétences sans réentraînement complet commence à devenir atteignable, ce qui réduit potentiellement les coûts de déploiement dans des environnements variables. La manipulation robotique à long horizon est un chantier actif chez plusieurs acteurs majeurs : Google DeepMind avec ses architectures RT-2 et SayCan, Physical Intelligence et son modèle Pi-0, Boston Dynamics, ainsi que des laboratoires comme Stanford et ETH Zurich. Ce travail s'inscrit dans une lignée cherchant à concilier planification symbolique structurée et politiques neuronales, deux paradigmes longtemps opposés. Ce preprint n'a pas encore été soumis à revue par les pairs, et les benchmarks restent des environnements de laboratoire contrôlés. La démonstration sur une plateforme industrielle réelle, avec la diversité des objets, le bruit sensoriel et les contraintes temps réel, reste à établir. Les prochaines étapes naturelles incluent l'intégration avec des VLA à grande échelle et l'évaluation sur des manipulateurs ou humanoïdes en contexte de production semi-réelle.

RechercheOpinion
1 source
IA incarnée : de la vidéo passive à une expérience modifiable, une synthèse ancrée dans le réel
3arXiv cs.RO 

IA incarnée : de la vidéo passive à une expérience modifiable, une synthèse ancrée dans le réel

Pegasus, un nouveau framework de recherche présenté sur arXiv (arXiv:2607.26903v1), s'attaque au goulot d'étranglement des données en robotique embarquée : non pas l'architecture des modèles, mais l'accès à des données d'entraînement exploitables. Des milliards de vidéos humaines de manipulation existent déjà en ligne, mais les robots ne peuvent pas s'en servir directement à cause de l'écart de morphologie entre le corps humain et le matériel robotique. Plutôt que d'utiliser ces vidéos comme simples prompts bruts, Pegasus construit une représentation intermédiaire sous forme de graphes : un Task Graph extrait de la vidéo humaine est transformé, via des Affordance et Constraint Graphs, en un Robot Planning Graph qui pilote ensuite la génération de vidéos conditionnées au robot cible. Un espace latent hiérarchique d'affordances modélise la relation entre états des objets, affordances et tâches, ce qui permet de généraliser au-delà des objets vus à l'entraînement. Un vérificateur physique en boucle fermée filtre les générations invalides selon la faisabilité cinématique, les contraintes de collision et les limites articulaires. Le système a été évalué sur les benchmarks de manipulation égocentrique GTEA Gaze+ et EPIC-KITCHENS-100, sur plusieurs morphologies de robots, selon quatre critères : justesse de la tâche, exécutabilité, cohérence d'état et apprenabilité. L'enjeu dépasse la prouesse technique isolée : si la traduction cross-embodiment fonctionne de façon fiable, la collecte de données robotiques cesse d'être un problème de matériel (multiplier les bras et les capteurs pour chaque scénario) pour devenir un problème de transfert de connaissances, potentiellement bien moins coûteux à l'échelle. C'est un angle direct sur le débat actuel autour des modèles VLA (vision-language-action) : la difficulté n'est pas de faire fonctionner l'architecture, mais de nourrir ces modèles en démonstrations diversifiées sans dépendre de téléopération coûteuse robot par robot. Ce travail s'inscrit dans la lignée des efforts récents pour exploiter les vidéos humaines comme source de supervision pour l'apprentissage robotique, un axe de recherche actif face aux approches concurrentes qui misent sur la simulation massive (sim-to-real) ou la téléopération directe pour générer des données. En structurant explicitement la connaissance intermédiaire via des graphes plutôt qu'en s'appuyant sur des modèles génératifs de bout en bout, Pegasus propose une alternative interprétable et vérifiable physiquement, dont la suite logique serait une validation sur du matériel robotique réel au-delà des benchmarks vidéo simulés.

RecherchePaper
1 source
eMEM : un système de mémoire spatio-temporelle hybride pour agents à base d'IA incarnée
4arXiv cs.RO 

eMEM : un système de mémoire spatio-temporelle hybride pour agents à base d'IA incarnée

Une équipe de recherche a déposé sur arXiv (arXiv:2606.03374, juin 2026) un système de mémoire baptisé eMEM (Embodied Memory), conçu spécifiquement pour les agents incarnés opérant dans des environnements physiques. Contrairement aux architectures existantes comme Generative Agents, MemGPT ou A-MEM, qui stockent la mémoire sous forme de flux textuels ou de graphes de connaissances, eMEM propose une architecture multi-index combinant SQLite pour le stockage structuré, hnswlib pour la recherche sémantique par voisins les plus proches (ANN), et un R-tree pour les requêtes spatiales, le tout unifié derrière un modèle de graphe unique. Un pipeline de consolidation par niveaux transforme les observations perceptuelles brutes en résumés compressés, en s'inspirant explicitement de la consolidation hippocampo-néocorticale observée chez les mammifères. Dix outils de rappel, exposés en natif au LLM, couvrent des primitives comme la résolution concept-vers-localisation ou le rappel inter-couches. Le système tourne entièrement en mémoire vive, en co-processus avec l'agent. Sur eMEM-Bench v1, un benchmark construit sur les scènes ProcTHOR-10K autour de huit paradigmes de psychologie cognitive (leurres DRM, séparation de patterns, complétion de patterns, surveillance de source, récupération dépendante du contexte, interférence à long horizon, position sérielle, courbe de rétention augmentée par des distracteurs), eMEM atteint un score pondéré moyen de 80,8 sur 988 sondes, avec une courbe de rétention plate au plafond de 1 heure à 1 an de délai simulé sur des objets uniques par pièce. Ce résultat est significatif parce qu'il isole deux problèmes structurels des approches purement RAG : une baseline flat_rag perd 30 points sur la récupération dépendante du contexte et 29 points sur le rejet des leurres DRM, ce qui valide respectivement la contribution du stockage multi-couches et du pipeline de consolidation. Pour les intégrateurs qui déploient des agents dans des environnements industriels ou domestiques complexes, cela met en évidence un angle mort majeur : un robot ou un agent LLM utilisant une récupération sémantique plate ne peut pas distinguer "le tiroir où j'ai vu les pinces hier dans cette pièce" de "les pinces en général". L'indexation spatiale couplée à la consolidation temporelle est ce qui permet à eMEM de maintenir des performances constantes sur de longues fenêtres simulées, là où les systèmes actuels dégradent. Le choix de benchmarker sur des paradigmes issus de la psychologie cognitive humaine est méthodologiquement solide : il rend les résultats comparables à la littérature sur la mémoire biologique, ce que des benchmarks surfaciques comme LoCoMo ou OpenEQA ne permettent pas. eMEM s'inscrit dans une vague de travaux sur la mémoire à long terme pour agents LLM, portée notamment par Generative Agents (Park et al., 2023) et MemGPT (Packer et al., 2023), qui ont posé les bases mais restent aveugles à la dimension spatiale, critique pour les robots physiques. L'environnement ProcTHOR-10K offre des scènes intérieures procédurales variées, mais les performances en transfert vers des environnements réels restent entièrement à démontrer : le sim-to-real gap s'applique autant aux systèmes de mémoire qu'aux politiques motrices. Le code du système et du benchmark est rendu public, ouvrant la voie à des évaluations indépendantes. Aucun partenariat industriel ni déploiement terrain n'est mentionné : c'est une contribution académique, pas un produit. Les étapes suivantes naturelles seraient de valider eMEM sur des plateformes embarquées à mémoire contrainte et de tester sa robustesse dans des scènes dynamiques où les objets se déplacent entre deux requêtes.

RecherchePaper
1 source