Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
RecherchearXiv cs.RO 

VISTA : exploration active pour l'auto-amélioration des agents incarnés

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

VISTA, un framework de méta-agent publié sur arXiv (2610.35051), s'attaque à l'amélioration autonome des systèmes d'IA incarnée. Les auteurs partent d'un constat: un agent robotique ne repose pas seulement sur un modèle de fondation pré-entraîné, mais aussi sur son « harness », c'est-à-dire l'échafaudage logiciel qui l'entoure (prompts, outils, logique de reprise sur erreur, orchestration). VISTA maintient un « graphe de harness » qui trace la lignée des versions proposées. Le méta-agent peut ainsi retrouver d'anciennes hypothèses, s'appuyer sur les mécanismes qui ont fonctionné et éviter de réexplorer les impasses. À chaque itération, il part d'une version retenue et de ses traces d'exécution. Il ne se contente pas de les relire: il génère de nouveaux rollouts, sonde les échecs et les comportements de récupération, modifie le harness, puis évalue la version raffinée à neuf avant de l'ajouter au graphe. Les tests portent sur trois benchmarks de simulation, LIBERO-Pro, RoboCasa et RoboTwin. Les auteurs affirment que le taux de succès progresse au fil des itérations, avec moins de rollouts simulés que la réflexion statique.

L'intérêt tient au déplacement du levier d'amélioration. Plutôt que de réentraîner une politique de bout en bout, ce qui coûte cher en données et en calcul, on optimise la couche logicielle qui encadre un modèle figé. Pour un intégrateur, c'est une piste plus accessible: elle peut améliorer un système déployé sans nouvelle collecte de démonstrations. L'efficacité en rollouts compte aussi, car chaque essai, même simulé, a un coût, et sur robot réel il use le matériel et mobilise des opérateurs. Il faut toutefois rester prudent. Les résultats sont uniquement en simulation, donc l'écart sim-to-real n'est pas abordé. Le résumé ne chiffre ni les gains ni le nombre de rollouts économisés. Il ne précise pas non plus les modèles sous-jacents ni les baselines. Il s'agit d'un preprint, sans revue par les pairs ni déploiement industriel.

Ce travail s'inscrit dans la vague des agents qui s'auto-améliorent et de la réflexion post-hoc sur trajectoires, déjà explorée pour les agents logiciels et le code, que VISTA transpose à la manipulation robotique. Il se place en alternative aux approches centrées sur l'entraînement de VLA (vision-language-action) comme Pi-0 ou GR00T, et aux méthodes qui analysent les logs sans retester leurs corrections. Les benchmarks choisis, LIBERO-Pro pour la robustesse, RoboCasa pour les tâches domestiques et RoboTwin pour la manipulation bimanuelle, restent des références académiques, loin des contraintes d'une ligne de production. Les prochaines étapes naturelles seraient une validation sur robot physique, une quantification précise des économies de rollouts et une comparaison directe avec l'apprentissage par renforcement ou l'affinage de politiques.

Impact France/UE

Pas d\'impact direct sur la France/UE

Dans nos dossiers

IA physique & VLANVIDIA GR00TManipulation robotiquearXiv cs.RO

À lire aussi

AdaRSI : auto-amélioration récursive à la demande pour les agents incarnés
1arXiv cs.RO 

AdaRSI : auto-amélioration récursive à la demande pour les agents incarnés

Des chercheurs proposent AdaRSI, un cadre d'auto-amélioration récursive (RSI) « à la demande » pour agents incarnés, décrit dans un preprint arXiv (2610.20474). Le point de départ est connu: les modèles vision-langage-action (VLA) préentraînés échouent souvent en cours de route sur des tâches longues et inédites. Un agent de codage commence par améliorer les compétences et le « harnais » (le code qui orchestre l'exécuteur). Il attribue ensuite les échecs persistants en rejouant les sous-étapes défaillantes depuis des états sauvegardés. Il n'affine alors que les sous-étapes qui restent peu fiables, avec des démonstrations qu'il collecte lui-même et l'expérience accumulée sur les tâches précédentes. Testé sur les 50 tâches cibles de RoboCasa365, avec GR00T N1.5 comme exécuteur et sans aucune démonstration humaine, AdaRSI améliore le VLA sur les trois suites. Le taux de réussite sur les tâches composites inédites passe de 4,6 % à 13,8 %. Face à un affinage systématique de toutes les sous-étapes, il obtient un succès légèrement supérieur avec 28 % du temps GPU et 22 % des démonstrations auto-collectées. L'affinage sans harnais utilise davantage de données pour un gain bien moindre. L'intérêt tient à la question posée: à quel moment un système qui s'améliore seul doit-il toucher aux poids de son exécuteur? Les méthodes existantes tranchent par principe. Soit elles ne retouchent que le harnais et ne peuvent donc pas ajouter un mouvement manquant. Soit elles entraînent sur chaque échec sans distinguer un mauvais appel d'une vraie limite de capacité. Séparer ces deux causes réduit nettement le coût d'adaptation, ce qui compte pour tout intégrateur qui devrait spécialiser un VLA sur un site sans équipe de téléopération. Il faut toutefois relativiser. 13,8 % de réussite reste très bas pour un usage industriel. Le résultat est obtenu en simulation, sur un benchmark de cuisines domestiques, et rien n'indique encore un transfert vers le monde réel. Le gain en efficacité (28 % du GPU, 22 % des données) est en revanche le résultat le plus solide, car il est mesuré face à une base de comparaison directe. Le texte ne précise pas la variance entre tâches ni le coût de l'agent de codage lui-même. Ce travail s'inscrit dans la vague de l'auto-amélioration récursive appliquée à la robotique, qui transpose aux corps physiques ce que les agents de codage font déjà pour le logiciel. Il s'appuie sur GR00T N1.5, le modèle de fondation de NVIDIA pour humanoïdes, et sur RoboCasa, benchmark de manipulation domestique en simulation. Les approches concurrentes cherchent à réduire la dépendance aux démonstrations humaines, que ce soit par données synthétiques, apprentissage par renforcement ou boucles de correction autonomes. Il s'agit d'un preprint, sans revue par les pairs, et aucun code ni déploiement physique n'est annoncé dans le résumé. La suite logique serait une validation sur robot réel et sur des exécuteurs plus récents, comme GR00T N2 ou Pi-0, pour vérifier que l'attribution des échecs tient hors simulation.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
Reconstruire, s'entraîner, passer au réel : l'auto-amélioration guidée des agents incarnés
2arXiv cs.RO 

Reconstruire, s'entraîner, passer au réel : l'auto-amélioration guidée des agents incarnés

Des chercheurs proposent Reconstruct, Practice, Go Real (RPG), un cadre d'amélioration autonome des systèmes d'exécution robotique qui ne touche à aucun poids de modèle. À partir d'un jeu de données hors ligne, RPG identifie les capacités de manipulation présentes et construit en simulation des tâches d'entraînement apparentées. Pendant cette phase de pratique, le système exploite les retours d'exécution, l'état privilégié du simulateur et les vidéos disponibles du jeu de données pour diagnostiquer les échecs. Il en tire de nouvelles compétences symboliques réutilisables, affine les compétences existantes et réécrit le prompt système. Chaque modification candidate, seule ou fusionnée avec d'autres, est testée sur plusieurs tâches avant d'être conservée. Au déploiement, un LLM multimodal s'appuie sur ce prompt et cette bibliothèque de compétences pour coordonner perception et contrôle. Sur 22 tâches de manipulation, avec des initialisations non vues, le taux de réussite passe de 28,6 % après le premier cycle de pratique à 95,0 % après 15 cycles. Les références testées sont dépassées : ASPIRE atteint 75,5 % et CaP-Agent0, piloté par GPT-6 Astra Pro, 60,0 %. Après une calibration et une adaptation matérielle communes, le système figé réussit les 30 essais physiques, soit dix essais sur chacune de trois tâches. L'intérêt tient à l'approche : l'amélioration passe par du code, des compétences et des prompts, pas par du réentraînement. Pour un intégrateur, cela rend le processus plus auditable et plus facile à versionner, puisque chaque compétence ajoutée est lisible et validée en simulation avant d'être retenue. Cela s'attaque directement au coût humain de la mise au point des compétences, des fonctions de récompense et de l'intégration perception-contrôle. La progression de 28,6 % à 95,0 % suggère aussi que le goulot d'étranglement des agents pilotés par LLM se situe moins dans le modèle que dans la qualité des compétences et des instructions qui l'entourent. Il faut toutefois relativiser. Les 30 essais réels, sur trois tâches seulement, forment un échantillon très mince comparé aux 22 tâches simulées. Ils interviennent après une phase de calibration et d'adaptation matérielle dont le coût n'est pas détaillé dans le résumé. Le transfert sim-to-real reste donc plus plausible que démontré à l'échelle. Ces travaux s'inscrivent dans la lignée des approches « code as policies », où un LLM compose des primitives de contrôle, et des méthodes d'auto-amélioration par bibliothèque de compétences, dont ASPIRE est ici le meilleur concurrent évalué. Ils se distinguent des modèles vision-langage-action (VLA) de type Pi-0 ou GR00T, qui font évoluer l'ensemble par réentraînement de poids. Les auteurs n'annoncent ni produit ni partenaire industriel. Les prochaines étapes à surveiller sont une validation sur davantage de tâches physiques, sur des manipulations plus riches et sur d'autres plateformes. La comparaison avec des VLA entraînés sur les mêmes données serait aussi utile. Le site du projet, rpg-robot.github.io, sert de point d'entrée pour vérifier les résultats.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
ASENA : des agents auto-évolutifs pour la navigation de l'IA incarnée
3arXiv cs.RO 

ASENA : des agents auto-évolutifs pour la navigation de l'IA incarnée

Des chercheurs publient ASENA, un système d'agent incarné qui relie des agents de codage généralistes aux capteurs, au calcul, à l'exécution supervisée et à une mémoire persistante d'un robot. L'agent écrit et exécute des programmes, relit les résultats enregistrés, corrige ses échecs et réutilise des notes et des compétences exécutables, le tout sans modifier les poids du modèle. Le système s'accompagne d'ASENA-VLN, une politique de navigation monoculaire de 4 milliards de paramètres, proposée comme outil optionnel. Elle prédit des trajectoires dans le repère du corps, pour des itinéraires longs comme pour des comportements à court horizon, grâce à un décodeur vision-langage unique. Celui-ci est entraîné sur des instructions de parcours, des questions-réponses visuelles et un nouveau jeu de tâches de navigation « atomiques » dérivées de la géométrie. Seule, la politique atteint 68,7 % de succès sur R2R et 70,2 % sur RxR, ce que les auteurs présentent comme l'état de l'art. Couplée à l'agent de codage, elle ajoute 11 points de succès sur les deux benchmarks agentiques tout en réduisant le temps d'exécution. Dix passes sur des sous-ensembles récurrents de 100 tâches, avec retour du simulateur, font passer le succès de 72 % à 98 % sur R2R et de 65 % à 89 % sur RxR. En question-réponse incarnée, ASENA annonce aussi la meilleure précision, avec moins d'étapes d'interaction. Des démonstrations réelles sur un Unitree G1 combinent recherche, inspection visuelle, raisonnement spatial et gestes synthétisés, sans carte préalable. L'intérêt tient moins au score de navigation qu'à l'architecture. Ici, l'amélioration ne passe pas par un réentraînement : elle vient de la mémoire de l'agent (notes, scripts, compétences), ce qui rapproche le robot d'un logiciel qu'on débogue que d'un modèle qu'on affine. Pour un intégrateur, cela ouvre la voie à une adaptation d'un site à l'autre sans cycle de collecte de données ni de fine-tuning. Il faut toutefois lire les gains avec prudence. Le passage de 72 % à 98 % est mesuré sur des sous-ensembles de 100 tâches rejouées dix fois avec retour du simulateur : cela ressemble davantage à une mémorisation de tâches récurrentes qu'à une généralisation à des environnements inédits. Les résultats chiffrés restent obtenus en simulation, et les démonstrations sur G1 sont qualitatives, sans taux de réussite, durée ni nombre d'essais publiés. L'écart entre démonstration et fiabilité en conditions réelles reste donc entier. Ce travail s'inscrit dans deux tendances qui convergent : les politiques vision-langage-action pour la navigation, évaluées sur R2R et RxR, et les agents de codage appliqués à la robotique, où le LLM génère du code plutôt que des commandes bas niveau. En faisant de la politique apprise un simple outil parmi d'autres, ASENA se positionne à l'opposé des approches de bout en bout comme Pi-0 ou GR00T, qui concentrent tout dans un seul modèle. Le G1 de Unitree, plateforme humanoïde à bas coût largement répandue en recherche, sert de support. Il s'agit d'une prépublication arXiv (v1), non évaluée par les pairs. Le code, les jeux de données et d'éventuels tests hors simulation seront les vrais juges de la portée du système.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
Machines de Turing incarnées : du code avec état pour l'auto-amélioration récursive des robots
4arXiv cs.RO 

Machines de Turing incarnées : du code avec état pour l'auto-amélioration récursive des robots

Des chercheurs proposent de retirer tout modèle de la boucle de contrôle d'un robot et de confier chaque décision à du code classique. Leur papier, publié sur arXiv (2610.12369), introduit le paradigme Code-Only-as-Policy (COAP). Le code mesure et suit en continu l'état du robot, de l'environnement et de la tâche à partir des images caméra et de la proprioception, puis prend chaque décision à partir de cet état. La même bibliothèque s'applique d'un épisode à l'autre, et plusieurs tâches la partagent, sans VLA (modèle vision-langage-action) ni VLM interrogé à l'exécution. Sur RoboDojo, un banc de 42 tâches bimanuelles, la bibliothèque produite atteint 70,24 % de réussite sans aucun modèle au moment du test. Le papier ne détaille pas, dans son résumé, le matériel, les temps de cycle ni les conditions de test, et il s'agit pour l'instant d'un résultat de recherche et non d'un produit. Le cadre théorique est celui d'une « machine de Turing incarnée » : le ruban correspond à l'état du robot et de son environnement, et les règles correspondent à la politique. Si cet état est représenté avec précision, la décision peut s'écrire entièrement en code. Les auteurs mettent en avant trois avantages face aux VLA et aux « Agent Harness » (Agent-as-Policy, Harness VLA), où un VLM est sollicité en ligne. Premièrement, l'état est explicite et stockable dans le code. Deuxièmement, l'exécution est contrôlable, récupère les échecs de façon flexible et tourne vite et à bas coût. Troisièmement, les nouvelles tâches réutilisent, héritent ou étendent la bibliothèque commune, ce qui permet de cumuler les capacités. L'intérêt pour l'industrie est double. Pour un intégrateur ou un COO, une politique déterministe, auditable et sans appel à un modèle distant répond à des exigences de latence, de coût d'inférence et de traçabilité que les VLA remplissent mal. Chaque modification du code est explicite et vérifiable, à l'inverse d'un réentraînement opaque. Ensuite, le papier propose ce qu'il appelle l'auto-amélioration récursive : des agents de code développent la bibliothèque en boucle fermée. Reste à nuancer : 70,24 % signifie près de 30 % d'échecs, ce qui reste loin des seuils de production, et les auteurs admettent que le plafond dépend de la précision de l'estimation d'état et de la robustesse de la logique. La perception reste donc le goulot d'étranglement, et la généralisation hors benchmark n'est pas démontrée. Ce travail s'inscrit dans le débat entre politiques apprises de bout en bout (famille Pi-0, GR00T, Helix) et architectures d'agents où un VLM planifie à l'exécution. COAP revient à une approche proche de la robotique classique, mais avec des agents de code qui écrivent et font évoluer la bibliothèque. Les auteurs suggèrent aussi d'utiliser COAP comme moteur de génération de données pour entraîner des VLA et alimenter des Agent Harness, ce qui en ferait un complément plutôt qu'un concurrent. Aucun calendrier de déploiement ni partenaire industriel n'est annoncé.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source