Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
RecherchearXiv cs.RO 

TinyAstral : transférer des harnais auto-évolutifs vers de petits agents de manipulation généralistes

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

TinyAstral est une méthode en deux étapes publiée en preprint sur arXiv (v1, non évaluée par des pairs). Elle cherche à transférer les gains d'un « harnais » vers un petit agent de manipulation. Le harnais regroupe les outils, les retours d'information, la mémoire et la logique de récupération d'erreur qui entourent un planificateur fondé sur un modèle vision-langage. Les auteurs gèlent d'abord un modèle enseignant à poids ouverts et améliorent son harnais par auto-amélioration récursive. Des agents LLM de pointe lisent les trajectoires de l'enseignant et proposent des modifications, et chacune n'est retenue que si elle passe un test statistique apparié. Le harnais final est ensuite figé. Les auteurs collectent des trajectoires de l'enseignant, avec raisonnement et récupération d'échecs, puis distillent un étudiant de 4 milliards de paramètres qui le remplace dans le même harnais. Sur le benchmark simulé RoboTwin, le taux de succès de l'enseignant passe de 33,4 % à 63,6 %, et l'étudiant 4B atteint 62,8 %. Sur des épisodes identiques, il dépasse les agents 4B ouverts, le modèle 27B SenseNova-RoboRSI et son propre enseignant placé dans les harnais de trois concurrents. Il consomme environ un cinquième du temps d'accélérateur de l'enseignant sur les épisodes de déploiement mesurés.

L'intérêt tient à ce que l'essentiel de la performance se loge dans l'échafaudage autour du modèle plutôt que dans ses poids. Cet échafaudage peut être optimisé automatiquement, puis compressé. Pour un intégrateur, cela suggère qu'un planificateur compact peut approcher un modèle très supérieur en taille. Sur trois benchmarks jamais utilisés pour l'optimisation ni l'entraînement, l'étudiant reste proche d'un planificateur de 552 milliards de paramètres exécuté dans le même harnais. Le coût d'inférence, souvent le frein au déploiement embarqué, baisse donc nettement. Les gains du harnais se transfèrent aussi à d'autres planificateurs figés sans réentraînement.

Il faut toutefois relativiser. Les résultats viennent de benchmarks simulés, sans validation sur robot physique dans le résumé, et le gain d'accélérateur ne vaut que pour les épisodes mesurés par les auteurs. Le travail s'inscrit dans la montée de l'ingénierie de harnais et de l'auto-amélioration d'agents, que SenseNova-RoboRSI illustre déjà à 27B, face aux modèles VLA de bout en bout. La suite logique est un test sur matériel réel et sur des tâches industrielles à plus long horizon.

Dans nos dossiers

arXiv cs.RO

À lire aussi

Des planificateurs VLM aux agents robotiques : des harnais auto-évolutifs pour la manipulation dépendante de l'historique
1arXiv cs.RO 

Des planificateurs VLM aux agents robotiques : des harnais auto-évolutifs pour la manipulation dépendante de l'historique

Des chercheurs proposent SERA (Self-Evolving Robotic Agent), un cadre qui transforme le modèle vision-langage (VLM) chargé de la planification de haut niveau en véritable agent robotique, piloté par un « harnais » éditable. Ce harnais conserve le contexte de la tâche, met à jour cette mémoire à partir des observations et des retours d'exécution, puis s'en sert pour guider les décisions suivantes. L'exécution de bas niveau reste confiée à un modèle vision-langage-action (VLA) fixe, c'est-à-dire un modèle qui convertit directement images et instructions en commandes moteur. Le mécanisme d'auto-évolution s'appuie sur des déroulements en environnement pour proposer et évaluer des révisions du harnais. La configuration retenue est figée avant les tests sur données mises de côté. Sur le benchmark RoboMME, SERA atteint 51,38 % de succès global avec sélection autonome, contre 44,38 % sans auto-évolution, soit un gain de 7 points. Il s'agit d'un travail de recherche (prépublication arXiv), sans déploiement industriel ni produit associé. L'enjeu porte sur une limite connue des VLA : les tâches longues dépendent souvent de l'historique, car il faut se rappeler l'avancement, le résultat des interactions passées, et composer avec l'observabilité partielle et l'accumulation des erreurs d'exécution. Ces dépendances dites non markoviennes mettent en difficulté les politiques qui ne regardent que l'état courant. Les résultats suggèrent qu'améliorer le contexte et la logique du planificateur, sans réentraîner le contrôleur bas niveau, peut apporter un gain mesurable. Pour un intégrateur, c'est une piste intéressante, car ajuster un harnais est moins coûteux que réentraîner un VLA. Il faut toutefois rester prudent : un taux de succès d'environ 51 % reste loin d'une fiabilité exploitable en production, la comparaison porte sur un seul benchmark, et le gain dépend de la qualité de l'exécuteur figé. Les auteurs parlent d'une direction prometteuse, pas d'un problème résolu. Ce travail s'inscrit dans deux lignes de recherche déjà engagées : l'ajout de mémoire aux politiques fondées sur des modèles de fondation, et les architectures hiérarchiques qui séparent planification de haut niveau et exécution de bas niveau, comme celles que l'on trouve dans plusieurs systèmes de VLA récents. La nouveauté revendiquée tient à la manière de traiter le VLM comme un agent, avec un harnais qui évolue à partir de l'expérience d'exécution, sur le modèle des agents logiciels auto-améliorants. Le résumé ne précise ni le VLA utilisé, ni les modes d'échec restants, ni le coût de l'étape d'évolution en nombre de rollouts. Ces points seront à vérifier dans l'article complet, tout comme une éventuelle validation sur robot réel, absente de l'abstract.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
LIBERO-Agent : évaluation d'agents généralistes pour la manipulation incarnée directe
2arXiv cs.RO 

LIBERO-Agent : évaluation d'agents généralistes pour la manipulation incarnée directe

Des chercheurs publient sur arXiv LIBERO-Agent, un benchmark qui teste si les agents généralistes savent piloter directement un robot manipulateur. Ces agents planifient, utilisent des outils et corrigent leur comportement à partir de retours. Les approches existantes leur demandent soit de soumettre un programme Python de contrôle pour toute la tâche, soit d'appeler des compétences robotiques de haut niveau. Ici, l'agent évolue dans un environnement interactif. Il choisit les observations à consulter, les traite avec ses propres outils et émet des commandes d'action natives. Le benchmark réunit 200 tâches dans un cadre commun. Sa suite principale compte 30 tâches, réparties pour isoler la perception, l'exécution à court horizon et la composition à long horizon. Les agents réussissent bien la perception et les tâches courtes faciles, mais leurs scores chutent nettement sur les tâches courtes difficiles et sur les séquences longues. GPT-6 Astra obtient la meilleure performance globale. Le résultat nuance l'idée que les capacités agentiques acquises dans les environnements numériques se transfèrent mécaniquement au monde physique. Le goulot d'étranglement est la fiabilité, pas la compréhension de la scène. Pour un intégrateur ou un COO industriel, un agent généraliste n'est donc pas, en l'état, un substitut crédible à un modèle VLA (vision-langage-action) entraîné sur des données d'action. Les auteurs notent que des observations plus riches améliorent la manipulation à court horizon, alors que l'effet des démonstrations dépend de l'agent et du format. L'avantage de GPT-6 Astra tient surtout à l'interaction avec des mécanismes, en particulier quand un contact physique prolongé est nécessaire. Ses échecs restants viennent d'interférences entre étapes successives et d'erreurs géométriques. Ce travail s'inscrit dans la course entre deux voies. La première est celle des VLA spécialisés comme Pi-0, GR00T N2 ou Helix, entraînés sur des données de manipulation. La seconde consiste à réutiliser des modèles généralistes comme agents. LIBERO-Agent est un outil d'évaluation, pas un produit ni un déploiement. Le résumé ne précise ni matériel réel, ni temps de cycle, ni coût d'inférence, ni comparaison directe avec les VLA, des données indispensables avant toute lecture industrielle. La suite logique est l'adoption du benchmark par d'autres laboratoires et sa confrontation aux modèles robotiques dédiés.

RecherchePaper
1 source
ASENA : des agents auto-évolutifs pour la navigation de l'IA incarnée
3arXiv cs.RO 

ASENA : des agents auto-évolutifs pour la navigation de l'IA incarnée

Des chercheurs publient ASENA, un système d'agent incarné qui relie des agents de codage généralistes aux capteurs, au calcul, à l'exécution supervisée et à une mémoire persistante d'un robot. L'agent écrit et exécute des programmes, relit les résultats enregistrés, corrige ses échecs et réutilise des notes et des compétences exécutables, le tout sans modifier les poids du modèle. Le système s'accompagne d'ASENA-VLN, une politique de navigation monoculaire de 4 milliards de paramètres, proposée comme outil optionnel. Elle prédit des trajectoires dans le repère du corps, pour des itinéraires longs comme pour des comportements à court horizon, grâce à un décodeur vision-langage unique. Celui-ci est entraîné sur des instructions de parcours, des questions-réponses visuelles et un nouveau jeu de tâches de navigation « atomiques » dérivées de la géométrie. Seule, la politique atteint 68,7 % de succès sur R2R et 70,2 % sur RxR, ce que les auteurs présentent comme l'état de l'art. Couplée à l'agent de codage, elle ajoute 11 points de succès sur les deux benchmarks agentiques tout en réduisant le temps d'exécution. Dix passes sur des sous-ensembles récurrents de 100 tâches, avec retour du simulateur, font passer le succès de 72 % à 98 % sur R2R et de 65 % à 89 % sur RxR. En question-réponse incarnée, ASENA annonce aussi la meilleure précision, avec moins d'étapes d'interaction. Des démonstrations réelles sur un Unitree G1 combinent recherche, inspection visuelle, raisonnement spatial et gestes synthétisés, sans carte préalable. L'intérêt tient moins au score de navigation qu'à l'architecture. Ici, l'amélioration ne passe pas par un réentraînement : elle vient de la mémoire de l'agent (notes, scripts, compétences), ce qui rapproche le robot d'un logiciel qu'on débogue que d'un modèle qu'on affine. Pour un intégrateur, cela ouvre la voie à une adaptation d'un site à l'autre sans cycle de collecte de données ni de fine-tuning. Il faut toutefois lire les gains avec prudence. Le passage de 72 % à 98 % est mesuré sur des sous-ensembles de 100 tâches rejouées dix fois avec retour du simulateur : cela ressemble davantage à une mémorisation de tâches récurrentes qu'à une généralisation à des environnements inédits. Les résultats chiffrés restent obtenus en simulation, et les démonstrations sur G1 sont qualitatives, sans taux de réussite, durée ni nombre d'essais publiés. L'écart entre démonstration et fiabilité en conditions réelles reste donc entier. Ce travail s'inscrit dans deux tendances qui convergent : les politiques vision-langage-action pour la navigation, évaluées sur R2R et RxR, et les agents de codage appliqués à la robotique, où le LLM génère du code plutôt que des commandes bas niveau. En faisant de la politique apprise un simple outil parmi d'autres, ASENA se positionne à l'opposé des approches de bout en bout comme Pi-0 ou GR00T, qui concentrent tout dans un seul modèle. Le G1 de Unitree, plateforme humanoïde à bas coût largement répandue en recherche, sert de support. Il s'agit d'une prépublication arXiv (v1), non évaluée par les pairs. Le code, les jeux de données et d'éventuels tests hors simulation seront les vrais juges de la portée du système.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
Re³Sim : générer des données de simulation photoréalistes en 3D par transfert réel-vers-simulation pour la manipulation robotique
4arXiv cs.RO 

Re³Sim : générer des données de simulation photoréalistes en 3D par transfert réel-vers-simulation pour la manipulation robotique

Cette annonce arrive du côté recherche académique plutôt que de l'industrie commerciale : une équipe présente RE³SIM, un système de simulation photoréaliste en 3D destiné à combler l'écart entre entraînement simulé et déploiement réel en robotique manipulatrice. Publié sur arXiv (version 4, remplaçant une précédente), le papier décrit un pipeline qui reconstruit fidèlement des scènes réelles grâce à des techniques avancées de reconstruction 3D et de rendu neuronal, permettant un rendu en temps réel de caméras virtuelles multi-angles au sein d'un simulateur physique. En s'appuyant sur des informations privilégiées pour générer efficacement des démonstrations expertes en simulation, puis en entraînant des politiques robotiques par apprentissage par imitation, les chercheurs rapportent un taux de réussite moyen supérieur à 58% en transfert "zero-shot" vers le réel, c'est-à-dire sans aucune donnée réelle utilisée pour l'entraînement, uniquement des données simulées. Ils ont aussi constitué un jeu de données de simulation à grande échelle pour tester la généralisation des politiques apprises sur des objets variés. Le résultat compte parce qu'il s'attaque directement à l'un des goulots d'étranglement les plus coûteux du secteur : la collecte de données réelles pour entraîner des robots manipulateurs, qui exige des opérateurs qualifiés et du matériel onéreux. Si le fossé sim-to-real (géométrique et visuel) peut être réduit de manière fiable grâce à des reconstructions photoréalistes plutôt qu'à des environnements simulés génériques, cela change la donne pour les intégrateurs et les équipes de R&D qui cherchent à multiplier les scénarios d'entraînement sans multiplier les essais physiques. Un taux de 58% en zero-shot reste toutefois modeste comparé aux standards de fiabilité industrielle, et mérite d'être lu comme une preuve de concept académique plutôt qu'une solution prête à l'emploi pour la production. RE³SIM s'inscrit dans la lignée des travaux récents sur les politiques vision-langage-action (VLA) et les pipelines d'apprentissage par imitation, un axe de recherche également poursuivi par des acteurs comme Physical Intelligence (Pi-0) ou NVIDIA (GR00T). La démarche real-to-sim-to-real, où l'on capture d'abord le monde réel avant de simuler dessus, distingue cette approche des simulateurs purement synthétiques et pourrait influencer les futurs outils de génération de données pour l'entraînement de robots. Le code et des démonstrations sont disponibles sur le site du projet (re3sim.github.io), signe que l'équipe cherche une adoption élargie par la communauté robotique plutôt qu'une simple publication isolée.

RecherchePaper
1 source