Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
RecherchearXiv cs.RO 

RoboDoctor : l'auto-amélioration récursive des politiques de robots, sans entraînement

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

RoboDoctor est un cadre logiciel décrit dans une prépublication arXiv, qui cherche à améliorer le comportement d'une politique robotique pendant l'exécution, sans réentraînement et avec des poids de modèle figés. Il associe une politique généraliste de manipulation à un agent fondé sur un modèle de langage. Un « harnais » répartit le contrôle entre les deux. Un module d'intervention décide quand l'agent doit aider, en conservant les comportements utiles de la politique. Un module d'opération affine les méthodes physiques, par exemple la saisie, d'après les effets observés. Des fiches d'expérience liées enregistrent la raison d'une décision, la méthode tentée, son résultat et les conditions de réutilisation. L'évaluation porte sur une archive sélectionnée de 54 entrées de tâches du benchmark RoboDojo-Sim, donc en simulation. Le système obtient un score moyen de 57,10 sur cinq dimensions et un taux de réussite natif de 49,44 %. Les auteurs illustrent le résultat par des interactions enregistrées, qui montrent des changements de stratégie, des corrections sélectives et des révisions de prise.

Le travail déplace l'adaptation du moment de l'entraînement vers celui de l'exécution. Pour un intégrateur, l'idée est séduisante: corriger une politique VLA (vision-langage-action) à partir des conséquences physiques réelles, sans collecte de données ni fine-tuning, réduirait le coût de mise au point sur site. Les chiffres imposent toutefois de la prudence. Un taux de réussite proche de 50 % sur une archive curatée, uniquement en simulation, ne dit rien de la fiabilité exigée en production. Les auteurs reconnaissent eux-mêmes que des essais contrôlés restent nécessaires pour isoler l'apport de l'expérience accumulée d'un épisode à l'autre, ce qui est précisément la promesse centrale. Les exemples qualitatifs montrent des mécanismes plausibles, pas une preuve de gain.

Le contexte est celui de politiques généralistes comme Pi-0, GR00T ou Helix, performantes en démonstration mais fragiles face aux écarts du monde réel, et d'agents LLM capables de planifier mais mal ancrés dans la physique. RoboDoctor se place entre les deux, dans la lignée des approches d'auto-amélioration par mémoire et réflexion. Aucun pilote industriel ni calendrier n'est annoncé, et le travail relève de la recherche, pas d'un produit. La suite logique sera des ablations contrôlées sur la mémoire inter-épisodes, puis un transfert sur robot physique, seul test capable de confirmer l'intérêt du cadre.

Dans nos dossiers

IA physique & VLANVIDIA GR00TarXiv cs.RO

À lire aussi

EmbodiRSI : l'auto-amélioration récursive pour une adaptation des robots économe en données
1arXiv cs.RO 

EmbodiRSI : l'auto-amélioration récursive pour une adaptation des robots économe en données

Des chercheurs publient sur arXiv EmbodiRSI, un système « agentique » d'auto-amélioration récursive (RSI) pour adapter des politiques de manipulation robotique à de nouvelles tâches et environnements. Le principe repose sur une boucle « real-to-sim-to-real » : une simulation spécifique à la tâche est construite à partir du scénario de déploiement cible, puis sert d'environnement peu coûteux pour améliorer la politique par itérations avant son retour sur le robot physique. Deux mécanismes ferment la boucle. La Collaborative Error Correction génère, avec l'aide d'un agent, des trajectoires correctives à partir des états que la politique a réellement atteints. L'Adaptive Data Collection oriente la génération de démonstrations expertes vers les faiblesses actuelles de la politique. Sur trois environnements de table et 14 sous-tâches, le taux de réussite autonome en simulation, équilibré par scène, passe de 50,4 % à 83,5 % en deux mises à jour RSI. Avec 400 trajectoires simulées adaptatives et seulement dix trajectoires réelles de raffinement par sous-tâche, le système atteint 83,1 % de réussite réelle, contre 75,0 % pour une adaptation à partir de 200 démonstrations réelles par sous-tâche. L'enjeu est le coût de la donnée, principal goulot d'étranglement du déploiement de politiques de type VLA ou d'imitation chez les intégrateurs. Ici, le volume de données réelles est divisé par vingt (10 contre 200 démonstrations par sous-tâche) pour un résultat supérieur de plus de huit points. Si ce résultat se confirme, la simulation spécifique au site cesse d'être un simple banc d'essai et devient un espace de travail réutilisable pour le préchauffage, l'évaluation répétable, le diagnostic des échecs et la génération ciblée de données. Cela réduit la dépendance à la téléopération, coûteuse en main-d'œuvre. Le résultat nuance aussi l'idée que le sim-to-real exige une simulation généraliste : une simulation étroite, construite pour un seul déploiement, peut suffire. Des réserves s'imposent toutefois. Les tâches sont de la manipulation sur table, le nombre de sous-tâches est limité, la fidélité de la reconstruction de scène n'est pas détaillée dans le résumé, et aucun temps de cycle, taux de panne ni coût de construction de la simulation n'est donné. Le travail reste une prépublication, sans pilote industriel annoncé. Ce travail s'inscrit dans la poussée actuelle vers l'adaptation efficace en données des politiques généralistes, alors que le fine-tuning post-entraînement par démonstrations réelles reste la pratique dominante. Il rejoint les approches de reconstruction de scènes pour la simulation (real-to-sim), de génération de données synthétiques et de boucles d'amélioration pilotées par des agents, explorées par les grands laboratoires et les équipes derrière des modèles comme Pi-0 ou GR00T. L'originalité tient au pilotage de la collecte par les échecs observés de la politique, plutôt qu'à une génération de données uniforme. Les prochaines étapes à surveiller sont la validation sur des tâches plus longues et sur des objets déformables ou en contact riche, la réplication par des tiers, la publication du code et des benchmarks, et surtout un test en conditions industrielles, où la variabilité des scènes dépasse largement celle d'un plateau de laboratoire.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
Vers l'auto-amélioration récursive de l'IA physique
2arXiv cs.RO 

Vers l'auto-amélioration récursive de l'IA physique

Un article de position publié sur arXiv (v1, référence 2610.29677) transpose à la robotique physique le concept d'auto-amélioration récursive (RSI). Il désigne un système qui améliore non seulement son comportement, mais aussi le processus par lequel il s'améliore. Les auteurs partent des agents numériques récents, qui réécrivent leur propre code et valident chaque version par des tests exécutables. Ils examinent ensuite ce qu'exige le passage au monde réel: apprendre à partir d'observations partielles, par des essais coûteux, dans des conditions d'exploitation changeantes et avec des conséquences parfois irréversibles. Selon la revue de littérature, les travaux existants, concentrés sur la manipulation, démontrent une amélioration du comportement, des bénéfices pour l'apprentissage ultérieur et une amélioration des procédures. Certains systèmes modifient aussi les connaissances ou les outils de l'« améliorateur ». Aucune étude physique recensée n'isole pourtant un gain attribuable à la récursion elle-même. Le texte ne rapporte ni nouveau robot, ni déploiement, ni métrique de performance. Le texte pose quatre conditions pour qu'un gain se transmette d'un cycle à l'autre. Le retour d'information doit répondre aux besoins d'apprentissage restants. Le composant récepteur doit pouvoir exploiter le changement. La valeur du gain doit survivre à un changement de tâche ou de matériel. La pratique continue doit rester sûre et abordable. Pour les intégrateurs et les décideurs industriels, ce cadre tempère les récits de robots qui « s'améliorent seuls » en production: les preuves actuelles montrent de l'apprentissage incrémental classique, pas une boucle récursive démontrée. Il fournit aussi une grille de lecture pour juger les annonces de flottes apprenantes, en demandant si le gain vient bien de l'amélioration du processus d'amélioration, ou simplement de davantage de données. Les principes d'évaluation proposés visent à rendre ces affirmations vérifiables par des ablations. Ce travail s'inscrit dans un mouvement où les agents de code autonomes ont popularisé l'idée de boucles d'auto-modification validées par des tests, un luxe que le monde physique n'offre pas: pas de test unitaire peu coûteux, pas de retour arrière gratuit. Le papier se place dans la continuité de l'apprentissage de politiques robotiques, des modèles vision-langage-action et de l'apprentissage en flotte, sans désigner d'acteur industriel précis ni d'entreprise européenne. Il s'agit d'une feuille de route de recherche, pas d'un produit: les suites annoncées sont des protocoles d'évaluation et des directions de recherche pour des machines qui améliorent, essai après essai et en sécurité, leur manière de s'améliorer. Aucun calendrier de pilote ou de validation industrielle n'est avancé.

RecherchePaper
1 source
Tir dans l'espace des compétences pour l'amélioration autonome des politiques robotiques
3arXiv cs.RO 

Tir dans l'espace des compétences pour l'amélioration autonome des politiques robotiques

Une équipe de chercheurs publie sur arXiv (v1, septembre 2026) une méthode baptisée « skill-space shooting », conçue pour permettre à un robot déployé de corriger seul les échecs de sa politique de contrôle, sans que l'humain ait à démontrer chaque correction. Le principe repose sur un modèle de fondation, qui guide l'exploration de corrections à travers des compétences courtes et réutilisables (les « skills »). Ces comportements récurrents d'une tâche à l'autre, comme saisir, pousser ou repositionner un objet, sont choisis par le modèle à partir de la scène observée. Les essais réussis sont ensuite convertis en supervision corrective pour réentraîner la politique. Les auteurs affirment que des expériences en conditions réelles montrent une amélioration répétée de politiques agissant de manière autonome, et que les skills peuvent être partagés entre tâches pour réduire l'effort d'enseignement sur de nouvelles tâches. Le résumé ne donne ni taux de réussite, ni nombre d'essais, ni plateforme robotique, ni gain chiffré. Ces éléments devront être vérifiés dans le papier complet et sur la page de résultats vidéo associée. L'enjeu est un goulot d'étranglement bien connu du déploiement de robots : l'amélioration après mise en service dépend encore largement de téléopérateurs qui produisent des démonstrations correctives. Les systèmes dits agentiques, où un modèle de fondation compose des comportements appris pour finir une tâche, contournent l'humain, mais ne rendent pas la politique elle-même meilleure. Elle échouera de nouveau au même endroit. Le travail cherche à combler cet écart en transformant les succès obtenus par composition de skills en données d'apprentissage. Si le résultat tient à l'échelle, il réduirait le coût marginal de chaque correction, un poste critique pour les intégrateurs qui exploitent des flottes de robots. Il faut toutefois rester prudent : il s'agit d'un préprint non évalué par des pairs, et les vidéos publiées par les auteurs sont généralement sélectionnées. La généralisation entre tâches reste à démontrer sur des cas plus variés que ceux d'un laboratoire. Ce travail s'inscrit dans la course aux politiques vision-langage-action (VLA), comme Pi-0 ou GR00T, qui sont pré-entraînées sur de grands volumes de démonstrations, puis affinées, souvent avec de la téléopération humaine. Il rejoint aussi les recherches sur l'apprentissage par renforcement et l'auto-amélioration en conditions réelles, qui butent sur le coût des essais physiques et sur la conception des récompenses. L'usage de skills comme espace de recherche restreint l'exploration et la rend plus sûre et plus efficace que des actions brutes. La suite dépendra de la publication du code, des comparaisons avec les approches d'amélioration existantes et d'éventuels tests sur des robots industriels. Aucun pilote commercial n'est annoncé à ce stade.

RecherchePaper
1 source
Machines de Turing incarnées : du code avec état pour l'auto-amélioration récursive des robots
4arXiv cs.RO 

Machines de Turing incarnées : du code avec état pour l'auto-amélioration récursive des robots

Des chercheurs proposent de retirer tout modèle de la boucle de contrôle d'un robot et de confier chaque décision à du code classique. Leur papier, publié sur arXiv (2610.12369), introduit le paradigme Code-Only-as-Policy (COAP). Le code mesure et suit en continu l'état du robot, de l'environnement et de la tâche à partir des images caméra et de la proprioception, puis prend chaque décision à partir de cet état. La même bibliothèque s'applique d'un épisode à l'autre, et plusieurs tâches la partagent, sans VLA (modèle vision-langage-action) ni VLM interrogé à l'exécution. Sur RoboDojo, un banc de 42 tâches bimanuelles, la bibliothèque produite atteint 70,24 % de réussite sans aucun modèle au moment du test. Le papier ne détaille pas, dans son résumé, le matériel, les temps de cycle ni les conditions de test, et il s'agit pour l'instant d'un résultat de recherche et non d'un produit. Le cadre théorique est celui d'une « machine de Turing incarnée » : le ruban correspond à l'état du robot et de son environnement, et les règles correspondent à la politique. Si cet état est représenté avec précision, la décision peut s'écrire entièrement en code. Les auteurs mettent en avant trois avantages face aux VLA et aux « Agent Harness » (Agent-as-Policy, Harness VLA), où un VLM est sollicité en ligne. Premièrement, l'état est explicite et stockable dans le code. Deuxièmement, l'exécution est contrôlable, récupère les échecs de façon flexible et tourne vite et à bas coût. Troisièmement, les nouvelles tâches réutilisent, héritent ou étendent la bibliothèque commune, ce qui permet de cumuler les capacités. L'intérêt pour l'industrie est double. Pour un intégrateur ou un COO, une politique déterministe, auditable et sans appel à un modèle distant répond à des exigences de latence, de coût d'inférence et de traçabilité que les VLA remplissent mal. Chaque modification du code est explicite et vérifiable, à l'inverse d'un réentraînement opaque. Ensuite, le papier propose ce qu'il appelle l'auto-amélioration récursive : des agents de code développent la bibliothèque en boucle fermée. Reste à nuancer : 70,24 % signifie près de 30 % d'échecs, ce qui reste loin des seuils de production, et les auteurs admettent que le plafond dépend de la précision de l'estimation d'état et de la robustesse de la logique. La perception reste donc le goulot d'étranglement, et la généralisation hors benchmark n'est pas démontrée. Ce travail s'inscrit dans le débat entre politiques apprises de bout en bout (famille Pi-0, GR00T, Helix) et architectures d'agents où un VLM planifie à l'exécution. COAP revient à une approche proche de la robotique classique, mais avec des agents de code qui écrivent et font évoluer la bibliothèque. Les auteurs suggèrent aussi d'utiliser COAP comme moteur de génération de données pour entraîner des VLA et alimenter des Agent Harness, ce qui en ferait un complément plutôt qu'un concurrent. Aucun calendrier de déploiement ni partenaire industriel n'est annoncé.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source