RecherchearXiv cs.RO 5 novembre 2026

Repenser l'auto-réparation des agents code-comme-politique : qu'est-ce qui détermine le succès d'une nouvelle tentative ?

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Une étude publiée sur arXiv (2611.06863, première version) cherche à isoler ce qui fait réussir les nouvelles tentatives dans les agents « code-as-policy », où un modèle de code écrit le programme qui pilote le robot et réessaie à partir du retour d'exécution. Le test se fait en manipulation robotique simulée. Une table de correspondance fixe choisit des gabarits de feedback selon l'étiquette d'échec et la variante d'API. Un modèle gelé, Qwen2.5-Coder-7B, génère un programme neuf après chaque réinitialisation de scène. Sur les mêmes 252 échecs initiaux, le feedback par gabarit récupère 85,3 % des cas en cinq tentatives, contre 68,3 % pour un simple rééchantillonnage avec le même plafond, et l'écart persiste à budget total de tokens identique. En revanche, un feedback issu d'autres épisodes ou une consigne de tâche fixe donnent des taux de récupération proches, sans bénéfice détecté à faire correspondre l'étiquette d'échec. Dans une étude séparée, un prompt guidé fixe utilisé dès la première tentative atteint un succès global observé similaire. Sur une tâche d'insertion d'écrou exigeant une prise par le bord, le feedback par gabarit fait même baisser la récupération, ce qui concorde avec une instruction de prise centrée incompatible.

Ce résultat invite à relativiser l'idée qu'une boucle de réparation « comprend » l'échec. Le gain par rapport au rééchantillonnage semble venir surtout de l'information de tâche ajoutée au prompt, pas du diagnostic propre à chaque erreur. Pour un intégrateur, cela veut dire qu'un prompt statique, concis et bien aligné avec la tâche peut offrir des performances comparables à une chaîne de feedback plus complexe, avec moins d'ingénierie. Cela signale aussi un risque : une consigne générique mal adaptée à la géométrie de la pièce peut nuire. Les auteurs recommandent d'inclure le rééchantillonnage, le feedback non apparié et la guidance statique comme baselines dans toute évaluation d'auto-réparation. Les limites sont nettes : simulation uniquement, un seul modèle de 7 milliards de paramètres, des étiquettes d'échec grossières. Rien n'est établi sur robot réel ni sur des modèles plus grands.

Le paradigme code-as-policy, popularisé par Google en 2022, a ensuite été enrichi de boucles de retour d'exécution. Il s'oppose à l'approche des VLA (modèles vision-langage-action) comme Pi-0, GR00T N2 ou Helix, qui produisent directement des actions sans passer par du code. Il s'agit d'un préprint non évalué par les pairs, sans produit ni pilote industriel annoncé. Sa portée sera à confirmer par des réplications sur d'autres modèles, d'autres tâches et du matériel physique.

Dans nos dossiers

IA physique & VLA NVIDIA GR00T Manipulation robotique arXiv cs.RO

À lire aussi

1arXiv cs.RO

Penser comme un modèle du monde, agir comme un VLA : distiller les représentations en politiques compactes

Une équipe de recherche publie sur arXiv (référence 2609.24682) une méthode qui ajoute un terme d'alignement de représentations à l'entraînement classique des modèles Vision-Language-Action (VLA), ces réseaux qui associent perception et langage à des actions robotiques. Un world model figé est passé une seule fois sur les images d'entraînement, ses caractéristiques internes sont mises en cache, puis le modèle VLA « étudiant » apprend à s'aligner sur ce cache pendant l'entraînement. Le world model n'est jamais chargé lors du déploiement et le module de projection est jeté après l'entraînement, si bien que la politique finale reste identique au modèle VLA non distillé, tant en taille qu'en calcul. Résultat mesuré : un étudiant de 0,8 milliard de paramètres tourne en 32 millisecondes et consomme 1,86 Go de mémoire sur une carte grand public RTX 5090, atteint 97,9 % de réussite sur le benchmark de manipulation LIBERO, et progresse de 48,2 % à 50,5 % sur RoboCasa-GR1, un banc d'essai de manipulation humanoïde en simulation. Le gain se vérifie aussi sur du matériel réel, sur une plateforme à bras unique et sur une plateforme bimanuelle. L'intérêt pour l'industrie robotique tient à la séparation qu'établit ce travail entre deux familles de modèles jusque-là difficiles à concilier : les VLA, rapides mais dépourvus d'objectif qui tienne compte de la réaction du monde à une action, et les world models, physiquement mieux fondés mais trop lents pour piloter un robot en temps réel puisqu'ils doivent projeter le futur seconde par seconde. En montrant que la connaissance physique d'un world model peut être injectée dans une politique légère sans alourdir le calcul au moment de l'exécution, l'étude suggère qu'on peut améliorer la robustesse des VLA sans ajouter de données, de paramètres ni de calcul supplémentaire au déploiement, un point qui intéresse directement les intégrateurs contraints par la latence et la puissance embarquée. Ce résultat s'inscrit dans un débat actuel de la recherche en robotique entre approches VLA et approches par world models, sans qu'aucun partenaire industriel ni déploiement commercial ne soit mentionné à ce stade. La méthode a été testée en faisant varier la taille de l'étudiant, l'architecture de base, la couche d'alignement et le world model utilisé comme enseignant, un signal que l'effet observé relève d'un principe général plutôt que d'un couplage fragile entre deux réseaux précis. Les auteurs publient les détails sur une page projet dédiée, mais le travail reste à ce jour un résultat de recherche évalué en simulation et en laboratoire, sans calendrier annoncé vers une industrialisation.

RecherchePaper

1 source

2arXiv cs.RO

L'endroit où s'applique la supervision prédictive détermine ce qu'apprennent les politiques VLA

Une équipe de chercheurs publie sur arXiv (identifiant 2609.36645) une étude contrôlée sur la manière dont la supervision par prédiction du futur influence les politiques vision-langage-action (VLA), ces modèles qui convertissent images et instructions textuelles en commandes de robot. Les auteurs comparent différentes interfaces de prédiction en fixant la construction des cibles, l'horizon de prédiction et les conditions d'entraînement. Résultat: ces interfaces produisent des prévisions et des représentations visuelles très différentes, y compris sur l'information spatiale, dynamique et liée à l'action qui se transfère hors des scènes d'entraînement. Les chercheurs relient ces écarts à la façon dont les erreurs de prédiction se propagent dans le flux visuel de la politique. Les VLA entraînés avec une supervision future plus directe et alignée sur la scène montrent une meilleure robustesse face aux changements de distribution, en simulation comme sur robot physique. Le résumé ne fournit ni nom de modèle, ni taux de réussite, ni liste de plateformes testées. L'enjeu dépasse l'ajout d'une tâche auxiliaire. Beaucoup de VLA récents intègrent la prédiction du futur en postulant qu'anticiper l'évolution de la scène produit des représentations utiles au contrôle. L'étude relativise ce raisonnement: la qualité d'une prévision ne prouve pas que la politique a appris une meilleure représentation pour agir. Pour un intégrateur, cela touche le point sensible du déploiement: un robot qui fonctionne dans la configuration de démonstration mais se dégrade dès que l'éclairage, la disposition ou les objets changent. Selon cette lecture, la valeur de la prédiction dépend de l'endroit où la supervision atteint le réseau. Un score de prévision flatteur peut donc masquer une politique fragile, et les comparaisons entre modèles gagneraient à intégrer des tests hors distribution plutôt qu'à se limiter à la fidélité des images prédites. Ce travail s'inscrit dans la tendance des modèles du monde et des politiques prédictives, où plusieurs laboratoires et industriels testent des architectures qui imaginent la suite de la scène avant d'agir, en complément de VLA de référence comme Pi-0, GR00T ou Helix. La généralisation hors distribution reste l'un des principaux verrous entre démonstrations de laboratoire et usage industriel. Il s'agit ici d'une prépublication v1, non relue par les pairs, dont les résultats devront être confirmés par des reproductions et des chiffres détaillés. Les auteurs qualifient la prédiction du futur de problème de conception de l'apprentissage de représentations. La suite logique serait l'adoption de ces principes dans les prochaines générations de VLA et leur évaluation systématique sous décalage de distribution.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

3arXiv cs.RO

Esquisses proprioceptives comme intention à long terme pour des politiques d'action génératives

Des chercheurs proposent les Proprioceptive Action Models (PAM), une architecture de politique générative qui produit, dans un même transformer de débruitage (diffusion), deux sorties jointes : un « croquis » compact du chemin articulaire restant à parcourir, et un chunk d'actions dense directement exécutable. Le croquis est paramétré par l'abscisse curviligne (arc length) plutôt que par le temps, ce qui encode une intention géométrique indépendante du rythme d'exécution. Une attention block-causal et un calendrier de débruitage décalé (staggered) imposent une dépendance orientée du croquis vers les actions : les tokens d'action sont conditionnés sur un croquis de plus en plus propre au fil de l'échantillonnage. En simulation, PAM améliore ses équivalents « actions seules » sur Push-T et LIBERO-Long. Sur quatre tâches bimanuelles réelles, le taux de réussite passe de 47,5 % à 75,0 %. L'étude, publiée sur arXiv (2610.02759), est accompagnée d'une page projet. Aucun matériel commercial ni déploiement n'est annoncé : il s'agit d'un résultat de recherche. Le problème visé est bien connu des équipes qui déploient des politiques de type VLA ou diffusion : ces modèles prédisent des chunks d'actions courts et n'ont pas de représentation explicite de l'intention à long horizon, d'où des dérives ou des hésitations sur les tâches longues. Les solutions existantes (plans en langage, images de sous-buts, prévisions vidéo) sont coûteuses à générer et doivent encore être converties en mouvement robot. Prédire directement des trajectoires futures évite cette traduction, mais une trajectoire dense indexée sur le temps exige beaucoup de paramètres pour couvrir toute la tâche restante, et sur un horizon court elle répète le chunk d'actions. Le croquis en espace articulaire, léger et sans temps, offre un compromis : un signal de guidage long horizon qui reste dans l'espace propre du robot. Un bémol : un gain de 47,5 % à 75,0 % sur quatre tâches réelles est encourageant, mais le résumé ne donne ni le nombre d'essais, ni les plateformes, ni la variance, et la comparaison se fait uniquement avec la version sans croquis du même modèle, pas avec des baselines externes comme Pi-0 ou des modèles à plans en langage. Ce travail s'inscrit dans la course pour doter les politiques génératives (Diffusion Policy, ACT, puis les VLA de type Pi-0, GR00T ou Helix) d'une planification plus longue sans alourdir l'inférence. Il se positionne contre les approches qui passent par la vidéo ou le langage, plus lourdes à calculer. Les prochaines étapes à surveiller sont une validation sur des modèles de fondation à grande échelle, des tâches de manipulation plus variées et des comparaisons directes avec les VLA actuels, avant que l'idée ne passe en intégration industrielle.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source

4arXiv cs.RO

PhysCaP : ancrer un agent de code-comme-politique par exploration guidée par la physique

Des chercheurs ont présenté PhysCaP, un agent « code-as-policy » pour la manipulation robotique, dans un article publié sur arXiv (2608.21031) accompagné d'une page projet à physcap.github.io. Contrairement aux politiques vision-langage-action qui imitent des démonstrations par observation passive, PhysCaP ajoute une couche d'exploration physique permettant au robot de chercher activement l'information par l'interaction, grâce à des modules d'extraction sans capteur additionnel qui estiment la masse et la rigidité des objets à partir de la seule proprioception du bras. Son architecture combine un Planner, qui décide quand explorer et quand s'arrêter, et un Prioritizer, qui filtre les interactions peu plausibles et classe les autres selon un score de priorité heuristique. Les auteurs l'ont testé sur des tâches réelles de manipulation sur table (recherche d'objets cachés, détection de canettes vides, repérage d'avocats mûrs) ainsi que sur une tâche simulée dans l'environnement LIBERO. Les approches passives échouent dès que la propriété physique déterminante reste invisible à la caméra, tandis que les méthodes interactives naïves multiplient les manipulations inutiles: PhysCaP obtient des performances comparables avec moins d'interactions et un temps d'exécution réduit. Pour les intégrateurs qui travaillent avec des modèles VLA comme Pi-0 (Physical Intelligence), GR00T N2 (NVIDIA) ou Helix (Figure AI), ce résultat pointe une limite connue de l'imitation pure: elle ne suffit pas quand la tâche dépend de propriétés cachées comme le poids ou la texture d'un objet, ce qui nuance l'idée que le sim-to-real ou l'apprentissage par démonstration seuls résolvent la perception robotique générale. Une couche d'exploration physique ciblée, plutôt qu'une exploration exhaustive coûteuse en temps de cycle, pourrait ainsi devenir un composant utile des piles de perception active pour le tri, le contrôle qualité ou la préhension en environnement non structuré. Ce travail s'inscrit dans la lignée des approches combinant grands modèles et génération de code de politique robotique, un axe distinct des politiques VLA de bout en bout qui dominent la communication du secteur. Il s'agit d'une contribution de recherche académique et non d'un produit commercial ou d'un déploiement industriel: les auteurs valident leurs modules par des études d'ablation et mettent code et démonstrations à disposition sur la page projet, sans partenaire industriel, pilote annoncé ni calendrier de commercialisation à ce stade.

RecherchePaper

1 source