Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
IA physiquearXiv cs.RO 

Robo-Harness K1 : maîtriser les agents d'utilisation robotique par augmentation de perception

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs présentent Robo-Harness K1, un framework qui transforme la perception 3D en outils interrogeables par un modèle vision-langage (VLM) plutôt que de la réentraîner dans son architecture : profondeur calibrée, ancrages visuels persistants, mesures spatiales et hypothèses de préhension, à partir desquels l'agent sélectionne des mouvements génériques. Sur le benchmark LIBERO-PRO, Gemini 3.7 Flash équipé de K1 atteint 77,8% de réussite contre 61,1% pour GPT-6 Astra en harnais RGB seul, et K1 porte ce dernier à 88,9%. Sans réglage fin, Gemini plus K1 se transfère à trois bras RoboSuite et à des tâches bi-bras RoboTwin, avec 32,0% de réussite sur les tâches faciles et 28,0% sur les difficiles. Entraîné sur seulement 107 épisodes de démonstration issus de l'agent enseignant, un modèle étudiant Qwen3.5-9B atteint 44,2% sur de nouveaux états initiaux et 13,9% sur des conditions inédites, contre respectivement 30,2% et 0% pour OpenVLA.

Le résultat cible une limite connue des modèles vision-langage-action : les VLA de bout en bout exigent d'importants volumes de démonstrations et peuvent dégrader la compréhension acquise au pré-entraînement, tandis qu'un pilotage RGB seul du VLM reste coûteux et dépend de ses capacités brutes. En traitant la géométrie comme une interface d'outils plutôt qu'un module à réentraîner, K1 suggère une voie plus économe en données pour rendre des VLM génériques exploitables en manipulation, un enjeu pour les intégrateurs confrontés à la collecte de démonstrations. L'écart entre 0% pour OpenVLA et 13,9% pour le modèle distillé sur des tâches jamais vues illustre les limites de généralisation de l'apprentissage par pure imitation. Ces scores restent toutefois issus de simulateurs, LIBERO-PRO, RoboSuite et RoboTwin, et non d'un robot physique, laissant ouverte la question du transfert réel.

Le travail se positionne entre deux approches dominantes, les VLA de bout en bout et le pilotage RGB direct de VLM, en gardant le modèle figé et en lui fournissant des outils de perception calibrés, une conception comparée à OpenVLA, référence ouverte de la recherche en apprentissage robotique. Publiée comme nouvelle soumission sur arXiv, la contribution reste académique, sans partenariat industriel ni calendrier de déploiement annoncé. La validation hors simulation, sur robot physique, apparaît comme l'étape suivante pour les auteurs.

Dans nos dossiers

IA physique & VLAOpenVLA / RT-XarXiv cs.RO

À lire aussi

AR-WAM : un modèle monde-action prêt pour les agents, conditionné par la vision, pour la manipulation robotique
1arXiv cs.RO 

AR-WAM : un modèle monde-action prêt pour les agents, conditionné par la vision, pour la manipulation robotique

Un article déposé le 22 septembre 2026 sur arXiv (2609.23578) présente AR-WAM, un modèle de manipulation robotique qui remplace les instructions en langage naturel par deux signaux visuels : une boîte englobante désignant l'objet cible et un jeton d'opération appris précisant la compétence à exécuter. Compact avec 0,5 milliard de paramètres et un encodeur visuel figé, sans encodeur de langage, il prédit l'évolution de la scène en espace latent tout en décodant les actions. Une couche de compatibilité à trois primitives, détecter, exécuter, interroger, permet à un VLM local ou une API d'agent de piloter la politique. Testé sur RoboTwin 2.0, RMBench et un robot réel bi-bras Astribot S1, il atteint 87,2% de succès en manipulation standard, gagne 5,9 points sur les tâches à mémoire et 36,7 points sur les tâches longues réelles, avec la latence la plus basse du comparatif, 14,1 millisecondes. Le choix cible un problème identifié par les auteurs : les VLA et les world action models dominants spécifient encore les tâches en langage naturel, une interface jugée ambiguë sur les références, imprécise spatialement et redondante avec la compréhension déjà portée par l'agent. En séparant le « quoi », décidé par l'agent, du « comment », exécuté par le robot via un grounding visuel explicite, AR-WAM offre une interface standardisée qui intéresse les intégrateurs cherchant à connecter des piles agentiques à des flottes de robots hétérogènes plutôt qu'à des prompts textuels ad hoc. Le bond de 36,7 points sur les tâches longues en conditions réelles suggère surtout que la faiblesse chronique des VLA sur l'horizon long peut être atténuée en délégant mémoire et récupération d'erreur à la couche agent, plutôt qu'en la faisant porter entièrement par un modèle d'action monolithique. Ces résultats restent ceux d'un article de recherche récent, validé en simulation et sur une seule plateforme robotique réelle, sans annonce de déploiement commercial ni de partenariat industriel. Astribot, dont le bras bi-bras S1 sert de banc d'essai réel, est une entreprise chinoise de manipulation robotique ; RoboTwin 2.0 et RMBench comptent parmi les bancs d'essai standards du secteur pour comparer des politiques de manipulation en simulation. L'article ne fournit ni échéancier de déploiement ni partenaire industriel identifié ; il se positionne comme une contribution méthodologique destinée à la prochaine génération de systèmes agent-robot, dans un secteur où l'exécution fiable de tâches longues sans supervision humaine reste l'un des principaux verrous avant une adoption industrielle à grande échelle.

IA physiqueOpinion
1 source
Pose6DAug : substitution d'objets multi-vues physiquement plausible pour l'augmentation de données en robotique
2arXiv cs.RO 

Pose6DAug : substitution d'objets multi-vues physiquement plausible pour l'augmentation de données en robotique

Des chercheurs ont publié sur arXiv (réf. 2606.20118) une méthode baptisée Pose6DAug, un framework d'augmentation de données conçu pour améliorer la robustesse des politiques de type Vision-Language-Action (VLA) face à des objets qu'elles n'ont jamais manipulés lors de l'entraînement. Sans collecter un seul épisode de télé-opération supplémentaire, la méthode exploite les démonstrations réussies existantes pour en générer automatiquement de nouvelles, ciblées sur les modes d'échec détectés. Le principe : identifier les cas où la politique échoue sur un objet inconnu, puis remplacer l'objet manipulé dans les épisodes réussis par cet objet cible, tout en conservant la trajectoire d'action d'origine. Pour garantir la cohérence physique et multi-vue, le remplacement n'opère pas en 2D comme le ferait un inpainting vidéo classique, mais directement en 3D : l'objet cible est ancré via un mesh 3D piloté par une trajectoire de pose 6D cohérente temporellement, ce qui permet des rendus géométriquement consistants sur toutes les caméras, y compris sous occultations et angles egocentriques. En fine-tuning un VLA sur ces données augmentées, les auteurs mesurent un gain de 16,5 % de taux de succès sur objets hors-distribution par rapport au meilleur baselin existant, sans dégradation sur les objets connus. Ce résultat est important parce qu'il attaque directement le principal verrou à la mise à l'échelle des VLAs dans des environnements industriels réels : la généralisation à de nouveaux objets exige aujourd'hui des cycles coûteux de collecte de démonstrations humaines pour chaque nouveau cas. Pose6DAug transforme un épisode réussi en source de données synthétiques ciblées, ce qui pourrait réduire drastiquement le coût de déploiement continu des politiques robotiques. La méthode apporte aussi une réponse concrète au débat sur la cohérence sim-to-real : l'augmentation 2D par édition vidéo crée des incohérences entre vues qui dégradent l'apprentissage, tandis que l'approche 3D physiquement ancrée les élimine, validant l'hypothèse que la plausibilité géométrique est déterminante pour l'efficacité des augmentations. Le contexte de ce travail est celui de l'explosion des VLAs généralistes, portée par des modèles comme pi-0 de Physical Intelligence, GR00T N2 de NVIDIA, OpenVLA ou encore Octo, tous confrontés au même problème de distribution shift sur de nouveaux objets. Les approches concurrentes, domain randomization ou collecte de nouvelles démonstrations, peinent à passer à l'échelle industrielle. Pose6DAug se positionne comme une brique de fine-tuning continu et automatique, activable dès qu'un mode d'échec est détecté en production. Les auteurs n'annoncent pas de déploiement terrain ni de partenariat industriel dans cette version preprint ; il s'agit d'une publication de recherche, sans produit commercialisé à ce stade.

UERésultat applicable aux labos et industriels européens travaillant sur des VLAs pour réduire les coûts de collecte de démonstrations, mais aucun acteur FR/EU n'est impliqué dans ce travail de recherche.

IA physiqueOpinion
1 source
Comment Generalist utilise des données de démonstration humaine pour l'apprentissage robotique
3The Robot Report 

Comment Generalist utilise des données de démonstration humaine pour l'apprentissage robotique

Generalist, startup robotique valorisée à 2 milliards de dollars, construit ses modèles sur les travaux de recherche "Universal Manipulation Interface" (UMI), publiés par le Toyota Research Institute (TRI), l'université Columbia et l'université Stanford. Cette plateforme de collecte de données s'appuie sur des effecteurs terminaux de type marionnette, maniés par des opérateurs humains et filmés par des caméras GoPro, pour capturer des tâches réelles comme la vaisselle ou la préhension d'objets ; ces démonstrations deviennent ensuite des données d'entraînement pour des modèles fondation destinés aux cobots. En juin 2026, lors du salon Automate au McCormick Center de Chicago, Generalist a montré en direct des bras Universal Robots (UR) pliant et assemblant des boîtes en carton, ainsi que des bras Flexiv réparant des aspirateurs robots. Environ un mois plus tard, l'entreprise publiait un billet de blog intitulé "Towards Machines with a Thousand Hands", détaillant l'usage d'une variété de pinces et d'outils, dont des spatules, sur différents systèmes robotiques. Samantha Castellanos, ingénieure mécanique fondatrice de Generalist, précise que le préhenseur maison ne compte qu'un seul degré de liberté (1 DoF), un choix assumé de simplicité mécanique plutôt que de complexité articulaire. Cette approche interroge l'hypothèse dominante du secteur selon laquelle la performance des modèles VLA (vision-language-action) dépend avant tout de la sophistication du hardware. En misant sur une pince minimaliste et sur le volume de données plutôt que sur la complexité mécanique, Generalist parie que le modèle, plus que la main, constitue l'avantage concurrentiel durable : selon Castellanos, le modèle est "le moat qui va nous différencier des autres." Pour les intégrateurs, la démonstration d'Automate montre qu'un même modèle peut piloter des bras de fournisseurs différents (UR, Flexiv) sur des tâches distinctes, assemblage de cartons d'un côté, réparation d'aspirateurs de l'autre, ce qui suggère une portabilité inter-marques rare en automatisation classique. Ces démonstrations restent toutefois des vitrines de salon en conditions contrôlées, non des déploiements en production : la capacité de récupération en temps réel vantée sur les réseaux sociaux n'a pas été vérifiée indépendamment, et aucun chiffre de temps de cycle, taux de réussite ou volume déployé n'a été communiqué. L'étude UMI, cosignée par des chercheurs de TRI, Columbia et Stanford, avait montré qu'il était possible d'entraîner des cobots à l'autonomie à partir de démonstrations humaines captées hors laboratoire, sans robot physique présent lors de la collecte ; cette recherche académique a rapidement servi de socle à la création de Generalist. L'entreprise évolue dans un secteur de l'IA robotique déjà très capitalisé, plus de 4 milliards de dollars levés cumulativement par ses concurrents : Skild AI (2 milliards), Physical Intelligence (1 milliard), Field AI (300 millions) et RLWRLD (41 millions). Face à cette concurrence, Generalist mise sur la diversité des effecteurs plutôt que sur un bras ou une pince unique, stratégie résumée dans son billet de blog par la formule "des machines aux mille mains." L'entreprise n'a communiqué ni calendrier de déploiement commercial ni client pilote nommé : à ce stade, les démonstrations de juin et juillet 2026 relèvent de la vitrine technologique plutôt que d'un produit livré en série.

IA physiqueOpinion
1 source
Contrôle robotique sans démonstration via des agents LLM
4arXiv cs.RO 

Contrôle robotique sans démonstration via des agents LLM

Des chercheurs ont publié FAEA (Frontier Agent as Embodied Agent), un framework qui applique directement aux manipulateurs robotiques les architectures d'agents LLM conçues pour le génie logiciel, sans démonstrations spécifiques à la tâche ni fine-tuning. Évalué sur trois benchmarks de référence en simulation avec accès privilégié à l'état de l'environnement (positions des objets fournies directement, sans perception visuelle brute), FAEA atteint des taux de succès de 84,9 % sur LIBERO, 85,7 % sur ManiSkill3, et 96 % sur MetaWorld, en utilisant le Claude Agent SDK d'Anthropic comme modèle frontier non modifié. Une itération optionnelle de feedback humain porte le score LIBERO à 88,2 %. Ces résultats se rapprochent des performances des modèles VLA (Vision-Language-Action) entraînés sur moins de 100 démonstrations par tâche, seuil qui représente aujourd'hui le plancher de coût pour la collecte de données en robotique incarnée. L'implication centrale est notable : pour les tâches de manipulation dominées par la planification délibérative à haut niveau, un agent généraliste non spécialisé peut suffire, sans pipeline de données propriétaire. FAEA peut en outre explorer de façon autonome des scénarios inédits en simulation et générer des trajectoires réussies pour augmenter les datasets d'entraînement, court-circuitant ainsi le goulot de la collecte humaine. Nuance critique : tous les tests restent en simulation avec état privilégié ; aucun transfert sim-to-real n'est validé dans ce travail, ce qui limite la portée des conclusions pour un déploiement industriel réel. Les modèles VLA entraînés bout-en-bout, pi-0 de Physical Intelligence, RT-2 de Google DeepMind, ou OpenVLA, dominent la recherche en manipulation depuis 2023 mais restent contraints par des pipelines de collecte de données coûteux et spécifiques à chaque domaine. FAEA s'inscrit dans un courant alternatif qui cherche à exploiter l'infrastructure d'agents software directement en robotique : la même boucle plan-act-observe-debug qui pilote les agents de coding est ici transférée sans modification au contrôle de manipulateurs. Ce positionnement implique un bénéfice passif : toute amélioration des modèles frontier se répercute directement sur les capacités robotiques sans retraining. Le préprint est disponible sur arXiv (2601.20334v2) et le code sur GitHub ; aucun déploiement industriel n'est annoncé à ce stade.

IA physiquePaper
1 source