Aller au contenu principal
Apprendre de l'expérience de la flotte : un apprentissage collectif à partir de 96 robots
RecherchearXiv cs.RO 

Apprendre de l'expérience de la flotte : un apprentissage collectif à partir de 96 robots

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs proposent un cadre baptisé Collective Experience Learning (CEL), qui exploite directement les exécutions d'une flotte de robots déployés pour améliorer une politique partagée, sans recourir à de nouvelles démonstrations d'experts ni à des actions correctives. Après une initialisation supervisée par des experts, la méthode FERT (failure-guided expérience retrieval fine-tuning) utilise les contextes d'échec pour retrouver des segments pertinents dans les trajectoires réussies, puis privilégie leurs actions enregistrées lors de mises à jour supervisées. Les opérateurs se limitent à fournir une étiquette binaire de réussite ou d'échec par épisode et à remettre l'environnement en état. Un système d'entraînement asynchrone tolérant aux pannes, FATS, coordonne l'exécution des robots, l'inférence dans le cloud et l'optimisation de la politique malgré les interruptions locales. Sur cinq tâches de manipulation réelles, les politiques atteignent 93,3 à 99,2 % de réussite, mesurées sur 120 essais par tâche avec des robots exclus de la collecte de données d'entraînement. Sur l'emballage multi-étapes d'un téléphone, le passage à 96 robots fait grimper le taux de succès de 79,2 % à 98,3 %.

L'enjeu est celui du coût de la supervision humaine à mesure que les parcs de robots grossissent. Aujourd'hui, l'amélioration d'une politique en production repose largement sur des correctifs fournis par des téléopérateurs, ce qui ne passe pas à l'échelle quand on multiplie les machines. Ici, le signal vient de l'activité normale du parc, avec un effort humain réduit à un jugement binaire et à des remises à zéro. À temps de collecte fixé par robot, les résultats indiquent que plus de robots apporte généralement plus d'expérience et de meilleures performances sur les tailles testées, ce qui plaide pour un effet d'échelle exploitable par les intégrateurs et exploitants de flottes. Il faut toutefois rester prudent: il s'agit d'un travail académique, sur cinq tâches choisies par les auteurs, sans chiffres de cadence, de coût ni de durée d'entraînement. Le gain de 79,2 % à 98,3 % est mesuré sur une tâche précise, et le texte indique une amélioration « généralement » monotone, pas systématique. La fiabilité de 99 % en conditions de production, avec variété d'objets et d'environnements, reste à démontrer.

Ce travail s'inscrit dans la montée des approches d'apprentissage à partir de données de déploiement, après les politiques généralistes de type VLA (vision-langage-action) entraînées sur des démonstrations, et les méthodes d'apprentissage par renforcement ou de correction humaine en ligne, qui demandent un expert dans la boucle. Des acteurs comme Physical Intelligence (Pi-0), Nvidia (GR00T) ou Figure (Helix) misent sur des données massives et des flottes pour affiner leurs modèles, sans toujours détailler leurs boucles d'amélioration en production. L'article, publié sur arXiv en version 2 (2610.25736), ne mentionne aucun pilote industriel ni calendrier de commercialisation. Les prochaines étapes à surveiller sont la reproduction sur d'autres tâches et morphologies, la robustesse face aux échecs rares, et surtout un test en exploitation réelle avec des flottes clientes.

À lire aussi

Evo-RL : apprentissage par renforcement itératif pour robots à partir d'expériences sélectionnées
1arXiv cs.RO 

Evo-RL : apprentissage par renforcement itératif pour robots à partir d'expériences sélectionnées

Une nouvelle méthode d'apprentissage par renforcement (RL) en conditions réelles, baptisée Evo-RL, est décrite dans un preprint arXiv (2610.13345). Elle améliore une politique de manipulation de façon itérative en combinant interventions humaines et sélection de l'expérience guidée par l'avantage. Au lieu de réinjecter tout ce que le robot a accumulé, la politique est affinée à partir des corrections humaines et des seules trajectoires réussies dont l'avantage estimé est positif. Les auteurs partent du constat que même une trajectoire réussie peut contenir des comportements inefficaces ou redondants. Ils publient aussi RW-RL-Dataset, qui dépasse 1 000 heures de données sur quatre morphologies de robots. Sur une tâche réelle de manipulation de haute précision, le taux de succès par tentative progresse de 30,46 % face à RECAP. Le code, les checkpoints et le jeu de données sont ouverts. Le résumé ne dit pas si ce gain est exprimé en points ou en relatif, ni combien d'essais le sous-tendent. L'enjeu est de savoir où se situe la valeur dans les données de RL réel. Le goulot d'étranglement des déploiements est souvent le temps de supervision humaine et de collecte, pas la puissance de calcul. Une méthode qui trie l'expérience, et ne retient que ce qui améliore vraiment la politique, vise à réduire ce coût. Elle conteste aussi l'idée qu'une rollout réussie est forcément une bonne donnée d'entraînement. La prudence reste de mise, car le chiffre phare provient d'une seule tâche et d'un seul comparatif. La diversité de plateformes du dataset suggère une ambition de généralité, mais celle-ci reste à démontrer sur d'autres tâches et d'autres équipes. La publication complète du code et des poids permet justement cette vérification indépendante, ce qui est rare dans un domaine où les laboratoires industriels publient peu. RECAP, la référence battue ici, a été introduite par Physical Intelligence avec son modèle pi*0.6. Elle conditionne la politique sur l'avantage pour apprendre à la fois de démonstrations, de corrections humaines et de rollouts autonomes. Evo-RL se présente comme une évolution de cette lignée, centrée sur la sélectivité. Il s'agit d'un travail académique en preprint, sans produit ni pilote industriel annoncé. Les prochaines étapes à surveiller sont les réplications externes, les tests sur des tâches à horizon plus long et l'application à de grands modèles vision-langage-action (VLA). Les intégrateurs y trouveront surtout une piste pour améliorer en continu un robot déjà déployé, avec moins d'heures de téléopération.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
Apprentissage robotique avec force prédite à partir de la vision
2arXiv cs.RO 

Apprentissage robotique avec force prédite à partir de la vision

Des chercheurs proposent de remplacer les capteurs de force et tactiles par une simple caméra, en estimant visuellement l'effort de contact à partir de la déformation d'une pince souple de type Fin Ray, dont les doigts se plient passivement autour de l'objet. La méthode, publiée sur arXiv (2610.04741, version 2), repose sur deux modèles. Un estimateur visuel de force est d'abord entraîné sur des données de calibration, puis sert à annoter des démonstrations de tâches avec des forces estimées. Une politique action-force est ensuite entraînée sur ces démonstrations enrichies pour générer conjointement des actions candidates et les forces associées. À l'inférence, le système échantillonne plusieurs couples action-force et exécute l'action dont la force prédite est la plus proche de la cible issue des démonstrations. L'évaluation couvre quatre tâches riches en contacts : cueillette de baies, saisie de canettes vides, réorientation d'objet en main et insertion de prise. Les auteurs ne donnent pas, dans le résumé, de taux de réussite ni de comparaison chiffrée. L'enjeu est pratique. Les capteurs de force ou tactiles ajoutent du coût, de la fragilité, du câblage et de la calibration, et ils compliquent le passage à l'échelle des jeux de données de téléopération. Si la déformation d'une pince compliante filmée par une caméra suffit à guider la sélection d'actions, la force devient une modalité accessible avec du matériel standard, sans capteur au déploiement. Cela intéresse les intégrateurs qui équipent des cellules de manipulation à bas coût, notamment pour des objets fragiles ou déformables comme les fruits. Le résultat reste à nuancer: il s'agit d'un travail de laboratoire, sur quatre tâches, et la précision de l'estimation visuelle dépend de la pince utilisée et de sa calibration. Rien ne dit encore que l'approche tient face à des changements d'objets, d'éclairage ou de géométrie de pince, ni qu'elle égale un vrai capteur de force sur des tâches exigeantes comme l'assemblage. Le travail s'inscrit dans deux tendances. D'un côté, les politiques apprises par imitation (politiques de diffusion, modèles vision-langage-action) restent surtout pilotées par la vision et la proprioception, avec une perception de la force souvent absente ou coûteuse à intégrer. De l'autre, les pinces Fin Ray, popularisées dans la préhension adaptative, offrent une compliance mécanique que l'on peut ici exploiter comme transducteur de force. L'idée d'échantillonner puis de filtrer des actions au moment du test rejoint les approches de planification à l'inférence. Les prochaines étapes à surveiller sont la publication de résultats quantitatifs, des comparaisons avec des capteurs tactiles de référence comme les capteurs optiques de type GelSight, et des tests sur des tâches industrielles plus variées.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
Apprentissage continu pour la synthèse de saisies à 6 DOF à partir de l'expérience et de démonstrations
3arXiv cs.RO 

Apprentissage continu pour la synthèse de saisies à 6 DOF à partir de l'expérience et de démonstrations

Des chercheurs publient sur arXiv (identifiant 2610.01301) un cadre d'apprentissage continu pour la synthèse de prises 6-DoF avec une pince parallèle, à partir d'une seule vue, dans des scènes encombrées. Leur méthode n'ajuste pas un grand modèle paramétrique. Elle adapte le système par une mémoire située dans un espace d'embedding appris. Les résultats de chaque tentative de saisie modifient les scores des prises futures. Des démonstrations fournies par l'utilisateur, facultatives, sont rappelées puis transférées vers de nouvelles scènes, où elles deviennent des prises candidates supplémentaires. L'évaluation combine simulation et expériences réelles, avec plus de 1500 essais de saisie. Selon les auteurs, le système égale les références 6-DoF existantes avant toute adaptation. Il progresse en ligne sur des objets inconnus, issus de catégories absentes ou sous-représentées à l'entraînement. Il tient un apprentissage continu sur le long terme avec peu d'oubli. Sur plusieurs catégories d'objets difficiles, il dépasse 90 % de réussite après seulement 50 tentatives en ligne. La vidéo et le code sont publiés sur la page du projet. Ce résultat s'attaque à un point faible de la manutention robotisée. La plupart des systèmes de saisie sont entraînés hors ligne puis figés au déploiement. Leurs performances baissent dès que les conditions s'écartent des données d'entraînement, par exemple avec une référence jamais vue dans un bac de e-commerce ou de logistique. Passer par une mémoire plutôt que par un réglage fin évite de réentraîner un gros modèle sur site. Cela limite le coût de calcul, le risque de régression et l'oubli catastrophique. Pour un intégrateur, 50 essais représentent quelques heures de fonctionnement. Un robot pourrait donc s'améliorer seul sur son assortiment réel, sans cycle de collecte et de réentraînement. Le canal de démonstrations donne aussi à un opérateur non spécialiste un moyen simple de corriger un échec. Il faut toutefois rester prudent. Il s'agit d'un preprint, pas encore évalué par les pairs. Les chiffres ne couvrent que quelques catégories choisies, sans information dans le résumé sur la diversité des objets, les temps de cycle ou le matériel. Le travail concerne uniquement la saisie par pince parallèle, pas la manipulation dextre ni les humanoïdes. Il s'inscrit dans la lignée des méthodes de saisie 6-DoF apprises, comme Contact-GraspNet et ses successeurs, et des modèles vision-langage-action généralistes. Ceux-ci restent en grande partie figés après l'entraînement. Cette approche à mémoire y ajoute une voie d'adaptation légère. La suite logique serait des essais en conditions industrielles, avec des cadences réelles et des assortiments variés.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
Apprentissage continu de la traversabilité du terrain par l'expérience pour robots quadrupèdes
4arXiv cs.RO 

Apprentissage continu de la traversabilité du terrain par l'expérience pour robots quadrupèdes

Des chercheurs publient sur arXiv (2609.39755v1) un pipeline d'apprentissage continu qui permet à un robot quadrupède d'estimer, avant tout contact, la manière dont un terrain va se comporter sous ses pattes. Le système part d'images prises avant le contact, encodées par un modèle DINOv3 dont les poids restent figés pendant l'entraînement. Ces descripteurs visuels sont convertis en cinq indicateurs proprioceptifs, pondérés selon la fiabilité de leur mesure : glissement plan du pied, force de réaction normale moyenne, indice de traction, coût de transport et taux de charge à l'impact. Un régresseur évidentiel compact fournit ces prédictions avec leurs incertitudes aléatoire et épistémique. Les prédictions et l'incertitude épistémique sont projetées dans une carte locale multicouche, puis fusionnées en un score de traversabilité prudent dont les pondérations se règlent sans réentraînement. L'implémentation ROS2 a été évaluée sur un Unitree Go2, en simulation et sur matériel réel, avec des modèles entraînés séparément dans chaque domaine. Sur un flux séquentiel de trois terrains inédits, le replay avec validation réduit de 23,1 % la dégradation de la log-vraisemblance négative (NLL) sur les données d'ancrage, par rapport à un replay sans validation, pour une adaptation comparable aux nouveaux terrains. L'intérêt tient à ce que la traversabilité est apprise à partir de l'expérience de locomotion. La géométrie et l'apparence visuelle ne disent pas si le robot va glisser, comment ses pieds seront chargés ou combien d'énergie il dépensera. Le mécanisme de validation s'attaque à l'oubli catastrophique : un modèle candidat ne remplace le prédicteur déployé que s'il progresse sur les données récentes sans perdre au-delà d'une tolérance fixée sur les données historiques. Pour un exploitant de robots d'inspection sur site industriel, minier ou extérieur, cela rend envisageable une mise à jour en cours de mission, sans cycle de réentraînement hors ligne. Les limites sont nettes : le gain de 23,1 % est relatif à une variante de la même méthode et non à une référence externe, l'évaluation hardware ne porte que sur trois terrains, et le Go2 est une plateforme de recherche légère. Rien n'indique non plus une validation à grande échelle ou en conditions industrielles. Il s'agit d'un résultat académique, pas d'un produit. Ce travail s'inscrit dans la lignée des approches de navigation par traversabilité auto-supervisée, qui utilisent les signaux proprioceptifs comme étiquettes pour des prédictions visuelles, et de l'essor des modèles de fondation visuels comme DINO utilisés comme encodeurs figés. Le Go2 d'Unitree reste la plateforme de référence des laboratoires, ce qui facilite la reproduction. Il reste à voir si le code sera publié, si la méthode tient sur de plus longues séquences de terrains et sur des robots plus lourds comme ceux d'ANYbotics ou de Boston Dynamics, ou si elle sera intégrée à des politiques de locomotion apprises de bout en bout.

RecherchePaper
1 source