RecherchearXiv cs.RO 2 septembre 2026

Lancer un objet sans le saisir : le point de vue de l'apprentissage par renforcement

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Un article publié le 2 septembre 2026 sur arXiv (2609.00771) décrit une méthode de lancer robotique sans préhension pilotée par apprentissage par renforcement, testée sur un bras UR5e d'Universal Robots poussé à 5 m/s en bout d'effecteur. Déployée sans réentraînement sur le robot réel, elle lance des objets variés, dont une pièce de 790 grammes et un colis de 20x20x28 cm, vers des cibles situées jusqu'à 350 cm de distance ou 180 cm de hauteur, avec un taux de réussite réel de 97%. En simulation, la politique atteint 99% de succès sur des milliers de configurations et généralise à des objets inédits.

Le lancer non préhensile étend le rayon d'action d'un robot au-delà du pick-and-place, une capacité utile pour les objets lourds, volumineux ou déformables que les pinces classiques gèrent mal. Les approches précédentes s'appuyaient sur des modèles de contact simplifiés et des trajectoires paramétrées en basse dimension, ce qui limitait la qualité des lancers et l'espace atteignable ; ici, la politique optimise directement les trajectoires articulaires en exploitant glissement et roulement comme modes de contact. Le transfert simulation-vers-réel réussi sur du matériel poussé près de ses limites est un signal encourageant pour la manipulation dynamique par RL, même si la forte sensibilité révélée à la friction dynamique, contrastant avec la bonne tolérance à l'incertitude de masse, reste un point de vigilance pour tout intégrateur.

Le papier reste au stade de la recherche académique publiée sur arXiv, sans annonce de produit, de partenaire industriel ni de calendrier de commercialisation. Il se positionne face aux méthodes historiques de lancer robotique fondées sur la préhension dynamique et des modèles de contact analytiques, en misant sur l'apprentissage par renforcement plutôt que sur l'optimisation classique pour gagner en généralisation à des objets et des cibles non vus à l'entraînement. Le choix d'un UR5e, cobot industriel largement déployé en usine et en logistique, suggère une volonté de portabilité vers du matériel déjà répandu, sans qu'aucun pilote ni déploiement commercial ne soit annoncé à ce stade.

Impact France/UE

Le choix du cobot UR5e (Universal Robots, origine danoise), très répandu dans l'industrie européenne, suggère une portabilité potentielle vers du matériel déjà déployé en Europe, sans pilote ni déploiement annonce a ce stade.

Dans nos dossiers

Cobots & robots collaboratifs arXiv cs.RO

À lire aussi

1arXiv cs.RO

Modèle du monde critique pour l'apprentissage par renforcement vision-langage-action (WCM)

Des chercheurs ont publié fin juillet 2026 un article arXiv (2607.29613) présentant le World Critic Model (WCM), une nouvelle architecture pour l'apprentissage par renforcement (RL) appliqué aux modèles Vision-Language-Action (VLA) utilisés en manipulation robotique. Le problème ciblé est celui des méthodes RL à base de critique, qui évaluent la valeur d'une action à partir d'une seule image ou d'un seul instant du flux visuel, un choix mal adapté au contrôle robotique où l'observation est par nature partielle et séquentielle. Bâti sur une architecture légère dérivée de LeJEPA, WCM prédit conjointement l'état latent futur de la scène et estime la valeur de l'action, ce qui force le critique à apprendre la dynamique temporelle plutôt qu'à simplement régresser un score. Le système s'intègre aux pipelines on-policy et off-policy et fonctionne avec les backbones VLA de référence Pi0, Pi0.5 et OpenVLA-OFT. Les auteurs rapportent des résultats état de l'art sur 149 tâches réparties sur quatre benchmarks, avec des gains marqués en généralisation hors distribution, ainsi qu'une validation sur sept tâches de manipulation réelles combinant OpenVLA-OFT et Pi0.5 en RL off-policy. L'enjeu dépasse la seule performance chiffrée: le RL post-entraînement des modèles VLA est aujourd'hui l'un des leviers les plus regardés pour fiabiliser les politiques robotiques au-delà de l'imitation pure, mais les critiques scalaires classiques peinent justement là où le contrôle réel exige de la mémoire et de l'anticipation. Si les gains de généralisation se confirment en dehors du cadre des benchmarks académiques, WCM pourrait devenir un composant standard pour les équipes qui affinent des VLA en production plutôt qu'une simple curiosité de laboratoire, en particulier pour les intégrateurs qui cherchent à réduire l'écart entre démonstration en simulation et déploiement réel. L'article s'inscrit dans la lignée des travaux récents sur l'apprentissage par prédiction de représentations latentes (JEPA, popularisé par Meta AI) appliqués à la robotique, et complète les approches critic-based existantes du RL pour VLA. Les auteurs ne précisent pas de plan de mise en open source ni de calendrier d'intégration dans des stacks robotiques commerciales; l'étape suivante logique serait une validation à plus grande échelle sur des plateformes industrielles.

RechercheActu

1 source

2arXiv cs.RO

ReActor : apprentissage par renforcement pour le reciblage de mouvement avec physique

Une équipe de chercheurs a publié ReActor (arXiv:2605.06593, mai 2026), un cadre d'optimisation bilevel qui résout simultanément le retargeting cinématique et l'entraînement de la politique de suivi par apprentissage par renforcement. Le problème est connu : transposer une séquence de mouvement humaine capturée sur un robot aux articulations différentes génère systématiquement des artefacts physiques rédhibitoires, glissement de pieds, auto-collisions ou trajectoires dynamiquement infaisables, qui dégradent l'imitation learning en aval. ReActor élimine ces pathologies en intégrant directement le retargeting dans la simulation physique, avec un gradient approximé pour le niveau supérieur de l'optimisation et un ensemble sparse de correspondances sémantiques entre corps rigides. Aucun réglage manuel n'est requis. Le framework a été validé en simulation et sur hardware réel, notamment sur un quadrupède, morphologie particulièrement éloignée du référentiel humain. Ce résultat cible un goulet d'étranglement concret dans les pipelines d'imitation learning : la majorité des démonstrations actuelles reposent sur des données de mouvement nettoyées à la main ou des trajectoires synthétiques, deux approches coûteuses qui freinent le passage à l'échelle. En garantissant la cohérence physique dès le retargeting, ReActor produit des données directement exploitables sans post-traitement, réduisant le cycle de production de policies. L'absence de tuning manuel est stratégique pour les intégrateurs : le même framework peut s'appliquer à des morphologies très différentes sans réingénierie spécifique. La validation hardware sur quadrupède renforce la crédibilité face à des travaux restés confinés au sim-to-sim. Ce champ de recherche s'est intensifié avec l'essor des modèles d'action visuels (VLA) comme pi-0 de Physical Intelligence ou GR00T N2 de NVIDIA, qui exigent de larges corpus de démonstrations physiquement cohérentes pour généraliser. ReActor se positionne face à des approches comme PHC ou MoCapAct en se distinguant par son couplage natif à la simulation physique plutôt qu'une correction post-hoc. Il s'agit pour l'instant d'un preprint académique sans partenariat industriel annoncé. La prochaine étape logique serait une validation sur robot humanoïde complet, où les contraintes dynamiques et les degrés de liberté supplémentaires rendent le problème encore plus sévère.

RecherchePaper

1 source

3arXiv cs.RO

ADEPT : accélérer la dextérité par pré-entraînement et post-entraînement via apprentissage par renforcement

ADEPT, pour Accelerating Dexterity via Pre-Training and Post-Training using Reinforcement Learning, est un système d'apprentissage par renforcement (RL) à grande échelle décrit dans un preprint publié sur arXiv en août 2026 (référence 2608.19182), qui transfère une dextérité robotique du simulateur au monde réel sur des bras et mains à haut nombre de degrés de liberté (DoF). La méthode pré-entraîne une politique générique de repositionnement d'objets, puis affine des politiques spécialisées à partir de ce socle commun, évitant de réapprendre les mêmes compétences de base pour chaque nouvelle tâche. Elle a été testée sur deux plateformes : un bras Kuka couplé à une main Allegro (23 DoF, deux caméras RGB) et un bras Flexiv associé à une main Sharpa (29 DoF, deux caméras RGB et cinq capteurs tactiles à base de vision). Les politiques finales, distillées en modèles perceptifs compacts, exécutent des tâches longues à partir d'états initiaux difficiles, à une vitesse proche du niveau humain, avec un transfert direct vers le réel sans réentraînement supplémentaire. Ce travail répond à un problème connu du RL appliqué à la robotique dextre : un simple réglage fin de la politique pré-entraînée dégrade rapidement les capacités acquises lors du transfert vers une nouvelle tâche. Pour l'éviter, les auteurs combinent distillation par clonage comportemental, préchauffage du critique et mises à jour on-policy conservatrices. Ils ajoutent un "Geometric Fabric" dans l'espace articulaire, une couche qui médiatise entre la politique RL et le robot pour exploiter en sécurité toute l'amplitude cinématique sans mouvements incontrôlés. Pour l'industrie de la manipulation dextre, ADEPT illustre une alternative aux modèles vision-langage-action massifs type Pi-0 ou GR00T N2 : un RL pré-entraîné et réutilisable plutôt qu'une imitation pure à partir de démonstrations, avec un transfert validé directement sur du matériel multi-doigts réel. L'apprentissage de la dextérité fine avec des mains multi-doigts et une perception visuo-tactile brute reste l'un des verrous majeurs de la robotique d'apprentissage, en raison du coût et du risque d'endommager le matériel pendant l'entraînement en conditions réelles. Les approches précédentes entraînaient généralement une politique par tâche depuis zéro, un processus coûteux et peu réutilisable à grande échelle. ADEPT se positionne ainsi face aux efforts d'autres acteurs de la robotique humanoïde et de la manipulation, dont les systèmes associés à Figure 03, Optimus Gen 3 ou Helix, qui misent davantage sur de gros modèles entraînés sur des données de téléopération. Classé comme nouvelle publication sur arXiv, l'article ne mentionne aucun déploiement commercial ni partenariat industriel : il s'agit d'un résultat de recherche validé sur deux bancs robotiques de laboratoire, sans calendrier annoncé pour un produit ou un pilote client.

UELe bras robotique Kuka (Allemagne) sert de plateforme materielle a cette recherche, mais l'article ne mentionne aucune retombee industrielle ou reglementaire en France/UE.

RecherchePaper

1 source

4arXiv cs.RO

Vers un apprentissage par renforcement piloté par couple pour la locomotion quadrupède

Des chercheurs publient sur arXiv (référence 2607.18365v1) un nouveau cadre d'apprentissage par renforcement (RL) piloté par le couple moteur, plutôt que par la position, pour la locomotion de robots quadrupèdes. Contrairement aux approches RL classiques qui commandent les articulations en position et nécessitent une estimation d'état complexe (notamment la vitesse linéaire de l'engin), ce framework agit directement sur le couple et permet à un robot de suivre une vitesse cible sans connaître sa propre vitesse en temps réel. L'équipe a testé son approche en simulation sur Nvidia Isaac Sim et Isaac Lab, en utilisant le quadrupède Unitree B1, une plateforme lourde et à fort couple par rapport aux petits robots légers habituellement employés dans ce type de recherche. Résultat : le robot simulé atteint 3,5 m/s en vitesse linéaire et 1,5 rad/s en rotation, et parvient à monter et descendre des escaliers sans capteur extéroceptif (caméra ou lidar), en s'appuyant uniquement sur sa perception proprioceptive. L'enjeu dépasse la simple performance chiffrée : la plupart des frameworks RL actuels butent sur des robots légers, limités dès qu'il s'agit de tâches à forte exigence mécanique (charge utile, franchissement d'obstacles robustes). En démontrant qu'un contrôle par couple peut fonctionner sur une plateforme lourde et à haut couple sans état de vitesse explicite, ce travail ouvre la voie à des quadrupèdes RL capables d'opérations industrielles plus exigeantes, un axe clé pour les intégrateurs qui cherchent à sortir la locomotion apprise des laboratoires vers des usages réels (inspection, logistique en terrain difficile). Il faut toutefois noter que ces résultats restent purement issus de la simulation, sans validation sur robot physique à ce stade, ce qui laisse ouverte la question classique du transfert sim-to-real. Le choix du Unitree B1, une plateforme commerciale déjà répandue dans la recherche en robotique mobile, suggère une intention de test réel à venir, mais aucun calendrier n'est communiqué dans l'article.

RecherchePaper

1 source