RecherchearXiv cs.RO 15 septembre 2026

Noyau physique : latents visuels structurés pour la manipulation en obscurité

1 source couvre ce sujet·Source originale ↗·

Résumé IASource uniqueImpact UE

Une équipe de recherche publie sur arXiv (référence 2609.13244, septembre 2026) une étude sur la « manipulation dans le noir » : après une brève phase visuelle initiale qui encode une image RGB en un vecteur latent z0, une politique et un modèle de dynamique en boucle ouverte achèvent seuls, sans nouvelle image, des tâches de manipulation en contact (protocole darkf). Sur le benchmark de simulation ManiSkill StackCube (n=160), darkf réussit l'empilement complet dans 68,1 % des cas sur une chaîne en cinq étapes (approche, prise, levage, positionnement, empilement), contre 35,6 % pour un réencodage visuel à chaque pas et 0 % pour un encodage gelé ou une image noire. Dans un protocole partagé « écriture puis maintien » (n=40), l'occlusion et des masques de contact vérité terrain font chuter la méthode visuelle de 43 % à 0 %, alors que darkf conserve 82,5 % de réussite. Un changement d'éclairage simulant la nuit pendant l'écriture fait tomber le taux à 0 %, mais le même changement pendant le maintien n'affecte pas darkf. Une politique dédiée à l'écriture (pi_write) atteint 35 % de réussite à budget visuel réduit, un niveau que n'atteignent ni des références type Dreamer sans géométrie privilégiée (0 %), ni un contrôleur MPC à état privilégié en 9 dimensions, qui plafonne aussi à 35 % mais que les auteurs jugent non comparable faute d'accès aux mêmes informations.

Ces résultats nuancent l'hypothèse dominante en robotique par apprentissage selon laquelle un flux vidéo continu serait indispensable au pilotage de tâches en contact : une fois l'état visuel encodé, un modèle du monde en boucle ouverte suffit à mener à bien une séquence complexe comme l'empilement. Pour les intégrateurs, l'intérêt est opérationnel : moins de dépendance à la caméra en continu signifie moins de sensibilité à l'occlusion, à la compression d'image et aux variations d'éclairage pendant l'exécution, ainsi qu'une charge de calcul allégée. Le travail interroge aussi une hypothèse répandue dans la recherche en modèles vision-langage-action (VLA), pour qui la réactivité pixel par pixel serait seule garante de robustesse : un espace latent figé après une écriture unique s'avère ici plus résistant aux perturbations qu'un réencodage permanent, à condition que cette écriture initiale soit de bonne qualité.

L'approche s'inscrit dans la lignée des modèles du monde à latent structuré, popularisés par les architectures RSSM des systèmes Dreamer et PlaNet, et fait écho aux débats actuels autour des modèles vision-langage-action déployés en robotique humanoïde et industrielle, tels Pi-0, GR00T N2 ou Helix, qui s'appuient généralement sur un flux visuel continu. Contrairement à ces systèmes commerciaux, cette publication reste une recherche académique menée uniquement en simulation, limitée au benchmark ManiSkill et à une seule tâche d'empilement de cubes, sans validation sur robot réel ni annonce de déploiement industriel. La suite logique, non couverte par ce travail, consisterait à étendre le protocole à des tâches plus variées et à en tester la robustesse hors simulation, sur matériel réel, avant toute application industrielle.

Dans nos dossiers

IA physique & VLA NVIDIA GR00T arXiv cs.RO

À lire aussi

1arXiv cs.RO

Mots physiques : un vocabulaire pour structurer le raisonnement latent en manipulation robotique

Des chercheurs proposent PhysWord, un modèle de fondation robotique de type « raisonner avant d'agir », bâti sur des « Physical Words ». Ces mots physiques utilisent des verbes d'action atomiques (saisir, pousser, insérer, par exemple) comme ancres sémantiques partagées pour représenter de façon continue la dynamique physique. Le modèle prédit les prochains mots d'action et aligne leurs états cachés contextuels sur des cibles latentes extraites des observations futures correspondantes. Les auteurs en déduisent un espace PhysWord structuré dans le temps, avec pour chaque mot une variante visuelle et une variante tactile optionnelle. Le modèle prédit ces mots de façon autorégressive sur plusieurs pas de temps, ce qui donne au module d'action un contexte multimodal décrivant les transitions entre phases d'exécution. Les auteurs annoncent 90,3 % de réussite sur le benchmark visuotactile UniVTAC et 99,6 % sur LIBERO-Long, un benchmark en vision seule. Ils indiquent aussi de meilleurs résultats que les méthodes concurrentes sur des tâches réelles, avec des pinces bimanuelles et des mains dextres. Il s'agit d'un travail académique publié sur arXiv. Aucun produit ni déploiement industriel n'est annoncé. L'intérêt tient à la tension que le travail cherche à résoudre. Le raisonnement en langage naturel capte la sémantique d'une tâche mais décrit mal les dynamiques physiques fines, comme le contact ou le glissement. Le raisonnement latent modélise l'évolution des états futurs, mais sans structure réutilisable. En ancrant les représentations continues dans un vocabulaire discret de primitives, PhysWord vise un compromis interprétable et composable, utile pour la manipulation longue durée et la dextérité. L'intégration du tactile est un signal pertinent pour les intégrateurs qui travaillent sur l'assemblage ou la manipulation d'objets fragiles. Il faut toutefois relativiser les chiffres. Un score de 99,6 % sur LIBERO-Long signale surtout un benchmark proche de la saturation, qui discrimine de moins en moins les méthodes. Les gains en conditions réelles, présentés sans détail dans le résumé, restent à confirmer sur les protocoles complets (nombre d'essais, variabilité des scènes). Ce travail s'inscrit dans la montée des modèles vision-langage-action (VLA) dotés d'une étape de raisonnement intermédiaire. Ces modèles passent par du texte, des sous-objectifs visuels ou des représentations latentes avant de générer l'action. PhysWord se place entre ces familles en cherchant à combiner leurs forces. La suite logique serait une validation sur d'autres plateformes, une comparaison directe avec les grands VLA généralistes et une publication du code ou des poids. Sans cela, la portée industrielle reste difficile à évaluer.

RecherchePaper

1 source

2arXiv cs.RO

Apprentissage de points latents structurels pour des représentations visuelles efficaces en manipulation robotique

Une équipe de recherche propose, dans un prépublication arXiv (identifiant 2605.21258, mai 2026), un nouveau cadre de pré-entraînement pour la perception 3D appliquée à la manipulation robotique. L'idée centrale est une représentation hybride baptisée "structural latent points" : les auteurs insèrent un variational autoencoder (VAE) point-à-point dans l'espace latent d'un autoencoder de nuages de points (point cloud), en régularisant simultanément les coordonnées et les features vers une distribution gaussienne. Le résultat est une représentation compacte qui capture des tendances structurelles globales, une forme approximative et une information sémantique, sans encoder une géométrie précise. Le pipeline de rendu repose sur la 3D Gaussian Splatting (3DGS), délibérément allégée pour laisser la capacité représentationnelle au module latent frontal. Les évaluations sont menées sur RLBench, ManiSkill2, et une plateforme robot réelle, avec des ablations confirmant la contribution de chaque composant. L'intérêt de cette approche tient à un problème connu des intégrateurs et des équipes de recherche en manipulation : les représentations implicites (champs neuronaux, NeRF) sont expressives mais manquent de repères structurels exploitables, tandis que les représentations explicites (primitives géométriques, meshes) préservent la géométrie au prix d'une résolution limitée et d'une faible généralisation hors distribution. L'architecture proposée tente de cumuler les avantages des deux familles. Les auteurs revendiquent des gains en taux de succès de tâche, en efficacité d'échantillonnage et en robustesse aux variations de point de vue, trois métriques directement pertinentes pour le déploiement industriel. Nuance à noter : l'abstract ne fournit aucun chiffre absolu, ce qui rend la comparaison indépendante impossible sans lire les tableaux complets du papier. Cette publication s'inscrit dans une vague dense de travaux sur le pré-entraînement 3D pour la manipulation incarnée, domaine en ébullition depuis l'émergence des VLA (Vision-Language-Action models) et des politiques diffusion comme pi0 ou ACT. Les benchmarks choisis, RLBench (simulation tabletop, DeepMind) et ManiSkill2 (simulation GPU-parallèle, UCSD), sont des standards de facto du domaine. L'absence de mention d'affiliation institutionnelle ou industrielle dans l'abstract empêche tout positionnement concurrentiel précis, mais la direction prise converge avec les efforts de groupes comme Physical Intelligence, Google DeepMind ou CMU sur la représentation perceptuelle robuste comme socle pour la généralisation des politiques de manipulation.

RecherchePaper

1 source

3arXiv cs.RO

Latent Diffusion Policy : structurer les espaces latents pour la manipulation robotique par diffusion

Une équipe de chercheurs propose dans un preprint arXiv publié en juin 2026 (réf. 2606.08657) une architecture baptisée Latent Diffusion Policy (LDP), conçue pour améliorer les politiques visuomotrices basées sur la diffusion appliquées à la manipulation robotique. LDP fonctionne en deux étapes : un encodeur CVAE (variational autoencoder conditionnel) conditionné par l'observation absorbe d'abord la compréhension de la scène, puis un modèle de flow matching génère les trajectoires dans cet espace latent pré-structuré. Pour gérer les dépendances temporelles entre tokens, les auteurs introduisent un entraînement par diffusion forcing par token et un schéma d'inférence en escalier (staircase inference sampling) pour corriger le décalage de distribution qui en résulte. Ils proposent également la rFID (reconstruction FID) comme métrique proxy légère permettant de prédire le succès d'une tâche à partir des seules statistiques de l'espace latent, sans nécessiter d'évaluation complète en simulation. Sur le benchmark RoboTwin 2.0, LDP surpasse DP3 par une marge qualifiée de "substantielle", et les auteurs rapportent un transfert effectif vers des déploiements réels en manipulation bimanuelle. L'enjeu technique central que LDP cherche à résoudre est réel : les politiques de diffusion opérant directement dans l'espace d'action brut imposent à un seul processus de débruitage de gérer simultanément l'interprétation de la scène et la planification précise de trajectoires, ce qui augmente la complexité d'apprentissage et pénalise notamment les tâches exigeant une coordination temporelle fine entre plusieurs bras. Séparer ces deux responsabilités dans un cadre à deux étages est une approche structurellement cohérente. La rFID, si elle se confirme empiriquement, pourrait réduire significativement le coût d'évaluation des politiques en simulation. Cela dit, l'abstract ne fournit pas de chiffres de performance quantitatifs précis, ce qui rend difficile l'évaluation indépendante de la "marge substantielle" revendiquée face à DP3. Ce travail s'inscrit dans un champ très actif depuis la publication de Diffusion Policy (Chi et al., 2023) et de DP3, qui ont établi la diffusion comme paradigme dominant pour l'imitation de comportements robotiques complexes. Le flow matching, plus efficace que la diffusion classique en nombre d'étapes d'inférence, s'y impose progressivement. Les approches concurrentes incluent ACT, RDT-1B et pi-zero (Physical Intelligence), qui explorent d'autres voies pour combiner compréhension visuelle et contrôle moteur à grande échelle. LDP reste pour l'instant un résultat académique sans annonce de déploiement industriel ou de partenariat commercial, et RoboTwin 2.0 est un benchmark de simulation dont le gap sim-to-réel méritera une validation plus large.

RechercheOpinion

1 source

4arXiv cs.RO

Fly-by-Code : des agents de code incarnés pour la manipulation aérienne, avec retour visuel actif et retour physique

Des chercheurs proposent Fly-by-Code, un cadre où des agents de codage incarnés pilotent un manipulateur aérien (un drone équipé d'un bras) en générant des programmes exécutables à partir d'instructions en langage naturel, puis en les corrigeant à partir du retour d'exécution. Le travail, publié sur arXiv (2610.12549), introduit un mécanisme appelé Active Feedback (AF), fondé sur le principe « View and Probe ». Quand le retour d'exécution laisse des questions ouvertes, l'agent synthétise un programme de diagnostic distinct, exécuté en simulation. Ce programme peut soit inspecter depuis des points de vue informatifs des résultats que le robot n'a pas vus (View), soit tester des hypothèses sur les causes d'un échec par des interactions physiques ciblées (Probe). Sur six tâches de manipulation aérienne simulées, avec 60 essais par condition, AF fait passer les fausses déclarations de réussite de 25 à 5 et le taux de succès final de 31,7 % à 75 %. La comparaison se fait avec un retour terminal simple, à configuration d'agent et limite d'exécution identiques. Les programmes affinés en simulation tournent ensuite sur un manipulateur aérien physique, via des API robot partagées et sans modification du code source. Ils accomplissent des tâches de manipulation en plusieurs étapes en conditions réelles. L'intérêt tient à l'hypothèse que le travail remet en cause. Les boucles d'agents de codage supposent que le retour d'exécution dit si la tâche a réussi et, en cas d'échec, indique comment corriger le programme. En aérien, cette hypothèse ne tient pas. Les contraintes de charge utile limitent les caméras embarquées, si bien que des résultats décisifs restent hors champ (observabilité partielle). Le fort couplage dynamique et les faibles marges de contrôle rendent les interactions fragiles, et plusieurs causes d'échec produisent les mêmes symptômes. Relire le même retour ne récupère donc ni des observations jamais capturées, ni une distinction entre causes. Le point le plus parlant est la réduction des fausses déclarations de réussite : un agent qui annonce avoir fini sans l'avoir fait est le principal danger d'un déploiement autonome. Pour les intégrateurs, le message est que la fiabilité vient moins d'un meilleur modèle de langage que d'une instrumentation active du diagnostic. Il faut toutefois nuancer : les chiffres viennent de simulation, six tâches seulement, et la démonstration réelle reste qualitative, sans taux de succès publié sur matériel. Le transfert sans modification du code est encourageant, mais ne vaut pas validation en production. Ce travail s'inscrit dans la montée des agents de codage embarqués, qui génèrent des politiques sous forme de programmes plutôt que d'entraîner des politiques neuronales de bout en bout, comme le font les approches VLA. L'aérien est un cas limite, car la charge utile impose des capteurs réduits et la physique pardonne peu. Le résumé ne cite ni modèle de langage, ni plateforme précise, ni calendrier de pilotes. Il s'agit d'une préversion de recherche (v1), sans produit ni déploiement industriel annoncé. La suite logique est une évaluation plus large sur matériel, avec des mesures chiffrées en conditions réelles, et l'application de la même logique de diagnostic exécutable à d'autres robots à capteurs contraints.

UEPas d\'impact direct sur la France/UE

RecherchePaper

1 source