Aller au contenu principal
Le Fil Robotique
Le Fil RobotiqueHumanoïdes · IA physique · Industriel
Prédire la distribution des forces de contact à partir de la vision en exploitant les a priori de géométrie des objets
RecherchearXiv cs.RO 

Prédire la distribution des forces de contact à partir de la vision en exploitant les a priori de géométrie des objets

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Une équipe de recherche a publié le 1er août 2026 sur arXiv (référence 2608.00464) un modèle qui prédit la distribution tridimensionnelle des forces de contact à partir d'une seule image RGB, appliqué à des scènes d'objets du quotidien empilés en vrac. Pour entraîner ce système, les auteurs ont d'abord généré des données appariées vision-force via un simulateur de corps rigides classique en robotique, un outil qui produit normalement des forces ponctuelles bruitées et peu exploitables telles quelles. Leur idée centrale consiste à lisser statistiquement ces forces ponctuelles pour obtenir des distributions continues, plus proches de la façon dont un humain anticipe intuitivement le comportement physique d'une pile d'objets. Ils vont plus loin en intégrant la géométrie de chaque objet dans ce processus de lissage, afin de tenir compte des variations d'état de contact selon la forme des pièces. Le modèle a été évalué à la fois en simulation et sur des scènes réelles, alors qu'il n'a jamais été entraîné que sur des données synthétiques.

L'enjeu dépasse la simple précision de prédiction : il touche directement au problème classique du transfert sim-to-real, l'un des principaux points de friction pour rendre la manipulation robotique fiable hors laboratoire. Un robot capable d'anticiper visuellement où et comment les forces se répartissent dans une pile d'objets peut ajuster sa stratégie de préhension avant même le contact, ce qui intéresse directement les intégrateurs travaillant sur le tri, le bin-picking ou la logistique en environnement non structuré. Les résultats indiqués montrent que le lissage améliore non seulement la prédiction elle-même, mais aussi la performance sur les tâches en aval, et que le guidage par géométrie apporte un gain supplémentaire, ce qui suggère que la représentation du signal cible compte autant que l'architecture du modèle.

Ce travail s'inscrit dans un courant de recherche plus large sur l'estimation de propriétés physiques à partir de la seule vision, sans capteurs de force embarqués coûteux. Il reste à ce stade une contribution académique, sans déploiement industriel annoncé ni partenaire cité, et les prochaines étapes attendues concernent probablement l'extension à des géométries d'objets plus variées et des scénarios de manipulation plus complexes.

Dans nos dossiers

Manipulation robotiquearXiv cs.RO

À lire aussi

Exploiter les affordances entre objets pour une planification efficace des tâches à contact riche
1arXiv cs.RO 

Exploiter les affordances entre objets pour une planification efficace des tâches à contact riche

Des chercheurs proposent une nouvelle méthode de planification robotique baptisée U-TAMP (Unified Task-and-Motion Planning), détaillée dans un preprint publié le 27 août 2026 sur arXiv (référence 2608.25641v1). Le travail s'attaque à une limite connue des approches classiques de planification tâche-mouvement (TAMP), qui modélisent les objets de façon simplifiée et ignorent des propriétés physiques essentielles (matière, forme, prise possible) pour réussir des tâches impliquant des contacts complexes, comme empoigner ou poser un objet sur un autre. Les auteurs utilisent un modèle vision-langage (VLM) pour générer automatiquement des abstractions des affordances entre objets, c'est-à-dire des contraintes de préhension et de support qui décrivent comment deux objets peuvent interagir physiquement. Ces contraintes enrichissent le domaine de planification pour gérer des objets aux propriétés variables. La méthode a été testée dans des scénarios simulés de rangement de table de cuisine, et comparée à la version originale de U-TAMP ainsi qu'à un planificateur VLM de référence s'appuyant sur le sens commun pour déduire les affordances. Résultat annoncé : un taux de réussite de planification nettement supérieur et des temps de calcul réduits d'un à deux ordres de grandeur par rapport aux méthodes concurrentes. Pour les équipes de recherche en robotique manipulatrice, ce travail illustre une piste alternative à l'apprentissage de bout en bout défendu par les modèles vision-langage-action comme Pi-0 ou GR00T N2 : plutôt que de tout confier à un réseau appris sur des données, il s'agit d'injecter du sens commun physique, via un VLM, dans un moteur de planification symbolique classique, pour gagner en vitesse et en fiabilité sans sacrifier l'interprétabilité. La réduction du temps de planification est particulièrement pertinente pour les tâches longues et séquentielles typiques de l'industrie et du service à la personne. Il faut toutefois noter que ces résultats restent cantonnés à la simulation, sur un seul type de scénario domestique, sans validation sur robot réel ni indication de déploiement industriel. Le TAMP est un champ de recherche établi qui combine raisonnement symbolique et planification de mouvement continue ; ce papier s'inscrit dans la lignée d'un système U-TAMP préexistant, qu'il étend avec la brique VLM pour l'affordance. Les prochaines étapes attendues, non précisées dans l'article, seraient une validation sur plateforme physique et une extension à des tâches de manipulation plus variées que le simple rangement de table.

RecherchePaper
1 source
Ego2Contact : prédire le toucher à partir de vidéos humaines égocentriques pour la manipulation robotique riche en contacts
2arXiv cs.RO 

Ego2Contact : prédire le toucher à partir de vidéos humaines égocentriques pour la manipulation robotique riche en contacts

Des chercheurs présentent Ego2Contact, un système qui prédit les zones de contact et le champ tactile des deux mains à partir d'une simple vidéo RGB égocentrique, puis transfère ce savoir à des mains robotiques. Le prédicteur fusionne le contexte temporel de la scène avec des caractéristiques visuelles locales à la main. Il est d'abord entraîné sur des enregistrements humains appariés à des mesures de gants tactiles. Pour passer à des mains de robot, dont l'apparence et la disposition des capteurs diffèrent, les auteurs alignent chaque géométrie tactile sur une grille canonique grâce à des correspondances entre régions anatomiques. Les mesures du robot servent alors de cibles de fine-tuning, et les prédictions deviennent des entrées de politique. Selon le résumé, le modèle dépasse les prédicteurs tactiles antérieurs sur données humaines, y compris sur des objets jamais vus, et sur données robot après adaptation. Le travail est publié sur arXiv (2610.22932v1) et aucun chiffre de performance n'est donné dans ce résumé. Le problème visé est un goulot d'étranglement connu de la manipulation riche en contacts. Les positions et forces de contact sont souvent ambiguës à la seule vue, mais les mesurer sur un robot exige du matériel tactile spécialisé et une collecte de données propre à chaque plateforme, ce qui rend les jeux de données tactiles robotiques rares. La vidéo égocentrique humaine se collecte à grande échelle, mais elle ne contient pas le toucher. Ego2Contact propose de combler ce manque en apprenant un a priori visuo-tactile chez l'humain. Les politiques entraînées avec le toucher prédit servent à la fois à de l'apprentissage par renforcement en simulation et au post-entraînement de politiques sur robot réel. En simulation, elles surpassent les références sans tactile et récupèrent une partie seulement du gain obtenu avec un tactile réel (« ground truth »). Ce « en partie » compte : le toucher inféré n'égale pas un capteur physique. Les résumés ne détaillent pas non plus les tâches ni l'ampleur des gains sur robot réel, des points à vérifier dans l'article complet. Ce travail s'inscrit dans la tendance qui exploite la vidéo humaine comme source de données bon marché pour la manipulation, en complément de la téléopération et de la simulation, dont le coût de collecte limite le passage à l'échelle. Il prolonge les prédicteurs entraînés sur gants tactiles, jusque-là limités aux mains humaines. Le résumé ne cite ni entreprise ni plateforme robotique précise, et aucun déploiement industriel n'est annoncé : il s'agit de recherche académique, pas d'un produit. La suite logique est une validation sur davantage de mains robotiques et de tâches réelles, ainsi que des comparaisons directes avec les capteurs tactiles embarqués que développent les acteurs de la main dextre.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
VLA-Scope : prédire les échecs des modèles vision-langage-action face aux changements de distribution
3arXiv cs.RO 

VLA-Scope : prédire les échecs des modèles vision-langage-action face aux changements de distribution

Un article publie sur arXiv (2609.21246v1) présente VLA-Scope, un framework en deux étapes qui prédit les échecs d'exécution des modèles vision-langage-action (VLA) quand les entrées s'écartent de la distribution d'entrainement, ou OOD. La première étape détecte les entrées OOD et classe leur type de décalage a partir de représentations poolees d'image et de texte; la seconde combine cette catégorie, le préfixe d'actions déjà jouées et la progression de la tache dans une régression logistique qui réactualisé le risque d'échec en continu. Teste avec OpenVLA sur dix taches du benchmark LIBERO-Spatial en validation croisée leave-one-group-out, le système atteint un ROC-AUC de 0,9454 pour la détection OOD et 91% de précision pour la classification des décalages. Sur les 1 400 exécutions OOD évaluées, le prédicteur d'échec obtient un ROC-AUC de 0,8497 après 60 actions, contre 0,7906 sans les indicateurs de progression, devançant les références ActProbe et SAFE-MLP. L'enjeu pour l'industrie tient au constat de départ: un modèle VLA peut réussir même en conditions OOD, donc détecter un simple écart de distribution ne suffit pas a anticiper un échec, il faut aussi suivre le déroulement de l'exécution. Pour les intégrateurs déployant des politiques VLA sur des robots réels, confrontes en continu a des variations d'éclairage ou de pose d'objets, un signal de risque qui s'affine action après action ouvre la voie a des mécanismes de secours (arrêt, reprise humaine) sans capteur ni reentrainement supplémentaires. Le travail reste valide en simulation, sur un seul benchmark et un seul modèle: une preuve de concept, pas un outil de production. OpenVLA, le modèle teste, appartient a la famille des politiques VLA open source qui côtoient des systèmes propriétaires comme Pi-0 de Physical Intelligence, GR00T N2 de NVIDIA ou Helix de Figure AI, tous confrontes au même problème de fiabilité hors distribution. VLA-Scope se compare a deux méthodes existantes, ActProbe et SAFE-MLP, qu'il surpasse sur les métriques rapportées. L'article, classe comme nouvelle soumission sur arXiv sans auteurs ni calendrier précises, appelle logiquement une validation sur des taches plus variées, d'autres architectures et des robots physiques plutôt que des environnements simules.

RecherchePaper
1 source
Imagine2Act : exploiter la cohérence objet-action à partir de buts imaginés pour la manipulation robotique
4arXiv cs.RO 

Imagine2Act : exploiter la cohérence objet-action à partir de buts imaginés pour la manipulation robotique

Une équipe de recherche présente Imagine2Act, un framework d'apprentissage par imitation en 3D conçu pour les tâches de réarrangement relationnel d'objets, comme insérer une fleur dans un vase, où la précision sémantique et géométrique est critique. Publié sur arXiv sous la référence 2509.17125 (version mise à jour), le système génère d'abord des images de but imaginées à partir d'instructions en langage naturel, puis reconstruit les nuages de points 3D correspondants pour fournir des a priori sémantiques et géométriques robustes. Ces nuages de points imaginés sont injectés comme entrées supplémentaires dans le modèle de politique, tandis qu'une stratégie de cohérence objet-action, avec une supervision de pose souple, aligne explicitement le mouvement prédit de l'effecteur terminal avec la transformation d'objet générée. Les auteurs rapportent des expériences menées à la fois en simulation et sur robot réel montrant que Imagine2Act surpasse les politiques de référence précédentes considérées comme état de l'art. L'intérêt de cette approche tient à la faiblesse qu'elle cible directement : les méthodes existantes s'appuient soit sur des démonstrations pré-collectées, qui peinent à capturer des contraintes géométriques complexes, soit sur la génération d'images d'état-but, qui capture bien la sémantique et la géométrie mais ne relie pas explicitement la transformation d'objet à la prédiction d'action, ce qui introduit des erreurs liées au bruit génératif. En couplant explicitement ces deux étapes via la cohérence objet-action, Imagine2Act tente de refermer l'écart entre génération de but visuel et exécution motrice précise, un problème central pour les intégrateurs qui cherchent des politiques de manipulation fiables sur des tâches fines (insertion, assemblage, positionnement relatif) plutôt que du simple pick-and-place. Ce travail s'inscrit dans la tendance des modèles vision-langage-action, où la promesse dépasse souvent la robustesse démontrée hors laboratoire ; les auteurs limitent ici l'écart démo/réalité en testant à la fois en simulation et sur robot physique, même si les résultats avancés restent ceux d'une publication académique et non d'un déploiement industriel. Imagine2Act se positionne face à deux familles de méthodes concurrentes dans la recherche en manipulation robotique : l'imitation pure à partir de démonstrations humaines, et les approches récentes de génération d'images de but conditionnées par le langage, qui se sont multipliées avec les progrès des modèles de diffusion texte-image. Le papier, disponible en version mise à jour sous la référence 2509.17125v3, ne mentionne aucune plateforme robotique commerciale ni partenariat industriel ; il s'agit d'une contribution de recherche, accompagnée d'un site dédié (sites.google.com/view/imagine2act) proposant des visualisations supplémentaires des expériences en simulation et en conditions réelles. Aucune date de déploiement, aucun volume de production ni tarif n'est associé à ces travaux, qui restent au stade de la preuve de concept scientifique plutôt que du produit prêt à être intégré en ligne de production.

RechercheActu
1 source