Aller au contenu principal
Extension de la segmentation des affordances pour robots portables aux images multi-objets
RecherchearXiv cs.RO 

Extension de la segmentation des affordances pour robots portables aux images multi-objets

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Des chercheurs proposent, dans une prépublication arXiv (2610.29474), une amélioration des pipelines de vision embarquée qui identifient les parties saisissables d'un objet pour les prothèses de membre supérieur. Ces systèmes servent à sélectionner automatiquement la prise et à préformer la main avant le contact. La modification matérielle est minime: un pointeur laser s'ajoute au dispositif porté par l'utilisateur et sert à désigner l'objet visé parmi plusieurs. Les réseaux de neurones convolutifs de segmentation d'affordances sont réentraînés en conséquence. Pour produire les données d'entraînement, une stratégie de réalité mixte réutilise des masques de segmentation de haute qualité déjà disponibles et génère des images réalistes de façon procédurale. Les auteurs annoncent une précision de désambiguïsation de la cible améliorée jusqu'à 9 % par rapport aux solutions existantes, à coût de calcul équivalent. Il s'agit de résultats expérimentaux de laboratoire, sans déploiement ni produit commercialisé.

Le point d'intérêt tient au verrou que le travail vise: les pipelines actuels fonctionnent surtout sur des scènes à objet unique, alors qu'une table réelle en contient plusieurs. Plutôt que d'alourdir les modèles, l'approche déplace l'ambiguïté vers l'utilisateur, qui désigne l'objet par un geste simple, ce qui garde l'inférence compatible avec l'électronique embarquée d'une prothèse. L'usage de données synthétiques à partir de masques existants limite aussi le coût d'annotation, un frein classique dans ce domaine. Il faut toutefois relativiser: le gain de 9 % est présenté « jusqu'à », sans précision dans le résumé sur les jeux de test, la référence de comparaison ou la variabilité d'une scène à l'autre. Un pointeur laser peut en outre poser problème en plein soleil, sur des surfaces brillantes ou transparentes, et ajoute une action à l'utilisateur, ce qui compte pour l'acceptation clinique.

Ce travail s'inscrit dans la ligne des prothèses à contrôle semi-autonome, où une caméra et un réseau de segmentation assistent le choix de la prise, afin de réduire la charge cognitive des amputés par rapport au contrôle myoélectrique seul. La scène à objets multiples reste le point faible de ces approches, et les auteurs y répondent par un ajustement pragmatique du capteur et des données plutôt que par un nouveau modèle. Les grands acteurs de la main prothétique, comme Ottobock, Össur ou Psyonic, intègrent progressivement ce type d'assistance, sans qu'aucun lien avec cette publication soit établi. Les prochaines étapes logiques seraient des essais avec des utilisateurs amputés, des tests hors laboratoire et une mesure du temps de sélection de bout en bout. Le résumé n'annonce ni calendrier ni partenaire industriel.

Impact France/UE

Pas d\'impact direct sur la France/UE

Dans nos dossiers

À lire aussi

Modélisation conjointe monde-action sensible aux affordances pour la manipulation robotique (AffordanceWAM)
1arXiv cs.RO 

Modélisation conjointe monde-action sensible aux affordances pour la manipulation robotique (AffordanceWAM)

Une équipe de recherche a publié le 22 septembre 2026 sur arXiv, sous la référence 2609.22332, AffordanceWAM, un nouveau modèle conjoint de monde et d'action pour la manipulation robotique généraliste. Bâti sur un Transformer de diffusion vidéo pré-entraîné, il associe un module « World Expert » et un module « Action Expert » reliés par une attention conjointe masquée, pour prédire simultanément les images RGB futures de la scène, un champ d'affordance scalaire, une carte de chaleur des zones manipulables et la trajectoire d'action continue du robot, sous un objectif d'entraînement unique de type flow-matching. Les vidéos humaines filmées à la première personne supervisent ces trois flux visuels, tandis que les démonstrations robotiques ajoutent la supervision d'action, sans retargeting ni étiquetage manuel des gestes humains, avant validation sur les bancs d'essai RoboCasa et CALVIN (protocole ABC vers D) et sur des tâches de manipulation réelles. Le problème visé est la pénurie de données d'entraînement pour les politiques vision-langage-action : les vidéos robot avec actions étiquetées restent coûteuses et peu diversifiées, tandis que les vidéos humaines égocentriques, abondantes, manquent d'actions robotiques exploitables et diffèrent en morphologie. AffordanceWAM affiche des gains constants face à des références limitées au RGB seul ou aux seules données robot, et surtout une amélioration monotone sur RoboCasa à mesure que le volume de vidéos humaines annotées en affordance augmente, à supervision robot constante. Pour les équipes entraînant des modèles VLA à grande échelle, ce résultat trace une voie pour réduire la dépendance à la téléopération coûteuse en exploitant des corpus vidéo humains déjà disponibles en masse. Le travail s'inscrit dans la tendance des modèles du monde appliqués à la robotique, où prédiction vidéo et génération d'action sont fusionnées dans une architecture unique plutôt que traitées séparément, une direction également suivie par plusieurs laboratoires industriels développant des modèles vision-langage-action. Il s'agit à ce stade d'une prépublication non encore validée par relecture par les pairs, testée sur des bancs d'essai académiques et un nombre restreint de scénarios réels, et non d'un produit ou d'un déploiement commercial. Le papier ne précise ni la taille exacte des corpus vidéo humains, ni de calendrier de publication du code ou des poids du modèle, laissant la reproductibilité comme prochaine étape à vérifier.

RechercheActu
1 source
Explicabilité de la navigation pour l'évitement d'objets avec des LLM pour les robots d'assistance
2arXiv cs.RO 

Explicabilité de la navigation pour l'évitement d'objets avec des LLM pour les robots d'assistance

Des chercheurs proposent le cadre Context-Aware Navigation Explanation, un système qui utilise un grand modèle de langage (LLM) pour expliquer en langage naturel les mouvements d'un chien guide robotique lors de l'évitement d'obstacles et de la navigation. Le dispositif fusionne le contexte perceptif (les obstacles détectés) avec les trajectoires futures planifiées par le robot, puis génère une justification verbale de ses déplacements. Il a été déployé sur une plateforme quadrupède Unitree Go2, dans des scénarios de navigation en intérieur. Les auteurs ont fait varier les configurations de contexte fournies au modèle, afin de mesurer leur effet sur la confiance des utilisateurs et sur leur satisfaction vis-à-vis des explications. Le travail est publié sur arXiv (2610.28920) et ne mentionne, dans son résumé, ni taille d'échantillon, ni nombre de participants, ni latence de génération. Les résultats indiquent une forte corrélation positive entre la satisfaction envers l'explication et la confiance accordée au robot. Ils suggèrent aussi que la combinaison des informations sur les obstacles et de la trajectoire future produit les explications les plus efficaces. Pour les personnes aveugles ou malvoyantes, qui naviguent déjà avec incertitude en terrain inconnu, avec une canne ou un chien guide, un robot capable de dire pourquoi il dévie ou ralentit répond à un vrai frein à l'adoption : l'opacité du comportement. Pour les intégrateurs et fabricants de robots d'assistance, l'enseignement est pratique : la transparence passe moins par un volume d'information brut que par le bon assemblage de ce que le robot perçoit et de ce qu'il compte faire. Il faut toutefois rester prudent. Il s'agit d'un résultat de laboratoire, en intérieur, et la corrélation entre satisfaction et confiance ne prouve pas que l'explication cause la confiance. On ignore aussi si les participants étaient réellement des personnes déficientes visuelles, ce qui pèse sur la portée des conclusions. Cette étude s'inscrit dans le courant de l'IA explicable appliquée à la robotique, qui cherche à rendre lisibles des décisions de planification et de perception jusque-là opaques. Le Unitree Go2, quadrupède à bas coût très répandu dans les laboratoires, sert de plateforme de référence, ce qui facilite la reproduction mais reste éloigné d'un produit d'assistance certifié. Les chiens guides robotiques sont déjà explorés par plusieurs équipes académiques, notamment aux États-Unis et en Asie, mais l'explication verbale de la navigation reste peu étudiée. Les prochaines étapes naturelles seraient des essais en extérieur, des tests avec des utilisateurs déficients visuels sur des effectifs plus larges, et une évaluation de la latence et de la fiabilité des explications générées par le LLM, qui peuvent être erronées. Aucun pilote commercial ni calendrier de déploiement n'est annoncé.

RecherchePaper
1 source
Planification rapide pour le lancer d'objets multiples vers des cibles multiples
3arXiv cs.RO 

Planification rapide pour le lancer d'objets multiples vers des cibles multiples

Des chercheurs proposent un cadre de planification pour le lancer simultané de plusieurs objets vers plusieurs cibles (MOMT, pour multi-object multi-target throwing), publié sur arXiv sous la référence 2610.09224. Le système a été validé sur un manipulateur à 7 degrés de liberté équipé d'une main multi-doigts anthropomorphe. La méthode fonctionne en deux temps. Hors ligne, les auteurs construisent un modèle de l'ensemble des lancers réalisables, en combinant la dynamique de vol inversée de l'objet avec la cinématique et la dynamique du robot. En ligne, le système met en correspondance des solutions rapides et filtre les états de détachement valides de l'objet et les états faisables du robot, ce qui permet de composer des séquences de lancers en moins de 5 ms. En simulation, le lancer coordonné de deux objets réduit le temps d'exécution jusqu'à 46 % par rapport à une planification indépendante objet par objet, et ce gain se maintient avec trois objets. En conditions réelles, avec deux objets, la réduction mesurée est de 29 %. Si les cibles changent aléatoirement en cours d'exécution, le système replanifie et atteint les nouvelles positions avec une latence inférieure à 100 ms, sans arrêter le robot. L'intérêt pour la logistique tient au débit. Le lancer élargit déjà l'espace de travail utile d'un bras, puisque le robot n'a plus à se déplacer vers chaque point de dépose. Ici, le travail s'attaque à un autre goulot : le nombre d'objets traités par geste. Le gain mesuré en réel (29 %) reste nettement sous le plafond théorique de 50 % pour deux objets, et les auteurs l'attribuent au surcoût de transition entre les lancers. C'est un chiffre honnête, mais qui montre que le gain simulé de 46 % ne se transpose pas intégralement au matériel. La planification en moins de 5 ms et la replanification sous 100 ms sont les résultats les plus exploitables : ils suggèrent qu'un tel système pourrait absorber des changements de cible, par exemple une réaffectation de bac sur un convoyeur de tri. À l'inverse, la validation reste limitée : trois objets uniquement en simulation, deux en réel, sans précision sur la nature des objets, leur variabilité ou le taux de réussite des lancers. Aucun test en environnement d'entrepôt n'est rapporté. Ce travail s'inscrit dans la montée du lancer robotique en automatisation d'entrepôt, un domaine où la recherche académique cherche à dépasser le cycle classique de saisie puis de dépose. Les auteurs revendiquent le premier cadre de planification unifié pour le MOMT, une affirmation de priorité à nuancer tant qu'elle n'a pas été confrontée à une évaluation par les pairs, l'article étant un preprint. L'approche dépend de mains multi-doigts, matériel plus complexe, plus coûteux et moins robuste que les préhenseurs à ventouses dominants en logistique, ce qui pèsera sur toute industrialisation. Les prochaines étapes naturelles seraient le passage à trois objets ou plus sur matériel réel, la réduction du surcoût de transition entre lancers et des essais sur des objets hétérogènes. Une vidéo de démonstration est publiée par les auteurs, mais elle reste, comme toute vidéo de laboratoire, une sélection d'essais réussis.

UEPas d\'impact direct sur la France/UE

RecherchePaper
1 source
M2R2 : représentation robotique multimodale pour la segmentation temporelle des actions
4arXiv cs.RO 

M2R2 : représentation robotique multimodale pour la segmentation temporelle des actions

Des chercheurs ont publié fin avril 2025 sur arXiv (2504.18662) un extracteur de représentations multimodal baptisé M2R2 (MultiModal Robotic Representation for Robotic TAS), conçu pour la segmentation temporelle d'actions (TAS) en robotique. L'approche combine des informations proprioceptives (encodeurs, capteurs force-couple, état des articulations) et extéroceptives (caméras RGB) dans un extracteur de features commun, accompagné d'une stratégie d'entraînement inédite permettant la réutilisation de ces représentations sur plusieurs architectures de segmentation indépendantes. Les résultats annoncés positionnent M2R2 à l'état de l'art sur trois jeux de données de référence en robotique : REASSEMBLE (assemblage de composants), (Im)PerfectPour (versage de liquide) et JIGSAWS (chirurgie robotique laparoscopique simulée). Une étude d'ablation extensive quantifie la contribution respective de chaque modalité. L'intérêt principal de M2R2 réside dans la modularité de son extracteur : les approches multimodales existantes en robotique fusionnaient les modalités directement à l'intérieur du modèle de segmentation, rendant les features non réutilisables entre architectures. Ici, le découplage extracteur/modèle de TAS ouvre la voie à une bibliothèque de représentations partageable, ce qui réduit le coût de réentraînement lors du changement de tâche ou de robot. Sur les scénarios à faible visibilité d'objet, les extracteurs purement visuels issus du computer vision chutent en performance, là où l'ajout de la proprioception maintient la robustesse. C'est un résultat concret sur la fragilité des approches vision-seule dans des environnements industriels ou chirurgicaux réels, où occlusions et éclairage variable sont la norme. La segmentation temporelle d'actions est un verrou historique pour l'autonomie des robots manipulateurs : sans identifier les frontières entre skills (saisir, aligner, visser...), il est impossible de planifier, corriger ou réutiliser des séquences de gestes. En chirurgie robotique, JIGSAWS est le benchmark de référence depuis 2016, utilisé notamment dans les travaux autour des plateformes da Vinci (Intuitive Surgical). En robotique industrielle, des acteurs comme Wandercraft ou les équipes de manipulation de Boston Dynamics s'appuient sur des approches similaires pour les transitions de phases motrices. M2R2 reste à ce stade une contribution de recherche académique sans déploiement industriel annoncé, mais son extracteur réutilisable représente un candidat sérieux pour des pipelines d'imitation learning dans lesquels labelliser chaque skill manuellement est le principal goulot d'étranglement.

UEL'extracteur modulaire M2R2 pourrait bénéficier aux équipes de manipulation françaises (notamment Wandercraft) en réduisant le coût de labellisation dans les pipelines d'imitation learning, mais reste une contribution académique sans déploiement industriel annoncé.

RecherchePaper
1 source