Aller au contenu principal
Noitom Robotics publie en accès libre le jeu de données HiPHI-Hand, utilisé pour entraîner le modèle EgoHand de NVIDIA
IA physiquePandaily 

Noitom Robotics publie en accès libre le jeu de données HiPHI-Hand, utilisé pour entraîner le modèle EgoHand de NVIDIA

1 source couvre ce sujet·Source originale ↗·
Résumé IASource uniqueImpact UE

Noitom Robotics, société spécialisée dans les données pour l'IA physique, a publié sur Hugging Face HiPHI-Hand, un jeu de données de capture de mouvement des mains qui, selon elle, a servi à entraîner le modèle EgoHand de NVIDIA. L'annonce a été faite à la conférence CoRL 2026 d'Austin (Texas), la mise en ligne étant datée du 9 novembre. Il s'agit de la capture telle que livrée à NVIDIA : 11 heures de vidéo à la première personne en double fisheye synchronisé, enregistrées avec le casque SOL de Noitom, les extrinsèques des caméras référencées à la centrale inertielle du casque, et les positions 3D des articulations de la main issues d'une capture optique. Des micro-marqueurs sur les doigts doivent fournir une vérité terrain sub-millimétrique, y compris quand les mains sont masquées. La page Hugging Face recense cinq sous-ensembles, soit 794 clips vidéo stéréo de 1360 x 1360 pixels à 30 images par seconde, annotés selon deux squelettes (21 articulations MediaPipe et 25 articulations Vicon par main), pour 69,5 Go. EgoHand, construit sur NVIDIA Isaac Capture, reconstruit la pose et la forme 3D de la main à partir d'une seule caméra égocentrique. Selon les chiffres de NVIDIA relayés par Noitom, il a été entraîné sur 14 millions d'images mêlant données synthétiques, vidéo réelle et capture multi-caméras, affiche une précision zero-shot à l'état de l'art sur les benchmarks égocentriques publics et tourne à environ 9 ms par image.

Pour les équipes qui travaillent sur la manipulation dextre et l'apprentissage par démonstration humaine, l'intérêt est double. D'abord, la perception des mains en vue égocentrique est une brique clé pour transformer des vidéos d'humains en données d'entraînement de robots à mains multi-doigts, et un modèle à 9 ms par image est compatible avec le temps réel. Ensuite, la publication d'une partie de la donnée source apporte de la transparence rare sur ce qui nourrit un modèle fondation : les chercheurs peuvent évaluer la qualité de la vérité terrain plutôt que de se fier à un score. Il faut toutefois rester prudent. Les chiffres de précision et de vitesse sont ceux de NVIDIA, rapportés par Noitom, et aucun benchmark indépendant n'isole l'apport de HiPHI-Hand. NVIDIA a converti la capture de Noitom vers sa représentation SOMA-Hand parmi plusieurs sources réelles : le jeu de données n'est donc pas l'intégralité du corpus d'EgoHand. Enfin, les licences divergent : EgoHand est publié sous OpenMDW, qui autorise l'usage commercial gratuit, alors que HiPHI-Hand relève de la ModalityNet Open Research License v1.0, réservée à la recherche, l'éducation et l'évaluation non commerciales, avec accès sur demande et licence commerciale négociée séparément avec Noitom.

Cette publication prolonge HiPHI, un jeu de données de corps entier et d'interaction avec des objets que Noitom avait mis en ligne sur Hugging Face en août. Elle illustre la stratégie de l'entreprise, qui se positionne comme fournisseur de données de capture pour les grands acteurs de l'IA physique, face à d'autres sources de données égocentriques et de téléopération. Sur son stand CoRL, Noitom propose aux visiteurs de porter le casque SOL et de voir leurs mains reconstruites en 3D en temps réel avec EgoHand. L'entreprise a aussi intégré EgoHand à l'un de ses pipelines de données de vision égocentrique, où il est évalué comme étape d'annotation des mains. Aucun calendrier de déploiement industriel n'est annoncé : on reste à ce stade au niveau d'un jeu de données publié, d'un modèle ouvert et d'une démonstration sur salon.

Dans nos dossiers

À lire aussi

General Intuition lève 320 millions de dollars pour entraîner des robots avec des données de jeux vidéo
1Robotics Business Review 

General Intuition lève 320 millions de dollars pour entraîner des robots avec des données de jeux vidéo

General Intuition US Inc. a annoncé cette semaine une levée de fonds de 320 millions de dollars en Série A, portant sa valorisation à 2,3 milliards de dollars et son financement total à 454 millions, après un premier tour de 134 millions en octobre 2025. Le round est mené par General Catalyst et inclut Jeff Bezos, fondateur d'Amazon, et Eric Schmidt, ex-PDG de Google. L'entreprise new-yorkaise, fondée en 2015 par Pim de Witte, développe deux familles de modèles : des action models, qui décident quelle action entreprendre, et des world models, qui prédisent les conséquences de ces actions dans des environnements virtuels ou physiques. La particularité de son approche est la source des données d'entraînement : non pas des vidéos de manipulation robotique ou des simulations synthétiques, mais des milliards de clips de gameplay issus de Medal, une plateforme de partage de moments gaming que de Witte a également cofondée. Ces vidéos sont accompagnées de labels d'action embarqués, qui enregistrent précisément quelle touche le joueur appuie et à quel instant, offrant une supervision dense sur la relation perception-décision-action. L'intérêt de cette approche pour l'IA physique tient à une hypothèse centrale : les modèles entraînés sur du texte décrivent la réalité, ils ne la modélisent pas. Le jeu vidéo, lui, capture un humain qui perçoit un environnement tridimensionnel, anticipe des dynamiques et agit en conséquence, dans des milliers de configurations différentes. Si l'hypothèse tient à l'échelle, cela représenterait un raccourci significatif pour le sim-to-real gap qui plombe la généralisation des politiques robotiques : plutôt que de collecter des téléopérations coûteuses ou de concevoir des environnements simulés ad hoc, General Intuition récupère de la diversité environnementale pour presque rien. La question non résolue reste la transférabilité effective de ces représentations vers des corps physiques avec des dynamiques mécaniques réelles, un point que la société n'a pas encore documenté publiquement avec des benchmarks tiers. General Intuition évolue dans un espace de plus en plus encombré. Des acteurs comme DeepMind avec RT-2 et ses successeurs, Physical Intelligence (pi) avec Pi-0, ou encore Covariant avec RFM-1 misent également sur des fondations visuelles générales pour l'apprentissage de politiques robotiques. La différence revendiquée est l'échelle et la labellisation des données gaming, un corpus que la concurrence ne possède pas. L'entreprise prévoit de rendre son API accessible publiquement à l'été 2026 et d'utiliser le financement pour augmenter sa capacité de calcul et entraîner la prochaine version de son modèle de préentraînement. Aucune annonce de partenariat industriel ou de déploiement sur plateforme robotique physique n'a été communiquée à ce stade : il s'agit d'une phase de précommercialisation axée infrastructure et modèle.

IA physiqueOpinion
1 source
USIM et U0 : un jeu de données et un modèle vision-langage-action pour robots sous-marins polyvalents
2arXiv cs.RO 

USIM et U0 : un jeu de données et un modèle vision-langage-action pour robots sous-marins polyvalents

Une équipe de chercheurs a publié USIM et U0, un dataset de simulation et un modèle vision-langage-action (VLA) conçus pour doter les robots sous-marins d'une intelligence généraliste multi-tâches. Le dataset USIM regroupe plus de 905 000 images issues de 2 275 trajectoires simulées, soit environ 25 heures d'interactions enregistrées sur le robot BlueROV2, un ROV à six degrés de liberté largement utilisé en recherche. Le modèle U0, entraîné sur ces données, est capable d'exécuter des tâches allant de la navigation par évitement d'obstacles à la manipulation mobile en trois dimensions, le tout piloté par des instructions en langage naturel. En évaluation, U0 atteint un taux de succès global de 43,1 % sur des tâches en ligne, soit une amélioration de 5,5 points de pourcentage par rapport aux meilleures baselines existantes (plafonnées à 37,6 %), avec des performances particulièrement élevées en navigation pure, où le taux monte à 87,5 %. L'erreur moyenne de prédiction d'action hors ligne est réduite à 0,0359. Ces résultats ont une portée directe pour les intégrateurs et opérateurs de systèmes sous-marins autonomes : ils démontrent qu'un modèle généraliste entraîné sur données synthétiques peut effectivement franchir le sim-to-real gap dans un environnement aussi contraignant que le milieu aquatique, où la visibilité est réduite, les courants perturbent la stabilité et les repères visuels sont ambigus. Pour le secteur, c'est une validation de l'approche VLA à l'échelle sous-marine, un domaine où la quasi-totalité des travaux antérieurs s'était cantonnée à des méthodes spécialisées tâche par tâche. L'intégration d'un module de perception convolution-attention (CAP) avec estimation de pose cible comme tâche auxiliaire renforce explicitement la conscience spatiale du modèle, ce qui est critique pour la manipulation en 3D dans des scènes non structurées. Jusqu'ici, la robotique sous-marine autonome reposait majoritairement sur des systèmes de contrôle classiques ou des réseaux de neurones entraînés sur des jeux de données tâche-spécifiques, souvent collectés en conditions réelles à coût élevé. L'approche USIM mise sur la synthèse de données simulées à grande échelle pour contourner ce goulot d'étranglement, une stratégie déjà validée en robotique terrestre par des frameworks comme IsaacGym ou Genesis. Du côté des concurrents directs, les travaux sur les robots sous-marins généralistes restent rares : les projets OpenDive ou les plateformes de Woods Hole Oceanographic Institution n'ont pas encore publié d'équivalent VLA. Aucun acteur européen n'est cité dans cet article, bien que des entreprises comme ECA Group (France) ou Saab Seaeye (Suède) opèrent sur le marché ROV industriel. Le papier, disponible sur arXiv (2510.07869v4), pose un cadre d'évaluation standardisé incluant métriques hors ligne et exécution en ligne, ce qui facilitera les comparaisons futures. Les prochaines étapes annoncées concernent le transfert vers des plateformes physiques et l'extension du dataset à des scénarios plus complexes.

UEImpact indirect potentiel pour des acteurs européens du ROV industriel comme ECA Group (France) ou Saab Seaeye (Suède), mais aucun partenariat ni déploiement européen n'est annoncé dans ce travail de recherche.

💬 43 % de succès global, bon, c'est le début. Mais 87 % en navigation pure et zéro données réelles collectées en mer, c'est la preuve que la stratégie simulation-à-grande-échelle fonctionne sous l'eau exactement comme en terrestre : plus besoin d'envoyer un ROV filmer des épaves pendant des mois pour constituer un dataset. ECA Group a un truc sérieux à surveiller.

IA physiqueOpinion
1 source
ACE-Ego-0 : unification des données égocentrées humaines et robotiques pour le préentraînement VLA
3arXiv cs.RO 

ACE-Ego-0 : unification des données égocentrées humaines et robotiques pour le préentraînement VLA

Pré-publiée sur arXiv en juin 2026 (identifiant 2606.17200), ACE-EGO-0 est un cadre de pretraining pour modèles Vision-Langage-Action (VLA) qui exploite conjointement 4 530 heures de données robotiques et de simulation, et 1 480 heures de vidéos égocentrées humaines converties en pseudo-trajectoires robot. Le pipeline automatise la transformation de vidéos à la première personne en séquences d'actions au format démonstration téléopérée, en représentant les mouvements dans l'espace caméra plutôt que dans un référentiel corporel. Pour atténuer le bruit inhérent à ces pseudo-labels, un objectif d'entraînement reliability-aware concentre la supervision sur les segments les plus fiables via une perte auxiliaire dédiée. Évalué sur RoboCasa GR1 TableTop (robot humanoïde GR1 de Fourier Intelligence) et RoboTwin 2.0, ACE-EGO-0 atteint les meilleures performances publiées sur les deux benchmarks et démontre, selon les auteurs, un transfert vers la manipulation bimanuelle en conditions réelles. L'apport central est la résolution d'un problème structurel : les divergences d'espaces d'action, de morphologie et de dynamiques temporelles entre humains et robots rendaient jusqu'ici l'entraînement conjoint instable ou contre-productif. En unifiant la représentation via des actions caméra-space et un time-aligned action chunking avec morphology conditioning, les auteurs montrent que des jeux de données égocentrés existants comme Ego4D ou EPIC-Kitchens peuvent fournir un signal complémentaire valide à grande échelle. Pour les équipes R&D en robotique, l'implication pratique est directe : réduire significativement le coût de collecte de trajectoires robot, l'un des principaux goulots d'étranglement du déploiement VLA à l'échelle industrielle. La course aux politiques robotiques généralisables s'est accélérée depuis Pi-0 de Physical Intelligence (novembre 2024), OpenVLA et RT-2 de Google DeepMind. Des travaux antérieurs comme Dobb-E ou Human2Robot avaient déjà exploré les données humaines égocentrées comme supervision complémentaire, mais sans framework unifié à cette échelle ni évaluation systématique. ACE-EGO-0 propose une recette reproductible évaluée sur deux benchmarks de référence, dont RoboTwin 2.0, particulièrement pertinent car la manipulation bimanuelle reste un défi ouvert pour les humanoïdes commerciaux tels que Figure 03, Optimus Gen 3 ou Unitree H1. La prépublication ne mentionne ni partenaire industriel ni déploiement annoncé : ACE-EGO-0 est pour l'instant une contribution de recherche, pas un produit livrable.

IA physiqueOpinion
1 source
FLORA : une suite de modèles ouverts pour le passage à l'échelle des moteurs de données en robotique
4arXiv cs.RO 

FLORA : une suite de modèles ouverts pour le passage à l'échelle des moteurs de données en robotique

Une équipe de recherche, dont les travaux alimentent l'entraînement des modèles fondation GR00T, publie sur arXiv Flora, une suite de modèles ouverts qui sert de moteur d'annotation pour les données robotiques. Un même système produit trois types de labels. Il génère des récompenses de résultat (la tâche a-t-elle réussi ?) pour surveiller les déploiements réels. Il produit des récompenses de processus pour le post-entraînement par apprentissage par renforcement. Il fournit aussi des légendes horodatées pour filtrer et rééquilibrer les données de pré-entraînement. Les auteurs annoncent des scores à l'état de l'art sur le benchmark de légendage WGO-Bench et sur les benchmarks de récompense RoboReward et Robometer. Sur leurs benchmarks internes, Flora serait comparable à GPT-6 Astra et supérieur aux autres modèles frontière. Le coût serait environ 125 fois inférieur à celui de GPT-6 Astra via API. Côté production, le système étiquette 200 000 heures de données par jour sur 512 GPU GB300, soit environ 390 heures de vidéo par GPU et par jour. Le code et les modèles sont publiés en open source. Le goulot d'étranglement de la robotique par apprentissage se déplace de la collecte vers l'annotation. Les politiques VLA (vision-langage-action) dépendent de données propres, légendées et notées. Faire passer ce travail par des API de modèles propriétaires devient prohibitif quand on traite des centaines de milliers d'heures. Un facteur 125 sur le coût, s'il se confirme hors du laboratoire, rend l'annotation de grands jeux de données accessible à des équipes bien plus petites. Des récompenses de processus fiables sont aussi la condition pour passer du clonage de comportement au RL sur robot réel. Une réserve s'impose toutefois : la comparaison à GPT-6 Astra repose sur des benchmarks internes, non reproductibles à ce stade, et le chiffre de débit vient des auteurs eux-mêmes. L'avantage de coût dépend aussi du matériel de référence retenu. Ce travail s'inscrit dans la course aux modèles généralistes, où GR00T de NVIDIA côtoie Pi-0 de Physical Intelligence et Helix de Figure. Chacun de ces acteurs a besoin de sa propre chaîne d'annotation, souvent restée interne. En ouvrant la sienne, l'équipe de Flora cherche à fédérer la recherche autour de ses outils. Elle cite deux usages émergents : l'auto-recherche physique, où des agents pilotent eux-mêmes des expériences, et le transfert de l'humain vers le robot à partir de vidéos de démonstration. La suite dépendra des reproductions indépendantes et de l'adoption par les laboratoires académiques et les intégrateurs, y compris européens, qui disposent rarement de telles capacités de calcul.

UEDes laboratoires et intégrateurs européens pourraient annoter leurs données robotiques à moindre coût, mais disposent rarement de la puissance de calcul nécessaire.

IA physiqueActu
1 source