SafeWorld sort de l'ombre pour développer et déployer des technologies de simulation de sécurité pour les robots
SafeWorld, une startup basée à Oakland (Californie), est sortie de l'ombre cette semaine avec un tour de table d'amorçage de 12,2 millions de dollars, codirigé par Shine Capital et a16z Speedrun. Box Group, le fonds de dotation de Carnegie Mellon University, Innovation Endeavors, SV Angel et plusieurs investisseurs providentiels y participent aussi. L'entreprise, cofondée par Kyle Wong (CEO) et Ding Zhao (directeur du Safe AI Lab de Carnegie Mellon), commercialise une plateforme de simulation logicielle dédiée à la sécurité des robots pilotés par IA. Les équipes construisent des scénarios dans le navigateur, à partir d'incidents passés, de normes de sécurité et de journaux de robots, sans expertise en simulation. SafeWorld fait ensuite tourner le robot à travers des milliers de variantes, avec des mouvements humains réalistes et réactifs, puis mesure la performance de sécurité. Les tests peuvent être relancés à chaque mise à jour logicielle ou changement d'environnement. La plateforme se veut agnostique de l'embodiment (bras, humanoïdes, robots mobiles). Selon Wong, des clients existent déjà dans l'industrie, la fabrication, la logistique, la construction et quelques usages domestiques, sans qu'aucun nom ni volume ne soit communiqué.
L'enjeu est un goulot d'étranglement que les fabricants de robots généralistes rencontrent de plus en plus : les politiques apprises (VLA et autres modèles de bout en bout) se comportent de façon moins prévisible que du code déterministe, et les cages ou zones de sécurité fixes ne s'appliquent plus quand les machines partagent l'espace des humains. Wong résume le problème ainsi : sans méthode de validation à la hauteur des capacités, les robots ne seront pas déployés. Le paradoxe est que les scénarios à risque n'existent pas dans des jeux de données massifs, ce qui rend difficile à la fois l'entraînement et l'évaluation. Pour un intégrateur ou un COO industriel, l'intérêt est de disposer d'un dossier de preuves de sécurité continu, utilisable par les équipes d'ingénierie, de sécurité et d'exploitation, plutôt qu'un test unique avant lancement. Reste à vérifier une limite évidente : une simulation ne vaut que par la fidélité de ses modèles de comportement humain et par la couverture de ses scénarios. Wong admet lui-même que les normes ne sont pas toutes complètes, et le « dossier de preuves » revendiqué n'a, à ce stade, pas de reconnaissance réglementaire annoncée.
Le positionnement s'inscrit dans l'ascension de l'IA incarnée : Zhao rappelle que les robots industriels existent depuis environ un siècle, mais que l'IA les fait sortir de la cage. SafeWorld défend la thèse que les constructeurs restent responsables de la sécurité, mais ne devraient pas reconstruire l'outillage de test à chaque fois, d'où une approche de brique externe. Face à elle, la validation reste souvent internalisée chez les développeurs de humanoïdes et de véhicules autonomes, ou assurée par des simulateurs généralistes qui n'ont pas été conçus pour la preuve de sécurité. L'article n'indique ni calendrier de déploiement, ni tarification, ni client nommé, ni certification visée. Les prochains signaux à suivre seront donc les premiers partenariats publics et l'alignement éventuel avec les référentiels de sécurité robotique existants.
Dans nos dossiers




