
Google élargit sa gamme de puces avec jusqu'à 80 % de meilleur rapport performance-prix en inférence
Google a ajouté deux systèmes à sa huitième génération de Tensor Processing Units (TPU), portant à quatre le nombre de configurations lancées au sein d'une même génération. Le TPU 8tx vise le calcul confidentiel: il réutilise le silicium du TPU 8t, associé à des processeurs hôtes AMD EPYC de cinquième génération et au réseau à faible latence Boardfly de Google. Il protège données et poids des modèles pendant leur traitement actif, par isolation matérielle, et permet d'affiner des modèles propriétaires sur des jeux de données privés ou de distiller de gros modèles en versions plus compactes sans transférer d'informations sensibles entre clusters distincts. Google annonce jusqu'à deux fois moins de latence que le TPU 8t, avec une pénalité de performance jugée « minimale » (non chiffrée). Le TPU 8i Max, lui, s'attaque au goulot de la bande passante mémoire: deux puces TPU 8i sont réunies dans un même boîtier, ce qui double la capacité de calcul, la SRAM embarquée et la bande passante de la mémoire HBM, avec deux fois plus de silicium dans l'encombrement actuel d'un rack. Il cible les très grandes fenêtres de contexte. Google indique que son activité TPU compte près de 100 clients (laboratoires de recherche en IA, sociétés de trading, distributeurs, universités), qui peuvent aussi déployer des TPU dans leurs propres centres de données.
Pour les décideurs, l'enjeu dépasse la fiche technique. Le calcul confidentiel au niveau de l'accélérateur répond à un frein concret au déploiement d'agents autonomes dans la finance, la santé ou le secteur public: la crainte d'exposer données et poids de modèles en clair pendant l'inférence. Le TPU 8i Max, de son côté, reconnaît que la mémoire, et non le calcul brut, limite désormais les charges à long contexte. Cette segmentation en quatre produits (entraînement, inférence, confidentiel, mémoire étendue) montre que le marché des accélérateurs se spécialise par usage, à l'image de ce que font les GPU de Nvidia. Les chiffres restent toutefois des déclarations du constructeur, sans benchmarks indépendants ni tarifs publiés pour ces deux nouveaux systèmes, et la notion de pénalité « minimale » mérite d'être mesurée par les premiers clients.
Le contexte est celui d'une course à l'infrastructure d'IA où les fournisseurs cloud cherchent à réduire leur dépendance à Nvidia. Google avait présenté les TPU 8t et 8i lors de Cloud Next en avril: jusqu'à 2,7 fois de meilleures performances d'entraînement pour le premier, et jusqu'à 80 % de meilleur rapport prix-performance en inférence face à la génération précédente pour le second. L'entreprise mise aussi sur la réduction de la friction logicielle, point faible historique des TPU face à CUDA: le projet open source TorchTPU apporte un support natif de PyTorch, permettant d'exécuter du code existant et des modèles Hugging Face sans réécriture. Des agents de développement TPU compatibles avec Claude Code, Cursor et Google Antigravity automatisent l'intégration, repèrent les goulots de performance et optimisent des noyaux personnalisés. Les concurrents directs sont Trainium d'Amazon, Maia de Microsoft et les GPU Nvidia, qui restent la référence. Les dates de disponibilité générale des TPU 8tx et 8i Max n'étaient pas précisées dans l'annonce.




