Le H200 a été annoncé en novembre 2023. Il repose sur Hopper, l’architecture qui avait déjà donné naissance au H100. NVIDIA vend aujourd’hui du Blackwell et prépare la montée de Rubin.

Pourtant, le 19 août, le Financial Times a rapporté que ByteDance et Tencent avaient reçu environ 10 000 H200 chacun. Reuters, qui relaie l’information, précise ne pas avoir vérifié indépendamment ces volumes. Un responsable américain avait en revanche confirmé dès juillet que de petites quantités étaient effectivement parties vers la Chine.

141 Go de HBM3e vieillissent plutôt bien

Le H200 n’avait pas été conçu comme une révolution complète de la puissance de calcul du H100. Son intérêt principal était beaucoup plus prosaïque : mettre davantage de mémoire, et une mémoire plus rapide, autour du GPU Hopper.

NVIDIA annonce 141 Go de HBM3e et 4,8 To/s de bande passante. Pour les grands modèles, ce sont deux chiffres particulièrement utiles. Les poids du modèle, les caches et les données intermédiaires passent moins de temps à se battre pour un espace mémoire limité.

La société annonçait lors du lancement presque deux fois la capacité mémoire d’un H100 SXM et une bande passante supérieure. Les performances réelles dépendent évidemment du modèle, du batch, de l’interconnexion et de toute la configuration autour du GPU.

Mais un H200 ne devient pas lent parce qu’un B200 existe.

La Chine ne choisit pas dans le même catalogue

C’est le détail qui rend les comparaisons de générations trompeuses.

Un hyperscaler américain peut raisonner sur le passage de Hopper à Blackwell puis à Rubin en fonction du prix, de la disponibilité, du refroidissement et des performances attendues. Un groupe chinois doit commencer par une autre question : quelle puce a le droit d’être vendue ?

Les États-Unis ont accordé à partir de février des licences permettant l’expédition de petites quantités de H200 à certains clients. Les produits doivent passer par une inspection aux États-Unis avant leur livraison.

Les accélérateurs plus récents ne sont donc pas automatiquement des alternatives commerciales disponibles. Une architecture antérieure peut devenir le haut de gamme accessible simplement parce que le reste de la pile se trouve derrière une autre barrière réglementaire.

Le H200 reste une machine d’entraînement très crédible

Pour entraîner de grands modèles, la mémoire est rarement un détail décoratif. Plus le modèle et son contexte de travail tiennent confortablement sur les accélérateurs, moins le système doit multiplier certaines communications ou compromis de partitionnement.

Un serveur HGX H200 à huit GPU cumule plus d’un téraoctet de mémoire à haute bande passante. NVIDIA l’avait précisément positionné pour les grands modèles dépassant 175 milliards de paramètres, en combinant H200, NVLink et NVSwitch.

Les laboratoires chinois disposent d’accélérateurs domestiques et leur écosystème progresse. Cela n’efface pas instantanément des années d’optimisation logicielle autour de CUDA ni la quantité de code déjà réglée pour les GPU NVIDIA.

Une livraison de H200 apporte donc autre chose que des FLOPS : elle permet de continuer à utiliser une pile connue.

Hong Kong ne règle pas magiquement le problème

Le compromis politique rapporté par le FT consiste notamment à pousser une grande partie des machines autorisées vers Hong Kong plutôt qu’en Chine continentale.

Sur un formulaire douanier, la distinction est utile. Pour un cluster IA, l’adresse du serveur doit encore correspondre à un endroit où l’on peut fournir suffisamment d’électricité, de réseau, de refroidissement et d’espace.

Déplacer un accélérateur n’équivaut pas à déplacer instantanément le datacenter qui devait l’accueillir.

Cela explique pourquoi des autorisations d’importation en Chine continentale restent importantes pour les grands groupes concernés, même lorsqu’un passage par Hong Kong est possible.

La partie la plus étrange est le coût réglementaire

Le H200 SXM peut monter jusqu’à 700 W. Ce n’est pourtant pas son enveloppe thermique qui produit la surcharge la plus insolite de ces ventes.

NVIDIA indique dans ses documents financiers que les H200 sous licence doivent être inspectés aux États-Unis avant d’être expédiés aux clients chinois. Ce passage entraîne un tarif de 25 % à l’importation aux États-Unis.

La société avertit qu’elle pourrait ne pas réussir à transférer intégralement ce coût au client.

Difficile de trouver meilleure illustration d’un marché où la performance par watt n’est plus la seule métrique importante.

Les 10 000 puces de ByteDance et Tencent restent des chiffres rapportés

Il serait tentant de calculer immédiatement la quantité de mémoire HBM3e ou la puissance électrique correspondant à 20 000 H200. Ce serait donner une précision technique à un volume commercial qui n’a pas encore le même niveau de certitude.

Reuters confirme le contexte et les premières petites livraisons, mais pas indépendamment les quelque 10 000 unités attribuées à chacun des deux groupes par le Financial Times.

Le signal technique est déjà suffisant sans extrapolation : des H200 passent à nouveau vers des clients chinois, alors que NVIDIA disait encore en avril être effectivement exclue de ce marché.

Hopper n’est plus la vitrine technologique de NVIDIA. En Chine, il n’a jamais été aussi politique.