Avec le GEX430, le fournisseur d'hébergement Hetzner élargit son portefeuille en y ajoutant son premier serveur multi-GPU. Ce nouveau modèle est équipé de quatre GPU NVIDIA RTX PRO™ 6000 Blackwell Max-Q et d’une mémoire graphique GDDR7 ECC totale de 384 Go. Ce serveur dédié haute performance est spécialement conçu pour les entreprises et les utilisateurs professionnels qui ont besoin d’une puissance de calcul élevée pour l’entraînement d’IA, l’inférence de grands modèles linguistiques (LLM), le réglage fin, ainsi que pour des tâches exigeantes de rendu et de simulation.
Les quatre GPU haut de gamme permettent d’exécuter des modèles d’IA particulièrement gourmands en mémoire et de faire fonctionner plusieurs modèles en parallèle. Les entreprises peuvent ainsi regrouper différentes applications d’IA sur un seul serveur. Par exemple, un modèle linguistique peut être utilisé pour le service client, tandis qu’un autre aide les développeurs dans leur programmation et qu’un troisième traite automatiquement les demandes entrantes. Ces tâches peuvent être réparties entre les différents GPU.
La mémoire graphique disponible joue également un rôle central dans l’inférence IA. Les besoins en mémoire augmentent considérablement, notamment lors du traitement d’un volume élevé de requêtes simultanées. Avec un total de 384 Go de VRAM, le GEX430 offre des ressources considérables pour l’exécution de grands modèles linguistiques et la prise en charge simultanée de nombreux utilisateurs. Cela profite, par exemple, aux entreprises qui utilisent des chatbots IA dans le service client ou qui exploitent des assistants de connaissances internes pour leurs employés.
« En matière d’inférence IA notamment, la mémoire graphique est tout aussi cruciale que la puissance de calcul. Plus un modèle traite de requêtes simultanément, plus il nécessite généralement de mémoire. Avec quatre GPU et un total de 384 Go de VRAM, le GEX430 offre une marge de manœuvre considérable pour les applications d’IA exigeantes. Les entreprises peuvent l’utiliser, par exemple, pour exécuter plusieurs modèles linguistiques en parallèle ou pour fournir leurs services d’IA à un grand nombre d’utilisateurs simultanés », explique Stefan Weiberg, chef de produit chez Hetzner.
Chacun des quatre GPU NVIDIA RTX PRO™ 6000 Blackwell Max-Q dispose de 96 Go de mémoire vidéo GDDR7 ECC et prend en charge les technologies d’IA modernes telles que les Tensor Cores de cinquième génération, les RT Cores de quatrième génération et le FP4. La configuration des GPU est complétée par un processeur Intel® Xeon® Gold 5412U doté de 24 cœurs et 48 threads, 128 Go de mémoire DDR5 ECC enregistrée et deux SSD NVMe Datacenter Edition (Gen4) de 1,92 To.
Grâce au GEX430, les entreprises peuvent exécuter des modèles d’IA à poids ouvert tels que GLM, Mistral ou Qwen sur du matériel dédié au sein de l’UE sans avoir à recourir à des plateformes d’IA externes. Lorsqu’il est configuré de manière appropriée, les informations sensibles telles que les documents internes, les données clients ou le code source restent au sein de l’environnement serveur propre à l’entreprise. Cela crée des conditions favorables à la mise en œuvre d’exigences individuelles en matière de protection des données et de conformité. Parallèlement, les utilisateurs conservent le contrôle sur les modèles utilisés, leurs données et la configuration de l’infrastructure.
Le GEX430 de Hetzner est disponible au prix de 3 599,00 € / 4 199,00 $ par mois, adresse IPv4 comprise. Les frais d’installation uniques s’élèvent également à 3 599,00 € / 4 199,00 $.
Pour plus d’informations, rendez-vous sur https://www.hetzner.com/fr/dedicated-rootserver/matrix-gpu/
Tous les prix s’entendent hors TVA.
