Mit dem GEX430 erweitert der Hosting-Anbieter Hetzner sein Portfolio um seinen ersten Multi-GPU-Server. Das neue Modell ist mit vier NVIDIA RTX PRO™ 6000 Blackwell Max-Q GPUs und insgesamt 384 GB GDDR7 ECC Grafikspeicher ausgestattet. Damit richtet sich der leistungsstarke Dedicated Server insbesondere an Unternehmen und professionelle Anwender, die hohe Rechenleistung für KI-Training, die Inferenz großer Sprachmodelle (LLMs), Fine-Tuning sowie anspruchsvolle Rendering- und Simulationsaufgaben benötigen.
Die vier High-End-GPUs ermöglichen es, besonders speicherintensive KI-Modelle auszuführen und mehrere Modelle parallel zu betreiben. Unternehmen können dadurch unterschiedliche KI-Anwendungen auf einem einzigen Server zusammenführen. So lässt sich beispielsweise ein Sprachmodell für den Kundensupport einsetzen, während ein weiteres Modell Entwickler bei der Programmierung unterstützt und ein drittes eingehende Anfragen automatisiert verarbeitet. Die Aufgaben können dabei auf die einzelnen GPUs verteilt werden.
Auch bei der KI-Inferenz spielt der verfügbare Grafikspeicher eine zentrale Rolle. Insbesondere bei einer hohen Anzahl gleichzeitiger Anfragen steigt der Speicherbedarf. Mit insgesamt 384 GB VRAM bietet der GEX430 umfangreiche Ressourcen, um große Sprachmodelle bereitzustellen und zahlreiche Nutzer parallel zu bedienen. Davon profitieren beispielsweise Unternehmen, die KI-Chatbots im Kundensupport einsetzen oder interne Wissensassistenten für ihre Mitarbeitenden betreiben.
“Gerade bei der KI-Inferenz ist neben der Rechenleistung auch der Grafikspeicher entscheidend. Je mehr Anfragen ein Modell gleichzeitig verarbeitet, desto mehr Speicher benötigt es in der Regel. Mit vier GPUs und insgesamt 384 GB VRAM bietet der GEX430 viel Spielraum für anspruchsvolle KI-Anwendungen. Unternehmen können damit beispielsweise mehrere Sprachmodelle parallel betreiben oder ihre KI-Services für eine große Zahl gleichzeitiger Nutzer bereitstellen”, sagt Stefan Weiberg, Product Manager bei Hetzner.
Jede der vier NVIDIA RTX PRO™ 6000 Blackwell Max-Q GPUs verfügt über 96 GB GDDR7 ECC VRAM und unterstützt moderne KI-Technologien wie Tensor Cores der fünften Generation, RT Cores der vierten Generation sowie FP4. Ergänzt wird die GPU-Ausstattung durch einen Intel® Xeon® Gold 5412U Prozessor mit 24 Kernen und 48 Threads, 128 GB DDR5 ECC reg. Arbeitsspeicher und zwei 1,92 TB NVMe-SSDs der Datacenter Edition (Gen4).
Mit dem GEX430 können Unternehmen Open-Weight-KI-Modelle wie GLM, Mistral oder Qwen auf dedizierter Hardware in der EU betreiben, ohne dafür auf externe KI-Plattformen zurückgreifen zu müssen. Bei entsprechender Konfiguration bleiben sensible Informationen wie interne Dokumente, Kundendaten oder Quellcodes innerhalb der eigenen Serverumgebung. Das schafft gute Voraussetzungen für die Umsetzung individueller Datenschutz- und Compliance-Anforderungen. Gleichzeitig behalten Anwender die Kontrolle über die eingesetzten Modelle, ihre Daten und die Konfiguration der Infrastruktur.
Der Hetzner GEX430 ist für 4.282,81 € monatlich inklusive einer IPv4-Adresse erhältlich. Die einmalige Setupgebühr beträgt ebenfalls 4.282,81 €.
Weitere Informationen sind unter https://www.hetzner.com/de/dedicated-rootserver/matrix-gpu/ abrufbar.
Alle Preise inkl. 19 % USt.
