Con el GEX430, el proveedor de alojamiento Hetzner amplía su catálogo para incluir su primer servidor con múltiples GPU. El nuevo modelo está equipado con cuatro GPU NVIDIA RTX PRO™ 6000 Blackwell Max-Q y un total de 384 GB de memoria gráfica GDDR7 ECC. Este servidor dedicado de alto rendimiento está diseñado específicamente para empresas y usuarios profesionales que necesitan una gran potencia de cálculo para el entrenamiento de IA, la inferencia de modelos de lenguaje a gran escala (LLM), el ajuste fino y tareas exigentes de renderizado y simulación.
Las cuatro GPU de gama alta permiten ejecutar modelos de IA que consumen mucha memoria y hacer funcionar varios modelos en paralelo. Esto permite a las empresas consolidar diferentes aplicaciones de IA en un único servidor. Por ejemplo, un modelo de lenguaje puede utilizarse para la atención al cliente, mientras que otro ayuda a los desarrolladores con la programación y un tercero procesa automáticamente las solicitudes entrantes. Estas tareas pueden distribuirse entre las distintas GPU.
La memoria gráfica disponible también desempeña un papel fundamental en la inferencia de IA. Los requisitos de memoria aumentan significativamente, sobre todo al gestionar un gran volumen de solicitudes simultáneas. Con un total de 384 GB de VRAM, el GEX430 ofrece amplios recursos para el funcionamiento de grandes modelos de lenguaje y la atención simultánea a numerosos usuarios. Esto beneficia, por ejemplo, a las empresas que utilizan chatbots de IA en la atención al cliente o que gestionan asistentes de conocimiento internos para sus empleados.
«Especialmente en lo que respecta a la inferencia de IA, la memoria gráfica es tan crucial como la potencia de cálculo. Cuantas más solicitudes procesa un modelo simultáneamente, más memoria suele necesitar. Con cuatro GPU y un total de 384 GB de VRAM, el GEX430 ofrece un amplio margen para aplicaciones de IA exigentes. Las empresas pueden utilizarlo, por ejemplo, para ejecutar múltiples modelos de lenguaje en paralelo o para proporcionar sus servicios de IA a un gran número de usuarios simultáneos», afirma Stefan Weiberg, director de producto de Hetzner.
Cada una de las cuatro GPU NVIDIA RTX PRO™ 6000 Blackwell Max-Q cuenta con 96 GB de VRAM GDDR7 ECC y es compatible con tecnologías modernas de IA, como los Tensor Cores de quinta generación, los RT Cores de cuarta generación y FP4. La configuración de la GPU se complementa con un procesador Intel® Xeon® Gold 5412U de 24 núcleos y 48 hilos, 128 GB de memoria DDR5 ECC registrada y dos SSD NVMe de 1,92 TB de la edición Datacenter (Gen4).
Con el GEX430, las empresas pueden ejecutar modelos de IA de peso abierto, como GLM, Mistral o Qwen, en hardware dedicado dentro de la UE sin tener que depender de plataformas de IA externas. Si se configura adecuadamente, la información sensible, como documentos internos, datos de clientes o código fuente, permanece dentro del propio entorno de servidores de la empresa. Esto crea condiciones favorables para implementar requisitos individuales de protección de datos y cumplimiento normativo. Al mismo tiempo, los usuarios mantienen el control sobre los modelos utilizados, sus datos y la configuración de la infraestructura.
El Hetzner GEX430 está disponible por 3.599,00 € / 4.199,00 $ al mes, incluida una dirección IPv4. La cuota única de instalación es también de 3.599,00 € / 4.199,00 $.
Para más información, visite https://www.hetzner.com/es/dedicated-rootserver/matrix-gpu/
Todos los precios no incluyen el IVA.