Giga Computing erweitert sein führendes GPU-Portfolio an GIGABYTE-Servern, um der Nachfrage nach generativer KI zu entsprechen

Giga Computing, ein Tochterunternehmen von GIGABYTE und Branchenführer bei Hochleistungsservern, Server-Mainboards und Workstations, hat heute eine Reihe leistungsstarker GPU-zentrierter Server mit den neuesten CPUs von AMD und Intel angekündigt, darunter NVIDIA HGX H100-Server mit 4-GPU- und 8-GPU-Modulen. Aufgrund des steigenden Interesses an HPC- und KI-Anwendungen, insbesondere an generativer KI (GKI), nutzt diese Art von Servern GPU-Ressourcen besonders intensiv bei Workloads zur Verarbeitung großer Datenmengen, bei denen eine hohe Rechenleistung benötigt wird. Mit dem Aufkommen von KI-Chatbots wie ChatGPT von OpenAI und anderen werden große GPU-Cluster mit Optimierung auf der Systemebene eingesetzt, um große Sprachmodelle (LLMs) zu trainieren. Diese LLMs können von den neuen designoptimierten Systemen von GIGABYTE verarbeitet werden, die ein hohes Maß an kundenspezifischer Anpassung entsprechend den Workloads und Anforderungen der Anwender bieten.  

Die Server der GIGABYTE G-Serie sind in erster Linie für die Unterstützung von dichtem GPU-Computing und der neuesten PCIe-Technologie ausgelegt. Die neuen 2U-Server der G293-Serie können je nach Modell bis zu 8 Dual-Slot-GPUs oder 16 Single-Slot-GPUs unterstützen. Für ultimative CPU- und GPU-Leistung bieten die 4U-Server der G493-Serie eine Vielzahl von Netzwerkoptionen und Datenspeicherkonfigurationen bei Unterstützung von acht (Gen5 x16) GPUs. Und für höchste GPU-Rechenleistung bei Hochleistungsrechnen und KI unterstützen die Modelle der G393- und G593-Serie NVIDIA H100 Tensor Core GPUs.

Alle diese neuen Server mit zwei CPU-Sockeln sind für AMD EPYC™ Prozessoren der 4. Generation oder für Intel® Xeon® Scalable Prozessoren der 4. Generation konzipiert.

• G293-Serie:
  • Intel Xeon Server mit zwei Sockeln (bis zu 225 W TDP), die entweder acht Dual-Slot-GPUs oder sechzehn Single-Slot-GPUs sowie acht 2,5”-Schächte für Datenspeicher unterstützen
    • Neue Modelle: G293-S42, G293-S43, G293-S45
• G363-Serie:
  • Intel Xeon Dual-Sockel-Server mit NVIDIA HGX H100 4-GPU und sechs Low-Profile-Steckplätzen
    • Neues Modell: G363-SR0
• G493-Serie:
  • Intel Xeon Dual-Sockel-Server, die mehrere Erweiterungssteckplätze und Datenspeicheroptionen unterstützen
    • Neue Modelle: G493-SB0, G493-SB1, G493-SB2, G493-SB3
  • AMD EPYC Dual-Sockel-Server mit ähnlichen Optionen wie Xeon-Server
    • Neue Modelle: G493-ZB0, G493-ZB1, G493-ZB2, G493-ZB3
• G593-Serie:
  • AMD EPYC Dual-Sockel-Server für NVIDIA HGX H100 8-GPU
    • Neues Modell: G593-ZD2

NVIDIA HGX H100 Server

NVIDIA HGX H100 ist die weltweit leistungsstärkste Komplettplattform für das KI-Supercomputing, in der die volle Leistung der NVIDIA H100 GPUs und der vollständig optimierten NVIDIA AI Enterprise und NVIDIA HPC-Software vereint werden, um höchste Leistung für Simulationen, Datenanalyse und KI zu liefern. Als Software-Layer der NVIDIA AI-Plattform beschleunigt NVIDIA AI Enterprise die Data-Science-Pipelines und optimiert die Entwicklung und Bereitstellung von Produktions-KI einschließlich generativer KI, Bilderkennung, Sprach-KI und mehr. Es umfasst über 50 Frameworks, vortrainierte Modelle und Entwicklungstools.

HGX H100 ist als Serverbaustein in Form von integrierten Baseboards in Konfigurationen mit vier oder acht H100 GPUs erhältlich. Vier H100 GPUs bieten vollständig miteinander vernetzte Punkt-zu-Punkt-NVLink-Verbindungen zwischen GPUs, während die Konfiguration mit acht GPUs die volle GPU-zu-GPU-Bandbreite dank NVIDIA NVSwitch-Technologie bietet. Ein Server mit HGX H100 8-GPU nutzt die Leistung von H100 Multi Precision Tensor Cores und bietet bis zu 32 petaFLOPS FP8-Rechenleistung für das Deep Learning.

Geschäftsbeziehungen mit Mehrwert

Die Zusammenarbeit mit führenden Technologieunternehmen ermöglicht es Giga Computing, Produkte schnell auf den Markt für neue Enterprise-Anwendungen zu bringen. Giga Computing lässt seine Server und Mainboards für verschiedene Betriebssysteme, Software und IT-Technologien zertifizieren.