GIGABYTE und NVIDIA arbeiten seit langem gemeinsam an der Entwicklung von NVIDIA-zertifizierten Systemen für GPU-Computing-Anwendungsfälle wie Künstliche Intelligenz (KI), High Performance Computing (HPC), Virtual Desktop (VDI), Edge Computing, 5G, Render Farm, professionelle Grafikverarbeitung und mehr. Um die Vielzahl von Anwendungsfällen zu adressieren, bietet GIGABYTE das größte Portfolio an GPU-Computing-Serverlösungen auf dem Markt an, wobei modulares Systemdesign und Konfigurierbarkeit im Vordergrund stehen.
Die Lösungen verfügen über eine optimierte Luftkühlung und eine maximale GPU-Leistung pro Rack-Einheit. Das Portfolio wird ständig erweitert, da die nächste Generation von Computing-Technologien der großen CPU/GPU-Hersteller auf den Markt kommt, die alle auf höchste Rechendichte, Leistung und Energieeffizienz abzielen.
Unter den verschiedenen NVIDIA-zertifizierten Systemen sind die folgenden GPU-Server von GIGABYTE von besonderem Interesse für diese Presseerklärung: G293-Z22 und G593-ZD2.
GIGABYTE G293-Z22 - die dichteste GPU-Computing-Plattform im 2U-Formfaktor
Basierend auf der neuesten AMD EPYC 9004 CPU-Architektur nutzt das G293-Z22 Systemdesign einen einzigen CPU-Sockel zur Steuerung von bis zu 8 x NVIDIA GPU-Karten (PCIe-Formfaktor, Gen5 x16, Doppel- oder Single-Slot-Karten), indem es eine AMD EPYC 9004 CPU mit hoher Kernzahl (bis zu 84 Kerne mit bis zu 300W TDP CPU) nutzt.
Der einheitliche Speicherbereich (wie in einem einzigen NUMA) für CPU, GPU, Systemspeicher, Speichergeräte und Netzwerkgeräte sorgt für die höchste Rechenleistung bei geringster Latenz in der Datenbewegung. Sowohl in der Bare-Metal-Konfiguration als auch in der Virtualisierung kann das G293-Z22 eine optimale Verteilung der Rechenressourcen gewährleisten.
Das G293-Z22 verfügt über 8 x PCIe Gen5-Steckplätze für NVIDIA-GPUs, 1 x CPU-Sockel für AMD EPYC 9004-CPUs, 12 x DDR5 4800MHz DIMM-Steckplätze, 8 x 2,5"-Hot-Swap-Laufwerksschächte (von denen vier Schächte PCIe Gen5/SATA/SAS-Protokolle und die anderen vier Schächte SATA/SAS unterstützen), 2 x M.2 Speichersteckplätze (NVMe PCIe Gen5 x4), 2 x PCIe Gen5-Erweiterungssteckplätze (x16-Busbreite, Low-Profile-Formfaktor) für Zusatzgeräte wie HBA FC/Speicherkarten, NVIDIA ConnectX-7 oder NVIDIA BlueField-3 DPU zur Beschleunigung der Datenübertragung zwischen Knoten und Clustern und GPUDirect/RDMA. Diese kompakten, GPU-zentrierten Rechenfunktionen sind besonders für HPC-Anwender interessant, die mit KI, Molekularsimulationen, genomischer Sequenzierung, Wettervorhersage und anderen Anwendungsfällen arbeiten.
GIGABYTE G593-ZD2 - das leistungsstärkste GPU-System mit NVIDIA H100 SXM5 & NVLink Fabric
Das G593-ZD2 gehört zu den meistverkauften Modellen bei GIGABYTE: Das System basiert auf der NVIDIA H100 SXM5 8-GPU-Plattform, unterstützt zwei AMD EPYC 9004 CPU-Sockel und bietet die Möglichkeit, bis zu 12 x NVIDIA SmartNICs oder DPUs zu installieren, um den Datentransfer über Knoten und Cluster sowie GPUDirect/RDMA zu beschleunigen. Der G593-ZD2 eignet sich auch für die Bereitstellung maximaler Multi-Instance-GPU-Sitzungen (MIG) für KI-Entwickler, die Workloads in verschiedenen containerisierten Umgebungen ausführen und benutzerdefinierte Algorithmen, Bibliotheken und Datensätze in isolierten Benutzerbereichen ausführen müssen.
Das System verwendet eine neuartige Kühllösung, die eine eigene Kühlkammer für die NVIDIA-GPUs und die SmartNIC / BlueField DPU in den PCIe-Erweiterungssteckplätzen vorsieht und so den höchstmöglichen Luftstrom zur Kühlung der Hochleistungskomponenten gewährleistet. Tatsächlich besteht das System aus zwei separaten Teilen: einem 1U-CPU-Server, der über einem 4U-GPU-Tray sitzt. Der 1U-Einschub beherbergt die CPU, den Systemspeicher, die Speicherschächte und die nach hinten gerichteten PCIe-Steckplätze. Der 4U-GPU-Tray lässt sich im Falle einer Systemwartung leicht herausschieben, wenn man die komplizierten Onboard-Verbindungen bedenkt, die alle GPU-Module und den 1U-Server miteinander verbinden. Darüber hinaus sind die integrierten 12 x PCIe Gen5-Erweiterungssteckplätze (8 x Low-Profile und 4 x Full-Height) in werkzeuglosen Einschüben untergebracht, um die Wartung und den Austausch von Teilen zu erleichtern. Der Onboard-Speicher umfasst 8 x 2,5"-Hot-Swap-Laufwerksschächte (NVMe PCIe Gen5) und 2 x M.2-Speichersteckplätze (NVMe PCIe Gen3). Die Systemspeicherkapazität umfasst 24 x DDR5 DIMM-Steckplätze mit 4800 MHz.
Die Einbeziehung und Auswahl der NVIDIA H100 SXM5-Module im G593-ZD2-System ist wichtig, da die neuen NVIDIA Magnum IO GPUDirect-Technologien einen schnelleren Durchsatz begünstigen und gleichzeitig Arbeitslasten von der CPU entlasten, um Leistungssteigerungen zu erzielen. Das G593-ZD2 unterstützt NVIDIA GPUDirect RDMA für den direkten Datenaustausch zwischen GPUs und Geräten von Drittanbietern wie NICs oder Speicheradaptern. Außerdem wird GPUDirect Storage für einen direkten Datenpfad unterstützt, um Daten vom Speicher in den GPU-Speicher zu verschieben und dabei die CPU zu entlasten, was zu einer höheren Bandbreite und geringeren Latenz führt.
Fazit
Über die aktuelle HPC-Technologie hinaus und bis zum dritten/vierten Quartal 2023 und darüber hinaus ist GIGABYTE bereit, die nächste Generation von GPU-Computing- und Hybrid-Computing-Lösungen in Partnerschaft mit NVIDIA rechtzeitig auf den Markt zu bringen. GIGABYTE wird weiterhin verschiedene Anwendungsfälle adressieren, indem das Systemdesign an reale Workflows und Rechenzentrumsarchitekturen angepasst wird.
Um eine Anfrage zu stellen: Kontakieren Sie den Vertrieb
Medienkontakt: Bernice Slot - bernice@giga-byte.nl
Folgen Sie Giga Computing auf Twitter: https://twitter.com/GIGABYTEServer
Folgen Sie Giga Computing auf LinkedIn: https://www.linkedin.com/company/giga-computing
Die Lösungen verfügen über eine optimierte Luftkühlung und eine maximale GPU-Leistung pro Rack-Einheit. Das Portfolio wird ständig erweitert, da die nächste Generation von Computing-Technologien der großen CPU/GPU-Hersteller auf den Markt kommt, die alle auf höchste Rechendichte, Leistung und Energieeffizienz abzielen.
Unter den verschiedenen NVIDIA-zertifizierten Systemen sind die folgenden GPU-Server von GIGABYTE von besonderem Interesse für diese Presseerklärung: G293-Z22 und G593-ZD2.
GIGABYTE G293-Z22 - die dichteste GPU-Computing-Plattform im 2U-Formfaktor
Basierend auf der neuesten AMD EPYC 9004 CPU-Architektur nutzt das G293-Z22 Systemdesign einen einzigen CPU-Sockel zur Steuerung von bis zu 8 x NVIDIA GPU-Karten (PCIe-Formfaktor, Gen5 x16, Doppel- oder Single-Slot-Karten), indem es eine AMD EPYC 9004 CPU mit hoher Kernzahl (bis zu 84 Kerne mit bis zu 300W TDP CPU) nutzt.
Der einheitliche Speicherbereich (wie in einem einzigen NUMA) für CPU, GPU, Systemspeicher, Speichergeräte und Netzwerkgeräte sorgt für die höchste Rechenleistung bei geringster Latenz in der Datenbewegung. Sowohl in der Bare-Metal-Konfiguration als auch in der Virtualisierung kann das G293-Z22 eine optimale Verteilung der Rechenressourcen gewährleisten.
Das G293-Z22 verfügt über 8 x PCIe Gen5-Steckplätze für NVIDIA-GPUs, 1 x CPU-Sockel für AMD EPYC 9004-CPUs, 12 x DDR5 4800MHz DIMM-Steckplätze, 8 x 2,5"-Hot-Swap-Laufwerksschächte (von denen vier Schächte PCIe Gen5/SATA/SAS-Protokolle und die anderen vier Schächte SATA/SAS unterstützen), 2 x M.2 Speichersteckplätze (NVMe PCIe Gen5 x4), 2 x PCIe Gen5-Erweiterungssteckplätze (x16-Busbreite, Low-Profile-Formfaktor) für Zusatzgeräte wie HBA FC/Speicherkarten, NVIDIA ConnectX-7 oder NVIDIA BlueField-3 DPU zur Beschleunigung der Datenübertragung zwischen Knoten und Clustern und GPUDirect/RDMA. Diese kompakten, GPU-zentrierten Rechenfunktionen sind besonders für HPC-Anwender interessant, die mit KI, Molekularsimulationen, genomischer Sequenzierung, Wettervorhersage und anderen Anwendungsfällen arbeiten.
GIGABYTE G593-ZD2 - das leistungsstärkste GPU-System mit NVIDIA H100 SXM5 & NVLink Fabric
Das G593-ZD2 gehört zu den meistverkauften Modellen bei GIGABYTE: Das System basiert auf der NVIDIA H100 SXM5 8-GPU-Plattform, unterstützt zwei AMD EPYC 9004 CPU-Sockel und bietet die Möglichkeit, bis zu 12 x NVIDIA SmartNICs oder DPUs zu installieren, um den Datentransfer über Knoten und Cluster sowie GPUDirect/RDMA zu beschleunigen. Der G593-ZD2 eignet sich auch für die Bereitstellung maximaler Multi-Instance-GPU-Sitzungen (MIG) für KI-Entwickler, die Workloads in verschiedenen containerisierten Umgebungen ausführen und benutzerdefinierte Algorithmen, Bibliotheken und Datensätze in isolierten Benutzerbereichen ausführen müssen.
Das System verwendet eine neuartige Kühllösung, die eine eigene Kühlkammer für die NVIDIA-GPUs und die SmartNIC / BlueField DPU in den PCIe-Erweiterungssteckplätzen vorsieht und so den höchstmöglichen Luftstrom zur Kühlung der Hochleistungskomponenten gewährleistet. Tatsächlich besteht das System aus zwei separaten Teilen: einem 1U-CPU-Server, der über einem 4U-GPU-Tray sitzt. Der 1U-Einschub beherbergt die CPU, den Systemspeicher, die Speicherschächte und die nach hinten gerichteten PCIe-Steckplätze. Der 4U-GPU-Tray lässt sich im Falle einer Systemwartung leicht herausschieben, wenn man die komplizierten Onboard-Verbindungen bedenkt, die alle GPU-Module und den 1U-Server miteinander verbinden. Darüber hinaus sind die integrierten 12 x PCIe Gen5-Erweiterungssteckplätze (8 x Low-Profile und 4 x Full-Height) in werkzeuglosen Einschüben untergebracht, um die Wartung und den Austausch von Teilen zu erleichtern. Der Onboard-Speicher umfasst 8 x 2,5"-Hot-Swap-Laufwerksschächte (NVMe PCIe Gen5) und 2 x M.2-Speichersteckplätze (NVMe PCIe Gen3). Die Systemspeicherkapazität umfasst 24 x DDR5 DIMM-Steckplätze mit 4800 MHz.
Die Einbeziehung und Auswahl der NVIDIA H100 SXM5-Module im G593-ZD2-System ist wichtig, da die neuen NVIDIA Magnum IO GPUDirect-Technologien einen schnelleren Durchsatz begünstigen und gleichzeitig Arbeitslasten von der CPU entlasten, um Leistungssteigerungen zu erzielen. Das G593-ZD2 unterstützt NVIDIA GPUDirect RDMA für den direkten Datenaustausch zwischen GPUs und Geräten von Drittanbietern wie NICs oder Speicheradaptern. Außerdem wird GPUDirect Storage für einen direkten Datenpfad unterstützt, um Daten vom Speicher in den GPU-Speicher zu verschieben und dabei die CPU zu entlasten, was zu einer höheren Bandbreite und geringeren Latenz führt.
Fazit
Über die aktuelle HPC-Technologie hinaus und bis zum dritten/vierten Quartal 2023 und darüber hinaus ist GIGABYTE bereit, die nächste Generation von GPU-Computing- und Hybrid-Computing-Lösungen in Partnerschaft mit NVIDIA rechtzeitig auf den Markt zu bringen. GIGABYTE wird weiterhin verschiedene Anwendungsfälle adressieren, indem das Systemdesign an reale Workflows und Rechenzentrumsarchitekturen angepasst wird.
Um eine Anfrage zu stellen: Kontakieren Sie den Vertrieb
Medienkontakt: Bernice Slot - bernice@giga-byte.nl
Folgen Sie Giga Computing auf Twitter: https://twitter.com/GIGABYTEServer
Folgen Sie Giga Computing auf LinkedIn: https://www.linkedin.com/company/giga-computing
