„Supermicro jest uznanym liderem we wprowadzaniu współczesnej rewolucji w zakresie sztucznej inteligencji, przekształcaniu centrów danych w celu zapewnienia możliwości stosowania sztucznej inteligencji w przypadku wielu obciążeń” – powiedział Charles Liang, prezes i dyrektor generalny Supermicro. „Kluczowe jest dla nas dostarczanie systemów, które są wysoce modułowe, skalowalne i uniwersalne dla szybko rozwijających się technologii sztucznej inteligencji. Rozwiązania Supermicro oparte na NVIDIA MGX pokazują, że nasza strategia oparta na elementach konstrukcyjnych pozwala nam szybko wprowadzać na rynek najnowsze systemy i są najbardziej zoptymalizowane pod kątem obciążenia pracą w branży. Współpracując z firmą NVIDIA, pomagamy przedsiębiorstwom skrócić czas wprowadzania na rynek nowych aplikacji obsługujących sztuczną inteligencję, upraszczając wdrażanie i zmniejszając wpływ na środowisko. Gama nowych serwerów obejmuje najnowszą technologię branżową zoptymalizowaną pod kątem sztucznej inteligencji , w tym superchipy NVIDIA GH200 Grace Hopper, gniazda BlueField i PCIe 5.0 EDSFF.
„NVIDIA i Supermicro od dawna współpracują nad niektórymi z najbardziej wydajnych dostępnych systemów sztucznej inteligencji” – powiedział Ian Buck, wiceprezes ds. hiperskali i HPC w firmie NVIDIA. „Modułowy projekt referencyjny NVIDIA MGX w połączeniu z doświadczeniem Supermicro w dziedzinie serwerów stworzy nową generację systemów sztucznej inteligencji, które będą zawierać nasze superchipy Grace i Grace Hopper, z korzyścią dla klientów i branż na całym świecie”.
Przegląd platformy NVIDIA MGX firmy Supermicro
Platformy NVIDIA MGX firmy Supermicro zostały zaprojektowane w celu dostarczenia szeregu serwerów obsługujących przyszłe technologie AI. Ta nowa linia produktów pozwala sprostać wyjątkowym wyzwaniom związanym z serwerami opartymi na sztucznej inteligencji w zakresie temperatury, zasilania i mechaniki.
Nowa linia serwerów NVIDIA MGX firmy Supermicro obejmuje:
- ARS-111GL-NHR — 1 superchip NVIDIA GH200 Grace Hopper, chłodzony powietrzem
- ARS-111GL-NHR-LCC — 1 superchip NVIDIA GH200 Grace Hopper, chłodzony cieczą
- ARS-111GL-DHNR-LCC — 2 superchipy NVIDIA GH200 Grace Hopper, 2 węzły, chłodzone cieczą
- ARS-121L-DNR — 2 superchipy procesora NVIDIA Grace w każdym z 2 węzłów, łącznie 288 rdzeni
- ARS-221GL-NR — 1 superchip procesora NVIDIA Grace w obudowie 2U
- SYS-221GE-NR — Dwuprocesorowe procesory Intel Xeon Scalable czwartej generacji z maksymalnie 4 rdzeniami NVIDIA H100 Tensor lub 4 procesorami graficznymi NVIDIA PCIe
Każdą platformę MGX można rozszerzyć o złącza NVIDIA BlueField -3 DPU i/lub NVIDIA ConnectX -7 w celu uzyskania wysokiej wydajności sieci InfiniBand lub Ethernet.
Specyfikacja techniczna
Systemy NVIDIA MGX firmy Supermicro o wysokości 1U są wyposażone w maksymalnie 2 superchipy NVIDIA GH200 Grace Hopper Superchip, w tym 2 procesory graficzne NVIDIA H100 i 2 procesory NVIDIA Grace. Każdy z nich jest wyposażony w 480 GB pamięci LPDDR5X dla procesora i 96 GB pamięci HBM3 lub 144 GB pamięci HBM3e dla procesora graficznego. Spójna pod względem pamięci, charakteryzująca się dużą przepustowością i niskimi opóźnieniami karta NVIDIA-C2C łączy procesor, procesor graficzny i pamięć z szybkością 900 GB/s – 7 razy szybciej niż PCIe 5.0. Architektura modułowa zapewnia wiele gniazd PCIe 5.0 x16 FHFL, w których można umieścić procesory DPU do zarządzania chmurą i danymi oraz możliwości rozbudowy o dodatkowe procesory graficzne, sieci i pamięć masową.
Dzięki konstrukcji z 2 węzłami 1U i 2 superchipami NVIDIA GH200 Grace Hopper, sprawdzone rozwiązania Supermicro do bezpośredniego chłodzenia cieczą mogą zmniejszyć OPEX o ponad 40%, jednocześnie zwiększając gęstość obliczeniową i upraszczając wdrażanie w skali szafy w przypadku modelu wielkojęzykowego (LLM). klastry i aplikacje HPC.
Platforma 2U Supermicro NVIDIA MGX obsługuje zarówno procesory NVIDIA Grace, jak i procesory x86 z maksymalnie 4 pełnowymiarowymi procesorami graficznymi dla centrów danych, takimi jak NVIDIA H100 PCIe, H100 NVL lub L40S. Zapewnia także trzy dodatkowe gniazda PCIe 5.0 x16 do łączności we/wy i osiem wnęk na pamięć masową EDSFF typu hot-swap.
Supermicro oferuje sieć NVIDIA w celu zabezpieczenia i przyspieszenia obciążeń AI na platformie MGX. Obejmuje to połączenie procesorów DPU NVIDIA BlueField-3, które zapewniają łączność 2x 200 Gb/s w celu przyspieszenia dostępu użytkownika do chmury i przechowywania danych, oraz adapterów ConnectX-7, które zapewniają łączność InfiniBand lub Ethernet z szybkością do 400 Gb/s między Serwery GPU.
Programiści mogą szybko wykorzystać te nowe systemy i ofertę oprogramowania NVIDIA do dowolnego obciążenia branżowego. Oferta ta obejmuje NVIDIA AI Enterprise, oprogramowanie klasy korporacyjnej, które obsługuje platformę NVIDIA AI i usprawnia opracowywanie i wdrażanie gotowych do produkcji generatywnych rozwiązań AI, wizji komputerowej, sztucznej inteligencji mowy i nie tylko. Ponadto zestaw programistyczny NVIDIA HPC zapewnia niezbędne narzędzia potrzebne do wspierania rozwoju obliczeń naukowych.
Każdy aspekt systemów Supermicro NVIDIA MGX został zaprojektowany w celu zwiększenia wydajności, począwszy od inteligentnego projektu termicznego po dobór komponentów. Procesory NVIDIA Grace Superchip posiadają 144 rdzenie i zapewniają do 2x większą wydajność na wat w porównaniu do współczesnych, standardowych procesorów x86. Określone systemy Supermicro NVIDIA MGX można skonfigurować z dwoma węzłami w obudowie 1U, łącznie 288 rdzeniami na dwóch superchipach procesora Grace, aby zapewnić przełomową gęstość obliczeniową i efektywność energetyczną w hiperskalowych i brzegowych centrach danych.
