Huawei CloudMatrix 384 System przewyższa NVIDIA GB200 NVL72


Huawei ogłosił swój system Super Węzeł System CloudMatrix 384, który firma reklamuje własną krajową alternatywę dla systemu NVIDIA NVL72, z większą ogólną wydajnością systemu, ale gorszą wydajnością na chip i wyższym zużyciem energii. Podczas gdy GB200 NVL72 NVIDIA używa 36 procesorów Grace w połączeniu z 72 „Blackwell” GB200 GPU, system Huawei Cloudmatrix 384 wykorzystuje 384 akceleratorów Huawei ASCend 910c, aby pokonać system NVIDIA GB200 NVL72. Dostarczenie prawie dwukrotności wydajności systemu GB200 NVL zajmuje około pięć razy więcej akceleratorów 910c 910C, co nie jest dobre w przypadku stronniczości na akcelerator, ale doskonały w stosunku do systemu wdrażania. Semianaliza Argumentuje, że Huawei jest pokoleniem w zakresie wydajności chipów, ale przed NVIDIA w projektowaniu i wdrażaniu systemu w skali.

Kiedy patrzysz na poszczególne układy, NVIDIA GB200 NVL72 wyraźnie przewyższa Ascend 910C Huawei, dostarczając ponad trzykrotnie wydajność BF16 (2500 teraflops vs. 780 teraflops), więcej pamięci On -Chip (192 GB vs. 128 GB) i Faster Bandwidth (8 tb/s. 3,2 TB/S). Innymi słowy, NVIDIA ma surową moc i wydajność na poziomie układów. Ale przełącz przełącznik na poziom systemu, a CloudMatrix Huawei CM384 zajmuje prowadzenie. Wypada 1,7 × ogólne PEAFLOPS, pakuje 3,6 × większą całkowitą pojemność HBM i obsługuje ponad pięć razy więcej niż GPU i powiązana przepustowość klastra NVL72 NVL72. Jednak skalowalność ta ma kompromis, ponieważ konfiguracja Huawei przyciąga prawie czterokrotnie więcej całkowitej mocy. Pojedynczy GB200 NVL72 pobiera 145 kW mocy, a pojedynczy Huawei CloudMatrix 384 pobiera ~ 560 kW. Tak więc Nvidia jest Twoim przejściem, jeśli potrzebujesz szczytowej wydajności w jednym GPU. Jeśli budujesz masywny superklaster sztucznej inteligencji, w którym najwięcej przepustowości i prędkości połączenia wzajemnego połączenia, rozwiązanie Huawei ma sens. Dzięki swojej topologii, Huawei dostarczył system szkoleń i wnioskowania AI, które warto kupić. Gdy SMIC, producent żetonów Huawei, dociera do bardziej zaawansowanego węzła produkcyjnego, wydajność tych systemów również wzrośnie.



Source link

Advertisment

Więcej

Advertisment

Podobne

Advertisment

Najnowsze

Digital Extremes otwiera sulframe Playtest z gwarantowanymi zaproszeniami

Wygląda na to, że cyfrowe skrajności, deweloper stojący za Warframe, a teraz Soulframejest gotowy na większą publiczność do wypróbowania nowej gry fantasy science...

Zdejmij to, czy Act kieruje się do biurka Trumpa

Ustawa o Take It Down zmierza do biurka prezydenta Donalda Trumpa po tym, jak Izba głosowała 409-2, aby uchwalić rachunek, który będzie wymagał...

Apple wkrótce uruchomi swój pierwszy składany iPhone: szczegóły, data premiery i więcej

Plotki o składanych iPhone'ach krążył przez wiele latale ostatnie raporty sugerują, że Apple w końcu zbliża się do ogłoszenia nowego produktu. Podobno Apple...
Advertisment