Według doniesień klienci korzystający z procesorów graficznych NVIDIA AI sprzedają nadwyżkę sprzętu


Procesor graficzny NVIDIA H100 Tensor Core był w zeszłym roku najpopularniejszym produktem w segmentach branży HPC i sztucznej inteligencji — według raportów najwięksi nabywcy nabyli po 150 000 jednostek każdy. Popyt wzrósł tak bardzo, że czas realizacji wynosił 36 do 52 tygodni stała się normą dla sprzętu serwerowego opartego na H100. Najnowsze doniesienia wskazują, że sytuacja ustabilizowała się do tego stopnia, że ​​niektóre organizacje „rozładunek chipsów” w miarę wygasania załamania podaży. Najwyraźniej bardziej opłacalne jest wynajmowanie usług przetwarzania AI od dostawców usług w chmurze (CSP) – do trzech największych należą Amazon Web Services, Google Cloud i Microsoft Azure.

Według połowy lutego Poszukiwany Alfa raport, czas oczekiwania na NVIDIA H100 80 GB modelu GPU zostały skrócone do około trzech do czterech miesięcy. Informacja uważa, że ​​niektóre firmy już zmniejszyły liczbę zamówień, podczas gdy w innych sprzęt leży zupełnie nieużywany. Według doniesień złożoność i koszty konserwacji są głównymi czynnikami powodującymi „odciążanie” niepotrzebnego sprzętu i korzystanie z wynajmu czasu serwera od dostawców usług internetowych. Pomimo poprawy warunków podaży popyt na procesory graficzne AI wciąż rośnie – napędzany głównie przez organizacje zajmujące się modelami LLM. Najlepszym przykładem jest otwarta sztuczna inteligencja – jak zauważył The Information –wewnętrzne szepty sprawić, że Sam Altman & Co. poszuka alternatywnych rozwiązań i możliwości produkcji.



Source link

Advertisment

Więcej

Advertisment

Podobne

Advertisment

Najnowsze

Intel buduje największy na świecie system neuromorficzny, aby zapewnić bardziej zrównoważoną sztuczną inteligencję

Intel ogłosił dzisiaj, że zbudował największy na świecie system neuromorficzny. Ten wielkoskalowy system neuromorficzny o kryptonimie Hala Point, początkowo wdrożony w Sandia...

Amazon upiera się, że Just Walk Out nie jest potajemnie prowadzony przez pracowników obserwujących Twoje zakupy

Amazon odpiera twierdzenia, że ​​w Indiach jego bezkasową technologią Just Walk Out zarządzają ludzie, a nie sztuczna inteligencja. W wpis na blogu...

Samsung i Qualcomm osiągają innowacyjny, pierwszy w branży kamień milowy dzięki zaawansowanej technologii modulacji

Firmy Samsung Electronics i Qualcomm Technologies, Inc. ogłosiły dzisiaj, że firmy pomyślnie ukończyły testy 1024 kwadraturowej modulacji amplitudy (QAM) zarówno dla pasm widma...
Advertisment