„Mamy jedną z najszerszych ofert infrastruktury AI i wspieramy klientów, którzy uruchamiają niektóre z najbardziej wymagających obciążeń AI w chmurze” — powiedział Mahesh Thiagarajan, wiceprezes wykonawczy Oracle Cloud Infrastructure. „Dzięki rozproszonej chmurze Oracle klienci mają elastyczność wdrażania usług w chmurze i AI w dowolnym miejscu, zachowując jednocześnie najwyższy poziom suwerenności danych i AI”.
Pierwszy na świecie klaster obliczeniowy Zettascale
OCI przyjmuje obecnie zamówienia na największy superkomputer AI w chmurze — dostępny z maksymalnie 131 072 procesorami graficznymi NVIDIA Blackwell — oferujący niespotykaną dotąd wydajność szczytową 2,4 zettaFLOPS. Maksymalna skala OCI Supercluster oferuje ponad trzy razy więcej procesorów graficznych niż superkomputer Frontier i ponad sześć razy więcej niż inne hiperskalery. OCI Supercluster obejmuje OCI Compute Bare Metal, RoCEv2 o bardzo niskim opóźnieniu z kartami sieciowymi ConnectX-7 i ConnectX-8 SuperNIC lub sieciami opartymi na NVIDIA Quantum-2 InfiniBand oraz wybór pamięci masowej HPC.
OCI Superclusters można zamawiać z OCI Compute zasilanym przez procesory graficzne NVIDIA H100 lub H200 Tensor Core lub procesory graficzne NVIDIA Blackwell. OCI Superclusters z procesorami graficznymi H100 mogą skalować się do 16 384 procesorów graficznych z wydajnością do 65 ExaFLOPS i zagregowaną przepustowością sieciową 13 Pb/s. OCI Superclusters z procesorami graficznymi H200 będą skalować się do 65 536 procesorów graficznych z wydajnością do 260 ExaFLOPS i zagregowaną przepustowością sieciową 52 Pb/s i będą dostępne pod koniec tego roku. OCI Superclusters z chłodzonymi cieczą instancjami bare-metal NVIDIA GB200 NVL72 będą używać NVLink i NVLink Switch, aby umożliwić komunikację do 72 procesorów graficznych Blackwell ze sobą przy łącznej przepustowości 129,6 TB/s w pojedynczej domenie NVLink. Procesory graficzne NVIDIA Blackwell, które będą dostępne w pierwszej połowie 2025 roku, z technologią NVLink piątej generacji, przełącznikiem NVLink i obsługą sieci klastrowych, umożliwią bezproblemową komunikację GPU-GPU w ramach jednego klastra.
„W miarę jak firmy, naukowcy i narody ścigają się, aby wprowadzać innowacje przy użyciu AI, dostęp do potężnych klastrów obliczeniowych i oprogramowania AI ma kluczowe znaczenie” — powiedział Ian Buck, wiceprezes Hyperscale and High Performance Computing w firmie NVIDIA. „Pełnozakresowa platforma obliczeniowa AI firmy NVIDIA w szeroko rozproszonej chmurze Oracle zapewni możliwości obliczeniowe AI na niespotykaną dotąd skalę, aby przyspieszyć działania AI na całym świecie i pomóc organizacjom na całym świecie przyspieszyć badania, rozwój i wdrażanie”.
Klienci, tacy jak WideLabs i Zoom, wykorzystują wydajną infrastrukturę sztucznej inteligencji firmy OCI z solidnymi mechanizmami kontroli bezpieczeństwa i suwerenności.
WideLabs szkoli jednego z największych portugalskich LLM-ów w zakresie OCI
WideLabs, brazylijski startup zajmujący się stosowaną sztuczną inteligencją, szkoli jedną z największych brazylijskich uczelni LLM, Amazonia IA, w zakresie OCI. Opracowali bAIgrapher, aplikację, która wykorzystuje swoją uczelnię LLM do generowania treści biograficznych na podstawie danych zebranych od pacjentów z chorobą Alzheimera, aby pomóc im zachować ważne wspomnienia.
WideLabs używa Oracle Cloud São Paulo Region do uruchamiania obciążeń AI, zapewniając, że poufne dane pozostają w granicach kraju. Dzięki temu WideLabs może przestrzegać brazylijskich wymogów suwerenności AI, ponieważ może kontrolować, gdzie jest wdrażana i obsługiwana jego technologia AI. WideLabs używa infrastruktury OCI AI z procesorami graficznymi NVIDIA H100 do trenowania swoich LLM, a także Oracle Kubernetes Engine do dostarczania, zarządzania i obsługi kontenerów przyspieszanych przez GPU w OCI Supercluster składającym się z OCI Compute połączonego z siecią klastrów OCI opartą na RMDA.
„Infrastruktura OCI AI oferuje nam najwyższą wydajność w zakresie szkolenia i prowadzenia naszych LLM” — powiedział Nelson Leoni, CEO, WideLabs. „Skala i elastyczność OCI są nieocenione, ponieważ nadal wprowadzamy innowacje w sektorze opieki zdrowotnej i innych kluczowych sektorach”.
Zoom wykorzystuje możliwości suwerenności OCI dla swojego generatywnego asystenta AI
Zoom, wiodąca platforma współpracy AI-first, używa OCI do dostarczania wniosków dla Zoom AI Companion, osobistego asystenta AI firmy dostępnego bez dodatkowych kosztów. Zoom AI Companion pomaga użytkownikom tworzyć e-maile i wiadomości czatu, podsumowywać spotkania i wątki czatu, generować pomysły podczas burzy mózgów ze współpracownikami i nie tylko. Możliwości OCI w zakresie danych i suwerenności AI pomogą Zoom zachować dane klientów lokalnie w regionie i wspierać wymagania suwerenności AI w Arabii Saudyjskiej, gdzie rozwiązanie OCI jest początkowo wdrażane.
„Zoom AI Companion rewolucjonizuje sposób pracy organizacji, oferując najnowocześniejsze możliwości generatywnej AI dostępne bez dodatkowych kosztów na płatnych kontach klientów” — powiedział Bo Yan, szef AI w Zoom. „Dzięki wykorzystaniu możliwości wnioskowania AI OCI, Zoom jest w stanie dostarczać dokładne wyniki przy niskim opóźnieniu, umożliwiając użytkownikom bezproblemową współpracę, bezproblemową komunikację oraz zwiększenie produktywności, wydajności i potencjału jak nigdy dotąd”.