„Ciągle zwiększający się ruch danych z serwera na serwer obciąża możliwości dzisiejszej infrastruktury centrów danych, a obecne rozwiązania szybko zbliżają się do praktycznych granic wydajności elektrycznego wejścia/wyjścia. Jednak przełomowe osiągnięcie firmy Intel umożliwia klientom bezproblemową integrację współpakowanych rozwiązań połączeń fotonicznych krzemowych z systemami obliczeniowymi nowej generacji. Nasz chiplet OCI zwiększa przepustowość, zmniejsza zużycie energii i zwiększa zasięg, umożliwiając przyspieszenie obciążenia ML, co obiecuje zrewolucjonizować infrastrukturę AI o wysokiej wydajności” — powiedział Thomas Liljeberg, starszy dyrektor ds. zarządzania produktami i strategii w Integrated Photonics Solutions (IPS) Group.
Ten pierwszy chiplet OCI jest przeznaczony do obsługi 64 kanałów transmisji danych 32 gigabitów na sekundę (Gbps) w każdym kierunku na maksymalnie 100 metrach światłowodów i oczekuje się, że będzie odpowiadał rosnącym wymaganiom infrastruktury AI w zakresie większej przepustowości, mniejszego zużycia energii i większego zasięgu. Umożliwia on przyszłą skalowalność łączności klastra CPU/GPU i nowe architektury obliczeniowe, w tym spójne rozszerzenie pamięci i dezagregację zasobów.
Aplikacje oparte na sztucznej inteligencji są coraz częściej wdrażane na całym świecie, a najnowsze osiągnięcia w zakresie dużych modeli językowych (LLM) i generatywnej sztucznej inteligencji przyspieszają tę tendencję. Większe i wydajniejsze modele uczenia maszynowego (ML) odegrają kluczową rolę w spełnianiu pojawiających się wymagań związanych z obciążeniami związanymi z akceleracją sztucznej inteligencji. Konieczność skalowania przyszłych platform obliczeniowych pod kątem sztucznej inteligencji powoduje wykładniczy wzrost przepustowości we/wy i większy zasięg w celu obsługi klastrów i architektur większych jednostek przetwarzania (CPU/GPU/IPU) przy bardziej efektywnym wykorzystaniu zasobów, takim jak dezagregacja xPU i łączenie pamięci.
Elektryczne wejścia/wyjścia (tj. łączność miedziana) obsługują dużą gęstość pasma i małą moc, ale oferują jedynie krótki zasięg wynoszący około jednego metra lub mniej. Wymienne moduły optyczne nadawczo-odbiorcze stosowane w centrach danych i wczesnych klastrach sztucznej inteligencji mogą zwiększać zasięg przy poziomach kosztów i mocy, które nie są zrównoważone w obliczu wymagań skalowania obciążeń AI. Wspólnie spakowane rozwiązanie optycznego wejścia/wyjścia xPU może obsługiwać większą przepustowość przy lepszej wydajności energetycznej, małych opóźnieniach i większym zasięgu — dokładnie tego, czego wymaga skalowanie infrastruktury AI/ML.
Dla analogii zastąpienie elektrycznych wejść/wyjść optycznymi wejściami/wyjściami w procesorach i procesorach graficznych w celu przesyłania danych jest jak przejście od używania powozów konnych do dystrybucji towarów o ograniczonej pojemności i zasięgu do korzystania z samochodów osobowych i ciężarówek, które mogą dostarczyć znacznie większe ilości danych. towarów na znacznie większe odległości. Ten poziom zwiększonej wydajności i kosztów energii jest tym, co optyczne rozwiązania we/wy, takie jak pojawiający się chiplet OCI firmy Intel, wnoszą do skalowania sztucznej inteligencji.
W pełni zintegrowany chiplet OCI wykorzystuje sprawdzoną w praktyce technologię fotoniki krzemowej firmy Intel i integruje układ scalony fotoniki krzemowej (PIC), który obejmuje wbudowane lasery i wzmacniacze optyczne, z elektrycznym układem scalonym. Chiplet OCI zademonstrowany na OFC został dołączony do procesora Intel, ale można go również zintegrować z procesorami, procesorami graficznymi, IPU i innymi układami typu system-on-chip (SoC) nowej generacji.
Ta pierwsza implementacja OCI obsługuje dwukierunkowy transfer danych do 4 terabitów na sekundę (Tbps), zgodny z PCIe Gen5 (Peripheral Component Interconnect Express). Demonstracja łącza optycznego na żywo prezentuje połączenie nadajnika (Tx) i odbiornika (Rx) między dwiema platformami CPU przez kabel krosowy światłowodu jednomodowego (SMF). Procesory wygenerowały i zmierzyły optyczną szybkość błędów bitowych (BER), a demonstracja prezentuje widmo optyczne Tx z 8 długościami fal przy odstępie 200 gigaherców (GHz) na jednym włóknie, wraz z diagramem oka Tx 32 Gbps ilustrującym wysoką jakość sygnału.
Obecny chiplet obsługuje 64 kanały danych o przepustowości 32 Gb/s w każdym kierunku na odległość do 100 metrów (chociaż praktyczne zastosowania mogą być ograniczone do kilkudziesięciu metrów ze względu na opóźnienia w czasie przelotu), wykorzystując osiem par włókien, z których każdy obsługuje osiem multipleksacji z gęstym podziałem długości fali (DWDM) długości fal. To pakowane rozwiązanie jest również wyjątkowo energooszczędne, zużywając zaledwie 5 pikodżuli (pJ) na bit w porównaniu z wtykanymi optycznymi modułami nadawczo-odbiorczymi przy około 15 pJ/bit. Ten poziom hiperefektywności ma kluczowe znaczenie dla centrów danych i środowisk obliczeniowych o wysokiej wydajności i może pomóc w zaspokojeniu niezrównoważonych wymagań AI w zakresie zasilania.
Jako lider rynku fotoniki krzemowej, Intel wykorzystuje ponad 25 lat wewnętrznych badań przeprowadzonych w laboratoriach Intel Labs, które są pionierami zintegrowanej fotoniki. Intel był pierwszą firmą, która opracowała i dostarczyła produkty łączności oparte na fotonice krzemowej, charakteryzujące się wiodącą w branży niezawodnością przy dużych nakładach, do głównych dostawców usług w chmurze.
Głównym wyróżnikiem firmy Intel jest niezrównana integracja przy użyciu hybrydowej technologii lasera na płytce i bezpośredniej integracji, która zapewnia wyższą niezawodność i niższe koszty. To unikalne podejście umożliwia firmie Intel zapewnianie najwyższej wydajności przy jednoczesnym zachowaniu wydajności. Solidna, wielkonakładowa platforma firmy Intel może pochwalić się dostawą ponad 8 milionów układów PIC z ponad 32 milionami zintegrowanych laserów w chipie, co pokazuje współczynnik awarii lasera w czasie (FIT) mniejszy niż 0,1, co jest powszechnie stosowaną miarą niezawodności reprezentującą współczynniki awaryjności i ile awarii wystąpiło.
Te karty PIC umieszczono w wymiennych modułach nadawczo-odbiorczych, wdrożonych w dużych sieciach centrów danych u głównych dostawców usług w chmurze hiperskalowej dla aplikacji o przepustowości 100, 200 i 400 Gb/s. Trwają prace nad nową generacją kart PIC 200G/tor do obsługi nowych aplikacji o przepustowości 800 Gb/s i 1,6 Tb/s.
Intel wdraża także nowy węzeł procesowy fabryki fotoniki krzemowej charakteryzujący się najnowocześniejszą wydajnością urządzeń (SOA), większą gęstością, lepszym sprzężeniem i znacznie poprawioną ekonomiką. Firma Intel w dalszym ciągu czyni postępy w zakresie wydajności lasera na chipie i architektury SOA, kosztów (redukcja powierzchni matrycy o ponad 40%) i mocy (redukcja o ponad 15%).
Obecny chipset OCI firmy Intel jest prototypem. Intel współpracuje z wybranymi klientami, aby połączyć OCI z ich SOC jako optyczne rozwiązanie we/wy.
Chiplet OCI firmy Intel stanowi krok naprzód w dziedzinie szybkiej transmisji danych. Wraz z ewolucją infrastruktury sztucznej inteligencji firma Intel pozostaje na czele, stymulując innowacje i kształtując przyszłość łączności.