„W zakresie zastosowań AI w przedsiębiorstwach i wśród konsumentów firma Intel nieustannie dostarcza platformy, systemy i technologie niezbędne do ponownego zdefiniowania tego, co jest możliwe. W miarę nasilania się obciążeń AI szerokie doświadczenie branżowe firmy Intel pozwala nam zrozumieć, czego potrzebują nasi klienci, aby napędzać innowacyjność, kreatywność i idealne wyniki biznesowe. Podczas gdy wydajniejszy krzem i zwiększona przepustowość platformy są niezbędne, firma Intel wie również, że każde obciążenie wiąże się z wyjątkowymi wyzwaniami: system zaprojektowany dla centrum danych nie może być już po prostu ponownie wykorzystywany na krawędzi. Dzięki sprawdzonej wiedzy specjalistycznej w zakresie architektury systemów w całym kontinuum obliczeniowym firma Intel jest dobrze przygotowana do napędzania kolejnej generacji innowacji AI”. -Pere Monclus, dyrektor ds. technologii, Network and Edge Group w firmie Intel.
Co prezentuje Intel: Podczas konferencji Hot Chips 2024 firma Intel zaprezentowała cztery dokumenty techniczne, w których omówiono układ Intel Xeon 6 SoC, procesor kliencki Lunar Lake, akcelerator Intel Gaudi 3 AI i chiplet OCI.
Zbudowany dla krawędzi: procesor Intel Xeon 6 SoC nowej generacji
Praveen Mosur, Intel Fellow i architekt sieci i układów brzegowych, ujawnił nowe szczegóły dotyczące projektu Intel Xeon 6 system-on-chip (SoC) i tego, jak może on sprostać wyzwaniom związanym z konkretnymi przypadkami użycia na brzegu, takim jak zawodne połączenia sieciowe oraz ograniczona przestrzeń i moc. Na podstawie wiedzy zdobytej z ponad 90 0001 wdrożeń brzegowych na całym świecie, SoC będzie najbardziej zoptymalizowanym pod kątem brzegu procesorem firmy do tej pory. Dzięki możliwości skalowania od urządzeń brzegowych do węzłów brzegowych przy użyciu architektury pojedynczego systemu i zintegrowanej akceleracji AI przedsiębiorstwa mogą łatwiej, wydajniej i poufniej zarządzać pełnym przepływem pracy AI od pobierania danych do wnioskowania — pomagając w ten sposób usprawnić podejmowanie decyzji, zwiększyć automatyzację i dostarczać wartość swoim klientom.
Intel Xeon 6 SoC łączy chiplet obliczeniowy z procesorów Intel Xeon 6 z chipletem I/O zoptymalizowanym pod kątem krawędzi, zbudowanym w technologii procesowej Intel 4. Dzięki temu SoC zapewnia znaczną poprawę wydajności, efektywności energetycznej i gęstości tranzystorów w porównaniu z poprzednimi technologiami. Dodatkowe funkcje obejmują:
- Do 32 linii PCI Express (PCIe) 5.0.
- Do 16 pasów Compute Express Link (CXL) 2.0.
- 2x100G Ethernet.
- Cztery i osiem kanałów pamięci w kompatybilnych obudowach BGA.
- Udoskonalenia specyficzne dla urządzeń Edge, w tym rozszerzony zakres temperatur pracy i niezawodność klasy przemysłowej, czynią go idealnym rozwiązaniem do wydajnego i wytrzymałego sprzętu.
Procesor Intel Xeon 6 SoC zawiera również funkcje zaprojektowane z myślą o zwiększeniu wydajności i efektywności obciążeń brzegowych i sieciowych, w tym nowe przyspieszenie multimediów w celu usprawnienia transkodowania wideo i analiz w przypadku transmisji OTT, VOD i mediów nadawanych na żywo; rozszerzenia Intel Advanced Vector Extensions i Intel Advanced Matrix Extensions w celu poprawy wydajności wnioskowania; technologię Intel QuickAssist Technology w celu zwiększenia wydajności sieci i pamięci masowej; technologię Intel vRAN Boost w celu zmniejszenia zużycia energii przez wirtualizowaną sieć RAN; a także obsługę platformy Intel Tiber Edge Platform, która umożliwia użytkownikom tworzenie, wdrażanie, uruchamianie, zarządzanie i skalowanie rozwiązań brzegowych i AI na standardowym sprzęcie z prostotą charakterystyczną dla chmury.
Lunar Lake: zasilanie nowej generacji komputerów ze sztuczną inteligencją
Arik Gihon, główny architekt procesora SoC procesora klienckiego, omówił procesor kliencki Lunar Lake i sposób, w jaki został zaprojektowany, aby wyznaczyć nowy poziom wydajności energetycznej x86, zapewniając jednocześnie wiodącą wydajność rdzenia, grafiki i AI klienta. Nowe rdzenie Performance (P-cores) i Efficient-cores (E-cores) zapewniają niesamowitą wydajność przy nawet o 40% niższym zużyciu energii system-on-chip w porównaniu z poprzednią generacją. Nowa jednostka przetwarzania neuronowego jest do 4 razy szybsza, co umożliwia odpowiednie ulepszenia w generatywnej AI (GenAI) w porównaniu z poprzednią generacją. Ponadto nowe rdzenie jednostki przetwarzania grafiki Xe2 poprawiają wydajność gier i grafiki o 1,5x w porównaniu z poprzednią generacją.
Więcej szczegółów na temat Lunar Lake zostanie podanych podczas wydarzenia promującego procesor Intel Core Ultra, które odbędzie się 3 września.
Akcelerator Intel Gaudi 3 AI: zaprojektowany do szkolenia i wnioskowania GenAI
Roman Kaplan, główny architekt akceleratorów AI, omówił szkolenie i wdrażanie generatywnych modeli AI wymagających dużej mocy obliczeniowej. Prowadzi to do znacznych wyzwań związanych z kosztami i mocą w miarę skalowania systemów — od pojedynczych węzłów do rozległych klastrów wielotysięcznych węzłów.
Akcelerator Intel Gaudi 3 AI rozwiązuje te problemy dzięki swojej zoptymalizowanej architekturze, która wpływa na architekturę obliczeniową, pamięciową i sieciową, a jednocześnie wykorzystuje strategie takie jak wydajne silniki mnożenia macierzy, dwupoziomową integrację pamięci podręcznej i rozległe sieciowanie RoCE (RDMA over Converged Ethernet). Dzięki temu akcelerator Gaudi 3 AI osiąga znaczną wydajność i energooszczędność, co umożliwia centrom danych AI działanie bardziej opłacalnie i w sposób zrównoważony, rozwiązując problemy ze skalowalnością podczas wdrażania obciążeń GenAI.
Informacje na temat akceleratorów AI Gaudi 3 i przyszłych produktów Intel Xeon 6 zostaną udostępnione podczas wydarzenia inauguracyjnego we wrześniu.
Chiplet optycznego połączenia obliczeniowego o przepustowości 4 terabitów na sekundę do łączności XPU-XPU
Grupa Integrated Photonics Solutions (IPS) firmy Intel zaprezentowała najbardziej zaawansowany w branży i pierwszy na świecie w pełni zintegrowany optyczny układ połączeń obliczeniowych, współpracujący z procesorem Intel i przetwarzający dane w czasie rzeczywistym.
Saeed Fathololoumi, architekt fotoniczny w Integrated Photonics Solutions Group, omówił chiplet OCI i jego projekt obsługujący 64 kanały transmisji danych 32 gigabitów na sekundę (Gbps) w każdym kierunku na maksymalnie 100 metrach światłowodów. Fathololoumi omówił również, w jaki sposób ma on sprostać rosnącym wymaganiom infrastruktury AI w zakresie większej przepustowości, niższego zużycia energii i większego zasięgu. Chiplet OCI firmy Intel stanowi krok naprzód w zakresie połączeń o dużej przepustowości dla przyszłej skalowalności łączności klastrów CPU/GPU i nowych architektur obliczeniowych, w tym spójnej rozbudowy pamięci i dezagregacji zasobów w powstającej infrastrukturze AI dla centrów danych i aplikacji o wysokiej wydajności obliczeniowej (HPC).
Dlaczego to ma znaczenie: AI zapewnia firmom i konsumentom przyspieszoną ścieżkę do realizacji pomysłów na niespotykane dotąd wyżyny. Na przykład konsumenci mają teraz opcje komputerów PC AI, które zapewniają inteligentne możliwości, które podnoszą produktywność, kreatywność, gry, rozrywkę i bezpieczeństwo, a firmy mogą wykorzystać moc przetwarzania brzegowego i AI, aby usprawnić podejmowanie decyzji, zwiększyć automatyzację i uzyskać wartość z zastrzeżonych danych.
Głębokie sesje techniczne na konferencji Hot Chips 2024 dostarczyły wyjątkowych informacji technicznych od zespołów produktowych firmy Intel, które wprowadzają na rynek technologie sztucznej inteligencji nowej generacji.