Meta obiecuje, że następna generacja niestandardowych chipów AI będzie potężniejsza i będzie w stanie znacznie szybciej trenować modele rankingowe.
Meta Training and Inference Accelerator (MTIA) został zaprojektowany tak, aby najlepiej współpracować z modelami rankingowymi i rekomendacyjnymi Meta. Chipy mogą sprawić, że szkolenie będzie bardziej efektywne, a wnioskowanie – czyli faktyczne zadanie wnioskowania – łatwiejsze.
Firma stwierdziła w poście na blogu, że MTIA stanowi ważny element jej długoterminowego planu budowy infrastruktury wokół sposobu, w jaki wykorzystuje sztuczną inteligencję w swoich usługach. Chce zaprojektować swoje chipy tak, aby współpracowały z obecną infrastrukturą technologiczną i przyszłymi udoskonaleniami procesorów graficznych.
„Spełnienie naszych ambicji w zakresie niestandardowego krzemu oznacza inwestowanie nie tylko w krzem obliczeniowy, ale także w przepustowość pamięci, możliwości sieciowe i pojemność, a także w inne systemy sprzętowe nowej generacji” – stwierdziła Meta w swoim poście.
Meta ogłosił MTIA v1 w maju 2023 r, koncentrując się na dostarczaniu tych chipów do centrów danych. Chip MTIA nowej generacji będzie prawdopodobnie skierowany również do centrów danych. Oczekiwano, że MTIA v1 nie zostanie wydany wcześniej niż w 2025 r., ale Meta twierdzi, że oba chipy MTIA są obecnie w produkcji.
Obecnie MTIA szkoli głównie algorytmy rankingowe i rekomendacyjne, ale Meta twierdzi, że celem jest ostateczne rozszerzenie możliwości chipa, aby rozpocząć szkolenie generatywnej sztucznej inteligencji, takiej jak modele języka lamy.
Meta stwierdziła, że nowy układ MTIA „zasadniczo koncentruje się na zapewnieniu właściwej równowagi mocy obliczeniowej, przepustowości pamięci i pojemności pamięci”. Ten układ będzie miał 256 MB wbudowanej pamięci o częstotliwości 1,3 GHz w porównaniu do 128 MB i 800 GHz w wersji v1. Wczesne wyniki testów przeprowadzonych przez Meta wykazały, że nowy chip działa trzykrotnie lepiej niż wersja pierwszej generacji w czterech modelach ocenianych przez firmę.
Konkurencja w zakresie zakupu potężnych chipów podkreśliła potrzebę posiadania niestandardowych chipów do uruchamiania modeli AI. Popyt na chipy wzrósł tak bardzo, że jest nim Nvidia, która obecnie dominuje na rynku chipów AI wyceniony na 2 biliony dolarów.