Model Builders i AI Consortiums Barcelona Superkomputing Center (BSC), Bielik.ai, Dicta, H Company, Dominyn, Lighton, National Academic Infrastructure for Superkomputing w Szwecji (Naiss) wraz z KBLB w Bibliotece Narodowej Szwecji, Słowackiej Republiki, Słowackiej Republice, Republice Słowackiej, Republice Słowackiej, Republice Słowackiej, Republice Słowackiej, NVIDIA w celu zoptymalizowania swoich modeli za pomocą technik NVIDIA Nemotron, aby zmaksymalizować efektywność kosztową i dokładność obciążeń AI Enterprise, w tym agencyjnej sztucznej inteligencji.
Model po treningu i wnioskowanie będą działać na infrastrukturze AI w Europie od NVIDIA Cloud Partners (NCPS) uczestniczących w rynku NVIDIA DGX Cloud Lepton.
Otwarte, suwerenne modele stanowią podstawę zintegrowanego regionalnego ekosystemu AI, który odzwierciedla lokalne języki i kulturę. Europejskie przedsiębiorstwa będą mogły uruchamiać modele zakłopotania, silnik odpowiedzi zasilany przez sztuczną inteligencję używaną do odpowiadania na ponad 150 milionów pytań tygodniowo. Firmy będą również mogły dostroić suwerenne modele w lokalnej infrastrukturze NCP poprzez nową integrację twarzy z DGX Cloud Lepton.
„Różnorodność Europy jest supermocarstwem – silnik kreatywności i innowacji” – powiedział Jensen Huang, założyciel i dyrektor generalny NVIDIA. „Wraz z europejskim budowniczymi i dostawcami chmur budujemy ekosystem sztucznej inteligencji, w którym inteligencja jest opracowywana i serwowana lokalnie, aby zapewnić Europie fundamentowi rozwijanie się w epoce AI – przetwarzając każdą branżę w całym regionie”.
Optymalizacja dokładności modelu i oszczędności wnioskowania za pomocą Nvidia Nemotron
Europa – trzeci co do wielkości region gospodarczy na świecie – jest domem dla branż obejmujących produkcję, robotykę, opiekę zdrowotną i farmaceutyką, finanse, energię i kreatywność.
Aby przyspieszyć transformację związaną z AI w regionie, partnerzy NVIDIA dostarczają swoje otwarte LLM przy wsparciu 24 urzędowych języków w Europie. Kilka modeli specjalizuje się również w języku i kulturze narodowej, takich jak te z H Company i Lighton we Francji, Dicta w Izraelu, Dominyn we Włoszech, Bielik.ai w Polsce, University of Ljubljana i Modele Republiki Słowackiej, BSC w Hiszpanii, Naiss i Kblab w Szwecji
LLM zostaną destylowane za pomocą technik budowania modeli NVIDIA Nemotron-w tym wyszukiwanie architektury neuronowej-a także uczenie się wzmocnienia i po szkoleniu za pomocą danych syntetycznych z przekąskimi NVIDIA. Te optymalizacje zmniejszą koszty operacyjne i zwiększą doświadczenia użytkowników poprzez szybsze generowanie tokenów podczas wnioskowania. Obciążenia Nemotron po treningu będą działać na DGX Cloud Lepton prowadzony przez europejskie NCP, w tym Nebius, NScale i Fluidstack.
Deweloperzy będą mogli wdrożyć suwerenne modele jako mikrousługi NVIDIA NIM działające w fabrykach AI-na pomieszczeniach i na platformach dostawców usług w chmurze-wykorzystując nową mikrousługę NIM, która obsługuje ponad 100 000 publicznych, prywatnych i domenowych LLM hostowanych na twarzy.
Dodanie suwerennych wglądów AI w Europie do zakłopotania
Wspierając różnorodność AI dla przedsiębiorstw w całym regionie, zakłopotanie zintegruje suwerenne modele AI z silnikiem odpowiedzi, z którego korzystają europejskie przedsiębiorstwa, wydawcy i organizacje, w tym telekomunikacje i media. Poruszanie wykorzystuje LLM w celu poprawy dokładności zapytań wyszukiwania i wyników AI. Silnik odpowiedzi wyciąga z wiarygodnych źródeł w czasie rzeczywistym, aby dokładnie odpowiadać na pytania z cytatami w linii, przeprowadzać głębokie badania i pełne zadania wspomagające.
„Celem zakłopotania jest udzielenie dokładnych, godnych zaufania odpowiedzi na każde pytanie od każdej osoby, gdziekolwiek się znajdują” – powiedział Aravind Srinivas, współzałożyciel i dyrektor generalny zakłopotania. „Wprowadzenie zoptymalizowanych przez NVIDIA suwerennych modeli AI w celu zakłopotania umożliwia innowacje w Europie z AI zbudowanymi i działającymi w regionie”.
Dostępność
Oczekuje się, że pierwsze modele destylowane z europejskich modelowych budowniczych będą dostępne w tym roku.