Hugging Face przekazuje 10 milionów dolarów na bezpłatne współdzielone procesory graficzne


Hugging Face, jedna z największych nazw w dziedzinie uczenia maszynowego, przeznacza 10 milionów dolarów na bezpłatne współdzielone procesory graficzne, aby pomóc programistom w tworzeniu nowych technologii sztucznej inteligencji. Celem jest pomoc małym programistom, pracownikom naukowym i start-upom w przeciwdziałaniu centralizacji rozwoju sztucznej inteligencji.

„Mamy szczęście, że możemy inwestować w społeczność” – powiedział Clem Delangue, dyrektor generalny Hugging Face Krawędź. Delangue powiedział, że inwestycja jest możliwa, ponieważ Hugging Face jest „rentowny lub bliski rentowności” i to niedawno zebrał 235 milionów dolarów finansowaniai wycenia firmę na 4,5 miliarda dolarów.

Delangue obawia się, czy start-upy AI będą w stanie konkurować z technologicznymi gigantami. Najbardziej znaczące osiągnięcia w dziedzinie sztucznej inteligencji – takie jak GPT-4, algorytmy stojące za wyszukiwarką Google i system w pełni autonomicznej jazdy Tesli – pozostają ukryte w zasięgu największych firm technologicznych. Korporacje te są nie tylko zachęcane finansowo do zachowania własności swoich modeli, ale dysponując miliardami dolarów na zasoby obliczeniowe, mogą zwiększyć te zyski i wyprzedzić konkurencję, uniemożliwiając start-upom dotrzymanie kroku.

„Jeśli w rezultacie zostanie kilka organizacji, które za bardzo dominują, później będzie trudniej z tym walczyć”.

Celem Hugging Face jest udostępnienie najnowocześniejszych technologii AI wszystkim, a nie tylko gigantom technologicznym. Rozmawiałem z Delangue podczas Google I/O, flagowej konferencji giganta technologicznego, podczas której dyrektorzy Google zaprezentowali liczne funkcje sztucznej inteligencji w swoich zastrzeżonych produktach i nawet rodzinę modeli open source zwana Gemmą. Dla Delangue’a podejście autorskie nie jest przyszłością, jaką sobie wyobraża.

„Jeśli pójdziesz drogą otwartego oprogramowania, trafisz do świata, w którym większość firm, większość organizacji, większość organizacji non-profit, decydenci i organy regulacyjne również mogą faktycznie tworzyć sztuczną inteligencję. Zatem jest to znacznie bardziej zdecentralizowany sposób, bez nadmiernej koncentracji władzy, co moim zdaniem oznacza lepszy świat” – powiedział Delangue.

Reklama

Jak to działa

Dostęp do obliczeń stanowi poważne wyzwanie przy konstruowaniu dużych modeli językowych, często faworyzując takie firmy jak OpenAI I Antropiczny, które zabezpieczają umowy z dostawcami usług w chmurze na znaczne zasoby obliczeniowe. Celem Hugging Face jest wyrównanie szans poprzez przekazanie społeczności współdzielonych procesorów graficznych w ramach nowego programu o nazwie ZeroGPU.

Współdzielone procesory graficzne są dostępne jednocześnie dla wielu użytkowników lub aplikacji, co eliminuje potrzebę posiadania przez każdego użytkownika lub aplikację dedykowanego procesora graficznego. Według firmy ZeroGPU będzie dostępne za pośrednictwem Hugging Face’s Spaces, platformy hostingowej do publikowania aplikacji, na której dotychczas utworzono ponad 300 000 wersji demonstracyjnych sztucznej inteligencji na procesorach lub płatnych procesorach graficznych.

„Bardzo trudno jest uzyskać wystarczającą liczbę procesorów graficznych od głównych dostawców rozwiązań chmurowych”

Dostęp do współdzielonych procesorów graficznych zależy od ich wykorzystania, więc jeśli część pojemności procesora graficznego nie jest aktywnie wykorzystywana, pojemność ta staje się dostępna do wykorzystania przez kogoś innego. Dzięki temu są one opłacalne, energooszczędne i idealne do użytku w całej społeczności. Do obsługi tej operacji ZeroGPU wykorzystuje układy graficzne Nvidia A100, które oferują ok połowę szybkości obliczeń popularnych i droższych H100.

„Bardzo trudno jest pozyskać wystarczającą liczbę procesorów graficznych od głównych dostawców usług w chmurze, a sposobem na ich zdobycie – co stwarza wysoką barierę wejścia – jest angażowanie się w bardzo duże liczby procesorów przez długi czas” – powiedział Delangue.

Zazwyczaj firma zobowiązuje się do dostawcy usług w chmurze, takiego jak Amazon Web Services, na rok lub dłużej w celu zabezpieczenia zasobów procesora graficznego. Takie rozwiązanie stawia w niekorzystnej sytuacji małe firmy, niezależnych programistów i naukowców, którzy tworzą na małą skalę i nie są w stanie przewidzieć, czy ich projekty zyskają popularność. Niezależnie od użytkowania, nadal muszą płacić za procesory graficzne.

„Koszmarem przewidywania jest także wiedza o tym, ile procesorów graficznych i jakiego rodzaju budżetu potrzebujesz”, powiedział Delangue.

Sztuczna inteligencja typu open source nadrabia zaległości

Ponieważ sztuczna inteligencja szybko rozwija się za zamkniętymi drzwiami, celem Hugging Face jest umożliwienie ludziom tworzenia większej liczby technologii sztucznej inteligencji na otwartej przestrzeni.

„Jeśli w rezultacie zostanie kilka organizacji, które za bardzo dominują, później będzie trudniej z tym walczyć” – stwierdził Delangue.

Andrew Reed, inżynier uczenia maszynowego w Hugging Face, nawet uruchomił aplikację który wizualizuje postęp zastrzeżonych i otwartych programów LLM w czasie, zgodnie z punktacją Arena chatbotów LMSYSco pokazuje odstęp między nimi, zbliżając się do siebie.

Według firmy, od czasu pierwszej wersji Meta rok temu, w serwisie Hugging Face udostępniono ponad 35 000 odmian modelu sztucznej inteligencji firmy Meta o otwartym kodzie źródłowym Llama, począwszy od „modeli skwantowanych i połączonych po specjalistyczne modele biologiczne i mandaryńskie”.

„Sztuczna inteligencja nie powinna być trzymana w rękach nielicznych. Dzięki temu zaangażowaniu w programistów open source nie możemy się doczekać, co wszyscy przygotują w duchu współpracy i przejrzystości” – powiedział Delangue w komunikacie prasowym.



Source link

Advertisment

Więcej

Advertisment

Podobne

Advertisment

Najnowsze

Kill to brutalny thriller akcji, którego zagorzali nie mogą przegapić tego lata

Miło było widzieć rosnącą popularność kina indyjskiego w Stanach. Dla wielu osób — zwłaszcza tych, które nie są zaznajomione z...

Procesory mobilne AMD Ryzen AI „Strix Point” wprowadzone na rynek w sierpniu

Przedstawiciel producenta minikomputerów AOOSTAR ujawnił, że nadchodząca rodzina procesorów mobilnych AMD Ryzen AI „Strix Point” zostanie wprowadzona na rynek w sierpniu 2024 r.,...

Horror komiksowy Ładny dom nad jeziorem powraca tego lata z nową odsłoną

Od tego czasu minęło prawie półtora roku Komiksy DC opublikował oszałamiający finał Jakub Tynion IV i Alvaro Martineza Bueno Ładny dom...
Advertisment