Współzałożyciel Apple’a Steve Wozniak Dołączył Elona Muska i czołowi naukowcy zajmujący się sztuczną inteligencją, wzywając do wstrzymania rozwoju zaawansowanej sztucznej inteligencji. Konkretnie, list otwarty prosi o minimum sześciomiesięczną przerwę w rozwoju systemów AI potężniejszych niż GPT-4…
W liście czytamy, że obecny rozwój sztucznej inteligencji wymyka się spod kontroli i może stanowić „poważne zagrożenie dla społeczeństwa i ludzkości”.
Jak stwierdzono w powszechnie popieranym Zasady sztucznej inteligencji Asilomar, Zaawansowana sztuczna inteligencja może stanowić głęboką zmianę w historii życia na Ziemi i powinna być planowana i zarządzana z odpowiednią troską i zasobami. Niestety, ten poziom planowania i zarządzania nie ma miejsca, mimo że w ostatnich miesiącach laboratoria sztucznej inteligencji utknęły w wymykającym się spod kontroli wyścigu, aby rozwijać i wdrażać coraz potężniejsze cyfrowe umysły, których nikt – nawet ich twórcy – nie jest w stanie zrozumieć, przewidywać lub niezawodnie kontrolować.
Mówi, że systemy sztucznej inteligencji zagrażają wielu miejscom pracy i zadaje wiele pytań.
Powinien pozwolimy maszynom zalać nasze kanały informacyjne propagandą i nieprawdą? Powinien zautomatyzujemy wszystkie zadania, w tym te spełniające? Powinien rozwijamy nieludzkie umysły, które mogą ostatecznie przewyższyć liczebnie, przechytrzyć, zdezaktualizować i zastąpić nas? Powinien ryzykujemy utratę kontroli nad naszą cywilizacją?
Twórca ChatGPT OpenAI sam wcześniej wskazywał, że taka przerwa może być kiedyś potrzebna, a list mówi, że ten dzień nadszedł.
OpenAI niedawne oświadczenie dotyczące sztucznej inteligencji ogólnejstwierdza, że „W pewnym momencie może być ważne uzyskanie niezależnej oceny przed rozpoczęciem szkolenia przyszłych systemów, a w przypadku najbardziej zaawansowanych wysiłków uzgodnienie ograniczenia tempa wzrostu mocy obliczeniowej wykorzystywanej do tworzenia nowych modeli”. Zgadzamy się. Ten punkt jest teraz.
List stara się podkreślić, że jego sygnatariusze nie wzywają do przerwy Wszystko Rozwój sztucznej inteligencji, ale tylko „niebezpieczny wyścig do coraz większych, nieprzewidywalnych modeli czarnej skrzynki z pojawiającymi się możliwościami”.
Inni znani sygnatariusze obejmują długą listę naukowców specjalizujących się w sztucznej inteligencji, a także starszych dyrektorów z firm technologicznych.
Możesz przeczytaj cały list tutaj.
Zdjęcie: Aleksander Viapiano/CC4.0
FTC: Używamy automatycznych linków partnerskich przynoszących dochód. Więcej.
