Musimy przestać ignorować problem halucynacji AI


Google I/O wprowadziło asystenta AI, który widzi i słyszy świat, natomiast OpenAI udostępniło swoją wersję a Jej-jak chatbot w iPhonie. W przyszłym tygodniu Microsoft będzie gospodarzem Build, gdzie z pewnością będzie dostępna wersja Copilot lub Cortana obsługująca tabele przestawne. Następnie, kilka tygodni później, Apple zorganizuje własną konferencję dla programistów i jeśli będzie już coś słychać, będzie mowa także o sztucznej inteligencji. (Nie jest jasne, czy zostanie wspomniana Siri.)

AI jest tutaj! To już nie jest konceptualne. Polega na odbieraniu miejsc pracy, tworzeniu kilku nowych i pomaganiu milionom uczniów w unikaniu odrabiania zadań domowych. Zdaniem większości największych firm technologicznych inwestujących w sztuczną inteligencję, my wydają się być na początku doświadczania jednej z tych rzadkich monumentalnych zmian technologicznych. Pomyśl o rewolucji przemysłowej lub stworzeniu Internetu lub komputera osobistego. Cała Dolina Krzemowa – Big Tech – koncentruje się na pobieraniu dużych modeli językowych i innych form sztucznej inteligencji i przenoszeniu ich z laptopów badaczy do telefonów i komputerów przeciętnych ludzi. Idealnie, zarobią przy tym dużo pieniędzy.

Ale nie bardzo mnie to obchodzi, bo Meta AI myśli, że mam brodę.

Chcę wyrazić się jasno: jestem kobietą cis i nie mam brody. Ale jeśli wpiszę „pokaż mi zdjęcie Alexa Cranza” w oknie zachęty, Meta AI nieuchronnie zwróci obrazy bardzo ładnych ciemnowłosych mężczyzn z brodami. Jestem tylko niektórymi z tych rzeczy!

Meta AI nie jest jedyną, która boryka się z najdrobniejszymi szczegółami Krawędźmaszt. ChatGPT powiedział mi wczoraj, że nie pracuję Krawędź. Gemini z Google nie wiedziały, kim jestem (w porządku), ale po tym, jak mi powiedziały, Nilay Patel był założycielem Krawędź, następnie przeprosił i poprawił się, twierdząc, że tak nie jest. (Zapewniam cię, że był.)

Sztuczna inteligencja ciągle coś psuje, bo te komputery są głupie. Niezwykli w swoich zdolnościach i zdumiewający w swej tępoty. Nie mogę się ekscytować kolejnym zwrotem w rewolucji sztucznej inteligencji, ponieważ jest to moment, w którym komputery nie są w stanie konsekwentnie utrzymywać dokładności nawet w drobnych kwestiach.

Reklama

Mam na myśli, że nawet schrzanili podczas ważnego przemówienia Google dotyczącego AI na I/O. W reklamie nowej wyszukiwarki Google wyposażonej w sztuczną inteligencję ktoś zapytał, jak naprawić zacięty aparat na kliszę, i zasugerował, aby „otworzyli tylne drzwiczki i delikatnie wyjęli kliszę”. To najłatwiejszy sposób zniszczenia wszelkich zdjęć, które już zrobiłeś.

Niektóre z tych sugestii są dobre! Niektóre wymagają BARDZO CIEMNEGO POKOJU.
Zrzut ekranu: Google

Trudny związek sztucznej inteligencji z prawdą nazywa się „halucynacją”. W niezwykle prostych słowach: maszyny te są świetne w odkrywaniu wzorców informacji, ale próbując ekstrapolować i tworzyć, czasami się mylą. Skutecznie „halucynują” nową rzeczywistość, a ta nowa rzeczywistość często jest błędna. To trudny problem i zdaje sobie z tego sprawę każda osoba pracująca obecnie nad sztuczną inteligencją.

Jeden z byłych badaczy Google stwierdził, że problem można rozwiązać w ciągu przyszłego roku (choć ubolewał nad tym wynikiem) i Microsoft ma dla części swoich użytkowników narzędzie, które ma pomóc w ich wykryciu. Szefowa działu wyszukiwania Google, Liz Reid, powiedział Krawędź jest również świadomy wyzwania. „W każdym modelu językowym istnieje równowaga pomiędzy kreatywnością a faktami”, powiedziała mojemu koledze Davidowi Pierce’owi. „Naprawdę zamierzamy przechylić to w stronę faktów”.

Ale zwróć uwagę, jak Reid powiedział, że istnieje równowaga? Dzieje się tak dlatego, że wielu badaczy sztucznej inteligencji tak naprawdę nie myśli o halucynacjach może być rozwiązany. Badanie przeprowadzone na Narodowym Uniwersytecie w Singapurze zasugerował, że halucynacje są nieuniknionym skutkiem wszystkich dużych modeli językowych. Tak jak nikt nie ma przez cały czas 100% racji, tak i te komputery nie mają racji.

I prawdopodobnie dlatego większość głównych graczy w tej dziedzinie – tych dysponujących prawdziwymi zasobami i zachętą finansową, aby przekonać nas wszystkich do korzystania ze sztucznej inteligencji – uważa, że ​​nie należy się tym martwić. Podczas przemówienia Google dotyczącego IO dodał małą szarą czcionką frazę „sprawdź odpowiedzi pod kątem dokładności” na ekranie poniżej prawie każdego nowego narzędzia AI, które pokazało – pomocne przypomnienie, że jego narzędziom nie można ufać, ale też tak nie jest Nie sądzę, żeby to był problem. ChatGPT działa podobnie. Drobną czcionką tuż pod oknem zachęty widnieje informacja: „ChatGPT może popełniać błędy. Sprawdź ważne informacje.”

Jeśli zmrużysz oczy, zobaczysz maleńkie i ukośne odsłonięcie.
Zrzut ekranu: Google

To nie jest zastrzeżenie, które chciałbyś zobaczyć w stosunku do narzędzi, które w najbliższej przyszłości mają zmienić całe nasze życie! A ludzie tworzący te narzędzia nie wydają się zbytnio przejmować rozwiązaniem problemu poza drobnym ostrzeżeniem.

Sam Altman, dyrektor generalny OpenAI który został na krótko usunięty za przedkładanie zysku nad bezpieczeństwo, poszedł o krok dalej i stwierdził, że każdy, kto ma problem z dokładnością sztucznej inteligencji, jest naiwny. „Jeśli postąpisz naiwnie i powiesz: «Nigdy nie mów niczego, czego nie jesteś w 100% pewien», możesz przekonać ich wszystkich, aby tak zrobili. Ale nie będzie w nim tej magii, którą ludzie tak bardzo lubią” – powiedział tłumom na zeszłorocznej konferencji Salesforce Dreamforce.

Pomysł, że sztuczna inteligencja ma w sobie niewymierną magię, która pozwoli nam wybaczyć jej wątły związek z rzeczywistością, jest często podnoszony przez ludzi, którzy chcą rozwiać wątpliwości dotyczące dokładności. Google, OpenAI, Microsoft i wielu innych twórców i badaczy sztucznej inteligencji odrzuciło halucynacje jako niewielką irytację, którą należy wybaczyć, ponieważ są na dobrej drodze do stworzenia cyfrowych istot, które mogą ułatwić nam życie.

Ale przepraszam Sama i wszystkich innych, którzy otrzymali zachęty finansowe, aby wzbudzić we mnie ekscytację sztuczną inteligencją. Nie przychodzę do komputerów po niedokładną magię ludzkiej świadomości. Przychodzę do nich, ponieważ są bardzo dokładni, podczas gdy ludzie nie są. Nie potrzebuję komputera, żeby był moim przyjacielem; Potrzebuję go, aby określić płeć, kiedy o to poproszę, i aby uniknąć przypadkowego odsłonięcia filmu podczas naprawy zepsutego aparatu. Zakładam, że prawnicy chcieliby, aby orzecznictwo było prawidłowe.

I zrozumieć skąd pochodzą Sam Altman i inni ewangeliści AI. W odległej przyszłości istnieje możliwość stworzenia prawdziwej cyfrowej świadomości z jedynek i zer. Obecnie rozwój sztucznej inteligencji postępuje w zdumiewającym tempie, które zawstydza wiele poprzednich rewolucji technologicznych. W Dolinie Krzemowej działa teraz prawdziwa magia.

Ale sztuczna inteligencja myśli, że mam brodę. Nie jest w stanie konsekwentnie rozwiązywać najprostszych zadań, a mimo to narzuca się nam oczekiwanie, że będziemy celebrować niesamowitą przeciętność usług świadczonych przez te AI. Chociaż z pewnością mogę się zachwycać zachodzącymi innowacjami technologicznymi, chciałbym, aby moje komputery nie poświęcały dokładności tylko po to, aby móc porozmawiać z cyfrowym awatarem. To nie jest uczciwa wymiana – jest po prostu interesująca.



Source link

Advertisment

Więcej

Advertisment

Podobne

Advertisment

Najnowsze

Knowledge24: „Nie możesz iść w życiu sam” – mówi aktorka Viola Davis

Podczas konferencji użytkowników ServiceNow Knowledge24 w Vegas aktorka, autorka i producentka Viola Davis powiedziała: „Nie zaczynałam od skoku, ale raczej od serii zataczania...

Kobiety w danych: CDO BAE Systems wyjaśnia, dlaczego różnorodność danych ma znaczenie

Praca z dzikimi gorylami i gibonami ratowniczymi nie jest tradycyjną drogą do kariery w branży danych i technologii. Ale dla Johanny Hutchinson...

Jak oglądać serial komediowy Próbowanie na Apple TV+

Dzisiaj, AppleTV+ Premiera czwartego sezonu brytyjskiego oryginalnego serialu komediowego Próbować, z udziałem Rafe’a Spalla i Esther Smith. Pierwsze dwa odcinki nowego sezonu...
Advertisment