Laboratoria badawcze firmy Meta zajmujące się sztuczną inteligencją stworzyły nowego, najnowocześniejszego chatbota i pozwalają członkom społeczeństwa rozmawiać z systemem w celu zebrania opinii na temat jego możliwości.
Bot nazywa się BlenderBot 3 i mogą być dostępne w Internecie. (Chociaż w tej chwili wydaje się, że tylko mieszkańcy USA mogą to zrobić.) BlenderBot 3 jest w stanie prowadzić ogólne pogawędki, mówi Meta, ale także odpowiadać na pytania, które można zadać cyfrowemu asystentowi, „od mówienia o zdrowym przepisy kulinarne, aby znaleźć w mieście udogodnienia przyjazne dzieciom”.
Bot jest prototypem i zbudowany na Meta’s Poprzednia praca z tak zwanymi modelami dużych języków lub LLMS — potężnym, ale wadliwym oprogramowaniem do generowania tekstu, którego najbardziej znanym przykładem jest GPT-3 OpenAI. Podobnie jak wszystkie LLM, BlenderBot jest początkowo szkolony na ogromnych zestawach danych tekstowych, które przeszukuje w poszukiwaniu wzorców statystycznych w celu wygenerowania języka. Takie systemy okazały się niezwykle elastyczne i znalazły wiele zastosowań, od: generowanie kodu dla programistów do pomaganie autorom w napisaniu kolejnego bestsellera. Jednak te modele mają również poważne wady: są zwracać błędy w swoich danych treningowych i często wymyślać odpowiedzi na pytania użytkowników (duży problem, jeśli będą przydatne jako asystenci cyfrowi).
Ten ostatni problem jest czymś, co Meta chce przetestować za pomocą BlenderBota. Dużą cechą chatbota jest to, że potrafi przeszukiwać internet w celu rozmowy na określone tematy. Co ważniejsze, użytkownicy mogą następnie kliknąć jego odpowiedzi, aby zobaczyć, skąd pochodzą informacje. Innymi słowy, BlenderBot 3 może cytować swoje źródła.
Udostępniając chatbota ogółowi społeczeństwa, Meta chce zebrać opinie na temat różnych problemów, z jakimi borykają się duże modele językowe. Użytkownicy, którzy rozmawiają z BlenderBotem, będą mogli oznaczyć wszelkie podejrzane odpowiedzi z systemu, a Meta mówi, że ciężko pracowało, aby „zminimalizować użycie przez boty wulgarnego języka, obelg i kulturowo niewrażliwych komentarzy”. Użytkownicy będą musieli wyrazić zgodę na gromadzenie swoich danych, a jeśli tak, ich rozmowy i opinie będą przechowywane, a następnie publikowane przez Meta do wykorzystania przez ogólną społeczność badawczą AI.
„Zobowiązujemy się do publicznego publikowania wszystkich danych, które zbieramy w wersji demonstracyjnej w nadziei, że możemy ulepszyć konwersacyjną sztuczną inteligencję”, powiedział Kurt Shuster, inżynier ds. Badań w Meta, który pomógł stworzyć BlenderBot 3 Pogranicze.
Publiczne udostępnienie prototypowych chatbotów AI było w przeszłości ryzykownym posunięciem dla firm technologicznych. W 2016 r. Microsoft wypuścił na Twitterze chatbota o nazwie Tay, który wyciągnął wnioski z interakcji z opinią publiczną. Nieco przewidywalnie, użytkownicy Twittera wkrótce nauczyli Tay’a, aby zwracał szereg wypowiedzi rasistowskie, antysemickie i mizoginistyczne. W odpowiedzi Microsoft wyłączył bota niecałe 24 godziny później.
Meta twierdzi, że świat sztucznej inteligencji bardzo się zmienił od czasu awarii Tay i że BlenderBot ma różnego rodzaju barierki bezpieczeństwa, które powinny powstrzymać Meta przed powtarzaniem błędów Microsoftu.
Co najważniejsze, mówi Mary Williamson, kierownik ds. inżynierii badawczej w Facebook AI Research (FAIR), podczas gdy Tay został zaprojektowany do uczenia się w czasie rzeczywistym z interakcji użytkowników, BlenderBot jest modelem statycznym. Oznacza to, że jest w stanie zapamiętać, co użytkownicy mówią w rozmowie (i zachowa te informacje za pomocą plików cookie przeglądarki, jeśli użytkownik wyjdzie z programu i wróci później), ale dane te będą wykorzystywane tylko do dalszego ulepszania systemu.
„To tylko moja osobista opinia, ale to [Tay] odcinek jest stosunkowo niefortunny, ponieważ stworzył tę zimę chatbotów, w której każda instytucja bała się wystawiać publiczne chatboty do badań” – mówi Williamson. Pogranicze.
Williamson mówi, że większość używanych obecnie chatbotów jest wąska i zorientowana na zadania. Pomyśl na przykład o botach obsługi klienta, które często po prostu prezentują użytkownikom wstępnie zaprogramowane drzewo dialogowe, zawężając zapytanie, zanim przekażą je ludzkiemu agentowi, który faktycznie może wykonać zadanie. Prawdziwą nagrodą jest zbudowanie systemu, który może prowadzić rozmowy tak samo swobodne i naturalne jak człowiek, a Meta mówi, że jedynym sposobem na osiągnięcie tego jest umożliwienie botom prowadzenia swobodnych i naturalnych rozmów.
„Ten brak tolerancji dla botów mówiących nieprzydatne rzeczy, w szerokim tego słowa znaczeniu, jest niefortunny” – mówi Williamson. „A to, co staramy się zrobić, to opublikować to bardzo odpowiedzialnie i popchnąć badania do przodu”.
Oprócz umieszczenia BlenderBot 3 w sieci, Meta jest również publikowanie bazowego kodu, treningowego zbioru danych i mniejszych wariantów modelu. Badacze mogą poprosić o dostęp do największego modelu, który ma 175 miliardów parametrów, przez formularz tutaj.