Przesłuchanie Senatu w sprawie regulacji AI było niebezpiecznie przyjacielskie


Najbardziej niezwykła rzecz o w tym tygodniu posiedzenie Senatu w sprawie sztucznej inteligencji było jak uprzejmy to było. Przedstawiciele branży — przede wszystkim dyrektor generalny OpenAI, Sam Altman — wesoło zgodzili się co do potrzeby uregulowania nowych technologii sztucznej inteligencji, podczas gdy politycy wydawali się zadowoleni z przekazania odpowiedzialności za opracowywanie przepisów samym firmom. jako senator Dick Durbin (D-IL) połóż to w swoim przemówieniu wstępnym: „Nie przypominam sobie, żeby ludzie reprezentujący duże korporacje lub podmioty z sektora prywatnego stanęli przed nami i błagali nas o ich uregulowanie”.

Ten rodzaj zażyłości denerwuje ludzi. Wielu ekspertów i przedstawicieli branży twierdzi, że przesłuchanie sugeruje, że możemy wkroczyć w erę przechwytywania przemysłu przez sztuczną inteligencję. Mówią, że jeśli giganci technologiczni będą mogli pisać zasady rządzące tą technologią, może to spowodować wiele szkód, od zdławienia mniejszych firm po wprowadzenie słabych przepisów.

Przechwytywanie przemysłu może zaszkodzić mniejszym firmom i doprowadzić do słabych przepisów

Wśród ekspertów biorących udział w przesłuchaniu znaleźli się Christina Montgomery z IBM i znany krytyk sztucznej inteligencji Gary Marcus, który również podniósł widmo przechwytywania organów regulacyjnych. (Niebezpieczeństwo, powiedział Marcus, polega na tym, że „sprawiamy wrażenie, jakbyśmy coś robili, ale to bardziej przypomina greenwashing i tak naprawdę nic się nie dzieje, po prostu trzymamy z dala małych graczy”). I chociaż nikt z firmy Microsoft ani Google nie był obecnie nieoficjalnym rzecznikiem branży technologicznej był Altman.

Chociaż OpenAI Altmana nadal jest przez niektórych nazywany „startupem”, jest to prawdopodobnie najbardziej wpływowa firma AI na świecie. Uruchomienie narzędzi do generowania obrazów i tekstu, takich jak ChatGPT i zawiera umowy z Microsoftem przerobić Binga wstrząsnęły całą branżą technologiczną. Sam Altman ma dobrą pozycję: jest w stanie odwołać się zarówno do wyobraźni klasy VC, jak i hardkorowych wzmacniaczy AI z wielkimi obietnicami zbudowania superinteligentnej sztucznej inteligencji i, być może, pewnego dnia, jego własnymi słowami„uchwyć stożek światła o wszelkiej przyszłej wartości we wszechświecie”.

Na rozprawie w tym tygodniu nie był taki imponujący. Altman również wspomniał o problemie przechwytywania regulacyjnego, ale mniej jasno wyrażał się o swoich przemyśleniach na temat licencjonowania mniejszych podmiotów. „Nie chcemy spowalniać mniejszych startupów. Nie chcemy spowalniać wysiłków związanych z otwartym kodem źródłowym” – powiedział, dodając: „Nadal potrzebujemy ich, aby zachować zgodność”.

Reklama

Mówi Sarah Myers West, dyrektor zarządzająca instytutu AI Now Krawędź była podejrzliwa wobec systemu licencjonowania proponowanego przez wielu mówców. „Myślę, że szkoda będzie polegać na tym, że skończymy z jakimś powierzchownym ćwiczeniem typu checkbox, w którym firmy powiedzą„ tak, mamy licencję, wiemy, jakie są szkody i możemy kontynuować działalność jak zwykle ”, ale nie stawiaj czoła żadnej realnej odpowiedzialności, gdy te systemy ulegną awarii” – powiedziała.

„Wymaganie licencji na szkolenie modeli… jeszcze bardziej skupiłoby władzę w rękach nielicznych”

Inni krytycy — szczególnie ci, którzy prowadzą własne firmy AI — podkreślali potencjalne zagrożenie dla konkurencji. „Regulacje niezmiennie faworyzują obecnych operatorów i mogą zdusić innowacje” – powiedział Emad Mostaque, założyciel i dyrektor generalny Stability AI Krawędź. Clem Delangue, dyrektor generalny startupu Hugging Face zajmującego się sztuczną inteligencją, tweetował podobna reakcja: „Wymaganie licencji na szkolenie modeli byłoby jak wymaganie licencji na pisanie kodu. IMO spowodowałoby to dalsze skupienie władzy w rękach nielicznych i drastycznie spowolniłoby postęp, sprawiedliwość i przejrzystość”.

Ale niektórzy eksperci twierdzą, że jakaś forma licencjonowania może być skuteczna. Margaret Mitchell, która została wyrzucona z Google wraz z Timnitem Gebru po tym, jak napisała artykuł badawczy na temat potencjalnych szkód modeli językowych sztucznej inteligencji, opisuje siebie jako „zwolenniczkę pewnego stopnia samoregulacji w połączeniu z regulacją odgórną”. Ona powiedziała Krawędź że dostrzega atrakcyjność certyfikacji, ale być może dla osób fizycznych, a nie dla firm.

„Można sobie wyobrazić, że aby wyszkolić model (powyżej pewnych progów), programista potrzebowałby„ komercyjnej licencji programisty ML ”- powiedział Mitchell, który jest obecnie głównym naukowcem ds. etyki w Hugging Face. „Byłby to prosty sposób na wprowadzenie„ odpowiedzialnej sztucznej inteligencji ”do struktury prawnej”.

Mitchell dodał, że dobra regulacja zależy od ustalenia standardów, których firmy nie mogą łatwo nagiąć na swoją korzyść i że wymaga to szczegółowego zrozumienia ocenianej technologii. Podaje przykład firmy Clearview AI zajmującej się rozpoznawaniem twarzy, która zaprzedała się policji, twierdząc, że jej algorytmy są „w 100 procentach” dokładne. Brzmi to uspokajająco, ale eksperci twierdzą, że firma wykorzystała wypaczone testy wyprodukować te figury. Mitchell dodała, że ​​generalnie nie ufa, że ​​Big Tech działa w interesie publicznym. „Firmy technologiczne [have] raz po raz pokazywali, że nie postrzegają szacunku do ludzi jako elementu prowadzenia firmy” – powiedziała.

Nawet jeśli zostanie wprowadzone licencjonowanie, może to nie mieć natychmiastowego skutku. Podczas przesłuchania przedstawiciele branży często zwracali uwagę na hipotetyczne przyszłe szkody, a przy okazji poświęcali niewielką uwagę znanym problemom, które już umożliwia sztuczna inteligencja.

Na przykład badacze tacy jak Joy Buolamwini wielokrotnie identyfikowali problemy z błędem w rozpoznawaniu twarzy, który pozostaje niedokładne w identyfikowaniu czarnych twarzy i wyprodukował wiele przypadków bezprawnych aresztować w Stanach Zjednoczonych. Mimo to podczas przesłuchania w ogóle nie wspomniano o inwigilacji opartej na sztucznej inteligencji, a o rozpoznawaniu twarzy i jego wadach wspomniano tylko raz.

Liczby branżowe często podkreślają przyszłe szkody związane ze sztuczną inteligencją, aby uniknąć rozmów o bieżących problemach

AI Now’s West twierdzi, że skupienie się na przyszłych szkodach stało się powszechną retoryczną sztuczką wśród postaci z branży AI. Te osoby „umieszczają odpowiedzialność od razu w przyszłości”, powiedziała, ogólnie mówiąc o sztuczności ogólny inteligencja lub AGI: hipotetyczny system sztucznej inteligencji inteligentniejszy niż ludzie w zakresie różnych zadań. Niektórzy eksperci sugerują, że dostajemy bliżej do tworzenia takich systemówale ten wniosek jest mocno kwestionowany.

Ten retoryczny zwód był oczywisty na rozprawie. Omawiając licencje rządowe, Altman z OpenAI po cichu zasugerował, że wszelkie licencje muszą dotyczyć tylko przyszły systemy. „Tam, gdzie myślę, że pojawia się system licencjonowania, nie jest to, do czego te modele są dziś zdolne” powiedział. „Ale kiedy zmierzamy w kierunku sztucznej inteligencji ogólnej… osobiście uważam, że potrzebujemy takiego schematu”.

Eksperci niekorzystnie porównali propozycje Kongresu (i Altmana) do przyszłej unijnej ustawy o AI. Obecny projekt tej ustawy nie zawiera mechanizmów porównywalnych z licencjonowaniem, ale klasyfikuje systemy AI na podstawie ich poziomu ryzyka i nakłada różne wymagania dotyczące zabezpieczeń i ochrony danych. Bardziej godne uwagi jest jednak jego jasne zakazy znanych i obecnych szkodliwych zastosowań sztucznej inteligencjitakie jak predykcyjne algorytmy policyjne i masowa inwigilacja, które zyskały uznanie ekspertów ds. praw cyfrowych.

Jak mówi West: „Tutaj należy skierować rozmowę, jeśli chcemy jakiejkolwiek znaczącej odpowiedzialności w tej branży”.





Source link

Advertisment

Więcej

ZOSTAW ODPOWIEDŹ

Proszę wpisać swój komentarz!
Proszę podać swoje imię tutaj

Advertisment

Podobne

Advertisment

Najnowsze

YMTC twierdzi, że 3D QLC NAND oferuje wytrzymałość porównywalną z 3D TLC NAND

Jak podaje ITHome, firma twierdzi, że chipy flash YMTC X3-6070 3D QLC NAND oferują wytrzymałość porównywalną z chipami flash 3D TLC NAND oferowanych...

Praktyczne: jak korzystać z SharePlay w CarPlay z Apple Music

Jedna z dużych zmian w iOS 17 dla CarPlay użytkowników jest dodanie obsługi SharePlay dla Apple Music. Dzięki tej funkcji każda osoba...

Rozdanie TechPowerUp-Arctic: nie przegap szansy na wygranie kombinacji Coolers+Fan+TIM

Jeśli przegapiłeś, rozdanie TechPowerUp x Arctic trwa od 22 marca. Aż sześciu szczęśliwych zwycięzców może otrzymać kombinacje chłodnic procesora Arctic, wentylatorów obudowych i...
Advertisment