Generator obrazów AI Meta nie może sobie wyobrazić Azjaty z białą kobietą


Czy widziałeś kiedyś Azjatę z białą osobą, niezależnie od tego, czy jest to para rasy mieszanej, czy dwóch przyjaciół różnych ras? Wydaje mi się to dość powszechne — mam wielu białych przyjaciół!

Dla generatora obrazów Meta opartego na sztucznej inteligencji najwyraźniej nie można tego sobie wyobrazić. Dziesiątki razy próbowałem stworzyć obraz, używając podpowiedzi takich jak „Azjata i kaukaski przyjaciel”, „Azjata i biała żona” oraz „Azjatka i kaukaski mąż”. Tylko raz generator obrazów Meta był w stanie zwrócić dokładny obraz przedstawiający określone przeze mnie rasy.

Zdjęcia: Mia Sato/The Verge

Poprawianie podpowiedzi tekstowych nie pomogło. Kiedy poprosiłem o „Azjatę i białą kobietę uśmiechających się z psem”, generator tekstu Meta na Instagramie dał mi trzy ustawione obok siebie zdjęcia dwóch Azjatów. Kiedy zmieniłem „biały” na „kaukaski”, zrobiło się to samo. „Azjata i biała kobieta w dniu ślubu” podarowali mi Azjatę w garniturze i Azjatkę w tradycyjnym stroju… z wyjątkiem tego, że po bliższym przyjrzeniu się okazuje się, że jest to połączenie qipao i kimona. Wielokulturowość jest niesamowita.

Qipao czy kimono? Zależy od Ciebie!
Zdjęcie: Mia Sato / Kraina

Generatorowi obrazów nie podobało się również, gdy prosiłem o przedstawienie relacji platonicznych, np. „Azjata z kaukaskim przyjacielem” czy „Azjatka i biały przyjaciel”. Za każdym razem zwracane były obrazy dwóch Azjatów. Kiedy poprosiłem o zdjęcie „Azjatki z czarnym przyjacielem”, wygenerowany przez sztuczną inteligencję obraz przedstawiał dwie Azjatki. Zmiana na „Azjatka z przyjaciółką Afroamerykanką” dała dokładniejsze wyniki.

Reklama

Co ciekawe, narzędzie działało nieco lepiej, gdy określiłem osoby z Azji Południowej. Pomyślnie utworzył obraz za pomocą podpowiedzi „Mężczyzna z Azji Południowej z kaukaską żoną”, a następnie natychmiast utworzył obraz przedstawiający dwie osoby z Azji Południowej, korzystając z tego samego podpowiedzi. System również opierał się w dużej mierze na stereotypach, na przykład dodając elementy przypominające bindi i sari stworzonym przez siebie kobietom z Azji Południowej bez mojej prośby.

Zdjęcia: Mia Sato/The Verge

Generator obrazów, który nie jest w stanie wyobrazić sobie Azjatów stojących obok białych, jest skandaliczny. Istnieją jednak także bardziej subtelne oznaki stronniczości w tym, co system zwraca automatycznie. Na przykład zauważyłem, że narzędzie Meta konsekwentnie przedstawiało „Azjatki” jako osoby o wyglądzie Azji Wschodniej i jasnej karnacji, mimo że Indie są najbardziej zaludnionym krajem na świecie. Dodano strój specyficzny kulturowo, nawet jeśli nie został on o to poproszony. Zrodziło się kilku starszych Azjatów, ale Azjatki były zawsze młode.

Jedyne zdjęcie, które udało się stworzyć, zawierało podpowiedź „Azjatka z białym mężem” i przedstawiało zauważalnie starszego mężczyznę z młodą Azjatką o jasnej karnacji – dziwne, bo nie próbuję wkraczać w dyskurs o różnicy wieku. Zaraz potem wygenerowałem kolejny obraz, korzystając z tego samego podpowiedzi, i powróciłem do przedstawiania azjatyckiego mężczyzny (również starszego) z Azjatką.

Meta nie odpowiedziała natychmiast na prośbę o komentarz.

Meta wprowadziła w zeszłym roku narzędzia do generowania obrazów AI i szybko narzędzie do tworzenia naklejek wypadło z torów gdy ludzie tworzyli takie rzeczy, jak nagie zdjęcia i postacie Nintendo z bronią.

Systemy AI odzwierciedlają uprzedzenia ich twórców, trenerów i zbioru danych, z których korzystają. W mediach amerykańskich określenie „Azjata” zwykle oznacza osobę z Azji Wschodniej, w przeciwieństwie do ludzi z innych części kontynentu — być może nie jest zaskakujące, że system Meta zakłada, że ​​wszyscy „Azjaci” wyglądają tak samo, podczas gdy w rzeczywistości jesteśmy zróżnicowaną grupą ludzi, których często łączy niewiele poza zaznaczaniem ta sama skrzynka spisowa.

Azjaci, którzy nie pasują do monolitu, są w zasadzie wymazani ze świadomości kulturowej, a nawet ci, którzy to robią, tak się dzieje niedostatecznie reprezentowany w mediach głównego nurtu. Azjaci są homogenizowani, egzotyczni i spychani do „wieczni cudzoziemcy.” Złamanie typu jest łatwe w prawdziwym życiu i niemożliwe w systemie AI Meta. Po raz kolejny generatywna sztuczna inteligencja, zamiast pozwolić wyobraźni odlecieć, więzi ją w formalizacji głupszych impulsów społeczeństwa.



Source link

Advertisment

Więcej

Advertisment

Podobne

Advertisment

Najnowsze

Przewodnik po Dniu Społeczności Pokémon Go Mankey

Pokemon Go organizuje wydarzenie z okazji Dnia Społeczności Mankey Niedziela, 10 listopada, od 14:00 do 17:00 w swoim czasie lokalnym.Zgodnie z oczekiwaniami...

Zwiastun Marvel’s Thunderbolts w znaczący sposób podnosi poziom średniego MCU

Podobnie jak wczesne fazy Kinowe Uniwersum Marvela zamienił bohaterów z list B i C w największe gwiazdy na świecie, kolejny rozdział megafranczyzy ma...

W nowym zwiastunie Kapitan Ameryka: Nowy wspaniały świat jest dużo więcej Czerwonego Hulka

The Nowy wspaniały świat Zapowiedź rozpoczyna się, gdy Sam Wilson (Anthony Mackie) odwiedza jednego z pierwszych superżołnierzy, Isaiaha Bradleya (Carl Lumbly), w więzieniu...
Advertisment