Dyrektor generalny Microsoft Satya Nadella odpowiedział na kontrowersje wokół fałszywe zdjęcia Taylor Swift o charakterze jednoznacznie seksualnym, stworzone przez sztuczną inteligencję. W wywiadzie z Nocne wiadomości NBC który zostanie wyemitowany w przyszły wtorek, Nadella nazywa rozprzestrzenianie się symulowanych aktów bez zgody „niepokojącymi i strasznymi”, mówiąc dziennikarzowi Lesterowi Holtowi, że „myślę, że powinniśmy działać szybko”.
W transkrypcji rozesłanej przez NBC przed występem 30 stycznia Holt prosi Nadellę, aby zareagowała na to, że w Internecie „eksploduje fałszywymi, podkreślam, fałszywymi zdjęciami Taylor Swift o charakterze jednoznacznie seksualnym”. W odpowiedzi Nadelli udało się otworzyć kilka puszek robaków polityki technologicznej, jednocześnie mówiąc o nich niezwykle niewiele – co nie jest zaskakujące, biorąc pod uwagę brak pewnego rozwiązania.
Powiedziałbym dwie rzeczy: po pierwsze, znowu wracam do tego, co moim zdaniem jest naszą odpowiedzialnością, czyli wszystkich barier, które musimy postawić wokół technologii, aby produkowane były bezpieczniejsze treści. A tam jest wiele do zrobienia i dużo się dzieje. Ale chodzi o globalną, społeczną – no wiesz, powiem, o konwergencję w sprawie pewnych norm. I możemy zrobić – zwłaszcza gdy mamy prawo, organy ścigania i platformy technologiczne, które mogą się połączyć – myślę, że możemy rządzić o wiele więcej, niż nam się wydaje – jesteśmy sobie to winni.
Microsoft może mieć powiązanie ze sfałszowanymi zdjęciami Swifta. A 404 Mediów raport wskazuje, że pochodzą ze społeczności zajmującej się tworzeniem treści pornograficznych za pośrednictwem Telegramu, która zaleca korzystanie z generatora obrazów Microsoft Designer. Projektant teoretycznie odmawia tworzenia wizerunków znanych osób, ale generatory AI już tak łatwo oszukaćI 404 odkryłem, że możesz złamać jego zasady, wprowadzając drobne zmiany w podpowiedziach. Chociaż nie dowodzi to, że do tworzenia obrazów Swifta wykorzystano Designera, jest to rodzaj niedociągnięcia technicznego, z którym Microsoft może się uporać.
Jednak narzędzia AI znacznie uprościły proces tworzenia fałszywych aktów prawdziwych ludzi, powodując zamieszanie dla kobiet, które mają znacznie mniej władzy i sławy niż Swift. A kontrolowanie ich produkcji nie jest tak proste, jak zmuszanie wielkich firm do wzmacniania barierek. Nawet jeśli główne platformy „Big Tech”, takie jak Microsoft, zostaną zamknięte, ludzie będą mogli przeszkolić otwarte narzędzia, takie jak Stable Diffusion, do produkować zdjęcia NSFW pomimo prób utrudnić to. Dostęp do tych generatorów może uzyskać znacznie mniej użytkowników, ale incydent Swift pokazuje, jak szeroko może rozprzestrzeniać się praca małej społeczności.
Istnieją inne opcje tymczasowe – takie jak sieci społecznościowe ograniczające zasięg zdjęć wykonanych bez zgody lub, najwyraźniej, Sprawiedliwość narzucona przez Swiftiego przeciwko osobom, które je rozpowszechniają. (Czy to liczy się jako „zbieżność w zakresie pewnych norm”?) Jednak na razie jedynym jasnym planem Nadelli jest uporządkowanie własnego domu AI Microsoftu.