Czy w czasach, gdy można poprosić sztuczną inteligencję o zmodyfikowanie istniejącego zdjęcia w niemal dowolny sposób, a nawet wygenerowanie całkowicie sztucznego obrazu, możemy jeszcze kiedykolwiek zaufać zdjęciom?
Apple pracuje nad rozwiązaniem tego problemu na dwa sposoby i wielu z nas ma nadzieję, że dołączy również do wyłaniającego się nowego standardu autentyczności treści…
To nie jest nowy problem
To, czy możemy ufać prawdziwości zdjęcia, nie jest oczywiście nowym problemem. Fotograf zawsze mógł wpłynąć na nasz pogląd na rzeczywistość, po prostu wybierając, co uwzględnić w kadrze, a co wykluczyć.
Wybór obiektywu może zniekształcić ten sam widok na różne sposoby, na przykład sprawiając, że rzeczy wyglądają na bliższe lub dalsze. Dostosowanie ekspozycji może sprawić, że rzeczy będą wyglądać na ciemniejsze lub jaśniejsze. Wybór folii lub filtra może mieć wpływ na postrzeganie kolorów. Długi czas naświetlania można wykorzystać do usunięcia wszelkich śladów osób przechodzących przez scenę. I tak dalej.
Potem była ciemnia. Rzeczy takie jak maskowanie, wypalanie i uniki mogą radykalnie zmienić wygląd sceny. Konwencjonalne oprogramowanie do edycji zdjęć po prostu rozszerzyło zakres możliwych do wprowadzenia zmian.
Edycja i tworzenie zdjęć za pomocą sztucznej inteligencji to najnowsze z długiej listy sposobów wykorzystania zdjęć, aby na nas wpłynąć, a nawet oszukać nas.
Ale sztuczna inteligencja sprawia, że jest to większy problem
Wcześniej edycja zdjęć wymagała przynajmniej pewnych umiejętności, więc stworzenie przekonująco zwodniczego obrazu nie było czymś, co każdy mógł zrobić.
Teraz każdy może to zrobić w ciągu kilku sekund. Powyższe fałszywe zdjęcie jest oczywiście celowo niekontrowersyjne, ale równie dobrze mogło przedstawiać kogoś lub coś w bardzo niepochlebnym świetle. Cały proces wgrania zdjęcia referencyjnego do Photoshopa, utworzenia podpowiedzi tekstowej i oczekiwania na wynik trwał około 30 sekund.
Kiedy każdy może to zrobić w ciągu kilku sekund, a wyniki stają się coraz bardziej realistyczne, stwarza to potencjalnie ogromne problemy na przyszłość.
Apple radzi sobie z tym na dwa sposoby
Wraz z (stopniowym) uruchamianiem Apple Intelligence firma może potencjalnie pogorszyć problem, udostępniając narzędzia do tworzenia obrazu AI milionom większej liczby osób. Firma jest jednak bardzo świadoma zagrożeń i podejmuje dwa środki ostrożności.
Pierwszy, Obraz Plac zabaw – co pozwala posiadaczom iPhone’a na tworzenie całkowicie wyimaginowanych obrazów z opisów tekstowych – celowo wyklucza rezultaty fotorealistyczne.
Image Playground obsługuje trzy style: animacja, ilustracja, szkic […] Warto zauważyć, że wszystkie obrazy pokazane w Image Playground są animowane lub w inny sposób nierealistyczne. Najwyraźniej Apple nie chce udostępniać narzędzi do tworzenia realistycznie wyglądających fałszywych zdjęć.
Po drugie, gdy używasz narzędzi AI do manipulowania prawdziwymi zdjęciami, Apple oznacza ten fakt. To było coś, o czym mówił Craig Federighi w jego WSJ wywiad.
Fotografia ma długą historię i to, jak ludzie postrzegają treści fotograficzne jako coś, na czym można polegać, jako wskaźnik rzeczywistości. Nasze produkty i telefony są często używane i ważne jest dla nas, abyśmy pomagali w dostarczaniu dokładnych informacji, a nie fantazji.
Dbamy o to, nawet jeśli usuniesz jakiś szczegół ze zdjęcia [like a water bottle] aktualizujemy metadane zdjęcia, aby ktoś mógł wrócić i sprawdzić, czy było to zmienione zdjęcie.
Inicjatywa na rzecz autentyczności treści
Jak dotąd Apple podąża własną drogą w zakresie aktualizacji metadanych, ale podstawowe podejście jest wspierane przez wiele firm i organizacji informacyjnych za pośrednictwem czegoś znanego jako Inicjatywa na rzecz autentyczności treści (CAI).
Chodzi o to, aby wszelkie kreacje i zmiany AI były odzwierciedlane w metadanych obrazu w standardowy sposób, który można wykryć i oznaczyć.
Poświadczenia treści pomagają rejestrować i wyświetlać najważniejsze szczegóły dotyczące treści na każdym etapie jej cyklu życia.
Tworzenie: Pokaz wspierający Al narzędzia, oprogramowanie, aparaty cyfrowe i inne
urządzenia wykorzystywane do tworzenia treści.Edycja i generacja Al: Można zarejestrować każdą zmianę — przycinanie, dodawanie i usuwanie, modyfikacje Al i nie tylko.
Publikowanie: Konsumenci mogą łatwo uzyskać dostęp do tworzenia danych uwierzytelniających treści.
i edytuj historię.
Do zwolenników CAI należą Adobe, ABC News, Associated Press, BBC, Canon, Leica, Microsoft, Nikon, The New York Times, Nvidia, Qualcomm, Reuters i Wall Street Journal.
Standard ma charakter open source, co oznacza, że każdy może go zastosować, więc ma duże szanse stać się standardem branżowym. Byłoby oczywiście pomocne, gdyby Apple zapewnił zgodność swoich własnych edycji metadanych z tym standardem.
Obraz: Tworzenie sztucznej inteligencji w programie Photoshop na podstawie monitu o zdjęcie i tekst w Vision Pro
FTC: Korzystamy z automatycznych linków partnerskich generujących dochód. Więcej.