Zgodnie z nowymi kodeksami postępowania Ofcom firmy zajmujące się mediami społecznościowymi muszą wdrożyć skuteczną kontrolę wieku i „oswoić toksyczne algorytmy” polecające dzieciom szkodliwe treści.
Opublikowany przez Ofcom w dniu 8 kwietnia 2024 r., plik kodeksy bezpieczeństwa dzieci zawierają ponad 40 środków mających pomóc firmom z branży mediów społecznościowych w spełnieniu nowych obowiązków prawnych nałożonych na nie na mocy ustawy o bezpieczeństwie w Internecie (OSA) w celu ochrony osób poniżej 18 roku życia korzystających z ich usług.
Przeszedł w październiku 2023 robowiązki nałożone na platformy cyfrowe przez OSA oznaczają, że muszą one uniemożliwiać dzieciom dostęp do treści szkodliwych lub nieodpowiednich dla ich wieku (takich jak pornografia lub posty promujące samookaleczenie); egzekwować ograniczenia wiekowe i wdrażać środki kontroli wieku; oraz przeprowadzają ocenę ryzyka w zakresie zagrożeń, jakie dla dzieci stwarzają ich usługi.
Zawiera także obowiązek szybkiego usuwania treści nielegalnych lub w pierwszej kolejności zapobiegania ich pojawianiu się.
Zgodnie z tymi kodeksami Ofcom oczekuje, że wszystkie usługi internetowe, do których dzieci mają dostęp (w tym media społecznościowe i wyszukiwarki), będą przeprowadzać solidną kontrolę wieku; skonfigurować swoje algorytmy w celu odfiltrowania najbardziej szkodliwych treści z kanałów tych dzieci; i wdrożyć procesy moderowania treści, które zapewnią szybkie podjęcie działań przeciwko tej treści.
„Zgodnie z nowymi przepisami dotyczącymi bezpieczeństwa w Internecie proponowane przez nas kodeksy zdecydowanie nakładają odpowiedzialność za zapewnienie bezpieczeństwa dzieci na firmy technologiczne. Będą musieli okiełznać agresywne algorytmy, które przekazują dzieciom szkodliwe treści w ich spersonalizowanych kanałach, i wprowadzić kontrolę wieku, aby dzieci mogły korzystać z usług odpowiednich dla ich wieku” – powiedziała Melanie Dawes, dyrektor naczelna Ofcom.
„Nasze środki – które wykraczają daleko poza obecne standardy branżowe – zapewnią skokową zmianę w zakresie bezpieczeństwa dzieci w Internecie w Wielkiej Brytanii. Gdy wejdą w życie, nie zawahamy się wykorzystać naszych pełnych uprawnień wykonawczych, aby pociągnąć platformy do odpowiedzialności. To obietnica, którą dziś składamy dzieciom i rodzicom”.
Projekty kodeksów obejmują również środki zapewniające przestrzeganie przepisów przez firmy technologiczne, w tym poprzez wyznaczenie wyznaczonej osoby starszej odpowiedzialnej za przestrzeganie obowiązków związanych z bezpieczeństwem dzieci; coroczny przegląd przez organ wyższego szczebla wszystkich działań w zakresie zarządzania ryzykiem związanych z bezpieczeństwem dzieci; oraz kodeks postępowania pracowników, który wyznacza standardy dla pracowników w zakresie ochrony dzieci.
Ofcom poinformował, że jeszcze w tym roku rozpocznie dodatkowe konsultacje na temat możliwości zautomatyzowania narzędzi, w tym sztucznej inteligencji (AI). wykorzystywane do proaktywnego wykrywania treści nielegalnych i treści najbardziej szkodliwych dla dzieciw tym niewykryte wcześniej materiały przedstawiające seksualne wykorzystywanie dzieci (CSAM) oraz treści zachęcające do samobójstwa i samookaleczenia.
Obecnie trwają otwarte konsultacje na temat projektów kodeksów. Planuje się sfinalizować projekty w ciągu roku i wprowadzić je w życie trzy miesiące później.
„Rząd wyznaczył Ofcom do wprowadzenia tej ustawy, a dziś organ regulacyjny dał jasno do zrozumienia: platformy muszą wprowadzić rodzaje kontroli wieku, jakich młodzi ludzie doświadczają w prawdziwym świecie, i zająć się algorytmami, które zbyt łatwo oznaczają, że natrafiają na szkodliwe materiały w Internecie” – stwierdził Digital. sekretarka Michelle Donelan. „Po wdrożeniu te środki spowodują zasadniczą zmianę w sposobie, w jaki dzieci w Wielkiej Brytanii korzystają ze świata online”.
Tamsin Allen, partner medialny w kancelarii prawnej Bindmans, powiedziała, że propozycje Ofcom to „pierwszy zachęcający krok, ale dowodem ich zaangażowania będzie chęć nałożenia sankcji na duże technologie za nieprzestrzeganie przepisów. Ustawa daje im nowe uprawnienia do nakładania kar finansowych na firmy w wysokości do 10% światowego obrotu, co stanowi ogromne sumy, które mogą w końcu przebić się przez zbroję wielkich technologii”.
Ciągłe obawy
Jednakże OSA wzbudziła obawy zarówno wśród firm technologicznych, jak i organizacji społeczeństwa obywatelskiego w związku z niektórymi przepisami, które mogłyby naruszyć szyfrowaną komunikację, prywatność i wolność wypowiedzi.
Na przykład działacze na rzecz ochrony prywatności w Open Rights Group (ORG) twierdzą, że wdrożenie systemów zapewniania wieku – w tym dopasowywania dowodów tożsamości ze zdjęciem, szacowania wieku twarzy i usług tożsamości cyfrowej wielokrotnego użytku – w celu ograniczenia dostępu dzieci może w sposób niezamierzony ograniczyć wolność wyrażania opinii jednostek jednocześnie narażając je na zwiększone ryzyko cyberbezpieczeństwa.
„Dorośli staną przed wyborem: albo ograniczyć swoją wolność słowa, nie uzyskując dostępu do treści, albo narazić się na zwiększone ryzyko bezpieczeństwa, które będzie wynikać z naruszeń danych i witryn phishingowych” – powiedział dyrektor wykonawczy Jim Killock.
„Niektórzy zagraniczni dostawcy mogą zamiast przestrzegać tych rygorystycznych środków, blokować dostęp do swoich platform z Wielkiej Brytanii. Obawiamy się również, że systemy moderacji mogą nie udostępniać młodym ludziom materiałów edukacyjnych i pomocnych, zwłaszcza jeśli dotyczą seksualności, tożsamości płciowej, narkotyków i innych drażliwych tematów.
„Te środki będą nadal stwarzać ryzyko dla dzieci. Organy regulacyjne muszą zmienić swoje podejście na takie, które umożliwia dzieciom zrozumienie zagrożeń, jakie mogą na nie narazić, zwłaszcza tam, gdzie młodzi ludzie mogą szukać treści, niezależnie od tego, czy mają one być dla nich dostępne, czy nie”.
Robin Tombs, dyrektor generalny firmy biometrycznej Yoti, argumentował, że choć „nie ma złotego środka, jeśli chodzi o bezpieczeństwo dzieci”, skuteczność technologia sprawdzania wieku będzie odgrywać kluczową rolę w ochronie dzieci przed dostępem do szkodliwych treści w internecie.
„Ważne jest, aby ludzie mieli wybór w zakresie sposobu potwierdzania swojego wieku, aby zapewnić, że sprawdzanie wieku będzie włączające i dostępne dla wszystkich. Na szczęście Ofcom uznał, że szacowanie wieku twarzy, usługi cyfrowej tożsamości wielokrotnego użytku i dopasowywanie dokumentów tożsamości ze zdjęciem to bardzo skuteczne rozwiązania” – powiedział.
O zagrożeniach związanych z szyfrowaniem, jakie stwarzają szyfrowane wiadomości i usługi e-mail, takie jak WhatsApp, Signal i Element wcześniej groził wycofać się z Wielkiej Brytanii, jeśli Ofcom zażąda od nich zainstalowania „akredytowanej technologii”. monitoruj zaszyfrowaną komunikację pod kątem nielegalnych treści.
Wynika to z faktu, że art. 122 ustawy przyznaje Ofcom uprawnienia do wymagania od firm technologicznych instalowania systemów, które ich zdaniem naruszyłyby bezpieczeństwo i prywatność szyfrowanych usług poprzez skanowanie treści każdej wiadomości i e-maila w celu sprawdzenia, czy zawierają one CSAM.
Chociaż nic w projekcie kodeksów nie wspomina o usługach szyfrowanych, Ofcom oświadczył, że pod koniec 2024 r. opublikuje konkretne propozycje dotyczące stosowania „powiadomień technicznych”, aby wymagać od usług, aby w pewnych okolicznościach korzystały z akredytowanych technologii w celu radzenia sobie z określonymi rodzajami nielegalnych treści.
„Oczekujemy, że będzie to obejmować wytyczne dotyczące sposobu wykorzystania tych uprawnień, nasze porady dla rządu dotyczące minimalnych standardów dokładności oraz nasze podejście do akredytacji technologii” – stwierdzono.