Rząd Wielkiej Brytanii podpisał pierwszą na świecie „prawnie wiążącą” umowę traktat w sprawie sztucznej inteligencji (AI) i praw człowieka, która zobowiązuje państwa do wdrożenia zabezpieczeń przed różnymi zagrożeniami, jakie niesie ze sobą ta technologia.
Traktat, który opracowała Rada Europy – międzynarodowa organizacja powołana w 1949 r. w celu ochrony praw człowieka na całym kontynencie – został podpisany przez Andorę, Gruzję, Islandię, Norwegię, Republikę Mołdawii i San Marino, a także Izrael, Stany Zjednoczone i Unię Europejską (UE).
Oficjalnie nazwany Konwencja ramowa o sztucznej inteligencji i prawach człowieka, demokracji i praworządnościTraktat określa szereg zasad, których państwa muszą przestrzegać przez cały cykl życia systemu sztucznej inteligencji, w tym: prywatność i ochronę danych, przejrzystość i nadzór, równość i niedyskryminację, bezpieczną innowację oraz godność człowieka.
Aby zagwarantować ochronę tych zasad, traktat nakłada na państwa obowiązek wdrożenia środków mających na celu ocenę i łagodzenie wszelkich potencjalnie negatywnych skutków sztucznej inteligencji, a także zapewnienia skutecznych środków zaradczych w przypadku, gdy w wyniku jej działania wystąpią naruszenia praw człowieka.
„Sztuczna inteligencja ma potencjał, aby radykalnie poprawić szybkość reakcji i skuteczność usług publicznych oraz przyspieszyć wzrost gospodarczy” – powiedział Lord Kanclerz i Sekretarz Sprawiedliwości Shabana Mahmood.
„Nie możemy jednak pozwolić, aby AI nas kształtowała – musimy kształtować AI. Ta konwencja jest ważnym krokiem w kierunku zapewnienia, że te nowe technologie mogą być wykorzystywane bez erozji naszych najstarszych wartości, takich jak prawa człowieka i praworządność”.
Sekretarz stanu ds. nauki, innowacji i technologii, Peter Kyle, dodał, że traktat będzie kluczowy dla wykorzystania potencjału sztucznej inteligencji w pobudzaniu wzrostu gospodarczego i przekształcaniu usług publicznych: „Po wejściu w życie jeszcze bardziej wzmocni ochronę praw człowieka, praworządności i demokracji – wzmacniając nasze krajowe podejście do technologii, a jednocześnie promując globalną sprawę bezpiecznej, chronionej i odpowiedzialnej sztucznej inteligencji”.
Chociaż umowa dotyczy całego wykorzystania sztucznej inteligencji w sektorze publicznym – w tym sytuacji, gdy w ich imieniu działają firmy prywatne – sam tekst nie obejmuje wprost wykorzystania tej technologii w sektorze prywatnymi pozostawia poszczególnym stanom decyzję o zakresie, w jakim przedsiębiorstwa muszą przestrzegać określonych wymagań i obowiązków.
Tekst zawiera również wyraźne wyłączenie dla interesów bezpieczeństwa narodowego. „Strona nie będzie zobowiązana do stosowania niniejszej Konwencji do działań w ramach cyklu życia systemów sztucznej inteligencji związanych z ochroną jej interesów bezpieczeństwa narodowego, przy założeniu, że takie działania są prowadzone w sposób zgodny z obowiązującym prawem międzynarodowym” – czytamy w tekście.
Chociaż państwo członkowskie może zakazać konkretnych przypadków użycia sztucznej inteligencji, jeśli uzna je za niezgodne z prawami człowieka, tekst nie zawiera szczegółów dotyczących sankcji za nieprzestrzeganie przepisów przez rząd.
Brak ścisłego egzekwowania
Na przykład prawnicy z Bird&Bird, znakomity istnieje jedynie niejasny mechanizm zgodności w formie raportowania działań podejmowanych w celu spełnienia wymogów traktatu, „ale nie ma ścisłych kryteriów egzekwowania, więc skuteczność i wpływ Konwencji o AI mogą być ograniczone”.
Zawiera jednak mechanizmy rozstrzygania sporów dla rządów, które nie zgadzają się co do interpretacji lub stosowania ram, i pozwala państwom na „wypowiedzenie” konwencji (czyli rezygnację z niej), jeśli powiadomią o tym sekretarza generalnego Rady Europy.
Nick Reiners, starszy analityk ds. geotechnologii w Eurasia Group, powiedział Gzero Media że charakter traktatu opt-in oznacza, że nie jest on szczególnie prawnie wiążący, pomimo tego, jak jest rozliczany przez sygnatariuszy. Dodał, że wyjątek dotyczący bezpieczeństwa narodowego osłabia również jego uciążliwość, zauważając na przykład, że nie wpłynie to na sposób, w jaki Izrael wdrażanie sztucznej inteligencji w Strefie Gazy w celu wybierania i atakowania celów.
Dodał, że UE podpisze ją w celu „umiędzynarodowienia Ustawa o sztucznej inteligencji”, aby firmy i rządy spoza kontynentu dostosowały się do jego priorytetów w zakresie technologii.
Traktat wejdzie w życie trzy miesiące po ratyfikacji przez co najmniej pięć państw sygnatariuszy, w tym co najmniej trzy państwa członkowskie Rady Europy. Po tym terminie rządy z całego świata będą mogły do niego przystąpić.