Ministrowie spraw zagranicznych państw na całym świecie wzywają do wielostronnych działań w celu ochrony ludzkości przed rosnącym zagrożeniem ze strony autonomicznych systemów uzbrojenia (AWS), które są w stanie wybierać, wykrywać i atakować cele przy niewielkiej interwencji człowieka lub bez niej.
W listopadzie 2023 r. kraje należące do Pierwszego Komitetu Organizacji Narodów Zjednoczonych (ONZ) – który zajmuje się kwestiami związanymi z rozbrojeniem i bezpieczeństwem międzynarodowym – większością głosów za przyjęciem uchwały podkreślając „pilną potrzebę” międzynarodowych działań w celu kontrolowania wykorzystania AWS na całym świecie.
Następnie ponad 900 przedstawicieli ze 140 krajów zebrało się w dniu 29 kwietnia 2024 r. na wiedeńskiej konferencji w sprawie systemów broni autonomicznej, aby dokładniej omówić problemy moralne, etyczne, prawne i humanitarne związane z bronią napędzaną sztuczną inteligencją (AI).
W przemówieniu pierwszego dnia trzydniowego wydarzenia ministrowie spraw zagranicznych z całego świata dyskutowali o znaczeniu stworzenia nowych prawnie wiążących instrumentów w celu kontroli i ograniczania wykorzystania AWS na arenie międzynarodowej.
Zauważając, że zdecydowana większość państw nie chce w pełni autonomiczną broń istnieć i już wzywają do wprowadzenia kontroli prawnych dalszego rozwoju i wdrażania autonomicznych technologii broni, ministrowie podkreślili potrzebę wielostronnego podejścia do zarządzania AWS.
Ostrzegli jednak również, że brak woli politycznej ze strony kluczowych graczy stanowi główną utrzymującą się przeszkodę w postępie, ponieważ ich siła i wpływy utrudniają bez nich podjęcie konkretnych wielostronnych działań.
Szczegóły dyskusji
Opisując AWS jako „moment Oppenheimera naszego pokolenia”, austriacki federalny minister spraw europejskich i międzynarodowych Alexander Schallenberg stwierdził, że ich rozwój rodzi „kwestie głęboko etyczne” i „zasadniczo polityczne”. Powtórzył stanowisko swojego rządu, że powinien obowiązywać całkowity zakaz w pełni autonomicznych wersji broni, które mogą działać bez udziału człowieka.
„Wszyscy wiemy, że jakakolwiek liczba ofiar śmiertelnych w wyniku konfliktu to o jedną ofiarę za dużo, ale przynajmniej upewnijmy się, że najgłębsza i dalekosiężna decyzja – kto przeżyje, a kto umrze – pozostanie w rękach ludzi, a nie maszyny” – powiedział.
Podkreślanie Komunikat berliński podpisana przez 33 kraje Ameryki Łacińskiej i Karaibów w lutym 2023 r., minister spraw zagranicznych Kostaryki Arnoldo André Tinoco dodał, że skuteczne regulacje dotyczące AWS mają „ogromne znaczenie” dla jego kraju i regionu.
Odnotowując sukces poprzednich międzynarodowych wysiłków mających na celu zajęcie się zagrożeniami stwarzanymi przez broń nuklearną, amunicję kasetową i broń biologiczną, Tinoco stwierdziła, że „królewska większość” państw pragnie obecnie dialogu i współpracy w celu osiągnięcia prawnie wiążącego instrumentu dotyczącego AWS oraz że „rosnąca większość zaczyna konsolidować się w masę krytyczną państw oddanych temu wspólnemu celowi”.
Komentując potrzebę zrównoważenia przez państwa rozbrojenia AWS ze swoimi potrzebami bezpieczeństwa, norweski sekretarz stanu do spraw zagranicznych Eivind Vad Petersson powiedział, że nieprzestrzeganie międzynarodowego prawa humanitarnego (MPH) podczas stosowania broni autonomicznej ostatecznie podważy skuteczność operacji wojskowych „przykro mi to mówić, ale byliśmy świadkami rozegrania się w Gazie”.
Dodał, że chociaż MPH nie jest „pustym pokojem” i można je już zastosować do wykorzystania AWS podczas konfliktu, potrzebny jest nowy wiążący instrument międzynarodowy, aby dokładnie wyjaśnić, w jaki sposób ma ono zastosowanie do użycia broni napędzanej sztuczną inteligencją, a także kolejny wiążący instrument całkowicie zakazujący używania broni działającej w sposób całkowicie niezależny i pozostający poza jakąkolwiek kontrolą człowieka.
Mirjana Spoljaric Egger, przewodnicząca Międzynarodowego Komitetu Czerwonego Krzyża (MKCK), który pełni funkcję organu nadzorującego globalny konflikt, zgodziła się, że chociaż wszystkie państwa mają już zobowiązania wynikające z Konwencji Genewskiej, aby zapewnić legalność korzystania z AWS, MPH nie jest statyczne i zawsze dostosowywał się do nowych technologii i możliwości w działaniach wojennych.
„Jeśli chodzi o MKCK, potrzebujemy ram zawierających wyraźne zakazy” – stwierdziła. „Zakazy autonomicznych systemów broni wycelowanych w ludzi oraz zakazy autonomicznych systemów broni, które są nieprzewidywalne… [and] które automatycznie i niezależnie od ludzkiej kontroli wybierają cele, określając moment i przedmiot ataku.”
Na przykład, podkreślając szereg traktatów przyjętych w ostatnich dziesięcioleciach w sprawie użycia min i broni chemicznej, Spoljaric Egger dodał, że traktaty te ratują życie, mimo że niektóre państwa nigdy ich nie ratyfikowały, co oznacza, że ważne jest, aby nie „ zniechęcany” przez odmowę poparcia przez niektóre kraje nowych instrumentów międzynarodowych.
Multilateralizm zagrożony?
Główną obawą omawianą przez ministrów spraw zagranicznych i inne osoby pierwszego dnia konferencji wiedeńskiej jest niechęć niektórych kluczowych graczy do współpracy w kwestii AWS.
Komentując prace Konwencji ONZ o niektórych broniach konwencjonalnych (CCW), która ma na celu zakazanie lub ograniczenie użycia broni uważanej za nadmiernie szkodliwą lub mającą masowe skutki i która jest głównym międzynarodowym forum, na którym omawiane są regulacje AWS – Jaan Tallinn, współzałożyciel Centrum Badań nad Ryzykiem Egzystencjalnym na Uniwersytecie w Cambridge, powiedział, że jest teraz jasne, że organ ten jest „całkowicie sparaliżowany” ze względu na model oparty na konsensusie, który wymaga pełnej zgody każdej delegacji.
Chociaż wielu mówców podkreślało rolę „Rosji i innych” w podważaniu procesu konsensusu CCW poprzez faktyczne prawo weta każdego obecnego kraju, tylko niewielka mniejszość państw kiedykolwiek sprzeciwiała się wiążącym protokołom w sprawie AWS, co obejmuje również Wielką Brytanię, USA i Izrael.
Anthony Aguirre, dyrektor wykonawczy The Future of Life Institute, dodał: „Myślę, że musimy przyznać, że proces w CCW to ślepy zaułek”. Zauważył, że model „czystego konsensusu” oznacza, że niektóre kraje „będą blokować wszelkie znaczące środki dotyczące broni autonomicznej”.
Zarówno Aguirre, jak i Tallinn stwierdziły, że chociaż ruch w kierunku wiążących środków w ramach CCW jest wysoce nieprawdopodobny, nic nie stoi na przeszkodzie, aby państwa już teraz opracowały własne środki zaradcze przeciwko AWS.
„Traktat ograniczający broń autonomiczną w żaden sposób nie uniemożliwiałby krajom rozwijania obrony przed nią” – powiedział Aguirre, dodając, że wszelkie wprowadzone dobrowolne środki – choć często wprowadzane w dobrych intencjach – prawdopodobnie nie przyczynią się również do ograniczenia proliferacji z AWS-a. „Krótko mówiąc, myślę, że potrzebujemy nowego traktatu i traktat ten należy negocjować na forum Zgromadzenia Ogólnego ONZ”.
Odnotowując, że niektóre kraje niechętnie przyjmują robocze definicje AWS – w tym Wielka Brytania, gdzie zrobił to rząd argumentował definicja byłaby „prezentem dla naszych przeciwników” – Aguirre stwierdził, że jest to wymówka do bezczynności, zauważając, że inne traktaty, takie jak ten o broni biologicznej, nie zawierają precyzyjnych definicji.
Dodał, że jasne jest, że większość świata opowiada się za prawnie wiążącymi przepisami, które uniemożliwiają użycie systemów broni mogących wybierać i namierzać ludzi, zatem wszelkie twierdzenie, że nie wiadomo, jakie regulacje będą ograniczające, jest tylko kolejną wymówką.
Izumi Nakamitsu, wysoki przedstawiciel ONZ ds. rozbrojenia, zgodził się, że „dobrowolne środki nie wystarczą”, aby zapewnić kontrola człowieka nad AWS i decyzja o użyciu siłyzauważając, że wszelkie instrumenty prawne muszą zakazywać pełnej autonomii w zakresie broni i regulować wszystkie inne aspekty AWS, od protokołów wyboru celów po czas trwania danego rozmieszczenia.
Nakamitsu dodał, że głównymi przeszkodami w postępie w zakresie AWS jest brak woli politycznej ze strony głównych potęg wojskowych, aby nawiązać współpracę w tej kwestii z innymi; środowisko geopolityczne, w którym te główne mocarstwa nie mają wzajemnego zaufania do prowadzonych rozmów wielostronnych; oraz brak konsensusu co do definicji i terminologii związanej z różnymi aspektami AWS.
Timothy Musa Kabba, minister spraw zagranicznych i współpracy międzynarodowej Sierra Leone, powiedział, że aby multilateralizm mógł zadziałać we współczesnym świecie, istnieje pilna potrzeba zreformowania Rady Bezpieczeństwa ONZ, w której dominują interesy jej pięciu stałych członków (Chiny, Francja, Rosja, Wielka Brytania i USA).
„Myślę, że wraz z pojawieniem się nowej rzeczywistości, od zmiany klimatu po autonomiczne systemy uzbrojenia, musimy jeszcze raz przyjrzeć się multilateralizmowi” – powiedział, zauważając, że wszelkie nowe lub zreformowane instytucje będą musiały mieć charakter włączający, demokratyczny i elastyczny.
Dodał, że biorąc pod uwagę dziedzictwo europejskiego kolonializmu i technologii w Afryce – od pojawienia się statków parowych, które umożliwiły transatlantycki handel niewolnikami, po przełomy w energii atomowej, które uczyniły „afrykańskie brzegi wysypiskiem odpadów nuklearnych” – istnieją poważne obawy, że negatywny wpływ sztucznej inteligencji i AWS na kontynent.
„Jesteśmy bardzo zaniepokojeni… ponieważ sztuczną inteligencję należy wykorzystywać do rozwoju naukowego, rozwoju społeczno-politycznego, ale można ją wykorzystać do niszczenia” – powiedział.
Musa Kabba stwierdził, że obecność prawie każdego narodu na świecie na dyskusjach w Wiedniu była znaczącym kamieniem milowym, i dodał: „Nie można przecenić konieczności opracowania przez nas prawnie wiążących instrumentów regulacyjnych”.