Organ Organizacji Narodów Zjednoczonych (ONZ) zatwierdził projekt rezolucji w sprawie negatywnego wpływu systemów broni wykorzystujących sztuczną inteligencję (AI), stwierdzając, że istnieje „pilna potrzeba” podjęcia międzynarodowych działań w celu stawienia czoła wyzwaniom i obawom, jakie się z nimi wiążą.
Systemy takie, zwane inaczej śmiercionośnymi autonomicznymi systemami broni (LAWS), są w stanie wybierać, wykrywać i atakować cele przy niewielkiej lub żadnej interwencji człowieka.
Na początku listopada 2023 r. Pierwszy Komitet ONZ – zajmujący się kwestiami związanymi z rozbrojeniem i bezpieczeństwem międzynarodowym – przeważającą większością głosów zagłosował za rezolucją, uzyskując 164 głosy za; pięciu przeciw; i osiem głosów wstrzymujących się.
Na czele z Austrią, rezolucja zauważyło, że jego sponsorzy „świadomi poważnych wyzwań i obaw związanych z nowymi zastosowaniami technologicznymi”. [represent] w sferze wojskowej” oraz że są „zaniepokojeni możliwymi negatywnymi konsekwencjami… [of LAWS] dotyczące bezpieczeństwa globalnego oraz stabilności regionalnej i międzynarodowej, w tym ryzyka pojawienia się wyścigu zbrojeń, obniżającego próg konfliktu i proliferacji”.
W przyjętym obecnie projekcie rezolucji w szczególności zwraca się do Sekretarza Generalnego ONZ António Guterresa o zapoznanie się z poglądami państw członkowskich na temat PRAWA, a także z ich poglądami na temat „sposobów sprostania powiązanym wyzwaniom i obawom, jakie budzą one ze względów humanitarnych, prawnych, bezpieczeństwa, technologicznych i etycznych”. perspektyw i roli człowieka w użyciu siły”.
Poglądy te powinny znaleźć odzwierciedlenie w „raporcie merytorycznym”, który odzwierciedla pełny zakres przedstawionych perspektyw, tak aby państwa członkowskie mogły wykorzystać go jako punkt dyskusji na następnej sesji Zgromadzenia Ogólnego – głównego organu obradującego i kształtującego politykę ONZ.
W ramach tego gromadzenia opinii Pierwszy Komitet zwraca się również do sekretarza generalnego o zapoznanie się z opiniami różnych organizacji międzynarodowych i regionalnych, grup społeczeństwa obywatelskiego, członków społeczności naukowej i przedstawicieli przemysłu, a także przedstawicieli Międzynarodowy Komitet Czerwonego Krzyża (ICRC), konkretnie.
W rezolucji stwierdza się również, że Pierwszy Komitet włączy sesję dotyczącą PRAWA do swojego porządku obrad na następną sesję, która rozpocznie się w 2024 r. Jako projekt uchwały trafi ona teraz do Zgromadzenia Ogólnego w celu rozpatrzenia i podjęcia działań.
Chociaż rezolucje ONZ stanowią formalny wyraz opinii lub woli organów ONZ, które je utworzyły, i określają, jakie działania zostaną podjęte, jeśli zostaną przyjęte, wiążące są jedynie rezolucje Rady Bezpieczeństwa ONZ, a większość z nich jest wykorzystywana jako instrumenty budowania konsensusu .
5 października 2023 r. Guterres i przewodnicząca MKCK Mirjana Spoljaric wydał wspólne wezwanie wzywając światowych przywódców do rozpoczęcia negocjacji w sprawie nowego prawnie wiążącego instrumentu ustanawiającego jasne zakazy i ograniczenia dotyczące PRAWA oraz do zakończenia tych negocjacji do 2026 r.
„W obecnym krajobrazie bezpieczeństwa wyznaczenie wyraźnych międzynarodowych czerwonych linii przyniesie korzyści wszystkim państwom” – stwierdzili.
W post na blogu w sprawie rezolucji brytyjska Kampania na rzecz Zatrzymania Zabójczych Robotów – część międzynarodowej koalicji organizacji pozarządowych organizujących się na rzecz ograniczenia PRAWA – stwierdziła, że chociaż nie wzywa ona do negocjacji, stanowi „znaczący krok naprzód” w tworzeniu ram prawnych, które zapewnia znaczącą kontrolę człowieka nad siłą.
Chris Cole, dyrektor wykonawczy Drone Wars, organizacji członkowskiej Kampanii, powiedział: „Przyjęcie tej rezolucji jest ważnym krokiem naprzód w kampanii mającej na celu wprowadzenie zakazu stosowania Killer Robots, ponieważ upoważnia Sekretarza Generalnego do zasięgnięcia opinii państw i innych osób w drodze naprzód. Teraz naprawdę ważne jest, abyśmy zadbali o to, aby obawy opinii publicznej dotyczące skutków humanitarnych, etycznych i bezpieczeństwa zostały wysłuchane i przekazane przez rząd brytyjski, a nie tylko głosy osób zainteresowanych rozwojem technologii”.
Stanowiska państw członkowskich
Według Raport ze spotkania ONZ przedstawiający przebieg sesji Pierwszego Komitetuprzeciwko rezolucji głosowały rządy Białorusi, Indii, Mali, Nigru i Rosji, natomiast wstrzymały się od głosu Chiny, Koreańska Republika Ludowo-Demokratyczna, Iran, Izrael, Arabia Saudyjska, Syria, Türkiye i Zjednoczone Emiraty Arabskie.
W tym samym raporcie omówiono także stanowiska różnych państw członkowskich w sprawie rezolucji. Na przykład przedstawiciel Egiptu powiedział, że algorytmy nigdy nie mogą mieć pełnej kontroli nad decyzjami, które wiążą się z zabijaniem lub krzywdzeniem ludzi oraz że przy użyciu śmiercionośnej siły należy przestrzegać zasad ludzkiej odpowiedzialności i odpowiedzialności, niezależnie od rodzaju używanego systemu uzbrojenia .
Dodali, że nawet jeśli algorytm może określić, co jest legalne w świetle międzynarodowego prawa humanitarnego, nigdy nie będzie w stanie określić, co jest etyczne.
Choć Rosja i USA głosowały w różnych kierunkach, przedstawiciele obu krajów podkreślali, że nie opowiadają się za tworzeniem jakichkolwiek równoległych procesów, które podważałyby prace obowiązującej od 1983 r. Konwencji o niektórych broniach konwencjonalnych (CCW) ma na celu zakazanie lub ograniczenie użycia broni uznanej za nadmiernie szkodliwą lub mającą masowe skutki.
Inne kraje – w tym Chiny, Korea Południowa, Afryka Południowa, Australia i Pakistan – podobnie opowiadały się za CCW jako najwłaściwszym forum do rozwiązywania problemów związanych z PRAWEM, chociaż przedstawiciel Egiptu zauważył, że postęp na tym polu jest minimalny i nie ma wymiernych rezultaty nie zostały jeszcze osiągnięte.
Stwierdzili, że dzieje się tak „z powodu ciągłego błędnego przekonania niektórych państw, że można utrzymać absolutną dominację w tych dziedzinach”.
Przedstawiciel Argentyny powiedział, że ich delegacja głosowała za uchwałą, aby nadać tej kwestii większą widoczność i nadać impuls bieżącym dyskusjom, a także podkreśliła znaczenie wysłuchania państw i zainteresowanych stron, które zazwyczaj nie uczestniczą w dyskusjach dotyczących CCW (tak jak miało to miejsce w przypadku przedstawiciele Indonezji i Egiptu).
Podkreślili również, że Argentyna, podobnie jak inne kraje, tak właśnie zrobiła przedłożyła CCW prawnie wiążący instrument co stworzyłoby dodatkowy protokół ustanawiający zakazy i regulacje dotyczące nowych technologii związanych z PRAWEM.
