Lordowie są podzieleni w opiniach na temat podejścia rządu Wielkiej Brytanii do broni autonomicznej – niektórzy opowiadają się za znacznie większym stopniem ostrożności, a inni wzywają do mniejszej powściągliwości, aby wyprzedzić przeciwników.
Na początku grudnia 2023 r. a Komisja Lordów nalegał, aby rząd Wielkiej Brytanii „postępował ostrożnie” podczas rozmieszczania autonomicznych systemów uzbrojenia (AWS) i innych zdolności wojskowych opartych na sztucznej inteligencji (AI), po stwierdzeniu, że obietnica rządu dotycząca podejścia do wojskowej sztucznej inteligencji w „ambitny, bezpieczny i odpowiedzialny” sposób nie przystało do rzeczywistości.
Kluczowe zalecenia Komitetu ds. Sztucznej Inteligencji w Systemach Uzbrojenia obejmowały zapewnienie przez rząd kontroli człowieka na wszystkich etapach cyklu życia AWS; przyjęcie operacyjnej, niezależnej od technologii definicji AWS, aby można było podejmować znaczące decyzje polityczne; oraz odpowiednie projektowanie procesów zamówień dla świata napędzanego sztuczną inteligencją, aby zapewnić odpowiednią odpowiedzialność. Zaleciła także całkowity zakaz stosowania sztucznej inteligencji w dowodzeniu i kontroli nuklearnej.
W odpowiedzi na ustalenia tej komisji pod koniec marca 2024 rrząd upierał się, że już działa odpowiedzialnie i z należytą ostrożnością oraz że Ministerstwo Obrony (MON) priorytetem sztucznej inteligencji jest maksymalizacja potencjału wojskowego w obliczu potencjalnych przeciwników, którzy, jak twierdziła, „jest mało prawdopodobne, aby byli tak odpowiedzialni”.
Rząd dodał, że chociaż z zadowoleniem przyjmuje „dogłębną i skłaniającą do myślenia analizę”, ogólny komunikat komisji, że należy postępować ostrożnie, już „odzwierciedla podejście Ministerstwa Obrony do przyjęcia sztucznej inteligencji”.
Podczas debata w związku z ustaleniami komisji i odpowiedzią rządu z dnia 19 kwietnia 2024 r. Lords wyrazili sprzeczne opinie na temat podejścia Wielkiej Brytanii do broni autonomicznej. Podczas gdy niektórzy krytykowali rząd za niechęć do nakładania ograniczeń na korzystanie z AWS, inni twierdzili, że nadmierna ostrożność zahamowałaby postęp i postawiłaby Wielką Brytanię w tyle za jej geopolitycznymi przeciwnikami.
Rząd utrzymuje jednak, że użycie broni autonomicznej jest już regulowane międzynarodowym prawem humanitarnym (MPH), zatem nie ma potrzeby ustalania definicji operacyjnej ani przywiązywania się do jakichkolwiek międzynarodowych instrumentów prawnych kontrolujących jej użycie.
Rozporządzenie „prezentem dla naszych przeciwników”
Uszczegóławiając stanowisko rządu podczas debaty Lordów, minister stanu ds. obrony hrabia Minto stwierdził, że ustalenie definicji operacyjnej AWS lub utworzenie nowych międzynarodowych instrumentów kontroli ich wykorzystania przyniesie korzyści wyłącznie wrogom Wielkiej Brytanii.
„Systemy te podlegają już międzynarodowemu prawu humanitarnemu, więc niestety ich zdefiniowanie nie wzmocni ich zgodnego z prawem stosowania. Rzeczywiście można przewidzieć, że w negocjacjach międzynarodowych ci, którzy umyślnie lekceważą międzynarodowe prawo i normy, mogą użyć definicji, aby ograniczyć możliwości i legalne badania odpowiedzialnych narodów” – stwierdził.
„Z tego też powodu po szczerym i głębokim rozważeniu nie popieramy wezwania komisji do szybkiego porozumienia w sprawie skutecznego międzynarodowego instrumentu w sprawie śmiercionośnych autonomicznych systemów uzbrojenia – byłby to prezent dla naszych przeciwników”.
Minto dodało, że zamiast polegać na definicji lub dokumencie, kluczowym zabezpieczeniem wojskowej sztucznej inteligencji jest zapewnienie zaangażowania człowieka przez cały cykl życia danego systemu. W związku z tym wyjaśnił również, że rząd nie ma zamiaru ani tworzyć w pełni autonomicznej broni, ani przekazywać sztucznej inteligencji „kontroli politycznej” nad zdolnościami nuklearnymi Wielkiej Brytanii.
„Brytyjskie Ministerstwo Obrony zawsze będzie miało odpowiednie do kontekstu zaangażowanie ludzi, a zatem znaczącą ludzką kontrolę, odpowiedzialność i rozliczalność” – powiedział. „Wiemy jednak, że inne kraje nie podjęły podobnych zobowiązań i mogą starać się wykorzystywać te nowe technologie w sposób nieodpowiedzialny”.
W związku z tym dodał dalej, że Wielka Brytania będzie taka praca z sojusznikami ustanowienie standardów odpowiedzialnej wojskowej sztucznej inteligencji – która, jego zdaniem, będzie oparta na MPH – jednocześnie pracując nad identyfikacją i przypisaniem niebezpiecznych zastosowań tej technologii do celów wojskowych, aby pomóc pociągnąć „nieodpowiedzialne strony do odpowiedzialności”.
Pomimo braku poparcia rządu dla definicji lub instrumentu prawnego, Minto stwierdziło, że Wielka Brytania będzie w dalszym ciągu angażować się w międzynarodowe dialogi na temat regulacji dotyczących broni autonomicznej, w szczególności w ramach grupy ekspertów rządowych Organizacji Narodów Zjednoczonych (ONZ) pracującej w ramach Konwencji w sprawie niektórych broni konwencjonalnych.
Panowie reagują
Podczas debaty Lords wyraził mieszane opinie na temat stanowiska rządu i jego odpowiedzi skierowanej do komisji.
Na przykład przewodniczący komisji Lord Lisvane powiedział, że cel rządu, jakim jest stworzenie „ambitnej, bezpiecznej i odpowiedzialnej” wojskowej sztucznej inteligencji, należy teraz przełożyć na praktyczne wdrożenie, i szczególnie krytycznie wyraził się o decyzji o nieprzyjmowaniu operacyjnej definicji AWS.
„Słyszę, co mówi rząd, ale nie jestem przekonany. Wierzę, że możliwe jest stworzenie definicji przyszłościowej” – powiedział. „Pomogłoby to Wielkiej Brytanii w prowadzeniu znaczącej polityki w zakresie broni autonomicznej i pełnym zaangażowaniu się w dyskusje na forach międzynarodowych. Dzięki temu staliśmy się bardziej skutecznym i wpływowym graczem.”
Powiedział także, że rząd powinien świecić przykładem w międzynarodowych dyskusjach na temat regulacji AWS, zauważając, że niezależnie od tego, czy ich efektem będzie prawnie wiążący traktat, czy też bardziej nieformalne środki wyjaśniające, w jaki sposób należy stosować MPH, porozumienie w sprawie „skutecznego instrumentu międzynarodowego musi być wysoki priorytet”.
Lisvane dodał, że chociaż rząd przyjął szereg zaleceń komisji – w tym dotyczących znaczenia odpowiedzialności parlamentarnej, kontroli człowieka nad dowództwem nuklearnym oraz poprawy praktyk Ministerstwa Obrony w zakresie zamówień w zakresie oprogramowania i danych – jego odpowiedź zawiera niewiele lub żadnych szczegółów na temat sposobu, w jaki te punkty zostanie osiągnięty.
„Ogólnie rzecz biorąc, reakcja rządu na nasz raport była „konstruktywna”. Mam nadzieję, że nie zabrzmi to zbyt niechętnie” – powiedział. „Wyraźnie uznali rolę odpowiedzialnej sztucznej inteligencji w naszych przyszłych zdolnościach obronnych, muszą jednak uwzględnić zasady etyczne i prawne na wszystkich etapach projektowania, rozwoju i wdrażania. Technologię należy wykorzystywać, gdy jest to korzystne, ale nie kosztem, którego nie można zaakceptować dla zasad moralnych Wielkiej Brytanii”.
Lord Clement-Jones, który zasiadał w komisji po nawoływaniu do jego utworzenia, podobnie dodał, że pomimo niemal globalnego konsensusu w sprawie konieczności uregulowania AWS, rząd Wielkiej Brytanii nie zatwierdził jeszcze oficjalnie żadnych ograniczeń w jego stosowaniu poza szeregiem niejasne zobowiązania dotyczące nadzoru ludzkiego i czerwonych granic etycznych.
Podkreślanie wykorzystanie systemów sztucznej inteligencji do wyznaczania celów w Gaziea także korzystanie z autonomiczne drony w Libii, Syrii i na Ukrainie Clement-Jones stwierdził, że pokazuje to pilną potrzebę uregulowania AWS, co, jego zdaniem, powinno zaczynać się od przynajmniej roboczej definicji.
„Niespójność w tym, jak definiujemy i rozumiemy AWS, ma znaczące konsekwencje dla rozwoju i zarządzania tymi technologiami. Komisja wykazała jednak, że możliwa jest robocza definicja rozróżniająca systemy w pełni i częściowo autonomiczne. Rząd wyraźnie nadal stawia temu opór, jak pokazała jego reakcja”.
Lord Browne, który również zasiadał w komisji, stwierdził, że wyjaśnienia rządu dotyczące tego, dlaczego definicja AWS jest niepotrzebna, „są wyraźnie niewystarczające”, i dodał: „Jak możemy aktywnie starać się zaangażować w politykę w zakresie regulacji AWS, skoro nie możemy znaleźć nawet tymczasowych słów za pomocą czego to zdefiniować? To jakby próbować uszyć garnitur dla mężczyzny, którego wymiary owiane są tajemnicą i którego samo istnienie jest jedynie plotką”.
Dodał, że chociaż jest to złożony temat, „złożoność nie powinna być schronieniem, ale naganą” w dobrym kształtowaniu polityki. „Zadaniem rządów niezależnie od orientacji politycznej jest umiejętność sformułowania swojego podejścia i poddania go testowaniu przez ekspertów i głosy odrębne”.
Jednak inni Lordowie byli mniej krytyczni wobec stanowiska rządu i zamiast tego argumentowali, że potrzebna jest zarówno mniejsza ostrożność, jak i negatywne nastawienie do potencjalnych konsekwencji wojskowej sztucznej inteligencji.
Lord Houghton, który zasiadał w komisji, ale podkreślił, że podczas debaty wypowiadał się we własnym imieniu, powiedział na przykład, że choć wymogi jakichkolwiek przepisów „będą niewątpliwie ograniczać nas w sposób, który wyraźnie nie będzie niepokoił wielu naszych potencjalnych wrogów”, strategiczne korzyści, jakie można uzyskać z AWS, są tak wielkie, że „bylibyśmy szaleni, gdybyśmy nie zaczęli szukać sposobów jego wykorzystania”.
Wezwał także rząd do zapewnienia, że „nie pozwoli, aby nadmierna ostrożność hamowała postęp” i skupił się na negatywnym nastawieniu wyrażanym w trakcie dochodzenia komisji w stosunku do zagrożeń związanych z wojskową sztuczną inteligencją, w szczególności AWS.
„negatywne nastawienie nie dotyczyło członków komisji, ale raczej wielu naszych biegłych, z których część była technicznymi podżegaczami zagłady, podczas gdy inni zdawali się zarabiać na życie, przekształcając ostatecznie praktyczny problem zarządzania polem bitwy w etyczne wyzwanie Gordyjska złożoność” – powiedział.
Mówiąc o AI w kontekście marynarki wojennejLord Stevens argumentował, że systemy obsługujące sztuczną inteligencję będą potrzebne jako skuteczne środki mnożące siłę oraz że należy zachować ostrożność, aby regulacje dotyczące AWS nie były zbyt restrykcyjne.
„Parlament popełniłby błąd kategoryczny, gdybyśmy próbowali uregulować sztuczną inteligencję jako odrębną kategorię systemu uzbrojenia, podczas gdy w rzeczywistości jest to spektrum szybko rozwijających się technologii ogólnego przeznaczenia” – stwierdził.
„Systemy sztucznej inteligencji wyraźnie oferują ogromne potencjalne korzyści w środowisku morskim. Parlament może i powinien pomóc naszemu narodowi wykorzystać je… Sygnał, który powinniśmy wysłać do Królewskiej Marynarki Wojennej, powinien brzmieć: kontynuować działania szybko”.
Lord Hamilton podobnie zauważył, że Wielka Brytania znajdzie się w „poważnej niekorzystnej sytuacji, jeśli nasi wrogowie z entuzjazmem przyjmą sztuczną inteligencję, a my tego nie zrobimy”.
Dodał, że „niezwykle ważne” dla brytyjskich sił zbrojnych jest przyjęcie sztucznej inteligencji, aby można było ją wykorzystać do „ratowania życia naszych żołnierzy i zwiększania naszych szans na wygrywanie wojen”.