Bez widoków na zakaz broni autonomicznej

Ten dron nie dostarcza pizzy. Jest załadowany materiałem wybuchowym. Na pokładzie znajdują się kamera i czujniki, napędzają go cztery silniki z wirnikami nośnymi. To tak zwany dron-kamikadze, który potrafi samodzielnie zlokalizować swój cel i runąć na niego. Algorytmy czynią to możliwym. Podczas ataku dron  ulega zniszczeniu, pozostawiając po sobie niewielką kupkę elektrozłomu.

Dron-kamikadze można zobaczyć nie na filmie z rodzaju science-fiction, lecz w spocie reklamowym producenta. Dron-kamikadze można zobaczyć nie na filmie z rodzaju science-fiction, lecz w spocie reklamowym producenta. To właśnie o tego rodzaju broni przedstawiciele około 80 państw rozpoczęli kolejną rundę rozmów w siedzibie ONZ w Genewie. Podstawą negocjacji genewskich jest Konwencja o pewnych rodzajach broni konwencjonalnych (CCW) odnosząca się do kontrowersyjnych systemów broni.

Maszyny, które zabijają ludzi

Chodzi o broń, która może samodzielnie wyszukać, wybrać i zwalczyć swój cel. W przeciwieństwie do broni zdalnie sterowanej, autonomiczne drony przeprowadzają końcową fazę ataku same. Firmy zbrojeniowe wykorzystują do tego najnowsze odkrycia z dziedziny sztucznej inteligencji (AI) i samouczenia maszyn. Krytycy nazywają taką broń robotami-zabójcami; w sali konferencyjnej w Genewie mówi się o „letalnych (śmiercionośnych) systemach broni autonomicznej". To mogą być na przykład drony, czy też zrobotyzowane pojazdy, albo autonomiczne łodzie podwodne.

Używanie tej broni budzi kontrowersje: niektóre państwa wzywają do wprowadzenia ich zakazu, ponieważ ich zdaniem algorytm nigdy nie powinien decydować o życiu i śmierci. Inne proponują wprowadzenie zasad ich stosowania, mniej lub bardziej wiążących. Jednym z podstawowych postulatów jest to, że człowiek musi przez cały czas zachowywać pewien stopień kontroli nad tymi systemami broni.

Rosyjskie weto

Od 2014 roku społeczność międzynarodowa spotyka się dwa razy do roku w Genewie, aby debatować nad tą kontrowersyjną kwestią. Stanowiska są od siebie mocno oddalone. Przede wszystkim USA, Rosja i coraz silniejsze militarnie Chiny bronią się przed zakazem czy też wiążącymi zasadami w tej kwestii, w obawie, że znalazłyby się wówczas w niekorzystnej sytuacji militarno-strategicznej.

Rosyjska wojna napastnicza przeciwko Ukrainie  skomplikowała negocjacje po raz kolejny. Rosja zablokowała ostatnie spotkanie w marcu ubiegłego roku, nie akceptując porządku obrad. – Rosjanom nie podobało się, że nałożono na nich sankcje. Dlatego uniemożliwili nawet rozpoczęcie rozmów – mówi Ousman Noor, który śledzi te negocjacje w imieniu organizacji pozarządowej Campaign to Stop Killer Robots (Kampania na rzecz Powstrzymania Robotów-Zabójców), angażującej się na rzecz zakazu używania tego rodzaju broni. Noor uważa, że jedną z największych przeszkód jest obowiązująca w Genewie zasada konsensusu. – Jeden kraj może swoim wetem wstrzymać cały ten proces – wyjaśnia. Dla zwolenników zakazu jest to zatem najwyższy czas, aby opuścić nieskuteczne forum w Genewie, którego dni chwały już się skończyły.

Zbrodnie spowodowane przez broń autonomiczną

– Rozmowy w Genewie zakończyły się fiaskiem – mówi również Vanessa Vohs, która prowadzi badania nad bronią autonomiczną na Uniwersytecie Bundeswehry w Monachium. Wiele pytań pozostaje bez odpowiedzi: – Kto za to odpowiada, gdy autonomiczne systemy broni popełniają błędy, a być może i zbrodnie wojenne? – pyta. Tak zwana luka odpowiedzialności jest wielkim problemem.

Niewiele wskazuje na to, żeby tak palące kwestie mogłyby zostać w Genewie rozwiązane. Zwłaszcza, że z powodu wojny na Ukrainie zmieniło się nastawienie. Jedni uważają zakaz śmiercionośnej broni autonomicznej za pilniejszy niż kiedykolwiek dotychczas, inni za jeszcze bardziej beznadziejny niż dotąd.

„Bardziej śmiercionośny niż bomba atomowa"

– Istnieją wskazówki, że Rosja  używa w tym konflikcie autonomicznych systemów broni – tłumaczy Ousman Noor z Campaign to Stop Killer Robots. Wśród nich są podobno drony-kamikadze. Ich użycie w wojnie "mogłoby doprowadzić do uświadomienia sobie, że pilnie potrzebujemy regulacji dla tej broni, zanim zostanie sprzedana na cały świat".

Eksperci od sztucznej inteligencji ostrzegają już od jakiegoś czasu, że uzbrojone drony, zwłaszcza małe, można tanio produkować na wielką skalę, a do ich zaprogramowania wystarczy kilku utalentowanych studentów informatyki. – Gdy do obsługi tej broni nie będą już potrzebni ludzie, będzie można ich wysyłać dziesiątki tysięcy, a nawet miliony – ostrzega w rozmowie z DW Stuart Russell, brytyjski badacz sztucznej inteligencji. – W ten sposób tworzymy broń, która potencjalnie będzie bardziej zabójcza niż bomba atomowa – twierdzi.

Więcej pieniędzy na wojsko

Czy istnieje więc nowa dynamika w kwestii zakazu robotów-zabójców? Obecnie można raczej zaobserwować efekt odwrotny: Właśnie z powodu wojny w Ukrainie państwa inwestują więcej pieniędzy w wojsko, najchętniej w nowoczesną broń. Niemcy inwestują w Bundeswehrę dodatkowe 100 mld euro. Także na systemy współpracujące ze sztuczną inteligencją, takie jak bojowe samoloty przyszłości (FCAS). Mają im towarzyszyć roje dronów.

Według obserwatorów na rozmowach w Genewie Niemcy zachowują się raczej niezdecydowanie i wyczekująco. Wydaje się, że niemiecki rząd nie zamierza rezygnować z korzyści militarnych, jakie mogłaby przynieść broń autonomiczna. Nie ma żadnego dokumentu, w którym by określił własne stanowisko w tej sprawie. Niemcy nie są w tym odosobnione, przynajmniej w Genewie. Potępienia śmiercionośnej broni autonomicznej, czy choćby wiążących zasad jej użycia, od tego gremium nikt już nie oczekuje.

Obecnie trwają poszukiwania alternatywy – najlepiej państwa, które stanie na czele tego ruchu i zaprosi inne do negocjacji traktatowych. Za możliwego kandydata jest uważana Holandia. Czas nagli – wraz z postępem technologicznym rosną zagrożenia, ostrzegają tacy eksperci, jak Vanessa Vohs. – Dlatego potrzebujemy nowych zasad, zanim skierujemy się w stronę apokaliptycznego scenariusza, w którym coś naprawdę pójdzie nie tak.