Să fie interziși roboții ucigași

"Suntem de părere că Google nu ar trebui să se implice în afaceri militare" - astfel începe o scrisoare de protest semnată de mii de angajați ai Google la începutul anului. A fost un demers fără precedent: angajații gigantului american i-au cerut șefului companiei, Sundar Pichai, să oprească colaborarea cu Pentagonul la proiectul "Maven". Este vorba de programe bazate pe inteligență artificială (IA), care pot analiza în detaliu imagini video.

De ce se interesează atât de intens armata americană de munca unor producători giganți de softuri precum Google sau Microsoft? Pentru că nu poate crea singură programe de acest tip la un asemenea nivel de calitate, în condițiile în care are însă mare nevoie de ele. Armele dotate cu astfel de algoritmi pot identifica și lovi singure țintele. Războiul viitorului se va purta cu mai puțini soldați și cu multe arme inteligente. Demult sunt folosite deja inovațiile din domeniul inteligenței artificiale în scopuri militare.

Inteligența artificială revoluționează armatele

Iar angajații Google nu își doresc așa ceva - pe bună dreptate. Scrisoarea lor abordează unul din aspectele etice fundamentale ale epocii noastre. Computerele devin tot mai performante, se apropie tot mai mult de modul în care funcționează creierul uman. Ceea ce generează șanse enorme, dar și pericole mari. Marile puteri militare ale lumii așteaptă cu lăcomie să pună mâna pe astfel de algoritmi cu care să-și doteze roboții militari.

Rezultatele sunt rachete, drone și focoase care, odată lansate, nu mai au nevoie de îndrumare umană pentru a-și realiza treaba. Arme capabile să-și urmărească zile și săptămâni în șir ținta, alegându-și momentul optim pentru a o distruge. Niciun soldat nu mai dă la final comanda de atac într-o situație concretă. Astfel de sisteme parțial autonome se folosesc deja.

Este o situație foarte problematică. Niciodată deciziile de viață și de moarte nu au voie să fie delegate unei mașini. Spre deosebire de un soldat, roboții nu pot face diferența între luptători și civili, nu are știință despre dreptul internațional și nu poate acționa din punct de vedere moral. Astfel de arme pot fi foarte ușor abuzate de dictatori pentru a-și anihila criticii nedoriți. Aceste arme nu pot fi controlate prin programe de verificare a înarmării și pot ajunge în mâinile teroriștilor.

Timpul se scurge

Este necesară deci interzicerea imediată a armelor autonome. Este bine că o conferință ONU dezbate în prezent problema la Geneva. Ne temem însă că nu se va încheia cu rezultate concrete. Este nevoie în acest sens de unanimitate, ceea ce nu este de așteptat, atât timp cât participanții se ceartă asupra modurilor de definire a acestor sisteme autonome iar țări ca SUA pun mare preț pe ele. Germania cere o declarație comună neobligatorie, dar este de asemenea o măsură care nu aduce nimic. Timpul pentru reglementarea problemei se scurge iar comunitatea internațională ar face bine să nu îl piardă degeaba.