Oni znaju sve: Veštačka inteligencija za masovni nadzor

U maju ove godine Kalaf al Romaiti (58) je odleteo iz Turske u Jordan kako bi potražio novu školu za svog sina. No, ovaj disident iz Ujedinjenih Emirata tamo je zatočen – zbog očiju. To jest, zbog biometrijskih podataka koje su odavale njegove oči.

Al Romaiti je putovao s turskim pasošem, ali skeniranje njegovih očnih dužica na aerodromu u Amanu otkrilo je identitet ovog čoveka koji je ranije osuđen na 15 godina zatvora u Emiratima. Presuda je donesena u sklopu masovnog suđenja grupi od 94 kritičara političkog vrha Emirata 2013. godine.

„Zatvoren je u Amanu nakon skeniranja dužice“, potvrdio je Hamad al Šamsi, direktor emiratskog Centra za zastupanje zatvorenika, neprofitne organizacije koja pomaže ljudima u zatvorima.

Al Šamsi kaže da niko sa sigurnošću ne može reći kako su Jordanci došli do Al Romaitijevih biometrijskih podataka. Moguće je da su im informacije dali u Ujedinjenim Emiratima, kaže on.

Ni jordanski, niti emiratski predstavnici u Nemačkoj nisu odgovorili na upit DW.

Al Romaiti je, prema navodima advokata, ilegalno prebačen iz Jordana u Emirate, gde se nalazi u zatvoru.

Zabrinjavajući znaci na Bliskom istoku

Slučaj Al Romaiti zabrinjava kada je reč o tome kako se lični biometrijski podaci koriste na Bliskom istoku, kaže Jana Gorohovskaja iz američke organizacije Fridom haus.

„Vrlo smo zabrinuti zbog sve češćeg korišćenja biometrijske tehnologije u cilju bliže saradnje između represivnih vlada, što smo videli na Bliskom istoku i također u centralnoj Aziji“, rekla je ona za DW.

Biometrijski podaci uključuju sve jedinstvene markere koji identifikuju osobu. To uključuje otiske prstiju, nešto s čime policija radi od kasnog 19. veka. Ili DNK, koji se koristi u kriminalističkim istragama od kasnih osamdesetih.

Međutim danas biometrijski podaci uključuju i otiske dlanova, crte lica, oči, izgled ušnih resica, pa čak i način na koji dišemo ili hodamo.

U budućnosti bi biometrijski podaci mogli uključivati i način na koji kucamo na tastaturi, pokrete kojima potpisujemo svoje ime te prepoznavanje glasa i pokreta.

Opasniji zahvaljujući veštaškoj inteligenciji

Dok korišćenje biometrije može imati dobre strane – recimo lakšu i bržu identifikaciju na pasoškoj kontroli ili korišćenje otiska prsta da se na telefonu pristupi bankovnom računu – stručnjake zabrinjava njena masovna upotreba.

Posebno jer upotrebom mnoštva kamera, naprednih algoritama i veštačke inteligencije sada vlasti raznih zemalja do tančina mogu da rekonstruišu kuda se neko kreće i šta radi. Ili da to čak uživo prate.

Ela Jakubovska, savetnica za politiku u mreži Evropska digitalna prava sa sedištem u Briselu, vodi radnu grupu koja se upravo bavi posledicama prepoznavanja lica. Ona kaže da je razvoj poslednjih godina zabrinjavajuć.

„Recimo broj različitih načina na koje možete identifikovati i pratiti osobu“, kaže ona za DW. „Ptencijal softvera za prepoznavanje obrazaca eksponencijalno se povećao u poslednjih pet ili nešto više godina. Sada možete identifikovati nekoga ne samo na osnovu slike, već možete znati i uzorak njegovih nogu i stopala dok hoda.“

„Ovakav razvoj je snizio prepreke. Brže je i jeftinije nego ikad imati masovnu pohranu podataka i njihovu obradu. Sve to doprinosi potencijalu za prepoznavanje velikog broja ljudi vrlo brzo“, upozorila je ona. „To proširuje potencijal proizvoljnog masovnog nadzora.“

Tematika zaokuplja i srpske borce za zaštitu podataka. Grad Beograd je od kineskog Huaveja pribavio hiljade kamera koje mogu da prepoznaju lica, premda srpsko Ministarstvo spoljnih poslova tvrdi da se softver ne koristi.

Do sada su otpori javnosti sprečavali srpske vlasti da izmene zakon i omoguće biometrijski nadzor, ali kao da je pitanje trenutka kada će on biti uveden.

Trenutno međunarodne stručnjake posebno brine situacija u režimima na Dalekom i Bliskom istoku.

„Široko rasprostranjena upotreba biometrijskih identifikacionih sistema, u kombinaciji sa slabim zakonima o privatnosti i uopšte slabom vladavinom prava i zaštitom ljudskih prava, otvara vrata autoritarnim zloupotrebama koje će alati veštačke inteligencije verovatno pogoršati“, navode autori prošlogodišnje studije u kojoj je proučavana upotreba veštačke inteligencije na Bliskom istoku, a koju je objavio Evropski institut za Mediteran.

Digitalna transformacija u toku

Bogatije zemlje u regionu, poput država Persijskog zaliva, već su oduševljene biometrijskom identifikacijom. Gotovo sve koriste biometrijske podatke na graničnim prelazima.

Nedavna vest iz Dubaija govori da se policija na aerodromu hvali kako je uhvatila prevaranta koji je koristio lažne kreditne kartice dok je bio maskiran – i to tako što je proveravala oblik njegovih ušiju.

U drugom slučaju uhapsili su muškarca koji je nosio dugu žensku haljinu i veo na licu na osnovu načina na koji je hodao i njegovih telesnih mera.

Neke zemlje, uključujući Katar, Saudijsku Arabiju i Emirate, prikupile su biometrijske podatke kao deo registracije državljanstva koji lokalnom stanovništvu omogućuje pristup državnim uslugama. Drugi, poput Iraka i Jemena, su ih prikupljali za registraciju birača.

No sve te informacije mogle bi se koristiti i na drugačiji, zlonamerniji način, tvrde stručnjaci.

„Svaka vlada mogla bi sakupiti bazu biometrijskih podataka svoje celokupne populacije i dopustiti da se to koristi sa nadzornim kamerama po celom gradu“, kaže Jakubovska.

„Onda imate živu sliku najintimnijih delova života ljudi. Možete videti ko se sastao s novinarom, ko je otišao u gej-bar, ko se sprijateljio s političkim protivnikom ili disidentom – a to može biti vrlo opasno“, dodaje ona.

Može li zloupotreba biti zaustavljena?

„Postoji velika ideja da je obrada biometrijskih podataka korisna i ima prednosti“, kaže Jakubovska. „Ali zapravo su ovi podaci toliko osetljivi, Oni nisu kao lozinka koja se ne može poništiti. Oni vas identifikuju ceo život.“

Evropska unija trenutno vodi raspravu o zakonu koji će verovatno biti prvi zakon o veštačkoj inteligenciji na svetu. Pravila o tome kako bi se biometrijski podaci koristili verojvtno će biti jedna od najspornijih tema.

„Veoma me brine što, ako EU kaže da postoje legitimni slučajevi korišćenja te tehnologije, time ćemo to legitimizovati za druge zemlje“, kaže Jakubovska, koja bi volela da EU zauzme oštriji stav. Kaže, ima u EU mnogo glasova koji misle da je bilo kakav biometrijski nadzor neprihvatljiv.

Njujorški institut AI Now traži potpunu zabranu takozvane daljinske biometrijske identifikacije. Da neko sam skenira svoj palac na ulazu u zemlju ili da bi otključao telefon – to je još u redu, ali da izdaleka putem kamera bude praćen – to treba zabraniti.

„Ništa osim zabrane nema smisla“, kaže Amba Kek, direktorka instituta. Ona u razgovoru za DW tvrdi da zakoni o privatnosti ili blaža pravila neće pomoći – sve dok vlasti imaju mogućnost biometrijskog nadzora na daljinu.

„I to ne važi samo za Blisku istok, već i za Sjedinjene Države i Evropu. Nisu zapadne liberalne demokratije našle magično rešenje za ove sisteme, iako je u autoritarnim režimima vidljivija distopija i ono što može poći po zlu“, dodaje Kak.

Pratite nas i na Fejsbuku, preko Tvitera, na Jutjubu, kao i na našem nalogu na Instagramu.