EU regulira umjetnu inteligenciju: što smije Veliki brat?

Roboti preuzimaju kontrolu, vode rat protiv čovječanstva, i neki očajni znanstvenik nemoćno gleda kakvog je monstruma stvorio… to je tema mnogih distopijskih filmova. Iako je ovakva stvarnost još daleko, Europska unija je zbog sličnih strahovanja odlučila po prvi put regulirati inteligenciju.

Ovog tjedna je priopćeno kako su se članice EU-a usuglasile o opširnim pravilima za upotrebu umjetne inteligencije (AI). Odluka potiče razvoj AI-a, ali treba osigurati i da korištenje tehnologije bude u skladu s osnovnim ljudskim i drugim pravima.

„Time je EU na dobrom putu da prva na svijetu stvori obavezujući okvir za vjerodostojnu upotrebu umjetne inteligencije", rekao je njemački ministar pravosuđa Marco Buschman iz redova liberala. On ipak smatra da još treba raditi na poboljšanjima, prije svega u jamčenju anonimnosti u javnom prostoru i transparentnosti pri upotrebi umjetne inteligencije.

Pohvale su stigle i od ministra privrede Roberta Habecka (Zeleni) koji smatra da je AI „odlučujuća za konkurentnost EU".

Prije nego što pravila, trenutno zapisana na 125 stranica, postanu obavezujuća, članice EU-a trebaju da pribaviti suglasnost Europskog parlamenta.

Zabranjeno „bodovanje" ljudi

Europska komisija je zakon predložila još prošle godine, s idejom da postavi i globalne standarde i uspostavi povjerenje između korisnika i umjetne inteligencije. Što su veće potencijalne opasnosti od upotrebe umjetne inteligencije, to su viši i standardi koji se traže – i kazne u slučaju kršenja.

Tako su se ministri članica EU-a zaduženi za telekomunikacije složili oko toga da se AI ne smije koristiti za (pr)ocjenjivanje ljudi na temelju njihovog društvenog ponašanja ili karaktera, ako to može voditi negativnim posljedicama. 

Upravo se takav sustav bodovanja građana naveliko koristi u Kini, gdje su ljudi pod stalnom prismotrom i ocjenama algoritama.

EU želi regulirati i standarde kod posebno osjetljivih sustava umjetne inteligencije, recimo onih koji se bave biometrijskim prepoznavanjem, ili opskrbom strujom i vodom. Doduše, od svih tih pravila izuzeta je upotreba umjetne inteligencije u vojne i čisto istraživačke svrhe.

Umjetnom inteligencijom se smatraju sistemi osposobljeni za samostalno učenje. Softveri obično rade s velikim količinama podataka iz kojih izvlače zaključke.

Tehnologija se već naveliko primjenjuje, od testiranja automobila bez vozača pa do platformi poput YouTube-a ili Spotify-ja koje pomoću umjetne inteligencije predlažu korisniku idući video ili pjesmu. Ili chat-botova s kojima mušterije komuniciraju u pokušaju rješavanja nekog problema. 

Kritike s obje strane

Kritičari su vrlo nezadovoljni putem kojim ide EU, tvrdeći da je previše otvorenih pitanja. Recimo, udruga potrošača u EU Beuc priopćila je da je nejasno smiju li i privatne tvrtke koristiti softvere za prepoznavanje lica na javnim mjestima.

I nizozemska zastupnica Zelenih u EU parlamentu Kim van Sparrentak napisala je na Twitteru da su nova pravila „puna rupa".

Borci za privatnost i zaštitu podataka posebno su skeptični zbog težnje sve više država da drže građane pod stalnom prismotrom nebrojenim kamerama i softverima za prepoznavanje lica. Time se, kažu kritičari, od društava stvara „Veliki brat".

Američki trust mozgova Carnegie je još 2019. zaključio da barem 75 od 176 ispitanih država koristi umjetnu inteligenciju na ovaj način.

S druge strane, kako prenosi list Handelsblatt, tvrtke iz oblasti tehnologije i njihove udruge kritiziraju EU jer namjerava pretjerano regulirati oblast i tako, kažu, uguši poduzetnički duh. Digitalna udruga Bitkom je kritizirala da se previše fokusira na rizike, a premalo na dobiti.

Europska privreda strahuje da će ih prestići američka i kineska konkurencija, koje neće ograničavati ovako stroga pravila.

nr (dpa, ard, hb, dw)