Zastupnici Europskog parlamenta su nakon nekoliko mjeseci intenzivnih pregovora u četvrtak konačno došli do političkog dogovora o nacrtu zakona o umjetnoj inteligenciji, prve takve legislative na svijetu

Rad na njemu se u Europskom parlamentu trenutno primiče kraju, nakon što su u četvrtak, 27. travnja, eurozastupnici o njemu došli do političkog dogovora.

I dalje moguće manje tehničke izmjene zakonskog prijedloga 

Postojeći tekst mogao bi doživjeti još manje tehničke izmjene prije ključnog glasanja na parlamentarnom odboru 11. svibnja, a zatim će ići na plenarnu sjednicu gdje će svi europarlamentarci o njemu glasati sredinom lipnja.

"Postigli smo sporazum po kojem će sve političke skupine morati podržati kompromisni tekst, bez mogućnosti da na njega ulažu amandmane," rekao je neimenovani dužnosnik Europskog parlamenta za Euractiv.

Do zadnjeg trenutka rasprave zastupnika o pojedinim zakonskim rješenjima 

No, sve do posljednjeg trenutka eurozastupnici su se cjenkali oko nekih najkontroverznijih dijelova samog prijedloga. Kako postupati s umjetnom inteligencijom koja nema specifičnu namjenu, to jest kako tretirati tzv. opću umjetnu inteligenciju, bila je jedna spornih točaka. Parlamentarci su u tom dijelu usvojili ranije prijedloge da se uvedu stroža pravila za tzv. temeljne modele (foundation models), potkategoriju umjetne inteligencije za opću namjenu, u kakve spada i poznati ChatGPT.

Jedina značajna izmjena u tom dijelu tiče se generativnih AI modela, koje treba dizajnirati i razvijati u skladu sa zakonima EU i temeljnim ljudskim pravima, što uključuje i slobodu govora.

Zabranjene prakse

Jedna od politički osjetljiva tema je bio i dogovor o tome koje vrste umjetne inteligencije bi trebalo zabraniti jer se smatra da predstavljaju neprihvatljivu opasnost.

Prije dva tjedna pojavila se ideja da se zabrani korištenje AI alata za praćenje komunikacije ljudi. No, od toga se odustalo nakon što se tomu usprotivila konzervativna Europska pučka stranka (EPP).

Kako bi ishodili odustajanje od takve zabrane, konzervativni zastupnici morali su pristati na proširenje zabrane biometrijskog softvera za identificiranje ljudi. Isprva se ta zabrana odnosila samo na upotrebu takvog softvera u stvarnom vremenu, tako da je bilo dopušteno da se naknadno koristi u slučajevima teških zločina i uz sudski nalog.

Zabrana 'namjerne' manipulacije 

EPP, koja je politički tradicionalno naklonjena policiji i zagovara strože zakone, jedina je grupa koja nije uputila amandmane na prijedlog. Pristali su da neće ići sa svojim prijedlozima o ključnim dijelovima cijelog zakona, no još uvijek postoji mogućnost da pokušaju izmijeniti potpunu zabranu biometrijskog AI.

U zakonu je i zabrana "namjerne" manipulacije. O samoj riječi "namjerno" vodile su se debate, jer se smatra da je teško dokazati namjeru, no na kraju se zadržala takva formulacija, jer se smatralo da bi bilo koja druga zvučala previše općenito.
Nadalje, zabranjuje se softver pogonjen umjetnom inteligencijom korišten za prepoznavanje ljudskih emocija u području policijskog nadzora, kontrole granica, na radnim mjestima i u obrazovanju.

Zabrana tzv. prediktivnog policijskog postupanja također je proširena, i sad se osim na krivična djela odnosi i na administrativne prekršaje. Do toga je došlo nakon skandala s dječjim doplatkom u Nizozemskoj, u kojem su tisuće obitelji pogrešno optužene za prevaru zbog greške u algoritmu.

Visokorizična upotreba umjetne inteligencije

Zakon uvodi i kategorizaciju "visokorizične" upotrebe umjetne inteligencije, u svim slučajevima kad ona predstavlja "značajan rizik" ili štetu za zdravlje ili sigurnost ljudi ili njihova temeljna prava.

Na zahtjev Zelenih, AI koji se koristi za upravljanje ključne infrastrukture, poput energetske mreže ili vodoprivrede, također su uvršteni u visokorizične kategorije, jer se smatra da greške u takvom softveru mogu imati velike posljedice za okoliš. Zastupnici lijevog centra izborili su se da sustavi za preporuku sadržaja korisnicima na velikim online platformama također budu označeni kao visokorizični.

Dodatna zaštita za obradu osjetljivih podataka

Dodatne zaštitne mjere su uvedene za obradu osjetljivih podataka poput seksualne orijentacije ili vjerskih uvjerenja kod visokorizičnih primjena umjetne inteligencije.

Prije sastanka u srijedu, ured izvjestitelja za ovaj zakonski prijedlog poslao je prijedlog za opće principe koji bi se primjenjivali na sve modele umjetne inteligencije. Oni su uvršteni u članak zakona koji ne definira nikakve dodatne obaveze, ali će morati biti uključen u sve tehničke standarde i dokumente koji propisuju smjernice vezane za tu tehnologiju.

Ljudski nadzor umjetne inteligencije

Ti principi zagovaraju ljudski nadzor umjetne inteligencije, tehnički robusnu izvedbu takvih programa, sigurnost njegove primjene, upravljanje privatnošću i podacima korisnika, transparentnost, dobrobit za društvo i okoliš, raznolikost i borbu protiv diskriminacije i slično.

Visokorizični sustavi umjetne inteligencije morat će dokumentirati i arhivirati podatke o svojem utjecaju na okoliš, a temeljni modeli će morati biti usklađeni s europskim standardima o zaštiti okoliša.

(Preveo David Spaić-Kovačić. Originalan članak pročitajte ovdje: MEPs seal the deal on Artificial Intelligence Act)