Akt o umjetnoj inteligenciji, kojeg je u srijedu na olenarnoj sjednici u Strasbourgu usvojio Europski parlament, prvi je takav zakon u svijetu, a u Parlamentu kažu kako se njime ne ograničavaju ljudska prava i slobode

Kako su priopćili iz Europskog parlamenta, Akt o umjetnoj inteligenciji na plenarnoj sjednici u Strasbourgu podržala su 523 eurozastupnika, dok ih je 46 bilo protiv te 49 suzdržanih.

Zakon na snagu stupa 2026.

Akt o umjetnoj inteligenciji na snagu bi trebao stupiti 2026. godine.

U Europskom parlamentu objašnjavaju kako propis još trebaju pregledati jezikoslovci, a treba ga usvojiti i Vijeće EU. Na snagu bi trebao stupiti 20 dana nakon objave u Službenom listu Unije.

Sama primjena bi trebala krenuti 24 mjeseca nakon stupanja na snagu.

Postoje i izuzeci od pravila

Izuzetak od tog pravila su odredbe o zabranjenoj primjeni umjetne inteligencije, koji bi trebale zaživjeti šest mjeseci nakon stupanja propisa na snagu, zatim kodeks prakse, koji bi trebao krenuti devet mjeseci od stupanja zakona na snagu, i pravila za umjetnu inteligenciju opće namjene, koja bi trebala zaživjeti u roku od 12 mjeseci.

I za primjenu obveza za visokorizične sustave predviđen je nešto drukčiji tajming. Te bi obveze, naime, na snagu trebale stupiti 36 mjeseci od stupanja zakona na snagu.

Žele zaštititi demokraciju i ljudska prava

"Cilj je zaštititi ljudska prava, demokraciju, vladavinu prava i okolišnu održivost od visokorizične umjetne inteligencije, a istodobno poticati inovacije i osigurati Europi ulogu predvodnika u tom području“, poručili su iz Europskog parlamenta.

Istakli su kako su pravila za umjetnu inteligenciju utvrđena na temelju njenih potencijalnih rizika i razine učinaka.

Tako se, među ostalim, zabranjuje primjena umjetne inteligencije u segmentima u kojima ona može ugroziti prava građana. Riječ je, primjerice, o sustavima za biometrijsku kategorizaciju temeljenim na osjetljivim karakteristikama i neciljanom prikupljanju prikaza lica s interneta ili iz nadzornih snimki radi stvaranja baza podataka za prepoznavanje.

Zabrana prepoznavanja emocija na radnom mjestu i u školama

Zabranjuje se i prepoznavanje emocija na radnom mjestu i u školama, zatim društveno vrednovanje građana, prognostički rad policije kada se temelji isključivo na izradi profila pojedinaca ili procjeni njihovih osobina, kao i umjetna inteligencija koja utječe na ljudsko ponašanje ili iskorištava ranjivost pojedinaca, ističu u Europskom parlamentu.

U načelu je zabranjena i uporaba sustava za daljinsku biometrijsku identifikaciju u svrhu kaznenog progona, osim u okolnostima koje su precizno navedene i definirane. Naime, daljinska biometrijska identifikacija može se koristiti u stvarnom vremenu samo ako su ispunjeni strogi zahtjevi, poput vremenskog i geografskog ograničenja i sudskog ili upravnog dopuštenja.

"Neki od primjera takvih okolnosti su ciljana potraga za nestalom osobom ili sprečavanje terorističkog napada. Naknadna uporaba sustava za daljinsku biometrijsku identifikaciju smatra se visokorizičnom uporabom i za nju je potrebno sudsko dopuštenje povezano s kaznenim djelom“, objašnjava se u priopćenju Europskog parlamenta.

Posebne obveze za visokorizične sustave

Zakonom se predviđaju i posebne obveze za druge visokorizične sustave za koje su eurozastupnici procijenili da imaju velik potencijal ugrožavanja zdravlja, sigurnosti, temeljnih prava, okoliša, demokracije i vladavine prava.

Naime, umjetna inteligencija upotrebljava se, među ostalim, i za ključnu infrastrukturu, obrazovanje, zapošljavanje, pružanje zdravstvenih i bankarskih usluga, kao i za sustave u okviru kaznenog progona, upravljanja migracijama i granicama te u pravosuđu i na izborima.

"Za takve sustave treba osigurati procjenu i ublažavanje rizika, vođenje evidencije uporabe, transparentnost i preciznost te ljudski nadzor. Građani će imati pravo podnijeti tužbu povezanu s umjetnom inteligencijom te dobiti objašnjenja odluka temeljenih na visokorizičnim sustavima umjetne inteligencije koji utječu na njihova prava“, naglašavaju u Europskom parlamentu.

Sustavi umjetne inteligencije i inače moraju zadovoljavati određene kriterije transparentnosti, što uključuje i poštivanje autorskih prava te objavljivanje detaljnih sažetaka sadržaja koji se koristi za obuku, ističu u Europskom parlamentu.

"Snažniji sustavi umjetne inteligencije opće namjene koji bi mogli predstavljati sistemske rizike podlijegat će dodatnim zahtjevima koji uključuju ocjenjivanje modela, procjene i ublažavanja tih rizika te prijavljivanje incidenata. Uz to, umjetno stvoreni ili manipulativni audio sadržaji, fotografije i video sadržaji (deepfakes) moraju biti jasno označeni kao takvi“, poručuju iz Europskog parlamenta.

U Parlamentu kažu i da je potrebno uspostaviti okruženje koje će tvrtkama omogućiti da razvijaju inovativne sustave umjetne inteligencije prije njihova stavljanja na tržište.

'Bit će zaštićena prava radnika i građana'

"Konačno imamo prvi svjetski obvezujući Zakon o umjetnoj inteligenciji za smanjenje rizika, stvaranje prilika, borbu protiv diskriminacije i uvođenje transparentnosti. Zahvaljujući Parlamentu, neprihvatljive prakse umjetne inteligencije bit će zabranjene u Europi, a prava radnika i građana bit će zaštićena. Ured za umjetnu inteligenciju sada će biti uspostavljen kao podrška tvrtkama da se počnu pridržavati pravila prije nego ona stupe na snagu“, ocijenio je Brando Benifei, talijanski eurozastupnik iz redova Socijalista i demokrata (S&D).

Dodao je, navodi se u priopćenju Europskog parlamenta, da su eurozastupnici "osigurali da ljudska bića i europske vrijednosti budu u samom središtu razvoja umjetne inteligencije“.

'Umjetna inteligencija omogućuje raniju dijagnostiku zloćudnih bolesti'    

Njegov hrvatski kolega iz redova HDZ-a i Europske pučke stranke (EPP) Tomislav Sokol, koji je također radio na zakonu, naglasio je da se njime štiti privatnost građana.

"Sustavi umjetne inteligencije ubrzano se razvijaju, a koristi od tih sustava naročito su vidljive u područjima prometa, robotike, energetike i zdravstva, gdje, primjerice, umjetna inteligencija omogućuje raniju dijagnostiku zloćudnih bolesti. Međutim, ako nije primjereno zakonodavno uređena, umjetna inteligencija može ugroziti temeljna prava pojedinca. Zato smo, stvarajući prvi europski zakon o umjetnoj inteligenciji, vodili računa o tome da stupnjevanjem njezina rizika spriječimo zloupotrebu umjetne inteligencije na štetu građana“, kazao je Sokol, a prenijeli su iz njegova ureda.

Sokol je istakao kako se zakonom omogućava uporaba biometrijske identifikacije u stvarnom vremenu na javnim mjestima zbog progona za najteža kaznena djela, sprečavanje terorističkih napada i potrage za nestalima.

"To je velika pobjeda jer su lijeve političke grupacije u Europskom parlamentu htjele zabraniti korištenje umjetne inteligencije za otkrivanje kaznenih djela, čemu smo se mi u Klubu zastupnika EPP-a oštro protivili“, naglasio je Sokol.

'Za Hrvatsku okvir bez slike, ali svejedno neophodan'

I hrvatski stručnjaci s kojima je Euractiv razgovarao pozdravljaju usvajanje zakona o umjetnoj inteligenciji u Europskom parlamentu.

Upozoravaju, međutim, da Hrvatska i u primjeni umjetne inteligencije kaska za razvijenijim zemljama. To, međutim, ne znači da njenih zlouporaba nema i kod nas.

"Korištenje umjetne inteligencije treba regulirati, to je zbir tehnologija koje mogu proizvesti velike zloupotrebe. Pa, vidimo da su posljednjih godina nestali i bombaši samoubojice na Bliskom istoku jer se sada služe dronovima. Česti su i slučajevi financijskih i drugih prijevara u web prostoru, kao i krađa identiteta, bullyinga i vršnjačkog nasilja te blaćenja ljudi. Sve to pokazuje da je potrebno definirati jasna pravila korištenja umjetne inteligencije“, kaže za Euractiv Zoran Aralica iz zagrebačkog Ekonomskog instituta.

Ističe da se umjetna inteligencija u Hrvatskoj još uvijek razmjerno malo koristi, ali postoji i prisutna je i ovdje, a njeno će korištenje u budućnosti svakako nastaviti rasti.

Zbog još uvijek slabe primjene umjetne inteligencije kod nas, Aralica ocjenjuje da se usvajanje zakona o njoj na razini EU u hrvatskom slučaju može opisati kao "okvir bez slike“. Ipak, ističe, to ne znači da ne treba regulirati njeno korištenje. Upravo suprotno, potrebno ga je regulirati.

'Umjetna inteligencija koristit će se i na izborima za Sabor i Europski parlament'

I politolog i sociolog Anđelko Milardović, čiji Institut za europske i globalizacijske studije u četvrtak u Kući Europe u Zagrebu organizira forum s temom umjetne inteligencije i demokracije, smatra da je potrebno regulirati korištenje umjetne inteligencije.

Upozorava kako su mogućnosti njene zloupotrebe velike, posebno u politici i osobito zato što Hrvatsku sada čekaju izbori za Sabor i za Europski parlament.

"Korištenje umjetne inteligencije pridonijet će manipulacijama i koristit će se u propagandnim kampanjama na izborima za Sabor i za Europski parlament. Pitanje je tko će to nadzirati, s obzirom na to da zakon još neće stupiti na snagu“, upozorava Milardović za Euractiv.

'Demokracija bi mogla pokleknuti zbog umjetne inteligencije'

Upozorava kako bi demokracija i ljudska prava mogli biti žrtve novih tehnologija.

"Demokracija bi mogla pokleknuti zbog umjetne inteligencije“, ocjenjuje Milardović.

Napominje kako kod umjetne inteligencije nema izravne, već postoji samo neizravna odgovornost.

"Kao i kod svakog stroja, umjetnu inteligenciju ne možete izvesti pred sud zbog kršenja zakona. No, možete kazniti autora programa i operatera stroja“, zaključuje naš sugovornik.