U petak navečer postignut privremeni dogovor o regulativi EU za korištenje umjetne inteligencije (AI), izvijestila je agencija Reuters.
Nova pravila uključujuću i upotrebu umjetne inteligencije u biometrijskom nadzoru kojeg provode vlade, kao i regulaciju sustava umjetne inteligencije poput popularnog servisa ChatGPT.
S tim političkim sporazumom, EU ide prema tome da postane prva velika svjetska sila koja će donijeti zakone za regulaciju umjetne inteligencije. Dogovor između članica EU i Europskog parlamenta postignut je u petak, nakon gotovo 15 sati pregovora, koji su uslijedili nakon gotovo 24-satne rasprave u četvrtak.
Dvije strane trebale bi dogovoriti detalje u nadolazećim danima, što bi moglo promijeniti oblik konačnog zakona.
"Europa se pozicionirala kao pionir, shvaćajući važnost svoje uloge globalnog postavljača standarda. Ovo je, vjerujem, povijesni dan," rekao je europski povjerenik Thierry Breton na konferenciji za novinare.
Kriteriji za temeljne modele
Sporazum zahtijeva da tzv. temeljni modeli korišteni za servise kao što je ChatGPT i sustavi umjetne inteligencije opće namjene (GPAI) budu u skladu s obvezama transparentnosti prije nego što se stave na tržište. To uključuje izradu tehničke dokumentacije, usklađivanje sa zakonima EU o autorskim pravima, kao i objavu detaljne dokumentacije o sadržaju koji se koristio za treniranje umjetne inteligencije.
Temeljni modeli visoke važnosti, za koje se smatra da predstavljaju visok stupanj sistemskog rizika, morat će provoditi evaluacije modela, procjenu i smanjivanje sistemskih rizika, provoditi testiranje u slučaju potencijalnih zloupotreba, izvještavati Europsku komisiju o ozbiljnim incidentima, osigurati kibernetičku sigurnost, i izvještavati o energetskoj učinkovitosti svojih sistema.
GPAI koji predstavljaju sistemski rizik mogu se oslanjati i na kodekse dobre prakse, za usklađivanje s novom regulativom.
Biometrijski nadzor
Vlasti mogu koristiti biometrijski nadzor u stvarnom vremenu u javnim prostorima isključivo u slučajevima žrtava određenih vrsta zločina, prevencije "stvarnih, sadašnjih ili predviđenih prijetnji," poput terorističkih napada, ili potrage za osobama osumnjičenima za najteža kaznena djela.
Sporazum zabranjuje kognitivnu bihevioralnu manipulaciju, prikupljanje fotografija lica s interneta ili snimki nadzornih kamera, sustave tzv. društvenog bodovanja, i sustave biometrijske kategorizacije za ekstrapolaciju političkih, vjerskih, filozofskih uvjerenja, seksualne orijentacije ili rase korisnika.
Potrošači bi imali pravo podnositi pritužbe i na njih dobiti smislena objašnjenja, dok bi kazne za prekršaje bile u rasponu od 7,5 milijuna eura ili 1,5 posto prometa kompanije koja upravlja umjetnom inteligencijom, pa sve do 35 milijuna eura ili 7 posto vrijednosti globalnih prihoda.
Kritike predložene regulative
Sektorsko udruženje DigitalEurope kritiziralo je nova pravila kao još jedno opterećenje za kompanije, uz ostale nedavno donesene zakone.
"Imamo dogovor, ali po kojoj cijeni? U potpunosti smo podržali pristup temeljen na riziku koji se bazira na upotrebi umjetne inteligencije, a ne na samoj tehnologiji - ali pokušaj u zadnji čas da se reguliraju temeljni model to je potpuno okrenulo naopačke," izjavila je njezina direktorica DigitalEurope Cecilia Bonefeld-Dahl.
Udruga koja promiče pravo na privatnost European Digital Rights (EDR) također je izrazila neslaganje.
"Teško je biti oduševljen zbog zakona koji je po prvi puta u EU poduzeo korake prema legalizaciji prepoznavanja lica uživo u cijeloj EU... Dok se Parlament trudio ograničiti štetu, cjelokupni paket o biometrijskom nadzoru i profiliranju u najboljem slučaju se može opisati kao mlaka reakcija," izjavila je viša politička savjetnica EDR-a Ella Jakubowska.
Nacrt za globalna pravila
Očekuje se da će zakon stupiti na snagu početkom sljedeće godine, nakon što ga obje strane službeno ratificiraju. Primjena bi trebala početi dvije godine nakon toga.
Vlade širom svijeta pokušavaju uravnotežiti prednosti te tehnologije - koja može s korisnicima voditi razgovore nalik ljudskima, odgovarati na njihova pitanja i pisati računalni kod - u odnosu na potrebu postavljanja zaštitnih mehanizama protiv zloupotreba.
Europska ambiciozna pravila za reguliranje umjetne inteligencije stižu u trenutku kada tvrtke poput američkog OpenAI-ja, u kojoj je Microsoft investitor, nastavljaju predstavljati nove načine primjene te tehnologije - što nailazi i na pohvale i na zabrinutost.
Korporacija Alphabet, koja je vlasnik Googlea, u četvrtak je pokrenula svoj novi model umjetne inteligencije nazvan Gemini, koji bi trebao biti konkurencija OpenAI-ju i njihovom servisu ChatGPT.
Zakon Europske unije mogao bi stoga poslužiti kao nacrt i za druge vlade širom svijeta, i alternativa između tradicionalno mekšeg pristupa SAD-a i strožih pravila u Kini.
(Uredio i preveo David Spaić-Kovačić. Originalan članak pročitajte ovdje: Europe agrees landmark AI regulation deal)