U skladu s novim digitalnim pravilima Europske unije, internetske platforme moraju omogućiti europskim regulatorima uvid u algoritme kako bi ih proučili i ocijenili, ali i kod toga postoji niz neriješenih pitanja
Europski Zakon o digitalnim uslugama (DSA) u kolovozu ove godine uvodi poseban režim regulatornog nadzora za vrlo velike internetske platforme.
Te platforme, koje zbog svoje veličine imaju sistemsku ulogu, morat će proanalizirati potencijalne društvene rizike svojih usluga - kao, primjerice, širenje dezinformacija - i same predložiti mjere za smanjenje rizika.
Neovisna revizija
Analize i predložene mjere bit će podložne neovisnoj reviziji koja bi trebala procjenjivati njihovu primjerenost za usklađivanje s pravilima DSA. Stoga će taj postupak revizije biti ključan za oblikovanje načina na koji platforme tumače nova pravila EU i njima se prilagođavaju.
Europska komisija objavila je nacrt koji određuje metodologiju za provedbu takvih neovisnih revizija. No, reakcije revizorskih tvrtki, tehnoloških kompanija i civilnog društva ukazuju da još uvijek postoji nekoliko ključnih i nerazjašnjenih pitanja.
Revizori kažu da nema jasnih standarda
Revitorske kompanije stalno naglašavaju da ne postoje nikakvi standardi u industriji za reviziju i nadzor algoritama te su od Komisije tražila dodatne smjernice o "razumnom jamstvu" potrebnom za zadovoljavanje uvjeta koje propisuje DSA.
"Znanstveni okvir nije uspostavljen. Nemamo odgovore na pitanje što se ovim zakonom želi postići. Kako definirati sistemski rizik? I kako ga izmjeriti?" pita se Adriana Iamnitchi, profesorica računalnih društvenih znanosti na Sveučilištu u Maastrichtu, u razgovoru za Euractiv.
Iz konzultantske kuće PwC napisali su u svom odgovoru Komisiji kako će "postavljanje revizora u ulogu suca koji procjenjuje je li nešto u skladu sa zakonom dovesti do varijabilnosti rezultata i potencijalno stvoriti nova neslaganja među dionicima oko pitanja tko je letvicu postavio na ispravni razinu te pitanja tretiraju li se različite kompanije na pravedan način."
Slično mišljenje imaju i u revizorskim kućama Deloitte i EY, a taj trojac bi trebao dominirati ovim tržištem. Budući da je revizija algoritama relativno nov i tehnički složen proces, postoji mali broj tvrtki koje su dovoljno stručne za ovaj zadatak ili barem imaju budžete za privlačenje potrebnih stručnjaka.
Platforme
Nedosljednost i neusporedivost rezultata donekle se i očekuju, s obzirom na to da će se pod revizijom naći različite vrste platformi - od društvenih mreža, pa sve do online tražilica.
Tehnološke tvrtke smatraju da je Komisijin dokument o revizijama "previše preskriptivan" jer ne uzima u obzir različite scenarije upotrebe i ne obvezuje revizore da u svojim procjenama primjenjuju proporcionalne ocjene.
"Mana kod nametanja standarda koji je [previše] preskriptivan jest da se time ograničava manevarski prostor revizorima i potiče ih se da striktno poštuju slovo zakona, a ne duh zakona," navodi se u komentaru fundacije Wikimedia, koja upravlja internetskom enciklopedijom Wikipedijom.
Potrebna određena fleksibilnost
Nešto oko čega se i revizori i platforme slažu jest da bi za prvu godinu trebalo predvidjeti određenu fleksibilnost, s obzirom na složenost zakona DSA i inovativnu prirodu novog zakonodavstva.
Međutim, temeljni argument svih igrača u digitalnom prostoru je da revizorska industrija jednostavno nema stručno znanje za procjenjivanje unutarnjih procesa raznih online platformi.
"To ukazuje na paradoks u kojem se nalazimo. Mnoge netransparentne tvrtke koje svoj poslovni model baziraju na prikupljanju i analizi podataka došle su do takvog stupnja složenosti koja je izvan dosega čak i onih čiji je posao da ih proučavaju, a to su prije svega znanstvenici", izjavila je za Euractiv Catalina Goanta, izvanredna profesorica prava i tehnologije na Sveučilištu u Utrechtu.
Civilno društvo skeptično
Što se tiče civilnog društva, glavno pitanje je tko će nadzirati rad revizora.
U zajedničkom odgovoru Komisiji, neprofitne organizacije Algorithm Watch i AI Forensic ističu da bi revizorske firme mogla biti motivirane da platformama daju blage procjene, kako bi privukle i zadržale ugovore s klijentima.
Rizik takvog sukoba interesa još je i gori u kontekstu bez postavljenih objektivnih standarda. Istodobno, tvrtke koje su predmet revizije imat će diskrecijsko pravo podatke iz izvješća proglasiti povjerljivima, čime bi spriječili njihovu javnu objavu.
Civilno društvo smatra da je najbolji je način za nadzor rada revizora i platformi bio da se omogući provjerenim znanstvenicima pristup cjelovitim verzijama revizijskih izvješća. Prema pravilima DSA, provjereni istraživači mogu tražiti podatke od platformi, ali njihova uloga u revizijskom mehanizmu je još uvijek nedefinirana.
Općenito se čini da je civilno društvo prilično skeptično oko dodjeljivanja takve uloge revizorskim kompanijama, u kojoj se njima prepušta procjenjivanje sistemskih rizika, poput odlučivanja o opasnostima za demokratske procese koje dolaze od društvenih mreža. Stoga su se već pojavile neke organizacije koje pokušavaju popuniti tu prazninu.
'Algoprudence'
Jedna od njih je Algorithm Audit, nevladina udruga čija je misija etičko procjenjivanje kriterija za reviziju algoritama, kojom se u specifičnim scenarijima mogu analizirati prednosti i nedostaci pojedinih algoritama. Svoju metodologiju nazvali su "algoprudence", što je kombinacija riječi "algoritam" i "jurisprudencija" (pravna znanost).
"Sada slijedi kolektivni proces učenja, koji će trajati tri do pet godina", izjavio je jedan od osnivača Alghorithm Audita, Jurriaan Parie, dodavši kako će puno toga ovisiti i o tome kako će Komisija i njen novi centar za algoritamsku transparentnost, otvoren u travnju u Sevilji, surađivati s revizorima na formiranju najboljih praksi.
"To je proces. U početku neće biti savršeno, ali negdje moramo početi", zaključuje profesorica Iamnitchi.
(Preveo i uredio David Spaić-Kovačić. Originalan članak pročitajte ovdje: Europe enters patchy road to audit online platforms’ algorithms)