Europski zakon o umjetnoj inteligenciji

Europske institucije (Europska komisija, Vijeće i Parlament) postigle su 8. prosinca 2023. privremeni politički dogovor o prvom sveobuhvatnom zakonu o umjetnoj inteligenciji na svijetu: Aktu o umjetnoj inteligenciji. Zakon je plod višegodišnjih nastojanja, prvi i jedini koji imamo. Iako se o tom zakonu u Europi pregovara već dugi niz godina, rasprave o reguliranju modela umjetne inteligencije i specifična neslaganja koja se daju svesti na pitanje „bi li zakonodavstvo previše ometalo inovacije“ napokon su rezultirale dogovorom o konačnoj verziji.

Političkim dogovorom EU tako postaje prva velika „svjetska sila“ koja je donijela zakon, a potom će posljedično i države članice donijeti svoje zakone u zadanim okvirima. Važno je naglasiti da je usvojen globalno priznat standard koji je razvio OECD o vrstama sustava koji se namjeravaju regulirati kao „umjetna inteligencija“. Kada će zakon o umjetnoj inteligenciji stupiti na snagu? Stupanje na snagu očekuje se između drugog i trećeg tromjesečja 2024, a zabrane se provode nakon šestog tromjesečja.

Što zakon zabranjuje?

Među novim pravilima izdvojit ću ono što se zabranjuje ili ograničava. Najrestriktivnija su ograničenja u uporabi biometrijskih identifikacijskih sustava od strane policije i drugih tijela za provedbu zakona. Europski parlament osigurao je zabranu uporabe biometrijskog nadzora u stvarnom vremenu uključujući emocionalno prepoznavanje, uz tri iznimke. Drugim riječima, policija će moći koristiti invazivne tehnologije samo u slučaju „neočekivane prijetnje terorističkim napadom“, „potrebe za traženjem žrtava“ i „kaznenog progona teških kaznenih djela“. Preciznije, sustavi biometrijske identifikacije, koji se ne koriste u stvarnom vremenu nego za naknadno utvrđivanje određenih slučajeva, bit će mogući isključivo za „ciljano pretraživanje osuđene osobe ili osobe za koju se sumnja da je počinila teško kazneno djelo“.

Prevenirati ponavljanje
pogrešaka iz prošlosti

Što se pak tiče sustava biometrijske identifikacije u stvarnom vremenu, oni će morati biti u skladu s nizom strogih uvjeta i njihova će uporaba biti ograničena vremenom i lokacijom isključivo radi „ciljane pretrage žrtava“ (otmica, trgovanje ljudima, spolno iskorištavanje) ili „sprečavanja konkretne i prisutne terorističke prijetnje“. Tu su zatim i zabrane „socijalnog bodovanja“, što uključuje „procjenu pojedinaca na osnovi određenih metrika“, kao i zabrane sustava umjetne inteligencije dizajniranima da „manipuliraju ljudskim ponašanjem kako bi se zaobišla slobodna volja“. Također, zabranjuje se „eksploatacija ranjivih populacija“, kao što su osobe starije životne dobi, djeca, osobe s invaliditetom ili ekonomskim izazovima. Potpuno se zabranjuju uporabe umjetne inteligencije koje uključuju „kognitivne manipulacije ponašanjem“, „prepoznavanje emocija na radnom mjestu i obrazovnim ustanovama“, „biometrijsku kategorizaciju kako bi se saznali osjetljivi podaci, kao što su seksualna orijentacija ili vjerska uvjerenja“.

Također, iz svih dosadašnjih rasprava može se zaključiti da su vodeći ljudi u EU silno nastojali da ovaj put ne učine neke pogrešne korake, odnosno ne ponove „pogreške iz prošlosti“, kada je tehnološkim divovima poput Facebooka bilo dopušteno da prerastu u korporacije vrijedne više milijardi dolara bez obveze reguliranja sadržaja na svojim platformama, uključujući manipulativno upletanje u izbore ili sadržaje koji u sebi imaju oblike spolnog zlostavljanja djece itd.

Kako bi veliki zahtjevi koji stoje pred državama članicama u pogledu provođenja toga zakona bili olakšani u provođenju, institucije Unije postigle su dogovor o novim administrativnim infrastrukturama, pa se uspostavlja: Ured za umjetnu inteligenciju, koji će zasjedati u Komisiji, imat će zadaću nadzirati najnaprednije modele umjetne inteligencije, pridonositi poticanju novih standarda i praksi testiranja te provoditi zajednička pravila u svim državama članicama. Recimo da bi taj ured mogao postati ekvivalent institutima za sigurnost umjetne inteligencije za koje je nedavno najavljeno da će biti osnovani u Velikoj Britaniji i SAD-u; Znanstveni panel neovisnih stručnjaka, koji će savjetovati Ured za umjetnu inteligenciju; Odbor za umjetnu inteligenciju, koji se sastoji od predstavnika država članica Unije, ostat će koordinacijska platforma i savjetodavno tijelo Komisije te će istodobno pridonositi provedbi Akta o umjetnoj inteligenciji (npr. osmišljavanje kodeksa prakse); i Savjetodavni forum za dionike kako bi se Odboru za umjetnu inteligenciju pružilo tehničko stručno znanje.

Izazovi budućeg razvoja umjetne inteligencije

Očekuje se da će se Akt Europske Unije o umjetnoj inteligenciji ponajprije provoditi preko nacionalnih tijela mjerodavnih za nadzor tržišta u svakoj državi, odnosno nekih drugih tijela, ovisno o odluci svake države članice. Bit će zanimljivo vidjeti koji će pristup države članice zauzeti za osnivanje svojih tijela mjerodavnih za umjetnu inteligenciju, odnosno hoće li ovlastiti postojeća tijela (npr. tijela za zaštitu podataka) ili će se odlučiti za druge mogućnosti (npr. nova neovisna tijela). Gore spomenuti Europski ured za umjetnu inteligenciju preuzet će administrativne, standardne i provedbene zadaće kako bi se osigurala koordinacija na nacionalnim razinama. A koje su kazne za nepoštivanje novog zakona o umjetnoj inteligenciji? Riječ je o novčanim kaznama u rasponu od 7,5 milijuna eura ili 1,5 posto globalnog prometa do 35 milijuna eura ili 7 posto globalnog prometa, ovisno o povredi i veličini trgovačkog društva, odnosno pravne osobe.

Učinkovitost na testu

Zaključno, ako razmislimo o sadašnjem pristupu regulaciji umjetne inteligencije na globalnoj razini, dolazimo do ovih činjenica: znamo da je Akt o umjetnoj inteligenciji predvodnik, no taj zakon neće biti jedini, niti je globalni zakon. Svaka istinski globalna strategija morat će udovoljiti ključnim zahtjevima i načelima koja su već opisana u europskom Aktu o umjetnoj inteligenciji, ali istodobno biti jako usmjerena na budućnost. Nesporna je činjenica da taj akt ne može biti „dovoljno progresivan“ za neke buduće smjerove razvoja koji će otvarati i nove regulatorne zahtjeve. Nijedan zakon u trenutku nastajanja ne može predvidjeti niti obuhvatiti sve situacije, pa tako ni taj.

Učinkovitost Akta o umjetnoj inteligenciji u sljedećem će se razdoblju naći „na testu“ premda se još nije ni počeo provoditi. Testirat će ga svi pojedinačni i globalni akteri, od građana do korporacija i mjerodavni u ostalim vodećim zemljama umjetne inteligencije, kao što su Ujedinjena Kraljevina i SAD, a isto tako i međunarodna tijela koja se bave utvrđivanjem okvira za umjetnu inteligenciju kao što su skupine G7, G20, OECD, Vijeće Europe i UN. U svakom slučaju, zakon je bio više nego potreban, a sada nastavljamo pratiti što sve slijedi.