Europski zakon o umjetnoj inteligenciji donosi nove standarde za AI u EU

Novi Europski zakon o umjetnoj inteligenciji (AI Act), prva sveobuhvatna uredba takve vrste na svijetu, stupio je na snagu. Cilj ovog zakona je osigurati razvoj i primjenu umjetne inteligencije u Europskoj uniji na način koji je pouzdan i siguran, istovremeno štiteći temeljna prava građana.

Ciljevi i struktura zakona

Zakon o umjetnoj inteligenciji ima za cilj uspostaviti usklađeno unutarnje tržište za AI unutar EU, potičući prihvaćanje tehnologije i stvarajući povoljno okruženje za inovacije i ulaganja. Ova uredba uvodi definiciju umjetne inteligencije usmjerenu prema budućnosti, temeljeći se na pristupu koji naglašava sigurnost proizvoda i procjenu rizika.

Kategorije rizika i odgovornosti

Zakon o umjetnoj inteligenciji klasificira AI sustave prema razini rizika koje predstavljaju za prava i sigurnost građana:

Sustavi s minimalnim rizikom: Većina AI sustava, uključujući preporuke i filtere neželjene pošte, spadaju u ovu kategoriju. Ovi sustavi nisu obvezni slijediti posebne propise zakona zbog niskog rizika koji predstavljaju. Međutim, tvrtke se potiču na dobrovoljno usvajanje dodatnih kodeksa ponašanja.

Specifični sustavi rizika transparentnosti: Sustavi kao što su chatboti moraju jasno informirati korisnike da komuniciraju s AI tehnologijom. AI generirani sadržaji, uključujući duboke krivotvorine, moraju biti jasno označeni. Biometrijske kategorizacije i prepoznavanje emocija također zahtijevaju obavijest korisnicima. Pružatelji usluga moraju dizajnirati sustave na način da se sintetički sadržaj može prepoznati kao umjetno generiran.

Visokorizični sustavi: AI sustavi koji obavljaju važne funkcije, poput procjene kreditne sposobnosti ili automatiziranih robotskih operacija, podliježu strogim zahtjevima. Oni uključuju smanjenje rizika, korištenje kvalitetnih podataka, dokumentaciju, nadzor ljudi te visoku razinu robusnosti i kibernetičke sigurnosti. Zaštitno regulatorno okruženje pomoći će odgovornom razvoju tih sustava.

Neprihvatljivi sustavi rizika: Sustavi koji predstavljaju ozbiljnu prijetnju temeljnim pravima, poput onih koji manipuliraju ljudskim ponašanjem ili omogućuju "društveno bodovanje", bit će zabranjeni. Zabrana obuhvaća i određene aplikacije prediktivnog policijskog rada te opasne igračke s glasovnim asistentima.

Opće namjene AI modeli i nadzor

Zakon također regulira modele umjetne inteligencije opće namjene, koji su sposobni obavljati širok spektar zadataka poput generiranja teksta nalik ljudskom. Cilj je osigurati transparentnost kroz cijeli lanac vrijednosti i adresirati moguće sistemske rizike najnaprednijih modela.

Države članice EU imaju godinu dana da imenuju nacionalna tijela odgovorna za nadzor primjene zakona i tržišni nadzor. Ured Europske komisije za umjetnu inteligenciju bit će središnje tijelo za provedbu zakona na razini EU, dok će se tri savjetodavna tijela baviti primjenom i tehničkim savjetovanjem.

Kazne i provedba

Tvrtke koje ne budu poštovale zakon suočit će se s novčanim kaznama. Za kršenje zabrana može se izreći kazna do 7% globalnog godišnjeg prometa, dok će druge prekršaje kazniti s do 3%, a davanje netočnih informacija s do 1,5%.

Većina odredbi zakona o umjetnoj inteligenciji stupit će na snagu 2. kolovoza 2026. Međutim, zabrane visokorizičnih AI sustava počet će se primjenjivati već šest mjeseci nakon stupanja na snagu zakona, dok će regulativa za AI modele opće namjene započeti nakon 12 mjeseci. Europska komisija pokrenula je inicijativu pod nazivom AI Pact, koja potiče programere da dobrovoljno usvoje ključne obveze zakona prije zakonskih rokova.

Europski zakon o umjetnoj inteligenciji predstavlja ključni korak ka sigurnom i odgovornom razvoju umjetne inteligencije u EU. Cilj je zaštititi temeljna prava građana, istovremeno potičući inovacije i tehnološki napredak. Sa strogim propisima i kaznama za prekršaje, zakon ima potencijal postaviti standarde za AI regulativu na globalnoj razini.

Izvor: ictbusiness.info