Savjetovanje prema Uredbi (EU) 2024/1689 (AI Act), izmijenjenoj Digitalnim omnibusom o umjetnoj inteligenciji (Uredba (EU) 2026/1744). Obuhvaća popis AI sustava koje razvijate ili koristite, razvrstavanje prema razini rizika, provjeru zabranjenih praksi, obveze dobavljača i subjekata koji uvode sustave, transparentnost, AI pismenost i povezivanje s GDPR-om. Po potrebi uspostavljamo sustav upravljanja umjetnom inteligencijom prema ISO/IEC 42001.
AI Act je uredba EU-a koja pravila za UI sustave određuje prema razini rizika i prema ulozi tvrtke: dobavljač razvija UI sustav ili ga daje razviti i stavlja ga na tržište ili u upotrebu pod svojim imenom ili žigom, a subjekt koji uvodi sustav upotrebljava ga u svom poslovanju. Izmjena iz srpnja 2026. pomaknula je rokove za visokorizične sustave na prosinac 2027. i kolovoz 2028.
Manipulativne tehnike, iskorištavanje ranjivosti, društveno vrednovanje i zaključivanje o emocijama na radnom mjestu zabranjeni su od 2. veljače 2025. Od 2. prosinca 2026. zabranjeni su i UI sustavi koji bez izričitog pristanka osobe stvaraju njezine realistične intimne ili seksualno eksplicitne prikaze te sustavi koji stvaraju materijal seksualnog zlostavljanja djece.
Primjerice zapošljavanje, kreditna sposobnost, obrazovanje i kritična infrastruktura. Obveze za sustave iz Priloga III. primjenjuju se od 2. prosinca 2027., a za sustave iz Priloga I. od 2. kolovoza 2028.
Obavijest da osoba razgovara s UI sustavom, strojno čitljiva oznaka umjetno generiranog sadržaja i oznaka uvjerljivog krivotvorenog sadržaja (deep fake). Primjenjuje se od 2. kolovoza 2026.
Za tvrtke koje žele znati koje obveze imaju i do kada.
Za dobavljače i subjekte koji uvode visokorizične sustave iz Priloga III. ili Priloga I.
Pravila, uloge i procesi za sve AI sustave u tvrtki, po potrebi prema ISO/IEC 42001.
Uredba (EU) 2024/1689 o umjetnoj inteligenciji, koja pravila za UI sustave određuje prema razini rizika: zabranjene prakse, visokorizični sustavi, obveze transparentnosti i UI modeli opće namjene. Primjenjuje se u fazama od veljače 2025. do kolovoza 2028., a izmijenjena je Digitalnim omnibusom o umjetnoj inteligenciji (Uredba (EU) 2026/1744).
Odnosi se na dobavljače, odnosno tvrtke koje UI sustav razvijaju ili ga daju razviti i stavljaju ga na tržište ili u upotrebu pod svojim imenom, na subjekte koji uvode sustav, odnosno tvrtke koje ga upotrebljavaju u poslovanju, te na uvoznike i distributere. Opseg obveza ovisi o ulozi i razini rizika sustava, a mjere za AI pismenost vrijede za sve dobavljače i subjekte koji uvode sustav.
Dobavljač razvija UI sustav ili model, ili ga je dao razviti, i stavlja ga na tržište ili u upotrebu pod svojim imenom ili žigom. Subjekt koji uvodi sustav koristi ga u okviru svoje djelatnosti. Tko na visokorizični sustav stavi svoje ime ili ga znatno izmijeni, postaje dobavljač (članak 25.).
Kada je sigurnosna komponenta proizvoda iz odjeljka A Priloga I., primjerice medicinskog proizvoda, igračke ili dizala, ili je sam takav proizvod, a proizvod podliježe ocjenjivanju sukladnosti koje provodi treća strana (članak 6. stavak 1.). Visokorizični su i sustavi iz područja Priloga III.: biometrija, kritična infrastruktura, obrazovanje, zapošljavanje, pristup osnovnim uslugama poput kredita, kazneni progon, migracije i pravosuđe. Sustav iz Priloga III. nije visokorizičan ako ne predstavlja znatan rizik i ispunjava jedan od uvjeta iz članka 6. stavka 3., osim ako izrađuje profile fizičkih osoba.
Zabranjene prakse i AI pismenost od 2. veljače 2025., modeli opće namjene od 2. kolovoza 2025., opći početak primjene i obveze transparentnosti od 2. kolovoza 2026. te nove zabrane od 2. prosinca 2026. Visokorizični sustavi iz Priloga III. od 2. prosinca 2027., a iz Priloga I. od 2. kolovoza 2028.
Za zabranjene prakse do 35.000.000 € ili 7 % ukupnog svjetskog godišnjeg prometa, za obveze dobavljača, subjekata koji uvode sustav i obveze transparentnosti do 15.000.000 € ili 3 %, a za netočne informacije nadležnim tijelima do 7.500.000 € ili 1 % (članak 99.). Za MSP-ove primjenjuje se niži od dvaju iznosa. Sankcije za ostale povrede utvrđuju države članice.
Kad UI sustav obrađuje osobne podatke, primjenjuju se obje uredbe. Procjena učinka na temeljna prava iz članka 27. AI Acta dopunjuje procjenu učinka na zaštitu podataka iz članka 35. Opće uredbe, a izmjena iz 2026. uvela je članak 4.a o iznimnoj obradi posebnih kategorija podataka radi otkrivanja i ispravljanja pristranosti.
Popisati alate i namjenu, provjeriti nije li riječ o zabranjenoj praksi ili visokorizičnoj upotrebi, poduzeti mjere za AI pismenost zaposlenika, ispuniti obveze transparentnosti iz članka 50. kada se primjenjuju i provjeriti obradu osobnih podataka prema Općoj uredbi. Za visokorizičnu upotrebu vrijede i obveze iz članka 26.
Norma nije obvezna, a certifikat prema njoj sam po sebi ne dokazuje usklađenost s AI Actom. ISO/IEC 42001:2023 propisuje zahtjeve za sustav upravljanja umjetnom inteligencijom i pomaže organizirati popis sustava, procjene rizika, uloge i nadzor koje AI Act traži. Preporučujemo je tvrtkama s više AI sustava i onima čiji poslovni partneri traže certifikat.
Napišite nam čime se tvrtka bavi i, ako ga imate, pošaljite popis AI sustava i alata koje razvijate ili koristite. Nakon besplatne konzultacije šaljemo prijedlog procjene spremnosti i plan prema rokovima.
Propisi provjereni 3. studenoga 2026.
Članci 3. do 6., 16., 25. do 27., 50., 53., 99. i 113. te Prilog III.
Novi članci 4. i 4.a, nove zabrane u članku 5., članak 111. stavak 4., novi rokovi u članku 113. i izmjena Priloga I.
Tekst AI Acta s izmjenama iz Uredbe (EU) 2026/1744.
Članak 35.: procjena učinka na zaštitu podataka.
Sustav upravljanja umjetnom inteligencijom.
Napišite nam koje AI sustave razvijate ili koristite. Javit ćemo se s prijedlogom procjene i plana.