Smjernice za AI sustave visokog rizika

Što je ovaj dokument?

Smjernice za AI sustave visokog rizika (Guidelines on High-Risk AI Systems) službeni su dokument Europske komisije koji pojašnjava praktičnu primjenu članka 6. EU AI Acta (Uredba 2024/1689). Komisija je bila obvezna objaviti ove smjernice do 2. veljače 2026., a one uključuju sveobuhvatan popis praktičnih primjera uporabe AI sustava koji jesu i koji nisu visokog rizika.

Dokument je namijenjen pružateljima (providers), korisnicima (deployers) i svim drugim akterima u lancu vrijednosti AI sustava koji trebaju razumjeti spadaju li njihovi sustavi u kategoriju visokog rizika.

Ključne točke

Klasifikacija visokog rizika

EU AI Act definira dvije glavne kategorije AI sustava visokog rizika:

1. AI sustavi ugrađeni u regulirane proizvode (Annex I) — AI sustavi koji su sigurnosna komponenta proizvoda obuhvaćenih postojećim EU zakonodavstvom o harmonizaciji (npr. medicinski uređaji, strojevi, igračke, vozila). Za ove sustave primjenjuju se pravila od 2. kolovoza 2027.

2. Samostalni AI sustavi visokog rizika (Annex III) — AI sustavi u osam područja primjene: biometrija, kritična infrastruktura, obrazovanje, zapošljavanje, pristup javnim uslugama, provedba zakona, upravljanje migracijama i pravosuđe. Za ove sustave pravila se primjenjuju najkasnije od 2. prosinca 2027.

Ključni zahtjevi za sustave visokog rizika

Članci 8.-15. AI Acta propisuju obvezne zahtjeve:

• Sustav upravljanja rizicima (čl. 9.) — kontinuirana identifikacija i ublažavanje rizika
• Upravljanje podacima (čl. 10.) — kvaliteta podataka za treniranje, validaciju i testiranje
• Tehnička dokumentacija (čl. 11.) — detaljna dokumentacija prije stavljanja na tržište
• Vođenje zapisa (čl. 12.) — automatsko bilježenje rada sustava (logovi)
• Transparentnost (čl. 13.) — upute za uporabu za korisnike
• Ljudski nadzor (čl. 14.) — mogućnost ljudske intervencije
• Točnost, robusnost i kibernetička sigurnost (čl. 15.)

Izuzeće od klasifikacije visokog rizika

Članak 6. stavak 3. predviđa da se AI sustav iz Annexa III ne smatra visokorizičnim ako ne predstavlja značajan rizik za zdravlje, sigurnost ili temeljna prava fizičkih osoba, uključujući situacije kada AI sustav ne utječe materijalno na ishod odlučivanja.

Kako se primjenjuje na organizacije?

Za pružatelje (providers)

Organizacije koje razvijaju AI sustave visokog rizika moraju:

• Uspostaviti sustav upravljanja kvalitetom (čl. 17.)
• Provesti ocjenu sukladnosti prije stavljanja na tržište (čl. 43.)
• Registrirati sustav u EU bazi podataka (čl. 49.)
• Uspostaviti sustav praćenja nakon stavljanja na tržište (čl. 72.)
• Prijavljivati ozbiljne incidente nadležnim tijelima (čl. 73.)

Za korisnike (deployers)

Organizacije koje koriste AI sustave visokog rizika moraju:

• Osigurati uporabu u skladu s uputama (čl. 26.)
• Provoditi ljudski nadzor nad sustavom
• Osigurati da su ulazni podaci relevantni i reprezentativni
• Provoditi procjenu učinka na temeljna prava (čl. 27.) — za javna tijela i privatne subjekte koji pružaju javne usluge

Praktični koraci

1. Identificirajte sve AI sustave u organizaciji
2. Klasificirajte svaki sustav prema Annexu I i Annexu III
3. Procijenite primjenjuje li se izuzeće iz čl. 6. st. 3.
4. Implementirajte zahtjeve za sustave koji su klasificirani kao visokorizični
5. Dokumentirajte cijeli proces za potrebe revizije

Relevantni članci EU AI Acta

Članak	Tema
Čl. 6.	Pravila za klasifikaciju AI sustava visokog rizika
Čl. 8.-15.	Zahtjevi za sustave visokog rizika
Čl. 16.-17.	Obveze pružatelja sustava visokog rizika
Čl. 26.-27.	Obveze korisnika sustava visokog rizika
Čl. 43.	Ocjena sukladnosti
Čl. 49.	Registracija u EU bazi podataka
Annex I	Popis harmonizacijskog zakonodavstva EU
Annex III	Područja primjene AI sustava visokog rizika

Izvorni dokument

Službene smjernice Europske komisije dostupne su na: Supporting the implementation of the AI Act with clear guidelines

Dodatne informacije o klasifikaciji dostupne su na: Article 6 — Classification Rules for High-Risk AI Systems