Smjernice o zabranjenim praksama AI

Što je ovaj dokument?

Smjernice o zabranjenim praksama AI (Guidelines on Prohibited AI Practices) službeni su dokument Europske komisije objavljen 4. veljače 2025. Radi se o sveobuhvatnom dokumentu od 135 stranica koji detaljno pojašnjava prakse umjetne inteligencije koje se smatraju neprihvatljivima zbog rizika za temeljna prava i vrijednosti EU.

Zabrane iz članka 5. AI Acta počele su se primjenjivati 2. veljače 2025. — bile su prva odredba EU AI Acta koja je stupila na snagu. Od 2. kolovoza 2025. nadležna tijela u državama članicama (ili Europski nadzornik za zaštitu podataka za institucije EU) mogu provoditi ove zabrane.

Ključne točke

Zabranjene prakse

Članak 5. EU AI Acta zabranjuje sljedeće AI prakse:

1. Manipulativne i obmanjujuće tehnike (čl. 5. st. 1. toč. a)

AI sustavi koji koriste subliminalne tehnike, namjerno manipulativne ili obmanjujuće tehnike s ciljem materijalno iskrivljavanja ponašanja osobe ili skupine, uzrokujući značajnu štetu.

2. Iskorištavanje ranjivosti (čl. 5. st. 1. toč. b)

AI sustavi koji iskorištavaju ranjivosti osoba zbog dobi, invaliditeta ili specifične socijalne ili ekonomske situacije, s ciljem materijalno iskrivljavanja ponašanja na način koji uzrokuje značajnu štetu.

3. Socijalno bodovanje (čl. 5. st. 1. toč. c)

AI sustavi za evaluaciju ili klasifikaciju fizičkih osoba na temelju njihovog socijalnog ponašanja ili osobnih karakteristika, kada to dovodi do nepovoljnog tretmana u nepovezanim kontekstima ili tretmana koji je neopravdan ili nerazmjeran.

4. Predviđanje kaznenih djela (čl. 5. st. 1. toč. d)

AI sustavi koji procjenjuju rizik počinjenja kaznenog djela isključivo na temelju profiliranja ili osobnosti i karakteristika osobe (uz iznimku AI sustava koji podupiru ljudsku procjenu na temelju objektivnih i provjerljivih činjenica).

5. Neselektivno prikupljanje slika lica (čl. 5. st. 1. toč. e)

AI sustavi koji stvaraju ili proširuju baze podataka za prepoznavanje lica neselektivnim prikupljanjem slika s interneta ili CCTV snimki.

6. Prepoznavanje emocija (čl. 5. st. 1. toč. f)

AI sustavi za prepoznavanje emocija na radnom mjestu i u obrazovnim institucijama, osim u medicinske ili sigurnosne svrhe.

7. Biometrijska kategorizacija (čl. 5. st. 1. toč. g)

AI sustavi za biometrijsku kategorizaciju radi zaključivanja o rasi, političkim stavovima, članstvu u sindikatu, vjerskim uvjerenjima, seksualnom životu ili seksualnoj orijentaciji.

8. Biometrijska identifikacija u stvarnom vremenu (čl. 5. st. 1. toč. h)

Korištenje udaljenih sustava biometrijske identifikacije u stvarnom vremenu na javno dostupnim mjestima u svrhu provedbe zakona, uz strogo ograničene iznimke.

Ključna tumačenja Komisije

Smjernice pojašnjavaju nekoliko važnih pojmova:

• "Materijalno iskrivljavanje ponašanja" — ponašanje koje osoba inače ne bi poduzela
• "Značajna šteta" — ne mora biti fizička; može uključivati financijsku, psihološku ili društvenu štetu
• "Subliminalne tehnike" — tehnike koje osoba ne može svjesno percipirati

Kako se primjenjuje na organizacije?

Neposredna obveza

Sve organizacije koje razvijaju ili koriste AI sustave moraju odmah provjeriti da nijedan od njihovih sustava ne potpada pod zabranjene prakse. Ovo se primjenjuje bez obzira na veličinu organizacije.

Praktični koraci

1. Revizija AI sustava — Pregledajte sve AI sustave u organizaciji prema popisu iz članka 5.
2. Pravna analiza — Za svaki sustav koji potencijalno graniči sa zabranjenom praksom, zatražite pravno mišljenje
3. Dokumentacija — Dokumentirajte analizu i zaključke za svaki sustav
4. Obuka zaposlenika — Osigurajte da svi koji rade s AI razumiju zabranjene prakse
5. Mehanizam prijave — Uspostavite interni proces za prijavljivanje mogućih kršenja

Kazne

Kršenje zabrana iz članka 5. povlači najstrože kazne prema AI Actu:

• Do 35 milijuna EUR ili do 7% ukupnog globalnog godišnjeg prometa (prethodna financijska godina), ovisno o tome što je veće

Relevantni članci EU AI Acta

Članak	Tema
Čl. 5.	Zabranjene prakse AI
Čl. 99. st. 3.	Kazne za kršenje zabrana
Čl. 113.	Datum primjene zabrana (2. veljače 2025.)
Recital 28.-46.	Obrazloženja za svaku zabranjenu praksu

Izvorni dokument

Smjernice Europske komisije dostupne su na: Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices