ISO/IEC 42001 — Sustav upravljanja umjetnom inteligencijom

ISO/IEC 42001:2023 prvi je međunarodni standard za sustave upravljanja umjetnom inteligencijom (AIMS), koji pomaže organizacijama uspostaviti, implementirati i kontinuirano poboljšavati odgovoran pristup AI sustavima.

Što je ovaj dokument?

ISO/IEC 42001:2023 (Artificial Intelligence Management System — AIMS) prvi je međunarodni standard koji specificira zahtjeve za uspostavljanje, implementaciju, održavanje i kontinuirano poboljšavanje sustava upravljanja umjetnom inteligencijom unutar organizacija. Objavljen je 18. prosinca 2023. od strane Međunarodne organizacije za normizaciju (ISO) i Međunarodne elektrotehničke komisije (IEC).

Standard je razvijen u okviru tehničkog pododbora ISO/IEC JTC 1/SC 42 — Artificial Intelligence i primjenjiv je na organizacije svih veličina i industrija koje razvijaju, proizvode ili koriste AI sustave.

Ključne točke

Struktura standarda

ISO/IEC 42001 slijedi strukturu upravljačkih sustava poznatu kao Annex SL (harmonizirana struktura), što ga čini kompatibilnim s drugim ISO standardima poput ISO 9001, ISO 27001 i ISO 14001. Temelji se na PDCA (Plan-Do-Check-Act) pristupu:

Plan — Razumijevanje konteksta organizacije, zainteresiranih strana, definiranje opsega i politike AI sustava
Do — Implementacija procesa, upravljanje rizicima, raspodjela resursa
Check — Praćenje, mjerenje, interne revizije i pregled od strane upravljanja
Act — Kontinuirano poboljšavanje na temelju nalaza

Ključni zahtjevi

Standard pokriva sljedeća područja:

Kontekst organizacije — Razumijevanje unutarnjih i vanjskih čimbenika koji utječu na AI sustave
Vodstvo — Predanost vodstva, AI politika, uloge i odgovornosti
Planiranje — Upravljanje rizicima i prilikama, ciljevi AI sustava
Podrška — Resursi, kompetencije, svijest, komunikacija i dokumentacija
Operacije — Procjena učinka AI sustava, upravljanje životnim ciklusom, treće strane
Evaluacija performansi — Praćenje, mjerenje, analiza, interne revizije
Poboljšanje — Nesukladnosti, korektivne radnje, kontinuirano poboljšavanje

Procjena učinka AI sustava

Jedan od ključnih elemenata standarda je zahtjev za procjenu učinka (AI system impact assessment) koja obuhvaća:

Utjecaj na pojedince i skupine (uključujući temeljna prava)
Etička razmatranja (pravednost, transparentnost, odgovornost)
Društveni i okolišni utjecaj
Rizike specifične za AI (pristranost, objašnjivost, robusnost)

Prilog standarda

Standard uključuje informativne priloge koji pružaju praktične smjernice:

Annex A — Kontrole upravljanja AI sustavima
Annex B — Smjernice za implementaciju kontrola
Annex C — Potencijalni ciljevi i izvori rizika povezani s AI
Annex D — Korištenje sustava upravljanja AI u različitim domenama

Kako se primjenjuje na organizacije?

Relevantnost za EU AI Act

Iako ISO/IEC 42001 nije harmonizirani standard prema EU AI Actu, on pruža strukturirani okvir koji pomaže organizacijama ispuniti mnoge zahtjeve Uredbe:

Sustav upravljanja kvalitetom (čl. 17.) — ISO 42001 direktno podržava uspostavljanje sustava koji zadovoljava zahtjeve AI Acta
Upravljanje rizicima (čl. 9.) — AIMS uključuje sustavno upravljanje rizicima AI sustava
Dokumentacija (čl. 11.) — Standard zahtijeva opsežnu dokumentaciju procesa i sustava
Praćenje nakon stavljanja na tržište (čl. 72.) — PDCA ciklus osigurava kontinuirano praćenje

Certifikacija

Organizacije mogu dobiti ISO/IEC 42001 certifikaciju od neovisnog certifikacijskog tijela (CAB — Conformity Assessment Body). Certifikacija dokazuje da je sustav upravljanja AI-jem organizacije verificiran prema međunarodno priznatim standardima.

Praktični koraci za implementaciju

Gap analiza — Procijenite trenutno stanje upravljanja AI sustavima u organizaciji
Definiranje opsega — Odredite koje AI sustave i procese obuhvaća AIMS
Procjena rizika — Identificirajte i procijenite rizike povezane s vašim AI sustavima
Implementacija kontrola — Primijenite kontrole iz Annexa A prilagođene vašem kontekstu
Dokumentacija — Razvijte potrebnu dokumentaciju (politike, procedure, zapise)
Interne revizije — Provedite interne revizije za provjeru učinkovitosti
Certifikacija — Po želji, zatražite vanjsku certifikaciju

Relevantni članci EU AI Acta

Članak	Povezanost s ISO 42001
Čl. 9.	Upravljanje rizicima → AIMS procjena rizika
Čl. 10.	Upravljanje podacima → Kontrole za životni ciklus podataka
Čl. 11.	Tehnička dokumentacija → Zahtjevi za dokumentaciju
Čl. 17.	Sustav upravljanja kvalitetom → AIMS okvir
Čl. 72.	Praćenje nakon tržišta → PDCA kontinuirano poboljšavanje

Izvorni dokument

Službena stranica standarda: ISO/IEC 42001:2023 — AI management systems

Objašnjenje standarda od ISO-a: ISO 42001 explained