Gondoltál már arra, hogy nálatok pontosan milyen AI rendszereket használtok, az AI rendszerek milyen adatokkal dolgoznak, ki felel értük, mennyire bízhatsz az általuk adott eredményekben, és van-e terved arra az esetre, ha valami nem úgy működik, ahogy kellene?
Ezekre a kérdésekre nem egy egyszer elkészített szabályzat vagy eljárás fog választ adni. A felelős AI használat folyamatos irányítást és ellenőrzést igényel. Ebben adhat fontos keretet az ISO/IEC 42001, az AI irányítási rendszer szabványa.
Amikor egy új szabvány kerül szóba, a vezetők fejében gyakran azonnal megszólal a kérdés: „Mi az, amit már megint le kell papíroznunk, és milyen új rendszert kell ehhez felépítenünk?
Az ISO/IEC 42001 esetében azonban érdemes egy másik kérdéssel kezdeni: Mi az, ami már most is működik nálunk, és mi az, amit ehhez az AI használata miatt kell kiegészítenünk?
Mert nem feltétlenül egy teljesen új rendszert kell felépíteni. Sokkal inkább azt kell megnézni, hogyan tudjuk a már meglévő folyamatainkat és kontrolljainkat az AI használatából fakadó új kockázatokhoz és elvárásokhoz igazítani.
De van egy kérdés, amivel érdemes kezdeni: Mi a szervezetünk szerepe az AI rendszerben? Saját AI rendszert fejlesztünk? AI alapú szolgáltatást nyújtunk? Vagy más által fejlesztett AI megoldást használunk?
Ez nem pusztán terminológiai kérdés. A szerepünk meghatározza, hogy milyen felelősségünk van, milyen kockázatokat kell kezelnünk, és mire kell bizonyítékot szolgáltatnunk. Ráadásul egy szervezet egyszerre több szerepet is betölthet.
Az ISO/IEC 42001 segít kialakítani azt a keretrendszert, amelyben az AI-hoz kapcsolódó felelősségek meghatározhatók, nyomon követhetők és számonkérhetők – mind a szervezeten belül, mind az értéklánc szereplői között.
A szabvány korai alkalmazói egyetértenek abban, hogy az ISO/IEC 42001 bevezetése jelentősen hozzájárulhat ahhoz, hogy egy szervezet tudatosabban, átláthatóbban és felelősségteljesebben használja a mesterséges intelligenciát.
Egyre gyakrabban kell igazolnod partnereid, ügyfeleid, beszállítóid és más érintett felek számára, hogy az AI rendszereket ellenőrzött és felelős módon fejleszted, vezeted be és használod? Az ISO/IEC 42001 alkalmazása ehhez olyan irányítási keretet biztosít, amelyben a felelős AI használat nem pusztán szándék, hanem szabályozott és dokumentált működési gyakorlat.
A felelős AI egyik legfontosabb eleme a kockázatok felismerése és kezelése. Meg kell érteni, hogy milyen hatásai lehetnek, milyen kockázatokat hordoz, és milyen kontrollokkal lehet ezeket elfogadható szinten tartani. A szabványhoz kapcsolódó kontrollok többek között olyan területeket érintenek, mint az AIrendszerek hatásvizsgálata, az életciklus kezelése, a beszállítók és partnerek irányítása, valamint az AI-irányítási rendszer folyamatos fejlesztése.
Az ISO/IEC 42001-ről lehet hosszan beszélni: követelményekről, fejezetekről, kontrollokról és dokumentumokról. De a valódi kérdés nem az, hogy mit ír elő a szabvány, hanem az, hogy mit kezdünk vele a gyakorlatban.
Egyre gyakrabban találkozol olyan fogalmakkal, mint az AI Act, az ISO/IEC 42001, a kontrollok, a kockázatkezelés vagy az AI-hallucinációk, de nem áll benned össze a kép arról, hogy ezek hogyan kapcsolódnak egymáshoz, és neked mit kell velük kezdened?
Szerző: Őzse Ilona, tanácsadó
Az illusztráció generatív AI alkalmazásával készült.
