By Nermin Sefić, GNK ASG d.o.o.
Usklađenost s AI pravilima počinje mapiranjem stvarne uporabe modela, vlasnika procesa i posljedica pogreške.
Organizacija ne može upravljati AI rizikom ako ne zna gdje se AI stvarno koristi. Službeni popis nabavljenih alata nije dovoljan jer se modeli pojavljuju i unutar postojećih platformi, dodataka i vanjskih usluga.
Operativna spremnost zahtijeva vlasnika svakog slučaja uporabe, klasifikaciju podataka, opis ljudskog nadzora, postupak prijave incidenta i pravilo za povlačenje rezultata koji nije pouzdan.
Dokumentacija ne smije biti izrađena samo za regulatora. Ona mora pomoći zaposleniku da razumije kada smije koristiti model, koje podatke ne smije unijeti i tko potvrđuje konačnu odluku.
Najbolja usklađenost nastaje kada pravila prate stvarni tijek rada, a ne kada postoje u dokumentu odvojenom od procesa.
Problem otkrivanja stvarne uporabe AI-ja dodatno se komplicira činjenicom da zaposlenici često ne prijavljuju korištenje neformalnih alata jer ih ne doživljavaju kao 'AI sustav' u regulatornom smislu — čet asistent ugrađen u uredski paket, prevoditelj integriran u CRM, ili preporučitelj sadržaja u marketinškom alatu rijetko se percipiraju kao rizik koji treba prijaviti, iako svaki od njih obrađuje podatke i donosi preporuke koje utječu na poslovne odluke.
Praktičan pristup inventarizaciji stoga ne počinje s pitanjem 'koje AI alate koristimo', nego s pitanjem 'gdje se donose odluke koje bi mogle biti automatizirane', a zatim se za svaki takav proces provjerava je li AI uključen, u kojem obliku i s kojom razinom ljudskog nadzora. Ovaj obrnut pristup, koji polazi od poslovnog procesa umjesto od tehnologije, otkriva korištenje koje standardni popis softverskih licenci nikad ne bi zabilježio.
Vlasništvo nad slučajem uporabe mora uključivati ne samo tehničku odgovornost, nego i poslovnu — osoba koja odgovara za proces mora razumjeti dovoljno o modelu da može procijeniti kada njegov rezultat treba dodatnu provjeru, a ne samo formalno potpisati dokument koji je netko drugi pripremio. Bez tog razumijevanja, ljudski nadzor postaje simboličan korak koji ne mijenja stvarnu razinu rizika kojem je organizacija izložena.
GNK ASG d.o.o. u vlastitoj operativnoj praksi zahtijeva da svaka nova primjena AI alata prođe kroz jednak postupak procjene rizika kao i uvođenje bilo kojeg drugog sustava koji obrađuje poslovne podatke, neovisno o tome je li riječ o samostalnom modelu ili funkciji ugrađenoj unutar postojeće platforme. Ta dosljednost, primijenjena bez iznimke, sprječava situaciju u kojoj se rizik prihvaća nenamjerno, jednostavno zato što alat nije prepoznat kao 'AI' u trenutku uvođenja.
Regulatorni okvir poput EU AI Acta postavlja minimalne zahtjeve, ali organizacije koje čekaju konačno tumačenje svake odredbe prije nego počnu graditi internu praksu rizikuju da se nađu nespremne kad rokovi usklađenosti stvarno dođu. Praktičniji pristup je izgraditi operativnu spremnost oko načela koja vjerojatno neće bitno promijeniti — vlasništvo, transparentnost, mogućnost objašnjenja — umjesto čekanja na detalje koji se mogu mijenjati do posljednjeg trenutka.
Objava je originalna analiza; navedeni izvori služe kao referentna dokumentacija.
AIAct #AIGovernance #UsklađenostUmjetneInteligencije #UskladenostUmjetneInteligencije #UpravljanjeModelima #NerminSefic #NerminSefić #GNKASG #GNKDINAMOLtd #SeficNermin #SefićNermin
Urednička odgovornost: objavu je prije objave odobrio glavni urednik Nermin Sefić.
Autor: Nermin Sefić, GNK ASG d.o.o. Izvorni članak: gnk-asg.hr
Top comments (0)