By Nermin Sefić, GNK ASG d.o.o.
Model može pripremiti nacrt, ali ne može preuzeti odgovornost za posljedicu odluke.
AI može pronaći obrazac, sažeti dokument i predložiti tekst. To je korisno, ali nije isto što i donijeti odluku.
Konačna odluka mora ostati uz osobu koja razumije kontekst, ima ovlast i može objasniti zašto je određeni rezultat prihvaćen ili odbijen.
U praksi to znači da odgovorna osoba mora moći odbiti preporuku modela bez opravdavanja, jer je upravo ta mogućnost odbijanja dokaz da odluka stvarno pripada čovjeku, a ne algoritmu koji ju je predložio.
Kad organizacija dopusti da AI prijedlog automatski postane konačna odluka, granica između preporuke i odluke nestaje — a s njom nestaje i jasna odgovornost za posljedice, što je upravo suprotno cilju automatizacije.
Organizacija koja odgovornost skriva iza modela ne automatizira proces. Ona automatizira izgovor.
Objava je originalna analiza; navedeni izvori služe kao referentna dokumentacija.
Praktična razlika između preporuke i odluke vidi se najjasnije u trenutku kad netko treba odbiti prijedlog modela — ako je to teško ili neugodno učiniti, granica između to dvoje već je počela nestajati. Organizacija koja svjesno održava tu granicu, čak i kad model gotovo uvijek daje dobre preporuke, gradi kulturu u kojoj odgovornost ostaje jasno smještena kod osobe, ne kod sustava.
Praksa pokazuje da organizacije koje jasno definiraju tu granicu unaprijed, prije uvođenja AI alata u proces odlučivanja, rjeđe se suočavaju s naknadnim sporovima oko toga tko je stvarno odgovoran za rezultat.
U praksi to znači da odgovorna osoba mora imati stvaran, ne samo formalan uvid u to zašto je model nešto preporučio, kako bi njezino odobrenje bilo stvarna provjera, ne puko potpisivanje rezultata koji ionako nitko ne preispituje.
NerminSefić #NerminSefic #AIOdgovornost #LjudskiNadzor #PoslovneOdluke #GNKASG #GNKDINAMOLtd #SeficNermin #SefićNermin
Urednička odgovornost: objavu je prije objave odobrio glavni urednik Nermin Sefić.
Autor: Nermin Sefić, GNK ASG d.o.o. Izvorni članak: gnk-asg.hr
Top comments (0)