AI & Copilot
Kad algoritam odlučuje o ljudima: AI rizici, kontrola i odgovornost
Stvarni slučajevi pogrešne primjene algoritama i AI-a te praktičan pregled biasa, automatiziranih odluka, ljudskog nadzora, kontrola i odgovornosti.
Opis edukacije
Primjena AI-a i automatiziranog odlučivanja može značajno ubrzati obradu informacija, ali posljedice pogrešno dizajniranog sustava postaju ozbiljne kada algoritamski rezultat utječe na ljude, njihov novac, prava ili poslovne mogućnosti. Edukacija će kroz stvarne slučajeve pokazati različite vrste problema koji se mogu pojaviti kod primjene algoritama, automatizacije i generativne umjetne inteligencije. Analizirat ćemo primjere u kojima su problem predstavljali podaci, bias odnosno sustavna pristranost, pogrešno definirani kriteriji, nedovoljna transparentnost, neadekvatna ljudska kontrola ili nekritičko prihvaćanje rezultata automatiziranog sustava. Edukacija će objasniti false positive i false negative rezultate, odnosno situacije u kojima sustav pogrešno identificira problem ili ga ne uspije prepoznati. Poseban dio pokrit će malicioznu uporabu generativne umjetne inteligencije, uključujući lažno predstavljanje, deepfake sadržaj i socijalni inženjering. Na završnom poslovnom slučaju pokazat ćemo kako prije implementacije identificirati moguće failure modes, definirati kontrole, odrediti gdje mora postojati ljudski nadzor i osigurati mogućnost provjere donesenih odluka.
Što ćete naučiti
- razlikovati različite vrste AI i algoritamskih rizika - prepoznati mogućnost biasa i problema u podacima - razumjeti posljedice false positive i false negative odluka - procijeniti gdje je potreban ljudski nadzor - razumjeti važnost transparentnosti i audit traila - prepoznati osnovne oblike maliciozne uporabe AI-a - identificirati moguće failure modes prije implementacije - definirati osnovne kontrole AI-assisted procesa - postaviti ključna pitanja prije prepuštanja važne odluke automatiziranom sustavu
Za koga je ova edukacija
- management - javna uprava - HR - financije - compliance - pravni timovi - poslovni analitičari - process owners - IT - osobe uključene u odabir ili implementaciju AI rješenja
Preduvjeti
- nisu potrebna tehnička znanja - nije potrebno prethodno iskustvo rada s AI alatima - edukacija je prilagođena i poslovnim i tehničkim korisnicima