DATA - Internet ogledalo specijalno izdanje IO 191 DATA SPECIJAL | Page 51
jednostavno pozvati slanjem odgo-
varajuće formatiranog zahteva u kome
se nalaze real time parametri upita (kom-
binacija onoga što je korisnik uneo u
online formularu za kredit/suma, broj
rata, razlog uzimanja itd. i onoga što
držite u vašoj korisničkoj bazi /kredi-
tna istorija, stanje na računu, kamatna
stopa itd.), a model će vam vratiti infor-
maciju da li datoj osobi treba dati kre-
dit, i kolika je vaša projektovana zarada
ako se taj kredit realizuje.
A šta ako sam model
nije savršen?
Budući da većina izvora podata-
ka koje koristimo u izradi modela do-
lazi iz realnog sveta ljudskih interak-
cija sa različitim računarskim sistemi-
ma u okviru mnoštva poslovnih pro-
slučajevima tokom testiranja modela
uočavaju se određena ponašanja koja
nisu željena ili optimalna. Za razliku
od klasičnih programskih algoritama,
gde se programer uvek može vratiti
na izvorni kod i uraditi eksplicitni de-
bugging liniju po liniju za konkretne
ulazne podatke, i lako „naštelovati” al-
goritam da ukine neželjeno ponašanje,
kod ML modela stvar je drugačija.
Svaka izmena ML modela zahteva
detaljno razumevanje problema, inter-
venciju na podacima kojima se model
trenira (a to mogu biti različite nijanse
kombinacija parametara, primenjene
na stotine hiljada zapisa), i zatim retre-
niranje modela, te njegovo testiranje
da se vidi da li su neželjena ponašanja
nestala. Ponekad su devijacije mode-
la tako male i tako teško primetne da
je ljudskim okom ili pri uobičajenom primetiti ovaj problem u ograničenom
testiranju, ali bi se nakon vožnje od
1.000 km mogla desiti katastrofalna
nesreća).
testiranju jako teško uočiti ove pro-
bleme koji, ako model dođe u inten-
zivnu produkciju, mogu uzrokova-
ti štetu (zamislite samo ML model za
samovozeći automobil koji zanosi au-
tomobil 2 mm udesno po svakom pre-
đenom kilometru; bilo bi jako teško efekata u ML modelima, odn. kreiranje
takozvanog „fair AI”. Više o ovoj temi
možete pročitati u blogu prve Srpkinje
koja je dosegla prestižnu titulu IBM
Fellow, Aleksandre Mojsilović iz IBM
Research tima: https://www.ibm.com/
blogs/research/2018/08/factsheets-ai/
Gde je rešenje?
Shvativši predstojeći bum upotrebe
ML i AI rešenja u svakodnevnom
životu u narednim godinama, IBM je
posvetio jako puno pažnje proble-
mu tzv. „AI Bias”-a, drugim rečima
uočavanju i ispravljanju grešaka i
nesavršenosti u trening podacima za
sisteme veštačke inteligencije. Kao je-
dan od članova „Partnership on AI”
fondacije (partnershiponai.org), zaje-
dno sa ostalim velikim IT kompani-
jama, IBM je uložio puno resursa u
kreiranje algoritama za otkrivanje
AI Biasa, i za neutralizaciju njegovih
Aleksandra Mojsilović
cesa, neću vas iznenaditi činjenicom
da takvi modeli u sebi mogu inheren-
tno sadržati ne samo pozitivno zna-
nje i iskustvo ljudi koji su te podatke
kreirali, već potpuno suprotno, i ra-
zličite greške ili neiskustvo. U takvim
Internet ogledalo - specijalno izdanje - DATA