DATA - Internet ogledalo specijalno izdanje IO 191 DATA SPECIJAL | Page 51

jednostavno pozvati slanjem odgo- varajuće formatiranog zahteva u kome se nalaze real time parametri upita (kom- binacija onoga što je korisnik uneo u online formularu za kredit/suma, broj rata, razlog uzimanja itd. i onoga što držite u vašoj korisničkoj bazi /kredi- tna istorija, stanje na računu, kamatna stopa itd.), a model će vam vratiti infor- maciju da li datoj osobi treba dati kre- dit, i kolika je vaša projektovana zarada ako se taj kredit realizuje. A šta ako sam model nije savršen? Budući da većina izvora podata- ka koje koristimo u izradi modela do- lazi iz realnog sveta ljudskih interak- cija sa različitim računarskim sistemi- ma u okviru mnoštva poslovnih pro- slučajevima tokom testiranja modela uočavaju se određena ponašanja koja nisu željena ili optimalna. Za razliku od klasičnih programskih algoritama, gde se programer uvek može vratiti na izvorni kod i uraditi eksplicitni de- bugging liniju po liniju za konkretne ulazne podatke, i lako „naštelovati” al- goritam da ukine neželjeno ponašanje, kod ML modela stvar je drugačija. Svaka izmena ML modela zahteva detaljno razumevanje problema, inter- venciju na podacima kojima se model trenira (a to mogu biti različite nijanse kombinacija parametara, primenjene na stotine hiljada zapisa), i zatim retre- niranje modela, te njegovo testiranje da se vidi da li su neželjena ponašanja nestala. Ponekad su devijacije mode- la tako male i tako teško primetne da je ljudskim okom ili pri uobičajenom primetiti ovaj problem u ograničenom testiranju, ali bi se nakon vožnje od 1.000 km mogla desiti katastrofalna nesreća). testiranju jako teško uočiti ove pro- bleme koji, ako model dođe u inten- zivnu produkciju, mogu uzrokova- ti štetu (zamislite samo ML model za samovozeći automobil koji zanosi au- tomobil 2 mm udesno po svakom pre- đenom kilometru; bilo bi jako teško efekata u ML modelima, odn. kreiranje takozvanog „fair AI”. Više o ovoj temi možete pročitati u blogu prve Srpkinje koja je dosegla prestižnu titulu IBM Fellow, Aleksandre Mojsilović iz IBM Research tima: https://www.ibm.com/ blogs/research/2018/08/factsheets-ai/ Gde je rešenje? Shvativši predstojeći bum upotrebe ML i AI rešenja u svakodnevnom životu u narednim godinama, IBM je posvetio jako puno pažnje proble- mu tzv. „AI Bias”-a, drugim rečima uočavanju i ispravljanju grešaka i nesavršenosti u trening podacima za sisteme veštačke inteligencije. Kao je- dan od članova „Partnership on AI” fondacije (partnershiponai.org), zaje- dno sa ostalim velikim IT kompani- jama, IBM je uložio puno resursa u kreiranje algoritama za otkrivanje AI Biasa, i za neutralizaciju njegovih Aleksandra Mojsilović cesa, neću vas iznenaditi činjenicom da takvi modeli u sebi mogu inheren- tno sadržati ne samo pozitivno zna- nje i iskustvo ljudi koji su te podatke kreirali, već potpuno suprotno, i ra- zličite greške ili neiskustvo. U takvim Internet ogledalo - specijalno izdanje - DATA