Aina ajankohtainen etiikka
Aina ajankohtainen etiikka
Chatbotteja kehitettäessä tietoturvan ohella näkökulma kiertyy usein etiikasta käytävään keskusteluun . Botit kuten muutkaan koneet eivät ymmärrä tai ota kantaa etiikkaan – ne eivät tunnista oikeaa väärästä . Ne käsittelevät tietoa symboleina , eivätkä piittaa sanojen tai lauseiden sisältämästä semantiikasta . Kun bottiin kirjoitetaan jotain , se reagoi kuten ihmiset ovat sille opettaneet . Sujuvasti vastaileva ja empaattinen botti voi tuntua hyvinkin mukavalta keskustelukumppanilta , eikä lainkaan robottimaiselta . Tänä päivänä edistyksellisimmät botit voivat olla niin hyviä , että käyttäjä voi erehtyä luulemaan bottivastausta toiselta ihmiseltä saaduksi . Botin kyvykkyys ja miellyttävyys saattavat tuntua mainioilta käyttäjäkokemuksen kannalta , mutta harhautuminen ymmärrykseen ihmisten välisestä keskustelusta on eettisestä näkökulmasta arveluttavaa .
Fiksu chatbot esittelee aina itsensä siten , että ihminen tietää olevansa tekemisissä robotin kanssa . Samalla kun käyttäjä naputtelee viestiään bottiin , hänellä on oltava myös selkeä käsitys siitä , minkä kanssa keskustelua käydään , mitä tietoja botille voi kirjoittaa , mihin tiedot menevät ja miten niitä käytetään .
AuroraAI-ohjelman Etiikka-työryhmän loppuraportin ( Valtiovarainministeriö 2022 ) mukaan tekoälyn hyödyntämisen näkökulmasta positiivisia , lupaavia ja jatkokehittämisen kannalta kiinnostavia elementtejä voivat olla tilanteet , joissa ihminen voi kuvata tilannettaan luonnollisella kielellä ja halutessaan luovuttaa dataansa hänelle soveltuvien palveluiden ja lisätietojen saamiseksi , juuri hänen omassa elämäntilanteessaan . Palveluiden toisiinsa yhdistämisen mahdollisuus - palvelu- ja organisaatiosiilojen purkaminen - nähtiin käytännön hyötyjä tuottavana sekä käyttäjälle itselleen että palveluiden tarjoajalle . Erilaiset mittakaavaltaan rajalliset ja kohderyhmän osalta selkeästi kontekstoidut kysely- ja chatbot-keskustelut yhdistettynä palveluehdotuksiin saattavat myös olla raportin mukaan jatkokokeilujen arvoisia .
Tiedolla tai datalla johtamisessa AuroraAI-ohjelman Etiikka-työryhmä tunnisti avoimia kysymyksiä eettisen toiminnan ja vastuullisuuden näkökulmista . Kriittisiä seikkoja olivat muun muassa datan keräämisessä käytössä olevat menetelmät ja kohteet , sekä se , että ihmisten tulisi olla tietoisia heistä kerättävästä tiedosta ja tiedonkeräämisen tarkoituksesta . Palveluja etsivien tieto- ja yksilönsuoja nousivat puheenaiheiksi - olisiko esimerkiksi mahdollista , että tunnistautumista vaatinut palvelu lähettäisi toiselle palvelulle sellaisia henkilötietoja , joita vastaanottavalla palvelulla ei olisikaan oikeutta saada . Keskustelussa esille kumpusi myös huoli , voisiko käyttäjän hajautettuja yksilöiviä piirteitä jälkikäteen kerätä yhteen , jos niiden alkuperäinen lähde on yhdessä pisteessä , kuten IP-osoitteessa . ( Valtiovarainministeriö 2022 .)
Kaikkein kriittisimmin AuroraAI-ohjelman Etiikka-työryhmä suhtautui ajatukseen , jossa pyritään ihmisen ” kokonaisvaltaiseen ymmärtämiseen ”, joka muodostuu kaikesta hänestä kerätyn , yhdistellyn ja jaetun tiedon perusteella . Henkilöstä muodostuisi ns . datapeilikuva ja hänestä voisi olla käytössä jatkuvasti tilannekuvaluonteinen dataprofiili , joka toisi tarvittavat palvelusuositukset saataville pyrkien siten kohentamaan yksilön hyvinvointia . Ongelmaksi koettiin , että älykäskään tietojärjestelmä ei pysty objektiivisesti ja luotettavasti tulkitsemaan yksittäisen ihmisen elämän todellisuutta , joka on jatkuvassa muutoksessa . Siksi on olemassa mahdollisuus koneen tekemiin vääriin johtopäätöksiin , joilla voi tekoälyn tuottamien palvelusuositusten muodossa olla ohjaavaa vaikutusta ihmisen elämään . ( Valtiovarainministeriö 2022 .) Kuinka paljon voimme nyt ja tulevaisuudessa luottaa tekoälyn neuvoihin ja ohjaustyöhön – onko sen tarjoama suunta oikea vai väärä – sitä varmasti me ihmiset tulemme pohtimaan vielä paljon .
” Tuntuu että siellä on ihminen , mutta eipä ookkaan ”
” Ei ole yhtään luontevaa , ei pysty hahmottamaan , kenen kanssa on tekemisissä ”
” Onko annettu vastaus varmasti oikea , olenko osannut kysyä asiani oikein tekoälyltä ”
Tulevaisuuden älykkäät kuntoutuspalvelut 14