Roland Parts Selitettävyyden ja vuorovaikutuksen kehittäminen tekoälypohjaisissa rekrytointijärjestelmissä Työnhakijoiden näkökulma Vaasa 2024 Tekniikan ja innovaatiojohtamisen yksikkö Kauppatieteiden Pro gradu -tutkielma Teknisen viestinnän maisteriohjelma 2 VAASAN YLIOPISTO Tekniikan ja innovaatiojohtamisen yksikkö Tekijä: Roland Parts Tutkielman nimi: Selitettävyyden ja vuorovaikutuksen kehittäminen tekoälypohjaisissa rekrytointijärjestelmissä: Työnhakijoiden näkökulma Tutkinto: Kauppatieteiden maisteri Oppiaine: Tekninen viestintä Työn ohjaaja: Tomi Pasanen Valmistumisvuosi: 2024 Sivumäärä: 117 TIIVISTELMÄ: Tekoälypohjaisia rekrytointijärjestelmiä käytetään yhä enemmän työnhakijoiden seulonnassa ja arvioinnissa, vaikka niiden selitettävyys ja vuorovaikutuksellisuus ovat jääneet vähälle huomiolle työnhakijoiden näkökulmasta. Tekoälypohjainen päätöksenteko voi vaikuttaa merkittävästi hakijoiden luottamukseen ja kokemukseen rekrytointiprosessista, mutta tähän mennessä tutkimus on keskittynyt pääsiassa järjestelmien tehokkuuteen. Selitettävyyden ja vuorovaikutuksellisuuden tarkastelu työnhakijoiden näkökulmasta on kuitenkin tarpeellista, sillä päätöksenteon läpinäkyvyys ja mahdollisuus vuorovaikutukseen voivat parantaa hakijoiden hyväksyntää ja sitoutumista rekrytointiprosessiin. Tämän tutkimuksen tavoitteena on kartoittaa, millaisia selitettävyys- ja vuorovaikutusodotuksia työnhakijoilla on tekoälypohjaisissa rekrytointijärjestelmissä. Tutkimus toteutettiin konstruktiivisella tutkimusotteella ja aineisto kerättiin teemahaastatteluilla, joissa haastateltiin työnhakijoita eri taustoista. Aineisto analysoitiin sisällönanalyysin avulla, mikä mahdollisti työnhakijoiden kokemusten ja näkökulmien syvällisen tarkastelun. Tutkimuksen tuloksena muodostettiin ohjeistus, joka käsittelee selitettävyyden ja vuorovaikutuksellisuuden kehityssuuntia tekoälypohjaisissa rekrytointijärjestelmissä. Ohjeistuksessa keskitytään selitysten selkeyteen, vuorovaikutusmahdollisuuksien lisäämiseen, kuten lisätietojen kysymiseen, sekä tekoälyn ja ihmisten välisten roolien selkeyttämiseen rekrytointiprosessin eri vaiheissa, kuten hakemisen, seulonnan ja arvioinnin yhteydessä. Ohjeistus sisältää konkreettisia suosituksia siitä, miten selitettävyys voidaan huomioida järjestelmän käyttöliittymän suunnittelussa ja miten vuorovaikutuksellisuutta voidaan lisätä esimerkiksi tarjoamalla reaaliaikaista palautetta hakijoille heidän edistymisestään prosessin aikana. Ohjeistuksen tarkoitus on tarjota rekrytoinnin kehittäjille kehityssuuntia, joiden avulla he voivat vastata työnhakijoiden toiveisiin selitettävyydestä ja vuorovaikutuksesta ja siten edistää hakijakokemusta tekoälypohjaisessa rekrytoinnissa. Jatkotutkimuksena voitaisiin arvioida ohjeistuksen käytettävyyttä ja vaikutuksia käytännön rekrytointitilanteissa sekä kartoittaa tarkemmin erilaisten työnhakijaryhmien, kuten eri ikäryhmien, näkemyksiä. Ohjeistuksen vaikutusta voitaisiin lisäksi arvioida käytännössä esimerkiksi pilottiohjelmien avulla, joissa tekoälypohjaisia rekrytointijärjestelmiä muokataan ohjeistuksen mukaisesti ja tarkastellaan, miten muutokset vaikuttavat hakijakokemukseen ja luottamukseen rekrytointiprosessiin AVAINSANAT: Selittävä tekoäly, läpinäkyvyys, rekrytointijärjestelmät, luotettavuus 3 Sisällys 1 Johdanto 7 1.1 Tutkimuksen tavoite ja menetelmä 9 1.2 Tutkielman rakenne 9 2 Tekoäly rekrytoinnissa 10 2.1 Tekoälyn määrittely ja lähestyminen 10 2.2 Tekoälyllä tehokkuutta rekrytointiprosessiin 12 2.3 Tekoälypohjaiset rekrytointijärjestelmät 17 2.3.1 Ennakoiva analytiikka 18 2.3.2 Algoritminen päätöksenteko 20 2.3.3 Keskustelevat käyttöliittymät 21 2.4 Tekoälyn vaikutuksia työnhakijan asemaan rekrytoinnissa 23 3 Selittävä tekoäly 28 3.1 Läpinäkyvyyden merkitys 29 3.1.1 Läpinäkyvyyden tasot tekoälyjärjestelmissä 30 3.1.2 Sidosryhmien intressit läpinäkyvyyden tasoilla 33 3.1.3 Selittävän tiedon ymmärtäminen 37 3.2 Selitettävyystietoinen suunnittelu 40 3.2.1 Selitettävyystavoitteet 42 3.2.2 Vaatimusten analysointi ja määrittely 47 3.2.3 Multimodaalinen vuorovaikutussuunnittelu 49 3.2.4 Vuorovaikutukselliset selitettävyyslähestymistavat 52 4 Tutkimusmenetelmä- ja aineisto 55 4.1 Tutkimusmenetelmä 55 4.2 Haastateltavat 56 4.3 Aineisto 57 4.4 Aineiston analyysi 59 5 Tutkimuksen tulokset 62 4 5.1 Työnhakijoiden odotukset tekoälypohjaisten rekrytointijärjestelmien selitettävyydestä 62 5.1.1 Tulosperusteisen selitettävyyden määrittäminen 64 5.1.2 Prosessiperusteisen selitettävyyden määrittäminen 67 5.2 Tekoälyjärjestelmien vuorovaikutuksellisuuden merkitys rekrytointiprosessissa 68 5.2.1 Reaaliaikaisen informaation merkitys 70 5.2.2 Mahdollisuus kysyä lisätietoja ja tarkennuksia 71 5.2.3 Tekoälyn ja ihmisen roolien selkeys 73 6 Toteutus 75 6.1 Motivaatio ja vaatimukset 75 6.2 Suunnittelu 77 6.3 Ohjeistuksen toteutus 84 6.4 Arviointi 86 7 Johtopäätökset ja pohdinta 90 Lähteet 93 Liitteet 105 Liite 1. Haastattelurunko 105 Liite 2. Selitettävyyden ja vuorovaikutuksellisuuden konseptuaalinen kehittäminen 108 5 Kuvat Kuva 1. keskustelevien käyttöliittymien toimintoja ja rooleja rekrytointikontekstissa (Koivunen ja muut, 2022, s. 509–510). 23 Kuviot Kuvio 1. Tekoälyn lähestymistavat tieteessä (Russell ja muut, 2022, s. 19). 12 Kuvio 2. Tehostavat roolit rekrytointiprosessissa (Nikolaou, 2021; Pillai ja muut, 2022). 16 Kuvio 3. Tekoälypohjaisten rekrytointijärjestelmien kehityssuuntia (Albassam, 2023, s. 65). 18 Kuvio 4. Päätöspuumalli (Zhang, 2022, s. 15 689). 21 Kuvio 5. Läpinäkyvyyden tasot tekoälyjärjestelmissä (Haresamudram ja muut, 2023, s. 95). 31 Kuvio 6. Sidosryhmien luokitus läpinäkyvyyden tasoilla (Barredo Arrieta ja muut, 2020, s. 84). 34 Kuvio 7. Selitystyypit (Leslie & Briggs, 2021, s. 12). 40 Kuvio 8. Suunnittelulähestymistapojen hierarkia (Benyon, 2019; Bingley ja muut, 2023). 42 Kuvio 9. DoReMi-suunnittelumalli (Schoonderwoerd ja muut, 2021, s. 2). 48 Kuvio 10. Ennusteen ja selittämisen tuottamisen prosessi (Clement ja muut, 2023, s. 81). 50 Kuvio 11. Läpinäkyvien ja jälkiselitettävien mallien prosessi (Vilone & Longo, 2021, s. 616). 51 Taulukot Taulukko 1. Vaikutuksista työntekijän asemaan hyötyjen ja riskien kannalta (Black & van Esch, 2020; Hunkenschroer & Luetge, 2022; Lookadoo & Moore, 2024). 27 Taulukko 2. Vaatimukset selitettävyydelle. 76 6 Taulukko 3. Vuorovaikutukselliset vaatimukset. 77 7 1 Johdanto Neljännen teollisen vallankumouksen mukanaan tuomat teknologiat, kuten tekoäly ja automaatio, ovat muuttaneet merkittävästi organisaatioiden sähköisiä rekrytointiprosesseja (Nikolaou, 2021, s. 2). Pillai ja muut (2022, s. 709–710) toteavat, että nykyisin teknologioiden avulla voidaan suorittaa monimutkaisia tehtäviä, kuten hakijoiden houkuttelua, arviointi ja valintaa, älykkäiden tietoteknisten järjestelmien avulla, jolloin toiminta jäljittelee rekrytointiammattilaisten päätöksentekoa. Tutkimukset osoittavat, että tekoälypohjaisia rekrytointijärjestelmiä hyödyntävät jo yli 90 % organisaatioista Yhdysvalloissa, Isossa-Britanniassa ja Saksassa, mikä viittaa merkittävään muutokseen henkilöstöhallinnoissa (Lookadoo & Moore, 2024, s. 3–4). Duongin & Thin (2022, s. 67) mukaan tekoälyn käyttö vaikuttaa erityisesti rekrytointiprosessien tehokkuuteen, mutta myös organisaatioiden ja hakijoiden välisen viestinnän kehittämiseen sillä tekoäly voi automatisoida viestintää ja parantaa tiedonkulkua rekrytointiprosessin eri vaiheissa. Tekoälypohjaiset rekrytointijärjestelmät, erityisesti algoritmisen päätöksenteon, ennakoivan analytiikan ja keskustelevien käyttöliittymien muodossa, ovat lisänneet rekrytoinnin tehokkuutta, tarkkuutta ja oikeudenmukaisuutta sekä vähentäneet inhimillisten ennakkoluulojen vaikutusta (Albassam, 2023, s. 6–7; Hunkenschroer & Luetge, 2022, s. 997). Hunkenschroerin & Luetgen (2022, s. 997) mukaan teknologisen muutoksen keskellä on kuitenkin herännyt huolta tekoälyn käytön läpinäkyvyydestä ja selitettävyydestä, sillä työnhakijoiden näkökulmasta on edelleen epäselvää, millä tiedoilla heitä arvioidaan ja kuinka nämä tiedot vaikuttavat valintapäätöksiin. Läpinäkyvyyden puute rekrytointijärjestelmissä voi heikentää työnhakijoiden luottamusta prosessiin, sillä monimutkaisia järjestelmiä pidetään usein vaikeasti selitettävissä olevina ja lisäksi on pelko, että valintamenettelyjä saatettaisiin manipuloida (Van Iddekinge ja muut, 2023, s. 671). 8 Selittävän tekoälyn lähestymistavat tarjoavat potentiaalisia ratkaisuja tekoälyn ja ihmisen välisen vuorovaikutuksellisen läpinäkyvyyden kehittämiseksi, mikä korostaa myös työnhakijoiden oikeudenmukaisia mahdollisuuksia ymmärtää valintaprosessia (Haresamudram ja muut, 2023, s. 97–98). Haresamudram ja muut (2023) osoittavat, että keskustelu tekoälyjärjestelmien läpinäkyvyydestä on kehittynyt pitkään ikään kuin vuorovaikutuksen elementit eivät vaikuttaisi siihen. Heidän mukaansa päätösten selitettävyyttä sekä tekoälyjärjestelmien ja ihmisen välistä vuorovaikutusta läpinäkyvyyden moniulotteisuuden kannalta on tutkittu toistaiseksi vähän erilaisissa konteksteissa. Langer & König (2023) ovat tutkineet henkilöstöhallinta- ja rekrytointijärjestelmien algoritmisten päätösten läpinäkymättömyyden mahdollisia negatiivisia vaikutuksia eri käyttäjäryhmien näkökulmista. Lisäksi Langer ja muut (2021) tarkastelevat keskeisiä käsitteitä ja suhteita, joita tulisi huomioida, kun valitaan, arvioidaan, säädetään tai kehitetään selitettävyyslähestymistapoja, joiden tavoitteena on tyydyttää järjestelmän käyttäjien toiveita selitettävyydestä. Chromik & Butz (2021) ovat tutkineet vuorovaikutussuunnittelua selittävän tekoälyn periaatteiden näkökulmasta ja muodostivat vuorovaikutuskonseptit selittävän tekoälyn periaatteiden mukaisiksi. Leslie & Briggs (2021) esittelevät tapaustutkimuksessaan ohjeistuksen, jota voidaan hyödyntää tekoälypohjaisten rekrytointijärjestelmien selitystietoisessa suunnittelussa. Selitettävän tekoälyn lähestymistapoja rekrytointiprosessien läpinäkyvyyden ja vuorovaikutuksen parantamiseksi työnhakijoiden näkökulmasta on tutkittu toistaiseksi vain vähän. Tämä tutkielma keskittyy selitettävän tekoälyn vuorovaikutuksellisen läpinäkyvyyden suunnitteluun ja tekoälyperusteisten rekrytointijärjestelmien selitettävyyden kehittämiseen työnhakijoiden tarpeet huomioiden. Tutkimuksessa tarkastellaan työnhakijoita kohderyhmänä ja analysoidaan heidän asemaansa ja odotuksiaan rekrytointiprosessissa. Empiirisen tutkimuksen pohjalta muodostetaan ohjeistus, joka esittelee keskeiset selitettävyyslähestymistavat ja vuorovaikutuksellisuuden ratkaisut, joilla voidaan tukea työnhakijoiden ymmärrystä ja osallisuutta tekoälypohjaisissa rekrytointijärjestelmissä. 9 1.1 Tutkimuksen tavoite ja menetelmä Tämän tutkimuksen tavoitteena on selvittää, miten tekoälypohjaisten rekrytointijärjestelmien vuorovaikutuksellista läpinäkyvyyttä voidaan kehittää. Tutkimusmenetelmänä käytetään konstruktiivista tutkimusotetta. Tutkimuskysymykset ovat: ”Millaisia selitettävyyslähestymistapoja työnhakijat odottavat tekoälypohjaisilta rekrytointijärjestelmiltä? ” ”Miten tekoälypohjaisten rekrytointijärjestelmien tekemät päätökset ja käsittelemät tiedot tulisi esittää työnhakijoille rekrytointiprosessin aikana?” 1.2 Tutkielman rakenne Tutkielma koostuu seitsemästä kappaleesta. Johdannossa esitetään tutkimuksen aihe, tavoitteet, tarkoitus, menetelmä ja rakenne. Teoria on jaettu kahteen pääkappaleeseen, jotka ovat tekoäly rekrytointijärjestelmissä ja selittävä tekoäly. Tutkimusmenetelmä kappaleessa käsitellään, miten tutkimus suunniteltiin ja toteutettiin. Tutkimustulokset esitetään viidennessä kappaleessa. Toteutuskappaleessa esitetään, miten konstruktio suunniteltiin ja toteutettiin. Lopuksi esitetään tutkimuksesta tehdyt johtopäätökset ja pohdinta. 10 2 Tekoäly rekrytoinnissa Neljännen teollisen vallankumouksen myötä useat eri alat, mukaan lukien henkilöstöhallinto ja sen käyttämät rekrytointijärjestelmät, ovat kokeneet merkittäviä muutoksia (Norman, 2022, s. 37). Pillai ja muiden (2022, s. 709–710) mukaan tekoäly on keskeisin teknologia rekrytointijärjestelmien uudistuksessa, sillä sen avulla organisaatiot voivat automatisoida tiedonkäsittelyä ja päätöksentekoa tehokkaasti. Myös Black & van Esch (2020, s. 218–219) korostavat automaation merkitystä erityisesti rekrytointiprosessin neljässä keskeisessä vaiheessa, joita ovat markkinointi, seulonta, arviointi ja koordinointi. Henkilöstöhallinnon alalla tekoälypohjainen prosessiautomaatio tarkoittaa, että ohjelmistot voivat tehdä ja toteuttaa päätöksiä algoritmisesti usein ilman merkittävää ihmisen osallistumista (Johnson ja muut, 2021, s. 42). Tässä kappaleessa ja sen alaluvuissa tarkastellaan tekoälyn roolia sekä merkitystä rekrytoinnin eri vaiheissa. Ensin määritellään tekoäly ja sen lähestymistavat ja analysoidaan, miten tekoäly voi tehostaa rekrytointiprosessia. Tämän jälkeen käsitellään tekoälypohjaisia rekrytointijärjestelmiä ennakoivan analytiikan, algoritmisen päätöksenteon ja keskustelevien käyttöliittymien näkökulmista. Lopuksi pohditaan tekoälyn vaikutuksia työnhakijoiden asemaan ja heidän kohtaamiinsa ongelmiin rekrytointiprosessissa. Tämä kokonaisuus tarjoaa kattavan kuvan tekoälyn monipuolisista rooleista ja vaikutuksista rekrytointikontekstissa. 2.1 Tekoälyn määrittely ja lähestyminen Tekoäly viittaa tietokoneiden ja ohjelmistojen kykyyn suorittaa tehtäviä, jotka tavallisesti edellyttävät inhimillistä älykkyyttä (Osaba, 2021, s. 3). Campesaton (2020, s. 5–6) mukaan tekoälyn soveltamia tehtäviä voivat olla päätöksenteko, oppiminen, ongelmanratkaisu ja kielen ymmärtäminen, ja näiden tehtävien moninaisuus ulottuu yksinkertaisista automaatiotehtävistä monimutkaisiin päätöksentekoprosesseihin. 11 Keskeisenä osana tekoälyn toimintaa on sen kyky hyödyntää suuria määriä dataa oppimisprosesseissaan (Russell ja muut, 2022, s. 44). Tekoälyjärjestelmät analysoivat ja prosessoivat dataa tunnistaakseen olennaisia tietoja ja kaavoja, mikä mahdollistaa niille päätelmien tekemisen, oppimisen kokemuksista ja mukautumisen uusiin tilanteisiin (Russell ja muut, 2022, s. 43). Russell ja muut (2022, s. 44) korostavat, että tekoälyn keskeinen tarkoitus on luoda lisäarvoa kerätystä datasta. Osaba (2021, s. 2) toteaa, että tekoälyn viitekehykseen liittyy monia alasektoreita, joista erityisesti koneoppiminen, syväoppiminen ja optimointi korostuvat niiden datakeskeisten menetelmien vuoksi, sillä ne perustuvat tietojenkäsittelyn ja tilastotieteen käsitteisiin. Tekoälyn keskeisiä osa-alueita ovat myös esimerkiksi luonnollisen kielen käsittely, tiedon mallintaminen, robotiikka ja automaattinen päättely (Campesato, 2020, s. 18). Tekoäly on monimuotoinen tieteenala, jonka tavoitteena on kehittää älykkäitä järjestelmiä reaalimaailman ongelmien ratkaisemiseen (Osaba, 2021, s. 2). Russell ja muut (2022, s. 19) esittävät, että tekoälytutkimusta voidaan tarkastella ihmisten kaltaisuuden ja rationaalisuuden sekä ajatteluun ja käyttäytymiseen perustuvien mallien kautta. Neljä keskeistä lähestymistapaa, joita tekoälytutkimuksessa käytetään, ovat inhimillinen ajattelu, rationaalinen ajattelu, inhimillinen toiminta ja rationaalinen toiminta (Russell ja muut, 2022, s. 20). Vold (2024, s. 231–232) määrittelee inhimillisen ajattelun lähestymistavaksi, jossa keskitytään mallintamaan ihmisen kognitiivisia toimintoja, kuten päättelyä ja muistia. Rationaalinen ajattelu puolestaan perustuu matemaattisiin ja teknisiin periaatteisiin ja pyrkii loogisiin päätöksiin. Russell ja muut (2022, s. 19) kuvaavat inhimillistä toimintaa ja ajattelua lähestymistapana, jossa järjestelmät toimivat ympäristössä ihmisten tavoin. Kun taas Fanin ja muiden (2022, s. 2–3) mukaan, että rationaalinen toiminta ja ajattelu tähtää optimaaliseen toimintaan tietyssä ympäristössä. Tekoälytutkimuksen lähestymistapoja ohjaa kaksijakoinen pyrkimys, joka jakautuu ihmisen kaltaisen 12 älykkyyden tavoitteluun ja muodollisen älykkyyden määrittelyyn (Russell ja muut, 2022, s. 19). Alla oleva kuvio 1 havainnollistaa tekoälytutkimuksen lähestymistapoja. Tässä tutkielmassa tarkastellaan erityisesti ihmisen kaltaista tekoälyä ja pyritään empiirisen tiedon avulla selvittämään työnhakijoiden odotuksia selitettävyydestä ja vuorovaikutuksesta tekoälypohjaisissa rekrytointijärjestelmissä. Kuvio 1. Tekoälyn lähestymistavat tieteessä (Russell ja muut, 2022, s. 19). 2.2 Tekoälyllä tehokkuutta rekrytointiprosessiin Nikolaou (2021, s. 2) määrittelee rekrytoinnin laajaksi käsitteeksi, joka kattaa monia eri elementtejä ja koostuu sarjasta prosesseja, järjestelmiä ja strategioita. Standardisoitu rekrytointiprosessi sisältää yleensä kuusi päävaihetta, jotka ovat tarve, houkuttelu, seuranta, arviointi, valinta ja palkkaus (Lee, 2007, s. 83). Lee (2007, s. 83) kuvaa, kuinka tarvevaiheessa organisaatioissa tunnistetaan työtarve, jonka pohjalta luodaan kandidaattiprofiili avoinna olevan tehtävän vaatimusten mukaisesti. Tämä profiili Tekoälyn lähestymistavat Ihmisen kaltainen älykkyys Muodollinen älykkyys Inhimillinen ajattelu Inhimillinen toiminta Rationaalinen ajattelu Rationaalinen toiminta 13 julkaistaan digitaalisissa kanavissa työpaikkailmoituksena organisaation verkkosivuilla ja työpaikkasivustoilla. Tekoälyä voidaan hyödyntää tarvemäärittelyn analysoinnissa ja mallintamisessa, jolloin kandidaattiprofiilien luomisesta tulee tarkempaa ja osuvampaa (Pillai ja muut, 2022, s. 710). Stone ja muut (2015, s. 217) toteavat, että työpaikkailmoituksen jälkeen siirrytään houkutteluvaiheeseen, jossa painopiste on tehokkaassa markkinoinnissa ja viestinnässä potentiaalisille hakijoille. Houkutteluvaihe on kehittynyt teknologian myötä menetelmiin, joissa hyödynnetään erilaisia digitaalisia työkaluja, kuten älykkäitä chatbotteja, joiden avulla pyritään tunnistamaan hakijoiden soveltuvuutta ja houkuttelemaan työtehtävään hakemista (Nikolaou, 2021, s. 2). Nikolaou (2021, s. 2) toteaa, että digitaalisia työkaluja hyödyntämällä pyritään luomaan kiinnostavaa sisältöä, kuten verkkopohjaisia työpaikkailmoituksia sekä sosiaalisen median kampanjoita, joiden avulla voidaan tavoittaa laajempi ja monimuotoisempi hakijajoukko. Stone ja muut (2015, s. 217) korostavat, että vahva työnantajabrändi yhdessä tehokkaiden houkuttelutoimenpiteiden kanssa on keskeinen tekijä laadukkaan hakijapoolin saamisessa, mikä puolestaan lisää mahdollisuuksia löytää oikea osaaja työtehtäviin. Houkutteluvaiheen aikana tai sen jälkeen alkaa yleensä rekrytointiprosessin hallinnollinen seurantavaihe (Lee, 2007, s. 84). Lee (2007, s. 84) kuvaa, että seurantavaiheeseen kuuluu työhakemusten kerääminen, hakijoiden ansioluetteloiden tallentaminen osaksi ehdokasprofiileja ja hakijoiden tilanteen seuraaminen rekrytointiprosessissa. Tässä vaiheessa standardimenetelmä on, että työnhakija voi luoda profiilin organisaation verkkosivuilla ja täyttää verkkolomakkeen. Lomakkeeseen täytetään tarvittavat tiedot ja liitetään pyydetyt tiedostot, kuten ansioluettelo ja valokuva (Laumer ja muut, 2015, s. 432). Lee (2007, s. 85) toteaa, että seurantavaiheen merkitys rekrytointiprosessissa korostuu erityisesti hakijoiden tietojen systemaattisessa hallinnassa ja hakuprosessin läpinäkyvyydessä. Tässä vaiheessa tekoälyjärjestelmät tehostavat hakijoiden tietojen analysointia ja profilointia, mikä nopeuttaa hakemusten käsittelyä ja parantaa ehdokkaiden ja organisaation välistä yhteensovittamista (Pillai ja muut, 2022, s. 710). 14 Arviointivaihe sisältää yleensä kaksiosaisen prosessin, jossa ensin hakijan ansioluettelo ja hakemuskirje seulotaan avainsanojen avulla, minkä jälkeen hakijaa arvioidaan syvällisemmin haastattelujen ja testien avulla (Lee, 2007, s. 84). Nikolaou (2021, s. 3) toteaa, että on yhä yleisempää tarkastella hakijoiden sosiaalisen median profiileja, kuten LinkedIniä ja Facebookia, heidän persoonallisuutensa arvioimiseksi. Faliagka ja muut (2012) esittävät lähestymistavan, jossa hakijat analysoidaan persoonallisuuden perusteella ja sijoitetaan paremmuusjärjestykseen heidän kompetenssiensa perusteella. Tekoälyä käytetään tehostamaan arviointivaihetta esimerkiksi automaattiseen analysointiin ja hakijoiden vertailuun, mikä mahdollistaa nopeamman, syvemmän ja tarkemman päätöksenteon (Pillai ja muut, 2022, s. 710). Nikolaou (2021, s. 3) mukaan tekoälyn avulla voidaan parantaa myös työnhakijoiden ja organisaatioiden välistä viestintää, mikä voi ilmetä automaattisena tiedottamisena, esimerkiksi hakijoiden työnhakuun liittyvistä suorituksista ja pisteytyksistä. Viestinnän merkitys korostuu erityisesti arviointi- ja valintavaiheessa, sillä nämä vaiheet sisältävät työnhaun kannalta merkityksellisiä ja sensitiivisiä henkilötietoja (Holm, 2012, s. 251–252). Lee (2007, s. 84) toteaa, että arviointivaiheen tavoitteena on valita potentiaalisimmat ehdokkaat, joita voidaan tarvittaessa haastatella uudelleen ennen lopullista valintaa ja palkkausta. Digitaaliset työkalut mahdollistavat myös videohaastattelujen toteuttamisen, jolloin hakijat voivat suorittaa haastattelut ajasta ja paikasta riippumatta (Nikolaou, 2021, s. 3). Toisaalta Langerin ja muiden (2017, s. 378) mukaan merkittävä osa hakijoista kokee digitaaliset haastattelut kuitenkin pelottavammiksi ja vähemmän henkilökohtaisiksi perinteisiin haastatteluihin verrattuna. Tekoälyn vaikutus videohaastatteluihin ilmenee automaatiossa, jossa esimerkiksi tekoälyagentit haastattelevat ja analysoivat hakijoita ihmisten sijasta (Pillai ja muut, 2022, s. 710). Yksinkertaisimmillaan rekrytoinnin tavoitteena on palkata oikeat henkilöt oikeisiin tehtäviin hyödyntämällä tehokkaita prosesseja, järjestelmiä ja strategioita (Lee, 2007, s. 15 85). Nikolaou (2021, s. 3) toteaa, että teknologiakehitys on ohjannut rekrytointiprosessien, -järjestelmien ja -strategioiden kehittämistä erityisesti houkutteluun, arviointiin ja viestintään liittyviin osa-alueisiin. Hunkenschroer & Luetge (2022, s. 998) kuitenkin huomauttavat, että rekrytointikehityksessä, kuten tekoälyperusteisissa rekrytointijärjestelmissä, painopiste on usein ollut organisaatioiden tehokkuuden parantamisessa sen sijaan, että keskittyisi kandidaattikokemuksen kehittämiseen. Tämä on osittain ymmärrettävää, sillä organisaatiot voivat saavuttaa kustannussäästöjä, jotka ylittävät jopa yli 50 prosenttia ei-tekoälypohjaisiin rekrytointijärjestelmiin verrattuna (Pillai ja muut, 2022, s. 709). Hunkenschroer & Luetge (2022, s. 1001) korostavat, että tekoälyperusteisissa rekrytointijärjestelmissä tulisi tulevaisuudessa kiinnittää enemmän huomiota kandidaattikokemuksen parantamiseen, sillä esimerkiksi järjestelmien automaattisen päätöksenteon läpinäkyvyys on tärkeää eettisyyden kannalta. Alla oleva kuvio 2 havainnollistaa tekoälyn roolia rekrytointiprosessien tehostavana työkaluna. 16 Kuvio 2. Tehostavat roolit rekrytointiprosessissa (Nikolaou, 2021; Pillai ja muut, 2022). Tarvevaihe • Tukea tarvemäärittelyn analysointiin ja mallintamisen Houkutteluvaihe • Chatbotit: Hakijoiden soveltuvuuden tunnistamiseen ja hakijoiden houkuttelemiseen tehtävään • Sisällöntuotanto: Kiinnostavan sisällön luomiseen Arviointivaihe • Avainsanojen analysointi: ansioluetteloiden ja hakemuskirjeiden avainsanaseulonta • Hakijoiden sosiaalisen median profiilit: mahdollistaa sosiaalisen median profiilien analysoinnin persoonallisuuden arvioimiseksi • Automatisoitu analyysi ja vertailu: syvempää hakijoiden vertailua ja arviointi päätöksenteon tueksi • Viestintä hakijoiden kanssa: automaattista tiedottamista rekrytoinnista Valintavaihe • Videohaastattelut ja tekoälyagentit: haastattelujen järjestäminen ja hakijoiden analysointi Seurantavaihe • Hakemusten ja ansioluetteloiden hallinta: Tehostavat hakijoiden tietojen analysointia ja profilointia • Hakemusten käsittelyn nopeutus ja yhteensovittaminen: Parantaa ehdokkaiden ja organisaatioiden välistä yhteensovittamista analysoimalla tietoja Tekoälyn tehostavat roolit rekrytointiprosesseissa 17 2.3 Tekoälypohjaiset rekrytointijärjestelmät Rekrytointijärjestelmän tekninen arkkitehtuuri on yleensä laaja kokonaisuus, joka koostuu erilaisista alijärjestelmistä, joita käytetään rekrytointiprosessiin liittyvien tehtävien suorittamiseen (Lee, 2007, s. 82). Lee (2007, s. 83–84) toteaa, että alijärjestelmiä voi olla useita, ja jokaisella niistä on oma erityinen tehtävänsä, kuten viestintä, hallinnointi, arviointi ja analysointi. Rekrytointijärjestelmän alijärjestelminä voivat olla esimerkiksi työtarpeenhallintajärjestelmä, rekrytoinnin suorituskykyanalyysijärjestelmä, arviointijärjestelmät, viestintäjärjestelmät sekä esikarsintahallintajärjestelmä (Laumer ja muut, 2015, s. 433). Rekrytointijärjestelmän alijärjestelmät voidaan nähdä rakenteistettuina tietoteknisinä komponentteina, joilla on määriteltyjä ominaisuuksia ja toiminnallisuuksia rekrytointitehtävien suorittamiseen (Laumer ja muut, 2015, s. 434). Laumer ja muut (2015, s. 432–433) kuvaavat, että rekrytointiprosessit jäsennellyiksi liiketoiminnan ydinprosesseiksi, joita virtaviivaistetaan tietoteknisten komponenttien avulla. Rekrytointiprosessissa tietotekninen kehitys on erityisesti keskittynyt houkuttelu-, arviointi- ja valintavaiheisiin sekä niihin liittyviin analysointityökaluihin (Nikolaou, 2021, s. 2–3). Pillai ja muut (2022, s. 710) korostavat, että tekoäly tukee näiden komponenttien kehittämistä parantamalla prosessien tehokkuutta ja tarkkuutta, mikä vaikuttaa myönteisesti rekrytointituloksiin. Tekoälypohjaisissa rekrytointijärjestelmissä korostuvat erityisesti, ennustettava analytiikka, algoritminen päätöksenteko ja keskustelevat käyttöliittymät (Albassam, 2023, s. 65). Pillai ja muut (2022, s. 711) toteavat, että tekoäly mahdollistaa myös luovien rekrytointijärjestelmien kehittämisen, esimerkiksi virtuaalisen todellisuuden ja pelillistämisen hyödyntämisen simuloiduissa työtehtävien arvioinneissa. Luovat rekrytointijärjestelmäratkaisut ovat kuitenkin harvinaisempia, sillä tekoälypohjaisten rekrytointijärjestelmien kehittäminen on keskittynyt ensisijaisesti datan hyödyntämiseen algoritmisessa päätöksenteossa, rekrytointitietojen data-analyyseissä 18 ja vuorovaikutuksellisissa keskustelevissa käyttöliittymissä (Woods ja muut, 2020). Alla oleva kuvio 3 havainnollistaa tekoälypohjaisten rekrytointijärjestelmien kehityssuuntia. Kuvio 3. Tekoälypohjaisten rekrytointijärjestelmien kehityssuuntia (Albassam, 2023, s. 65). 2.3.1 Ennakoiva analytiikka Albassam (2023, s. 6–7) toteaa, että ennakoiva analytiikka hyödyntää Big Dataa, tiedonlouhintaa ja koneoppimisalgoritmeja mallien tunnistamiseksi ja tulevien lopputulosten ennustamiseksi. Big Data ylittää perinteisten tietokantajärjestelmien käsittelykyvyn ja eroaa perinteisistä tietorakenteista (Zhang, 2022, s. 15 685). Zhangin 2022 (s. 15 686) mukaan Big Datasta etsitään malleja, trendejä tai hyödyllistä tietoa tiedonlouhinnan keinoin. Tiedonlouhintamenetelmiä ovat esimerkiksi luokittelu, klusterointi, assosiaatiosääntöjen löytäminen ja poikkeamien tunnistaminen (Gao, 2021, s. 3). Tekoälypohjaisten rekrytointijärjestelmien ominaisuuksien kehityssuunnat Ennustettava analytiikka Algoritminen päätöksenteko Keskustelevat käyttöliittymät Luovat ratkaisut (VR ja pelillistäminen) Yleiset ratkaisut Harvinaisemmat ratkaisut 19 Rekrytoinnin yhteydessä ennakoivaa analytiikkaa käytetään historiallisten tietojen analysoimiseen mallien tunnistamiseksi (Albassam, 2023, s. 14). Pillai ja muut (2022, s. 710–711) korostavat, että rekrytoinnissa kehitetään ennustemalleja tarkasti kohdistettuihin tarkoituksiin, kuten rekrytointimainontaan, kandidaattien arviointiin, heidän potentiaalisen suorituskykynsä ennustamiseen ja rekrytointitarpeiden arviointiin. Ennakoivan analytiikan tekniikoilla pyritään saamaan tarkempaa ja laadukkaampaa tietoa, jotta rekrytointitehtävissä voidaan tehdä perusteltuja ratkaisuja (Albassam, 2023, s. 14). Organisaatiot tunnistavat dataohjatun rekrytointistrategian hyödyt ja pyrkivät hyödyntämään sitä strategisessa päätöksenteossa, sillä se parantaa yrityksen suorituskykyä liiketoiminnallisesti (Conte & Siano, 2023, s. 622). Dahlbom ja muut (2020, s. 627) huomauttavat, että dataohjattu strategia voi tarjota merkittävää lisäarvoa rekrytoinnin päätöksenteolle ja viestinnälle, mutta onnistunut käyttöönotto vaatii konkreettisia merkittäviä kehitystoimenpiteitä ja investointeja. Käyttöönoton esteinä ovat sekä tekniset inhimilliset ongelmat, kuten heikko datan laatu ja henkilöstön riittämättömät analytiikkataidot (Dahlbom ja muut, 2020, s. 628). Investoimalla henkilöstön koulutukseen ja parantamalla datan laatua, organisaatiot voivat saavuttaa merkittäviä etuja rekrytoinnissa (Dahlbom ja muut, 2020, s. 627). (Hunkenschroer & Luetge, 2022, s. 999) korostavat, että organisaatioiden tulisi pohtia myös eettisiä näkökulmia datan käytössä, jotta analytiikan hyödyntäminen olisi vastuullista ja läpinäkyvää. Rekrytointijärjestelmien tulisi esimerkiksi välttää hakijoiden syrjintää algoritmien käytössä varmistamalla, ettei analytiikka suosi tiettyjä hakijaryhmiä iän, sukupuolen tai etnisen taustan perusteella. Tämä on erityisen tärkeää Euroopassa, sillä Euroopan unionin parlamentti tiukentaa säännöksiä, jotka koskevat tekoälyn käyttöä ja sen eettisiä periaatteita (AI Pact | Shaping Europe’s Digital Future, 2024). 20 2.3.2 Algoritminen päätöksenteko Algoritminen päätöksenteko tarkoittaa prosessia, jossa algoritmit tekevät päätöksiä automaattisesti ihmisen sijasta tai ovat siinä vain vähäisesti tukena (Köchling ja muut, 2023, s. 2110). Köchling ja muut (2023, s. 2110–2111) toteavat, että algoritmit käyttävät dataa ja data-analytiikan menetelmiä analysoidakseen tilanteita ja tehdäkseen päätöksiä määritettyjen matemaattisten periaatteiden, kuten sääntöjen, ehtojen tai ennustemallien, perusteella. Rekrytoinnissa algoritminen päätöksenteko vaikuttaa yleisemmin seulontaan, jossa tekoälyjärjestelmä arvioi työnhakijoiden ansioluetteloita, testituloksia ja muita rekrytointiin liittyviä tietoja ennustemallien avulla (Woods ja muut, 2020, s. 65–66). Algoritmisella päätöksenteolla on tarkoitus parantaa rekrytointiprosessin nopeutta ja tehokkuutta, sillä algoritmit voivat analysoida suuria tietomääriä huomattavasti nopeammin kuin ihmiset (Albassam, 2023, s. 7). Pillai ja muiden (2022, s. 710) mukaan tekoäly mahdollistaa sen, että hakemuksia voidaan käsitellä ja arvioida lähes reaaliaikaisesti, mikä voi nopeuttaa rekrytointiprosessia. Lisäksi algoritmit tarjoavat objektiivisuutta päätöksenteossa, sillä ne voivat perustaa valintansa selkeästi määriteltyihin kriteereihin ilman inhimillisiä ennakkoluuloja tai tunteita, mikä voi johtaa tasapuolisempiin lopputuloksiin (Woods ja muut, 2020, s. 65). Algoritmisessa päätöksenteossa on erilaisia vaihtoehtoja data-analyyttisiin menetelmien suhteen, kuten esimerkiksi päätöspuumalli, joka on yksi suosituimmista menetelmä, sillä se tarjoaa selkeän ja helposti tulkittavan rakenteen päätöksentekoprosessille (Zhang, 2022, s. 15 689). Zhang (2022, s. 15 689–15 690) kuvaa, että päätöspuumalli jakaa tietojoukon hierarkkiseen rakenteeseen, jossa päätöksiä tehdään haarojen kautta. Tämä mahdollistaa selkeän visualisoinnin ja analyysin vaikutuksista sekä auttaa tunnistamaan tärkeimmät muuttujat ja niiden suhteet. Päätöspuumallit ovat erityisen käyttökelpoisia rekrytoinnin monimutkaisissa päätöksentekotilanteissa, sillä ne pystyvät luokittelemaan tietoja tarkasti ja erittelemään kriteerejä, kuten hakijan pätevyyttä, kokemusta ja 21 soveltuvuutta (Faliagka ja muut, 2012, s. 557). Alla oleva kuvio 4 havainnollistaa päätöspuumallia. Kuvio 4. Päätöspuumalli (Zhang, 2022, s. 15 689). 2.3.3 Keskustelevat käyttöliittymät Keskusteleva käyttöliittymä, kuten chattibotti, on ohjelmistoratkaisu, joka hyödyntää luonnollisen kielen käsittelyä kommunikoidakseen käyttäjien kanssa (Albassam, 2023, s. 13). Wiberg & Stolterman Bergqvist (2023, s. 2 287) toteavat, että OpenAI kehittämä ChatGPT on hyvä esimerkki tekoälypohjaisesta chattibotista, joka käyttää kone- ja syväoppimistekniikoita tuottaakseen geneerisesti ihmisen kaltaisia vastauksia tekstipohjaisiin keskusteluihin. ChatGPT-chatbotissa korostuvat korkea automaatio ja vuorovaikutus käyttäjän kanssa, sillä se vastaa kysymyksiin ja rakentaa keskustelua aiempien kehotteiden ja vastausten pohjalta, mikä mahdollistaa jatkuvan vuoropuhelun (Wiberg & Stolterman Bergqvist, 2023, s. 2 287). Geneeristen tekoälyjen vaikutus keskusteleviin käyttöliittymiin voi vaihdella merkittävästi eri konteksteissa, mutta rekrytoinnissa niiden käyttö on erityisen lupaavaa Kandidaattiprofiili Työkokemus … X >= 2,5 X < 2,5 34 hakijaa 12 hakijaa Kriteerien erittely Ennalta määritellyt kriteerit 22 työnhakijoiden ja työnantajien välisessä viestinnässä sekä vuorovaikutuksessa (Budhwar ja muut, 2023, s. 622). Koivusen ja muiden (2022, s. 512) mukaan chattibotit yhdessä tekoälyn kanssa mahdollistavat älykkäiden keskustelevien käyttöliittymien kehittämisen rekrytointitoimintojen sekä prosessien tueksi organisaatioissa, joissa erityisen hyödyllisenä koetaan tiedonkeruun ja viestinnän automatisointi. Nämä keskustelevat käyttöliittymät voivat parantaa rekrytointiprosessien ja -toimintojen koordinoimista sekä seurantaa ja tehostaa automaattisen viestinnän kautta tavoiteltujen kandidaattien houkuttelua (Black & van Esch, 2020, s. 222). Rekrytointikontekstissa chatbotit toimivat tyypillisesti tehtävä- ja palvelulähtöisesti (Koivunen ja muut, 2022, s. 509). Koivunen ja muut (2022, s. 509) toteavat, että chattibotit voivat toteuttaa rekrytointitoimintoja itsenäisesti. Esimerkiksi houkuttelubotti pyrkii tavoittamaan potentiaalisia kandidaatteja automaattisella viestinnällä ja keräämään rekrytointitietoja, kuten ansioluetteloja. Organisaatiot voivat hyödyntää houkutteluchattibotteja laaja-alaisesti rekrytoinnissa, esimerkiksi arvioimalla hakijoiden tietoja, suorittamalla esivalintaa niiden perusteella ja suosittelemalla avoimia työtehtäviä hakijoiden profiilien mukaan (Pillai ja muut, 2022, s. 716). Koivunen ja muut (2022, s. 510) analysoivat, että chattibotti-käyttöliittymiä voidaan potentiaalisesti käyttää myös työnhakijoille tarkoitetulla rekrytoinnin seuranjärjestelmänä. Tämä palveluorientoitunut lähestymistapa voisi olla tarpeellista, sillä moni työnhakija kokee saavan liian vähän tietoa rekrytointiprosessin aikana (Black & van Esch, 2020, s. 222). Black & van Esch (2020, s. 222) toteavat, että chattiboteilla voidaan parantaa ennakoivaa tiedottamista, jonka avulla hakijoille kerrotaan, missä vaiheessa he ovat rekrytointiprosessissa ja mitkä ovat seuraavat vaiheet. Tekoälypohjaisissa rekrytointijärjestelmissä läpinäkyvyys on erityisen tärkeää, koska se voi merkittävästi parantaa hakijoiden kokemusta ja vähentää epävarmuutta rekrytointiprosessin aikana (Hunkenschroer & Luetge, 2022, s. 997). Alla oleva kuvassa 1 on esitelty keskustelevien käyttöliittymien toimintoja ja rooleja rekrytointikontekstissa. 23 Kuva 1. keskustelevien käyttöliittymien toimintoja ja rooleja rekrytointikontekstissa (Koivunen ja muut, 2022, s. 509–510). 2.4 Tekoälyn vaikutuksia työnhakijan asemaan rekrytoinnissa Tässä tutkielmassa tarkastellaan erityisesti tekoälyjärjestelmien vaikutuksia työnhakijan työhakuprosessiin, sillä työnhakijat ovat tutkimuksen keskiössä. Näiden järjestelmien toiminnallisuus vaikuttaa suoraan tai epäsuorasti työnhakijoiden mahdollisuuksiin löytää työtä, joka vastaa heidän kykyjään tai tarpeitaan. Tekoäly voi tuoda mukanaan sekä hyötyjä, kuten prosessien tehokkuuden lisääntyminen, että riskejä, kuten päätöksenteon läpinäkyvyyden puute, mikä tekee tarkastelusta erityisen tärkeää. 24 Työnhakijoiden ideaalitilanne on löytää työtä organisaatioista, jotka vastaavat hyvin heidän kykyjään, palkkatasoaan, koulutustaustaansa ja sosiaalisia verkostoja (van Esch ja muut, 2019, s. 216). Hunkenschroer & Luetge (2022, s. 1 000) toteavat, että tekoäly ja algoritmiset päätöksentekojärjestelmät voivat joko helpottaa tai hankaloittaa työnhakijoiden tavoitteen saavuttamista rekrytoinnissa. Tämä johtuu siitä, kuinka hyvin tekoälyjärjestelmät todellisuudessa toimivat oikeudenmukaisuuden ja läpinäkyvyyden kannalta. Eettiset näkökulmat korostuvat erityisesti, kun tarkastellaan näiden järjestelmien vaikutusta oikeudenmukaisuuteen, läpinäkyvyyteen sekä inhimillisen valvonnan ja autonomian säilymiseen rekrytointiprosessissa (Hunkenschroer & Luetge, 2022, s. 993). Tekoälyn automaattisen päätöksenteon ja optimoinnin vaikutukset korostuvat työnhakijan kannalta rekrytoinnin vaiheissa, kuten tavoittamisessa, seulonnassa, arvioinnissa ja koordinoinnissa (Hunkenschroer & Luetge, 2022, s. 992). Hunkenschroer & Luetge (2022, s. 992) toteavat, että työnhakijat ovat jatkuvan profiloinnin kohteena, ja heihin kohdistetaan viestintää algoritmisesti verkkoalustoilla ja sosiaalisessa mediassa tavoittavuuden lisäämiseksi. Tällä toiminnalla pyritään luomaan mahdollisimman laaja hakijapooli sekä tavoittamaan aktiivisten työnhakijoiden lisäksi myös passiivisia hakijoita nopeasti ja tehokkaasti (Johnson ja muut, 2021, s. 43). Black & van Esch (2020, s. 220) tarkastelevat tavoittavuutta positiivisesta näkökulmasta, sillä tekoälyn katsotaan parantavan työnhakijoiden mahdollisuuksia löytää työpaikkoja, jotka vastaavat heidän taitojaan ja kiinnostuksiaan. Johnson ja muut (2021, s. 45) toteavat, että datan hyödyntäminen algoritmipohjaisessa viestinnässä mahdollistaa paremman ja tehokkaamman työnhakijoiden yhteensovittamisen organisaation työtarpeisiin tavoittamisvaiheessa. Digitaalisten lähtötietojen hyödyntäminen tekoälyllä nopeuttaa rekrytointiprosessia, mutta siihen voi liittyä rakenteellisia ja piileviä ongelmia, kuten datan puolueellisuus, algoritmien läpinäkymättömyys tai ihmiskontaktin puuttuminen (Hunkenschroer & Luetge, 2022, s. 999). 25 Data- ja algoritmikeskeinen rekrytointi tuo mukanaan monimutkaisia ongelmia, joihin on vaikea löytää yksiselitteisiä ratkaisuja datan käsittelyn monimuotoisuuden vuoksi. Hunkenschroer & Luetge (2022, s. 999) toteavat, että laajempi hakijapooli ja lisääntynyt kilpailu vaikuttavat työnhakijan mahdollisuuteen saada työpaikka. Datakeskeisyys ja sen seurauksena korostuva pisteytys painottuvat työnhakijoiden valinnassa. Lisäksi Albassam (2023, s. 10–11) käsittelee dataturvallisuuden huolia ja algoritmien vinoumia, jotka voivat luoda epätasa-arvoisia tilanteita työnhakijoiden kesken. Haresamudram ja muut (2023, s. 96) huomauttavat, että esimerkiksi Amazonin tarjoama tekoälypohjainen rekrytointijärjestelmä todettiin syrjivän naisia. Tekoälyn käyttö rekrytoinnin alkuvaiheessa voi nopeuttaa ja tehostaa päätöksentekoa, mutta kysymyksiä herää edelleen algoritmien läpinäkyvyydestä ja oikeudenmukaisuudesta, kuten puolueellisten lähtötietojen vaikutuksesta työnhakijoiden valintaan (Hunkenschroer & Luetge, 2022, s. 99). Data- ja algoritmikeskeisyys korostuu seulontavaiheessa. Albaroud ja muut (2024, s. 391) toteavat, että tekoäly mahdollistaa ansioluetteloiden seulonnan automaatioprosessin, jonka avulla pyritään tunnistamaan parhaat työnhakijat. Ansioluetteloiden ja saatekirjeiden analysointi on tyypillinen tehtävä, jossa työnhakija arvioidaan lähettämien liitetiedostojen perusteella (Black & van Esch, 2020, s. 220). Lookadoo & Moore (2024, s. 14) huomauttavat, että algoritmien käyttö seulontavaiheessa perustuu muun muassa tekstin avainsanoihin ja lauserakenteisiin, mikä voi mahdollisesti johtaa työnhakijan sivuuttamiseen joko inhimillisistä tai teknisistä syistä. Tietojen automaattinen kerääminen ansioluetteloista on haastavaa, sillä ne ovat usein jäsentämättömiä asiakirjoja, joissa on paljon vaihtelua tyyleissä ja sisällössä (Palshikar ja muut, 2023, s. 12). Lookadoo & Moore (2024, s. 10) mukaan ongelma on lähtökohtaisesti monitasoinen. Yksi keskeinen ristiriita liittyy rekrytointiasiantuntijoiden neuvoihin ansioluetteloiden laadinnassa, sillä esimerkiksi suositellut fontit ja visuaaliset tyylit voivat heikentää koneluettavuutta ja siten alentaa hakijoiden pisteitä merkittävästi seulontavaiheessa. Hunkenschroer & Luetge (2022, s. 997) korostavat, että tämän lisäksi 26 rekrytointijärjestelmät ja organisaatiot jakavat työnhakijoille vain vähän tietoa siitä, miten heidän lähettämiään asiakirjoja, kuten ansioluetteloita ja saatekirjeitä, käsitellään. Tämä tarkoittaa, että hakijat eivät saa tietoa, jos heidän asiakirjojensa heikko koneluettavuus johtaa pistevähennyksiin ja pudottaa heidät rekrytointiprosessista ilman mahdollisuutta korjata tilannetta (Lookadoo & Moore, 2024, s. 10). Arviointivaiheessa työnhakijoita tarkastellaan datalähtöisesti. Hunkenschroer & Luetge (2022, s. 992–993) toteavat, että datalähtöiset arviointimenetelmät mahdollistavat syvällisemmän ymmärryksen hakijoiden kyvyistä ja persoonallisuuksista. Tekoälypohjaiset työkalut, kuten videohaastattelut, testit ja psykologiset pelit, tarjoavat rekrytoijille arvokasta tietoa, joka laajentaa perinteisiä arviointikriteerejä (Black & van Esch, 2020, s. 220–221). Hunkenschroer & Luetge (2022, s. 996–997) toteavat, että tällainen läpinäkyvyys voi estää väärinkäsityksiä ja epäluottamusta, joita voi syntyä, kun hakijat eivät tiedä, miten heidän tietojaan käsitellään. Tämä ei ainoastaan paranna työnhakijoiden luottamusta rekrytointimenettelyihin, vaan myös antaa heille mahdollisuuden vaikuttaa omaan arviointiinsa ja profiiliinsa (Van Iddekinge ja muut, 2023, s. 667). Koordinointi rekrytointiprosessin eri vaiheissa on keskeinen tekijä työnhakijakokemuksen ja -aseman kannalta. Hunkenschroer & Luetge (2022, s. 997) toteavat, että tekoäly voi tehostaa rekrytoinnin koordinointia ja parantaa viestintää rekrytoijien ja työnhakijoiden välillä, vähentäen viivästyksiä ja parantaen hakijakokemusta. Kuitenkin automaattinen koordinointi voi luoda epätasa-arvoisia tilanteita, sillä algoritmit saattavat suosia hakijoita, jotka vastaavat tarkasti aiempia menestyneitä profiileja, jättäen potentiaalisesti hyviä ehdokkaita huomiotta. Tehokas koordinointi voi myös vaikuttaa työnhakijoiden itsetuntoon ja motivaatioon, sillä hakijat, jotka saavat palautetta ja tukea prosessin aikana, kokevat hakukokemuksensa todennäköisesti myönteisempänä (Van Iddekinge ja muut, 2023, s. 667). Siksi organisaatioiden on tärkeää panostaa koordinaation läpinäkyvyyteen ja varmistaa, että työnhakijat saavat tarvittavaa tietoa ja palautetta koko rekrytointiprosessin ajan. Alla 27 olevassa taulukossa 1 on tiivistetysti esitelty tekoälyn vaikutuksia työnhakijan asemaan hyötyjen ja riskien kannalta. Hyödyt • Prosessin nopeutuminen • Laajempi tavoittavuus • Syvällisempi arviointi hakijan taidoista ja persoonallisuuksista • Viestinnän automaatio ja työnhakijan kokema helppous tavoittamisessa. Riskit • Läpinäkyvyyden puute, algoritmien puolueellisuus • Työnhakijan vaikutusmahdollisuuksien väheneminen • Inhimillisen kontaktin puute • Vähemmän mahdollisuuksia palautteeseen • Ansioluetteloiden koneluettavuusongelmat Taulukko 1. Vaikutuksista työntekijän asemaan hyötyjen ja riskien kannalta (Black & van Esch, 2020; Hunkenschroer & Luetge, 2022; Lookadoo & Moore, 2024). 28 3 Selittävä tekoäly Selittävä tekoäly, eli XAI (eng. Explainable Artificial Intelligence), on tekoälyn ala, joka keskittyy tarjoamaan ymmärrettäviä selityksiä älykkäiden järjestelmien tekemille ennusteille, suosituksille ja päätöksille (Ridley, 2022, s. 2). Chromik & Butz (2021, s. 2) esittävät, että selitettävän tekoälyn lähestymistapa voidaan yksinkertaisesti jakaa kahteen päävaiheeseen, jotka ovat kone- ja syväoppimismallien kehittäminen ja selityksiä tuottavan käyttöliittymän suunnittelu. Dwivedi ja muut (2023, s 8–9) toteava, että kone- ja syväoppimisen mallien analysointi sekä kehitetyt selittävät menetelmät voivat parantaa ymmärrystä tekoälyn päätöksentekoprosesseista ja tuloksista algoritmisella tasolla. Kone- ja syväoppimismalleja on monia erilaisia tiedonkäsittelyn tarkoituksia varten ja niiden kehittämisellä pyritään tuottamaan selityksiä tekoälyjärjestelmien käyttökontekstien ja tarpeiden mukaisesti. Selittävän tekoälyn lähestymistapa on laajentumassa teknokeskeisestä algoritmien läpinäkyvyydestä kohti monitieteellisempää konseptia, jossa huomioidaan eri sidosryhmien odotuksia ja tarpeita tekoälyn läpinäkyvyyden suhteen vuorovaikutuksellisella ja sosiaalisella tasolla (Haresamudram ja muut, 2023, s. 98–99). Ihmisten yksilölliset käsitykset, tekninen monimutkaisuus ja tekoälyjärjestelmien moninaiset käyttökontekstit luovat ongelmia selittävän tekoälyn ratkaisujen yleisluonteisten määritelmien ja viitekehyksien kehittämiselle. Vuorovaikutukselliset, sosiaaliset ja poliittiset ulottuvuudet lisäävät tähän vielä oman kerroksensa haasteita (Haresamudram ja muut, 2023, s. 99). Ridleyn (2022) mukaan Yhdysvaltain puolustusministeriön alaisen DARPA-organisaation (eng. The US Defense Advanced Research Projects Agency) kuvaus selitettävästä tekoälystä tarjoaa kattavan ja käyttäjäkeskeisen lähestymistavan. Selitettävän tekoälyn tarkoituksena on, että tekoälyjärjestelmillä on kyky selittää perustelunsa sekä kuvata vahvuutensa ja heikkoutensa, jotta käyttäjien ymmärrys, luottamus ja hallinta optimoituvat yhteistyössä tekoälyratkaisujen käyttäjien kanssa. Yleistavoitteena on edistää tekoälyjärjestelmien läpinäkyvyyttä ja vastuullista käyttöä yksilöistä organisaatioihin ja sääntelyelimiin, jotta 29 voidaan luoda tehokkaita ja eettisiä tekoälyratkaisuja, jotka täyttävät sekä tekniset että yhteiskunnalliset vaatimukset (Gunning & Aha, 2019, s. 56–57). 3.1 Läpinäkyvyyden merkitys Läpinäkyvyys on moninainen käsite, jota on vaikea määritellä yksiselitteisesti (Haresamudram ja muut, 2023, s. 94). Felzmann ja muut (2020, s. 3 335) toteavat, että läpinäkyvyyden perusta on informaation välittämisessä, johon sisältyvät selitettävyys, avoimuus, saavutettavuus ja näkyvyys. Pelkkä informaation välittäminen on kuitenkin riittämätöntä, sillä läpinäkyvyydessä huomioidaan myös ihmisten sosiaaliset tekijät, arvot ja informaation merkitys, jotta se voidaan ymmärtää paremmin (Felzmann ja muut, 2020, s. 3 336). Lähtökohtaisesti läpinäkyvyydellä pyritään luomaan positiivista arvoa, mutta ongelmana on määrittää, mitä se eri sidosryhmille tarkoittaa ja kuinka hyödyllistä se on (Felzmann ja muut, 2020, s. 3 336). Felzmann ja muut (2020, s. 3 336) toteavat, että käsitys läpinäkyvyydestä hyveenä on normatiivinen käsite, joka asettaa standardit julkisten toimijoiden käyttäytymisen arvioimiselle. Läpinäkyvyys hyveenä nähdään luontaisesti positiivisena arvona, joka koostuu toimijoiden, järjestelmien ja organisaatioiden johdonmukaisesta avoimuudesta toiminnassaan, käyttäytymisessään, aikomuksissaan ja harkinnoissaan (Schmidt & Wood, 2019, s. 728–729). Kuitenkin Felzmannin ja muiden (2020, s. 3 336) mukaan pelkkä läpinäkyvyyden käsittäminen hyveenä ei riitä, sillä se ei määrittele yleisöä tai kohdetta, jolle toimija on läpinäkyvä. Suhteellisessa läpinäkyvyydessä läpinäkyvyys käsitetään suhteena toimijan ja informaation vastaanottajan välillä (Rego ja muut, 2022, s. 696). Bovensin ja muiden (2014) mukaan on tärkeää huomata, että läpinäkyvyys ei ole pelkästään yksilöllinen ominaisuus, vaan myös vuorovaikutussuhde, jossa toimijoiden avoimuuden vastaanotto ja ymmärtäminen ovat olennaisia. Suhteellisessa näkökulmassa keskeistä on, että läpinäkyvyystoimenpiteet suunnitellaan ja arvioidaan niiden vaikutusten perusteella eri sidosryhmiin (Felzmann ja muut, 2020, s. 3 336). 30 Suhteellisessa läpinäkyvyydessä on huomioitava myös suhteiden institutionaalinen konteksti (Felzmann ja muut, 2020, s. 3 336). Felzmann ja muiden (2020, s. 3 337) mukaan institutionaalisen kontekstin erityispiirteet, kuten oikeudelliset, sääntelylliset ja organisatoriset toimenpiteet, on huomioitava, jotta läpinäkyvyyden käytännön vaikutukset ja tehokas toteutus voidaan realistisesti ymmärtää. Euroopan tietosuojalain keskeinen periaate on läpinäkyvyys, mikä sisältää standardit sille, miten henkilötietoja käsitellään tietyissä konteksteissa, kuten esimerkiksi rekrytoinnissa, joka on henkilötietojen osalta sensitiivistä aluetta (Schmidt & Wood, 2019, s. 729). 3.1.1 Läpinäkyvyyden tasot tekoälyjärjestelmissä Tekoälyjärjestelmiin liittyvät sidosryhmät ja niiden suhteet järjestelmiin voidaan luokitella monipuolisesti intressien ja käyttötarkoitusten perusteella (Langer ja muut, 2021, s. 3). Haresamudramin ja muiden (2023, s. 95) mukaan selittävässä tekoälyssä läpinäkyvyyden tasot voidaan luokitella algoritmiseksi, vuorovaikutukselliseksi ja yhteiskunnalliseksi. Algoritminen läpinäkyvyys viittaa kone- ja syväoppimisen mallien kehittämiseen, vuorovaikutuksellinen läpinäkyvyys tekoälyjärjestelmän ja sen käyttäjien luottamuksen vahvistamiseen ja sosiaalinen läpinäkyvyys kattaa laajemman yhteiskunnallisen ymmärryksen ja hyväksynnän (Haresamudram ja muut, 2023, s. 96– 98). Alla olevassa kuviossa 5 on havainnollistettuna kolme läpinäkyvyyden tasoa tekoälyjärjestelmissä. 31 Kuvio 5. Läpinäkyvyyden tasot tekoälyjärjestelmissä (Haresamudram ja muut, 2023, s. 95). Algoritmisessa läpinäkyvyydessä käsitellään tekoälymalleja, kuten kone- ja syväoppimismalleja (Haresamudram ja muut, 2023, s. 96). Campesato (2020, s. 18–19) kuvaa kone- ja syväoppimismallit tekoälyn alaluokkina, jotka mahdollistavat tehtävien ratkaisemisen, jotka olisivat perinteisillä ohjelmointikielillä joko mahdottomia tai liian monimutkaisia. Koneoppimismallit oppivat itsenäisesti tunnistamaan kaavoja ilman tarkasti määriteltyä ohjelmointia, tekemään päätöksiä datan perusteella ja mukautumaan uusiin tilanteisiin (Alexander Jung, 2022, s. 12). Janiesch (2021, s. 687) mukaan syväoppimismallit puolestaan hyödyntävät monikerroksisia hermoverkkoja Läpinäkyvyyden tasot tekoälyjärjestelmissä Algoritminen taso • Tekoälymallien toiminta Vuorovaikutuksellinen taso • Tekoälyjärjestelmän ja käyttäjän välisen luottamuksen vahvistaminen Yhteiskunnallinen taso • Yhteiskunnallinen ymmärrys ja hyväksyntä 32 monimutkaisempien kaavojen ja kuvioiden tunnistamiseksi, mikä mahdollistaa korkeamman tarkkuuden ja tehokkuuden monimutkaisissa tehtävissä. Vuorovaikutuksellisessa läpinäkyvyydessä keskitytään siihen, miten tieto vaihtuu tekoälyjärjestelmän ja käyttäjien välillä vuorovaikutuksen kautta (Haresamudram ja muut, 2023, s. 97). Miller (2019, s. 32–33) toteaa, että kyse on tarkemmin ihmisen ja tekoälyagentin tai -ohjelmiston välisestä vuorovaikutuksesta, johon sisältyy yhteistyötä ja kommunikointia. Wiberg & Stolterman Bergqvist (2023, s. 2 289) mukaan tekoälyjärjestelmien kehitys suuntautuu vahvasti päätöksentekoprosessien automatisoitumiseen. Tämä johtaa vähäisempään vuorovaikutukseen käyttäjien kanssa, sillä järjestelmät kykenevät yhä itsenäisemmin suorittamaan monimutkaisia tehtäviä ilman ihmisen väliintuloa. Toisaalta tekoälyjärjestelmien automaatiot sekä kyky oppia ja mukautua mahdollistavat käyttäjille uusia vuorovaikutusparadigmoja, kuten selitysten tuottamisen päätöksentekoprosessista ja tuloksista algoritmisin toiminnoin (Haresamudram ja muut, 2023, s. 97). Yhteiskunnallisessa läpinäkyvyydessä keskitytään tekoälypalveluntarjoajiin, lainsäädännöllisiin kehyksiin ja tekoälyn vaikutuksiin sosiaalisessa kontekstissa (Haresamudram ja muut, 2023, s. 95). Ryanin & Stahlin (2021) mukaan tekoälyn läpinäkyvyys on keskeinen tekijä sen hyväksyttävyyden kannalta yhteiskunnassa. Läpinäkyvyysvaatimusten nousu lainsäädännöllisissä kehyksissä ja sosiaalisissa konteksteissa perustuu teknologiayritysten tarjoamien tekoälypalveluiden kriittiseen tarkasteluun (Hollanek, 2023, s. 2 079). Hollanek (2023, s. 2 077) toteaa, että kriittinen tarkastelu on ohjannut teknologiayrityksiä muuttamaan toimintatapojaan ja panostamaan algoritmisen läpinäkyvyyden kehittämiseen. Joissakin palveluissa on havaittu ristiriitoja oletetun algoritmisen toiminnan ja niiden todellisen vaikutuksen välillä käyttäjien kannalta. Selittävän tekoälyn periaatteiden ja käytäntöjen on osoitettu edistävän tekoälyn läpinäkyvyyttä ja ymmärrettävyyttä monissa sovelluksissa yhteisten kriteerien mukaisesti (Barredo Arrieta ja muut, 2020, s. 107–108). 33 3.1.2 Sidosryhmien intressit läpinäkyvyyden tasoilla Ihmisryhmillä on erilaisia intressejä tekoälyjärjestelmien selitettävyyden suhteen, kuten järjestelmän kehittäminen, päätöksiin liittyvän tiedon tuottaminen, työtehtävien suorittaminen tai sääntelykehyksen luominen (Langer ja muut, 2021, s. 3). Barredo Arrieta ja muut (2020) esittelevät sidosryhmien luokittelun, johon kuuluvat käyttäjät, ohjelmistokehittäjät, tekoälyjärjestelmien päätösten kohteena olevat osapuolet, järjestelmän käyttöönottajat ja sääntelijät. Haresamudram ja muut (2023, s. 96) lisäävät tähän luokitukseen yhteiskunnan muita toimijoita ja suunnittelijoita, kuten mediatoimijat ja vuorovaikutussuunnittelijat. Tekoälyperusteisissa henkilöstöhallinta- tai rekrytointijärjestelmissä sidosryhmät voidaan luokitella pääsääntöisesti ohjelmistokehittäjiin, käyttäjiin, päätösten kohteena oleviin osapuoliin, käyttöönottoihin, sääntelijöihin ja suunnittelijoihin (Langer ja muut, 2021, s. 4). Alla oleva kuvio 6 esittää yleisen sidosryhmien luokituksen läpinäkyvyyden tasoilla. 34 Kuvio 6. Sidosryhmien luokitus läpinäkyvyyden tasoilla (Barredo Arrieta ja muut, 2020, s. 84). Ohjelmistokehittäjät voidaan luokitella tarkemmin kolmannen osapuolen kehittäjiin ja organisaatioiden sisäisiin kehittäjiin (Langer & König, 2023, s. 6). Haresamudram ja muiden (2023, s. 96) mukaan ohjelmistokehittäjien ensisijainen intressi on algoritminen läpinäkyvyys. Algoritminen läpinäkyvyys tarkoittaa sitä, kuinka avoimesti ja ymmärrettävästi algoritmin toiminta ja päätöksentekoprosessit esitetään (Dwivedi ja muut, 2023, s. 8). Haresamudram ja muut (2023, s. 96) arvioivat, että tekoälyjärjestelmien kannalta algoritmisen läpinäkyvyyden täydellinen saavuttaminen voi olla kehittäjille ongelmallinen, sillä suuret tietomäärät ja monimutkaiset mallit voivat johtaa ennakoimattomiin ja tuntemattomiin lopputuloksiin. He toteavat, että Sidosryhmien intressit läpinäkyvyyksien tasolla Algoritminen taso • Ohjelmistokehittäjät Vuorovaikutuksellinen taso • Käyttäjät • Päätösten kohteena olevat osapuolet Yhteiskunnallinen taso • Sääntelijät ja media 35 tekoälyjärjestelmien päätöksentekoprosessit voivat olla kokonaisuudessaan ihmismielelle hallitsemattomia. Algoritminen läpinäkyvyys on kuitenkin erityisen tärkeää ohjelmistokehittäjille, sillä se mahdollistaa kriittisen tarkastelun ja varmistaa, että ne toimivat suunnitellulla tavalla ja tuottavat luotettavia tuloksia (Dwivedi ja muut, 2023, s. 8). Langer & König (2023, s. 4) esittävät, että tekoälypohjaisten henkilöstöhallinta- ja rekrytointijärjestelmien käyttäjät voidaan luokitella tarkemmin henkilöstöhallinnon johtajiin ja työntekijöihin. Tekoälyn ja käyttäjän välinen yhteistyö vaikuttaa erityisesti vuorovaikutuksellisen ja sosiaalisen läpinäkyvyyden tasolla (Haresamudram ja muut, 2023, s. 98). Langer & König (2023, s. 4) kuvailevat, että henkilöstöhallinta- ja rekrytointijärjestelmien vuorovaikutuksellisen läpinäkyvyyden tavoitteena on käyttäjien päätöksenteon tehokkuuden ja laadun parantaminen henkilöstöhallintaan liittyvissä tehtävissä. Barredo Arrieta ja muut (2020, s. 86) korostavat, että selittävän tekoälyn keinoin pyritään esittämään käyttäjille päätöksentekoprosessin syy-seuraussuhteita ja lopputuloksia informatiivisesti, jotta käyttäjät voivat arvioida päätösten oikeudenmukaisuutta ja luotettavuutta paremmin. Tekoälyjärjestelmien läpinäkyvyys ja todettu toimivuus sitouttavat käyttäjiä, mikä lisää järjestelmien sosiaalista hyväksyntää organisaatiotasolla (Langer & König, 2023, s. 4). Päätöksien kohteena olevat ihmiset eivät yleensä voi valita, että vaikuttaako algoritmipohjainen päätöksenteko heihin (Langer & König, 2023, s. 5). Langer & König (2023, s. 5) toteavat, että henkilöstöhallinta- ja rekrytointijärjestelmien päätösten kohteena olevat osapuolet voidaan luokitella työnhakijoihin ja organisaation muihin työntekijöihin, joihin vaikuttavat valintapäätökset, suoritusarvioinnit ja aikataulutukset. Myös käyttäjät, eli henkilöstöhallinnon johtajat ja työntekijät, voidaan lukea päätöksen kohteena oleviin osapuoliin, sillä heihin vaikuttavat tekoälyjärjestelmän tuottamat päätökset, joita he hyödyntävät työsuorituksissaan. Päätösten kohteena olevat osapuolet sijoittuvat vuorovaikutuksellisen ja sosiaalisen läpinäkyvyyden tasolle, vaikka heidän vuorovaikuttamismahdollisuutensa tekoälyjärjestelmien tuottamien päätösten, 36 kuten rekrytointiarviointien, suhteen ovat usein rajoitettuja (Haresamudram ja muut, 2023, s. 98). Tekoälyjärjestelmän käyttöönottajat voidaan luokitella kahteen alaryhmään, jotka ovat algoritmipohjaisia henkilöstöhallinta- tai rekrytointijärjestelmiä tarjoavat organisaatiot ja organisaatioiden päätöksentekijät, joiden vastuulla on käyttöönotto sekä soveltaminen prosesseihin (Langer & König, 2023, s. 5). Felzmannin ja muiden (2020, s. 7–10) mukaan käyttöönottajilla on merkittävä rooli sosiaalisen läpinäkyvyyden varmistamisessa organisaatioiden strategisella tasolla. Organisaatiot käytännössä määrittelevät, mikä on läpinäkyvää, ja nämä päätökset vaikuttavat myös muihin sidosryhmiin. Tämä vaikuttaa erityisesti ohjelmistokehittäjiin, sillä organisaatioiden päätöksentekijät määrittävät, miten järjestelmien läpinäkyvyyttä on tarkoitus toteuttaa algoritmisella tasolla ja mitä siitä näytetään muille sidosryhmille. Läpinäkyvyyteen liittyvät valinnat ja päätökset vaikuttavat lopulta monilla tasoilla, kuten yrityksen kilpailuetuun, päätösten kohteena olevien ihmisten mielikuviin päätöksentekoprosessista sekä sääntelijöiden arvioihin oikeudenmukaisuudesta (Barredo Arrieta ja muut, 2020, s. 84). Goodmanin & Flaxmanin (2017, s. 55–56) mukaan sääntelijöiden valvontarooli tekoälyn suhteen on ongelmallinen. Tavoitteena on saavuttaa korkea tehokkuus ja hyötyjä kaikille rekrytointiprosessin sidosryhmille, vaikka joissakin tekoälyperusteisissa rekrytointijärjestelmissä on karsittu läpinäkyvyydestä. Sääntelyyn liittyviä ongelmallisia kohtia ovat organisaatioiden immateriaalioikeuksien suoja, järjestelmien auditointi ja vastuun tarkka määrittäminen (Langer & König, 2023, s. 6). Goodman & Flaxman (2017, s. 56) toteavat, että oikeus syrjimättömyyteen ja selitykseen asettaa tekoälyn kehittäjille, sääntelijöille ja tieteenaloille positiivisen ongelman läpinäkyvyyden parantamiseksi tulevaisuudessa. Erityisesti Euroopassa toimivien organisaatioiden on panostettava läpinäkyvyyden kehittämiseen, sillä Euroopan unionin tietosuoja-asetus ja tekoälysäädös kehittyvät tarkempien standardien ja menetelmien määrittäjäksi (Langer & König, 2023, s. 6). 37 Suunnittelijat voidaan luokitella tarkemmin ihmisen ja teknologian välisen vuorovaikutuksen asiantuntijoiksi, jotka keskittyvät käyttöliittymien vuorovaikutussuunnitteluun (Langer & König, 2023, s. 6). Wiberg & Stolterman Bergqvist (2023, s. 2 288–2 289) toteavat, että tekoälyn mahdollistama automaatio vähentää manuaalista vuorovaikutusta järjestelmissä. Tämä ohjaa suunnittelijat tilanteisiin, joissa vuorovaikutuksen ja automaation välisen suhteen syvällinen ymmärtäminen on entistä tärkeämpää, sillä automaatio on käyttäjille usein näkymätön prosessi taustalla. On olennaista tunnistaa, miten käyttäjän vuorovaikutus vaikuttaa tekoälyjärjestelmän automaattisiin toimintoihin sekä mitä seurauksia tällä yhteistyöllä voi olla. Lisäksi on tärkeää asettaa vaatimuksia, jotka varmistavat järjestelmän luotettavan ja tehokkaan toiminnan. Suunnittelijoiden vaikutusmahdollisuudet vuorovaikutukseen voivat olla rajalliset, kun tekoäly pystyy sopeutumaan käyttäjiinsä automaattisesti. Tämä voi tarkoittaa, että järjestelmä mukauttaa vuorovaikutusominaisuuksiaan ilman suunnittelijan panosta (Haresamudram ja muut, 2023, s. 97–98). 3.1.3 Selittävän tiedon ymmärtäminen Selittävä tieto auttaa ihmisiä ymmärtämään, ennustamaan ja hallitsemaan tilanteita kaventamalla tapahtumien mahdollisia syitä, vähentämällä epävarmuutta, korjaamalla väärinkäsityksiä ja mahdollistamalla syy-seuraussuhteiden hahmottamisen (Miller, 2019, s. 4–6). Langer ja muut (2021) toteavat, että Tekoälyn kontekstissa selittävä tieto tukee sidosryhmiä järjestelmän toiminnan ymmärtämisessä, epävarmuuden vähentämisessä ja odottamattomien tulosten erottamisessa järjestelmävirheistä. Selityksen käsitettä on tutkittu laajasti sekä filosofisesta että psykologisesta näkökulmasta, joissa korostuu kausaalisuuden merkitys (Miller, 2019, s. 6). Tämä syy-seuraussuhteiden ymmärtäminen muodostaa perustan selityksen kyvylle vähentää epävarmuutta ja tuoda selkeyttä monimutkaisiin tilanteisiin. Kausaalinen päättely on keskeinen prosessi monille korkeatasoisille kognitiivisille toiminnoille, jotka ovat erityisen tärkeitä sosioteknisissä järjestelmissä (Hoffman & Klein, 38 2017, s. 68). Hoffman & Klein (2017) toteavat, että tämän avulla pyritään ymmärtämään syy-seuraussuhteita sekä selittämään, miten tietyt tapahtumat, toimenpiteet tai ilmiöt johtavat tiettyihin lopputuloksiin. He tutkivat selityksen luonnetta ja tapoja, joilla asioita voidaan selittää ja esittää älykkäissä järjestelmissä, jotta niiden toimintaansa on ymmärrettävämpää. Kausaalinen päättely pohjautuu teoreettisiin perusteisiin ja jakautuu kolmeen päättelymuotoon, jotka ovat abduktiivinen, keskittyen todennäköisimpiin selityksiin, retrospektiivinen ja kontrafaktuaalinen, joissa analysoidaan menneitä tapahtumia ja vaihtoehtoisia skenaarioita, sekä prospektiivinen, joka ennakoi mahdollisia tulevia lopputuloksia (Hoffman & Klein, 2017, s. 71–71). Abduktiivinen päättely on päättelyn muoto, jossa pyritään selittämään havainnot muodostamalla paras mahdollinen hypoteesi, joka selittää kyseiset havainnot (Hoffman & Klein, 2017, s. 69–70). Dreamson & Khine (2022, s. 405–406) korostavat, että tämä on prosessinomaista ongelmanratkaisua, jossa syitä etsitään sääntöjen ja vaikutusten perusteella. Heidän mukaansa abduktiivinen päättely sopii erityisesti suunnittelutieteellisiin ongelmanratkaisuihin, sillä se on luonteeltaan dialoginen, kriittinen, argumentoiva ja avoin uusille todisteille. Koska abduktiivista päättelyä voidaan käyttää sekä menneisyyden selittämiseen että tulevaisuuden ennakointiin, se yhdistää retrospektiivisen ja prospektiivisen lähestymistavan (Hoffman & Klein, 2017, s. 70). Retrospektiivinen ja kontrafaktuaalinen päättely keskittyy menneisyyden tapahtumien selittämiseen ja siihen, mitä olisi voinut tapahtua, jos tietyt olosuhteet olisivat erilaisia (Hoffman & Klein, 2017, s. 70). Hoffmanin & Kleinin (2017, s. 71–72) esittävät, että prospektiivinen kausaalinen päättely tarkastelee asioita, jotka voivat tapahtua tai jäädä tapahtumatta nykyhetkessä, ja jotka saattavat johtaa tai olla johtamatta tulevaisuuden seurauksiin. Abduktion malli sekä retrospektiivinen ja mentaalinen, tulevaisuuteen suuntautuva projektiivinen ajattelu muodostavat kausaalisen päättelyn teorian ja luonnollisen selitysmallin perustan (Hoffman & Klein, 2017, s. 78). 39 Tekoälyjärjestelmän kuusi keskeistä selitystyyppiä käyttäjille ovat perusteleva, vastuullinen, tietopohjainen, oikeudenmukainen, turvallisuus- ja suorituskyky ja vaikutus (Leslie & Briggs, 2021, s. 11). Leslie & Briggs (2021, s. 12) luokittelevat selitystyypit tarkemmin prosessi- ja tulosperusteisiin jakaumiin. Prosessiperusteisia selitystyyppejä ovat vastuullinen, oikeudenmukainen, turvallisuus- ja suorituskyky ja vaikutus, kun taas tulosperusteisia ovat perusteleva ja tietopohjainen (Leslie & Briggs, 2021, s. 12). Leslie & Briggs (2021, s. 11) korostavat, että perustelevassa selitystyypissä kuvataan päätökseen johtaneet syyt ymmärrettävällä ja ei-teknisellä tavalla. Vastuullisessa selitystyypissä esitetään, keitä on mukana tekoälyjärjestelmän kehittämisessä ja hallinnassa, sekä kehen voidaan olla yhteydessä ihmistarkastusta varten (Felzmann ja muut, 2020, s. 9). Barredo Arrieta ja muut (2020, s. 85) määrittelevät, että tietopohjainen selitystyyppi sisältää kuvauksen käytetyistä tiedoista ja niiden soveltamisesta päätöksenteossa. Oikeudenmukaisessa selitystyypissä keskitytään päätösten puolueettomuuteen yksilötasolla (Langer ja muut, 2021, s. 11–12). Miller (2019, s. 24– 25) Miller (2019, s. 24–25) painottaa, että turvallisuus- ja suorituskykyselitystyyppi on toimenpidekeskeinen ja esittää, miten suunnittelulla ja toteutuksella pyritään maksimoimaan tarkkuus, luotettavuus ja turvallisuus. Vaikutusselitystyyppi puolestaan käsittelee toimenpiteitä, joilla arvioidaan järjestelmän suunnittelua ja toteutusta sekä seurataan sen käytön ja päätösten vaikutuksia yksilöihin ja yhteiskuntaan (Leslie & Briggs, 2021, s. 11). Alla oleva kuvio 7 havainnollistaa selitystyypit. 40 Kuvio 7. Selitystyypit (Leslie & Briggs, 2021, s. 12). 3.2 Selitettävyystietoinen suunnittelu Käyttäjälähtöisessä suunnitteluprosessissa, eli HCD-suunnittelussa (eng. Human- Centered Design), keskitytään käyttäjien tarpeisiin ja vaatimuksiin (Schoonderwoerd ja muut, 2021, s. 2). Schoonderwoerd ja muut (2021, s. 2) määrittelevät, että suunnitteluprosessi painottaa erityisesti sidosryhmien osallistamista, iteratiivista parantamista ja ihmisen suorituskyvyn arviointia järjestelmissä. HCD- suunnitteluprosessi sisältää järjestelmän käsitteellisen ja fyysisen suunnittelun (Benyon, 2019, s. 51–52). Käsitteellinen suunnittelu kattaa palvelun tai järjestelmän yleisen tarkoituksen ja vision, kun taas fyysinen suunnittelu konkretisoi abstraktit esitykset teknologisten vaatimusten ja ihmisten tehtävien kautta (Benyon, 2019, s. 51). Shneidermanin ja muiden (2018, s. 106) määrittelevät käsitteellisen suunnittelun mentaalisiksi malleiksi, jotka kuvaavat, miten toiminnallisuudet ja ominaisuudet kommunikoivat käyttäjien kanssa. Fyysinen suunnittelu tarkentaa teknologisia vaatimuksia sekä määrittää tehtävien ja roolien jakamisen ihmisten ja laitteiden välillä (Benyon, 2019, s. 51). Benyon (2019, s. 53) korostaa, että fyysisen suunnittelun tavoitteena on muuntaa abstraktit käsitteet Selitystyypit Tulosperusteiset Perusteltavuus Tietopohjaisuus Prosessiperusteiset Vaikutus Oikeudenmukaisuus Turvallisuus ja suorituskyky Vastuullisuus 41 käytännön toteutettaviksi ratkaisuiksi, kuten prototyypeiksi ja käyttöliittymäsuunnitelmiksi. Ihmiskeskeisessä tekoälysuunnittelussa, eli HCAI-suunnittelussa (eng. Human-Centered Artificial Intelligence), keskitytään käyttäjälähtöisiin suunnitteluprosesseihin, mutta huomioidaan myös tekoälyjärjestelmien automaattiset ominaisuudet (Shneiderman, 2022, s. 9). Shneidermanin (2022, s. 9) mukaan suunnittelussa huomioidaan erityisesti tekoälyjärjestelmien ominaisuuksien kykyä laajentaa ja parantaa ihmisen suorituskykyä, luovuutta, vastuullisuutta ja sosiaalisia yhteyksiä. Vaikka tekoäly yleistyy monimutkaisissa ja arkaluonteisissa sosioteknisissä järjestelmissä, niiden tietojenkäsittely, päätöksentekoprosessit ja automaattiset ominaisuudet sekä toiminnallisuudet ovat usein käyttäjille läpinäkymättömiä (Bingley ja muut, 2023, s. 6). HCAI-tutkijat ja suunnitteluohjeistukset korostavat, että tekoälyn tulisi olla tulevaisuudessa selitettävissä, ymmärrettävissä ja tulkittavissa kaikille käyttäjille ja niille, joihin tekoäly vaikuttaa (Bingley ja muut, 2023, s. 6). Ehsan & Riedl (2020) osoittavat, että ihmiskeskeiseen tekoälysuunnitteluun voidaan sisällyttää selittävän tekoälyn suunnittelumenetelmiä, jotka tukevat käyttäjiä tekoälyjärjestelmien ymmärtämisessä. Tätä lähestymistapaa kutsutaan ihmiskeskeiseksi selittäväksi tekoälyksi, eli HCXAI (eng. Human-Centered Explainable Artificial Intelligence). HCXAI-suunnitteluperiaatteessa keskitytään sosiotekniseen lähestymistapaan, jossa pyritään kokonaisvaltaiseen ymmärrykseen ihmisestä, kuten ihmisten arvoista, ihmissuhteiden dynaamisuudesta ja tekoälyjärjestelmien sosiaalisesta kontekstista (Ehsan & Riedl, 2020, s. 12–13). Selittävän tekoälyn suunnitteluperiaatteet, eli HCXAI-suunnitteluperiaatteet, seuraavat sovellussuunnittelun menetelmiä ja prosesseja, mutta niissä korostetaan erityisesti selitysmenetelmien kehittämistä ja käyttäjäkokemusta tekoälysovelluksen käyttötarkoituksen mukaisesti (Langer ja muut, 2021, s. 15–16). Clement ja muut (2023) esittävät kokonaisvaltaisen XAI-suunnittelumallin tekoälysovelluksille, joka on sisältää sovellussuunnittelun tyypilliset vaiheet, kuten vaatimusten analysointi, suunnittelu, 42 toteutus, arviointi ja kehitys. Jokaisessa vaiheessa keskeinen näkökulma keskittyy kuitenkin selitystietoiseen suunnitteluun. XAI-suunnitteluperiaatteissa korostetaan erityisesti XAI-menetelmät, sillä ne ovat tekoälymalleihin liitettäviä menetelmiä, joilla tekoälymallien tuottamat tulosteet ja ennusteet muutetaan informaatioksi, josta konstruoidaan selityksiä käyttäjäryhmille (Schoonderwoerd ja muut, 2021, s. 3–4). Alla oleva kuvio 8 havainnollistaa hiearkisen ja käyttäjäkeskeisen eri tasoja tekoälysuunnittelussa. Kuvio 8. Suunnittelulähestymistapojen hierarkia (Benyon, 2019; Bingley ja muut, 2023). 3.2.1 Selitettävyystavoitteet Selitettävän tekoälyn selitettävyystavoitteet voidaan jakaa neljään näkökulmaan, jotka ovat mitä, miksi, mitä varten ja miten (Barredo Arrieta ja muut, 2020, s. 84). Gunningin & Ahan (2019) huomauttavat, että vaikka filosofiset teoriat selitysten monimutkaisuudesta ja kriittisestä tarkastelusta ovat kiinnostavia, selittävän tekoälyn kannalta olennaisinta on kehittää algoritmisia tekniikoita, jotka tukevat tekoälyn HCD-suunnittelu (Käyttäjälähtöinen suunnittelu) HCAI-suunnittelu (Ihmiskeskeinen tekoälysuunnittelu) HCXAI-suunnittelu (Selittävän tekoälyn suunnittelu) XAI-menetelmät 43 ymmärtämistä ja hallintaa. He painottavat teknokeskeisten selitettävyysmenetelmien merkitystä, sillä ne muodostavat lähtökohdan selitysten tuottamiselle monimutkaisissa tekoälyjärjestelmissä. Selittävän tekoälyn kehittämisen lähtökohtana on nykyisten tekoälyjärjestelmien selitettävyyden puute ja tarve vastata tähän ongelmaan. Kehityksessä on tärkeää huomioida kaikkien sidosryhmien tarpeet sekä läpinäkyvyyden eri tasot laajemmassa kontekstissa (Barredo Arrieta ja muut, 2020, s. 86). Tekoälyjärjestelmien selitettävyyden puute perustellaan usein mallien monimutkaisuudella, kilpailuedun menettämisellä ja järjestelmän väärinkäytösten estämisellä (Van Iddekinge ja muut, 2023, s. 671). Barredo Arrieta ja muut (2020, s. 86) toteavat, että selitettävyyden puutteen pääsyynä ovat tutkimusyhteisön ja liiketoimintasektorin välisen kuilun sekä tuloskeskeisyyden vahvat näkemyserot. Heidän mukaansa liiketoimintasektori suhtautuu vastahakoisesti uusien selitettävyystekniikoiden käyttöönottoon, koska tuloskeskeisyys asetetaan tärkeämmäksi kuin käyttäjien ymmärrys tekoälyn vaikutuksista. Yhteiskunnalliset tekijät ja markkinatoimijat ovat ratkaisevassa asemassa selitettävyysongelmien ratkaisemisessa. Selitettävyydelle on kuitenkin suurta tarvetta monilla kriittisillä aloilla, kuten pankkialalla, rekrytoinnissa ja terveydenhuollossa (Haresamudram ja muut, 2023, s. 96). Ei-asiantuntija loppukäyttäjille tekoälyjärjestelmän tuottama selitys on laadullinen selitettävyysprosessi, jossa pyritään tarjoamaan käyttäjille yksinkertaisilla selitettävyysmenetelmillä parempaa ymmärrystä taustalla olevista laskennallisista prosesseista ja lopputuloksista (Langer ja muut, 2021, s. 6–7). Ehsan & Riedl (2020) esittävät tapaustutkimuksessaan selittävän tekoälyn suunnittelumenetelmiä, joissa tekoälyjärjestelmä tuottaa havainnollistavia selityksiä ei-teknisille loppukäyttäjille. He havaitsivat, että tekoälyn tekniset edistysaskeleet ja ihmisten teknologinen ymmärtäminen kehittyvät rinnakkain, kun järjestelmä tarjoaa selityksiä käyttäjille. Käyttäjäkeskeinen näkökulma on yhtä tärkeä kuin tekninen puoli selitettävyysmenetelmien kehittämisessä, sillä tekoälyn käyttäjä arvioi järjestelmän 44 tuottamat selitykset inhimillisten tekijöiden, kuten tunteidensa ja kognitiivisten kykyjensä perusteella (Bernardo & Rosemary, 2023, s. 31). Inhimilliset tekijät, kuten kausaalisuus, luottamus ja oikeudenmukaisuus, ohjaavat selittävän tekoälyn laadullisia näkökohtia eri sidosryhmien näkökulmasta (Barredo Arrieta ja muut, 2020, s. 86). Barredo Arrietan ja muiden (2020, s. 86–87) korostavat, että inhimilliset tekijät auttavat määrittelemään selitettävyysmenetelmien tavoitteita laajemmin ja vastaamaan kysymyksiin siitä, mitä varten selitykset annetaan tekoälyjärjestelmissä. Inhimillisten tekijöiden huomioinnissa on tärkeää ymmärtää, että algoritmisen toiminnan täydellinen selittäminen ei-asiantuntija käyttäjille on käytännössä mahdotonta ja tarpeetonta, koska laskennalliset prosessit ovat yleensä liian laajoja ja monimutkaisia (Shneiderman, 2020, s. 10). Tekoälyjärjestelmien laadulliselle selitettävyydelle ei-asiantuntija sidosryhmille on kasvavaa tarvetta, sillä sekä yhteiskunnassa että tiedeyhteisössä on huolta siitä, miten tekoälyjärjestelmät vaikuttavat ihmisten jokapäiväiseen elämään ilman selityksiä perusteluja päätöksentekoprosessista tai lopputuloksista (Shneiderman, 2020, s. 8). Langer ja muut (2021, s. 15–16) korostavat, että selitettävyysmenetelmien kehittämisessä on tärkeää painottaa vuorovaikutuksellisia ja yhteiskunnallisia läpinäkyvyyden tasoja, jotta selityksien laadullinen merkitys voidaan ymmärtää ja kehittää ei-asiantuntijoiden näkökulmasta. Myös Ehsan & Riedl (2020, s. 16) painottavat reflektiivisen sosioteknisen lähestymistavan merkitystä selitettävyysmenetelmien kehittämisessä, koska se mahdollistaa syvällisemmän ymmärryksen tekoälyjärjestelmien päätöksentekoprosesseista ja niiden vaikutuksista yhteiskuntaan. Sosiotekninen lähestymistapa voi lisätä luottamusta ja hyväksyttävyyttä tekoälyjärjestelmiä kohtaan, koska se huomioi inhimilliset ja eettiset näkökohdat tekoälyn selitettävyyden kehittämisessä (Bernardo & Rosemary, 2023, s. 6). Selittävässä tekoälyssä XAI-menetelmät viittaavat tekniikoihin ja lähestymistapoihin, joiden tavoitteena on tehdä tekoälyjärjestelmien toiminnasta läpinäkyvämpää ja 45 ymmärrettävämpää (Schoonderwoerd ja muut, 2021, s. 4). Barredo Arrieta ja muut (2020, s. 87–88) Barredo Arrieta ja muut (2020, s. 87–88) esittävät, että tekoälymallit voidaan jakaa kahteen kategoriaan, jotka ovat valkoiset ja mustat laatikot. Guidotti ja muut (2019, s. 5) kuvaavat valkoiset laatikot läpinäkyvinä tekoälymalleina, joissa sisäinen toiminta on valmiiksi helpommin ymmärrettävissä ja tulkittavissa. Kun taas Dwivedi ja muut (2023, s. 10) toteavat, että mustan laatikon mallit eivät ole itsestään ymmärrettäviä tai tulkittavia, vaan ne vaativat jälkiselitettäviä analyyseja, jotta niiden toiminta voidaan avata käyttäjille. Mustan laatikon mallit liitetään yleensä jälkiselitettäviin menetelmiin, jotka täydentävät mallien tulkintaa selkeyttämällä niiden päätöksenteon prosessia. Luonnostaan läpinäkyviä tekoälymalleja ovat esimerkiksi lineaariset regressiomallit, päätöspuut ja yleiset additiiviset mallit (Dwivedi ja muut, 2023, s. 10). Barredo Arrieta ja muut (2020, s. 89–90) korostavat, että osa läpinäkyvistä malleista on valmiiksi simuloitavissa, eli ajateltavissa ihmisten toimesta kokonaisuutena. Kuitenkin osa näistä malleista saattaa monimutkaisuutensa tai laajuutensa vuoksi tarvita XAI-metodeja selitettävyyden parantamiseksi. Tavoitteena on lisätä mallien tulkittavuutta matemaattisten analyysien ja menetelmien avulla, mikä auttaa käyttäjiä ymmärtämään niiden toiminnan perusteita (Barredo Arrieta ja muut, 2020, s. 87). Bernardo & Rosemary (2023, s. 2) toteavat, että selittävä tekoäly on edistynyt mustan laatikon ongelman ratkaisemisessa, mikä tarkoittaa tekoälyjärjestelmien ja mallien algoritmisen läpinäkyvyyden parantamista. Mustan laatikon ongelmien ratkaisemiseksi kehitetään XAI-menetemiä, jotka parantavat mustien laatikoiden ennustemallien läpinäkyvyyttä ja tulkittavuutta sekä auttaen ymmärtämään, mitkä tekijät vaikuttavat mallien tekemiin päätöksiin (Guidotti ja muut, 2019, s. 10). Barredo Arrieta ja muut (2020, s. 93) luokittelevat XAI-menetelmät viiteen pääluokkaan, jotka ovat yksinkertaistamismenetelmät, ominaisuusperusteiset menetelmät, paikallinen selitettävyys, visuaaliseen selitettävyys ja arkkitehtuuriset modifikaatiot. Näillä menetelmillä analysoidaan tekoälymallien eri osia, kuten syötteitä, parametreja tai 46 laskelmia, mikä parantaa algoritmien läpinäkyvyyttä ja ymmärrettävyyttä kokonaisuudessaan (Barredo Arrieta ja muut, 2020, s. 87). Yksinkertaistamismenetelmiä käytetään monimutkaisten tekoälymallien yksinkertaistamiseen (Barredo Arrieta ja muut, 2020, s. 87–88). Guidotti ja muiden (2019, s. 29) mukaan tunnetuin yksinkertaistamismenetelmä on LIME (Local Interpretable Model-agnostic Explanations), joka luo yksinkertaisen ja tulkittavan mallin monimutkaisen mallin ennusteiden selittämiseksi esimerkiksi lineaarisen mallin avulla. LIME-menetelmää käytetään myös tekoälymallien paikalliseen selitettävyyteen, jossa pyritään selittämään mallin päätöksiä tietyissä yksittäisissä tapauksissa (Barredo Arrieta ja muut, 2020, s. 92). SHAP (SHapley Additive exPlanations) on yksi keskeisistä ominaisuusperusteisista XAI- menetelmistä, joka tarjoaa syvällistä ymmärrystä mallien päätöksenteosta (Barredo Arrieta ja muut, 2020, s. 92). Salih ja muut (2024, s. 2) toteavat, että SHAP perustuu peliteorian Shapley-arvoihin ja arvioi, kuinka paljon kukin syöte tai ominaisuus vaikuttaa mallin ennusteeseen. Tämä tehdään laskemalla jokaiselle syötteelle arvo, joka kuvaa sen vaikutusta ennustetulokseen verrattuna mallin keskimääräiseen ennusteeseen (Salih ja muut, 2024, s. 3). Visuaalisen selitettävyyden tunnettu XAI-menetelmä on Grad-CAM (Gradient-weighted Class Activation Mapping) (Dwivedi ja muut, 2023, s. 13). Barredo Arrieta ja muut (2020, s. 96–97) toteavat, että Grad-CAM on erityisesti suunniteltu konvoluutiomalleille, kuten syväoppiville neuroverkoille, ja se tarjoaa visuaalisesti selitettävän näkymän siihen, mitkä osat kuvasta vaikuttavat mallin ennusteeseen. Grad-CAM luo lämpökarttoja, jotka näyttävät, mitkä alueet syötekokemuksesta vaikuttavat voimakkaimmin mallin päätöksiin, tarjoten käyttäjille visuaalisen ja intuitiivisen tavan ymmärtää, kuinka malli tekee päätöksiä (Dwivedi ja muut, 2023, s. 13). 47 Tunnettu XAI-menetelmä, joka liittyy arkkitehtuurisiin modifikaatioihin on XNNs (Explainable Neural Networks) menetelmä (Guidotti ja muut, 2019, s. 16–17). Barredo Arrieta ja muiden (2020, s. 95–96) toteavat, että nämä menetelmät keskittyvät muokkaamaan neuroverkkojen arkkitehtuuria niin, että malli on luonnostaan läpinäkyvämpi ja sen päätöksenteko on helpommin ymmärrettävää. Tämä tarkoittaa, että malli rakennetaan alusta alkaen siten, että sen toiminta ja päätöksentekoprosessi ovat läpinäkyvämpiä ja intuitiivisempia, mikä helpottaa tulkintaa ja ymmärtämistä (Barredo Arrieta ja muut, 2020, s. 97–98). 3.2.2 Vaatimusten analysointi ja määrittely XAI-sovellussuunnittelun ensimmäinen vaihe on vaatimusten analysointi, jossa määritellään tekoälysovelluksen käyttötarkoitukset, tekniset vaatimukset toiminnallisuuksille ja ominaisuudet sekä selitettävyyskomponentit (Clement ja muut, 2023, s. 84–85). Clement ja muut (2023, s. 84–85) korostavat, että käyttötarkoituksen ja teknisten vaatimusten analysointi sekä määrittely muodostavat tekoälysovelluksen lähtökohtaisen funktionaalisuuden. Tällä tarkoitetaan ehtoja ja asetuksia, jotka varmistavat, että tekoälysovellus toimii optimoidusti. Selitettävyyskomponenteilla viitataan XAI-menetelmiin, joiden avulla varmistetaan, että tekoälysovelluksen toiminta on läpinäkyvää ja ymmärrettävää loppukäyttäjälle (Schoonderwoerd ja muut, 2021, s. 2). Schoonderwoerd ja muut (2021, s. 2–3) esittävät DoReMi-käytäntöön perustuvan käyttäjäkeskeisen prosessin, jossa kehitetään yleistettäviä XAI-suunnittelumalleja XAI- järjestelmien selitysten esittämiseen. Tässä prosessissa aloitetaan aihepiirianalyysillä, jonka tavoitteena on muodostaa kontekstikuvaus ja konsepti selityksille. Seuraavana vaiheena on vaatimusten kerääminen ja analysointi, jossa muodostetaan käyttötapauksia ja selitysvaatimuksia. Viimeisenä vaiheessa keskitytään multimodaaliseen vuorovaikutussuunnitteluun, jonka tarkoituksena on kehittää suunnittelumallit selityksille. XAI-suunnittelumallien kehittämisessä keskeistä on käyttäjien tarpeiden syvällinen analysointi ja kontekstisidonnaisten ratkaisujen luominen 48 laadullisen prosessin kautta (Langer ja muut, 2021, s. 15). Alla oleva kuvio 9 esittää DoReMi-käytäntöön perustuvan prosessin ja suunnittelumallin. Kuvio 9. DoReMi-suunnittelumalli (Schoonderwoerd ja muut, 2021, s. 2). Vaatimusten keräämiseen ja analysointiin on useita menetelmiä, mutta tärkeintä on tunnistaa ja määritellä, mitkä ovat ne vaatimukset, joita käyttäjä asettaa järjestelmän antamille selityksille ja miten selitykset tulisi mukauttaa sovellusskenaarion kontekstiin (Schoonderwoerd ja muut, 2021, s. 3). Clement ja muut (2023, s. 85) toteavat, että vaatimusten keräämisen ja analysoinnin jälkeen saadaan tarkempi käsitys siitä, millaista tietoa käyttäjät odottavat järjestelmän selityksiltä. Vaatimusten keräämiseen ja analysointiin tehokas menetelmä on pyytää käyttäjiä antamaan itse selityksiä käyttötapausten perusteella. Tämä lähestymistapa tuottaa alustavaa tietoa heidän odotuksistaan ja auttaa tunnistamaan lisävaatimuksia järjestelmän selityksille (Schoonderwoerd ja muut, 2021, s. 3). • Kontekstikuvaus Aihepiirianalyysi • Käyttötapaukset • Selitysvaatimukset Vaatimusten kerääminen ja analysointi • Suunnittelumallit selityksille. Multimodaalinen vuorovaikutussuunnittelu 49 3.2.3 Multimodaalinen vuorovaikutussuunnittelu XAI-suunnittelussa multimodaalinen vuorovaikutussuunnittelu jakaantuu kahteen osaan, selitettävyyssuunnitteluun ja selittävän käyttöliittymän suunnitteluun (Clement ja muut, 2023, s. 85–86). Schoonderwoerd ja muut (2021, s. 4) määrittelevät, että selitettävyyssuunnittelun tavoitteena on kehittää selitysmalli, joka kuvaa prosessin, miten tekoälyjärjestelmän on tarkoitus tuottaa selityksiä ja mitä tukevia XAI-menetelmiä tähän tarvitaan. Selittävän käyttöliittymän suunnittelussa selitysmallista muodostetaan konkreettinen esitys, kuten prototyyppi, joka sisältää vuorovaikutukselliset selitettävyyteen liittyvät ominaisuudet ja toiminnallisuudet (Clement ja muut, 2023, s. 86). Selitettävyyssuunnittelussa oleellisinta on tunnistaa XAI-menetelmien funktionaalinen toiminta ja yhdistää ne käytettäviin tekoälymalleihin (Clement ja muut, 2023, s. 86). Schoonderwoerd ja muut (2021, s. 3) korostavat, että selityksissä on tärkeää tunnistaa sekä tulostettavan tiedon tyyppi että tapa, jolla tieto esitetään käyttäjälle. Nämä valinnat määräytyvät selitettävyystavoitteiden sekä XAI-menetelmien ominaisuuksien ja toiminnallisuuksien mukaan, kuten esimerkiksi ominaisuusperusteisessa selitysmallissa tai yksinkertaistamismenetelmissä, jotka korostavat päätöksiin vaikuttavia tärkeimpiä tekijöitä (Barredo Arrieta ja muut, 2020, s. 87). Alla oleva kuvio 10 havainnollistaa tekoälymallin ennusteen tuottamisprosessin syötetystä datasta käyttöliittymään asti sekä XAI-menetelmien roolin ennusteiden selittämisessä käyttäjille. Prosessi muodostaa syklin, jossa tavoitteena on parantaa käyttäjän ymmärrystä tekoälymallin toiminnasta ja tukea vastuullista päätöksentekoa. 50 Kuvio 10. Ennusteen ja selittämisen tuottamisen prosessi (Clement ja muut, 2023, s. 81). Vilone & Longo (2021, s. 616) toteavat, että selitysmallien luomisessa lähestytään kahdesta toisistaan eroavasta näkökulmasta, joita ovat luonnostaan läpinäkyvät mallit ja jälkiselitettävät mallit. XAI-menetelmiä käytetään pääsääntöisesti jälkiselitettävissä malleissa, mutta niitä voidaan hyödyntää myös läpinäkyvissä malleissa, jos tarvitaan lisäselvityksiä tai syvällisempää tietoa (Barredo Arrieta ja muut, 2020, s. 87–88). Vilone & Longo, 2021 (s. 616) korostavat, että läpinäkyvissä tekoälymalleissa selitysten konstruoiminen voidaan suunnitella jo tekoälyjärjestelmän rakennusvaiheessa, sillä päätöksentekoprosessit ovat etukäteen tulkittavissa. Jälkiselitettävissä malleissa sen sijaan XAI-menetelmillä pyritään tuottamaan selittävää informaatiota jälkikäteen, kun järjestelmä on jo luotu. Tämän avulla käyttäjät voivat ymmärtää järjestelmän päätöksiä, vaikka mallin sisäinen toiminta ei olisikaan suoraan havaittavissa (Barredo Arrieta ja muut, 2020, s. 88). Alla oleva kuvio 11 havainnollistaa tekoälymallien selitettävyyden lähestymistavat jaoteltuina läpinäkyviin ja jälkiselitettäviin malleihin. Kuviossa esitetään datan käsittely päätöspuumallin kautta sekä XAI-menetelmien rooli selitysten tuottamisessa jälkiselitettäville malleille. Syötetty data Tekoälymalli Ennuste Käyttöliittymä Selitykset XAI-menetelmät 51 Kuvio 11. Läpinäkyvien ja jälkiselitettävien mallien prosessi (Vilone & Longo, 2021, s. 616). Selitysten konstruoiminen tarkoittaa prosessia, jossa tekoälyjärjestelmän tuottaman informaation perusteella muodostetaan johdonmukaisia ja ymmärrettäviä selityksiä mallin päätöksenteosta sekä tuloksista (Clement ja muut, 2023, s. 93–94). Chromik & Butz (2021, s. 2) määrittelevät, että kun selityksiin lisätään ominaisuuksia ja toiminnallisuuksia, jotka mahdollistavat käyttäjäryhmien vuorovaikutuksen selitysten kanssa, kyseessä on selittävä käyttöliittymä. Selittävässä käyttöliittymässä tiedon esittäminen ja käyttäjäinteraktiot keskittyvät käyttöliittymiin, joissa korostuvat ominaisuuksien vaikutukset, riippuvuusselitykset, sääntöpohjaiset lähestymistavat, ominaisuuksien konteksti sekä tekoälymallien suorituskyky (Cálem ja muut, 2024, s. 11). Selittävän tekoälyn käyttöliittymän keskeisiä osa-alueita ovat viisi tunnistettua käyttöliittymäklusteria, joita ovat visuaalinen analytiikka, interaktiivinen analytiikka, digitaaliset verkostot, kuvien visualisointi ja luonnollisen kielen vuorovaikutus (Cálem ja muut, 2024, s. 11). Cálem ja muut (2024) korostavat, että nämä klusterit tarjoavat eri tavoin tukea käyttäjän ymmärrykselle ja päätöksenteolle. Visuaalinen analytiikka keskittyy tietojen graafiseen esittämiseen, kun taas interaktiivinen analytiikka mahdollistaa käyttäjän aktiivisen osallistumisen tiedon tutkimiseen. Digitaaliset verkostot havainnollistavat suhteita ja yhteyksiä tietomallissa, ja kuvien visualisointi auttaa konkretisoimaan monimutkaisia tietorakenteita. Luonnollisen kielen XAI-menetelmän funktio Päätöspuumalli Data Selitykset Läpinäkyvät mallit Jälkiselitettävät mallit 52 vuorovaikutus puolestaan tarjoaa käyttäjille mahdollisuuden kommunikoida tekoälyn kanssa helposti ymmärrettävällä kielellä. Ihmisen ja selittävän tekoälyn käyttöliittymän tavoitteena on hyödyntää operationaalisia ja selitettäviä ominaisuuksia tukemaan tavoitteiden saavuttamista (Chromik & Butz, 2021, s. 5). 3.2.4 Vuorovaikutukselliset selitettävyyslähestymistavat Chromik & Butz (2021, s. 2) määrittelevät, että tyypillisiä vuorovaikutuskonsepteja voidaan muokata selittävän tekoälyn käyttöliittymiin keskittymällä siihen, miten nämä konseptit integroidaan tekoälyn selitystoimintoihin käyttäjäkokemuksen ja käytettävyyden parantamiseksi. Vuorovaikutuskonseptit sisältävät tiedon välittämisen, dialogin, kontrollin, kokemuksen, optimaalisen käyttäytymisen, työkalun käytön ja kehollisen toiminnan (Chromik & Butz, 2021, s. 14). Cálem ja muut (2024, s. 7) korostavat, että näiden konseptien käytännön soveltaminen voi paljastaa uusia mahdollisuuksia ja ongelmia selittävien käyttöliittymien kehittämisessä. Vuorovaikutus tiedon välittämisenä keskittyy informaation yksisuuntaiseen esittämiseen käyttäjälle (Chromik & Butz, 2021, s. 6). Chromikin & Butzin (2021, s. 6) mukaan selittävän tekoälyn yhteydessä vuorovaikutus tarkoittaa kuitenkin yhteistoimintaa, jossa käyttäjä ja tekoälyjärjestelmä täydentävät toisiaan selitysten avulla. Ehsan ja muut (2019) esittävät tekniikan, jossa käyttäjän toiminta selitetään reaaliaikaisesti tekoälyjärjestelmän toiminnassa, parantaen käyttäjän ymmärrystä vaikutuksista. Binns ja muut (2018) tutkivat, miten erilaiset perustelevaan logiikkaan pohjautuvat selitystyypit vaikuttavat käyttäjien oikeudenmukaisuuskäsityksiin eri sovellusskenaarioissa. Tiedon välittämisessä korostuvat selitysten tarkkuus ja eri selitystyylien kyky esittää ymmärrettävää tietoa tekoälyn toiminnasta (Chromik & Butz, 2021, s. 6). Vuorovaikutus dialogina kuvataan tietokoneen ja ihmisen välisten syötteiden ja palautteiden sykliä (Chromik & Butz, 2021, s. 7). Koivunen ja muut (2022, s. 488) toteavat, että ihmisen ja tekoälyjärjestelmän välistä dialogia ilmentävät keskustelevat 53 käyttöliittymät, kuten chattibotit. Selittävän tekoälyn yhteydessä dialogi tapahtuu vaiheittain ja on käyttäjän ohjaamaa toimintaa, jossa korostuvat selitysten luonnollisuus ja saavutettavuus (Chromik & Butz, 2021, s. 7). Wibergin & Stolterman Bergqvistin (2023, s. 2 287) mukaan keskustelevat käyttöliittymät mahdollistavat vuorovaikutuksen, jossa käyttäjä voi pyytää tarkempia tietoja tai tiettyä esitystapaa tekoälypohjaisten päätöksentekoprosessien suhteen. Tekoäly voi mukautua käyttäjän tarpeisiin automaattisesti. Kontrolli vuorovaikutuksena viittaa käyttäjän ja tekoälyjärjestelmän kykyyn saavuttaa tavoitetila vakaasti ja nopeasti (Chromik & Butz, 2021, s. 8). Chromikin & Butzin (2021, s. 8) mukaan tämä tarkoittaa selittävässä tekoälyssä sitä, että käyttäjälle annetaan tietoa ymmärrysprosessin tukemiseksi, mutta samalla mahdollistetaan hänen vaikutusmahdollisuutensa tekoälyyn ja sen ohjattuun käyttäytymiseen. Selittävissä käyttöliittymissä kontrolli on ohjaava vuorovaikutustyyli, jossa käyttäjät voivat manipuloida esimerkiksi syöttämäänsä dataa tai muuttaa datan luokitteluja (Cálem ja muut, 2024, s. 7). Cálemin ja muiden (2024) mukaan tämä voi perustua sääntöpohjaiseen tekoälyjärjestelmään, joka selittää, miksi tietty sääntö aktivoitui virhetilanteissa. Vuorovaikutus kokemuksena käsittää ihmisen odotuksia tietokoneita kohtaan (Chromik & Butz, 2021, s. 9). Chromik & Butz (2021, s. 9) toteavat, että selittävän tekoälyn kontekstissa tämä tarkoittaa käyttäjien odotusten ja mieltymysten hallintaa, jossa keskitytään erityisesti luottamuksen, tyytyväisyyden ja vakuuttavuuden tavoitteisiin. Monimuotoiset selitykset, kuten graafiset ja interaktiiviset elementit, voivat rikastuttaa käyttäjäkokemusta merkittävästi, mutta niiden käyttö edellyttää huolellista suunnittelua, jotta monimutkaisuus ja vuorovaikutteisuus pysyvät tasapainossa (Cálem ja muut, 2024, s. 11). Optimaalinen käyttäytyminen vuorovaikutuksena keskittyy käyttäjän käyttäytymisen sopeuttamiseen siten, että se tukee paremmin heidän tehtäviään ja tavoitteita (Chromik 54 & Butz, 2021, s. 10). Chromikin & Butzin (2021, s. 10) mukaan selittävän tekoälyn kontekstissa optimaalinen käyttäytyminen vuorovaikutuksen tavoitteena on ohjata käyttäjiä heitä tyydyttävälle tasolle ymmärryksessä, keskittyen tarjoamaan selityksiä, jotka kouluttavat ihmisiä paremmin vuorovaikutukseen tekoälyn kanssa. He toteavat, että käyttäjät voivat mahdollisesti kohdata esimerkiksi virheellisiä tekoälyjärjestelmiä tai kokea niistä väärinkäsityksiä kognitiivisten vinoumien takia. Optimaalinen käyttäytyminen vuorovaikutuksena tarkoittaa suunnittelijoille käyttäjän ja tekoälyjärjestelmään liittyvien vuorovaikutuksellisten rajoitusten hallintaa paremmaksi käyttäjäkohtaisesti (Cálem ja muut, 2024, s. 7). Vuorovaikutus työkalun käytön kautta keskittyy siihen, että tietokoneita hyödynnetään laajentamaan käyttäjän kykyjä (Chromik & Butz, 2021, s. 12). Chromikin & Butzin (2021, s. 12) mukaan selittävän tekoälyn kontekstissa tätä lähestymistapaa käytetään oppimisen välineenä, jossa selitysten avulla autetaan käyttäjiä oivaltamaan uusia asioita tietyistä aihealueista. Vuorovaikutustyyli näkyy erityisesti virtuaalisessa ja lisätyssä todellisuudessa, joissa simuloidut ja pelilliset elementit yhdistetään osaksi järjestelmiä (Pillai ja muut, 2022, s. 7). Vuorovaikutus kehollisena toimintana keskittyy käyttäjän ja tietokoneen väliseen symbioottiseen suhteeseen, jossa molemmat osapuolet tekevät yhteistyötä päätöksenteossa (Chromik & Butz, 2021, s. 13). Chromik & Butz (2021, s. 13) toteavat, että tämä vuorovaikutuksen konsepti perustuu ihmisen ja tekoälyn yhteistoimintaan, jossa molemmat osapuolet vaikuttavat toistensa toimintaan reaaliajassa ja oppivat toisiltaan saavuttaakseen yhteisen tavoitteen tehokkaammin. Tämä vuorovaikutustyyli sisältää mekanismin, joka mahdollistaa autonomisen järjestelmän havaitsemaan mallieroja itsensä ja ihmiskumppanin välillä, päättelemään erimielisyyden lähteen, arvioimaan virheen mahdollisia seurauksia ja lopulta tarjoamaan ihmiselle ymmärrettävää palautetta mallin korjaamiseksi (Tabrez ja muut, 2019, s. 256). 55 4 Tutkimusmenetelmä- ja aineisto 4.1 Tutkimusmenetelmä Tämä tutkimus on laadullinen eli kvalitatiivinen tutkimus. Kuten Tuomi & Sarajärvi (2018, s. 18) toteavat, kvalitatiivisen tutkimuksen päämääränä on tuottaa syvällistä tietoa tutkittavasta ilmiöstä, keräämällä aineistoa luonnollisista tilanteista. Induktiivinen tutkimusprosessi etenee yksittäisistä havainnoista kohti yleisempiä johtopäätöksiä, huomioiden samalla useita erilaisia tekijöitä, jotka voivat vaikuttaa tutkimustuloksiin. Tutkimuksen edetessä luokat ja teemat muodostuvat havaintojen perusteella. Kvalitatiivisessa tutkimuksessa pyritään ymmärtämään tutkittavan ilmiön moninaisuutta ja merkityksiä, korostaen tulkintaa ja aineiston kontekstuaalisuutta, eikä niinkään yleistettävyyttä, kuten kvantitatiivisessa tutkimuksessa (Alasuutari, 2011, s. 72). Tietojärjestelmätieteessä on useita erilaisia tutkimusmenetelmiä, erityisesti laadulliseen tutkimukseen liittyviä. Goldkuhlin (2019, s. 575) mukaan laadullinen lähestyminen ei itsessään yleensä ole riittävä, sillä tietojärjestelmätieteessä korostuvat myös aineistojen perusteella luodut ratkaisut, kuten digitaaliset suunnittelumallit ja artefaktit. Tietojärjestelmätutkimuksen kenttä hyödyntää monia erilaisia lähestymistapoja, kuten tapaustutkimusta, toimintatutkimusta ja suunnittelutiedettä. Näiden menetelmien avulla voidaan tutkia ja kehittää käytännön ratkaisuja, malleja ja prosesseja, jotka ovat keskeisiä tietojärjestelmien ymmärtämisessä ja kehittämisessä. Konstruktiivinen tutkimusote sisältää edellä mainittujen lähestymistapojen erityispiirteitä, mutta siinä keskitytään myös ongelmalähtöiseen tutkimusprosessiin, jossa ydin on ongelmien tunnistaminen ja ratkaisujen kehittäminen (Rolin ja muut, 2006, s. 112). Tämä tutkimus perustuu konstruktiiviseen lähestymistapaan, jossa painotetaan uusien ratkaisujen luomista ja kehittämistä. Rolin ja muut (2006, s. 113) kuvaavat konstruktiivisen tutkimusotteen ydinpiirteet seuraavasti, ongelman ja ratkaisun käytännöllinen merkitys, ratkaisun toimivuus käytännössä, yhteys aikaisempaan teoriaan ja tutkimuksen teoreettinen kontribuutio. Näitä ydinpiirteitä voidaan tarkastella 56 sekä interpretatiivisesta että pragmaattisesta näkökulmasta (Goldkuhl, 2012, s. 143). Goldkuhl (2012, s. 144) huomauttaa, että interpretatiiviset piirteet korostavat syvällistä ymmärrystä ja teoreettista yhteyttä, kun taas pragmaattiset piirteet keskittyvät ratkaisujen käytännön merkitykseen ja toimivuuteen. Kasanen ja muut (1993) toteavat, että konstruktiivinen tutkimusprosessi käynnistyy todellisessa elämässä havaitun ongelman tunnistamisesta, joka on sekä käytännöllisesti merkityksellinen että teoreettisesti kiinnostava. Tutkimuksessa pyritään kehittämään ratkaisu, joka vastaa tähän ongelmaan, ja ratkaisu voi toimia mallina käytännön sovelluksille. Tämän jälkeen tutkijan tulee hankkia laaja ymmärrys aiheesta ennen varsinaisen ratkaisun kehittämistä. Innovaatio, eli ratkaisun luominen, on olennainen vaihe, jota seuraa ratkaisun toimivuuden todentaminen. Lopuksi tutkija osoittaa ratkaisun teoreettiset kytkökset ja tutkimuksellisen merkityksen, sekä arvioi ratkaisun sovellettavuutta eri konteksteissa. 4.2 Haastateltavat Haastateltavien valinnassa on tärkeää ottaa huomioon tutkimuksen kohde. Vilkka (2021, s. 108) toteaa, että haastateltavat tulisi valita tutkimusongelman mukaisesti, painottaen heidän asiantuntemustaan tai kokemustaan tutkimusaiheesta tai käsiteltävästä ilmiöstä. Tässä tutkimuksessa oli alustavasti ongelmana valita haastateltavia, sillä Hunkenschroerin & Luetgen (2022, s. 996) mukaan tekoälypohjaisten rekrytointijärjestelmien käyttö sekä tiedottaminen rekrytointiprosessien yksityiskohdista työnhakijoille on organisaatioissa usein vähäistä tai lähes olematonta. Tämä havaittiin myös käytännössä, sillä monet potentiaaliset haastateltavat, eli työnhakijat, eivät osanneet varmuudella sanoa, olivatko olleet tekoälypohjaisten rekrytointijärjestelmien käytön kohteena. Koska haastateltavien omakohtaisista kokemuksista tekoälypohjaisesta rekrytointijärjestelmistä ei voitu saada varmuutta, niitä ei voitu käyttää täysin varmistettuna valintakriteerinä, jonka seurauksena tutkimus ohjautui heidän käsitysten ja tulkintojen tutkimiseen aiheesta. 57 Käsitysten tutkimiseen voidaan valita haastateltavia useammalla tavalla. (Vilkka, 2021, s. 109) toteaa, että käsitysten ei välttämättä tarvitse olla muotoutuneet omakohtaisen kokemuksen avulla, vaan niihin vaikuttavat esimerkiksi yhteisöjen perinteet, tyypillinen ajattelutapa tai yleinen puhe. Haastateltavilla saattaa olla paljon käs