MIten algoritmit vaikuttavat meille tarjottuun tietoon ja voiko tekoäly syrjiä?

 

Tässä blogissa pohdin mitä ovat algoritmit, informaatiokupla ja kaikukammiot ja miten ne vaikuttavat meille tarjottuun tietoon. Lisäksi pohdin, milloin syntyy algoritmista syrjintää ja voiko tekoäly vaikuttaa työnhakuun syrjivästi.

Algoritmi, kaikukammio ja informaatiokupla

Algoritmi on lista ohjeita, joita tietokone seuraa. Tietokone toteuttaa algoritmin ohjeet listan mukaisessa järjestyksessä ja juuri niin kuin ne on kirjoitettu. Se seuraa siis myös virheellisiäkin komentoja orjallisesti. Algoritmien pituus voi yltää jopa miljooniin riveihin. (Siltanen 2021)

Algoritmien avulla verkkopalvelun tarjoajilla on valta päättää millaista sisältöä he meille tarjoavat. Esimerkiksi jos jokin sosiaalisen median palvelu muuttaisi algoritmiaan niin että alle 60 sekuntia kestävät videot näytetään kaikille seuraajille ja tätä pidemmät vain käyttäjän omalla sivulla, olisi tällä suuri vaikutus sosiaaliseen elämäämme. (Siltanen 2021)

Monet verkkopalvelut personoivat, eli räätälöivät sisältöä kullekin käyttäjälle, perustuen käyttäjän toimintaan sivustolla. Tätä perustellaan niin että käyttäjien on helpompi löytää itseään kiinnostavaa sisältöä. Personoinnista syntyy informaatiokupla. Tämä tarkoittaa sitä, että esimerkiksi kun sinä ja ystäväsi haette Googlesta samalla hakusanalla te ette saa samoja hakutuloksia. Myös teidän samoilta Facebook ystäviltä näkemänne päivitykset voivat erota toisistaan. (Särkkä, Hakala, Rytkönen & Snellman 2015)

Kaikukammio tai sosiaalinen kupla on viestintätieteessä kehitetty käsite, jolla viitataan 2010-luvulla suureksi ilmiöksi nousseita samanmielisten yhteisöjä. Sosiaalisessa kuplassa on vain sellaista informaatiota, josta henkilö on samaa mieltä eikä siellä ole mitään yllättävää. (Wikipedia 2019)

Syrjintä työnhaussa

Algortimit ja tekoäly voivat joskus käyttäytyä työnhaussa syrjivästi. Algoritmiseen syrjintään voi olla monenlaisia syitä, esim. opetusdatan virheet tai puutteet, huonosti valitut ennustemuuttujat tai lajittelukriteerit, että algoritmi on rakennettu antamaan suoraan merkitystä syrjintäperusteelle, kuten iälle, kielelle tai sukupuolelle. (Valonen 2020.)

Vaikka tekoälyn ei annettaisikaan suoraan antaa merkitystä tietylle syrjintäperusteelle, se voi silti löytää datasta sellaista henkilöön liittyvää tietoa, joka liittyy vahvasti syrjintäperusteeseen. Esimerkiksi kieleen tai asunpaikkaan liittyvät tiedot voivat joissain tapauksissa korreloida vahvasti henkilön alkuperän kanssa. Tekoäly voi näin päätyä itsestään välillisesti syrjiviin ennusteisiin ja johtopäätöksiin. (Valonen 2020.)

Vastuu on kuitenkin aina ihmisillä ja syrjintävastuun kannalta ei ole olennaista aiheutuuko syrjintä työntekijän vai tekoälyn toiminnasta. Järjestelmästä vastaava taho vastaa yhdenvetaisuuslain mukaisesta toiminnasta kaikissa tilanteissa. (Valonen 2020.)

Lähteet:

Valonen 2020. Tiesitkö, että tekoälyyn ja algoritmeihin liittyvää syrjintää valvoo yhdenvertaisuusvaltuutettu? Luettavissa: Tiesitkö, että tekoälyyn ja algoritmeihin liittyvää syrjintää valvoo yhdenvertaisuusvaltuutettu? - Yhdenvertaisuusvaltuutettu (syrjinta.fi)  Luettu 20.4.2021

Siltanen 2021. Algoritmi toimii kuin anopin kakkuresepti – Miksi se sitten pelottaa niin paljon? Luettavissa: https://yle.fi/aihe/artikkeli/2018/06/08/algoritmi-toimii-kuin-anopin-kakkuresepti-miksi-se-sitten-pelottaa-niin-paljon  Luettu 20.4.2021

Särkkä, Hakala, Rytkönen & Snellman 2015. Seitsemän vinkkiä – näin puhkaiset netin tietokuplan. Luettavissa: https://suomenkuvalehti.fi/jutut/kotimaa/seitseman-vinkkia-nain-puhkaiset-netin-tietokuplan/?shared=65131-c111e4af-4 Luettu 20.4.2021

Wikipedia 2019. Sosiaalinen kupla. Luettavissa: https://fi.wikipedia.org/wiki/Sosiaalinen_kupla  Luettu 20.4.2021

Kuva täältä: https://www.pexels.com/fi-fi/kuva/internet-teknologia-tietokone-teksti-4164418/