Tervetuloa algokratiaan: algoritmisen harhan voima

Kirjoittanut ja tarkastanut psykologi Valeria Sabater

Viimeisin päivitys: 17 syyskuuta, 2024

Etsi työtarjous. Tee valitus asiakaspalveluun. Ilmoita meille lainasta tai muusta pankkituotteesta. Varaa lentolippu tai hotellihuone. Uutiset, tiedot ja mainokset, joita näet, kun astut sosiaaliseen mediaan… Algoritmit ovat loputtomien päivittäisten tehtävien takana ja useammilla aloilla kuin kuvittelemme, mikä johtaa ilmiöön, joka tunnetaan nimellä algoritminen harha.

Ne ovat niitä hiljaisia mekanismeja, jotka yhä enemmän liikuttavat maailmaa lähestulkoon meidän huomaamattamme. Ja kaikista silmiinpistävintä on, että ne oppivat olemaan yhä tehokkaampia niille toimittamiemme tietojen kanssa. Ne mukautuvat jatkuvasti ihmisiin – heihin, jotka on koodattu “käyttäjiksi” – ja yrittävät tarjota yhä yksilöllisemmän, nopeamman ja tyydyttävämmän kokemuksen niin, että vaiva on minimaalinen.

Sen lonkerot tavoittavat deittailusovelluksia, joissa se voi jopa vaikuttaa kumppanin valintaamme esittämällä meille joukon erityisiä ehdokkaita oletettavasti mieltymystemme perusteella. Tämä digitaaliseen maailmaan tunkeutuminen on niin syvä, että algoritmisen harhan uskotaan jopa vaikuttavan poliittisiin päätöksiimme.

Algoritmit pyrkivät helpottamaan elämäämme, mutta todellisuudessa ne päättävät puolestamme.

Mikä on algoritminen harha?

Algoritmit voivat helpottaa elämäämme. Jos olet esimerkiksi luonnonystävä ja ympäristön puolustaja, on hyvin todennäköistä, että löydät sosiaalisesta mediastasi yhä enemmän tähän aiheeseen liittyvää tietoa. Tämä ei tietenkään ole välttämättä huono asia, mutta se voi hyvinkin olla sitä.

Älkäämme unohtako Molly Russellin kauheaa tapausta. Tämä teini-ikäinen etsi itsemurhaan liittyviä aiheita, ja tuli aika, jolloin kaikki, mitä hänen sosiaaliset verkostonsa näyttivät hänelle, oli tähän teemaan liittyvää sisältöä. Melkein huomaamattamme voimme jäädä tietokuplan vangiksi, johon muut trendit ja monipuolinen sisältö eivät enää pääse sisään.

Algoritminen harha viittaa virheelliseen hallintaan vastaanottamamme tiedon ja tekemiemme päätösten suhteen, koska jokapäiväiseen elämäämme tunkeutuu häiritsevä koodi, joka tarjoaa meille jatkuvasti tietoja, jotka eivät ole lähes koskaan puolueettomia. Mutta muistakaamme, että niillä on melkein jokin piilotavoite.

Sinä et päätä, vaan algoritmi päättää puolestasi

On olemassa ilmiö, jonka näemme yhä useammin tekoälyn kehittyessä. Tekoäly antaa meille väärän käsityksen hallinnasta ja itsetehokkuudesta. Tämä tunne kasvaa paljon enemmän, kun ChatGPT:n käyttö normalisoidaan auttamaan opinnäytetyössämme, akateemisissa töissämme ja loputtomissa päivittäisissä tehtävissämme.

Tunnemme itsemme tehokkaammiksi, mutta todellisuudessa chatbot suorittaa meille kuuluvat tehtävät. Tämä ei ole aina negatiivista, mutta se lisää edellä mainittua algoritmista harhaa. Toisin sanoen se on käsitys, että päätämme ja toimimme ilman kenenkään puuttumista asiaan, mutta se ei ole totta.

Algoritmit eivät ole reiluja

Cathy O’Neil on matemaatikko, joka kirjoitti suositun kirjan nimeltä Weapons of Mathematical Destruction (2016). Siinä hän kuvailee algoritmeja “joukkotuhoaseiksi”. Ensinnäkin nämä laskennalliset arvot eivät ole vapautettuja moraalisista ja kulttuurisista harhoista, puhumattakaan niiden takana olevista eduista.

Kirjassa hän puhuu erään opettajan tapauksesta, joka erotettiin algoritmin suorittaman negatiivisen arvioinnin seurauksena. Tässä arvioinnissa analysoitiin tietoja henkilökohtaisista viesteistä, lääketieteellisistä raporteista ynnä muusta. Sama pätee arvioidessa asuntolainojen tai tukien myöntämistä. Esimerkiksi tietyt etniset ryhmät ovat aina epäedullisessa asemassa.

Useimmat yritykset ja organisaatiot kuitenkin ottavat nämä nopeat analyysit todesta. Algoritmiharha saa ne päättelemään, että algoritmin analysoima informaatio on aina pätevä, vaikka se ei olisikaan reilu, ja usein näitä tietoja ei edes koota henkilökohtaisesti.

Chatbotit ja algoritmit ovat tulleet jäädäkseen ja ne vaikuttavat suureen osaan tehtävistämme ja päätöksistämme.

Algokratia: Algoritmit politiikan palveluksessa

Sanomme usein, että poliitikot ovat kaukana ihmisten todellisista ongelmista. Kyseenalaistamme heidän ajatuksensa, koska ne eivät täytä kansalaistensa tarpeita. Toinen kritiikki on heidän liiallinen nojaamisensa neuvonantajiin, huono johtaminen ja jopa heidän virheensä päätöksenteossa ja lainsäädännössä.

Äskettäin Deloitte -konsulttiyrityksen julkaisema tutkimus kertoi meille jotain hyvin silmiinpistävää. Tulevaisuus, jossa algoritmit ja tekoäly ottavat suuren osan poliitikkojen tehtävistä, on mahdollinen. He voivat yksinkertaisesti analysoida dataa, jota suuret teknologiayritykset keräävät meistä matkapuhelimillamme. Tällä tavalla he tietäisivät tarpeemme ja  antaisivat tarkoituksenmukaisempia sosiaalisia vastauksia.

Samoin tekoälyä voidaan kouluttaa niin, että poliittinen johtaminen ei ole petollista. Sen analyyttinen kapasiteetti korvaisi joukon neuvonantajia ja säästäisi loputtomasti julkisten elinten työtä. Algokratia, joka ymmärretään algoritmien voimana korvata poliitikkojen työtä, saattaa tuntua meistä mitä oudoimmalta, mutta se on todellinen mahdollisuus.

Utrechtin yliopisto suoritti tutkimuksen, joka osoitti, että jos algoritmien annetaan korvata kaikki hallintoorganisaatioiden byrokraattiset näkökohdat, se voisi olla hyödyllistä. Miksi? Kansalaiset luottavat yleensä enemmän johtamiseen, jonka kone pystyy suorittamaan, kuin poliitikon johtamiseen (toinen ilmeinen harha).

Johtopäätös

Algoritminen harha on tullut jäädäkseen, ja se vain vahvistuu. Ajattelemme jatkossakin, että monet tekemämme ostokset, ihmiset, joihin kiinnitämme huomiota sosiaalisissa verkostoissa, tai ajatukset, joita pidämme todellisina, ovat oman tahtomme tulosta. Ajattelemme edelleen itseämme vapaana mielenä, vaikka todellisuudessa tulemme hiljaa yhä ehdollisemmaksi.

Näemme tämän erityisesti nuorissa, jotka ovat yhä onnettomampia, koska he elävät sosiaaliseen vertailuun perustuvassa digitaalisessa universumissa. Meidän on ymmärrettävä, että algoritmit eivät ole entiteettejä, jotka syntyvät itsestään. Pikemminkin niiden takana ovat suuret yritykset, jotka ohjelmoivat niitä. Ja sellaisella ohjelmoinnilla on aina tavoite.

Jos suuntaamme kohti tulevaisuutta, jossa ihmiset ja tekoäly työskentelevät yhdessä, tarvitsemme tekoälyä kouluttavien ja ohjelmoivien tahojen olevan avoimia ja lähtevät eettisemmistä, oikeudenmukaisemmista, moraalisista ja terveemmistä arvoista. Meidän on säädeltävä näitä mekanismeja, jotka muuttavat yhä enemmän käyttäjien käyttäytymistä. Eli meidän kaikkien käyttäytymistä.