Data-aktivisti varoitti SHIFTissä algoritmien ylivallasta

Eurooppalaisten internet-käyttäjien sähköposti on kilahdellut viime kuukausina taajaan, kun yritykset päivittävät asiakastietojensa suojaa uuden GDPR-asetuksen mukaiseksi.

SHIFT Business Festival -tapahtumassa keskiviikkona esiintyneen Cathy O’Neilin mukaan yksityisyyssuojan parantaminen ei ratkaise ihmisistä kerättävään digitaaliseen dataan liittyviä eettisiä ongelmia, vaan korkeintaan hieman hidastaa hälyttävää kehityskulkua.

Maailman johtaviin data-aktivisteihin kuuluva O’Neil on omassa tutkimuksessaan keskittynyt big dataa käyttäviin algoritmeihin. Algoritmit ovat jo kaikkialla, ja O’Neilin mukaan ne ovat tulleet jäädäkseen. Tästä ongelmat alkavat: Algoritmit ovat käytännössä automatisoitua päätöksentekoa, ja niitä hyödyntävät ihmisten elämän kannalta tärkeät tahot, kuten vakuutusyhtiöt, pankit, koulut ja jopa tuomioistuimet. Prosessi ei ole avoin eikä henkilöllä itsellään ole mahdollisuutta tarkastella, mihin häntä koskeva päätös perustuu tai missä häntä kerättyä tietoa käytetään.

Suurin ongelma on, että algoritmit ovat epäreiluja. Jos asiaan ei kiinnitetä erityistä huomiota, ne heijastelevat yhteiskunnan syrjiviä ja rasistisia rakenteita. Tämä on epäsuotuisaa niille, jotka ovat altavastaajan asemassa alunperinkin, kuten esimerkiksi naisille, pienituloisille ja vähemmistöryhmien edustajille. Pahimmassa tapauksessa vaikutukset ovat tuhoisia. Tähän viittaa myös O’Neilin 2016 ilmestynyt kirja Weapons of Math Destruction, jonka nimi leikittelee massatuhoase- ja matikkatuhoase-sanojen samankaltaisuudella.

O’Neil keskittyy työssään Yhdysvaltoihin, mutta hän näkee samoja ongelmia kaikkialla maailmassa. Kyse ei ole itse datasta vaan siitä, miten ja mihin sitä käytetään, eli pohjimmiltaan vallasta ja valtarakenteista.

Nyt ei siis ole enää kyse vaarattomasta mainosten kohdentamisesta, vaan päätöksistä, joilla on merkittävä vaikutus yksilön elämään. Vallasta puhuessaan O’Neil tarkoittaa, että tiettyjen tahojen, kuten pankkien, vakuutuslaitosten ja virkavallan, kanssa asioidessaan ihminen ei voi kieltäytyä vastaamasta viattomilta vaikuttaviin kysymyksiin. Ikää, sukupuolta ja siviilisäätyä koskevat kysymykset kertovat vastaajasta jo tarpeeksi, jotta kaiken taustalla hyrräävät algoritmit voivat profiloida ihmisen – eikä tulos ole aina suotuisa.

Algoritmien tunkeutuminen kaikkialle on vielä uusi ilmiö, ja niitä koskeva säännöstö on puutteellinen. O’Neil haluaa nostaa eettiset kysymykset osaksi algoritmeista käytävää keskustelua. Tämä on vaikeaa, sillä termistö on epäselvää, eikä esimerkiksi rasismia ole määritelty niin, että kaikki ymmärtäisivät sen samalla tavalla. Lisäksi harva ymmärtää matemaattisten mallien toimintaa tarpeeksi osatakseen puuttua niiden eettiseen puoleen, etenkin kun kaikki vaikuttaa päällisin puolin toimivan ongelmitta. O’Neilin mukaan tärkeintä ei olekaan kysyä, toimiiko algoritmi, vaan onko se laillinen ja reilu.

Ratkaisuksi algoritmien käytön villiin länteen tutkija esittää, että asiakkaan ja yrityksen lisäksi kolmas, riippumaton osapuoli valvoisi järjestelmän laillisuutta ja oikeudenmukaisuutta. Haasteena on, että tämän tahon tulisi tuntea hyvin sekä yhdenvertaisuuskysymyksiä koskeva laki että algoritmien tekninen puoli, mutta molemmat alat hallitsevia asiantuntijoita tai yhteistyötä asiantuntijoiden välillä on toistaiseksi vähän.

Tutkija on tarttunut itse toimeen perustamalla yrityksen, joka tekee algoritmiauditointeja ja riskikonsultointiaYhdysvalloissa. Asiakkaina on toistaiseksi pieniä ja keskisuuria yrityksiä, jotka haluavat voida osoittaa asiakkailleen, että niiden algoritmit ovat asianmukaisia ja laillisia. Tulevaisuudessa O’Neil haluaisi asiakkaikseen niitä toimijoita, jotka ehdottomasti eivät halua hänen palveluitaan. Facebook olisi O’Neilin mukaan hänen unelma-asiakkaansa.

Lisätietoja

Mari Männistö

Head of Marketing & Communications

mari@theshift.fi

+358 45 8684 808