KIRJA-ARVIOINTI ALGORITMIEN VAAROISTA
Yhdysvaltalainen Cathy O’Neil väitteli abstraktista matematiikasta ja siirtyi suuren sijoitusrahaston analyytikoksi vähän ennen vuoden 2008 finanssikriisiä, jossa matemaattiset riskiarviot pettivät. Suursijoittaja Warren Buffett oli jo aiemmin kutsunut johdannaisten tyyppisiä sofistikoituja rahoitusvälineitä taloudellisiksi joukkotuhoaseiksi (weapons of mass destruction). Ihmetellessään suuraineistoja (Big Data) analysoivien algoritmien nopeasti lisääntyvää ja kritiikitöntä käyttöä O’Neil keksi niille termin ”matikkatuhoaseet” (weapons of math destruction). Vuonna 2011 hän jätti työnsä sijoitusrahastossa ja siirtyi tietojenkäsittelytieteilijäksi verkkokaupan alalle. Siellä hän havaitsi, että erilaisia matikkatuhoaseita jylläsi jo joka puolella, ja perusti näihin huomiota kiinnittävän blogin mathbabe.org. Vuonna 2016 valmistui hänen tässä esiteltävä kirjansa, jonka Kimmo Pietiläinen suomensi ja julkaisi kiitettävästi jo seuraavana vuonna.
Kirjassa käydään läpi esimerkkejä monilta elämänaloilta ja sektoreilta.
Työelämän piiristä esiin nostetaan rekrytointiin liittyvät seulonnat sekä äärirajoille viety työn aikataulutus. Rekrytoinnin osalta hän viittaa julkilausuttuun periaatteeseen, että tarkoitus ei ole löytää parasta, vaan karsia mahdollisimman monta mahdollisimman halvalla. Käytännössä hakijan on laadittava ansioluettelonsa koneelle. Automatiikkaa on puolustettu objektiivisena, mutta O’Neil kertoo esimerkin, jossa oppiva ohjelmisto oppikin ihmisten päätöksiä seurattuaan harjoittamaan erinomaisen tehokasta syrjintää.Toisaalta ihmisen oveluus ylittää koneen, ja nokkelimmat usein keksivät, miten vähemmänkin pätevä pääsee pujahtamaan koneen suorittaman karsinnan läpi jatkoon.
Aikataulutusteknologia puolestaan perustuu pidemmät perinteet omaavaan alaan, operaatioanalyysiin. Yhdistämällä optimointi sensoreilla tapahtuvaan tosiaikaiseen suoritusten mittaukseen voidaan työntekijöiden ajan ”tuhlausta” valvoa ja sanktioida äärimmäisen tarkasti. Suuraineiston saatavuus vauhdittaa ennestäänkin vahvaa tendenssiä algoritmeilla tehtyjen arviointien ja luokitusten laajenevaan käyttöön. Jo kirjansa johdannossa O’Neil kertoo tapauksesta, jossa kouluopettaja erotettiin oppilaiden huonojen arvosanojen vuoksi ottamatta huomioon oppilaiden vaihtumista. Suurempi esimerkki on amerikkalaisten collegejen ja yliopistojen pisteyttäminen, jonka US News & World Report -lehti keksi vuonna 1983, varmaankin arvaamatta idean kauaskantoisia seurauksia. Pisteytyksiä kritisoinut tutkimusprofessori Niilo Kauppi on kuvannut, miten Kiina globalisoi tämän kevyesti käyntiin polkaistun järjestelmän kopioimalla sen säännöt ns. Shanghain rankingiin, joka absurdiudestaan huolimatta otetaan jo Suomenkin yliopistomaailmassa yhä enemmän tosissaan. Mainonnan kohdentaminen on jo pitkään ollut aineistoanalyysin keskeisiä sovelluksia. Tässäkään tapauksessa tilanne ei ole mustavalkoinen: moni haluaa saada mainoksia, jotka häntä kiinnostavat, ja toivoo, ettei häntä häirittäisi asioilla, jotka eivät kiinnosta vähääkään. Eettisesti ongelmalliseksi tämä tulee, kun ihmisiä profiloidaan kokonaisvaltaisesti verkkokäyttäytymisen perusteella. Koneoppivat järjestelmät alkavat jo vähitellen ”tietää”, mitä sanat merkitsevät. Tätä kautta ne pystyvät ennustamaan ihmisen käyttäytymistä ja lähettämään mainontaa, joka on paitsi sisällöltään yksilöllisesti kohdennettua myös ovelasti ajoitettua. O’Neil nostaa tämän tekniikan matikkatuhoaseen kategoriaan, kun sitä sovelletaan esimerkiksi pikaluottojen tarjoamiseen vähävaraisille.
Ihmisoikeuksien kannalta ehkä hätkähdyttävimpiä ovat aineistoanalyysin sovellukset poliisin ja oikeus- laitoksen piirissä. Yhtenä esimerkkinä on vuonna 2012 perustetun PredPol-yhtiön järjestelmä, joka ennustaa rikosten tapahtumapaikkoja aineiston perusteella. Sitä on käytetty poliisipartioinnin suunnitteluun joissakin Yhdysvaltojen kaupungeissa. Vaikka ohjelmisto on laadittu itsessään neutraaliksi ja ennakkoluulottomaksi, se ennustaa O’Neilin mukaan parhaiten vähäpätöisiä ”riesarikoksia”, ja tämä piirre vahvistuu, kun poliisipartioinnin tuloksia syötetään oppivaan järjestelmään uutena aineistona. Hän väittää, että tällaisen rikollisuuden kartta kuvaa itse asiassa köyhyyttä, ja että PredPolin tyyppiset järjestelmät ovat tehokkaampia köyhyyden kriminalisoimisessa kuin vakavien rikosten ehkäisemisessä.
O’Neil esittää useita syitä, miksi vilpittömällä mielelläkin luotu aineistopohjaisen arvioinnin apuväline voi toimia matikkatuhoaseena. Yksi näistä on korvikemuuttujien käyttö: jos tavoiteltua ominaisuutta, esimerkiksi menestymistä työtehtävässä, ei pystytä suoraan mittaamaan tai ennustamaan, sen uskotaan ilmenevän
joissakin muissa, suoraviivaisesti mitattavissa suureissa, esimerkiksi persoonallisuustestin tuloksissa. Ongelma johtuu usein myös mallintajien valitsemista optimointitavoitteista, esimerkiksi tehokkuuden ja tuottavuuden lähtökohdista, joissa oikeudenmukaisuus ja reiluus voivat jäädä vähälle huomiolle. Toiminnan parantamisen kannalta mielenkiintoinen on huomio, että järjestelmät eivät useinkaan kerää palauteaineistoa – esimerkiksi työnhakijoita luokittelevalla järjestelmällä ei yleensä ole aavistustakaan siitä, kuinka monta erinomaista työntekijää se on hylännyt.
O’Neil näkee suuraineistoanalyysissä sinänsä suuren potentiaalin hyvään. Kirjan sanoma on, että tätäkin tekniikkaa on käytettävä vastuullisesti ja itsekriittisesti, ja avainasemassa ovat ammattilaiset. Asiassa ollaan institutionaalisestikin jo vahvasti liikkeellä. IEEE julkaisi tänä vuonna perusteellisesti valmistellun raportin Ethically Aligned Design, ja Suomessakin 70 yritystä ja laitosta sitoutui työ- ja elinkeinoministeriön Tekoälyaikahankkeessa tekoälyn eettiseen hyödyntämiseen. O’Neilin kirja tarjoaa monipuolisen kuvan siitä, millaisten vaarojen vuoksi suuraineistoanalyysien eettisyys vaatii jatkuvaa huomiota ja hyvien käytäntöjen vakiinnuttamista. •
Cathy O’Neil: Matikkatuhoaseet.
Miten suuraineisto lisää eriarvoisuutta ja uhkaa demokratiaa.
Suom. Kimmo Pietiläinen. Terra Cognita, 2017. 232 s.
Ilkka Norros
MIHIN KAIKKEEN MATEMATIIKKAA KÄYTETÄÄN?
Helsingin yliopiston matematiikan professori Samuli Siltanen (s. 1970) on tänä syksynä ollut julkisuudessa monessa eri mediassa. Suomen Kuvalehdessä no 37/13.9.2019 oli Siltasesta artikkeli palstalla HÄN. Jutun sanoma oli, että ”Matematiikan ymmärrys on suorastaan ihmisoikeuskysymys.” Vajaan parin viikon kuluttua eli 25.9.2019 Helsingin Sanomien tiedepalstalla oli Samuli Siltasen haastattelu. Se oli otsikoitu ”Numerot muuttavat maailmaa, todellisuus toimii matemaattisesti ja se tekee matematiikasta tehokkaan työkalun.” Lokakuussa radion sunnuntaiaamun luonto-ohjelmassa taas Minna Pyykkö haastatteli Siltasta hämähäkkien kuvaamisesta. Siltanenhan on erittäin kiinnostunut hämähäkeistä ja harrastaa niiden kuvaamista. Sunnuntaina 27.10.2019 radion YLE Puheessa oli Juuso Pekkisen ohjelma ”Reaalimaailma vs. matematiikan maailma”. Tässä radio-ohjelmassa, samoin kuin edellä mainituissa lehtijutuissakin, pääasiassa käsiteltiin Samuli Siltasen tänä vuonna julkaisemaa kirjaa Astu matematiikan maailmaan.
Siltanen aloittaa kirjansa monen koululaisen esittä- mällä kysymyksellä ”Mihin minä ikinä matematiikkaa tarvitsen?” Nykyisenä digitalisoituneena tieto- tekniikan aikana ei heti näy minkälaista matematiikkaa kaiken nykytekniikan takana on. Tähän kysymykseen Siltanen tarjoaa kirjassaan vastauksia.
Kirjan ensimmäisessä luvussa Siltanen kertoo lyhyesti omasta kouluajastaan ja kiinnostuksestaan matematiikkaan sekä luonnontieteisiin. Hän teki kemian ja fysiikan demonstraatioita jo koulupoikana kotona. Sähkön ja tulen kanssa oli ollut vaaratilanteitakin, joista kuitenkin selvittiin onnella. Lukiossa matematiikka voitti kemian ja fysiikan, niin että Samuli lähti opiskelemaan TKK:hon teknillistä fysiikkaa erikoistuen matematiikkaan. Väitöskirjasta ja lääketieteellisen kuvantamisen tutkimuksesta kirjassa on oma luku. Se on samalla mainio esimerkki matematiikan sovelluksesta, joka on parantanut ja auttanut ihmisten hyvinvointia. Siitä mihin matematiikkaa eniten tarvitaan ja missä matematiikasta on ehkä eniten hyötyä antavat hyvän kuvan kirjan seuraavat luvut. Niissä annetaan esimerkkejä matemaattisista malleista, käsitellään maapallon ja avaruuden malleja sekä matematiikkaa lääkärin apuna. Näiden lukujen omaksuminen onnistunee parhaiten vasta lukioikäisille ja vanhemmille lukijoille. Kaikissa näiden kolmen luvun malleissa ja esimerkeissä korostuu se, miten nykyisessä matematiikan soveltamisessa käytetään apuna tietokoneiden nopeaa kykyä suorittaa runsaita pitkiäkin laskutoimituksia.
Maapallon ja avaruuden malleissa käsitellään sääennustusta hyvin yleistajuisesti. Ilmastomuutosta mallinnettaessa käytetään niin yksinkertaista matemaattista käsitettä kuin keskiarvo. Keskiarvon roolista ilmastomuutoksen ennustamisessa annetaan kirjassa mainio kuva. Mielenkiintoista luettavaa oli myös ydinvoimaloiden osuus hiilidioksidipäästöihin ja ilmastomuutokseen. Nautittavaa oli myös lukea kun matematiikka ja tilastotiedettä hyväksi käyttäen pohditaan kannattaako lapsia rokottaa. Sen sijaan luku, jossa käsiteltiin röntgenkuvausta, viipalekuvausta ja hammasröntgenlaitetta ei minulle oikein avautunut.
Kirjan kaksi viimeistä lukua, Onko ihmisyyskin matematiikkaa? ja Matematiikka kuuluu kaikille, ovat sellaisia lukuja joiden lukemisesta on iloa kaikille vähänkin matematiikan kanssa tekemisissä oleville henkilöille, varsinkin opettajille. Näihin viimeisiin lukuihin liittyen jäin vähän kaipaamaankin Samuli Siltaselta jonkinlaista ajatusta siitä, että pitäisikö koulujen matematiikan opetuksen sisältöjä tai opetussuunnitelmia jotenkin muokata, niin että matematiikka saataisiin nykyistä paremmin kuulumaan kaikille. •
Samuli Siltanen: Astu matematiikan maailmaan – matematiikka on kaunista ja kuuluu kaikille. Otava 2019, 152 sivua.
Lasse Paajanen
MUSTAT NAISET LASKUKONEENA
Rotuerottelu ja asenteet naisia kohtaan haittasivat kansakunnan täyden aivokapasiteetin käyttöönottoa.
Hidden figures – Varjoon jääneet kertoo neljän naisen, Dorothy Vaughanin, Mary Jacksonin, Katherine Johnsonin ja Christine Dardenin, tarinan. Naiset olivat värillisiä matematiikan opettajia, joiden kykyjä NASA käytti toteuttamaan erään Yhdysvaltojen historian suurimmista saavutuksista – astronautin lähettämisen kuuhun.
1940-luvulla elettiin Yhdysvalloissa jyrkän rotuerottelun aikaa. Sotaponnistusten vuoksi tarvittiin kuitenkin lisää työvoimaa monille aloille, myös Langleyn tutkimuskeskukseen. Ratkaisuksi keksittiin mustat matemaattisesti lahjakkaat naiset.
Langleyn tutkimuskeskus sijaitsee Virginian osavaltiossa Yhdysvalloissa.Tutkimuskeskus on keskittynyt pääasiassa lentämiseen liittyvään tutkimukseen ja se oli osa Yhdysvaltain vuonna 1915 perustettua tutkimuskeskusten verkostoa NACAa. Langleyn tutkimuskeskuksen tuulitunneleissa testattiin kaikenlaisia lentokoneisiin, lentämiseen ja avaruusaluksiin liittyviä asioita. Miten ilma virtaa siiven yli tai koneen rungon ohi ja minkälaista turbulenssia koneen eri osat aiheuttavat.
Ensimmäiset viisi mustaa naista menivät töihin Langleyn ”eristettyyn” länsisiipeen toukokuussa 1943. Tämä ryhmä tunnettiin myöhemmin nimellä ”länsilaskijat”. Eristettyyn sen vuoksi, että rotuerottelun vuoksi ei voitu ajatellakaan afroamerikkalaisten työskentelyä samoissa tiloissa valkoihoisten kanssa.
Tuulitunneleissa tehdyt kokeet ja koelennot tuottivat suuren määrän lukuja painemittareista, venymäantureista ja muista mittalaitteista. Nämä luvut tuli sitten yhdistää fysikaalisiin teorioihin. Tämä kaikki vaati suurta määrää laskijoita. Laskijat olivat käytännössä kaikki naisia, aluksi valkoihoisia ja myöhemmin myös mustia afroamerikkalaisia.
Aluksi naiset työskentelivät NACAssa, ja sittemmin vuonna 1958 perustetussa avaruushallintovirasto NASAssa, jonka nimiseksi NACA muutettiin, kun se valittiin vastaamaan kaikista Yhdysvaltain erillisistä avaruushankkeista.
Vuonna 1945 mustia naisia oli jo 25 kappaletta. Heillä oli esimiehinään kolme mustaa vuoroesimiestä, jotka sitten raportoivat kahdelle valkoiselle päälaskijalle.
Tietokoneiden aika alkaa
Ajan myötä tutkimustyöhön liittyvä laskeminen kävi niin mutkikkaaksi, että tarvittiin uusia tehokkaita laskukoneita. Vuonna 1947 tutkimuskeskus osti ensimmäisen ”sähköisen laskimen”. 1950-luvun puolivälissä tutkimuskeskukseen ostettiin ensimmäinen IBM-laskin – IBM 604 ja myöhemmin IBM 650.
1960-luvun loppupuolella NASA hankki kaksi uutta, tehokasta IBM 7090 -tietokonetta, koska avaruusohjelman laskentatehtävissä tarvittiin aikaisempaa enemmän numeronmurskauskykyä.
Koneet eivät tullessaan välittömästi uhanneet naispuolisten matemaatikkojen työtä, mutta eräät mustat laskijat ymmärsivät, että tietokoneen käytön hallitseminen takaisi työpaikan tulevaisuudessakin. Useat heistä kehittivätkin itselleen uuden uran tietokoneohjelmoijana.
Lopuksi kuitenkin tietokoneet ottivat vallan, ja käytännössä laskijoiden työt loppuivat.
Miehet avaruudessa
Lokakuun 5. päivän aamuna 1957 alkoi avaruusaika. ”Punasatelliitti tuikkii Yhdysvaltain yllä”. Neuvostoliitto oli ampunut satelliitin maapallon kiertoradalle.
Satelliitin lähettäminen oli shokki amerikkalaisille.
Yhdysvallat oli jäänyt toiseksi.
Perustettiin Mercury-ohjelma, jonka tehtävänä oli lähettää miehitetty avaruusalus maapalloa kiertävälle radalle, tutkia ihmisen kykyä toimia avaruudessa ja tuoda sekä miehistö että alus turvallisesti takaisin maahan.
Neuvostoliitto iski uudelleen. Huhtikuussa 1961 venäläinen kosmonautti Juri Gagarin lensi ensimmäisenä ihmisenä avaruuteen maapalloa kiertävälle radalle. Yhdysvalloissa ensimmäisen miehitetyn lennon teki Alan Shepard. Lennon rohkaisemana presidentti J.F. Kennedy sitoi maan huomattavasti kunnianhimoisempaan tavoitteeseen: miehitettyyn kuulentoon.
Neil Armstrong pani jalkansa kuun pinnalle heinäkuussa 1969.
Lentäminen ilmakehässä ja avaruudessa on pelkkää fysiikkaa ja tekniikkaa ja nämä puolestaan vaativat fysikaalisten teorioiden ja tekniikan tuntemusta. Vaikka tietokoneet ottivatkin käytännön laskemisen osalta ylivallan mustista naismatemaatikoista, oli eräillä heistä ratkaiseva osuus ihmisen saamisessa kuuhun.
Rotuerottelu hälvenee
Vuonna 1939 korkeimman oikeuden päätös lopetti koulujen rotuerottelun Yhdysvalloissa
Vuonna 1941 maan suurimman mustien ammattiliiton johtaja vaati presidentti Rooseveltia avaamaan hyväpalkkaiset sotatyötehtävät myös mustille hakijoille. Presidentti Roosevelt vastasi asetuksella 8802, joka kumosi rotuerottelun puolustusteollisuudessa ja asetuksella 9346, jolla perustettiin reilujen työhönottokäytäntöjen komitea valvomaan kansallista taloudellista tasa-arvoisuutta.
Virginian osavaltio vastusti rotuerottelun lopettamista jyrkemmin ja pitempään kuin yksikään muu osavaltio. Langleyn lentotukikohta ryhtyi purkamaan rotuerottelua tukikohtiensa asunnoissa ja kouluissa. Virginian osavaltio sen sijaan teki kaikkensa rotuerottelun poistamista vastaan. Se puolusti ”perinteisiä amerikkalaisia tapoja ja arvoja”. Vaikka Langleyn aitojen sisäpuolella mustat ja valkoiset lähentyivät toisiaan, porttien ulkopuolella rotuerottelusäännöt olivat selvät. Mustat ja valkoiset asuivat erillään, söivät erillään, opiskelivat erillään, kävivät eri kirkoissa ja ennen kaikkea työskentelivät erillään.
Epilogi
Neljän laskijanaisen tarinan lisäksi kirja kertoo rotuerottelusta ja sen hälvenemisestä ja välillä onkin vaikea erottaa, mikä oikein on kirjassa pääosassa – mustat naismatemaatikot vai sitten rotuerotteluun liittyvät tapahtumat ja kuvaukset.
Kirja on ehdottomasti lukemisen arvoinen. Kirjan perusteella on myös tehty elokuva, joka sai Suomessa televisioensi-iltansa elokuussa 2019.
Margot Lee Shetterly: Hidden Figures – Varjoon jääneet, suom. Virpi Kuusela. HarperCollins Nordic, 2017. 383 s.
Martti Annanmäki