IEEE pohjustaa älykkäiden systeemien etiikkaa

IEEE, koko nimeltään The Institute of Electrical and Elect­ronics Engineers, on 420 tuhannella jäsenellään maailman suurimpia tekniikan ammattilaisten järjestöjä. Se on yhdysvaltalainen, mutta toimii globaalisti ja tunnetaan myös suurena konferenssien järjestäjänä, lehtien kustantajana sekä standardointijärjestönä. 

IEEE:n standardointiliitto (IEEE-SA) on kunnostautunut kaukonäköisyydessä käynnistämällä avoimen kansain­välisen ohjelman nimeltä IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems, jonka tarkoituksena on luoda ja täsmentää eettisesti kestäviä periaatteita itsenäisesti ja/tai älykkäästi toimivien teknisten järjestelmien suunnittelulle ja käytölle. Ohjelma aloitti tuottamalla vuonna 2016 julkaistun alustavan dokumentin “Ethically Aligned Design, Version 1” ja avaamalla sen kommentoinnille. Keskustelukierros oli pitkä ja siinä noudatettiin standardointiprosessien mallin mukaista avointa ja konsensushakuista toimintatapaa. Prosessin välitilinpäätöksenä julkaistiin keväällä 2019 kolmesatasivuinen teos ”Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems, First Edition”. Käytän siitä seuraavassa lyhennettä EAD. Kunkin luvun kirjoittajiksi on ilmoitettu suuri määrä asiantuntijoita ympäri maailmaa, muutama Suomestakin. Kirja on ladattavissa IEEE:n verkkosivuilta ilmaiseksi. Seuraavassa hieman esittelyä ja huomioita.

Eettiset periaatteet

Avattuani EAD:n IEEE:n standardointiosaston tuotteena se yllätti minut humanistisuudellaan. Keskeisenä tavoitteena on ihmisen hyvinvointi uudentyyppisen tekniikan seurassa, ja siitä keskustellaan varsin monipuolisesti. EAD välttää termiä ”tekoäly” ja käyttää systemaattisesti ilmaisua ”itsenäiset ja älykkäät systeemit” (Autonomous and Intelligent Systems), lyhenteenä A/IS. 

EAD:n yleiset periaatteet ovat ihmisten ja luonnonympäristön hyvinvoinnin ensisijaisuus kaupallisiin ja muihin näkökohtiin nähden, täsmentäen että ihmisen hyvinvointi ei voi toteutua ympäristön turmelemisen kustannuksella, sekä riskien ja väärinkäytösten välttäminen sosioteknisten systeemien kehittämisessä. Erityisesti vaaditaan, että A/IS-teknologian on toimittava vastuullisesti ja läpinäkyvästi, ja siksi järjestelmien suunnittelun (design) nostaminen otsikkoon on hyvin perusteltua. 

Luku ”Classical Ethics in A/IS” tarjoaa kiinnostavan globaalin katsauksen erilaisten eettisten oppien suhteesta aiheeseemme. Tärkeimpien länsimaisten suuntausten, kuten hyve-etiikan, velvollisuusetiikan ja utilitarismin lisäksi EAD tarkastelee mm. yhteisöllisyyttä painottavaa afrikkalaista ubuntu-etiikkaa, buddhalaisuutta ja shintolaisuutta löytäen niistä arvokkaita elementtejä. Esimerkiksi ubuntun hengessä ei annettaisi tekoälyn eristää ihmistä yhteisöstä. Kiinnostava yksityis­kohta on shintolaisuuden luonnehtiminen ainoaksi suoraan digikulttuuriin kytkeytyväksi animistiseksi traditioksi – sille artefaktit tekoälyä myöten ovat yhtä luonnollisia ja kauniita kuin luonnonoliot, ja tämä arvioidaan japanilaisen robottikulttuurin vauhdittajaksi.

Yksilön toimijuuden kunnioittaminen ja yksityisyyden suoja

EAD katsoo EU:n tietosuojadirektiivin GDPR:n ja Kalifornian vuonna 2018 voimaan tulleen kuluttajansuoja­lain CCPA:n parantavan henkilötietojen suojaa. Se toteaa kuitenkin, etteivät tämäntyyppiset säännökset vielä riitä torjumaan ihmisten automaattisen seuraamisen ja profiloinnin mahdollistamia uhkia. EAD nostaa avain­käsitteeksi toimijuuden (personal agency) ja vaatii, että digitaalisella areenalla on algoritmisella tasolla kunnioitettava ihmisten toimijuutta heidän omilla ehdoillaan. Hallitusten ja organisaatioiden tulisi kehittää tekniikoita ja käytäntöjä, jotka antavat yksilöiden luoda ja valvoa omaa verkkotoimijuuttaan. Nykytilanteessa yksilö ei ole tasavertainen peluri hänen käyttäytymistään seuraavien algoritmien kanssa. Harva esimerkiksi lukee klikkauksella hyväksymiään käyttäjäehtoja. 

Luku ”Affective Computing” nostaa esiin hyvin mielenkiintoisen alueen, jonka merkitys on vasta hahmottumassa. Älykkäät järjestelmät voivat oppia tunnistamaan ihmisten tunteita ja mielialoja, ja ottamaan niitä huomioon kommunikoidessaan. Vastaavasti ne voivat itsekin ilmaista näitä (tai olla ilmaisevinaan). Tämä nousee tärkeäksi esimerkiksi hoitotyön automatisoinnissa: missä määrin voi olla hyväksyttävää, että esimerkiksi hoitava ohjelmisto tai robotti ”tönii” (nudging) ihmistä saadakseen tämän toimimaan tietyllä tavalla, saako se valehdella ja pettää, jne. Synteettisillä tunteilla varustettujen systeemien suunnittelun on myös otettava huomioon ihmisten valtava yksilöllinen ja kulttuurinen moninaisuus. Tässä, kuten monessa muussakin luvussa, EAD ei osoita valmiita vastauksia ja ratkaisuja, vaan tyytyy nostamaan esiin uudenlaisia eettisiä ongelmia ja tutkimusaiheita. Joka luvun yhteydessä on myös lista aiheeseen liittyvää tutkimuskirjallisuutta.

Lainsäädäntöä älyteknologian aikakaudelle 

EAD:n viimeiset luvut on omistettu älykkäisiin systeemeihin liittyvän poliittisen sääntelyn ja lainsäädännön kysymyksille. Politiikan osalta keskeisenä pidetään kansainvälisten normien noudattamista, mm. syrjimättömyyttä, ja niin hallitusten kuin kansalaistenkin tietämyksen kohottamista. 

Älykkäitä systeemejä koskevan lainsäädännön kehittämiseen sisältyy syvällisiä kysymyksiä. EAD esimerkiksi linjaa, että A/IS-järjestelmille ei ole syytä antaa oikeudellisen henkilön asemaa tässä vaiheessa – jätetään siis avoimeksi, voisiko tilanne muuttua joskus tulevaisuudessa. Yhdeksi päähaasteeksi nimetään, että näiltä puuttuu vielä tietoon perustuva luottamus (informed trust). 

EAD ei nykymuodossaan ole vielä varsinaisen standardin luonnoskaan vaan elävä dokumentti, jossa kuitenkin on tehty tärkeitä linjauksia ja kartoitettu aihepiiriä on laajasti. Toivottavasti älyteknologioiden kehittäjät meilläkin perehtyvät tähän teokseen ja parhaassa tapauksessa innostuvat kontribuoimaan sen jatkoprosessointiin. •

Teksti: Ilkka Norros