”Robotti ei ole fiksumpi kuin kastemato” – Googlelta irtisanoutunut ohjelmistoinsinööri Laura Nolan seuraa huolestuneena tappajarobottiteknologian kehitystä | Maailma.net Hyppää pääsisältöön

Hae

Hae sivuilta

”Robotti ei ole fiksumpi kuin kastemato” – Googlelta irtisanoutunut ohjelmistoinsinööri Laura Nolan seuraa huolestuneena tappajarobottiteknologian kehitystä

Laura Nolan irtisanoutui Googlelta kuultuaan yhtiön olevan mukana Yhdysvaltain puolustusministeriön projektissa. Hänen sekä yritysten asekehitystä tutkineen Frank Slijperin mukaan armeijat kääntyvät nyt teknologiafirmojen puoleen kehittääkseen nopeammin robottiaseita, jotka tekisivät päätöksen ihmisten tappamisesta itsenäisesti.

Mies ja nainen puolilähikuvassa

Hollantilaisen Pax-rauhanjärjestön projektijohtaja Frank Slijper (vas.) ja ohjelmistoinsinööri Laura Nolan vastustavat tappajarobotteja, joiden kehitys on tullut viime vuosina mahdolliseksi teknologian kehityksen takia. Kuva: Teija Laakso.

Robotit hoitavat vanhuksia. Autot ajavat itse. Kodit ovat ”älykoteja”, joissa valot ja turvalaitteet toimivat automaattisesti.

Media on viime vuosina pursunnut esimerkkejä tekoälyn ja robottiteknologian erilaisista sovelluksista, jotka osaavat joko nyt tai tulevaisuudessa toimia itsenäisesti, jotkut jopa täysin ilman ihmisen kontrollia.

Ohjelmistoinsinööri Laura Nolanilla ei ole mitään niitä vastaan. Yhtä sovellusta hän kuitenkin vastustaa: autonomisesti toimivia aseita, joita kansankielellä kutsutaan tappajaroboteiksi.

Niiden erona perinteisiin aseisiin on, että ne voivat tehdä päätöksen hyökkäyksestä ja kohteen tappamisesta täysin ilman ihmisen harkintaa. Täysin varmaa tietoa siitä, onko niitä jo käytössä, ei ole, mutta monet maat, kuten Yhdysvallat, Venäjä ja Israel, kehittävät niitä.

”Olen ohjelmoinut 16-vuotiaasta asti. Tietokone on vain nippu virtapiirejä ja tekoäly on vain numeroita, tilastoja ja tietokonekoodia. On väärin ja vaarallista antaa tietokoneelle tehtäväksi tärkein päätös, jonka ihminen voi tehdä”, Nolan sanoo.

Hän vieraili helmikuussa Suomessa rauhanjärjestöjen, muun muassa Suomen Rauhanliiton, vieraana kertomassa tappajarobottien vaaroista.

Nolan heräsi uhkaan vuonna 2017 kuultuaan, että hänen työnantajansa Google aikoi käyttää hänen ammattitaitoaan Yhdysvaltain puolustusministeriön hankkeessa, Project Mavenissa.

Googlen oli tarkoitus kehittää projektissa sotilaslennokkien videotunnistusteknologiaa, jotta ne tunnistaisivat nopeammin ihmisiä ja esineitä. Se ei olisi tarkoittanut varsinaista tappajarobottien rakentamista, mutta se olisi voinut edesauttaa niiden kehitystä.

Nolan irtisanoutui työstään vuonna 2018 ja liittyi samalla myös niiden tuhansien Googlen työntekijöiden joukkoon, jotka vaativat projektista luopumista. Google perui osallistumisensa lopulta maaliskuussa 2019.

Nolanista puolestaan tuli rauhanaktivisti, joka on mukana kansainvälisessä Campaign to Stop Killer Robots -verkostossa. Sen tavoitteena on saada aikaan tappajarobotit kieltävä oikeudellisesti sitova YK-sopimus.

Kastemato on fiksumpi kuin kone

Rauhajärjestöt ja ihmisoikeusjärjestöt, kuten Human Rights Watch, vastustavat tappajarobotteja, koska niiden mielestä päätös ihmisen tappamisesta pitää jättää ihmiselle, ei koneelle. Ne ovat myös humanitaarisen oikeuden näkökulmasta ongelmallisia.

Nolan vastustaa tappajarobotteja samoista syistä mutta myös ammatillisin perustein: robotit eivät kerta kaikkiaan vain ole riittävän hyviä.

”Robotit eivät ole fiksumpia kuin ihmiset. Ne eivät ole fiksumpia kuin edes kastemadot. Ohjelmistot ovat hyvin hauraita”, hän muistuttaa.

Nolan kehittää nykyisessä työssään erilaisia autonomisesti toimivia ohjelmistoja ja järjestelmiä, joiden tehtävänä voi esimerkiksi olla muiden järjestelmien hallitseminen. Haasteena on hänen mukaansa ohjelmistojen välinen vuorovaikutus, joka johtaa helposti ongelmiin yksinkertaisissakin tilanteissa.

Edes itse ajavat autot eivät vielä toimi hyvin, vaikka olosuhteet ovat suhteellisen helpot ja aikaa on käytetty vuosia. Tappajarobotit taas ovat äärimmäisen monimutkaisia, hän muistuttaa.

”Todellinen maailma on täysin kaoottinen ja ennustamaton. Robotit joutuvat toimimaan erilaisissa sääolosuhteissa ja vuorovaikuttamaan erilaisten ihmisten kanssa. Kukaan ei tiedä, miten rakentaa järjestelmä ja testata se niin, että se toimisi luotettavasti kaikenlaisissa olosuhteissa.”

Koneoppimisjärjestelmät ovat hänen mukaansa kyllä melko hyviä luokittelemaan asioita. Tällä hetkellä olisi esimerkiksi mahdollista rakentaa lennokki, joka partioisi tietyllä alueella ja tunnistaisi tietyn ikäiset miehet.

”Sotilaallinen päätöksenteko, se, tappaako jonkun vai ei, vaatii kuitenkin valtavan paljon enemmän kuin luokittelua. Kone ei osaa arvioida esimerkiksi suhteellisuutta tai vahinkoja suhteessa sotilaallisiin hyötyihin. Siksi tarvitaan ihmisiä”, Nolan sanoo.

Siviiliteknologia aseteollisuuden käytössä

Nolanin ja Slijperin mukaan viimeisten 20 vuoden aikana on nähty eräänlainen ”moraalinen liukuma”, jossa yhä kohdennetummat tappamisen tavat on alettu hyväksyä samaan aikaan, kun teknologia kehittyy yhä nopeammin.

Samaa mieltä on hollantilaisen Pax-rauhanjärjestön projektinjohtaja Frank Slijper, joka vieraili Suomessa Nolanin kanssa.

”Muistan Persianlahden sodan ensimmäisen yön vuonna 1991. Silloin käytettiin ensimmäistä kertaa tarkkuusohjattuja raketteja. Kymmenen vuotta myöhemmin tulivat ensimmäiset lennokki-iskut. Nyt ollaan pisteessä, jossa tietyn kynnyksen ylittäminen on taas lähellä”, hän sanoo.

Pax on tutkinut teknologia- ja asefirmojen yhteyksiä robottiaseteollisuuteen. Marraskuussa ilmestyneen raportin mukaan asefirmat kehittävät tällä hetkellä esimerkiksi niin sanottuja vaanivia aseita, jotka ovat kameroilla varustettuja lennokin ja ohjuksen välimuotoja.

Raportissa mainitaan muun muassa turkkilaisen STM:n kehittämä Kargu-lennokki. Se voi toimia parvessa, joka voidaan aseistaa kranaateilla. Se voi käyttää kasvojentunnistusteknologiaa tunnistaakseen kohteita.

Slijperin mukaan yhä useammat aseteollisuuden yritykset ovat mukana tappajarobottien valmistamisessa, mutta hän ja Nolan ovat huolissaan myös siitä, että siviiliteknologiaa voidaan hyödyntää tappajarobottien kehittämisessä.

Paxin viimevuotisen raportin mukaan esimerkiksi Microsoft ja Amazon eivät ole riittävän selvästi irtisanoutuneet tappajarobottiteknologian kehittämisestä ja ovat mukana sotilaallisissa hankkeissa.

”Iso osa maailman tekoälyasiantuntijuudesta on muutaman ohjelmistoyrityksen käsissä. Tekoälyasiantuntijoista on niin suuri pula, että yliopistotkin valittavat, etteivät ne saa tutkijoita, koska yritykset palkkaavat heidät. Tämän vuoksi myös armeijat tekevät yhteistyötä yritysten kanssa: ne eivät saa asiantuntijuutta muualta”, Nolan muistuttaa.

Kieltosopimus ei vielä näköpiirissä

Campaign to Stop Killer Robotsin tavoitteena on, että autonomisesti, kokonaan ilman ihmisen kontrollia toimivat aseet, kiellettäisiin oikeudellisesti sitovalla YK-sopimuksella, joka neuvoteltaisiin tavanomaisia aseita koskevan sopimuksen CCW:n alle. Verkosto kampanjoi myös yritysten suuntaan, jotta ne kieltäytyisivät myymästä tekoälysovelluksia tappajarobottiteknologian kehittämiseen.

Neuvottelut ovat kuitenkin lähestulkoon pattitilanteessa, sillä kuuden vuoden aikana vasta 30 maata on alkanut vaatia sitovaa sopimusta. Taustalla on etenkin suurten asemahtien, kuten Yhdysvaltain, Venäjän, Etelä-Korean ja Israelin, vastustus.

Slijperin mukaan neuvotteluissa on kuitenkin edetty: nykyään neuvottelijat sentään edes puhuvat samasta asiasta. Myös kansalaisten ja asiantuntijoiden tietoisuus tappajaroboteista on kasvanut.

Jotta sopimus saataisiin neuvoteltua, tarvitaan kuitenkin läpimurtoa.

”Tarvitaan vain yksi päättäväinen maa, joka sanoo, että nyt riittää ja että tarvitaan sopimus YK:n sisällä tai sen ulkopuolella.”

Slijper muistuttaa, että myös maamiinat, rypäleaseet ja kemialliset aseet kieltävät sopimukset onnistuttiin lopulta neuvottelemaan loppuun asti. Prosessit vain ovat pitkiä.

Suomi ei kannata sopimusta

Suomi on osallistunut sopimusta koskeviin keskusteluihin aktiivisesti, mutta se ei ole ilmoittautunut niiden 30 maan joukkoon, jotka kannattavat kieltosopimusta. Hallitusohjelman mukaan Suomen tavoitteena on ”kieltää tekoälyyn perustuvien asejärjestelmien kehittäminen ja tuotanto”.

”Täysin autonomisia, kokonaan ihmisen kontrollin ulottumattomissa olevia aseita ei tule kehittää. Kansainvälinen humanitaarinen oikeus ja kansainväliset ihmisoikeusnormit pätevät riippumatta siitä, millainen asejärjestelmä on käytössä, ja vastuu näiden noudattamisesta säilyy valtioilla”, kommentoi ulkoministeriön asevalvontayksikön vastuuvirkamies Anni Mäkeläinen sähköpostitse.

Suomen tavoitteena on hänen mukaansa tällä hetkellä poliittisesti sitova asiakirja mutta ei varsinainen oikeudellisesti sitova sopimus. Poliittista sitoumusta ovat kompromissina ehdottaneet aiemmin esimerkiksi Ranska ja Saksa.

”Oikeudellisesti sitovalle kieltosopimukselle ei ole laajaa kannatusta, eikä siihen saataisi mukaan niitä maita, jotka näitä teknologioita erityisesti kehittävät: Yhdysvaltoja, Venäjää, Kiinaa ja muita suuria asevalmistajia. Tehokkainta on ajaa mahdollisimman laajapohjaista järjestelyä, sillä vain näin lopputuloksella on todellista vaikutusta”, Mäkeläinen sanoo.

Lisää uusi kommentti