Uutiset Tappajarobotit

”Robotti ei ole fiksumpi kuin kastemato” – Googlelta irtisanoutunut ohjelmistoinsinööri Laura Nolan seuraa huolestuneena tappajarobottiteknologian kehitystä

Laura Nolan irtisanoutui Googlelta kuultuaan yhtiön olevan mukana Yhdysvaltain puolustusministeriön projektissa. Hänen sekä yritysten asekehitystä tutkineen Frank Slijperin mukaan armeijat kääntyvät nyt teknologiafirmojen puoleen kehittääkseen nopeammin robottiaseita, jotka tekisivät päätöksen ihmisten tappamisesta itsenäisesti.
Mies ja nainen puolilähikuvassa
Hollantilaisen Pax-rauhanjärjestön projektijohtaja Frank Slijper (vas.) ja ohjelmistoinsinööri Laura Nolan vastustavat tappajarobotteja, joiden kehitys on tullut viime vuosina mahdolliseksi teknologian kehityksen takia. (Kuva: Teija Laakso)

Robotit hoitavat vanhuksia. Autot ajavat itse. Kodit ovat ”älykoteja”, joissa valot ja turvalaitteet toimivat automaattisesti.

Media on viime vuosina pursunnut esimerkkejä tekoälyn ja robottiteknologian erilaisista sovelluksista, jotka osaavat joko nyt tai tulevaisuudessa toimia itsenäisesti, jotkut jopa täysin ilman ihmisen kontrollia.

Ohjelmistoinsinööri Laura Nolanilla ei ole mitään niitä vastaan. Yhtä sovellusta hän kuitenkin vastustaa: autonomisesti toimivia aseita, joita kansankielellä kutsutaan tappajaroboteiksi.

Niiden erona perinteisiin aseisiin on, että ne voivat tehdä päätöksen hyökkäyksestä ja kohteen tappamisesta täysin ilman ihmisen harkintaa. Täysin varmaa tietoa siitä, onko niitä jo käytössä, ei ole, mutta monet maat, kuten Yhdysvallat, Venäjä ja Israel, kehittävät niitä.

”Olen ohjelmoinut 16-vuotiaasta asti. Tietokone on vain nippu virtapiirejä ja tekoäly on vain numeroita, tilastoja ja tietokonekoodia. On väärin ja vaarallista antaa tietokoneelle tehtäväksi tärkein päätös, jonka ihminen voi tehdä”, Nolan sanoo.

Hän vieraili helmikuussa Suomessa rauhanjärjestöjen, muun muassa Suomen Rauhanliiton, vieraana kertomassa tappajarobottien vaaroista.

Nolan heräsi uhkaan vuonna 2017 kuultuaan, että hänen työnantajansa Google aikoi käyttää hänen ammattitaitoaan Yhdysvaltain puolustusministeriön hankkeessa, Project Mavenissa.

Googlen oli tarkoitus kehittää projektissa sotilaslennokkien videotunnistusteknologiaa, jotta ne tunnistaisivat nopeammin ihmisiä ja esineitä. Se ei olisi tarkoittanut varsinaista tappajarobottien rakentamista, mutta se olisi voinut edesauttaa niiden kehitystä.

Nolan irtisanoutui työstään vuonna 2018 ja liittyi samalla myös niiden tuhansien Googlen työntekijöiden joukkoon, jotka vaativat projektista luopumista. Google perui osallistumisensa lopulta maaliskuussa 2019.

Nolanista puolestaan tuli rauhanaktivisti, joka on mukana kansainvälisessä Campaign to Stop Killer Robots -verkostossa. Sen tavoitteena on saada aikaan tappajarobotit kieltävä oikeudellisesti sitova YK-sopimus.

Kastemato on fiksumpi kuin kone

Rauhajärjestöt ja ihmisoikeusjärjestöt, kuten Human Rights Watch, vastustavat tappajarobotteja, koska niiden mielestä päätös ihmisen tappamisesta pitää jättää ihmiselle, ei koneelle. Ne ovat myös humanitaarisen oikeuden näkökulmasta ongelmallisia.

Nolan vastustaa tappajarobotteja samoista syistä mutta myös ammatillisin perustein: robotit eivät kerta kaikkiaan vain ole riittävän hyviä.

”Robotit eivät ole fiksumpia kuin ihmiset. Ne eivät ole fiksumpia kuin edes kastemadot. Ohjelmistot ovat hyvin hauraita”, hän muistuttaa.

Nolan kehittää nykyisessä työssään erilaisia autonomisesti toimivia ohjelmistoja ja järjestelmiä, joiden tehtävänä voi esimerkiksi olla muiden järjestelmien hallitseminen. Haasteena on hänen mukaansa ohjelmistojen välinen vuorovaikutus, joka johtaa helposti ongelmiin yksinkertaisissakin tilanteissa.

Edes itse ajavat autot eivät vielä toimi hyvin, vaikka olosuhteet ovat suhteellisen helpot ja aikaa on käytetty vuosia. Tappajarobotit taas ovat äärimmäisen monimutkaisia, hän muistuttaa.

”Todellinen maailma on täysin kaoottinen ja ennustamaton. Robotit joutuvat toimimaan erilaisissa sääolosuhteissa ja vuorovaikuttamaan erilaisten ihmisten kanssa. Kukaan ei tiedä, miten rakentaa järjestelmä ja testata se niin, että se toimisi luotettavasti kaikenlaisissa olosuhteissa.”

Koneoppimisjärjestelmät ovat hänen mukaansa kyllä melko hyviä luokittelemaan asioita. Tällä hetkellä olisi esimerkiksi mahdollista rakentaa lennokki, joka partioisi tietyllä alueella ja tunnistaisi tietyn ikäiset miehet.

”Sotilaallinen päätöksenteko, se, tappaako jonkun vai ei, vaatii kuitenkin valtavan paljon enemmän kuin luokittelua. Kone ei osaa arvioida esimerkiksi suhteellisuutta tai vahinkoja suhteessa sotilaallisiin hyötyihin. Siksi tarvitaan ihmisiä”, Nolan sanoo.

Siviiliteknologia aseteollisuuden käytössä

Nolanin ja Slijperin mukaan viimeisten 20 vuoden aikana on nähty eräänlainen ”moraalinen liukuma”, jossa yhä kohdennetummat tappamisen tavat on alettu hyväksyä samaan aikaan, kun teknologia kehittyy yhä nopeammin.

Samaa mieltä on hollantilaisen Pax-rauhanjärjestön projektinjohtaja Frank Slijper, joka vieraili Suomessa Nolanin kanssa.

”Muistan Persianlahden sodan ensimmäisen yön vuonna 1991. Silloin käytettiin ensimmäistä kertaa tarkkuusohjattuja raketteja. Kymmenen vuotta myöhemmin tulivat ensimmäiset lennokki-iskut. Nyt ollaan pisteessä, jossa tietyn kynnyksen ylittäminen on taas lähellä”, hän sanoo.

Pax on tutkinut teknologia- ja asefirmojen yhteyksiä robottiaseteollisuuteen. Marraskuussa ilmestyneen raportin mukaan asefirmat kehittävät tällä hetkellä esimerkiksi niin sanottuja vaanivia aseita, jotka ovat kameroilla varustettuja lennokin ja ohjuksen välimuotoja.

Raportissa mainitaan muun muassa turkkilaisen STM:n kehittämä Kargu-lennokki. Se voi toimia parvessa, joka voidaan aseistaa kranaateilla. Se voi käyttää kasvojentunnistusteknologiaa tunnistaakseen kohteita.

Slijperin mukaan yhä useammat aseteollisuuden yritykset ovat mukana tappajarobottien valmistamisessa, mutta hän ja Nolan ovat huolissaan myös siitä, että siviiliteknologiaa voidaan hyödyntää tappajarobottien kehittämisessä.

Paxin viimevuotisen raportin mukaan esimerkiksi Microsoft ja Amazon eivät ole riittävän selvästi irtisanoutuneet tappajarobottiteknologian kehittämisestä ja ovat mukana sotilaallisissa hankkeissa.

”Iso osa maailman tekoälyasiantuntijuudesta on muutaman ohjelmistoyrityksen käsissä. Tekoälyasiantuntijoista on niin suuri pula, että yliopistotkin valittavat, etteivät ne saa tutkijoita, koska yritykset palkkaavat heidät. Tämän vuoksi myös armeijat tekevät yhteistyötä yritysten kanssa: ne eivät saa asiantuntijuutta muualta”, Nolan muistuttaa.

Kieltosopimus ei vielä näköpiirissä

Campaign to Stop Killer Robotsin tavoitteena on, että autonomisesti, kokonaan ilman ihmisen kontrollia toimivat aseet, kiellettäisiin oikeudellisesti sitovalla YK-sopimuksella, joka neuvoteltaisiin tavanomaisia aseita koskevan sopimuksen CCW:n alle. Verkosto kampanjoi myös yritysten suuntaan, jotta ne kieltäytyisivät myymästä tekoälysovelluksia tappajarobottiteknologian kehittämiseen.

Neuvottelut ovat kuitenkin lähestulkoon pattitilanteessa, sillä kuuden vuoden aikana vasta 30 maata on alkanut vaatia sitovaa sopimusta. Taustalla on etenkin suurten asemahtien, kuten Yhdysvaltain, Venäjän, Etelä-Korean ja Israelin, vastustus.

Slijperin mukaan neuvotteluissa on kuitenkin edetty: nykyään neuvottelijat sentään edes puhuvat samasta asiasta. Myös kansalaisten ja asiantuntijoiden tietoisuus tappajaroboteista on kasvanut.

Jotta sopimus saataisiin neuvoteltua, tarvitaan kuitenkin läpimurtoa.

”Tarvitaan vain yksi päättäväinen maa, joka sanoo, että nyt riittää ja että tarvitaan sopimus YK:n sisällä tai sen ulkopuolella.”

Slijper muistuttaa, että myös maamiinat, rypäleaseet ja kemialliset aseet kieltävät sopimukset onnistuttiin lopulta neuvottelemaan loppuun asti. Prosessit vain ovat pitkiä.

Suomi ei kannata sopimusta

Suomi on osallistunut sopimusta koskeviin keskusteluihin aktiivisesti, mutta se ei ole ilmoittautunut niiden 30 maan joukkoon, jotka kannattavat kieltosopimusta. Hallitusohjelman mukaan Suomen tavoitteena on ”kieltää tekoälyyn perustuvien asejärjestelmien kehittäminen ja tuotanto”.

”Täysin autonomisia, kokonaan ihmisen kontrollin ulottumattomissa olevia aseita ei tule kehittää. Kansainvälinen humanitaarinen oikeus ja kansainväliset ihmisoikeusnormit pätevät riippumatta siitä, millainen asejärjestelmä on käytössä, ja vastuu näiden noudattamisesta säilyy valtioilla”, kommentoi ulkoministeriön asevalvontayksikön vastuuvirkamies Anni Mäkeläinen sähköpostitse.

Suomen tavoitteena on hänen mukaansa tällä hetkellä poliittisesti sitova asiakirja mutta ei varsinainen oikeudellisesti sitova sopimus. Poliittista sitoumusta ovat kompromissina ehdottaneet aiemmin esimerkiksi Ranska ja Saksa.

”Oikeudellisesti sitovalle kieltosopimukselle ei ole laajaa kannatusta, eikä siihen saataisi mukaan niitä maita, jotka näitä teknologioita erityisesti kehittävät: Yhdysvaltoja, Venäjää, Kiinaa ja muita suuria asevalmistajia. Tehokkainta on ajaa mahdollisimman laajapohjaista järjestelyä, sillä vain näin lopputuloksella on todellista vaikutusta”, Mäkeläinen sanoo.

Tappajarobotit informaatioteknologiapolitiikkakansalaisyhteiskuntaaseet & armeijakonflikti Suomen RauhanliittoSadankomiteaSuomen Rauhanpuolustajat

Lue myös

Valkoisiin haalareihin pukeutuneita ihmisiä pilvenpiirtäjän edessä

Raportti: Asefirmat kehittävät jo tappajarobotteja – ”Autonomiset aseet ovat siirtymässä sci-fistä todellisuuteen”

Autonomisten aseiden uhka kasvaa, sillä yhä useammat valtiot ovat lisänneet niiden kehittelyä viime vuosina, selviää PAX-rauhanjärjestön tutkimuksesta. Kyselytutkimuksen mukaan muun muassa suomalaisista suurin osa kannattaa niiden kieltämistä.
Tietokoneen näppäimistö

(Teko)älykkäät puolustusvoimat?

Robottiaseet kehittyvät kovaa vauhtia, mutta Puolustusvoimien tutkimusjohtaja ei ole huolissaan tekoälyn vaikutuksista humanitaarisen lain rikkomiskynnyksen madaltumiseen. Uudet autonomiset asejärjestelmät kuitenkin ampuvat itsensä vastuukysymyksissä sodankäynnin sääntöjen ulottumattomiin, varoittaa Anna Heikkinen.
Sormi painamassa tietokoneen näppäimistöä

Raportti: Suuret teknologiafirmat vaarassa sotkeutua tappajarobottien kehittämiseen

Tuoreen raportin mukaan muun muassa Microsoft ja Amazon voivat viedä maailman lähemmäs kohti tappajarobotteja, elleivät ne sanoudu irti niiden kehittämisestä.

Tilaa uutiskirje

Saat kerran viikossa koosteen Maailma.netin uutisista, tapahtumista ja työpaikoista sähköpostiisi. Tietojasi käytetään vain uutiskirjeen lähettämiseen. Rekisteriseloste täällä.

Pääuutiset

Nainen puolilähikuvassa

Maahanmuuttajanuorten asioista puhuvat usein keski-ikäiset kantasuomalaiset keskenään – MakeSomeNoise-foorumi antaa äänen maahanmuuttajataustaisille nuorille

Helsingissä perustetun MakeSomeNoise-foorumin nuoret eivät ole kokemusasiantuntijoita vaan asiantuntijoita, jotka puhuvat tärkeinä pitämistään asioista. Yksi sen aktiiveista on Ulkar Aghayeva, joka sai 16-vuotiaana kuulla olevansa ylikoulutettu siivoojan työhön.
Nainen sivukuvassa käsi ojossa, taustalla muita naisia

Tutkimus: Moni nainen ei voi tehdä itse päätöstä terveyspalveluiden käytöstään – tai edes kieltäytyä seksistä

YK:n väestörahaston tutkimuksen mukaan seksuaali- ja lisääntymisterveyttä rajoitetaan etenkin Afrikan maissa. Ongelmana on myös tilastotietojen puute.
Somalian ja EU:n liput

Demokraattinen Afrikka on EU:lle luontevin kumppani

EU:n Afrikka-strategia julkaistiin maaliskuun alussa, ja Suomi työstää parhaillaan omaansa. Suomen tulee profiloitua Afrikassa vahvana demokratiatukitoimijana ja toimia EU:n uskottavana demokratian äänitorvena, kirjoittaa demokratiajärjestö Demon asiantuntija Jussi Kanner.
Havupuiden runkoja, taustalla järvi

Koronaviruspandemia pakottaa hakemaan elämyksiä muualta kuin kuluttamisesta – Samalla se voi toimia kestävän elämäntavan oppituntina

Kaikki joutuvat nyt muuttamaan elämäänsä, ja se voi luoda mahdollisuuksia edistää vähähiilistä elämäntapaa, arvioivat Suomen luonnonsuojeluliiton ja Sitran asiantuntijat. Koronavirus opettaa myös sen, että kaikkiin kriiseihin on pakko reagoida, muistuttaa suojeluasiantuntija Hanna Aho.
Kädet vesihanan alla

Saippua ja sosiaalinen eristäytyminen ovat luksustuotteita – Pakolaiset erityisen haavoittuvia koronaviruksen vaikutuksille

Koronaviruksen leviämisen estämisessä tärkeässä osassa ovat käsien peseminen ja ihmiskontaktien välttäminen. Valitettava tosiasia kuitenkin on, että kaikki ihmiset eivät ole tasa-arvoisessa asemassa toisiinsa nähden, mitä tulee edes käsienpesuun tai ihmiskontaktien välttelemiseen, kirjoittaa Kirkon Ulkomaanavun viestinnän asiantuntija Elisa Rimaila.

Tuoreimmat

Tutkimus: Moni nainen ei voi tehdä itse päätöstä terveyspalveluiden käytöstään – tai edes kieltäytyä seksistä
Koronaviruspandemia pakottaa hakemaan elämyksiä muualta kuin kuluttamisesta – Samalla se voi toimia kestävän elämäntavan oppituntina
Maahanmuuttajanuorten asioista puhuvat usein keski-ikäiset kantasuomalaiset keskenään – MakeSomeNoise-foorumi antaa äänen maahanmuuttajataustaisille nuorille
Kansanliike vaatii epäkohtiin puuttumista Algeriassa – Rauhanomaisen protestoinnin kautta halutaan muuttaa rakenteita
Oikeus hyödyntää mangrovemetsiä teki Borneon kalastajista luonnonsuojelijoita
Syyriaan vaaditaan tulitaukoa – Maassa on havaittu ensimmäiset tartunnat, ja koronavirusepidemiaa olisi vaikea hallita
Podcast: ”Olen suomalainen kirjailija, joka kirjoittaa espanjaksi” – Roxana Crisólogo on julkaissut neljä runokirjaa, mutta ei voi hakea Suomen kirjailijaliiton jäsenyyttä
Koronavirus on sulkenut suurimman osan maailman kouluista – Valmiiksi vaikeassa asemassa oleva kärsivät eniten
Tutkimus: Demokratiaa ei juuri käsitellä Euroopan opettajakoulutuksessa – Syynä on se, ettei demokratia ole aiemmin ollut uhattuna, sanoo lehtori Matti Rautiainen
Käsienpesu on tehokas tapa ehkäistä koronaa, mutta monille se ei ole mahdollista – Pakolaisapu aloitti hygieniakoulutukset Ugandan pakolaisasutusalueilla

Luetuimmat

Koronaviruspandemia pakottaa hakemaan elämyksiä muualta kuin kuluttamisesta – Samalla se voi toimia kestävän elämäntavan oppituntina
Käsienpesu on tehokas tapa ehkäistä koronaa, mutta monille se ei ole mahdollista – Pakolaisapu aloitti hygieniakoulutukset Ugandan pakolaisasutusalueilla
Tutkimus: Moni nainen ei voi tehdä itse päätöstä terveyspalveluiden käytöstään – tai edes kieltäytyä seksistä
Syyriaan vaaditaan tulitaukoa – Maassa on havaittu ensimmäiset tartunnat, ja koronavirusepidemiaa olisi vaikea hallita
Avustusjärjestö: Kreikan saarten pakolaisleirit evakuoitava koronan vuoksi – Ihmisten pitäminen leireillä ”lähentelee rikollista toimintaa”
Koronavirus on sulkenut suurimman osan maailman kouluista – Valmiiksi vaikeassa asemassa oleva kärsivät eniten
Kansanliike vaatii epäkohtiin puuttumista Algeriassa – Rauhanomaisen protestoinnin kautta halutaan muuttaa rakenteita
Terveysjärjestö varoittaa koronasta Syyriassa – Yhdeksän vuotta kestänyt konflikti on tuhonnut terveysjärjestelmän ja ajanut miljoonat pakosalle
Akkuteollisuus ei pärjäisi ilman Kongon pahamaineisia kaivoksia – Koboltin eettisyyttä on vaikea varmistaa, sanoo kaivosalueella vieraillut suomalaistutkija
Raportti: Demokratia heikkenee kehittyvissä maissa – sortoa kiristävät nyt myös aiemmin edistyneet maat