Uutiset Tappajarobotit

”Robotti ei ole fiksumpi kuin kastemato” – Googlelta irtisanoutunut ohjelmistoinsinööri Laura Nolan seuraa huolestuneena tappajarobottiteknologian kehitystä

Laura Nolan irtisanoutui Googlelta kuultuaan yhtiön olevan mukana Yhdysvaltain puolustusministeriön projektissa. Hänen sekä yritysten asekehitystä tutkineen Frank Slijperin mukaan armeijat kääntyvät nyt teknologiafirmojen puoleen kehittääkseen nopeammin robottiaseita, jotka tekisivät päätöksen ihmisten tappamisesta itsenäisesti.
Mies ja nainen puolilähikuvassa
Hollantilaisen Pax-rauhanjärjestön projektijohtaja Frank Slijper (vas.) ja ohjelmistoinsinööri Laura Nolan vastustavat tappajarobotteja, joiden kehitys on tullut viime vuosina mahdolliseksi teknologian kehityksen takia. (Kuva: Teija Laakso)

Robotit hoitavat vanhuksia. Autot ajavat itse. Kodit ovat ”älykoteja”, joissa valot ja turvalaitteet toimivat automaattisesti.

Media on viime vuosina pursunnut esimerkkejä tekoälyn ja robottiteknologian erilaisista sovelluksista, jotka osaavat joko nyt tai tulevaisuudessa toimia itsenäisesti, jotkut jopa täysin ilman ihmisen kontrollia.

Ohjelmistoinsinööri Laura Nolanilla ei ole mitään niitä vastaan. Yhtä sovellusta hän kuitenkin vastustaa: autonomisesti toimivia aseita, joita kansankielellä kutsutaan tappajaroboteiksi.

Niiden erona perinteisiin aseisiin on, että ne voivat tehdä päätöksen hyökkäyksestä ja kohteen tappamisesta täysin ilman ihmisen harkintaa. Täysin varmaa tietoa siitä, onko niitä jo käytössä, ei ole, mutta monet maat, kuten Yhdysvallat, Venäjä ja Israel, kehittävät niitä.

”Olen ohjelmoinut 16-vuotiaasta asti. Tietokone on vain nippu virtapiirejä ja tekoäly on vain numeroita, tilastoja ja tietokonekoodia. On väärin ja vaarallista antaa tietokoneelle tehtäväksi tärkein päätös, jonka ihminen voi tehdä”, Nolan sanoo.

Hän vieraili helmikuussa Suomessa rauhanjärjestöjen, muun muassa Suomen Rauhanliiton, vieraana kertomassa tappajarobottien vaaroista.

Nolan heräsi uhkaan vuonna 2017 kuultuaan, että hänen työnantajansa Google aikoi käyttää hänen ammattitaitoaan Yhdysvaltain puolustusministeriön hankkeessa, Project Mavenissa.

Googlen oli tarkoitus kehittää projektissa sotilaslennokkien videotunnistusteknologiaa, jotta ne tunnistaisivat nopeammin ihmisiä ja esineitä. Se ei olisi tarkoittanut varsinaista tappajarobottien rakentamista, mutta se olisi voinut edesauttaa niiden kehitystä.

Nolan irtisanoutui työstään vuonna 2018 ja liittyi samalla myös niiden tuhansien Googlen työntekijöiden joukkoon, jotka vaativat projektista luopumista. Google perui osallistumisensa lopulta maaliskuussa 2019.

Nolanista puolestaan tuli rauhanaktivisti, joka on mukana kansainvälisessä Campaign to Stop Killer Robots -verkostossa. Sen tavoitteena on saada aikaan tappajarobotit kieltävä oikeudellisesti sitova YK-sopimus.

Kastemato on fiksumpi kuin kone

Rauhajärjestöt ja ihmisoikeusjärjestöt, kuten Human Rights Watch, vastustavat tappajarobotteja, koska niiden mielestä päätös ihmisen tappamisesta pitää jättää ihmiselle, ei koneelle. Ne ovat myös humanitaarisen oikeuden näkökulmasta ongelmallisia.

Nolan vastustaa tappajarobotteja samoista syistä mutta myös ammatillisin perustein: robotit eivät kerta kaikkiaan vain ole riittävän hyviä.

”Robotit eivät ole fiksumpia kuin ihmiset. Ne eivät ole fiksumpia kuin edes kastemadot. Ohjelmistot ovat hyvin hauraita”, hän muistuttaa.

Nolan kehittää nykyisessä työssään erilaisia autonomisesti toimivia ohjelmistoja ja järjestelmiä, joiden tehtävänä voi esimerkiksi olla muiden järjestelmien hallitseminen. Haasteena on hänen mukaansa ohjelmistojen välinen vuorovaikutus, joka johtaa helposti ongelmiin yksinkertaisissakin tilanteissa.

Edes itse ajavat autot eivät vielä toimi hyvin, vaikka olosuhteet ovat suhteellisen helpot ja aikaa on käytetty vuosia. Tappajarobotit taas ovat äärimmäisen monimutkaisia, hän muistuttaa.

”Todellinen maailma on täysin kaoottinen ja ennustamaton. Robotit joutuvat toimimaan erilaisissa sääolosuhteissa ja vuorovaikuttamaan erilaisten ihmisten kanssa. Kukaan ei tiedä, miten rakentaa järjestelmä ja testata se niin, että se toimisi luotettavasti kaikenlaisissa olosuhteissa.”

Koneoppimisjärjestelmät ovat hänen mukaansa kyllä melko hyviä luokittelemaan asioita. Tällä hetkellä olisi esimerkiksi mahdollista rakentaa lennokki, joka partioisi tietyllä alueella ja tunnistaisi tietyn ikäiset miehet.

”Sotilaallinen päätöksenteko, se, tappaako jonkun vai ei, vaatii kuitenkin valtavan paljon enemmän kuin luokittelua. Kone ei osaa arvioida esimerkiksi suhteellisuutta tai vahinkoja suhteessa sotilaallisiin hyötyihin. Siksi tarvitaan ihmisiä”, Nolan sanoo.

Siviiliteknologia aseteollisuuden käytössä

Nolanin ja Slijperin mukaan viimeisten 20 vuoden aikana on nähty eräänlainen ”moraalinen liukuma”, jossa yhä kohdennetummat tappamisen tavat on alettu hyväksyä samaan aikaan, kun teknologia kehittyy yhä nopeammin.

Samaa mieltä on hollantilaisen Pax-rauhanjärjestön projektinjohtaja Frank Slijper, joka vieraili Suomessa Nolanin kanssa.

”Muistan Persianlahden sodan ensimmäisen yön vuonna 1991. Silloin käytettiin ensimmäistä kertaa tarkkuusohjattuja raketteja. Kymmenen vuotta myöhemmin tulivat ensimmäiset lennokki-iskut. Nyt ollaan pisteessä, jossa tietyn kynnyksen ylittäminen on taas lähellä”, hän sanoo.

Pax on tutkinut teknologia- ja asefirmojen yhteyksiä robottiaseteollisuuteen. Marraskuussa ilmestyneen raportin mukaan asefirmat kehittävät tällä hetkellä esimerkiksi niin sanottuja vaanivia aseita, jotka ovat kameroilla varustettuja lennokin ja ohjuksen välimuotoja.

Raportissa mainitaan muun muassa turkkilaisen STM:n kehittämä Kargu-lennokki. Se voi toimia parvessa, joka voidaan aseistaa kranaateilla. Se voi käyttää kasvojentunnistusteknologiaa tunnistaakseen kohteita.

Slijperin mukaan yhä useammat aseteollisuuden yritykset ovat mukana tappajarobottien valmistamisessa, mutta hän ja Nolan ovat huolissaan myös siitä, että siviiliteknologiaa voidaan hyödyntää tappajarobottien kehittämisessä.

Paxin viimevuotisen raportin mukaan esimerkiksi Microsoft ja Amazon eivät ole riittävän selvästi irtisanoutuneet tappajarobottiteknologian kehittämisestä ja ovat mukana sotilaallisissa hankkeissa.

”Iso osa maailman tekoälyasiantuntijuudesta on muutaman ohjelmistoyrityksen käsissä. Tekoälyasiantuntijoista on niin suuri pula, että yliopistotkin valittavat, etteivät ne saa tutkijoita, koska yritykset palkkaavat heidät. Tämän vuoksi myös armeijat tekevät yhteistyötä yritysten kanssa: ne eivät saa asiantuntijuutta muualta”, Nolan muistuttaa.

Kieltosopimus ei vielä näköpiirissä

Campaign to Stop Killer Robotsin tavoitteena on, että autonomisesti, kokonaan ilman ihmisen kontrollia toimivat aseet, kiellettäisiin oikeudellisesti sitovalla YK-sopimuksella, joka neuvoteltaisiin tavanomaisia aseita koskevan sopimuksen CCW:n alle. Verkosto kampanjoi myös yritysten suuntaan, jotta ne kieltäytyisivät myymästä tekoälysovelluksia tappajarobottiteknologian kehittämiseen.

Neuvottelut ovat kuitenkin lähestulkoon pattitilanteessa, sillä kuuden vuoden aikana vasta 30 maata on alkanut vaatia sitovaa sopimusta. Taustalla on etenkin suurten asemahtien, kuten Yhdysvaltain, Venäjän, Etelä-Korean ja Israelin, vastustus.

Slijperin mukaan neuvotteluissa on kuitenkin edetty: nykyään neuvottelijat sentään edes puhuvat samasta asiasta. Myös kansalaisten ja asiantuntijoiden tietoisuus tappajaroboteista on kasvanut.

Jotta sopimus saataisiin neuvoteltua, tarvitaan kuitenkin läpimurtoa.

”Tarvitaan vain yksi päättäväinen maa, joka sanoo, että nyt riittää ja että tarvitaan sopimus YK:n sisällä tai sen ulkopuolella.”

Slijper muistuttaa, että myös maamiinat, rypäleaseet ja kemialliset aseet kieltävät sopimukset onnistuttiin lopulta neuvottelemaan loppuun asti. Prosessit vain ovat pitkiä.

Suomi ei kannata sopimusta

Suomi on osallistunut sopimusta koskeviin keskusteluihin aktiivisesti, mutta se ei ole ilmoittautunut niiden 30 maan joukkoon, jotka kannattavat kieltosopimusta. Hallitusohjelman mukaan Suomen tavoitteena on ”kieltää tekoälyyn perustuvien asejärjestelmien kehittäminen ja tuotanto”.

”Täysin autonomisia, kokonaan ihmisen kontrollin ulottumattomissa olevia aseita ei tule kehittää. Kansainvälinen humanitaarinen oikeus ja kansainväliset ihmisoikeusnormit pätevät riippumatta siitä, millainen asejärjestelmä on käytössä, ja vastuu näiden noudattamisesta säilyy valtioilla”, kommentoi ulkoministeriön asevalvontayksikön vastuuvirkamies Anni Mäkeläinen sähköpostitse.

Suomen tavoitteena on hänen mukaansa tällä hetkellä poliittisesti sitova asiakirja mutta ei varsinainen oikeudellisesti sitova sopimus. Poliittista sitoumusta ovat kompromissina ehdottaneet aiemmin esimerkiksi Ranska ja Saksa.

”Oikeudellisesti sitovalle kieltosopimukselle ei ole laajaa kannatusta, eikä siihen saataisi mukaan niitä maita, jotka näitä teknologioita erityisesti kehittävät: Yhdysvaltoja, Venäjää, Kiinaa ja muita suuria asevalmistajia. Tehokkainta on ajaa mahdollisimman laajapohjaista järjestelyä, sillä vain näin lopputuloksella on todellista vaikutusta”, Mäkeläinen sanoo.

Tappajarobotit informaatioteknologiapolitiikkakansalaisyhteiskuntaaseet & armeijakonflikti Suomen RauhanliittoSadankomiteaSuomen Rauhanpuolustajat

Lue myös

Valkoisiin haalareihin pukeutuneita ihmisiä pilvenpiirtäjän edessä

Raportti: Asefirmat kehittävät jo tappajarobotteja – ”Autonomiset aseet ovat siirtymässä sci-fistä todellisuuteen”

Autonomisten aseiden uhka kasvaa, sillä yhä useammat valtiot ovat lisänneet niiden kehittelyä viime vuosina, selviää PAX-rauhanjärjestön tutkimuksesta. Kyselytutkimuksen mukaan muun muassa suomalaisista suurin osa kannattaa niiden kieltämistä.
Tietokoneen näppäimistö

(Teko)älykkäät puolustusvoimat?

Robottiaseet kehittyvät kovaa vauhtia, mutta Puolustusvoimien tutkimusjohtaja ei ole huolissaan tekoälyn vaikutuksista humanitaarisen lain rikkomiskynnyksen madaltumiseen. Uudet autonomiset asejärjestelmät kuitenkin ampuvat itsensä vastuukysymyksissä sodankäynnin sääntöjen ulottumattomiin, varoittaa Anna Heikkinen.
Sormi painamassa tietokoneen näppäimistöä

Raportti: Suuret teknologiafirmat vaarassa sotkeutua tappajarobottien kehittämiseen

Tuoreen raportin mukaan muun muassa Microsoft ja Amazon voivat viedä maailman lähemmäs kohti tappajarobotteja, elleivät ne sanoudu irti niiden kehittämisestä.

Tilaa uutiskirje

Saat kerran viikossa koosteen Maailma.netin uutisista, tapahtumista ja työpaikoista sähköpostiisi. Tietojasi käytetään vain uutiskirjeen lähettämiseen. Rekisteriseloste täällä.

Pääuutiset

Ihminen korkean puun vieressä, taustalla pakolaisleirin asumuksia.

”Ihmiset eivät ole tottuneet pakenemaan” – Keski-Sahelissa on käynnissä yksi maailman nopeimmin pahenevista humanitaarisista kriiseistä

Maailma.net aloittaa uuden juttusarjan unohdetuista kriiseistä ja konflikteista, joista kuullaan maailman medioissa harvoin. Yksi niistä on Keski-Sahelissa, jossa ihmiset pakenevat jihadistista väkivaltaa ja aseellisten ryhmien hyökkäyksiä. Aiemmin rauhallisessa Burkina Fasossa sisäisten pakolaisten määrä on kymmenkertaistunut lyhyessä ajassa.
Mies pitelee puuntainta kädessään.

Ruanda onnistui ennallistamaan yli 800 000 hehtaaria metsää – Siemenpankki auttoi metsien pelastamisessa

Ruanda on kohonnut metsityksessä ja metsien ennallistamisessa maailmanmestariluokkaan. Syynä on muun muassa kansallinen puunsiemenkeskus, josta uskotaan tulevan alueellinen.
Kaksi kasvomaskein suojautunutta ihmistä liikenteen seassa.

Maailman haavoittuvimmat kärsivät koronaviruspandemiasta eniten – Ympäri maailman raportoidaan köyhimpiin kohdistuvia väkivallantekoja

Niin Nigeriassa, Intiassa, Filippiineillä kuin Etelä-Afrikassakin on raportoitu viranomaisten väkivallan kasvaneen koronaviruspandemian aikana. Kohteina ovat useimmiten köyhimmät, kirjoittaa Olli-Pekka Haavisto.
Mies seisoo rakennuksen raunioilla.

Jemenissä on paljastumassa koronakatastrofi – Avustusjärjestöjen mukaan hengitystieoireisiin kuolleiden määrä on noussut nopeasti

Jemenissä on todettu melko vähän tartuntoja, mutta järjestöjen tiedot viittaavat siihen, että tapauksia on paljon luultua enemmän. Terveydenhuoltojärjestelmä ei kykene hoitamaan heitä. ”Olemme kuulleet perheistä, jotka ovat menettäneet kaksi tai kolme läheistä viikossa”, kertoo Pelastakaa Lasten ohjelmajohtaja Mohammed Alshamaa.
Kolme Bangladeshin lippua kerrostalon edustalla.

Sykloni Amphan on vaikuttanut jopa kymmenen miljoonan ihmisen elämään Bangladeshissa – ”Puoli miljoonaa perhettä on saattanut menettää kotinsa”

Jopa 180 kilometriä tunnissa puhaltavia tuulia mukanaan tuonut sykloni on tuhonnut taloja, katkonut sähköjä ja vienyt viljasatoa Intiassa ja Bangladeshissa. YK:n mukaan myrskyn tieltä ehdittiin kuitenkin evakuoida noin kolme miljoonaa ihmistä.

Tuoreimmat

Luetuimmat

”Ihmiset eivät ole tottuneet pakenemaan” – Keski-Sahelissa on käynnissä yksi maailman nopeimmin pahenevista humanitaarisista kriiseistä
Voisiko vaatteita valmistaa ekologisesti ja ilman hikipajoja? – Siihen tähtää uusi tutkimushanke
Zimbabwe pidätti protestijohtajan
EU:hun pyrkivät siirtolaiset ahdingossa Balkanilla
Kehitysyhteistyöstä tuli koronaviruksen torjuntaa – Moni suomalaisjärjestö jakaa nyt apua pandemian vaikutuksista kärsiville, mutta samalla pelätään lahjoitusten vähenemistä
Aavikkokulkusirkka on ”eloonjäämisen mestari”, jonka parvet voivat syödä päivässä 35 000 ihmisen ruuat – ”Ihmiset eivät uskalla viljellä, koska he tietävät, että ne ovat tulossa”, kertoo avustusjärjestön työntekijä Etiopiasta
”Monet pelkäävät, etteivät kuole koronaan vaan muihin tauteihin tai nälkään” – Afrikassa on todettu vielä vähän tartuntoja, mutta koronaviruksen vaikutukset näkyvät jo
Unkarin parlamentti kieltäytyi ratifioimasta naisiin kohdistuvan väkivallan vastaista sopimusta – ”Yritys kääntää huomio pois maan omista epäonnistumisista”, sanoo Amnesty
Sudan kieltää tyttöjen sukuelinten silpomisen – Toimenpiteestä saa jatkossa kolmen vuoden vankeustuomion
Ensimmäinen koronavirustartunta todettu maailman suurimmalla pakolaisleirillä – ”Tämä pandemia voi viedä Bangladeshin kehitystä taaksepäin vuosikymmenillä”