Uutiset Tappajarobotit

”Robotti ei ole fiksumpi kuin kastemato” – Googlelta irtisanoutunut ohjelmistoinsinööri Laura Nolan seuraa huolestuneena tappajarobottiteknologian kehitystä

Laura Nolan irtisanoutui Googlelta kuultuaan yhtiön olevan mukana Yhdysvaltain puolustusministeriön projektissa. Hänen sekä yritysten asekehitystä tutkineen Frank Slijperin mukaan armeijat kääntyvät nyt teknologiafirmojen puoleen kehittääkseen nopeammin robottiaseita, jotka tekisivät päätöksen ihmisten tappamisesta itsenäisesti.
Mies ja nainen puolilähikuvassa
Hollantilaisen Pax-rauhanjärjestön projektijohtaja Frank Slijper (vas.) ja ohjelmistoinsinööri Laura Nolan vastustavat tappajarobotteja, joiden kehitys on tullut viime vuosina mahdolliseksi teknologian kehityksen takia. (Kuva: Teija Laakso)

Robotit hoitavat vanhuksia. Autot ajavat itse. Kodit ovat ”älykoteja”, joissa valot ja turvalaitteet toimivat automaattisesti.

Media on viime vuosina pursunnut esimerkkejä tekoälyn ja robottiteknologian erilaisista sovelluksista, jotka osaavat joko nyt tai tulevaisuudessa toimia itsenäisesti, jotkut jopa täysin ilman ihmisen kontrollia.

Ohjelmistoinsinööri Laura Nolanilla ei ole mitään niitä vastaan. Yhtä sovellusta hän kuitenkin vastustaa: autonomisesti toimivia aseita, joita kansankielellä kutsutaan tappajaroboteiksi.

Niiden erona perinteisiin aseisiin on, että ne voivat tehdä päätöksen hyökkäyksestä ja kohteen tappamisesta täysin ilman ihmisen harkintaa. Täysin varmaa tietoa siitä, onko niitä jo käytössä, ei ole, mutta monet maat, kuten Yhdysvallat, Venäjä ja Israel, kehittävät niitä.

”Olen ohjelmoinut 16-vuotiaasta asti. Tietokone on vain nippu virtapiirejä ja tekoäly on vain numeroita, tilastoja ja tietokonekoodia. On väärin ja vaarallista antaa tietokoneelle tehtäväksi tärkein päätös, jonka ihminen voi tehdä”, Nolan sanoo.

Hän vieraili helmikuussa Suomessa rauhanjärjestöjen, muun muassa Suomen Rauhanliiton, vieraana kertomassa tappajarobottien vaaroista.

Nolan heräsi uhkaan vuonna 2017 kuultuaan, että hänen työnantajansa Google aikoi käyttää hänen ammattitaitoaan Yhdysvaltain puolustusministeriön hankkeessa, Project Mavenissa.

Googlen oli tarkoitus kehittää projektissa sotilaslennokkien videotunnistusteknologiaa, jotta ne tunnistaisivat nopeammin ihmisiä ja esineitä. Se ei olisi tarkoittanut varsinaista tappajarobottien rakentamista, mutta se olisi voinut edesauttaa niiden kehitystä.

Nolan irtisanoutui työstään vuonna 2018 ja liittyi samalla myös niiden tuhansien Googlen työntekijöiden joukkoon, jotka vaativat projektista luopumista. Google perui osallistumisensa lopulta maaliskuussa 2019.

Nolanista puolestaan tuli rauhanaktivisti, joka on mukana kansainvälisessä Campaign to Stop Killer Robots -verkostossa. Sen tavoitteena on saada aikaan tappajarobotit kieltävä oikeudellisesti sitova YK-sopimus.

Kastemato on fiksumpi kuin kone

Rauhajärjestöt ja ihmisoikeusjärjestöt, kuten Human Rights Watch, vastustavat tappajarobotteja, koska niiden mielestä päätös ihmisen tappamisesta pitää jättää ihmiselle, ei koneelle. Ne ovat myös humanitaarisen oikeuden näkökulmasta ongelmallisia.

Nolan vastustaa tappajarobotteja samoista syistä mutta myös ammatillisin perustein: robotit eivät kerta kaikkiaan vain ole riittävän hyviä.

”Robotit eivät ole fiksumpia kuin ihmiset. Ne eivät ole fiksumpia kuin edes kastemadot. Ohjelmistot ovat hyvin hauraita”, hän muistuttaa.

Nolan kehittää nykyisessä työssään erilaisia autonomisesti toimivia ohjelmistoja ja järjestelmiä, joiden tehtävänä voi esimerkiksi olla muiden järjestelmien hallitseminen. Haasteena on hänen mukaansa ohjelmistojen välinen vuorovaikutus, joka johtaa helposti ongelmiin yksinkertaisissakin tilanteissa.

Edes itse ajavat autot eivät vielä toimi hyvin, vaikka olosuhteet ovat suhteellisen helpot ja aikaa on käytetty vuosia. Tappajarobotit taas ovat äärimmäisen monimutkaisia, hän muistuttaa.

”Todellinen maailma on täysin kaoottinen ja ennustamaton. Robotit joutuvat toimimaan erilaisissa sääolosuhteissa ja vuorovaikuttamaan erilaisten ihmisten kanssa. Kukaan ei tiedä, miten rakentaa järjestelmä ja testata se niin, että se toimisi luotettavasti kaikenlaisissa olosuhteissa.”

Koneoppimisjärjestelmät ovat hänen mukaansa kyllä melko hyviä luokittelemaan asioita. Tällä hetkellä olisi esimerkiksi mahdollista rakentaa lennokki, joka partioisi tietyllä alueella ja tunnistaisi tietyn ikäiset miehet.

”Sotilaallinen päätöksenteko, se, tappaako jonkun vai ei, vaatii kuitenkin valtavan paljon enemmän kuin luokittelua. Kone ei osaa arvioida esimerkiksi suhteellisuutta tai vahinkoja suhteessa sotilaallisiin hyötyihin. Siksi tarvitaan ihmisiä”, Nolan sanoo.

Siviiliteknologia aseteollisuuden käytössä

Nolanin ja Slijperin mukaan viimeisten 20 vuoden aikana on nähty eräänlainen ”moraalinen liukuma”, jossa yhä kohdennetummat tappamisen tavat on alettu hyväksyä samaan aikaan, kun teknologia kehittyy yhä nopeammin.

Samaa mieltä on hollantilaisen Pax-rauhanjärjestön projektinjohtaja Frank Slijper, joka vieraili Suomessa Nolanin kanssa.

”Muistan Persianlahden sodan ensimmäisen yön vuonna 1991. Silloin käytettiin ensimmäistä kertaa tarkkuusohjattuja raketteja. Kymmenen vuotta myöhemmin tulivat ensimmäiset lennokki-iskut. Nyt ollaan pisteessä, jossa tietyn kynnyksen ylittäminen on taas lähellä”, hän sanoo.

Pax on tutkinut teknologia- ja asefirmojen yhteyksiä robottiaseteollisuuteen. Marraskuussa ilmestyneen raportin mukaan asefirmat kehittävät tällä hetkellä esimerkiksi niin sanottuja vaanivia aseita, jotka ovat kameroilla varustettuja lennokin ja ohjuksen välimuotoja.

Raportissa mainitaan muun muassa turkkilaisen STM:n kehittämä Kargu-lennokki. Se voi toimia parvessa, joka voidaan aseistaa kranaateilla. Se voi käyttää kasvojentunnistusteknologiaa tunnistaakseen kohteita.

Slijperin mukaan yhä useammat aseteollisuuden yritykset ovat mukana tappajarobottien valmistamisessa, mutta hän ja Nolan ovat huolissaan myös siitä, että siviiliteknologiaa voidaan hyödyntää tappajarobottien kehittämisessä.

Paxin viimevuotisen raportin mukaan esimerkiksi Microsoft ja Amazon eivät ole riittävän selvästi irtisanoutuneet tappajarobottiteknologian kehittämisestä ja ovat mukana sotilaallisissa hankkeissa.

”Iso osa maailman tekoälyasiantuntijuudesta on muutaman ohjelmistoyrityksen käsissä. Tekoälyasiantuntijoista on niin suuri pula, että yliopistotkin valittavat, etteivät ne saa tutkijoita, koska yritykset palkkaavat heidät. Tämän vuoksi myös armeijat tekevät yhteistyötä yritysten kanssa: ne eivät saa asiantuntijuutta muualta”, Nolan muistuttaa.

Kieltosopimus ei vielä näköpiirissä

Campaign to Stop Killer Robotsin tavoitteena on, että autonomisesti, kokonaan ilman ihmisen kontrollia toimivat aseet, kiellettäisiin oikeudellisesti sitovalla YK-sopimuksella, joka neuvoteltaisiin tavanomaisia aseita koskevan sopimuksen CCW:n alle. Verkosto kampanjoi myös yritysten suuntaan, jotta ne kieltäytyisivät myymästä tekoälysovelluksia tappajarobottiteknologian kehittämiseen.

Neuvottelut ovat kuitenkin lähestulkoon pattitilanteessa, sillä kuuden vuoden aikana vasta 30 maata on alkanut vaatia sitovaa sopimusta. Taustalla on etenkin suurten asemahtien, kuten Yhdysvaltain, Venäjän, Etelä-Korean ja Israelin, vastustus.

Slijperin mukaan neuvotteluissa on kuitenkin edetty: nykyään neuvottelijat sentään edes puhuvat samasta asiasta. Myös kansalaisten ja asiantuntijoiden tietoisuus tappajaroboteista on kasvanut.

Jotta sopimus saataisiin neuvoteltua, tarvitaan kuitenkin läpimurtoa.

”Tarvitaan vain yksi päättäväinen maa, joka sanoo, että nyt riittää ja että tarvitaan sopimus YK:n sisällä tai sen ulkopuolella.”

Slijper muistuttaa, että myös maamiinat, rypäleaseet ja kemialliset aseet kieltävät sopimukset onnistuttiin lopulta neuvottelemaan loppuun asti. Prosessit vain ovat pitkiä.

Suomi ei kannata sopimusta

Suomi on osallistunut sopimusta koskeviin keskusteluihin aktiivisesti, mutta se ei ole ilmoittautunut niiden 30 maan joukkoon, jotka kannattavat kieltosopimusta. Hallitusohjelman mukaan Suomen tavoitteena on ”kieltää tekoälyyn perustuvien asejärjestelmien kehittäminen ja tuotanto”.

”Täysin autonomisia, kokonaan ihmisen kontrollin ulottumattomissa olevia aseita ei tule kehittää. Kansainvälinen humanitaarinen oikeus ja kansainväliset ihmisoikeusnormit pätevät riippumatta siitä, millainen asejärjestelmä on käytössä, ja vastuu näiden noudattamisesta säilyy valtioilla”, kommentoi ulkoministeriön asevalvontayksikön vastuuvirkamies Anni Mäkeläinen sähköpostitse.

Suomen tavoitteena on hänen mukaansa tällä hetkellä poliittisesti sitova asiakirja mutta ei varsinainen oikeudellisesti sitova sopimus. Poliittista sitoumusta ovat kompromissina ehdottaneet aiemmin esimerkiksi Ranska ja Saksa.

”Oikeudellisesti sitovalle kieltosopimukselle ei ole laajaa kannatusta, eikä siihen saataisi mukaan niitä maita, jotka näitä teknologioita erityisesti kehittävät: Yhdysvaltoja, Venäjää, Kiinaa ja muita suuria asevalmistajia. Tehokkainta on ajaa mahdollisimman laajapohjaista järjestelyä, sillä vain näin lopputuloksella on todellista vaikutusta”, Mäkeläinen sanoo.

Tappajarobotit informaatioteknologiapolitiikkakansalaisyhteiskuntaaseet & armeijakonflikti Suomen RauhanliittoSadankomiteaSuomen Rauhanpuolustajat

Lue myös

Esite autonomisista aseista

Algoritmit eivät tavoita ihmisyyttä

Autonomiset asejärjestelmät ja robottiaseet kehittyvät kovaa vauhtia. Emme voi paeta historiassa tehtyjä kauheuksia, mutta meillä on vielä mahdollisuus toimia, jotta kenenkään ei tarvitse kokea tappajarobottien aiheuttamaa tuhoa ja kärsimystä, kirjoittaa Sadankomitean puheenjohtaja Kaisu Kinnunen.
Valkoisiin haalareihin pukeutuneita ihmisiä pilvenpiirtäjän edessä

Raportti: Asefirmat kehittävät jo tappajarobotteja – ”Autonomiset aseet ovat siirtymässä sci-fistä todellisuuteen”

Autonomisten aseiden uhka kasvaa, sillä yhä useammat valtiot ovat lisänneet niiden kehittelyä viime vuosina, selviää PAX-rauhanjärjestön tutkimuksesta. Kyselytutkimuksen mukaan muun muassa suomalaisista suurin osa kannattaa niiden kieltämistä.
Tietokoneen näppäimistö

(Teko)älykkäät puolustusvoimat?

Robottiaseet kehittyvät kovaa vauhtia, mutta Puolustusvoimien tutkimusjohtaja ei ole huolissaan tekoälyn vaikutuksista humanitaarisen lain rikkomiskynnyksen madaltumiseen. Uudet autonomiset asejärjestelmät kuitenkin ampuvat itsensä vastuukysymyksissä sodankäynnin sääntöjen ulottumattomiin, varoittaa Anna Heikkinen.

Tilaa uutiskirje

Saat kerran viikossa koosteen Maailma.netin uutisista, tapahtumista ja työpaikoista sähköpostiisi. Tietojasi käytetään vain uutiskirjeen lähettämiseen. Rekisteriseloste täällä.

Pääuutiset

Tuhoutuneita rakennuksia ja pölyä.

Räjähdyksestä toipuvassa Beirutissa vanhat yrittävät sopeutua, nuoret pyrkivät pois maasta – ”Ihmisten mieliala on sekoitus turhautumista, kiukkua ja luovuttamista”

Jälleenrakennus edistyy hitaasti Beirutissa kaksi ja puoli kuukautta ammoniumnitraattilastin räjähdyksen jälkeen. Ihmisiä on päässyt muuttamaan takaisin koteihinsa, mutta tulevaisuus on epävarma. Nyt mielialat ovat synkät, kertovat paikalliset avustustyöntekijät.
Autoja ja mopoja kadulla.

Bangladeshissa protestoidaan kasvavaa seksuaalirikollista vastaan – Hallitus otti käyttöön kuolemanrangaistuksen, mutta sen ei uskota tehoavan

Sosiaalisessa mediassa kiertävä julma raiskausvideo on saanut bangladeshilaiset viime viikkoina kaduille vaatimaan puuttumista seksuaalirikollisuuteen. Kuolemanrangaistus on helppo ratkaisu – oikeusjärjestelmän uudistaminen vaatii enemmän työtä, toteaa Human Rights Watchin asiantuntija Meenakshi Ganguly.
Kuivuneita kuusia alhaaltapäin kuvattuna.

Tutkimus: Kymmenesosalla koronaelvytyspakettien rahoista päästäisiin lähelle Pariisin ilmastotavoitteiden saavuttamista

Maailman maat elvyttävät talouksiaan valtavilla summilla koronan vuoksi. Jos rahaa suunnattaisiin myös ilmastotoimiin, saavutettaisiin win win -tilanne, sanovat tutkijat.
Kokoussali ja mies puhumassa kahdella näytöllä.

Sahelin humanitaarinen kriisi syvenee – Osissa Burkina Fasoa ollaan ”askeleen päässä nälänhädästä”, varoittaa WFP

Avunantajat keräsivät 1,4 miljardin euron avustuspotin Keski-Sahelin maihin. Pakolaisten määrä on yli 20-kertaistunut alueella vain muutamassa vuodessa.
Vuoria meren takana.

Tyynenmeren saarilla on palattu perinteisiin elinkeinoihin turistien kaikottua – Seuraukset eivät ole pelkästään hyviä

Korona on aiheuttanut taloustaantuman, josta selviytyäkseen osa Tyynenmeren saarten kaupunkilaisista on ryhtynyt kalastamaan. Konflikteilta ei ole vältytty, kun osa kalastaa suojeltuja lajeja tai menee väärille apajille.

Tuoreimmat

Bangladeshissa protestoidaan kasvavaa seksuaalirikollista vastaan – Hallitus otti käyttöön kuolemanrangaistuksen, mutta sen ei uskota tehoavan
Räjähdyksestä toipuvassa Beirutissa vanhat yrittävät sopeutua, nuoret pyrkivät pois maasta – ”Ihmisten mieliala on sekoitus turhautumista, kiukkua ja luovuttamista”
Tutkimus: Kymmenesosalla koronaelvytyspakettien rahoista päästäisiin lähelle Pariisin ilmastotavoitteiden saavuttamista
Sahelin humanitaarinen kriisi syvenee – Osissa Burkina Fasoa ollaan ”askeleen päässä nälänhädästä”, varoittaa WFP
Tyynenmeren saarilla on palattu perinteisiin elinkeinoihin turistien kaikottua – Seuraukset eivät ole pelkästään hyviä
Taide ottaa kantaa kestävän kehityksen tavoitteisiin tällä viikolla Helsingissä – ”Ihmiset eivät ole vain kestävyyskriisin synnyttäjiä vaan myös ratkaisijoita”
Vuoden YK:n ystävä -tunnustus professori Eeva Furmanille
Maailman ruokaohjelma vertaili ruuan hintaa Etelä-Sudanista Yhdysvaltoihin – Pahimmillaan perusruoka-annos maksaa 186 prosenttia palkasta
Koronavirus lisännyt rajusti lasten humanitaarisen avun tarvetta Länsi-Afrikassa – Mauritaniassa ruoka-avun tarve on nelinkertaistunut
Intian vertaisvalistajat auttavat pakkotyön uhreja, jotka voivat olla jopa sukupolvien mittaisessa velkavankeudessa

Luetuimmat

Selvitys: Suomen somalitaustaiset miehet vastustavat tyttöjen sukuelinten silpomista – Silpominen vaikuttaa myös miesten elämään
Transsukupuoliset ovat ahtaalla Unkarissa, jossa ei voi enää muuttaa juridista sukupuolta – ”Monen nuoren haaveet on nyt viety”, sanoo kansalaisaktivisti Tina Kolos Orbán
Suomalaisjärjestöiltä yhteisjulistus päästövähennysten puolesta
Seminaari: Kestävän kehityksen kysymykset otetaan journalismissa nykyään paremmin huomioon, mutta parannettavaa riittää
Tutkimus: Kymmenesosalla koronaelvytyspakettien rahoista päästäisiin lähelle Pariisin ilmastotavoitteiden saavuttamista
Populismi tuli Tansaniaan – Suosittu presidentti John Magufuli on pannut korruption kuriin, mutta media, järjestöt ja oppositio elävät pelossa
Raportti: Nälkä on ”hälyttävällä” tasolla 11 maassa – Koronapandemia osoittaa ruokajärjestelmän puutteet
Raportti: Ainakin 13 maata kriminalisoi yhä transsukupuolisuuden – ”Tämä on vaikeaa aikaa transihmisille”
Sään ääri-ilmiöt ovat lisääntyneet jyrkästi 20 vuoden aikana, ja suurin selitys on ilmasto, sanoo tuore YK-raportti
Taide ottaa kantaa kestävän kehityksen tavoitteisiin tällä viikolla Helsingissä – ”Ihmiset eivät ole vain kestävyyskriisin synnyttäjiä vaan myös ratkaisijoita”