Uutiset Tappajarobotit

Tekoälyn asiantuntija Noel Sharkey tutustui tappajarobotteihin ja ryhtyi niitä vastustavaksi kansalaisaktivistiksi – ”asevarustelukilpa on alkamassa”

Suomessa vierailleen professori Noel Sharkeyn mukaan robottiaseilta puuttuu tärkeä ominaisuus: ne eivät pysty erottelemaan siviiliä sotilaista. Hän lobbaa nyt sen puolesta, että muun muassa Suomi ryhtyisi vastustamaan robottiaseita.
Robotti mielenosoituksessa
Tappajarobottien vastainen mielenilmaus Isossa-Britanniassa vuonna 2013. Todellisuudessa autonomiset aseet eivät muistuta perinteisiä robotteja, mutta kampanjoinnissa vedotaan yhä vanhoihin mielikuviin. (Kuva: Sharron Ward / Campaign to Stop Killer Robots / CC BY-NC 2.0)

Toimittaja kysyi professori Noel Sharkeylta vuonna 2007, voisiko tämä kertoa jotakin robottiaseista. Tekoälyn ja robotiikan huippuasiantuntijana tunnettu Sharkey ei osannut vastata mutta ryhtyi tutkimaan asiaa netistä samana iltana.

”Olin aivan järkyttynyt. Niinpä minusta tuli aktivisti ikään kuin vahingossa”, Sharkey, 69, kertoi eilen vieraillessaan Helsingissä.

Sheffieldin yliopiston emeritusprofessori ja muun muassa Yalen ja Stanfordin yliopistoissa luennoinut brittiläis-irlantilainen Sharkey on nykyisin kansainvälisen tappajarobottien kieltämisen puolesta toimivan kampanjan (Campaign to Stop Killer Robots) keulahahmo. Suomesta kampanjassa ovat mukana Rauhanliitto ja Sadankomitea.

Tappajaroboteilla tarkoitetaan autonomisia aseita, jotka valitsevat kohteensa ja iskevät niihin ilman ihmisen kontrollia. Sharkey ja muut asiantuntijat ovat niiden kehityksestä huolissaan, sillä käytännössä tappajarobotit voisivat tehdä itsenäisesti päätöksen ihmisen tappamisesta.

Nykytiedon mukaan tappajarobotteja ei ole vielä käytetty taistelutilanteissa, mutta kehittely on täydessä vauhdissa. Sharkey näyttää esimerkkejä. Videoilla näkyy venäläinen Armata T14-panssarivaunu, henkilöautoa alleen survova amerikkalainen panssaroitu ajoneuvo Crusher sekä miehittämättömien lennokkien parvi, jonka osaset lähtevät lentoon yksi toisensa jälkeen.

Ne näyttävät tavallisilta sotimisvälineiltä, mutta ero tavalliseen on, että sen jälkeen, kun ase on aktivoitu, tietokone tekee ihmisen puolesta kaiken työn. Robotin sensorit reagoivat erilaisiin ärsykkeisiin, minkä perusteella tietokone tekee päätöksen ja lähettää toimintakäskyn.

Robotti ei erottele sotilasta ja siviiliä

Sharkeyn mukaan robottiaseiden kehittämiseen liittyy sekä teknisiä että eettisiä ongelmia. Hän muistuttaa, että kuten kaikki tietokoneohjelmat, myös robottiaseet ovat alttiita virheille, ulkopuolisille hyökkäyksille ja ennakoimattomille tilanteille.

Vielä suurempia ovat eettiset ongelmat. Esimerkiksi kansainvälisen humanitaarisen oikeuden mukaan sodassa on pystyttävä erottelemaan siviilit ja taistelijat ja käytettävä erityistä harkintaa siviilikohteisiin hyökättäessä.

”Tiedän, mihin tekoäly ja robotiikka pystyvät. Eivätkä ne pysty noudattamaan sodan oikeussääntöjä”, Sharkey toteaa.

Vaikka tekoälybisneksessä intoillaan esimerkiksi kasvojentunnistuksen mahdollisuuksista, todellisuudessa robottiaseet eivät vielä tunnista kunnolla edes panssarivaunua, jos se sijaitsee lähellä puita, Sharkey sanoo. Siviilien erottaminen olisi siis vaikeaa.

Sharkey kertoo myös esimerkin Irakista, jossa yhdysvaltaiset sotilaat tekivät päätöksen olla tappamasta kapinallisia nähdessään näiden kantavan ruumisarkkua. Kone ei olisi samaa päätöstä tehnyt, hän muistuttaa.

Noel Sharkey, taka-alalla Timo Honkela
Sheffieldin yliopiston emeritusprofessori Noel Sharkey vieraili Suomessa kertomassa, mitä uhkakuvia autonomisiin aseisiin eli tappajarobotteihin liittyy. (Kuva: Teija Laakso / CC BY-NC-ND 2.0)

Napin painallus ei riitä

Tappajarobottien kehittämistyön aloitti Sharkeyn mukaan Yhdysvallat vuoden 2003 paikkeilla, mutta nyt mukana ovat myös Venäjä, Iso-Britannia, Kiina, Turkki ja Israel. Uhkakuva on, että aseet muuttuvat yhä tuhoisammiksi, kun jokainen pyrkii kehittämään toista tehokkaamman aseen.

”Nyt alkamassa on asevarustelukilpa”, Sharkey toteaa.

Campaign to Stop Killer Robots on kampanjoinut viisi vuotta sen puolesta, että YK-maat neuvottelisivat sopimuksen, joka kieltäisi täysautonomiset aseet. Tavoitteena on, että tavanomaisia aseita koskevaan CCW-sopimukseen lisättäisiin pöytäkirja, jossa täysautonomiset aseet kiellettäisiin. Vastaava pöytäkirja on olemassa jo esimerkiksi sokeuttavista laseraseista.

Avainasia on Sharkeyn se, että aseissa säilyy merkittävä ihmisen kontrolli – muunkinlainen kuin napin painaminen.

”Tarkoituksenamme ei ole estää tekoälyn tai siviiliaseiden kehittämistä. Ase voi olla autonominen, mutta olemme huolissamme kahdesta asiasta: siitä, että kone valitsee kohteen ja iskee siihen voimalla”, Sharkey sanoo.

Keskusteluissa on viimeisten puolen vuoden aikana edistytty, mutta tällä hetkellä vasta 26 maata kannattaa suoraan kieltosopimusta. Suurin osa niistä on Afrikan ja Latinalaisen Amerikan maita, eivätkä merkittävät asevalmistajat ole innostuneita sopimuksesta.

”Autonomisia aseita kehittävät maat sanovat, että autonomisten aseiden määritelmää pitää vielä miettiä. Ne maat, jotka eivät kehitä aseita, taas tietävät kyllä, mitä autonomiset aseet ovat – jostain oudosta syystä”, Sharkey toteaa.

Hän on silti optimistinen, sillä esimerkiksi Itävalta ja Kiina on saatu viime aikoina mukaan. Nyt hän toivoo, että Suomi muotoilisi asiasta oman kansainvälisen kantansa. Useita Euroopan maita on lähiaikoina tulossa mukaan, hän uskoo.

”Euroopan maat pitävät nyt korttinsa piilossa. Ne katsovat, kuka puhuu ensin. Kaikki eivät ehkä halua kieltoa, mutta kaikki kannattavat sääntelyä”, hän muistuttaa.

Kieltosopimusneuvotteluiden aloittamisesta on määrä keskustella seuraavan kerran Genevessä elokuun lopulla.

TÄSMENNYS 14.6.2018. Täsmennetty panssaroituihin ajoneuvoihin sekä sodan oikeussääntöihin liittyviä termejä.

Tappajarobotit soveltava teknologiatiedeaseet & armeijaturvallisuus SadankomiteaSuomen Rauhanliitto

Lue myös

Esite autonomisista aseista

Tappajarobottien kieltosopimus näyttää yhä vaikeammalta saavuttaa – Nyt harkitaan toista reittiä

Valtiot jatkavat täysautonomisista aseista eli tappajaroboteista keskustelemista ensi vuonnakin. Viime viikolla pidetyn kokouksen tulos on laiha, sillä varsinaisiin kieltosopimusneuvotteluihin ei ole vieläkään päästy.
Esite autonomisista aseista

Asemahdit estivät neuvottelujen aloittamisen tappajarobotit kieltävästä sopimuksesta

Muun muassa Yhdysvallat, Venäjä ja Israel vastustavat kansainvälistä sopimusta, joka kieltäisi täysautonomisten aseiden kehittämisen ja valmistuksen. Järjestöjen kampanja pelkää, että maailma on siirtymässä vaaralliselle polulle.
Mielenosoittajia valkoisissa puvuissa Genevessä

Neuvottelut tappajaroboteista jatkuvat Genevessä – ”tappajarobotit eivät ole enää scifiä”

Genevessä järjestetään tällä viikolla kokous, jonka toivotaan johtavan neuvotteluihin autonomiset asejärjestelmät kieltävästä sopimuksesta.

Tilaa uutiskirje

Saat kerran viikossa koosteen maailma.netin uutisista, tapahtumista ja työpaikoista sähköpostiisi. Tietojasi käytetään vain uutiskirjeen lähettämiseen. Rekisteriseloste täällä.

Pääuutiset

Afrikan tähti -pelin eteläosa

Onko järjestöjen kehitysmaakuva yhä stereotyyppinen? Pro gradu -tutkielman mukaan kilpailu lahjoittajista ajaa shokeeraaviin varainkeruukampanjoihin

Järjestöissä pohditaan yhä tarkemmin, miten välttää varainkeruukampanjoissa kolonialistiset mielikuvat. Gradunsa kehitysyhteistyöjärjestöjen naiskuvasta tehneen Martta Kaskisen mukaan taloudellinen paine johtaa kuitenkin siihen, että ne toimivat usein päin vastoin.
Ihmisiä seisoo kokouksen puhujanpöytien takana

Harvinainen edistysaskel: Guineanmadosta saattaa tulla ensimmäinen loistauti, josta päästään kokonaan eroon

Jo Vanhan Testamentin aikoina tunnettua guineanmatoa esiintyi viime vuonna enää 28 ihmisellä. Sen poistaminen olisi harvinaista, sillä tähän mennessä ihmiskunta on päässyt kokonaan eroon vain isorokosta.
Suomen lippu ja puita

Raiskaukset eivät ole maahanmuuttokysymys

Maahanmuuttajien seksuaalirikokset ovat puhuttaneet suomalaisia viime aikoina. Amnestyn ihmisoikeustyön johtajan Niina Laajapuron mukaan keskustelu kansainvälisten ihmisoikeusvelvoitteiden uudelleentulkinnasta ja muut turvapaikanhakijoiden oikeuksia entisestään kaventavat esitykset ovat vastuuttomia ja vievät resursseja pois todellisista ratkaisuista.
Mies katselee ihmisten kuvia seinällä punakhmerien hirmutekoja esittelevässä museossa

Kambodža hyssyttelee menneisyyden hirmutöitä – Vain kolme on tuomittu punakhmerien teoista ja enempää tuskin tuomitaan

Vuosina 1975-1979 vallassa olleiden punakhmerien aikana jopa 2,5 miljoonaa kambodžalaista menehtyi aliravitsemukseen, sairauksiin ja summittaisiin teloituksiin. Nuorilla on tarjota selitys sille, miksi niin harva sai tuomion: jos olisi kaivettu syvemmälle, vastaan olisi tullut vääjäämättä nykyisiä poliitikkoja, kuten pääministeri Hun Sen.