Uutiset Tappajarobotit

Tekoälyn asiantuntija Noel Sharkey tutustui tappajarobotteihin ja ryhtyi niitä vastustavaksi kansalaisaktivistiksi – ”asevarustelukilpa on alkamassa”

Suomessa vierailleen professori Noel Sharkeyn mukaan robottiaseilta puuttuu tärkeä ominaisuus: ne eivät pysty erottelemaan siviiliä sotilaista. Hän lobbaa nyt sen puolesta, että muun muassa Suomi ryhtyisi vastustamaan robottiaseita.
Robotti mielenosoituksessa
Tappajarobottien vastainen mielenilmaus Isossa-Britanniassa vuonna 2013. Todellisuudessa autonomiset aseet eivät muistuta perinteisiä robotteja, mutta kampanjoinnissa vedotaan yhä vanhoihin mielikuviin. (Kuva: Sharron Ward / Campaign to Stop Killer Robots / CC BY-NC 2.0)

Toimittaja kysyi professori Noel Sharkeylta vuonna 2007, voisiko tämä kertoa jotakin robottiaseista. Tekoälyn ja robotiikan huippuasiantuntijana tunnettu Sharkey ei osannut vastata mutta ryhtyi tutkimaan asiaa netistä samana iltana.

”Olin aivan järkyttynyt. Niinpä minusta tuli aktivisti ikään kuin vahingossa”, Sharkey, 69, kertoi eilen vieraillessaan Helsingissä.

Sheffieldin yliopiston emeritusprofessori ja muun muassa Yalen ja Stanfordin yliopistoissa luennoinut brittiläis-irlantilainen Sharkey on nykyisin kansainvälisen tappajarobottien kieltämisen puolesta toimivan kampanjan (Campaign to Stop Killer Robots) keulahahmo. Suomesta kampanjassa ovat mukana Rauhanliitto ja Sadankomitea.

Tappajaroboteilla tarkoitetaan autonomisia aseita, jotka valitsevat kohteensa ja iskevät niihin ilman ihmisen kontrollia. Sharkey ja muut asiantuntijat ovat niiden kehityksestä huolissaan, sillä käytännössä tappajarobotit voisivat tehdä itsenäisesti päätöksen ihmisen tappamisesta.

Nykytiedon mukaan tappajarobotteja ei ole vielä käytetty taistelutilanteissa, mutta kehittely on täydessä vauhdissa. Sharkey näyttää esimerkkejä. Videoilla näkyy venäläinen Armata T14-panssarivaunu, henkilöautoa alleen survova amerikkalainen panssaroitu ajoneuvo Crusher sekä miehittämättömien lennokkien parvi, jonka osaset lähtevät lentoon yksi toisensa jälkeen.

Ne näyttävät tavallisilta sotimisvälineiltä, mutta ero tavalliseen on, että sen jälkeen, kun ase on aktivoitu, tietokone tekee ihmisen puolesta kaiken työn. Robotin sensorit reagoivat erilaisiin ärsykkeisiin, minkä perusteella tietokone tekee päätöksen ja lähettää toimintakäskyn.

Robotti ei erottele sotilasta ja siviiliä

Sharkeyn mukaan robottiaseiden kehittämiseen liittyy sekä teknisiä että eettisiä ongelmia. Hän muistuttaa, että kuten kaikki tietokoneohjelmat, myös robottiaseet ovat alttiita virheille, ulkopuolisille hyökkäyksille ja ennakoimattomille tilanteille.

Vielä suurempia ovat eettiset ongelmat. Esimerkiksi kansainvälisen humanitaarisen oikeuden mukaan sodassa on pystyttävä erottelemaan siviilit ja taistelijat ja käytettävä erityistä harkintaa siviilikohteisiin hyökättäessä.

”Tiedän, mihin tekoäly ja robotiikka pystyvät. Eivätkä ne pysty noudattamaan sodan oikeussääntöjä”, Sharkey toteaa.

Vaikka tekoälybisneksessä intoillaan esimerkiksi kasvojentunnistuksen mahdollisuuksista, todellisuudessa robottiaseet eivät vielä tunnista kunnolla edes panssarivaunua, jos se sijaitsee lähellä puita, Sharkey sanoo. Siviilien erottaminen olisi siis vaikeaa.

Sharkey kertoo myös esimerkin Irakista, jossa yhdysvaltaiset sotilaat tekivät päätöksen olla tappamasta kapinallisia nähdessään näiden kantavan ruumisarkkua. Kone ei olisi samaa päätöstä tehnyt, hän muistuttaa.

Noel Sharkey, taka-alalla Timo Honkela
Sheffieldin yliopiston emeritusprofessori Noel Sharkey vieraili Suomessa kertomassa, mitä uhkakuvia autonomisiin aseisiin eli tappajarobotteihin liittyy. (Kuva: Teija Laakso / CC BY-NC-ND 2.0)

Napin painallus ei riitä

Tappajarobottien kehittämistyön aloitti Sharkeyn mukaan Yhdysvallat vuoden 2003 paikkeilla, mutta nyt mukana ovat myös Venäjä, Iso-Britannia, Kiina, Turkki ja Israel. Uhkakuva on, että aseet muuttuvat yhä tuhoisammiksi, kun jokainen pyrkii kehittämään toista tehokkaamman aseen.

”Nyt alkamassa on asevarustelukilpa”, Sharkey toteaa.

Campaign to Stop Killer Robots on kampanjoinut viisi vuotta sen puolesta, että YK-maat neuvottelisivat sopimuksen, joka kieltäisi täysautonomiset aseet. Tavoitteena on, että tavanomaisia aseita koskevaan CCW-sopimukseen lisättäisiin pöytäkirja, jossa täysautonomiset aseet kiellettäisiin. Vastaava pöytäkirja on olemassa jo esimerkiksi sokeuttavista laseraseista.

Avainasia on Sharkeyn se, että aseissa säilyy merkittävä ihmisen kontrolli – muunkinlainen kuin napin painaminen.

”Tarkoituksenamme ei ole estää tekoälyn tai siviiliaseiden kehittämistä. Ase voi olla autonominen, mutta olemme huolissamme kahdesta asiasta: siitä, että kone valitsee kohteen ja iskee siihen voimalla”, Sharkey sanoo.

Keskusteluissa on viimeisten puolen vuoden aikana edistytty, mutta tällä hetkellä vasta 26 maata kannattaa suoraan kieltosopimusta. Suurin osa niistä on Afrikan ja Latinalaisen Amerikan maita, eivätkä merkittävät asevalmistajat ole innostuneita sopimuksesta.

”Autonomisia aseita kehittävät maat sanovat, että autonomisten aseiden määritelmää pitää vielä miettiä. Ne maat, jotka eivät kehitä aseita, taas tietävät kyllä, mitä autonomiset aseet ovat – jostain oudosta syystä”, Sharkey toteaa.

Hän on silti optimistinen, sillä esimerkiksi Itävalta ja Kiina on saatu viime aikoina mukaan. Nyt hän toivoo, että Suomi muotoilisi asiasta oman kansainvälisen kantansa. Useita Euroopan maita on lähiaikoina tulossa mukaan, hän uskoo.

”Euroopan maat pitävät nyt korttinsa piilossa. Ne katsovat, kuka puhuu ensin. Kaikki eivät ehkä halua kieltoa, mutta kaikki kannattavat sääntelyä”, hän muistuttaa.

Kieltosopimusneuvotteluiden aloittamisesta on määrä keskustella seuraavan kerran Genevessä elokuun lopulla.

TÄSMENNYS 14.6.2018. Täsmennetty panssaroituihin ajoneuvoihin sekä sodan oikeussääntöihin liittyviä termejä.

Tappajarobotit soveltava teknologiatiedeaseet & armeijaturvallisuus SadankomiteaSuomen Rauhanliitto

Lue myös

Esite autonomisista aseista

Asemahdit estivät neuvottelujen aloittamisen tappajarobotit kieltävästä sopimuksesta

Muun muassa Yhdysvallat, Venäjä ja Israel vastustavat kansainvälistä sopimusta, joka kieltäisi täysautonomisten aseiden kehittämisen ja valmistuksen. Järjestöjen kampanja pelkää, että maailma on siirtymässä vaaralliselle polulle.
Mielenosoittajia valkoisissa puvuissa Genevessä

Neuvottelut tappajaroboteista jatkuvat Genevessä – ”tappajarobotit eivät ole enää scifiä”

Genevessä järjestetään tällä viikolla kokous, jonka toivotaan johtavan neuvotteluihin autonomiset asejärjestelmät kieltävästä sopimuksesta.
Kokoussali osanottajineen

Tappajarobottiteknologia edistyy nopeammin kuin niiden kieltoa vaativa sopimus – ”meiltä alkaa loppua aika”

Kansalaisjärjestöt haluaisivat kieltää autonomiset asejärjestelmät kansainvälisellä sopimuksella ennen kuin sotia ryhdytään käymään tappajaroboteilla. YK-tasolla käytävät neuvottelut etenevät kuitenkin hitaasti. Muun muassa Suomi ei vielä kannata täyskieltosopimusta.

Tilaa uutiskirje

Saat kerran viikossa koosteen maailma.netin uutisista, tapahtumista ja työpaikoista sähköpostiisi. Tietojasi käytetään vain uutiskirjeen lähettämiseen. Rekisteriseloste täällä.

Pääuutiset

Sambialaiset Mwenya Katongo ja Thandiwe Mumba Barefeet Theater -järjestöstä

Suomalaisnuoret saivat tasa-arvokoulutusta sambialaisilta kasvattajilta – ”Samat stereotypiat tunnistetaan kaikkialla”

Sambialainen nuorisojärjestö Barefeet Theater ja suomalainen Taksvärkki ovat tehneet vuosia kehitysyhteistyötä muun muassa sambialaisten katunuorten parissa. Tänä syksynä Barefeetin kouluttajat vierailivat antamassa oppia suomalaisille nuorille.
Solmuun kierrettyä revolveria esittävä patsas New Yorkissa

Uusi ydinvarustelukierre uhkaa – Kehitystä on vaikea ennustaa, sillä suurvaltojen presidentit osaavat yllättää

Kansainväliset sopimukset ovat viime vuosikymmeninä vähentäneet tuntuvasti ydinaseiden määrää. Yhdysvaltain presidentin Donald Trumpin ilmoitus INF-sopimuksesta vetäytymisestä kertoo sovun murenemisesta. Kehityksen suuntaa on mahdotonta ennustaa, kirjoittaa Tukholman rauhantutkimusinstituutin Siprin johtaja Dan Smith.
New Yorkin pörssin julkisivu

Monet pörssiyhtiöt eivät noudata YK:n yrityksille asettamia ihmisoikeusvelvoitteita – Selvitys ehdottaa, että valtiot puuttuvat peliin

Brittiläisjärjestö CHRB selvitti, ovatko yritykset sitoutuneita YK:n ihmisoikeusperiaatteisiin. Parannuksia on sen mukaan tapahtunut mutta ei riittävästi. ”Jos yritykset eivät selvästi osoita kunnioitustaan ihmisoikeuksia kohtaan, hallitusten pitäisi puuttua asiaan”, sanoo CHRB:n johtaja Margaret Wachenfeld.
Muuriin tehty seinämaalaus, jossa Aung San Suu Kyin kuva

Amnesty vetää kunnianosoituksensa pois Myanmarin johtajalta Aung San Suu Kyiltä

Ihmisoikeusjärjestö Amnesty Internationalista on tullut viimeisin taho, joka on vetänyt kunnianosoituksensa pois Myanmarin johtajalta rohingya-vähemmistön vainon vuoksi. ”Olemme syvästi tyrmistyneitä siitä, ettet enää edusta toivoa, rohkeutta ja ihmisoikeuksien periksiantamatonta puolustamista”, kirjoitaa järjestön pääsihteeri Kumi Naidoo.