Uutiset Tappajarobotit

Tekoälyn asiantuntija Noel Sharkey tutustui tappajarobotteihin ja ryhtyi niitä vastustavaksi kansalaisaktivistiksi – ”asevarustelukilpa on alkamassa”

Suomessa vierailleen professori Noel Sharkeyn mukaan robottiaseilta puuttuu tärkeä ominaisuus: ne eivät pysty erottelemaan siviiliä sotilaista. Hän lobbaa nyt sen puolesta, että muun muassa Suomi ryhtyisi vastustamaan robottiaseita.
Robotti mielenosoituksessa
Tappajarobottien vastainen mielenilmaus Isossa-Britanniassa vuonna 2013. Todellisuudessa autonomiset aseet eivät muistuta perinteisiä robotteja, mutta kampanjoinnissa vedotaan yhä vanhoihin mielikuviin. (Kuva: Sharron Ward / Campaign to Stop Killer Robots / CC BY-NC 2.0)

Toimittaja kysyi professori Noel Sharkeylta vuonna 2007, voisiko tämä kertoa jotakin robottiaseista. Tekoälyn ja robotiikan huippuasiantuntijana tunnettu Sharkey ei osannut vastata mutta ryhtyi tutkimaan asiaa netistä samana iltana.

”Olin aivan järkyttynyt. Niinpä minusta tuli aktivisti ikään kuin vahingossa”, Sharkey, 69, kertoi eilen vieraillessaan Helsingissä.

Sheffieldin yliopiston emeritusprofessori ja muun muassa Yalen ja Stanfordin yliopistoissa luennoinut brittiläis-irlantilainen Sharkey on nykyisin kansainvälisen tappajarobottien kieltämisen puolesta toimivan kampanjan (Campaign to Stop Killer Robots) keulahahmo. Suomesta kampanjassa ovat mukana Rauhanliitto ja Sadankomitea.

Tappajaroboteilla tarkoitetaan autonomisia aseita, jotka valitsevat kohteensa ja iskevät niihin ilman ihmisen kontrollia. Sharkey ja muut asiantuntijat ovat niiden kehityksestä huolissaan, sillä käytännössä tappajarobotit voisivat tehdä itsenäisesti päätöksen ihmisen tappamisesta.

Nykytiedon mukaan tappajarobotteja ei ole vielä käytetty taistelutilanteissa, mutta kehittely on täydessä vauhdissa. Sharkey näyttää esimerkkejä. Videoilla näkyy venäläinen Armata T14-panssarivaunu, henkilöautoa alleen survova amerikkalainen panssaroitu ajoneuvo Crusher sekä miehittämättömien lennokkien parvi, jonka osaset lähtevät lentoon yksi toisensa jälkeen.

Ne näyttävät tavallisilta sotimisvälineiltä, mutta ero tavalliseen on, että sen jälkeen, kun ase on aktivoitu, tietokone tekee ihmisen puolesta kaiken työn. Robotin sensorit reagoivat erilaisiin ärsykkeisiin, minkä perusteella tietokone tekee päätöksen ja lähettää toimintakäskyn.

Robotti ei erottele sotilasta ja siviiliä

Sharkeyn mukaan robottiaseiden kehittämiseen liittyy sekä teknisiä että eettisiä ongelmia. Hän muistuttaa, että kuten kaikki tietokoneohjelmat, myös robottiaseet ovat alttiita virheille, ulkopuolisille hyökkäyksille ja ennakoimattomille tilanteille.

Vielä suurempia ovat eettiset ongelmat. Esimerkiksi kansainvälisen humanitaarisen oikeuden mukaan sodassa on pystyttävä erottelemaan siviilit ja taistelijat ja käytettävä erityistä harkintaa siviilikohteisiin hyökättäessä.

”Tiedän, mihin tekoäly ja robotiikka pystyvät. Eivätkä ne pysty noudattamaan sodan oikeussääntöjä”, Sharkey toteaa.

Vaikka tekoälybisneksessä intoillaan esimerkiksi kasvojentunnistuksen mahdollisuuksista, todellisuudessa robottiaseet eivät vielä tunnista kunnolla edes panssarivaunua, jos se sijaitsee lähellä puita, Sharkey sanoo. Siviilien erottaminen olisi siis vaikeaa.

Sharkey kertoo myös esimerkin Irakista, jossa yhdysvaltaiset sotilaat tekivät päätöksen olla tappamatta kapinallisia nähdessään näiden kantavan ruumisarkkua. Kone ei olisi samaa päätöstä tehnyt, hän muistuttaa.

Noel Sharkey, taka-alalla Timo Honkela
Sheffieldin yliopiston emeritusprofessori Noel Sharkey vieraili Suomessa kertomassa, mitä uhkakuvia autonomisiin aseisiin eli tappajarobotteihin liittyy. (Kuva: Teija Laakso / CC BY-NC-ND 2.0)

Napin painallus ei riitä

Tappajarobottien kehittämistyön aloitti Sharkeyn mukaan Yhdysvallat vuoden 2003 paikkeilla, mutta nyt mukana ovat myös Venäjä, Iso-Britannia, Kiina, Turkki ja Israel. Uhkakuva on, että aseet muuttuvat yhä tuhoisammiksi, kun jokainen pyrkii kehittämään toista tehokkaamman aseen.

”Nyt alkamassa on asevarustelukilpa”, Sharkey toteaa.

Campaign to Stop Killer Robots on kampanjoinut viisi vuotta sen puolesta, että YK-maat neuvottelisivat sopimuksen, joka kieltäisi täysautonomiset aseet. Tavoitteena on, että tavanomaisia aseita koskevaan CCW-sopimukseen lisättäisiin pöytäkirja, jossa täysautonomiset aseet kiellettäisiin. Vastaava pöytäkirja on olemassa jo esimerkiksi sokeuttavista laseraseista.

Avainasia on Sharkeyn se, että aseissa säilyy merkittävä ihmisen kontrolli – muunkinlainen kuin napin painaminen.

”Tarkoituksenamme ei ole estää tekoälyn tai siviiliaseiden kehittämistä. Ase voi olla autonominen, mutta olemme huolissamme kahdesta asiasta: siitä, että kone valitsee kohteen ja iskee siihen voimalla”, Sharkey sanoo.

Keskusteluissa on viimeisten puolen vuoden aikana edistytty, mutta tällä hetkellä vasta 26 maata kannattaa suoraan kieltosopimusta. Suurin osa niistä on Afrikan ja Latinalaisen Amerikan maita, eivätkä merkittävät asevalmistajat ole innostuneita sopimuksesta.

”Autonomisia aseita kehittävät maat sanovat, että autonomisten aseiden määritelmää pitää vielä miettiä. Ne maat, jotka eivät kehitä aseita, taas tietävät kyllä, mitä autonomiset aseet ovat – jostain oudosta syystä”, Sharkey toteaa.

Hän on silti optimistinen, sillä esimerkiksi Itävalta ja Kiina on saatu viime aikoina mukaan. Nyt hän toivoo, että Suomi muotoilisi asiasta oman kansainvälisen kantansa. Useita Euroopan maita on lähiaikoina tulossa mukaan, hän uskoo.

”Euroopan maat pitävät nyt korttinsa piilossa. Ne katsovat, kuka puhuu ensin. Kaikki eivät ehkä halua kieltoa, mutta kaikki kannattavat sääntelyä”, hän muistuttaa.

Kieltosopimusneuvotteluiden aloittamisesta on määrä keskustella seuraavan kerran Genevessä elokuun lopulla.

TÄSMENNYS 14.6.2018. Täsmennetty panssaroituihin ajoneuvoihin sekä sodan oikeussääntöihin liittyviä termejä.

Tappajarobotit soveltava teknologiatiedeaseet & armeijaturvallisuus SadankomiteaSuomen Rauhanliitto

Lue myös

Mies ja nainen puolilähikuvassa

”Robotti ei ole fiksumpi kuin kastemato” – Googlelta irtisanoutunut ohjelmistoinsinööri Laura Nolan seuraa huolestuneena tappajarobottiteknologian kehitystä

Laura Nolan irtisanoutui Googlelta kuultuaan yhtiön olevan mukana Yhdysvaltain puolustusministeriön projektissa. Hänen sekä yritysten asekehitystä tutkineen Frank Slijperin mukaan armeijat kääntyvät nyt teknologiafirmojen puoleen kehittääkseen nopeammin robottiaseita, jotka tekisivät päätöksen ihmisten tappamisesta itsenäisesti.
Valkoisiin haalareihin pukeutuneita ihmisiä pilvenpiirtäjän edessä

Raportti: Asefirmat kehittävät jo tappajarobotteja – ”Autonomiset aseet ovat siirtymässä sci-fistä todellisuuteen”

Autonomisten aseiden uhka kasvaa, sillä yhä useammat valtiot ovat lisänneet niiden kehittelyä viime vuosina, selviää PAX-rauhanjärjestön tutkimuksesta. Kyselytutkimuksen mukaan muun muassa suomalaisista suurin osa kannattaa niiden kieltämistä.
Tietokoneen näppäimistö

(Teko)älykkäät puolustusvoimat?

Robottiaseet kehittyvät kovaa vauhtia, mutta Puolustusvoimien tutkimusjohtaja ei ole huolissaan tekoälyn vaikutuksista humanitaarisen lain rikkomiskynnyksen madaltumiseen. Uudet autonomiset asejärjestelmät kuitenkin ampuvat itsensä vastuukysymyksissä sodankäynnin sääntöjen ulottumattomiin, varoittaa Anna Heikkinen.

Tilaa uutiskirje

Saat kerran viikossa koosteen Maailma.netin uutisista, tapahtumista ja työpaikoista sähköpostiisi. Tietojasi käytetään vain uutiskirjeen lähettämiseen. Rekisteriseloste täällä.

Pääuutiset

Fight racism -kyltti rakennuksen edustalla

Podcast: Rasistinen nimittely vahingoittaa mielenterveyttä – ”Kuulemme sitä niin paljon, että luulemme sen olevan normaalia”, sanoo Fiona Musangamfura

63 prosenttia Suomen tummaihoisista on kokenut rasistista syrjintää. Se on tuttua Fiona Musangamfuralle, joka vei nimittelyn lopulta oikeuteen. Maahanmuuttajien terveysongelmista väitelleen Shadia Raskin mukaan terveyspalveluissa ei vielä ymmärretä syrjinnän terveysvaikutuksia. Kuuntele podcast!
Koululaisia pulpettien ääressä

Koronavirus on sulkenut suurimman osan maailman kouluista – Valmiiksi vaikeassa asemassa oleva kärsivät eniten

Koulujen sulkeminen vaikuttaa lähes 1,7 miljardin koululaiseen ja opiskelijaan. Koulutuksen lisäksi moni menettää myös kouluateriat.
Sininen muovipallo, jossa punaisia piikkejä

Koronavirus koettelee demokratiaa

Demokratian taantuminen vakiintuneissakin demokratioissa on ollut trendinä jo pidempään, ja koronaviruksen kaltainen kriisi voi osaltaan vauhdittaa kehitystä, kirjoittavat demokratiajärjestö Demon asiantuntijat Anna Juhola ja Jussi Kanner.
Temppelin raunioituneita pylväitä

Tutkimus: Demokratiaa ei juuri käsitellä Euroopan opettajakoulutuksessa – Syynä on se, ettei demokratia ole aiemmin ollut uhattuna, sanoo lehtori Matti Rautiainen

Demokratiakasvatusta on kehitetty Suomessa jonkin verran 2010-luvulla, mutta aihe näkyy edelleen melko vähän opettajakoulutuksen sisällössä ja opetussuunnitelmassa. Sama tilanne on monissa muissa maissa.
Vesihana ulkona

Käsienpesu on tehokas tapa ehkäistä koronaa, mutta monille se ei ole mahdollista – Pakolaisapu aloitti hygieniakoulutukset Ugandan pakolaisasutusalueilla

Saippua on monilla kehittyvillä alueilla luksusta. YK:n asiantuntijat muistuttavat vesipalvelujen tärkeydestä koronapandemian taltuttamiseksi.

Tuoreimmat