Uutiset Tappajarobotit

Tekoälyn asiantuntija Noel Sharkey tutustui tappajarobotteihin ja ryhtyi niitä vastustavaksi kansalaisaktivistiksi – ”asevarustelukilpa on alkamassa”

Suomessa vierailleen professori Noel Sharkeyn mukaan robottiaseilta puuttuu tärkeä ominaisuus: ne eivät pysty erottelemaan siviiliä sotilaista. Hän lobbaa nyt sen puolesta, että muun muassa Suomi ryhtyisi vastustamaan robottiaseita.
Robotti mielenosoituksessa
Tappajarobottien vastainen mielenilmaus Isossa-Britanniassa vuonna 2013. Todellisuudessa autonomiset aseet eivät muistuta perinteisiä robotteja, mutta kampanjoinnissa vedotaan yhä vanhoihin mielikuviin. (Kuva: Sharron Ward / Campaign to Stop Killer Robots / CC BY-NC 2.0)

Toimittaja kysyi professori Noel Sharkeylta vuonna 2007, voisiko tämä kertoa jotakin robottiaseista. Tekoälyn ja robotiikan huippuasiantuntijana tunnettu Sharkey ei osannut vastata mutta ryhtyi tutkimaan asiaa netistä samana iltana.

”Olin aivan järkyttynyt. Niinpä minusta tuli aktivisti ikään kuin vahingossa”, Sharkey, 69, kertoi eilen vieraillessaan Helsingissä.

Sheffieldin yliopiston emeritusprofessori ja muun muassa Yalen ja Stanfordin yliopistoissa luennoinut brittiläis-irlantilainen Sharkey on nykyisin kansainvälisen tappajarobottien kieltämisen puolesta toimivan kampanjan (Campaign to Stop Killer Robots) keulahahmo. Suomesta kampanjassa ovat mukana Rauhanliitto ja Sadankomitea.

Tappajaroboteilla tarkoitetaan autonomisia aseita, jotka valitsevat kohteensa ja iskevät niihin ilman ihmisen kontrollia. Sharkey ja muut asiantuntijat ovat niiden kehityksestä huolissaan, sillä käytännössä tappajarobotit voisivat tehdä itsenäisesti päätöksen ihmisen tappamisesta.

Nykytiedon mukaan tappajarobotteja ei ole vielä käytetty taistelutilanteissa, mutta kehittely on täydessä vauhdissa. Sharkey näyttää esimerkkejä. Videoilla näkyy venäläinen Armata T14-panssarivaunu, henkilöautoa alleen survova amerikkalainen panssaroitu ajoneuvo Crusher sekä miehittämättömien lennokkien parvi, jonka osaset lähtevät lentoon yksi toisensa jälkeen.

Ne näyttävät tavallisilta sotimisvälineiltä, mutta ero tavalliseen on, että sen jälkeen, kun ase on aktivoitu, tietokone tekee ihmisen puolesta kaiken työn. Robotin sensorit reagoivat erilaisiin ärsykkeisiin, minkä perusteella tietokone tekee päätöksen ja lähettää toimintakäskyn.

Robotti ei erottele sotilasta ja siviiliä

Sharkeyn mukaan robottiaseiden kehittämiseen liittyy sekä teknisiä että eettisiä ongelmia. Hän muistuttaa, että kuten kaikki tietokoneohjelmat, myös robottiaseet ovat alttiita virheille, ulkopuolisille hyökkäyksille ja ennakoimattomille tilanteille.

Vielä suurempia ovat eettiset ongelmat. Esimerkiksi kansainvälisen humanitaarisen oikeuden mukaan sodassa on pystyttävä erottelemaan siviilit ja taistelijat ja käytettävä erityistä harkintaa siviilikohteisiin hyökättäessä.

”Tiedän, mihin tekoäly ja robotiikka pystyvät. Eivätkä ne pysty noudattamaan sodan oikeussääntöjä”, Sharkey toteaa.

Vaikka tekoälybisneksessä intoillaan esimerkiksi kasvojentunnistuksen mahdollisuuksista, todellisuudessa robottiaseet eivät vielä tunnista kunnolla edes panssarivaunua, jos se sijaitsee lähellä puita, Sharkey sanoo. Siviilien erottaminen olisi siis vaikeaa.

Sharkey kertoo myös esimerkin Irakista, jossa yhdysvaltaiset sotilaat tekivät päätöksen olla tappamatta kapinallisia nähdessään näiden kantavan ruumisarkkua. Kone ei olisi samaa päätöstä tehnyt, hän muistuttaa.

Noel Sharkey, taka-alalla Timo Honkela
Sheffieldin yliopiston emeritusprofessori Noel Sharkey vieraili Suomessa kertomassa, mitä uhkakuvia autonomisiin aseisiin eli tappajarobotteihin liittyy. (Kuva: Teija Laakso / CC BY-NC-ND 2.0)

Napin painallus ei riitä

Tappajarobottien kehittämistyön aloitti Sharkeyn mukaan Yhdysvallat vuoden 2003 paikkeilla, mutta nyt mukana ovat myös Venäjä, Iso-Britannia, Kiina, Turkki ja Israel. Uhkakuva on, että aseet muuttuvat yhä tuhoisammiksi, kun jokainen pyrkii kehittämään toista tehokkaamman aseen.

”Nyt alkamassa on asevarustelukilpa”, Sharkey toteaa.

Campaign to Stop Killer Robots on kampanjoinut viisi vuotta sen puolesta, että YK-maat neuvottelisivat sopimuksen, joka kieltäisi täysautonomiset aseet. Tavoitteena on, että tavanomaisia aseita koskevaan CCW-sopimukseen lisättäisiin pöytäkirja, jossa täysautonomiset aseet kiellettäisiin. Vastaava pöytäkirja on olemassa jo esimerkiksi sokeuttavista laseraseista.

Avainasia on Sharkeyn se, että aseissa säilyy merkittävä ihmisen kontrolli – muunkinlainen kuin napin painaminen.

”Tarkoituksenamme ei ole estää tekoälyn tai siviiliaseiden kehittämistä. Ase voi olla autonominen, mutta olemme huolissamme kahdesta asiasta: siitä, että kone valitsee kohteen ja iskee siihen voimalla”, Sharkey sanoo.

Keskusteluissa on viimeisten puolen vuoden aikana edistytty, mutta tällä hetkellä vasta 26 maata kannattaa suoraan kieltosopimusta. Suurin osa niistä on Afrikan ja Latinalaisen Amerikan maita, eivätkä merkittävät asevalmistajat ole innostuneita sopimuksesta.

”Autonomisia aseita kehittävät maat sanovat, että autonomisten aseiden määritelmää pitää vielä miettiä. Ne maat, jotka eivät kehitä aseita, taas tietävät kyllä, mitä autonomiset aseet ovat – jostain oudosta syystä”, Sharkey toteaa.

Hän on silti optimistinen, sillä esimerkiksi Itävalta ja Kiina on saatu viime aikoina mukaan. Nyt hän toivoo, että Suomi muotoilisi asiasta oman kansainvälisen kantansa. Useita Euroopan maita on lähiaikoina tulossa mukaan, hän uskoo.

”Euroopan maat pitävät nyt korttinsa piilossa. Ne katsovat, kuka puhuu ensin. Kaikki eivät ehkä halua kieltoa, mutta kaikki kannattavat sääntelyä”, hän muistuttaa.

Kieltosopimusneuvotteluiden aloittamisesta on määrä keskustella seuraavan kerran Genevessä elokuun lopulla.

TÄSMENNYS 14.6.2018. Täsmennetty panssaroituihin ajoneuvoihin sekä sodan oikeussääntöihin liittyviä termejä.

Tappajarobotit soveltava teknologiatiedeaseet & armeijaturvallisuus SadankomiteaSuomen Rauhanliitto

Lue myös

Valkoisiin haalareihin pukeutuneita ihmisiä pilvenpiirtäjän edessä

Raportti: Asefirmat kehittävät jo tappajarobotteja – ”Autonomiset aseet ovat siirtymässä sci-fistä todellisuuteen”

Autonomisten aseiden uhka kasvaa, sillä yhä useammat valtiot ovat lisänneet niiden kehittelyä viime vuosina, selviää PAX-rauhanjärjestön tutkimuksesta. Kyselytutkimuksen mukaan muun muassa suomalaisista suurin osa kannattaa niiden kieltämistä.
Tietokoneen näppäimistö

(Teko)älykkäät puolustusvoimat?

Robottiaseet kehittyvät kovaa vauhtia, mutta Puolustusvoimien tutkimusjohtaja ei ole huolissaan tekoälyn vaikutuksista humanitaarisen lain rikkomiskynnyksen madaltumiseen. Uudet autonomiset asejärjestelmät kuitenkin ampuvat itsensä vastuukysymyksissä sodankäynnin sääntöjen ulottumattomiin, varoittaa Anna Heikkinen.
Sormi painamassa tietokoneen näppäimistöä

Raportti: Suuret teknologiafirmat vaarassa sotkeutua tappajarobottien kehittämiseen

Tuoreen raportin mukaan muun muassa Microsoft ja Amazon voivat viedä maailman lähemmäs kohti tappajarobotteja, elleivät ne sanoudu irti niiden kehittämisestä.

Tilaa uutiskirje

Saat kerran viikossa koosteen Maailma.netin uutisista, tapahtumista ja työpaikoista sähköpostiisi. Tietojasi käytetään vain uutiskirjeen lähettämiseen. Rekisteriseloste täällä.

Pääuutiset

Nainen lähikuvassa

Ihmiskunta on aina kertonut tarinoita – Jamaikalainen kertojalegenda Amina Blackwood Meeks uskoo, että tarinoilla voi olla rooli myös globaalien ongelmien ratkomisessa

Suullista tarinankerrontaperinnettä on viime vuosina alettu elvyttää ympäri maailman. Jamaikalainen Amina Blackwood Meeks uskoo, että tarinoiden avulla ihmiset voivat oppia ymmärtämään moninaisuutta paremmin.
Opiskelijoita luentosalissa

Tuore tutkimus paljastaa afrikkalaisnuorten ”afro-optimismin” – Uusi sukupolvi koostuu yrittäjähenkisistä diginatiiveista, jotka luottavat tulevaisuuteen

Yli 4 000 afrikkalaisnuoren haastatteluihin perustuvan tutkimuksen mukaan afrikkalaisnuoret uskovat maanosan tulevaisuuteen ja kykyynsä ratkoa ongelmat. Toisaalta myös epävarmuutta on paljon.
Viljelijät kyntävät peltoa lehmien vetämien aurojen avulla

Ilmastonmuutos heikentää Intian taloutta – Tuottavuus laskee, kun kuumuus estää työnteon

Intian talous nojautuu ruumiilliseen työhön, mutta vuonna 2050 maassa saattaa olla niin lämmintä ja kosteaa, että 30 prosenttia valoisan ajan työtunneista menetetään.
Mies junan penkissä lähikuvassa

Suomi houkuttaa ulkomaisia tutkinto-opiskelijoita, mutta valmistumisen jälkeen töitä on vaikea löytää

Suomi tarvitsee ulkomaista työvoimaa, mutta moni Suomeen tutkintoa varten tullut ei löydä koulutustaan vastaavaa työtä. Tradenomitutkinnon suorittaneen Bao Nguyenin mukaan haasteena ovat etenkin oleskelulupakäytännöt. Opetusneuvos Ulla Mäkeläinen kertoo, että jatkossa Suomessa tutkinnon suorittaneiden ulkomaalaisten asemaa helpotetaan.
Tehtaan piipusta nousevaa savua

Päästökompensointi – Paremman omantunnon ostamista vai investointeja hyviin tarkoituksiin?

Yrityksille ja kuluttajille on tarjolla yhä enemmän mahdollisuuksia kompensoida hiilidioksidipäästönsä esimerkiksi metsityshankkeiden avulla. Riskinä on vaihteleva laatu, jota ei juuri valvota.

Tuoreimmat

Tuore tutkimus paljastaa afrikkalaisnuorten ”afro-optimismin” – Uusi sukupolvi koostuu yrittäjähenkisistä diginatiiveista, jotka luottavat tulevaisuuteen
Ilmastonmuutos heikentää Intian taloutta – Tuottavuus laskee, kun kuumuus estää työnteon
Suomi houkuttaa ulkomaisia tutkinto-opiskelijoita, mutta valmistumisen jälkeen töitä on vaikea löytää
Ihmiskunta on aina kertonut tarinoita – Jamaikalainen kertojalegenda Amina Blackwood Meeks uskoo, että tarinoilla voi olla rooli myös globaalien ongelmien ratkomisessa
Päästökompensointi – Paremman omantunnon ostamista vai investointeja hyviin tarkoituksiin?
Empatiaa voi oppia, sanovat Pakolaisavun empatialähettiläät – Tuo omat arvosi rohkeasti esiin mutta kuuntele ja kunnioita myös toisten mielipiteitä
Zimbabwessa kärsitään sekä nälästä että ruokahävikistä – Hintojen nousu vie torikauppiailta asiakkaat
Raportti: Sodat ovat lapsille entistäkin vaarallisempia – Pojat kuolevat useammin taisteluissa, tytöt usein seksuaalisen väkivallan kohteina
YK julkaisi pitkän odotuksen jälkeen listan Israelin laittomissa siirtokunnissa toimivista yrityksistä – 112 yrityksen joukossa muun muassa Tripadvisor ja Airbnb
Lääkäri Pentti Haatanen on seurannut avustustyössä pakolaiskriisejä vuosien ajan – ”En ole kyynistynyt”