Uutiset Tappajarobotit

Tekoälyn asiantuntija Noel Sharkey tutustui tappajarobotteihin ja ryhtyi niitä vastustavaksi kansalaisaktivistiksi – ”asevarustelukilpa on alkamassa”

Suomessa vierailleen professori Noel Sharkeyn mukaan robottiaseilta puuttuu tärkeä ominaisuus: ne eivät pysty erottelemaan siviiliä sotilaista. Hän lobbaa nyt sen puolesta, että muun muassa Suomi ryhtyisi vastustamaan robottiaseita.
Robotti mielenosoituksessa
Tappajarobottien vastainen mielenilmaus Isossa-Britanniassa vuonna 2013. Todellisuudessa autonomiset aseet eivät muistuta perinteisiä robotteja, mutta kampanjoinnissa vedotaan yhä vanhoihin mielikuviin. (Kuva: Sharron Ward / Campaign to Stop Killer Robots / CC BY-NC 2.0)

Toimittaja kysyi professori Noel Sharkeylta vuonna 2007, voisiko tämä kertoa jotakin robottiaseista. Tekoälyn ja robotiikan huippuasiantuntijana tunnettu Sharkey ei osannut vastata mutta ryhtyi tutkimaan asiaa netistä samana iltana.

”Olin aivan järkyttynyt. Niinpä minusta tuli aktivisti ikään kuin vahingossa”, Sharkey, 69, kertoi eilen vieraillessaan Helsingissä.

Sheffieldin yliopiston emeritusprofessori ja muun muassa Yalen ja Stanfordin yliopistoissa luennoinut brittiläis-irlantilainen Sharkey on nykyisin kansainvälisen tappajarobottien kieltämisen puolesta toimivan kampanjan (Campaign to Stop Killer Robots) keulahahmo. Suomesta kampanjassa ovat mukana Rauhanliitto ja Sadankomitea.

Tappajaroboteilla tarkoitetaan autonomisia aseita, jotka valitsevat kohteensa ja iskevät niihin ilman ihmisen kontrollia. Sharkey ja muut asiantuntijat ovat niiden kehityksestä huolissaan, sillä käytännössä tappajarobotit voisivat tehdä itsenäisesti päätöksen ihmisen tappamisesta.

Nykytiedon mukaan tappajarobotteja ei ole vielä käytetty taistelutilanteissa, mutta kehittely on täydessä vauhdissa. Sharkey näyttää esimerkkejä. Videoilla näkyy venäläinen Armata T14-panssarivaunu, henkilöautoa alleen survova amerikkalainen panssaroitu ajoneuvo Crusher sekä miehittämättömien lennokkien parvi, jonka osaset lähtevät lentoon yksi toisensa jälkeen.

Ne näyttävät tavallisilta sotimisvälineiltä, mutta ero tavalliseen on, että sen jälkeen, kun ase on aktivoitu, tietokone tekee ihmisen puolesta kaiken työn. Robotin sensorit reagoivat erilaisiin ärsykkeisiin, minkä perusteella tietokone tekee päätöksen ja lähettää toimintakäskyn.

Robotti ei erottele sotilasta ja siviiliä

Sharkeyn mukaan robottiaseiden kehittämiseen liittyy sekä teknisiä että eettisiä ongelmia. Hän muistuttaa, että kuten kaikki tietokoneohjelmat, myös robottiaseet ovat alttiita virheille, ulkopuolisille hyökkäyksille ja ennakoimattomille tilanteille.

Vielä suurempia ovat eettiset ongelmat. Esimerkiksi kansainvälisen humanitaarisen oikeuden mukaan sodassa on pystyttävä erottelemaan siviilit ja taistelijat ja käytettävä erityistä harkintaa siviilikohteisiin hyökättäessä.

”Tiedän, mihin tekoäly ja robotiikka pystyvät. Eivätkä ne pysty noudattamaan sodan oikeussääntöjä”, Sharkey toteaa.

Vaikka tekoälybisneksessä intoillaan esimerkiksi kasvojentunnistuksen mahdollisuuksista, todellisuudessa robottiaseet eivät vielä tunnista kunnolla edes panssarivaunua, jos se sijaitsee lähellä puita, Sharkey sanoo. Siviilien erottaminen olisi siis vaikeaa.

Sharkey kertoo myös esimerkin Irakista, jossa yhdysvaltaiset sotilaat tekivät päätöksen olla tappamasta kapinallisia nähdessään näiden kantavan ruumisarkkua. Kone ei olisi samaa päätöstä tehnyt, hän muistuttaa.

Noel Sharkey, taka-alalla Timo Honkela
Sheffieldin yliopiston emeritusprofessori Noel Sharkey vieraili Suomessa kertomassa, mitä uhkakuvia autonomisiin aseisiin eli tappajarobotteihin liittyy. (Kuva: Teija Laakso / CC BY-NC-ND 2.0)

Napin painallus ei riitä

Tappajarobottien kehittämistyön aloitti Sharkeyn mukaan Yhdysvallat vuoden 2003 paikkeilla, mutta nyt mukana ovat myös Venäjä, Iso-Britannia, Kiina, Turkki ja Israel. Uhkakuva on, että aseet muuttuvat yhä tuhoisammiksi, kun jokainen pyrkii kehittämään toista tehokkaamman aseen.

”Nyt alkamassa on asevarustelukilpa”, Sharkey toteaa.

Campaign to Stop Killer Robots on kampanjoinut viisi vuotta sen puolesta, että YK-maat neuvottelisivat sopimuksen, joka kieltäisi täysautonomiset aseet. Tavoitteena on, että tavanomaisia aseita koskevaan CCW-sopimukseen lisättäisiin pöytäkirja, jossa täysautonomiset aseet kiellettäisiin. Vastaava pöytäkirja on olemassa jo esimerkiksi sokeuttavista laseraseista.

Avainasia on Sharkeyn se, että aseissa säilyy merkittävä ihmisen kontrolli – muunkinlainen kuin napin painaminen.

”Tarkoituksenamme ei ole estää tekoälyn tai siviiliaseiden kehittämistä. Ase voi olla autonominen, mutta olemme huolissamme kahdesta asiasta: siitä, että kone valitsee kohteen ja iskee siihen voimalla”, Sharkey sanoo.

Keskusteluissa on viimeisten puolen vuoden aikana edistytty, mutta tällä hetkellä vasta 26 maata kannattaa suoraan kieltosopimusta. Suurin osa niistä on Afrikan ja Latinalaisen Amerikan maita, eivätkä merkittävät asevalmistajat ole innostuneita sopimuksesta.

”Autonomisia aseita kehittävät maat sanovat, että autonomisten aseiden määritelmää pitää vielä miettiä. Ne maat, jotka eivät kehitä aseita, taas tietävät kyllä, mitä autonomiset aseet ovat – jostain oudosta syystä”, Sharkey toteaa.

Hän on silti optimistinen, sillä esimerkiksi Itävalta ja Kiina on saatu viime aikoina mukaan. Nyt hän toivoo, että Suomi muotoilisi asiasta oman kansainvälisen kantansa. Useita Euroopan maita on lähiaikoina tulossa mukaan, hän uskoo.

”Euroopan maat pitävät nyt korttinsa piilossa. Ne katsovat, kuka puhuu ensin. Kaikki eivät ehkä halua kieltoa, mutta kaikki kannattavat sääntelyä”, hän muistuttaa.

Kieltosopimusneuvotteluiden aloittamisesta on määrä keskustella seuraavan kerran Genevessä elokuun lopulla.

TÄSMENNYS 14.6.2018. Täsmennetty panssaroituihin ajoneuvoihin sekä sodan oikeussääntöihin liittyviä termejä.

Tappajarobotit soveltava teknologiatiedeaseet & armeijaturvallisuus SadankomiteaSuomen Rauhanliitto

Lue myös

Sormi painamassa tietokoneen näppäimistöä

Raportti: Suuret teknologiafirmat vaarassa sotkeutua tappajarobottien kehittämiseen

Tuoreen raportin mukaan muun muassa Microsoft ja Amazon voivat viedä maailman lähemmäs kohti tappajarobotteja, elleivät ne sanoudu irti niiden kehittämisestä.
Pieni robotti tietokoneen näppäimistön vieressä

Tappajarobotit – Kauhukuva joka on estettävä

Roboteilla on monia etuja ihmissotilaaseen nähden. Se ei tunne syyllisyyttä eikä kärsi painajaisista jälkikäteen. Uhkana voi olla jopa hallitsematon robottisota, kirjoittaa Antero Honkasalo.
Esite autonomisista aseista

Kysely: Yhä useampi ihminen vastustaa tappajarobotteja – ”Valtiot täysin eri linjoilla yleisen mielipiteen kanssa”

26 maassa tehdyn kyselyn mukaan useimmissa maissa yli puolet ihmisistä vastustaa autonomisten asejärjestelmien kehittämistä. Monien mukaan tappajarobotit ylittäisivät tietyn moraalisen rajan.

Tilaa uutiskirje

Saat kerran viikossa koosteen Maailma.netin uutisista, tapahtumista ja työpaikoista sähköpostiisi. Tietojasi käytetään vain uutiskirjeen lähettämiseen. Rekisteriseloste täällä.

Pääuutiset

Nainen ja mies käsissään iso tekstiilityö ja takanaan maalauksia

Kholod Hawashin päälle heitettiin happoa, Saddam Jumailya kohti ammuttiin – Suomalainen residenssiohjelma auttaa vainottuja taiteilijoita

Suomessa toimii residenssiohjelma, joka auttaa taiteilijoita pääsemään turvaan vallanpitäjien ja ääriryhmien vainoa. Tarve on kova, sillä etenkään vaarassa oleville kuvataiteilijoille ei ole maailmalla tarjolla tukea.
Koululaisia pulpettien ääressä

Maailmanpankki haluaa eroon ”oppimisköyhyydestä” – Yli puolet kehittyvien maiden koululaisista ei osaa lukea kunnolla

Maailmanpankin mukaan opetusjärjestelmiä on uudistettava merkittävästi, jotta oppimisen laatu paranisi. Ongelma ei ratkea nopeasti, mutta muun muassa Kenian, Egyptin ja Vietnamin esimerkit ovat myönteisiä.
Nepalin pääkaupungin Kathmandun rakennuksia

Nepalilaisia vierastyöläisiä koettelee itsemurhaepidemia – Odotusten ja todellisuuden välinen kuilu saa monet turvautumaan epätoivoiseen ratkaisuun

Moni korkeasti koulutettu nepalilainen lähtee töihin Etelä-Koreaan. Tutkimuksen mukaan muun muassa kovat paineet ja ulospääsymahdollisuuksien puuttuminen johtavat jopa itsemurhiin. Nepalin valtiolla taas ei ole juuri halua puuttua asiaan.
Punapaitainen nainen

Cinemaissí-elokuvafestareilla nostetaan tänä vuonna esiin hiljaisen enemmistön ja marginaaliin jäävien ääniä

Tällä viikolla järjestettävällä Latinalaisen Amerikan elokuvafestivaalilla nähdään muun muassa alkuperäiskansojen ja sukupuolivähemmistöjen oikeuksia käsitteleviä elokuvia. Festivaaleilla vierailee brasilialaisohjaaja Tai Linhares.

Tuoreimmat

Maailmanpankki haluaa eroon ”oppimisköyhyydestä” – Yli puolet kehittyvien maiden koululaisista ei osaa lukea kunnolla
Nepalilaisia vierastyöläisiä koettelee itsemurhaepidemia – Odotusten ja todellisuuden välinen kuilu saa monet turvautumaan epätoivoiseen ratkaisuun
Cinemaissí-elokuvafestareilla nostetaan tänä vuonna esiin hiljaisen enemmistön ja marginaaliin jäävien ääniä
Kholod Hawashin päälle heitettiin happoa, Saddam Jumailya kohti ammuttiin – Suomalainen residenssiohjelma auttaa vainottuja taiteilijoita
Väkivalta vaikeuttaa avustustyötä Koillis-Syyriassa – Kirkon Ulkomaanapu aloitti hätäapukeräyksen siviilien tukemiseksi
Ihmiskauppiaat rekrytoivat kenialaisnaisia Saudi-Arabiaan – Mary Njambi pääsi kotiin vain itsemurhalla uhkailemalla
Afrikan sarvessa on satanut vähiten lähes 40 vuoteen – 13 miljoonan ihmisen ruuansaanti uhattuna
Ilmastonmuutos on Afrikan kaivosteollisuudelle mahdollisuus ja uhka – Osa mineraaleista jätettävä louhimatta
Nobelin rauhanpalkinto Etiopian pääministeri Abiy Ahmedille - "Toivottavasti rohkaisee jatkamaan toimia demokratian vahvistamiseksi"
Tutkimus: Afrikan maiden homofobinen lainsäädäntö vaikeuttaa hivin hoitoa – Jopa kolme neljästä homomiehestä ei saa lääkitystä