Näkökulmat Tappajarobotit

Tappajarobotit – Kauhukuva joka on estettävä

Roboteilla on monia etuja ihmissotilaaseen nähden. Se ei tunne syyllisyyttä eikä kärsi painajaisista jälkikäteen. Uhkana voi olla jopa hallitsematon robottisota, kirjoittaa Antero Honkasalo.
Pieni robotti tietokoneen näppäimistön vieressä
(Kuva: Chris Isherwood / CC BY-SA 2.0) (Kuva: Chris Isherwood / CC BY-SA 2.0)

Artikkeli on julkaistu aiemmin Rauhan puolesta -lehdessä 3/2019 sekä Tekniikka elämää palvelemaan -tiedotteessa.

Autonomiset asejärjestelmät eli tappajarobotit pystyvät itse päättämään, koska ne toimivat ja missä olosuhteissa ne päättävät tuhota viholliskohteen ja tappaa ihmisiä. Tappajarobotit voivat liikkua maalla, ilmassa tai vedessä. Ne voivat olla ajoneuvoja, tankkeja, tykkejä, ohjuksia tai lennokkeja. Älykäs miina pystyy havainnoimaan lähestyvän kohteen ja ohjelmansa perusteella ratkaisemaan, koska se räjähtää.

Miina voidaan rakentaa niin, että se ei toimi, jos sitä lähestyy vain yksi sotilas, tarvitaan monta sotilasta tai ajoneuvo tai monta ajoneuvoa. Miina itse voi olla kätkössä maan alla ja sen havaintokoneisto taivaalla tai satelliitissa. Se ei vielä edusta varsinaista tappajarobottia, mutta lähestyy tämän ominaisuuksia.

Toinen hyvä esimerkki ovat lennokit. Ihminen ohjaa niitä nykyään tuhansienkin kilometrien päästä, mutta tekoäly kehittyy koko ajan. Periaatteessa ne jo nyt voitaisiin ohjata toimimaan hyvinkin itsenäisesti taistelukentillä.

Tappajarobotteja ja muita tekoälyn aseellisia sovellutuksia kehitetään ympäri maailman teollisuusmaiden laboratorioissa ja tutkimuslaitoksissa. Tutkimus on suurelta osin salaista, joten on vaikea selvittää, kuinka pitkällä autonomisten asejärjestelmien kehittämistyössä tällä hetkellä ollaan.

Periaatteessa lennokit voitaisiin jo nyt ohjata toimimaan hyvinkin itsenäisesti taistelukentillä.

Tekniikan kehityksen megatrendit ovat nähtävissä myös autonomisten asejärjestelmien kehitystyössä:

– Laitteiden itseohjautuvuus ja oppimiskyky lisääntyy ja monipuolistuu.
– Tehot kasvavat.
– Koko pienenee. Nanoteknologia tarjoaa aivan uusia mahdollisuuksia.
– Valmistussarjojen kasvaessa laitteen hinta halpenee.
– Kehitys on sekä jatkuvaa että hyppäyksellistä.
– Turvallisuusmääräykset ja käyttökiellot laahaavat perässä. Vasta vakavat onnettomuudet saavat niiden valmisteluun vauhtia.

Tekoälyn soveltaminen läpäisee koko aseteknologian kentän aina käsiaseista ydinpommeihin. Aseiden kehittelyssä rahoitusta on helppo löytää. Mielikuvituksellisiinkin hankkeisiin saatetaan löytää rahoitus.

Tappajarobotit kiihdyttävät asevarustelua. Näiden aseiden tuoma sotilaallinen etu joko on tai sen uskotaan olevan niin ilmeinen, että kehitystyöhön halutaan panostaa suuria summia, etteivät muut maat pääse edelle ja saa haltuunsa aseteknologista ylivoimaa.

Tappajarobottien edut ja haitat

Roboteilla on monia etuja ihmissotilaaseen nähden. Robotti toimii nopeasti, ei väsy eikä stressaannu niin kuin ihminen. Se ei tarvitse unta eikä ruokaa. Se voi suorittaa tunteettomasti minkä tahansa tehtävän. Se ei tunne empatiaa edes lapsia ja naisia kohtaan eikä syyllisyyttä toimistaan. Se ei jälkikäteen kärsi painajaisista. Se ei joudu paniikkiin eikä hermoile.

Kone voi nopean tietojenkäsittelykykynsä takia pystyä ihmistä paremmin välttämään hätiköityjä päätöksiä.

Ilmatila on roboteille ihanteellinen ympäristö. Ne voivat liikkua joka suuntaan ja pääsevät alueille, joihin sotilaiden on hankala mennä. Lennokit voivat liikkua parvena, jolloin niiden tuhoaminen on hankalaa. Lennokkiparvi on maataistelijoille pelottava näky. Yksittäisen laitteen voi ampua alas, mutta parvi ei tästä välitä. Jos lintuparvesta onnistuu ampumaan kärjessä lentävän yksilön, toinen tulee tilalle. Parviäly on hajautunutta; se sijaitsee sekä yksilöissä että kokonaisuudessa. Jälkimmäistä ei voi paikallistaa mihinkään osaan parvesta.

Robotti ei jälkikäteen kärsi painajaisista. Se ei joudu paniikkiin eikä hermoile.

Lennokit pääsevät vaikeakulkuisille alueille. Ne vähentävät miestappioita ja niiden käyttö on taloudellisesti edullista. Niiden ilmestyminen taivaalle toimii myös pelotevaikutuksena.

Robotitkin ovat kuitenkin haavoittuvia. Niiden havaintokyky voi pettää, niillä ei välttämättä ole riittävää kykyä käsitellä omia virheitään. Niiden oppiminen on kaavamaista ja pysyy ennalta asetetuissa rajoissa. Niiden elektroniikka on altis kyberhyökkäyksille. Älykäs vastustaja voi saada ne ansaan. Niitäkin voidaan hämätä. Niiden ohjelman voi saada sekaisin.

Tappajarobotit voivat laskea aseellisten yhteydenottojen kynnystä, kun seurauksena ei ole miestappioita vaan pelkkää rautaromua, eikä kotirintamalle tarvitse lähettää ikäviä uutisia kaatuneista. Näin konfliktit saattavat eskaloitua vaarallisella ja hallitsemattomalla tavalla.

Laitteiden hinnan laskiessa kasvaa riski, että ne joutuvat terroristien käsiin. Lennokit ovat tästä hyvä esimerkki.

Oikeudelliset ongelmat

Tappajarobotit tuovat mukanaan vaikeita juridisia ongelmia. Robottien ja muiden itseohjautuvien asejärjestelmien taustalla on aina ihminen, joka on rakentanut ja ohjelmoinut tekoälyn ja päättää sen käytöstä. Mutta kuka lopulta on vastuussa, kun robotti itsenäisesti ja itseohjautuvasti toimii? Koko komentoketju vai vain se päättäjä, joka on lähettänyt robotin taistelukentälle? Kuka haastetaan sotaoikeuteen, jos robotti syyllistyy liialliseen tulivoiman käyttöön tai sotarikokseen?

Valmistaja on vastuussa, jos kyseessä on valmistustekninen vika, tai sotilasorganisaatio jos kysymys on puutteellisesta huollosta tai kunnossapidosta. Mutta jos katsotaan, että vikaantuminen johtuu tekijöistä, joita ei voitu ennalta arvioida, kuka silloin on vastuussa – vai onko kukaan?

Googlen robottiauto, jossa ei ole kuljettajaa, voi liikkua tavallisessa esikaupunkiympäristössä, mutta se voidaan myös varustaa panssareilla, konekivääreillä ja kevyillä tykeillä.

Varteenotettava kysymys on myös se, johtavatko sotilassovellutukset kaiken tekoälytutkimuksen militarisointiin. Mitä tahansa tekoälyn sovellutusta voidaan periaatteessa käyttää sotilastarkoituksiin. Googlen robottiauto, jossa ei ole kuljettajaa, voi liikkua tavallisessa esikaupunkiympäristössä, mutta se voidaan myös varustaa panssareilla, konekivääreillä ja kevyillä tykeillä. Lennokki voi kartoittaa ympäristötuhoja ja etsiä luvattomia kaatopaikkoja tai hakkuualueita, mutta sama laite voi myös toimia tykistön tulenjohtona ja antaa tuhoamiskäskyjä.

Pystyykö kukaan tekoälytutkija enää seuraamaan tai ennakoimaan, mihin hänen tutkimustuloksiaan käytetään? Atomipommin kehittäjät tiesivät, mitä olivat tekemässä. Tämä aiheutti monille vakavia omantunnontuskia Hiroshiman ja Nagasakin jälkeen. Tekoälyn käytössä ja kehittelyssä moraaliset kysymykset kuitenkin hämärtyvät tai ainakin tutkijan on helppo vakuuttaa itselleen, ettei vastuu ole tekniikassa vaan sen käytössä. Joka tapauksessa raja siviili- ja sotilastutkimustyön välillä hämärtyy.

Voiko oppiva kone karata käsistä?

Kehittäjänsä käsistä karannut laite on tieteiskirjallisuuden vakiintunutta aineistoa. Koneen ei tarvitse saada tajuntaa, jotta siitä tulisi ihmisestä riippumaton. Se voi oppia ja sen tekoäly kehittyä ja saada uusia yllättäviä piirteitä, vaikka se toimisi täysin mekaanisesti.

Futurologit kirjoittavat jo ennakoivia juttuja nanoboteista ja niiden sotilaallisesta käytöstä. Ne ovat pienen pieniä robotteja, joita voidaan kylvää miljardittain suurkaupunkiin, jossa ne hakeutuvat ihmisten keuhkoihin ja sitä kautta verenkiertoon. Ne voivat olla tappavan myrkyllisiä pelkästään nanorakenteensa takia, joten niitä on hankala havaita kemiallisten kokeiden avulla.

Ne voivat olla lepotilassa ja aktivoitua ihmisen suorittaman käskyn tai oman ohjausjärjestelmänsä avulla. Kun ne havaitaan, maa on jo joutunut nanobottien hyökkäyksen kohteeksi ja on liian myöhäistä niitä torjua. Pelkkä niiden käytöllä uhkaaminen voi olla hyvin tehokas ase, koska vihollisen on vaikea saada selville, onko uhka todellinen ja kuinka vakava se on.

Nanoaseitakin kehitellään jo sotateollisuuden laboratorioissa.

Kieltäkää tappajarobotit

Tappajarobottien kieltämistä ja niiden kehitystyön rajoittamista ja hillintää on käsitelty sekä YK:ssa että EU:n piirissä. Kansalaisjärjestöjen ja tutkijoiden kampanjat ovat vaatineet täydellistä kieltoa.

Yleensä aseita on kielletty, kun niiden katsotaan aiheuttavan epäinhimillisiä kärsimyksiä tai käytön riskit ovat vaikeasti hallittavissa. Tekoäly kuitenkin vaikeuttaa ja hämärtää eettisten normien määrittelyä ja käyttöä, jos se on koskaan ollutkaan helppoa.

Miinat kiellettiin, samoin rypälepommit ja kemialliset aseet. Kyse oli kuitenkin rajallisesta, melko tarkkaan määritellystä teknologiasta. Tekoälyä voidaan liittää mihin tahansa teknologiaan. Läpäisevää teknologiaa, mitä sekä tekoäly että nanoteknologia ovat, on kuitenkin vaikea kieltää. Löytyykö ratkaisu siitä, että ensin määritellään ne aseet ja kohteet, joissa missään tapauksessa tulituskäskyä ei pidä jättää yksin koneelle? Ainakaan ydinaseiden käyttöä ei kukaan saa antaa robottien päätettäväksi.

Ainakaan ydinaseiden käyttöä ei kukaan saa antaa robottien päätettäväksi.

Koska kauhun tasapaino perustuu kykyyn vastata ydinaseilla tehtävään iskuun samoilla aseilla, niin autonominen asejärjestelmä periaatteessa voisi suorittaa kostoiskun silloinkin, kun yhtään hyökkäyksen kohteeksi joutuneen maan asukasta ei ole enää jäljellä. Itse asiassa Neuvostoliiton tiedemiehet kehittivät jo kylmän sodan aikana silloisen automaatiotekniikan avulla tällaista tuomiopäivän konetta.

Järjestelmä ensin tarkistaa, onko maan johto vielä olemassa, ja jos se vakuuttuu, ettei näin ole, se laukaisee ydinaseet. Väitetään, että tämä järjestelmä, jota kutsutaan nimellä DEAD HAND, olisi edelleen Venäjällä olemassa ja sitä kehitetään. Vaikka järjestelmä olisi normaaliolosuhteissa pois päältä, voidaan se kriisitilanteissa aktivoida. Siitä, mitä vikaantumismahdollisuuksia tällaiseen tekoälysovellutukseen liittyy, voidaan vain esittää arvailuja.

Hallitsemattoman robottisodan uhka

Tappajarobotit avaavat monia muitakin tieteiskirjallisuuden käsittelemiä näkyjä. Jos tappajarobotteja saisi käyttää vain toista samanlaista järjestelmää vastaan, niin sodista saattaisi tulla kuin suuria turnajaisia tai gladiaattoritaisteluja. Ihmiset seuraisivat kaukana taistelukentistä tv-monitoreistaan, kuinka robotit tekisivät selvää toisistaan.

Ympäristökriisin kannalta tämä näkymä on pelottava: tuhlataan uusiutumattomia luonnonvaroja ja saadaan aikaan suunnaton määrä teräs- ja elektroniikkaromua, joka vielä on siroteltu ympäristöön vaikeasti talteen korjattavaksi. Myös ilmastonmuutoksen kannalta tämä näkymä on turmiollinen. Siinä haaskataan juuri niitä raaka-aineita, joita tarvitaan aurinkosähkön laajamittaiseen tuotantoon.

Silti tähän suuntaan voidaan hyvinkin olla menossa, mutta riski siitä, että robottisota laajenee suurtuhoksi tai jopa kolmanneksi maailmansodaksi ei poistu, vaan on koko ajan olemassa. Mitä monimutkaisempia ovat tekniset järjestelmät, sitä helpommin niihin liittyy vakaviakin riskejä, joita on ollut perusteellisillakin riskiarvioinneilla vaikea tai mahdotontakin ennakoida. Koneet alkavat hävittää ei vain toisiaan vaan myös niitä kohteita, joita oli tarkoitus rajata niiden käymän sodan ulkopuolelle.

Aseista pitää päästä kokonaan eroon. Tekoälyn soveltaminen laajamittaisesti kaikkeen aseteknologiaan tekee aseiden takomisesta auroiksi yhä tärkeämmän päämäärän. Samalla tämä saattaa olla ainoa varma keino tappaa tappajarobotit.

Tappajarobotit politiikkaaseet & armeijaturvallisuus Rauhan PuolestaSuomen Rauhanpuolustajat

Lue myös

Sormi painamassa tietokoneen näppäimistöä

Raportti: Suuret teknologiafirmat vaarassa sotkeutua tappajarobottien kehittämiseen

Tuoreen raportin mukaan muun muassa Microsoft ja Amazon voivat viedä maailman lähemmäs kohti tappajarobotteja, elleivät ne sanoudu irti niiden kehittämisestä.
Esite autonomisista aseista

Kysely: Yhä useampi ihminen vastustaa tappajarobotteja – ”Valtiot täysin eri linjoilla yleisen mielipiteen kanssa”

26 maassa tehdyn kyselyn mukaan useimmissa maissa yli puolet ihmisistä vastustaa autonomisten asejärjestelmien kehittämistä. Monien mukaan tappajarobotit ylittäisivät tietyn moraalisen rajan.
Esite autonomisista aseista

Tappajarobottien kieltosopimus näyttää yhä vaikeammalta saavuttaa – Nyt harkitaan toista reittiä

Valtiot jatkavat täysautonomisista aseista eli tappajaroboteista keskustelemista ensi vuonnakin. Viime viikolla pidetyn kokouksen tulos on laiha, sillä varsinaisiin kieltosopimusneuvotteluihin ei ole vieläkään päästy.

Tilaa uutiskirje

Saat kerran viikossa koosteen Maailma.netin uutisista, tapahtumista ja työpaikoista sähköpostiisi. Tietojasi käytetään vain uutiskirjeen lähettämiseen. Rekisteriseloste täällä.