On mahdollista, että tekoäly ohittaa ihmisen älylliset valmiudet, mikä voi ilman tähän valmistautumista haastaa ihmiskunnan valmiudet hallita omaa luomistaan ja sen seurauksena kenties ihmiskunnan valmiudet päättää itse omasta kohtalostaan ja varmistaa lajin eloonjääminen.
Ote ei ole scifi-romaanista vaan Euroopan parlamentin mietinnöstä.
Euroopan parlamentti on laatimassa sääntöjä roboteille, niiden valmistajille, tutkijoille, käyttäjille ja mahdollisille uhreille, ja valmisteilla oleva mietintö kuulostaa paikoin tieteisromaanilta.
Mietinnössä on otettu huomioon sekä nykyisyys – esimerkiksi itsestään ajavat autot – että tulevaisuus, jossa tekoäly ylittää kaikki ihmisen älylliset valmiudet. Kuulun parlamentin Robotisaatio ja tulevaisuuden työ -ryhmään. Siellä nähdään, että koska itsestään oppivat robotit ovat jo täällä, on järkevää pohtia säädöksiä sekä läheistä että kaukaisempaa tulevaisuutta varten.
Mietinnössä todetaan muun muassa, että robottien suunnittelijoiden ja valmistajien tulee noudattaa Isaac Asimovin 1940-luvulla scifi-kirjoissaan laatimia Asimovin lakeja*. Jos robotit tulevat tietoisiksi omasta olemassaolostaan, täytyy Asimovin lakeja alkaa soveltaa toisin kuin nykyään, toteaa Euroopan parlamentti.
Parlamentin mukaan on laadittava säännöt siitä, missä määrin kone voi olla vastuussa teoistaan tai laiminlyönneistään. On myös ratkaistava, voiko roboteilla olla oikeudellinen asema.
Meidän on päätettävä, ovatko oppivat ja itsenäisesti päätöksiä tekevät robotit oikeuden näkökulmasta esimerkiksi luonnollisia henkilöitä, oikeushenkilöitä, eläimiä vai esineitä. Yksi mahdollisuus olisi luoda niille kokonaan oma kategoria.
Nykylain mukaan vastuussa on ihminen: valmistaja, omistaja tai käyttäjä. Tämä ei kata tilanteita, joissa robotin tekoa ei voi suoraan jäljittää ihmiseen. Oppivien robottien kanssa ihminen ei aina voi ennakoida tai estää robottien käytöstä. Uudet robotit pystyvät esimerkiksi itsenäisesti valitsemaan vastapuolensa, neuvottelemaan sopimusehdoista ja päättämään niiden täytäntöönpanosta.
Kenen pitää korjata vahingot esimerkiksi siinä tapauksessa, että itsestään ajava auto ajaa kolarin – ohjelmoijan, omistajan, mahdollisen matkustajan?
Mietintö suhtautuu hyvin myönteisesti robottien kehittämiseen. Siinä ehdotetaan, että EU:hun perustetaan robotiikka- ja tekoälyvirasto. Sairaaloihin tulee perustaa robottietiikkaa käsitteleviä toimikuntia, joiden tehtävänä on käsitellä ja auttaa ratkaisemaan robotisaatiosta aiheutuvia monimutkaisia eettisiä ongelmia. Tekijänoikeuslainsäädäntöä on muutettava siten, että se ottaa huomioon tietokoneiden ja robottien luomat teokset. On myös tarkasteltava mahdollisuutta pakollisen vakuutusjärjestelmän ja robottirekisterin luomiseen. Parlamentin mukaan ihmisen on myös aina tiedettävä olevansa tekemisissä robotin kanssa – hyvin ihmismäisesti käyttäytyvä robottikin on voitava tunnistaa robotiksi.
Mietinnön voi lukea suomeksi täältä.
* Asimovin lait:
- Robotti ei saa vahingoittaa ihmistä eikä laiminlyönnin johdosta saattaa tätä vahingoittumaan.
- Robotin on toteltava ihmisen sille antamia määräyksiä paitsi jos ne ovat ristiriidassa ensimmäisen pääsäännön kanssa.
- Robotin on varjeltava omaa olemassaoloaan niin kauan kuin tällainen varjeleminen ei ole ristiriidassa ensimmäisen eikä toisen pääsäännön kanssa.
Myöhemmin on lisätty myös ”nollas” laki: Robotti ei saa vahingoittaa ihmiskuntaa tai saattaa sitä vaaraan.
