3 pamatlikumi robotiem

Pirms vairākām dienām kāda filozofiskā sarunā ar interesantu cilvēku pieminēju tādu Holivudas kino šedevru kā ” I, Robot” ar Vilu Smitu galvenajā lomā. Šodien nejauši sanāca šo filmu atkal noskatīties. Galvenā ideja ir tā, ka intelekta centralizācija uzliek jaunus izaicinājumus šīs centralizācijas kontrolei vai arī var notikt lietas, kuras nebija prātā veidojot sistēmu. Neskatoties uz to, ka visi roboti (pieņemsim, ka arī modernās intelektuālās pašizdzīvot spējīgās sistēmas pieturas pie tā) pēc baltkrieva Isāka Asimova (1920 – 1992)  ir aprīkoti ar 3 robotu pamatlikumiem:

  1. Robots nedrīks nodarīt pāri cilvēkai vai ar savu bezdarbību atļaut cilvēkam ciest
  2. Robotiem ir jāklausa cilvēka pavēlas izņemot tās, kas pārkāpj pirmo likumu
  3. Robotam ir jāaizstāv pašam sava eksistence tiktāl cik tas nepārkāpj pirmo un otro likumu.

Neskatoties uz to citi domātāji un pelēkās vielas kustinātāji secināja, ka ar šiem 3 likumiem īstenībā nav pietiekami. Šādi likumi joprojām pieļauj piemēram robotu izmantošanu, lai aplaupītu citu cilvēku mājas, vai pametot savu nodarbi (piemēram turot smagumu), lai glābtu vienu cilvēku, kas savukārt izraisītu nejaušu citu cilvēku nāvi. Tādēļ tika izdomāts, ka īstenībā likumi ir jāpapildina ar nullto likumu -#0 robots nedrīkst nodarīt pāri cilvēcei vai ar savu bezdarbību atļaut cilvēcei ciest. Protams papildinot arī pārējos 3 likumus ar atbilstošu tekstu, ka tie ir spēkā tiktāl ciktāl netiek pārkāpts nultais likums. Bet te gan rodas jaunas problēmas – kā lai robots precīzi nosaka – cietīs vai necietīs cilvēce?

Lai nu kā nepilnības ir arī šajos 4 likumos (ieskaitot nullto) un tika piedāvāts papildināt arī ar likumu #4 Robotam ir jāvairojas, kamēr tas nepārkāpj visus iepriekš minētos likumus…. bet kā jau jebkurai lietai arī šiem likumiem izrādās ir nepilnība – ņemsim par piemēru frankenšteinu – viņš ir robots vai cilvēks? Līdz ar to radās maza šaura pelēka interpretācijas josla – kas tad tieši ir cilvēks un vai robots pats maz zina, ka ir robots nevis ļoti advancēts robots, ko mēdz dēvēt ārī par humanoīdiem… jeb robotiem, kas ir mākslīgie cilvēki… vai veidoti pēc maksimālās līdzības cilvēkiem. Tādēļ tika piedāvāts arī ieviest likumu #5 Robotam ir jāzina, ka tas ir robots…. lai advancēts robots pēkšņi nesāktu domāt, ka tas īstenībā ir cilvēks un uz viņu likumi neatiecas. Tagad padomā vēlreiz – Frankenšteins ir robots vai cilvēks kuram ir pārāk daudz palīgmehānismu, kas nepieciešami viņa dzīvošanai?

Kā jau varat nojaust, tad visi šie likumi visticamākais arī atļauj dažādas citas interpretācijas un šaubu scenārijus…

kādiem vēl pamata likumiem būtu jābūt, lai robots kādu dienu roboti nesaceltos un  mūs visus nepieslēgtu Matriksam vai tieši pretēji vienlaicīgi neatslēgtu no kādas simulētās realitātes, kur esam šobrīd pievienojušies?

12 thoughts on “3 pamatlikumi robotiem

  1. Asimovs šos likumus piemēroja rakstot konkrētus savus stāstus (kurus ir tiešām vērts izlasīt). Reāli dzīvē šādus likumus diez vai varētu pielietot. Kaut vai – kas notiek, kad tiek aizturēts noziedznieks? Robots palīdz viņam aizbēgt sveikam un veselam. Tāpat arī šie likumi neņem vērā psiholoģiskās traumas, kas var rasties cilvēkam, bet par ko robotam nav ne mazākās nojausmas. Piemēram, cilvēks sit dūri galdā, robots zin, ka tas var sāpēt un tamdēļ tur cilvēku ķīlā kamēr tas nomierinas (:

  2. Intelekts pēc definīcijas ietver spēju mācīties, saprast, domāt abstrakti, risināt problēmas un plānot. Tomēr cilvēka pieņemtos lēmumus lielā mērā ietekmē emocijas. Tāpēc mākslīgā intelekta būtība ietver paradigmu.
    Ja šis intelekts būs pilnīgi objektīvs, balstīts tikai uz loģikas principiem, tā pieņemtie lēmumi būs prognozējami, tomēr atšķirīgi no cilvēku lēmumiem vai pat sabiedrības interesēm. Mūsu vēlmes, intereses un morālās vērtības rodas mijiedarbojoties loģikai ar emocijām. Kritiskās situācijās, piemēram, briesmu gadījumā, kad jāizvēlas – glābt bērnu-invalīdu vai jaunu vīrieti, emocijas un sabiedrības pamat-morāles normas dotu priekšroku bērnam, turpretī no loģikas viedokļa pareizāk būtu izglābt vīrieti, jo viņa potenciāls kā sabiedrības loceklim ir lielāks. Plānojot pilsētu, visracionālāk būtu būvēt vienādas mājas, taisnstūra, bez balkoniem vai citiem atribūtiem, taisnas ielas, nekādas zaļās zonas, tomēr tā būtu pilnīgi nepiemērota vide cilvēkam, jo emocionālās vajadzības pēc individualitātes, estētikas un saskarsmes ar dabu paliktu neapmierinātas.
    Otrs variants – ja mākslīgajam intelektam kaut kādā ziņā piemistu emocijas, tad tas nebūtu ne prognozējams, ne kontrolējams, jo emocijas ir subjektīvas, un bieži vien saprotamas tikai tam, kas tās izjūt.
    Tātad pēc manas teorijas šādi likumi nevienā gadījumā nestrādās. Pirmajā gadījumā, uz loģiska saprāta principiem balstīta rīcība var neatbilst emociju vadītas sabiedrības interesēm, jo tā prioritātes ir atšķirīgas.
    Otrajā gadījumā mākslīgais intelekts vienkārši nebūs kontrolējams, jo emociju subjektivitāte nozīmē tūkstošiem rīcības variantu jebkurā situācijā, un iespējams pat spēju tiem nepakļauties.
    Bet grāmata tiešām laba, viena no labākajām, ko esmu lasījusi.

  3. Cilvēkam vispār nevajadzētu iejaukties tādās lietās ka mākslīgā intelekta radīšana, bet domaju agri vai vēlu tas notiks kad mākslīgais intelekts domās un darīs visu pa savam! Un tad neviens no šiem punktiem nedarbosies!

  4. Visus Azimova stāstus par robotiem var izlasīt krieviski vai angliski. Latviski SciFi izdota praktiski netiek un jebkuram kurš grib lasīt fantastiku, par latviešu valodu ir jāaizmirst. Diemžēl.
    Bez tam latviski tika izdota tikai daļa no Azimova stāstiem.
    Azimovam par robotiem un Foundation ir daudz stāstu. Ieteiktu tos visus izlasīt.
    Bet nu I, Robot filmu par šedevru nosaukt 🙂
    Tās filmas scenāristi par Azimovu ir tikai dzirdējuši. Praktiski vienīgais, kas vieno filmu ar grāmatu, ir nosaukums.

  5. Paldies, ka atgādināji!Drīzumā šie likumi noderēs.Filma gan grāmatai līdzinās minimāli.
    Azimovs ir visu laiku labākais fantastikas autors.Viņš bija arī spēcīgs zinātnieks un domātajs līdz ar to katrā romānā izveidotā pasaule ir ļoti ticama un tur ir vērtīgas domas. Iesaku izlasīt vismaz šīs, tādi labi “kosmiskie detektīvi”: Caves of Steel (1954) The Naked Sun (1957) The Robots of Dawn (1983) Robots and Empire (1985). Šeit ir kārtība kādā robotu sēriju ieteicis lasīt pats Azimovs:
    http://www3.sympatico.ca/n.rieck/links/cool_sci_fi.html#asimov-suggested-reading-order
    Šiet var atrast krievu valodā: http://www.lib.ru/FOUNDATION/
    Netā var sameklēt ir arī angliski.

  6. hmm. tu viņu speciāli par baltkrievu nosauci vai kā?
    (ir reāls fakts, ka ļoti daudzi, arī labi pazīstami cilvēki pasaulē ir ar savām saknēm reģionā uz dienvidiem no daugavpils līdz pat ukrainas ziemeļrietumiem. vienkārši nevajag aizmirst sarežģītos vēsturiskos iemeslus, kamdēļ tas ir tā)

    a par robotiem… ne jau robots dara pāri cilvēcei, bet cilvēks pats. pašlaik būtu ne jau azimovu jālasa bet orvelu. piem 1984.
    vai arī hakslija “the new brave world” par to, cik ļoti no augšas noraidītās ideoloģijas nosaka katra mūsu domas un uzskatus par to kas ir labi un pareizi, un kas nav…….

Komentēt

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Mainīt )

Twitter picture

You are commenting using your Twitter account. Log Out / Mainīt )

Facebook photo

You are commenting using your Facebook account. Log Out / Mainīt )

Google+ photo

You are commenting using your Google+ account. Log Out / Mainīt )

Connecting to %s