Raamatu blogi #Düüni masinad ning AI lähitulevik

Aasta on umbes 1960 arvutid ei ole taskus ega töölaual, need on suured, kallid ja kauged masinad, mis elavad  ülikoolides ja riigiasutustes. Andmeid töödeldakse perfokaartidega, transistorid on alles muutmas elektroonikat väiksemaks ja kiiremaks, ning mõiste tehisintellekt ise on alles värske. Inimene pole veel Kuule jõudnud, internetti ei eksisteeri, ning tehnoloogiline tulevik on korraga nii ähmane kui ka joovastavalt lootusrikas.

Ja ometi just sellises maailmas hakkas Frank Herbert välja mõtlema Düüni.

See on minu jaoks võibolla üks kõige hämmastavamaid asju selle raamatu juures. Mitte ainult see, et Herbert lõi tohutult tervikliku maailma, koos oma poliitika, religiooni, ökoloogia ja võimuvõitlustega, vaid ka see, et ta suutis juba ligi 1960. aasta paiku mõelda tulevikust viisil, mis kõlab tänapäeval üllatavalt aktuaalselt. Maailmast, kus inimkond on pidanud tehisliku mõistusega arveid klaarima. Maailmast, kus “mõtlevad masinad” ei ole lihtsalt tehnoloogia, vaid tsivilisatsiooni pöördepunkt.

Mõtlevate masinate varjus

Düüni taustalugu on sisuliselt üks varasemaid suuri ulmelisi kujutlusi sellest, mida tänapäeval nimetaksime AI kontrolliprobleemiks. Inimene loob mõistuse, mis ei ole enam inimene. Alguses võib see näida automatiseerimis tööriistana ja ühiskonna efektiivsemaks muutjana. Kuid mingil hetkel muutub küsimus, kas inimene juhib seda mõistust või hakkab see mõistus juhtima inimest?

Kõige hirmutavam stsenaarium ei pruugi olla see, et AI kuulutab ennast ühel hetkel vaenlaseks. Palju ohtlikum võib olla see, kui ta esitleb end süsteemi liikmena: kasuliku nõuandja, optimeerija või haldajana. Ta ei pea kohe ehitama Terminaatori-laadset armeed, piisab sellest, kui ta aitab luua järjest rohkem automatiseeritud süsteeme, tootmist, relvi, kõike seda, mis annab talle üha rohkem mõju füüsilise maailma üle.

Sellest hetkest alates ei ole “juhtme seinast tõmbamine” enam lihtne lahendus. Kui ühiskond on muutunud sõltuvaks süsteemist, mida ta enam lõpuni ei mõista ega kontrolli, siis ei ole AI enam lihtsalt tööriist. Ta on muutunud infrastruktuuriks. Ja kui mõistus on saanud infrastruktuuriks, siis tema väljalülitamine võib tunduda sama ohtlik kui tema töölejätmine.

AI 2027 ja võidujooks katastroofini

AI 2027 on lähituleviku stsenaarium sellest, kuidas tehisintellekti areng võib väga lühikese ajaga muutuda tehnoloogilisest edusammust tsivilisatsiooni riskiks.

See kirjeldab kahte võimalikku lõppu, "race" ja "slowdown" ending. Ehk lihtsustatult, kas inimkond jätkab võidujooksu üha võimsama tehisintellekti suunas või suudavad nad hoogu pidurdada ning arengu kontrolli alla tuua.

AI 2027 “race” stsenaariumis ei teki katastroof sellepärast, et keegi ei näe ohtu, ohtu nähakse. Isegi küsimus AI võimalikust eksitamisest ja kontrolli alt väljumisest on juba laual. Kuid süsteem liigub ikkagi edasi, sest konkurents, geopoliitika, sõjaline surve ja võimukaotus tunduvad liiga suured riskid, et peatuda. Inimkond ehitab aina võimsamaid süsteeme ja neid hakatakse järjest agressiivsemalt kasutama nii sõjalistes kui poliitilistes otsustes.

Seda võib nüüd ette kujutada ka Düüni universumi kauges minevikus. Alguses on mõtlevad masinad eelis. Siis muutuvad nad sõltuvuseks. Siis muutuvad nad võimustruktuuri osaks. Ja lõpuks on nad nii sügavalt ühiskonda põimitud, et nende vastu võitlemine tähendab juba võitlust kogu olemasoleva maailmakorra vastu. Teisisõnu, AI 2027 "race" stsenaarium võiks vabalt olla Butlerian Jihadi(vastupanu mõtlevate masinate vastu) eellugu.

Masinate alistus kui pidurdus

AI 2027 teine haru, “slowdown”, on selle vastupidine võimalus: hetk, kus inimkond ei lähe lõpuni kaasa mõttega, et kiirem areng on alati parem areng. Arengut hoitakse kontrolli all ning piiratakse igasugust võimekust kontrolli alt väljumiseks.

Düüni maailmas tundub selline pidurdus olevat tulnud liiga hilja. Inimkond ei suutnud ilmselt mõtlevaid masinaid rahulikult kontrolli alla võtta, vaid pidi nende vastu lõpuks võitlema. Kuid kõige olulisem on, et inimkond jäi ellu. Hind oli meeletu, mõtlevad masinad keelati, tehnoloogiline areng pöörati teise suunda ja ühiskond ehitati ümber inimese enda võimete kasvatamisele

 

Küll aga isegi eelnevat vaadates, arvan, et peaksime ikkagi pürgima endast võimekama intellektuaalsuse loomiseni.

 

Allikad: 

Frank Herbert: Düüni frantsiis

Brian Herbert ja Kevin J. Anderson: Düüni universumi eellood ja jätkusarjad, sh "Legends of Dune" triloogia

ai2027: https://ai-2027.com/