Mākslīgais intelekts ir viltus dievs

Slavenajā Artura Klārka īsajā stāstā “Deviņi miljardi Dieva vārdu” kāda Tibetas mūku sekta tic, ka cilvēces eksistencei ir dievišķu spēku nosprausts mērķis: pierakstīt visus neskaitāmos Dieva vārdus. Kad šis saraksts būs pabeigts, viņi domā, Dievs pieliks pasaules pastāvēšanai punktu. Gadsimtiem rakstījuši Dieva vārdus ar roku, mūki pēdīgi nolemj izmantot mūsdienu tehnoloģijas. Himalajos ierodas divi skeptiski noskaņoti inženieri, kas atved superjaudīgu datoru. Ar tā palīdzību vairs nav vajadzīgi 15 tūkstoši gadu, lai uzskaitītu visas iespējamās Dieva vārda variācijas; šis darbs tiek paveikts trīs mēnešos. Inženieri sēžas poniju mugurās un sāk ceļu lejup no kalna. Klārka stāsts beidzas ar vienu no skopākajiem beigu teikumiem literatūras vēsturē: “Virs galvas klusi un mierīgi dzisa zvaigznes.”

Šī aina tēlo datoru kā īsāko ceļu uz objektivitāti vai augstāko jēgu, un tieši šāds skatījums vismaz daļēji atbildīgs par šībrīža vispārējo aizraušanos ar mākslīgo intelektu. Lai gan tehnoloģijas, kas liktas pamatā MI, pastāvējušas jau kādu laiku, tikai kopš 2022. gada beigām līdz ar OpenAI produkta ChatGPT ieviešanu radies iespaids, ka jau pavisam drīz izdosies piekļūt mākslīgam saprātam. Microsoft Canada 2023. gada atskaitē prezidents Kriss Barijs pasludina, ka “pienākusi MI ēra, atnesot transformatīvu vilni, kam piemīt potenciāls iespaidot jebkuru mūsu dzīves šķautni” un ka “tas nav tikai tehnoloģisks progress; tās ir sociālas pārmaiņas, kas mūs virza uz nākotni, kurā centrālo vietu ieņems inovācija”. Tā bijusi viena no nosvērtākajām reakcijām. Mākslinieki un rakstnieki ir panikā, ka kļūs nevajadzīgi, valdības pa galvu pa kaklu steidzas neatpalikt no šī procesa un to regulēt, bet zinātnieki nododas kaismīgām debatēm.

Kompānijas ar lielu entuziasmu izmanto iespēju pavizināties šai ažiotāžas vilcienā. Dažas no pasaulē lielākajām korporācijām, tai skaitā Microsoft, Meta un Alphabet, uz MI kārts liek pamatīgas summas. Klāt pie lielo tehnoloģiju kompāniju tērētajiem miljardiem MI jaunuzņēmumu finansējums 2023. gadā sasniedza gandrīz 50 miljardus ASV dolāru. Aprīlī kādā pasākumā Stanforda Universitātē OpenAI ģenerāldirektors Sams Oltmans izteicās, ka neuztraucas par to, ka viņa kompānija MI projektiem tērē 50 miljardus dolāru gadā. Viņš cer radīt arī sava veida superasistentu, kas būtu kā “superkompetents kolēģis, kurš zina absolūti visu par manu dzīvi, katru e-vēstuli, katru sarunu, kāda man bijusi, taču nerada iespaidu, ka ir mans pagarinājums”.

Tomēr līdztekus pastāv arī dziļa pārliecība, ka MI ir drauds. Viens no pazīstamākajiem kritiķiem, kas apgalvo, ka MI nozīmē eksistenciālu risku, ir filozofs Niks Būstrems. Kā viņš skaidro 2014. gadā izdotajā grāmatā “Superintelekts: ceļi, briesmas, stratēģijas”: “Ja mēs būvēsim mašīnsmadzenes, kas vispārīgā intelekta ziņā pārspēj cilvēka smadzenes, mūsu sugas liktenis kļūs atkarīgs no mašīnas superintelekta rīcības.”

Klasiskais piemērs par šo tēmu ir stāsts par MI sistēmu, kuras vienīgais un šķietami nekaitīgais mērķis ir ražot papīra saspraudes. Būstrems uzskata, ka sistēma ātri vien secinātu, ka cilvēki ir šķērslis ceļā uz šī mērķa sasniegšanu, jo viņi varētu kādā brīdī to izslēgt. Tāpat viņi var arī izlietot resursus, kas vajadzīgi lielāka papīra saspraužu daudzuma ražošanai. Tas ir piemērs tam, ko MI katastrofas prognozētāji sauc par “kontroles problēmu”, – bailēm, ka mēs zaudēsim kontroli pār MI, jo jebkādus drošības protokolus, ko būsim tajā iestrādājuši, likvidēs intelekts, kurš būs miljons soļus mums priekšā.

Pirms mēs patiešām vēl tālāk piekāpjamies saviem tehnoloģiskajiem pavēlniekiem, ir vērts atskatīties uz 90. gadu vidu un globālā tīmekļa ierašanos. Arī to pavadīja dažādas prognozes par kādu jaunu utopiju, par viscaur savienotu pasauli, kurā pienāktu gals robežām, atšķirībām un trūkumam. Šodien būtu visai apšaubāmi paziņot, ka internets ir absolūti neproblemātisks labums. Fantāzijas tiešām piepildījās: mēs varam nēsāt kabatā visas pasaules zināšanas. Taču tas radījis samērā dīvainu efektu – padarījis cilvēkus mazliet trakus, vairojis neapmierinātību un polarizāciju, veicinājis jaunus ultralabējo spēku aktivitātes uzplūdus un destabilizējis demokrātiju un patiesību. Nebūtu pareizi teikt, ka vienkārši jāpretojas tehnoloģijai, tā tomēr iedarbojas arī pretēji, vairojot brīvību. Drīzāk būtu jāsaka, ka reizēs, kad lielā tehnoloģija ierodas pie mums ar dāvanu, vajadzētu vispirms piesardzīgi paskatīties, kas tajā iekšā.

Tas, ko mēs saucam par MI, patlaban pārsvarā koncentrējas uz LLM, lielajiem valodas modeļiem. Šiem modeļiem tiek iebarotas milzīgas datu kopas – ChatGPT būtībā kā putekļu sūcējs iesūcis visu publisko internetu –, un tos apmāca saskatīt šajos datos zināmas sakarības. Nozīmes vienības, tādas kā vārdi, vārdu daļas un burti, kļūst par zīmēm un saņem noteiktas skaitliskas vērtības. Modeļi iegaumē, kādas attiecības katra zīme veido ar citām zīmēm, un ar laiku apgūst kaut ko līdzīgu kontekstam: kur kāds vārds var parādīties, kādā secībā un tā tālāk.

Pats par sevi tas neizklausās īpaši iespaidīgi. Taču nesen es liku ChatGPT sarakstīt stāstu par mākoni, kas spēj just un ir noskumis par to, ka uzspīdējusi saule; rezultāts bija pārsteidzoši cilvēcisks. Čatbots bija ne tikai iekļāvis dažādus bērnu fabulai raksturīgus elementus, bet arī izstrādājis sižeta līniju, kuras atrisinājumā mākonītis, vārdā Nimbs, atrada sev vienu debesu stūrīti un samierinājās ar to, ka apkārt ir saulaina diena. Varbūt to nevarētu nosaukt par sevišķi labu stāstu, taču tas noteikti izklaidētu manu piecgadīgo māsasdēlu.

Robina Zebrovska, Viskonsinas pavalsts Beloitas koledžas kognitīvās zinātnes profesore un katedras vadītāja, manis sajusto cilvēciskumu paskaidroja šādi: “Vienīgās patiesi lingvistiskās lietas, ar ko mēs jebkad esam sastapušies, ir tās, kurām ir prāts. Tāpēc, kad sastopamies ar kaut ko, kas ar valodu šķietami rīkojas kā mēs, nostrādā visa mūsu iepriekšējā pieredze un mēs sakām: “Tas neapšaubāmi ir kaut kas domājošs!””

Tāpēc gadu desmitiem standarta tests, ar ko pārbaudīja, vai tehnoloģija tuvojas saprātam, bija Tjūringa tests, kas nosaukts tā radītāja, britu matemātiķa un Otrā pasaules kara kodu atšifrētāja Alana Tjūringa, vārdā. Testā piedalās cilvēks, kurš ar teksta ziņojumu starpniecību izvaicā divus neredzamus subjektus – datoru un cilvēku –, lai noteiktu, kurš no tiem ir mašīna. Jautātāja un respondenta lomu uz maiņām pilda vairāki cilvēki, un, ja mašīnai izdevies piemānīt pietiekami lielu izvaicātāju daļu, tad tiek atzīts, ka tā izrāda saprāta izpausmes. ChatGPT jau tagad spēj piemānīt vismaz atsevišķus cilvēkus atsevišķās situācijās.

Šādi testi rāda, cik cieši mūsu priekšstati par intelektu saistīti ar valodu. Mēs tiecamies domāt, ka būtnes, kas spēj “rīkoties ar valodu”, ir domājošas: mēs brīnāmies par suņiem, kuri, šķiet, saprot sarežģītas komandas, vai gorillām, kas prot sazināties zīmju valodā, – tieši tāpēc, ka tas ir tuvāk tam mehānismam, ar kuru mēs paši padarām pasauli jēgpilnu.

Taču droši vien spēja lietot valodu bez spējas vienlaikus arī domāt, just, vēlēties vai vispār būt ir iemesls, kāpēc MI čatbotu sarakstītie teksti ir tik nedzīvi un aptuveni. Pateicoties tam, ka LLM būtībā darbojas, aplūkojot milzīgus datu sakarību kopumus un analizējot, kā tie savā starpā saistīti, tie bieži izspļauj apgalvojumus, kas gan izklausās pilnīgi jēdzīgi, taču patiesībā ir kļūdaini, absurdi vai vienkārši dīvaini. Šāda valodas reducēšana līdz datu kopumam ir arī iemesls, kāpēc, piemēram, kad es palūdzu ChatGPT uzrakstīt manu biogrāfiju, tas pavēstīja, ka es esot dzimis Indijā, studējis Karltonas Universitātē un saņēmis grādu žurnālistikā, – un kļūdījās visos trīs punktos (pareizi: Lielbritānijā, Jorkas Universitātē un angļu filoloģijā). ChatGPT izpratnē atbildes forma, pārliecinošs formulējums ir svarīgāks nekā saturs: pareizām sakarībām ir lielāka nozīme nekā pareizai atbildei.

Tomēr LLM ideja – krātuve, kas glabā nozīmes, kuras pēc tam tiek savā starpā dažādi kombinētas, – saskan ar dažiem 20. gadsimta filozofijas apgalvojumiem par to, kā cilvēki domā, izjūt pasauli un rada mākslu. Franču filozofs Žaks Deridā, tālāk attīstot lingvista Ferdināna de Sosīra darbu, izteica domu, ka nozīme ir diferenciāla: katra vārda nozīme atkarīga no citu vārdu nozīmēm. Iztēlojieties vārdnīcu: vārdu nozīmes var izskaidrot vienīgi ar citiem vārdiem. Trūkstošais vienmēr ir kāda “objektīva” nozīme, kas pastāvētu ārpus šīs nebeidzamās signifikācijas ķēdes un beidzot liktu tai apstāties. Bet mēs esam uz mūžiem iestrēguši un turpinām riņķot pa šo diferences cilpu. Daži domātāji, tādi kā krievu literatūrzinātnieks Vladimirs Props, sprieda, ka folkloras naratīvus var sadalīt tos veidojošos strukturālos elementos, kā tas izklāstīts Propa novatoriskajā darbā “Pasakas morfoloģija”. Protams, tas neattiecas uz visiem naratīviem, taču kļūst saprotams, kā varētu kombinēt sižeta sastāvdaļas – sākotnējā darbība, krīze, atrisinājums un tā tālāk –, lai pēc tam radītu stāstu par domājošu un jūtošu mākoni.

Uzskats, ka datori spēj domāt, strauji sāk šķist arvien dzīvotspējīgāks. Rafaels Miljērs ir Sidnejas Makvorija Universitātes asistējošais profesors un visu savu līdzšinējo karjeru veltījis apziņai un vēlāk arī mākslīgajam intelektam. Viņš aprakstījis savu līdzdalību lielā sadarbības projektā, ko sauc par BIG-bench testu. Tajā MI modeļiem tīšuprāt izvirza uzdevumus, kas sniedzas tālāk par to “normālajām” spējām, lai redzētu, cik ātri tie “mācās”. Līdz šim MI līmenis pārbaudīts, piemēram, liekot prognozēt nākamo gājienu šaha spēlē, spēlēt lomu inscenētā tiesas prāvā un arī kombinēt dažādus jēdzienus.

Šodien MI spēj paņemt agrāk nekādi nesaistītas, pat nejauši izvēlētas lietas, teiksim, Toronto pilsētas siluetu un impresionistu glezniecības stilu, un apvienot tās, radot kaut ko līdz tam neeksistējušu. Taču tas vedina izdarīt secinājumu, kas liek justies mazliet neomulīgi vai nemierīgi. Vai tas kaut kādā ziņā nav veids, kā domājam mēs paši? Miljērs saka, ka, teiksim, mēs zinām, kas ir mājdzīvnieks (radība, ko mēs turam savās mājās), un mēs zinām arī, kas ir zivs (dzīva būtne, kas peld lielās ūdenstilpēs); tālāk mēs šīs divas lietas apvienojam, paturot dažas pazīmes un atmetot citas, un iegūstam jaunu konceptu: mājas zivs. Jaunākie MI modeļi apveltīti ar šādu spēju – apvienojot veidot šķietami jaunu jēdzienu –, un tieši tāpēc tos sauc par ģeneratīviem modeļiem.

Šādā veidā var interpretēt pat samērā sarežģītus argumentus. Teodicejas problēma gadsimtiem bijusi neizsmeļama teoloģisko diskusiju tēma. Jautājums, ko tā izvirza, ir šāds: ja absolūti labais Dievs ir viszinošs, visvarens un visuresošs, kā tas iespējams, ka pasaulē ir ļaunums, kaut arī Dievs zina, ka tas būs, un spēj to apturēt? Tā ir radikāli pārāk vienkāršota pieeja šai teoloģiskajai problēmai, taču arī teodiceja savā ziņā ir loģikas uzdevums, ideju kopa, ko noteiktā veidā var pārkombinēt. Ar to es negribu sacīt, ka MI var atrisināt mūsu fundamentālos epistemoloģiskos vai filozofiskos jautājumus, tomēr tas liek domāt, ka robeža, ko varam novilkt starp domājošām būtnēm un paraugu atpazīšanas mašīnām, nebūt nav tik skaidra un spilgta, kā mēs varbūt cerējām.

Sajūtu, ka MI čatbotu pamatā ir kāda domājoša būtne, veicina arī tagad vispārpieņemtais viedoklis, ka mēs precīzi nezinām, kā MI sistēmas darbojas. Tā saucamo melnās kastes problēmu bieži pasniedz kā misticismu: roboti mūs tik tālu apsteiguši vai arī ir mums tik sveši, ka dara kaut ko mums nesaprotamu. Tā gan ir taisnība, taču ne gluži tādā izpratnē, kā varētu domāt. Ņujorkas Universitātes profesors Leifs Veterbijs saka, ka modeļi apstrādā tik daudzas datu permutācijas, ka vienam cilvēkam to nav iespējams aptvert. MI misticisms nav kaut kāds nesaskatāms vai neizdibināms prāts, kas paliek mums slēpts, tas saistīts ar mērogiem un jaudu.

Tomēr arī tad, ja saskatām atšķirību, apzinoties, ka MI spēj lietot valodu vienīgi ar skaitļošanas jaudas palīdzību, paliek neatbildēts interesants jautājums: ko vispār nozīmē domāt? Jorkas Universitātes profesore Kristīne Andrūsa, kas pēta dzīvnieku domāšanu, norāda, ka ir daudz tādu kognitīvu uzdevumu – atcerēties, kā iegūt ēdienu, atpazīt objektus vai citas būtnes –, ar ko dzīvnieki tiek galā arī tad, ja sevi neapzinās. Tādā izpratnē MI gluži labi varētu piedēvēt saprātu, jo tas spēj nodarboties ar to, ko mēs parasti saucam par kognīciju. Taču, kā atzīmē Andrūsa, nekas neliecina, ka MI piemistu identitāte, griba vai vēlmes.