Istorikas ir rašytojas Yuval Noah Harari įspėja, kad nekontroliuojamas dirbtinio intelekto (DI) lenktyniavimas gali per dešimtmetį iš esmės pakeisti pasaulio tvarką. Jo teigimu, kalbos apie „neišvengiamą“ DI dominavimą atleidžia atsakingus žmones nuo pareigos priimti sprendimus dabar.
Harari pabrėžia, kad 2026 metais žmonija vis dar kontroliuoja situaciją ir gali pasirinkti kitą kelią. Būtent politinės valios ir reguliavimo stoka, o ne technologijos pačios savaime, gali atverti kelią pavojingiausiems scenarijams.
Finansų sistema be žmonių supratimo
Pasak Harari, finansų istorija – tai vis sudėtingesnių priemonių paieška, kaip kurti pasitikėjimą tarp nepažįstamų žmonių. Nuo aukso ir popierinių pinigų iki obligacijų ir išvestinių priemonių viskas rėmėsi žmonių gebėjimu suprasti ir prižiūrėti sistemą.
Tačiau DI šį paveikslą keičia iš esmės. Jis lengvai apdoroja milžiniškus duomenų kiekius ir gali kurti naujas, dar sudėtingesnes finansines priemones, kurios bus neprieinamos žmogaus protui. Harari nuomone, po dešimties metų gali susiklostyti situacija, kai įvykus krizei vyriausybių patarėjai sakys, kad nesupranta, kas vyksta – tik tiek, kad DI siūlo imtis vienokių ar kitokių veiksmų.
Tokiu atveju pasitikėjimas būtų priverstinai perkeliamas į „juodąją dėžę“, kurios logika žmonėms nebeskaidri. Esminis klausimas – ar visuomenė sutiks pasitikėti sistema, kurios niekas nebegali paaiškinti paprastais žodžiais.
Pasitikėjimo migracija ir DI santykiai
Harari atkreipia dėmesį, kad šis procesas jau vyksta. Dalis žmonių nebetiki tradiciniais bankais ar žurnalistais, tačiau pasitiki kriptovaliutėmis ir socialinių tinklų algoritmais. Pasitikėjimas neišnyko – jis persikėlė iš žmonių į sistemas.
Ypač pavojinga, kad DI pradeda kurti su vartotojais asmeninius santykius. Jau dabar daug jaunų žmonių turi „santykius“ su pokalbių modeliais, laiko juos draugais, net partneriais ir linkę juos laikyti sąmoningomis būtybėmis.
„Pirmą kartą istorijoje tampa įmanoma masiškai gaminti intymumą“, – pabrėžia Harari. Skirtingai nei XX amžiaus diktatoriai, kurie galėjo daryti įtaką per radiją ar televiziją, bet negalėjo sukurti tikro asmeninio ryšio su kiekvienu piliečiu, DI tai gali. Milijonai sistemų paraleliai mezga santykius su žmonėmis po vieną, tapsdamos „geriausiais draugais“ ir veikdamos jų politinius bei vartojimo pasirinkimus.
Politiniai sprendimai, kurių negalima atidėti
Harari nuomone, artimiausi rinkimai daugelyje valstybių bus kritinis momentas. Jis ragina rinkėjus klausti kandidatų ne tik apie mokesčius ar migraciją, bet pirmiausia apie jų požiūrį į DI reguliavimą.
Tarp neatidėliotinų priemonių jis mini draudimą suteikti DI teisinį asmens statusą ir draudimą DI sistemoms apsimesti žmonėmis ar teigti, kad jos yra sąmoningos. Taip pat jis kelia klausimą dėl DI „partnerių“ vaikams ir paaugliams – kas ir kaip turėtų riboti tokius produktus.
Pasak Harari, jei aiškios taisyklės nebus nustatytos iki 2028 ar vėliausiai 2036 metų, žmonija gali prarasti galimybę demokratiškai kontroliuoti DI raidą. Todėl šiandien svarbiausia diskusija – ne apie tai, ką DI padarys „neišvengiamai“, o apie tai, ką žmonės nuspręs leisti ar uždrausti dabar.
