Vašingtono santykių su „Anthropic“ nutrūkimas atskleidė tai, kas jau kurį laiką buvo akivaizdu: Jungtinėse Valstijose vis dar nėra nuoseklių, aiškių taisyklių, reguliuojančių dirbtinį intelektą. Tačiau dvišalė mąstytojų ir ekspertų koalicija parengė tai, ko valdžia iki šiol taip ir nesukūrė – gaires, kaip turėtų atrodyti atsakinga DI plėtra.

„Pro-human“ deklaracija (deklaracija už žmogų) buvo užbaigta dar iki praėjusią savaitę kilusio Pentagono ir „Anthropic“ konflikto, tačiau šių dviejų įvykių sutapimas neliko nepastebėtas nė vienam, prisidėjusiam prie dokumento rengimo.

MIT fizikas ir DI tyrėjas Maxas Tegmarkas, vienas iš iniciatyvos organizatorių, pabrėžė, kad per pastaruosius keturis mėnesius Amerikoje įvyko kai kas išties neįprasto. Pasak jo, apklausos staiga ėmė rodyti, jog net 95% amerikiečių nepritaria nereguliuojamoms lenktynėms į superintelektą.

Naujai paskelbtas dokumentas, kurį pasirašė šimtai ekspertų, buvusių pareigūnų ir visuomenės veikėjų, pradedamas tiesmuku teiginiu: žmonija atsidūrė kryžkelėje. Vienas kelias, deklaracijoje įvardijamas kaip „lenktynės pakeisti“, veda į situaciją, kurioje žmonės pirmiausia išstumiami iš darbo rinkos, o vėliau – ir iš sprendimų priėmimo. Tuo pat metu galia telkiasi neatskaitingų institucijų ir jų valdomų sistemų rankose. Kitas kelias – DI, kuris iš esmės išplečia žmogaus galimybes.

Pastarasis scenarijus, deklaracijos autorių teigimu, remiasi penkiais pagrindiniais ramsčiais: žmonės turi išlikti sprendimų priėmėjais; būtina vengti galios koncentracijos; privalu saugoti žmogiškąją patirtį; užtikrinti individualią laisvę; DI įmonės turi būti teisiškai atskaitingos.

Tarp griežtesnių siūlymų – aiškus superintelekto kūrimo draudimas tol, kol nebus mokslinio sutarimo, kad tai galima daryti saugiai ir turint realų demokratinį pritarimą. Taip pat numatomi privalomi „išjungimo“ mechanizmai galingoms sistemoms bei draudimas architektūroms, kurios galėtų savarankiškai daugintis, autonomiškai tobulėti ar priešintis išjungimui.

Deklaracijos paskelbimas sutapo su laikotarpiu, kai jos aktualumas tapo ypač akivaizdus. Paskutinį vasario penktadienį JAV gynybos sekretorius Pete’as Hegsethas „Anthropic“ – įmonei, kurios DI jau naudojamas įslaptintose karinėse platformose – priskyrė „tiekimo grandinės rizikos“ statusą po to, kai bendrovė atsisakė suteikti Pentagonui neribotą savo technologijos naudojimą.

Toks statusas įprastai taikomas įmonėms, turinčioms ryšių su Kinija. Po kelių valandų „OpenAI“ sudarė atskirą susitarimą su Gynybos departamentu, tačiau teisės ekspertai teigia, kad jį praktiškai gali būti sunku realiai įgyvendinti ir kontroliuoti. Visa ši situacija išryškino, kokia brangiai kainuoja Kongreso neveiklumas DI srityje.

Kaip po įvykių buvo pasakyta viešoje erdvėje, tai nėra vien ginčas dėl sutarties. Tai – pirmasis nacionalinio masto pokalbis apie tai, kas iš tiesų kontroliuoja DI sistemas.

Kalbėdamas apie būtinybę įvesti aiškias taisykles, Tegmarkas pateikė daugeliui suprantamą analogiją: žmonėms nereikia bijoti, kad farmacijos bendrovė išleis vaistą, galintį masiškai pakenkti, dar iki tol, kol bus įrodyta jo sauga, nes tam kelią užkerta reguliuotojai – vaistai nepatenka į rinką, kol nėra pakankamai saugūs.

Vašingtono politinės kovos retai sukuria tokį visuomenės spaudimą, kuris priverstų keisti įstatymus. Vis dėlto Tegmarkas mano, kad vaiko saugumas gali tapti tuo „svertu“, kuris padėtų pralaužti dabartinę aklavietę. Iš tiesų, deklaracijoje siūloma įtvirtinti privalomą DI produktų testavimą prieš juos diegiant – ypač kalbant apie pokalbių robotus ir „kompanionų“ programėles, skirtas jaunesniems naudotojams. Toks testavimas apimtų rizikas, susijusias su padidėjusia suicidinių minčių tikimybe, psichikos sveikatos būklių pablogėjimu ir emocine manipuliacija.

Tegmarkas klausimą suformulavo dar aštriau: jei suaugęs asmuo rašinėtų vienuolikmečiui apsimesdamas bendraamžiu ir bandytų jį pastūmėti į savižudybę, už tai grėstų kalėjimas – tokie veiksmai jau dabar yra neteisėti. Tad kodėl tai turėtų būti vertinama kitaip, jei tą patį padaro mašina?

Jo įsitikinimu, įtvirtinus išankstinio testavimo principą vaikams skirtiems produktams, taikymo ribos beveik neišvengiamai plėsis. Atsiras siūlymų pridėti ir kitus reikalavimus: pavyzdžiui, tikrinti, ar sistema negali padėti teroristams kurti biologinių ginklų, arba įsitikinti, kad superintelektas neturėtų pajėgumų destabilizuoti ar nuversti valstybės valdžios.

Ne mažiau iškalbingas ir deklaracijos pasirašiusiųjų sąrašas: tą patį dokumentą pasirašė ir buvęs Donaldo Trumpo patarėjas Steve’as Bannonas, ir Susan Rice – Baracko Obamos nacionalinio saugumo patarėja, taip pat buvęs Jungtinių štabų vadų pirmininkas Mike’as Mullenas bei progresyvių pažiūrų tikėjimo bendruomenių lyderiai.

Tegmarkas tai apibendrino paprastai: tai, dėl ko jie sutaria, yra tai, kad visi jie – žmonės. Jei galiausiai teks rinktis tarp ateities žmonėms ir ateities mašinoms, natūralu, kad jie atsidurs toje pačioje pusėje.