Praėjusių metų rugpjūtį Pentagono technologijų vadovas Emilis Michaelas, buvęs „Uber“ vadovas ir teisininkas, papildomai perėmė Gynybos departamento dirbtinio intelekto (DI) portfelio priežiūrą.

Mėnesiu anksčiau bendrovei „Anthropic“ buvo skirtas 200 mln. JAV dolerių vertės Gynybos departamento kontraktas, išplėtęs jos darbą su agentūra.

„Pasakiau: noriu tiesiog pamatyti sutartis“, – prisiminė Michaelas penktadienį kalbėdamas tinklalaidėje, apžvelgdamas pirmąsias dienas, kai pradėjo valdyti DI portfelį. „Na, manyje prabudo senasis teisininkas.“

Šis prašymas inicijavo kelis mėnesius trukusį peržiūros procesą, kuris galiausiai baigėsi tuo, kad Gynybos departamentas praėjusią savaitę oficialiai uždraudė „Anthropic“ technologiją. Dėl to kariuomenė neteko savo pasirinktų DI modelių, skirtų naudoti pačiose jautriausiose aplinkose. „Anthropic“ buvo pašalinta, nes reikalavo, kad jos DI nebūtų naudojamas autonominiams ginklams ar vidaus stebėsenai.

Ypač neįprastu žingsniu Gynybos departamentas „Anthropic“ priskyrė tiekimo grandinės rizikos kategorijai – tokią žymą istoriškai įprasta taikyti tik užsienio priešininkams. Dabar gynybos tiekėjai ir rangovai turės patvirtinti, kad dirbdami su Pentagonu nenaudoja šios bendrovės modelių.

Pirmadienį „Anthropic“ padavė Trumpo administraciją į teismą, pareikšdama, kad valdžios veiksmai yra „be precedento ir neteisėti“, o jų padariniai bendrovei daro „nepataisomą žalą“ ir kelia grėsmę šimtų milijonų dolerių vertės sutartims.

Staigus Gynybos departamento sprendimo pasikeitimas daugeliui Vašingtono pareigūnų buvo netikėtas. Jie laikė „Anthropic“ modelius pranašesniais – būtent jie pirmieji buvo įdiegti agentūros įslaptintuose tinkluose – ir pabrėžė bendrovės gebėjimą integruotis su esamais gynybos rangovais, tokiais kaip „Palantir“. Sprendimas atrodė dar mįslingesnis, nes derybų metu Trumpo administracija buvo grasinusi pasitelkti Gynybos gamybos įstatymą, kuris būtų galėjęs priversti „Anthropic“ suteikti kariuomenei prieigą prie savo technologijų.

„Nesuprantu, kaip realybėje gali būti teisingi abu teiginiai vienu metu“, – sakė Markas Daltonas, į atsargą išėjęs JAV karinio jūrų laivyno kontradmirolas, dabar vadovaujantis technologijų ir kibernetinio saugumo politikai viename Vašingtono analitiniame centre. „Kažkas yra taip būtina, kad norima taikyti Gynybos gamybos įstatymą, ir kartu taip žalinga, kad jam klijuojama žyma, skirta užsienio priešininkams.“

Gynybos ekspertai, tarp jų ir Daltonas, teigė, kad toks sprendimas kelia nerimą. Jų manymu, jis ne tik sukuria pavojingą precedentą, bet ir reiškia, kad administracija atsisako svarbaus technologijų tiekėjo, kuris buvo giriamas už dėmesį DI saugai, griežtą retoriką Kinijos atžvilgiu ir verslumą, leidusį tapti vienu sparčiausiai augančių JAV startuolių.

Buvęs Gynybos departamento pareigūnas Bradas Carsonas, dabar DI politikos nevyriausybinės organizacijos vienas iš įkūrėjų ir prezidentas, sakė, kad šis sprendimas ypač problemiškas kariškiams, kurie spėjo priprasti prie „Anthropic“ Claude modelių. Pasak Carsono, su juo kalbėję į atsargą išėję pareigūnai teigė, jog „kariaujantys daliniai tuo nėra patenkinti“.

„Jeigu esi kariuomenėje, džiaugsmo nedaug“, – sakė Carsonas. „Jie Claude vertina kaip geresnį produktą: patikimiausią, su patogiausia išvestimi, kurią galima lengvai įtraukti į planavimą.“

Pasak vieno aukšto rango Gynybos departamento pareigūno, tiekėjams nebus leidžiama „įsiterpti į vadovavimo grandinę, ribojant teisėtą kritiškai svarbių pajėgumų naudojimą“.

„Kariuomenės pareiga – užtikrinti, kad mūsų kariai krizės metu turėtų priemones, reikalingas laimėti, be jokio kišimosi, kurį diktuotų įmonių vidaus politikos“, – teigė pareigūnas.

Žiniasklaida kalbėjosi su 17 DI politikos ekspertų, buvusių „Palantir“ ir „Anthropic“ darbuotojų, technologijų analitikų ir tyrėjų apie „Anthropic“ vaidmenį Gynybos departamente ir galimus tolesnius žingsnius. Dalis jų prašė neminėti pavardžių, nes nebuvo įgalioti viešai kalbėti šia tema.

„Anthropic“ vadovas Dario Amodei San Franciske įsikūrusią bendrovę 2021 m. įkūrė kartu su seserimi Daniela Amodei ir kelių tyrėjų grupe. Jie buvo pasitraukę iš „OpenAI“ dar iki „ChatGPT“ pasirodymo, nes nerimavo dėl įmonės krypties ir požiūrio į saugą. Kelerius metus „Anthropic“ kryptingai formavo reputaciją kaip bendrovės, labiau įsipareigojusios atsakingam DI diegimui.

„Anthropic“ savo DI modelių šeimą, pavadintą Claude, pristatė 2023 m. kovą – praėjus keliems mėnesiams po to, kai „ChatGPT“ išpopuliarėjo. Per trejus metus nuo Claude pristatymo bendrovė pritraukė milijardus dolerių investicijų ir pasiekė įspūdingą įvertinimą.

Šiuo metu bendrovė patiria didžiulį spaudimą pateisinti savo vertę ir yra priversta sparčiai komercializuoti technologiją, kad neatsiliktų nuo „OpenAI“ ir kitų konkurentų.

Partnerystė su AWS ir „Palantir“

Kol „OpenAI“ traukė vartotojų dėmesį, „Anthropic“ gana greitai atrado sėkmę parduodama sprendimus stambioms organizacijoms, įskaitant Gynybos departamentą. Dario Amodei anksti ėmė fokusuotis į šią kryptį, matydamas ir verslo, ir visuomeninę svarbą glaudžiai bendradarbiauti su valdžios institucijomis bei kariuomene, kartu formuojant saugaus DI naudojimo principus.

Bendrovė kryptingai mezgė ryšius Vašingtone, o Amodei buvo tarp nedaugelio DI sektoriaus vadovų, pakviestų į susitikimą su tuometine viceprezidente Kamala Harris 2023 m. gegužę.

Maždaug tuo pačiu metu „Anthropic“ rėmėsi patikimu technologiniu partneriu, galinčiu padėti įsitvirtinti viešajame sektoriuje: „Amazon Web Services“ (AWS). Tais metais Claude tapo pasiekiamas AWS „Bedrock“ paslaugoje, o tai, pasak šaltinių, padėjo įgyti pagreitį vyriausybinių technologijų bendruomenėje. Federalinės agentūros galėjo pradėti eksperimentuoti su „Anthropic“ modeliais, nes jie buvo prieinami vyriausybės patvirtintoje AWS aplinkoje.

„Amazon“ nuo 2023 m. yra vienas didžiausių „Anthropic“ finansinių rėmėjų, į startuolį investavęs reikšmingas sumas.

Įsibėgėjus bandomiesiems projektams, nemažai federalinių darbuotojų pastebėjo, kad Claude rezultatai buvo įtikinamesni nei kitų modelių. Šaltinių teigimu, Claude gebėjimas nuosekliai pagrįsti, kaip jis prieina prie atsakymo ar atlieka užduotį, buvo ypač svarbus agentūroms, kurioms būtinas auditas ir patikra.

Kadangi „Anthropic“ iš anksto orientavosi į verslo klientus, jos sprendimų naudotojo patirtis, kaip teigiama, buvo patogesnė darbo kompiuteriuose. Turėdama stiprų modelį ir intuityvią sąsają, bendrovė pelnė federalinių darbuotojų pasitikėjimą. Tai padėjo pagrindą didelės reikšmės partnerystei su „Palantir“ – programinės įrangos ir paslaugų teikėju, kuris nemažą dalį pajamų gauna iš valstybinių kontraktų.

„Anthropic“ siekį įsitvirtinti valdžios sektoriuje stiprino globalių reikalų vadovas Michaelas Sellitto ir buvęs AWS vadovas Thiyagu Ramasamy, atsakingas už viešojo sektoriaus kryptį. Ramasamy viešai išreiškė susirūpinimą dėl Pentagono veiksmų, pabrėždamas, kad procesai, įgavę pagreitį, staiga sustojo per vieną savaitgalį.

Teismo dokumentuose, susijusiuose su „Anthropic“ ieškiniu, Ramasamy nurodė, kad su federaliniais klientais dirba 15 žmonių komanda, o viešojo sektoriaus pajamos per penkerius metus esą galėjo pasiekti kelis milijardus dolerių kasmetinių pasikartojančių įplaukų. Jo teigimu, valdžios veiksmai kelia egzistencinę grėsmę visiems šiems planams.

2024 m. lapkritį „Anthropic“ ir „Palantir“ kartu su AWS paskelbė apie partnerystę, kuri būtų leidusi JAV žvalgybos ir gynybos agentūroms pasiekti Claude. Pasak buvusio darbuotojo, dalis „Anthropic“ komandos tuo metu dėl sandorio nerimavo – tai sukėlė daug vidinių diskusijų ir įtampų.

„Palantir“ kaip partneris padėjo „Anthropic“ užmegzti tiesioginius ryšius su Gynybos departamentu ir paspartino integraciją į aukščiausio lygmens, įslaptintus projektus. Kaip pažymėjo viena tyrėja, šios partnerystės buvo esminės tam, kad „Anthropic“ taptų pirmąja modelių kūrėja, oficialiai įdiegusia sprendimus įslaptintuose tinkluose.

Skelbdama apie 200 mln. dolerių vertės gynybos kontraktą, „Anthropic“ teigė, kad kartu su partneriais pagreitino poveikį JAV gynybos darbo procesams, o jos technologija padėjo organizacijoms greitai apdoroti ir analizuoti didelius sudėtingų duomenų kiekius. Vėliau bendrovė pradėjo bendradarbiavimą, kuris turėjo atverti kelią Claude modeliams ir kitose agentūrose už simbolinę kainą.

Skyrybos

Tačiau tuo metu „Anthropic“ santykiai su valdžia jau ėmė vėsti. Prezidentas Trumpas buvo prisiekęs pareigas sausį, o Amodei, kaip teigiama, nebuvo jo šalininkas. Pramonės lyderiai viešai bendravo su prezidentu, tačiau Amodei tarp jų nebuvo ir nedalyvavo inauguracijoje.

Žiniasklaidos pranešimų duomenimis, Amodei darbuotojams aiškino, kad administracija „Anthropic“ vertina nepalankiai, nes bendrovė neaukojo ar viešai nereiškė perdėto palankumo prezidentui. Vėliau jis atsiprašė dėl tokios retorikos, pripažindamas, kad žodžiai buvo pasakyti po „sunkios dienos bendrovei“ ir neatspindi apgalvotos pozicijos.

Amodei taip pat susilaukė kritikos iš Baltųjų rūmų DI ir kriptovaliutų politikos koordinatoriaus Davido Sackso, kuris kaltino „Anthropic“ palaikant vadinamąjį „woke“ DI, daugiausia dėl bendrovės pozicijų reguliavimo klausimais.

Vieno analitiko teigimu, ši situacija panašėja į ginčą, kuriame svarbūs politiniai motyvai ir asmenybės, o tai bandoma pateikti kaip politikos nesutarimą. Tuo tarpu Gynybos departamento atstovas tvirtino, kad sprendimas nesusijęs nei su asmeninėmis simpatijomis, nei su politika – esą esmė ta, kad kariuomenė turi galėti naudoti technologiją visais teisėtais tikslais.

Iki tol, kol „Anthropic“ atsidūrė juodajame sąraše, jos įrankiai jau buvo plačiai naudojami įvairiose vyriausybinėse institucijose. Perėjimas prie kitų sprendimų jau prasidėjo: kai kurios agentūros patvirtino, kad atsisako Claude.

Tačiau Gynybos departamente toks perėjimas yra gerokai sudėtingesnis. Viena priežasčių – tai, kad JAV tuo metu vykdė karinę operaciją Irane. Kaip anksčiau skelbta, „Anthropic“ modeliai buvo naudojami šiai operacijai remti net ir po įtraukimo į juodąjį sąrašą.

Amodei pabrėžė, kad „svarbiausias prioritetas“ – užtikrinti, jog amerikiečių kariai ir nacionalinio saugumo ekspertai nebūtų palikti be priemonių „didelio masto kovinių operacijų“ metu. Bendrovė įsipareigojo laikinai teikti modelius už simbolinę kainą ir išlaikyti inžinierių paramą tiek, kiek reikės pereinamajam laikotarpiui, ir tiek, kiek bus leista tai daryti.

Ekspertų vertinimu, pasitraukimas nuo „Anthropic“ ir perėjimas prie naujo tiekėjo pareikalaus laiko ir kainuos efektyvumą. „Jūs taip paprastai neatsisakysite technologijų, kurios yra giliai įaugusios į karo meto procesus, ypač prieš pat įsitraukiant į konfliktą“, – teigė viena tyrėja.