Dirbtinio intelekto bendrovė „OpenAI“ paskelbė pasiekusi susitarimą su JAV Gynybos departamentu dėl savo modelių diegimo Pentagono uždaroje, įslaptintoje sistemoje.
Apie tai penktadienio vakarą socialiniame tinkle „X“ pranešė įmonės vadovas Samas Altmanas, pabrėždamas, kad bendradarbiavimas bus grindžiamas griežtais etiniais saugikliais.
„Šį vakarą pasiekėme susitarimą su Karo departamentu dėl mūsų modelių diegimo jų įslaptintame tinkle“, – rašė S. Altmanas. Jo teigimu, Gynybos departamentas demonstravo „gilų pagarbą saugumui“ ir siekį bendradarbiauti taip, kad būtų pasiektas geriausias įmanomas rezultatas.
Griežti etiniai apribojimai
S. Altmanas akcentavo, kad du esminiai „OpenAI“ saugumo principai yra draudimas naudoti technologiją vidaus masinei stebėsenai bei reikalavimas, kad sprendimuose dėl jėgos panaudojimo visada išliktų žmogaus atsakomybė – įskaitant autonomines ginklų sistemas.
Pasak jo, Pentagonas sutiko su šiomis nuostatomis, jos jau yra atspindėtos JAV teisėje ir politikoje, o taip pat įtrauktos į pasirašytą susitarimą. „Mes prašome, kad Gynybos departamentas tas pačias sąlygas taikytų visoms dirbtinio intelekto bendrovėms“, – pridūrė „OpenAI“ vadovas.
Taip pat skaitykite:
Tai reikštų, kad net ir kariniame kontekste „OpenAI“ technologija negalėtų būti naudojama, pavyzdžiui, visuotiniam gyventojų sekimui ar visiškai autonominiams sprendimams dėl mirtinos jėgos panaudojimo be žmogaus kontrolės.
Politinis fonas: konfliktas su „Anthropic“
Šis pranešimas pasirodė praėjus vos kelioms valandoms po to, kai JAV prezidentas Donaldas Trumpas ir gynybos sekretorius Pete’as Hegsethas viešai sukritikavo kitą dirbtinio intelekto bendrovę – „Anthropic“.
Pastaroji taip pat reikalavo panašių apribojimų savo technologijų naudojimui Pentagone. Tačiau D. Trumpas „Anthropic“ pavadino „radikalia, kairiąja, ‘woke’ kompanija“ ir nurodė visoms federalinėms agentūroms nutraukti jos programinės įrangos naudojimą. Tuo metu P. Hegsethas pareiškė, kad kariniams rangovams teks atsisakyti bet kokių projektų su šia bendrove.
Šiame kontekste „OpenAI“ susitarimas su Pentagonu atrodo paradoksalus – jis numato iš esmės tuos pačius etinius saugiklius, dėl kurių „Anthropic“ neteko federalinių kontraktų.
Pentagono pozicija – neaiški
JAV Gynybos departamentas kol kas oficialiai nepatvirtino pasiekto susitarimo detalių ir nepateikė paaiškinimo, kodėl „OpenAI“ taikomi apribojimai buvo priimti, o analogiški „Anthropic“ reikalavimai – atmesti.
Taip pat skaitykite:
Neaišku ir tai, kokios apimties bus bendradarbiavimas: ar kalbama tik apie duomenų analizę, logistines sistemas, kibernetinį saugumą, ar ir apie platesnį dirbtinio intelekto integravimą į karines operacijas.
Naujas etapas DI ir gynybos srityje
Susitarimas žymi svarbų etapą dirbtinio intelekto ir gynybos sektoriaus santykiuose. Iki šiol technologijų bendrovės dažnai balansavo tarp komercinių interesų, etinių principų ir visuomenės spaudimo neįsitraukti į karinius projektus.
Jeigu „OpenAI“ modeliai iš tiesų bus diegiami Pentagono įslaptintuose tinkluose, tai gali tapti precedentu, kaip dirbtinis intelektas integruojamas į nacionalinio saugumo infrastruktūrą – kartu iškeliant klausimą, ar ir kaip bus užtikrinta reali žmogaus kontrolė bei skaidrumas.
Artimiausiu metu tikėtina, kad diskusijos dėl DI vaidmens karinėse struktūrose dar labiau suintensyvės, ypač atsižvelgiant į politinį susipriešinimą ir skirtingą požiūrį į etinius saugiklius.
