Ekspertai įspėja dėl nesaugių DI programėlių: jas atsisiuntė milijonai žmonių
Dirbtinis intelektas turi daug naudingų pritaikymo sričių, tačiau kartu atveria ir itin pavojingas galimybes. Viena akivaizdžiausių – vadinamieji AI „deepfake“ klastojimai.
Tai ypač išryškėjo metų pradžioje paaiškėjus, kad „nudify“ tipo programėlės buvo paplitusios abiejose didžiausiose išmaniųjų telefonų programėlių parduotuvėse.
„Tech Transparency Project“ (TTP) ataskaitoje teigiama, kad situacija „Google“ „Play Store“ ir „Apple“ „App Store“ parduotuvėse iš esmės nepasikeitė.
Pasak tyrėjų, jose vis dar galima rasti nemažai prieštaringai vertinamų programėlių, o dalis jų žymimos kaip tinkamos visiems, t. y. priskiriamos kategorijai „E“. Tai reiškia, kad tokias programėles gali atsisiųsti ir naudoti vaikai.
„Nudify“ programėlių veikimo principą paaiškinti nesudėtinga. Iš esmės tai nuotraukų redagavimo įrankiai, kurie, pasitelkdami generatyvinį dirbtinį intelektą, geba koreguoti vaizdus: pašalinti tam tikrus elementus ir „sukurti“ naujas detales.
Pati idėja primena tokias funkcijas kaip „Google Photos“ „Magic Editor“, tačiau esminis skirtumas tas, kad pastarosiose įdiegtos saugumo priemonės, o daugelyje „nudify“ programėlių jų nėra arba jos nepakankamos.
Nesunku nuspėti, kam tokios programėlės naudojamos: generatyvinis AI leidžia skaitmeniniu būdu „nurengti“ žmones nuotraukose ir taip potencialiai sukurti pornografinio pobūdžio vaizdus, net jei originalioje nuotraukoje jokio tokio turinio nebuvo.
Vien šis faktas kelia rimtą grėsmę, tačiau TTP ataskaitoje papildomai teigiama, kad net 31 tokia programėlė nebuvo tinkamai patikrinta, nors vis tiek buvo įvertinta kaip tinkama visiems. Tyrėjų vertinimu, tai sudaro sąlygas tokiam turiniui pasiekti vaikus ir didina įvairių žalos scenarijų tikimybę.
Ataskaitoje pateikiamas išsamus programėlių sąrašas ir aprašoma, ką jos gali daryti, tačiau esmė aiški: žalos potencialas – itin didelis. Dar daugiau nerimo kelia tai, kad ši rinka, panašu, yra pelninga. TTP skaičiavimais, analizuotos programėlės sugeneravo apie 122 mln. JAV dolerių pajamų ir buvo atsisiųstos beveik 500 mln. kartų.
TTP paprašius komentaro, „Google“ nurodė, kad dalis ataskaitoje minimų programėlių jau pašalintos iš parduotuvės. „Apple“, atsisakiusi komentuoti, taip pat pašalino kai kurias programėles.
Šių programėlių keliamos problemos yra akivaizdžios, todėl kai kur jau imamasi veiksmų. Jungtinės Karalystės vyriausybė pradėjo iniciatyvą siekdama uždrausti tokias programėles, atsižvelgdama į žalą, kurią jos, kaip teigiama, jau daro mokyklose ir kitose aplinkose.
Nors galima manyti, kad „Apple“ ir „Google“ pašalina tokias programėles vos apie jas sužinoję, jų paplitimas ir akivaizdi finansinė nauda rodo, kad vien pavieniai pašalinimai problemos neišspręs. Tikėtina, jog reikalingi griežtesni kriterijai, aiškesnė reitingavimo tvarka ir aktyvesnė kontrolė, nes generatyvinio AI įrankiams tampant vis prieinamesniems, panašaus pobūdžio programėlių gali tik daugėti.
