Dirbtinio intelekto pagrindu veikiantys socialinių tinklų moderavimo algoritmai vis dažniau sukelia rimtų padarinių verslui. Australijoje gyvenanti „Pilates World Australia“ įkūrėja Roshėlė Marinato tapo ryškiu tokio atvejo pavyzdžiu – nekaltas vaizdo įrašas su šunimis jai atsiėjo ne tik daugybę nervų, bet ir dešimtis tūkstančių eurų prarastų pajamų.
Verslininkė neteko apie 25 tūkst. svarų sterlingų – maždaug 1,47 mln. eurų – kai po „Instagram“ paskyrų blokavimo prarado galimybę naudotis pagrindiniais savo verslo komunikacijos ir pardavimų kanalais.
Praėjusių metų birželį Roshėlė į savo asmeninę „Instagram“ paskyrą įkėlė trumpą vaizdo įrašą, kuriame matyti tik trys jos šunys, žiūrintys pro langą. Jokių žmonių, jokio dviprasmiško ar jautraus turinio – tik augintiniai.
Netrukus ji gavo pranešimą iš „Meta“, kad šis turinys esą pažeidžia platformos taisykles dėl „vaikų seksualinės prievartos, smurto ir nuogybių“. Po šio sprendimo buvo užblokuota ne tik asmeninė, bet ir jos verslo paskyra, nors Roshėlė nuolat kartojo, kad vaizdo įraše „nebuvo nė vieno žmogaus“.
Bejėgiškumas prieš automatizuotas sistemas
Keturių vaikų mama pasakoja net 22 kartus bandžiusi apskųsti šį sprendimą. Ji kreipėsi į „Meta“, kuriai priklauso „Instagram“, „Facebook“ ir „WhatsApp“, tačiau visais atvejais sulaukdavo tik automatinių dirbtinio intelekto sugeneruotų atsakymų. Sistemos nuosekliai atmesdavo visas jos apeliacijas.
„Gavau laišką iš „Meta“, kad mano paskyra sustabdyta“, – pasakoja Roshėlė. Dėl prarastos galimybės komunikuoti su klientais ir reklamuoti paslaugas jos verslas, anot jos, neteko apie 25 tūkst. svarų sterlingų pajamų.
Pasamdyti teisininkai siuntė oficialius paklausimus „Meta“ biurams Kalifornijoje ir Sidnėjuje, tačiau ir tai nedavė jokio rezultato – paskyros liko užblokuotos.
Paskyras išgelbėjo trečioji šalis
Galiausiai, praradusi viltį sulaukti pagalbos iš pačios „Meta“, Roshėlė kreipėsi į trečiosios šalies įmonę, siūlančią socialinių tinklų paskyrų atstatymo paslaugas, ir sumokėjo už bandymą atgauti prieigą.
„Sumokėjome jiems ir maniau, kad tai tikriausiai bus apgaulė, bet tuo metu buvau tokioje nevilties būsenoje, verslas patyrė tokį didelį smūgį, kad buvau pasirengusi rizikuoti. Ir tai suveikė – atgavome savo paskyras“, – pasakojo australė.
Vis dėlto didžiausias smūgis jai buvo ne tik finansinis. Roshėlė pripažįsta, kad ją ypač slegia pats faktas, jog su jos vardu ir įmonės prekės ženklu galėjo būti siejamos tokio pobūdžio, ypač jautrios ir sunkios kaltinimų formuluotės.
Ji įsitikinusi, kad dirbtinio intelekto klaida pakenkė ir jos finansinei padėčiai, ir reputacijai.
„Labai sunku suvokti, kad kažkas panašaus gali būti siejama su mano verslo pavadinimu ir skaitmenine reputacija. Tai iš tiesų baisu – ir viskas tik dėl dirbtinio intelekto klaidos. Neįmanoma nuspėti, ką „Meta“ laikys pažeidimu, o ko – ne, nes tas vaizdo įrašas buvo tiesiog su trimis šunimis“, – sako ji.
„Meta“ pozicija ir griežtėjanti kontrolė
„Meta“ teigimu, bendrovė nuolat tobulina taisyklių taikymą ir siekia užtikrinti bendruomenės saugumą. Anot jos, nėra matyti įrodymų, kad žymiai daugėtų atvejų, kai sankcijos vartotojams pritaikomos klaidingai.
Tuo pat metu „Instagram“ pastaruoju metu įdiegė griežtesnius turinio ribojimus vartotojams iki 18 metų, remiantis PG-13 standartu. Dirbtinio intelekto sistemos automatiškai slepia turinį su necenzūrine leksika, seksualinėmis užuominomis, narkotikais ar pavojingais triukais. Paaugliai negali savarankiškai pakeisti šių nustatymų be tėvų leidimo ir negali sekti paskyrų, kuriančių „18+“ turinį, pavyzdžiui, suaugusiesiems skirtų platformų reklamuotojų.
Tokie ribojimai įvesti „Meta“ reaguojant į JAV iškeltus ieškinius ir augantį spaudimą geriau saugoti nepilnamečių psichinę sveikatą. Tačiau Roshėlės istorija atskleidžia ir kitą pusę – kaip pernelyg agresyvus, nepakankamai tikslus automatizuotas moderavimas gali sugriauti sąžiningai dirbančių žmonių verslus ir pakenkti jų reputacijai.
