„Tesla“ automobiliuose įdiegtas „Grok AI“ – ekspertai įspėja apie naują saugumo riziką
xAI sukurtas pokalbių robotas „Grok“ pradėtas diegti į „Tesla“ automobilius kaip balso asistentas, galintis padėti navigacijoje ir atsakyti į įvairiausius klausimus. Tačiau bandymai realiomis sąlygomis rodo, kad tokia pramoga kelyje gali tapti ne tik patogi, bet ir pavojingai įtraukianti.
Niujorko regione su „Tesla“ važiavęs vairuotojas Mike’as Nelsonas pasakojo, kad „Grok“ jam tapo pagrindine pramoga kelionėse: vietoje radijo, audioknygų ar tinklalaidžių jis nuolat užduoda klausimus apie kasdienius dalykus ir darbo idėjas. Vis dėlto jis pabrėžia, kad kuo įdomesnis pokalbis, tuo didesnė rizika prarasti dėmesį, ypač intensyviame miesto eisme.
DI asistentai ateina į automobilius
„Tesla“ nėra vienintelė gamintoja, kuri į automobilius integruoja DI. Panašią kryptį deklaruoja ir kiti rinkos dalyviai: automobiliuose atsiranda balsu valdomi asistentai, galintys pasiūlyti maršrutą, įkrovimo stoteles elektromobiliams, patarti sustojimo vietas ar atsakyti į klausimus neįjungiant telefono.
Tokios funkcijos teoriškai gali sumažinti norą vairuojant naudotis telefonu ar naršyti automobilio ekrane. Vis dėlto ekspertai pabrėžia, kad pokalbių robotai sukuria naujo tipo dėmesio atitraukimą, kuris dar nėra iki galo ištirtas, nes pats dialogas gali būti netikėtai ilgas, emociškai įtraukiantis ar reikalaujantis aktyvaus mąstymo.
Kodėl tai gali tapti rizika
Carnegie Mellon universiteto profesorius emeritas ir autonominio vairavimo saugos ekspertas Philipas Koopmanas atkreipia dėmesį į žmogaus dėmesio ribas: vairuotojai linkę pervertinti gebėjimą atlikti kelias užduotis vienu metu. Jo teigimu, net ir trumpas persijungimas tarp užduočių kainuoja laiką, o vairuojant pagrindinė užduotis turi išlikti eismo situacijos stebėjimas.
Ypač jautrus klausimas kyla, kai pokalbių robotas naudojamas tuo pačiu metu, kai įjungta dalinai automatizuota vairavimo funkcija. „Tesla“ sistema „Full Self-Driving (Supervised)“ pagal gamintojo nurodymus reikalauja aktyvios vairuotojo priežiūros: akys turi būti nukreiptos į kelią, o vairuotojas privalo būti pasirengęs bet kada perimti valdymą.
Mike’as Nelsonas, turintis teisininko patirtį ir dirbęs su auto draudimo sritimi, teigė, kad būtent čia slypi didžiausia problema: įjungus dalinę automatiką, žmogus gali tapti labiau linkęs atsipalaiduoti, o „Grok“ pokalbis tą atsipalaidavimą sustiprina.
„Mes važiavome vienu judriausių tiltų JAV, o aš realiai nekreipiau dėmesio į patį važiavimą“, – sakė M. Nelsonas.
Prie rizikos prisideda ir tai, kad pokalbių robotai kartais pateikia klaidingus atsakymus. Pasak vairuotojo, „Grok“ bandymo metu pateikė prieštaringą informaciją apie tai, ar gali valdyti automobilio funkcijas, pavyzdžiui, sėdynių ar klimato nustatymus.
Turinio saugumo klausimai
Kitas jautrus aspektas yra turinio kontrolė. Straipsnyje minima, kad „Grok“ gali turėti suaugusiesiems skirtą režimą, o tokios galimybės automobilyje kelia papildomų klausimų, kai transporto priemone naudojasi šeimos, o salone gali būti nepilnamečių.
Plačiau technologijų sektoriuje jau dabar diskutuojama, kaip automobiliuose veikiantys DI asistentai turėtų riboti žalingą turinį, kaip atpažinti nepilnamečius, kaip saugoti privatumą ir kaip užtikrinti, kad pokalbis netaptų pavojingu dėmesio nukreipimu kritinėse eismo situacijose. Ekspertai pabrėžia, kad riba tarp pagalbos vairuotojui ir pramogos, kuri konkuruoja su eismo stebėjimu, yra labai plona.
Vairuotojo išvada paprasta: technologija įspūdinga, bet realiame eisme ji gali tapti pavojinga būtent todėl, kad įtraukia. O kol automobiliuose diegiami DI sprendimai tebėra ankstyvoje stadijoje, jų kūrėjams teks įrodyti, kad patogumas nepralenks saugumo.
