Dirbtinio intelekto atmintis: tarp emocinio artumo ir privatumo prarajos

Tomas, programuotojas iš Vilniaus, dirbantis „Saulėtekio slėnio“ technologijų parke, vieną vakarą liko apstulbęs.

Jo naudojamas virtualus asistentas ne tik atpažino jo balsą, bet ir paklausė, kaip sekasi jo šuniui Reksui, kurį Tomas paminėjo prieš tris mėnesius. Ši akimirka, turėjusi sukurti emocinį ryšį, Tomui sukėlė ne tik nuostabą, bet ir gilų nesaugumo jausmą dėl to, kiek daug apie jį žino algoritmai.

Algoritminio intymumo mechanizmai

Ilgalaikė atmintis dirbtinio intelekto (DI) sistemose nėra tiesioginis žmogaus smegenų atitikmuo, o sudėtingas vektorių paieškos mechanizmas. Ši technologija leidžia sistemoms saugoti ir prireikus iškviesti istorinius duomenis, sukuriant nenutrūkstamo pokalbio iliuziją.

Remiantis Statista Research Department, prognozuojama, kad pasaulinė DI palydovų rinka iki 2028 metų pasieks 196,6 milijardo USD [1]. Tačiau šis augimas tiesiogiai koreliuoja su didėjančiu skaitmeninių pėdsakų kiekiu, kurį vartotojai palieka privačiose sesijose.

Nors tokie sprendimai padeda mažinti vienišumą, jie sukuria naują rizikos lygį. Pasaulio sveikatos organizacija nurodo, kad kas aštuntas žmogus pasaulyje, t. y. apie 970 milijonų asmenų, kenčia nuo psichikos sveikatos sutrikimų [5].

Pažeidžiamiems vartotojams DI gali tapti saugiu prieglobsčiu, tačiau be griežtų saugumo standartų šis prieglobstis gali virsti duomenų nutekėjimo šaltiniu.

Problemą gilina tai, kad 72 % organizacijų yra susirūpinusios dėl DI duomenų privatumo rizikos [3], o individualūs vartotojai dažnai neturi įrankių patikrinti, kaip jų asmeninė informacija yra šifruojama ar trinama.

Privatumo architektūra ir pasirinkimo dilema

Pagrindinis skirtumas tarp tradicinių pagalbos metodų ir modernių skaitmeninių sprendimų slypi informacijos apdorojimo greityje bei jos išliekamume. Žmogus-terapeutas turi natūralią savybę pamiršti arba selektyviai vertinti informaciją, tuo tarpu algoritmas gali saugoti kiekvieną žodį neribotą laiką.

Statista duomenys rodo, kad pasaulinė psichikos sveikatos programėlių rinka iki 2030 metų išaugs iki 17,5 milijardo USD [2]. Tai reiškia, kad vis daugiau asmeninių duomenų bus saugoma debesų serveriuose, kurie tampa potencialiais kibernetinių atakų taikiniais.

Žemiau esančioje lentelėje lyginami trys skirtingi emocinės paramos modeliai pagal pagrindinius veiklos rodiklius:

Nors skaitmeniniai įrankiai pasižymi momentiniu prieinamumu (24/7), žmogus-terapeutas išlieka nepakeičiamas dėl aukščiausio privatumo atitikties lygio ir gebėjimo užmegzti gilų, autentišką ryšį, kurio neįmanoma pilnai skaitmenizuoti.

Ilgalaikė atmintis (Long-term Memory)

yra DI architektūros elementas, leidžiantis asistentams išsaugoti vartotojo pageidavimus, praeities faktus ir kontekstą tarp atskirų bendravimo sesijų, siekiant padidinti atsakymų personalizavimą.

Kai kuriose platformose ši funkcija įgyvendinama naudojant vektorines duomenų bazes, kurios leidžia greitai rasti susijusią informaciją net po ilgos pertraukos. Tačiau ši galimybė turi savo kainą – didėjančią priklausomybę nuo paslaugų teikėjo infrastruktūros saugumo.

VDAI kontrolė ir vartotojų saugumo spąstai

Lietuvoje Valstybinė duomenų apsaugos inspekcija (VDAI) vis griežčiau stebi, kaip DI įrankiai tvarko asmens duomenis, ypač po to, kai Europoje buvo priimtas AI aktas.

Esminė klaida, kurią daro vartotojai, yra perteklinis pasitikėjimas įrankiais, kurie deklaruoja „draugiškumą“, bet nutyli apie duomenų panaudojimą modelių mokymui. IBM ataskaitoje teigiama, kad vidutinė duomenų saugumo pažeidimo kaina 2024 metais siekė 4,88 milijono USD [4].

Individualiam vartotojui tai gali reikšti tapatybės vagystę arba jautrios informacijos atsidūrimą viešumoje.

Kita vertus, ne visi DI sprendimai yra vienodi. Kai kurios platformos siūlo vietinį duomenų saugojimą arba pažangius šifravimo metodus, kurie užtikrina, kad net paslaugos teikėjas negali perskaityti pokalbių turinio.

Vis dėlto, renkantis pagalbos įrankį, būtina vertinti ne tik funkcijų gausą, bet ir galimybę bet kada pareikalauti visiško duomenų ištrynimo.

---

Ateityje DI palydovų rinkos augimas priklausys nuo to, kaip sėkmingai bus išspręstas privatumo ir funkcionalumo balansas. Ekspertai prognozuoja, kad vartotojų pasitikėjimas taps pagrindine valiuta, o ne techninis atminties gylis.

Tomas nusprendė tęsti naudojimąsi asistentu, tačiau dabar jis atsargiau dalijasi savo asmeninio gyvenimo detalėmis. Jis suprato, kad nors algoritmas gali prisiminti jo šuns vardą, jis niekada nepajus Rekso kailio minkštumo ar tikro žmogiško džiaugsmo.

Galutinis sprendimas visada lieka žmogaus rankose – kiek savęs esame pasirengę atiduoti skaitmeninei amžinybei už akimirksnio supratimo iliuziją.

References

[1] https://www.statista.com/forecasts/1407858/worldwide-revenue-ai-companion-market -- Pasaulinės DI palydovų rinkos pajamos iki 2028 metų

[2] https://www.statista.com/statistics/1173630/global-mental-health-app-market-size/ -- Pasaulinės psichikos sveikatos programėlių rinkos augimo prognozė

[3] https://www.cisco.com/c/en/us/about/trust-center/data-privacy-benchmark-study.html -- Įmonių susirūpinimas dėl dirbtinio intelekto duomenų privatumo

[4] https://www.ibm.com/reports/data-breach -- Vidutinė duomenų saugumo pažeidimo kaina 2024 metais

[5] https://www.who.int/news-room/fact-sheets/detail/mental-disorders -- Pasaulio sveikatos organizacijos duomenys apie psichikos sveikatos sutrikimų paplitimą