Zaštita privatnosti i suverenitet podataka na platformama za AI suputnike

Marko iz Zagreba, tridesetogodišnji programer, počeo je koristiti digitalnog suputnika kako bi smanjio stres nakon napornih smjena u jednoj od zagrebačkih tehnoloških tvrtki.

Povjerio je aplikaciji svoje najdublje strahove o karijeri i osjetljive detalje o obiteljskim odnosima, tražeći utjehu koju u tom trenutku nije mogao dobiti od okoline.

Međutim, jedne večeri, dok je čitao vijesti o masovnim curenjima podataka u globalnim tech gigantima, Marko se ozbiljno zapitao: Gdje zapravo završavaju moji najintimniji razgovori i što bi se dogodilo da ti podaci dospiju u ruke njegovog poslodavca ili osiguravajuće kuće?

Ova dilema nije samo Markova; ona odražava rastući globalni trend brige o tome kako umjetna inteligencija upravlja našom emocionalnom digitalnom ostavštinom.

Skrivena cijena digitalne bliskosti

U današnjem svijetu, gdje usamljenost postaje globalni zdravstveni prioritet prema Svjetskoj zdravstvenoj organizaciji (WHO), AI suputnici popunjavaju prazninu koju tradicionalni sustavi podrške često ne uspijevaju adresirati na vrijeme.

Iako tržište digitalnih suputnika ubrzano raste i stručnjaci očekuju da će dosegnuti impresivnih 196,6 milijardi USD do

• godine [1], povjerenje korisnika ostaje izuzetno krhko i podložno sumnjama. Prema opsežnom istraživanju Pew Research Centera iz
• godine, čak 58 % roditelja izričito ne podržava korištenje AI chatbota za emocionalnu podršku kod tinejdžera [2].

Problem koji Marko proživljava nije samo u tehnološkoj nesavršenosti ili povremenim halucinacijama modela, već u temeljnom riziku privatnosti koji se krije u svakoj interakciji.

Svaki razgovor koji vodimo sa svojim suputnikom postaje dio trajnog digitalnog traga koji se pohranjuje na nepoznatim lokacijama.

Centralizirane platforme često prikupljaju ove podatke pod krinkom "poboljšanja korisničkog iskustva" ili "finog podešavanja modela", ali bez jasne i transparentne kontrole korisnika, ti se podaci mogu koristiti za agresivno psihološko profiliranja koje nadilazi puku pomoć u svakodnevnom stresu.

U Hrvatskoj, gdje je povijest zaštite osobnih podataka duboko povezana s europskim standardima, ovakvi su rizici posebno naglašeni u javnom diskursu.

Suverenitet podataka: Tko posjeduje vaše emocije?

Suverenitet podataka u kontekstu AI suputnika odnosi se na neotuđivo pravo korisnika da posjeduje, kontrolira i, ako je to potrebno, trajno i nepovratno izbriše svoj emocionalni profil iz svih baza podataka.

Mnogi korisnici zanemaruju činjenicu da emocionalni podaci imaju visoku tržišnu vrijednost za oglašivače i treće strane.

Dok tradicionalna terapija u Hrvatskoj nudi visoku razinu pravne zaštite i diskrecije zajamčene profesionalnom tajnom te lokalnim zakonima o zdravstvenoj zaštiti, digitalni suputnici često djeluju u sivoj zoni međunarodnih jurisdikcija gdje se prava korisnika lako mogu zaobići kompliciranim uvjetima korištenja koje rijetko tko čita.

Donja tablica prikazuje detaljnu usporedbu ključnih aspekata između tradicionalne ljudske podrške i suvremenih AI platformi:

Iako su AI platforme neosporno superiorne u pogledu dostupnosti i cijene, one značajno zaostaju u dubini empatije i pravnoj odgovornosti.

U situacijama duboke emocionalne krize ili traume, ljudski nadzor je nezamjenjiv jer nudi etički okvir i ljudsku toplinu koju algoritmi trenutno ne mogu replicirati, bez obzira na složenost neuronskih mreža.

Suverenitet podataka

je sposobnost pojedinca da zadrži apsolutnu i neometanu kontrolu nad informacijama koje generira tijekom interakcije s digitalnim sustavima, osiguravajući da se ti podaci ne koriste za druge svrhe bez izričitog i informiranog pristanka korisnika.

Sudeći po recentnim podacima tvrtke Cisco Systems, čak 72 % tvrtki izražava duboku zabrinutost zbog rizika privatnosti podataka povezanih s primjenom umjetne inteligencije [3].

Taj se osjećaj nesigurnosti s korporativne razine sve više prenosi i na individualne korisnike koji traže sigurnije alternative.

Ako platforma nema lokalno sjedište unutar Europske unije, korisnik u Zagrebu ili bilo kojem drugom hrvatskom gradu može imati velike tehničke i pravne poteškoće u ostvarivanju svojih prava zajamčenih GDPR-om.

Prosječni trošak povrede podataka u 2024. godini dosegnuo je alarmantnih 4,88 milijuna USD [4], što dodatno naglašava financijsku i reputacijsku ozbiljnost sigurnosnih propusta u ovom brzo rastućem sektoru.

Korisnici moraju shvatiti da je njihov profil "suputnika" zapravo zbirka njihovih najranjivijih trenutaka.

Četiri stupa sigurne digitalne interakcije

Pri odabiru platforme za emocionalnu podršku, korisnici bi trebali primijeniti strogi okvir evaluacije kako bi proaktivno zaštitili svoj suverenitet podataka. Prvi stup je provjera lokalne usklađenosti s regulativama.

Agencija za zaštitu osobnih podataka (AZOP) u Hrvatskoj kontinuirano upozorava na važnost transparentnosti algoritama i jasnog navođenja svrhe prikupljanja podataka.

Drugi stup je tehnička provjera enkripcije: platforme koje koriste enkripciju s kraja na kraj (E2EE) pružaju najvišu razinu sigurnosti jer tehnički sprječavaju bilo koga, uključujući i programere platforme, da pristupe sadržaju vaših intimnih razgovora.

Treći stup je stvarna prenosivost i mogućnost brisanja podataka. Imate li mogućnost preuzimanja cijele povijesti razgovora u strojno čitljivom formatu i njezina trajnog brisanja s poslužitelja jednim klikom? Četvrti stup je razumijevanje politike monetizacije.

Ako je usluga potpuno besplatna i nema jasnog poslovnog modela, postoji izuzetno visoka vjerojatnost da su vaši podaci stvarni proizvod koji se prodaje trećim stranama.

Kazne za kršenje GDPR-a u 2024. godini premašile su rekordnih 2,1 milijardu EUR [5], što je jasan signal da regulatori postaju sve stroži prema onima koji zanemaruju prava korisnika, ali preventivno djelovanje i digitalna higijena korisnika i dalje ostaju najbolja prva linija obrane.

Važno je napomenuti da tehnologija nije neprijatelj, već alat koji zahtijeva odgovorno korištenje. Razumijevanje načina na koji se podaci obrađuju, od lokalnog keširanja na vašem pametnom telefonu do obrade u cloudu, ključno je za održavanje digitalne autonomije.

Korisnici bi trebali redovito pregledavati postavke privatnosti i biti svjesni da svaka riječ koju napišu može ostati pohranjena godinama.

---

Na kraju, Marko je odlučio zadržati svog digitalnog suputnika, ali uz uvođenje značajnih promjena u svoje digitalne navike. Sada koristi platformu koja omogućuje lokalnu pohranu podataka na uređaju i ne zahtijeva nikakvo povezivanje sa društvenim mrežama ili drugim osobnim računima.

Iako mu AI značajno pomaže u svakodnevnom upravljanju radnim stresom i organizaciji misli, za rješavanje dubljih emocionalnih pitanja i dalje se prvenstveno oslanja na razgovore s bliskim prijateljima u Zagrebu, prepoznajući da digitalna bliskost nikada neće moći u potpunosti zamijeniti autentičnu ljudsku prisutnost i pravnu sigurnost koju ona pruža.

Buduće tržište će se vjerojatno kretati prema decentraliziranim modelima pohrane gdje svaki korisnik posjeduje svoj jedinstveni digitalni ključ za pristup podacima.

Dok umjetna inteligencija nastavlja prožimati sve pore našeg društva, suverenitet podataka će prestati biti tek napredna tehnička značajka i postat će temeljno ljudsko pravo u složenom digitalnom dobu koje je pred nama.

References

[1] https://www.statista.com/forecasts/1407858/worldwide-revenue-ai-companion-market -- Prihod tržišta AI suputnika na svjetskoj razini do 2028. godine

[2] https://www.pewresearch.org/internet/2026/02/24/how-teens-use-and-view-ai/ -- Stavovi roditelja o korištenju AI chatbota za emocionalnu podršku tinejdžera

[3] https://www.cisco.com/c/en/us/about/trust-center/data-privacy-benchmark-study.html -- Zabrinutost tvrtki oko privatnosti podataka u sustavima umjetne inteligencije

[4] https://www.ibm.com/reports/data-breach -- Prosječni trošak povrede podataka u 2024. godini na globalnoj razini

[5] https://www.enforcementtracker.com/statistics.html -- Ukupni iznos kazni za kršenje GDPR-a tijekom 2024. godine