Od AI portreta do deepfakea: Tehnološka zlouporaba na korak od nas

Luka, programer iz Zagreba, želio je osvježiti svoj LinkedIn profil. Umjesto skupog odlaska fotografu, koristio je AI generator. Rezultat je bio savršen — možda i previše savršen.

Tjedan dana kasnije, Luka je naišao na klonirani profil s njegovim licem koji je širio zlonamjerne poveznice u lokalnim tech grupama.

Granica između predstavljanja i krađe identiteta postala je zamagljena u samo nekoliko klikova, pretvarajući njegovu želju za modernim vizualnim identitetom u noćnu moru digitalne sigurnosti.

Uspon lažnih identiteta i kriza povjerenja

Tržište AI generatora slika ubrzano raste i predviđa se da će do 2030. godine dosegnuti impresivnih 1,945 milijardi USD [1].

Ova ekspanzija nije motivirana samo zabavom ili estetikom, već i stvarnom potrebom za digitalnim brendiranjem u svijetu gdje prvi dojam stvarate u djeliću sekunde.

Podaci jasno pokazuju da profesionalni portreti donose čak 14 puta više pregleda profila na platformama kao što je LinkedIn [2], što stvara ogroman pritisak na stručnjake da izgledaju besprijekorno.

Međutim, ta ista tehnologija koja omogućuje povoljno i brzo brendiranje, stvorila je plodno tlo za sofisticiranu manipulaciju koja nadilazi puko uljepšavanje.

Dok većina korisnika traži uštedu vremena, kibernetički kriminalci koriste lažne profile za jednostavne prevare koje je gotovo nemoguće otkriti bez naprednih forenzičkih alata. Problem nije u samoj tehnologiji, već u nedostatku regulatorne i tehničke infrastrukture koja može pratiti brzinu generiranja.

Mnogi smatraju da su vodeni žigovi ili metapodaci rješenje, ali realnost pokazuje da se oni lako uklanjaju ili zaobilaze, ostavljajući korisnike izložene riziku koji nadilazi puko digitalno predstavljanje.

Nedostatak kontrole nad izvornim podacima znači da jednom objavljena fotografija može postati osnova za neovlaštenu sintezu lica u kriminalnim kampanjama širom Europe.

Ovaj fenomen stvara ono što stručnjaci nazivaju "krizom vjerodostojnosti". Kada svatko može stvoriti savršenu fotografiju za pet eura, vrijednost fotografije kao jamstva povjerenja počinje slabiti.

U Hrvatskoj, gdje se tech scena u gradovima poput Zagreba i Splita oslanja na čvrste profesionalne mreže, pojava lažnih profila s uvjerljivim AI licima narušava dinamiku umrežavanja.

Korisnici postaju sumnjičavi prema svakom novom zahtjevu za kontaktom, što u konačnici usporava digitalnu ekonomiju i razmjenu znanja.

Granica između inovacije i biometrijskog rizika

Srž problema leži u dubljem razumijevanju procesa koji se odvija iza kulisa generiranja. Generiranje portreta pomoću umjetne inteligencije je proces u kojem algoritmi uče iz tisuća fotografija i stvaraju nove kako bi stvorili fotorealističnu sliku koja često ne odražava stvarni izgled korisnika.

Razmatranje različitih pristupa vizualnom identitetu otkriva značajne razlike u kvaliteti, sigurnosti i etičkim implikacijama:

Iako su brzina i niska cijena privlačni, u visokorizičnim scenarijima poput zapošljavanja na osjetljive pozicije u globalnim tvrtkama kao što je Infobip, tradicionalna fotografija ostaje nezamjenjiva. Profesionalni fotografi mogu uhvatiti mikro-ekspresije i suptilne znakove osobnosti koji grade istinsko povjerenje.

AI, s druge strane, često proizvodi "plastični" izgled s neprirodnim osvjetljenjem koji iskusni regruteri prepoznaju kao signal upozorenja ili nedostatak truda.

Prema istraživanju tvrtke Cisco Systems, čak 72% poduzeća izražava ozbiljnu zabrinutost zbog privatnosti podataka povezanih s upotrebom AI alata [4]. Ovaj strah je duboko utemeljen u ekonomskoj i pravnoj realnosti modernog poslovanja.

IBM Security izvještava da prosječni trošak povrede podataka u 2024. godini iznosi 4,88 milijuna USD [3], što uključuje ne samo izravne gubitke, već i dugoročnu štetu ugledu tvrtke koja dopusti curenje biometrijskih informacija svojih zaposlenika ili klijenata.

Hrvatska Agencija za zaštitu osobnih podataka (AZOP) sustavno upozorava na rizike pohrane biometrijskih podataka na poslužiteljima izvan Europske unije. Problem je inherentno trajne prirode; za razliku od lozinke koju možete resetirati nakon hakerskog napada, vaše lice je trajna biometrijska konstanta.

Jednom kada digitalni otisak vašeg lica završi u pogrešnim rukama, on postaje trajno oruđe za buduće napade, od neovlaštenog pristupa uređajima do kreiranja uvjerljivih deepfake videa u vaše ime.

Dodatno, postoji rizik od "napada inverzije modela" gdje napadač može rekonstruirati originalne fotografije koje ste učitali u sustav na temelju pristupa generiranom modelu.

To znači da čak i ako platforma tvrdi da briše vaše fotografije, one mogu ostati "otisnute" u težinama neuronske mreže, dostupne onima s dovoljno tehničkog znanja da ih izvuku.

Okvir za sigurnu digitalnu prisutnost i upravljanje podacima

Korisnici se često nalaze u procjepu između želje za inovacijom i potrebe za sigurnošću. Jedna od najopasnijih zabluda u digitalnom dobu je vjerovanje da su platforme za generiranje lica "privatni pješčanici" koji obrađuju i brišu podatke u realnom vremenu.

U stvarnosti, mnoga rješenja s niskim stupnjem transparentnosti koriste vaše fotografije ne samo za generiranje, već i za dodatno treniranje svojih algoritama, čime vaš vizualni identitet postaje dio nečijeg komercijalnog intelektualnog vlasništva bez pravedne kompenzacije ili jasnog pristanka.

Umjesto pukog oslanjanja na automatizaciju, stručnjaci za sigurnost savjetuju profesionalcima da procijene tri kritična stupa pri odabiru alata:

• Suverenitet nad podacima: Nudi li platforma mogućnost potpunog brisanja svih izvornih i generiranih datoteka s njihovih poslužitelja?
• Usklađenost s regulativama: Poštuje li alat stroge okvire poput GDPR-a i ima li imenovanog službenika za zaštitu podataka?
• Geopolitička lokacija poslužitelja: Gdje se fizički obrađuju vaši podaci i koji zakoni o privatnosti tamo vrijede?

Sigurnosni rizici nisu samo apstraktna prijetnja za IT stručnjake. Ukupni iznos GDPR kazni u 2024. godini premašio je 2,1 milijardu EUR [5], što jasno ukazuje na to da regulatori u Europskoj uniji postaju sve stroži prema neodgovornom upravljanju osobnim informacijama.

Korištenje alata koji ne pruža jasnu politiku o zadržavanju i šifriranju podataka može dovesti do situacije u kojoj vaš vizualni identitet postaje dio globalne baze podataka, korišten za svrhe o kojima niste obaviješteni, od testiranja algoritama za nadzor do kreiranja sintetičkih glumaca u oglasima.

Štoviše, "pravo na zaborav" postaje tehnički nemoguće u kontekstu AI modela. Ako su vaši podaci korišteni za treniranje temeljne mreže, njihovo uklanjanje zahtijeva ponovno treniranje cijelog modela, što je trošak koji većina tvrtki neće preuzeti.

Stoga, svaka učitana fotografija predstavlja trajno odricanje od dijela vaše biometrijske privatnosti u zamjenu za trenutnu estetsku korist.

U budućnosti ćemo svjedočiti jasnoj podjeli između generiranog i provjerenog vizualnog sadržaja. Tehnologije digitalnog potpisa i blockchaina mogle bi igrati ulogu u dokazivanju autentičnosti, ali povjerenje će i dalje ostati najskuplja valuta na tržištu rada.

Luka je na kraju odlučio kombinirati pristupe: AI portret koristi isključivo za neformalne društvene mreže uz korištenje lažnog imena i bez povezivanja s osjetljivim računima, dok je za svoj službeni profil i životopis unajmio profesionalnog fotografa u Zagrebu.

Shvatio je da tehnologija može stvoriti vizualno savršenstvo, ali samo ljudska autentičnost i kontrola nad vlastitim podacima grade trajno povjerenje u svijetu gdje su deepfake videi i sintetička lica postali dio svakodnevne komunikacije.

Iako je uštedio vrijeme, spoznaja da je njegovo lice bilo dio kampanje za krađu podataka ostavila je trajnu potrebu za digitalnom higijenom koju niti jedan algoritam, bez obzira na napredak, ne može zamijeniti.

References

[1] https://www.grandviewresearch.com/industry-analysis/ai-image-generator-market-report -- Tržište AI generatora slika dosegnut će 1,945 milijardi USD do 2030. godine

[2] https://www.linkedin.com/business/talent/blog/product-tips/how-to-choose-professional-headshot -- Profesionalni portreti povećavaju vidljivost na LinkedInu do 14 puta

[3] https://www.ibm.com/reports/data-breach -- Prosječni trošak povrede podataka u 2024. godini iznosi 4,88 milijuna USD

[4] https://www.cisco.com/c/en/us/about/trust-center/data-privacy-benchmark-study.html -- Istraživanje pokazuje da 72% tvrtki brine o privatnosti pri korištenju AI alata

[5] https://www.enforcementtracker.com/statistics.html -- Ukupni iznos GDPR kazni u 2024. godini dosegnuo je 2,1 milijardu EUR