Från AI-porträtt till deepfakes: En tunn linje mellan nytta och missbruk

Erik, en frilansande grafisk formgivare i Göteborg, behövde en snabb och professionell profilbild för sin nya portfolio.

Istället för att boka en traditionell studio, använde han en av de många plattformar som lovade perfekta resultat på fem minuter med hjälp av maskininlärning.

Bilderna blev tekniskt felfria, men när han en vecka senare såg sitt eget ansikte användas i en bedräglig annons för kryptovaluta på sociala medier, insåg han att hans biometriska data nu tillhörde någon annan.

Den bekvämlighet han köpte för några hundralappar hade öppnat dörren för en identitetsstöld han inte kunde återkalla.

Den dolda baksidan av blixtsnabb personlig branding

I takt med att den digitala ekonomin kräver en allt starkare visuell närvaro, har användningen av syntetiska medier exploderat. Enligt Grand View Research [1] förväntas den globala marknaden för AI-bildgenerering uppgå till 1,945 miljarder USD år 2030.

Denna tillväxt drivs av behovet av snabbhet och skalbarhet, där en professionell profilbild på LinkedIn kan leda till 14 gånger fler visningar [2].

För många yrkesverksamma i Sverige framstår tekniken som en effektiv lösning på ett logistiskt problem, men bekvämligheten kommer med en betydande säkerhetsrisk.

Problemet ligger inte i själva tekniken, utan i hur biometrisk data hanteras av oreglerade aktörer. När användare laddar upp sina ansiktsfoton till en molnbaserad tjänst, skapas en digital karta över deras unika ansiktsdrag.

Om plattformen saknar robusta säkerhetsprotokoll kan dessa data bli föremål för intrång eller missbruk. Enligt Cisco Systems [5] uttrycker 72 % av alla organisationer i dag en djup oro över de integritetsrisker som är förknippade med AI.

Trots detta fortsätter miljontals individer att dela sina mest personliga identifierare utan att läsa användarvillkoren.

Deepfakes och biometrisk sårbarhet: Varför en bild inte bara är en bild

Skillnaden mellan ett oskyldigt porträtt och en deepfake är numera bara en fråga om tillgång till beräkningskraft.

Den biometriska data som används för att skapa en snygg profilbild kan i händelse av ett dataintrång användas för att generera rörligt material där personen i fråga tycks säga eller göra saker de aldrig har gjort.

Detta skapar en ny typ av hotvektor där sårbarheten inte längre är ett lösenord, utan användarens eget ansikte.

Inom ramen för GDPR i Europa har tillsynsmyndigheter, som Integritetsskyddsmyndigheten (IMY) i Sverige, börjat granska hur AI-modeller tränas på personuppgifter, men teknikutvecklingen rör sig ofta snabbare än juridiken.

I specifika sammanhang, som vid utfärdande av officiella id-handlingar eller vid högprofilerade företagsrepresentationer, är den traditionella fotografens roll fortfarande oumbärlig.

Detta beror på att en fysisk session skapar en obruten kedja av bevis och juridisk tydlighet gällande upphovsrätt och bildens ursprung, något som generativa modeller saknar.

Biometrisk data

definieras som personuppgifter som härrör från en specifik teknisk behandling som rör en fysisk persons fysiska, fysiologiska eller beteendemässiga kännetecken, vilka möjliggör eller bekräftar en unik identifiering av denna person.

För vissa plattformar innebär insamlingen av dessa data en guldgruva, men för användaren är det en permanent risk.

Den genomsnittliga kostnaden för ett dataintrång uppgick till 4,88 miljoner USD under 2024 [4], och i takt med att AI-verktyg blir mer sofistikerade, ökar sannolikheten för att biometriska identifierare blir nästa stora mål för cyberkriminella.

Samtidigt översteg de totala GDPR-böterna under 2024 nivån på 2,1 miljarder EUR [3], vilket understryker hur allvarligt tillsynsmyndigheter ser på hanteringen av personlig information.

Beslutsramverk: Att skydda din digitala identitet i en AI-förstärkt värld

Att helt undvika AI-teknik är i dagens arbetsklimat sällan ett alternativ, men det krävs en medveten strategi för att minimera riskerna.

Ett av de största felstegen användare gör är att använda gratisverktyg utan att undersöka var servrarna är placerade eller om bilderna raderas efter generering.

Denna så kallade "skugg-AI" (Shadow AI) innebär att personuppgifter läcker ut i system som företagens it-avdelningar saknar kontroll över.

När du utvärderar en tjänst för ansiktsgenerering bör du prioritera plattformar som erbjuder lokal databehandling eller som garanterar att biometriska modeller raderas omedelbart efter leverans.

I en svensk kontext, där BankID och digitala identifierare är djupt rotade i samhällsstrukturen, är konsekvenserna av ett komprometterat ansikte betydligt mer omfattande än i länder med lägre digital mognad.

Ett läckt porträtt kan i teorin användas för att försöka kringgå ansiktsigenkänning i känsliga applikationer, även om säkerhetssystemen ständigt förbättras.

Utvecklingen pekar mot en framtid där digital äkthet blir en lyxvara. Redan nu ser vi tecken på att arbetsmarknaden börjar värdera verifierat mänskligt ursprung högre i vissa nischer.

Erik i Göteborg har i dag lärt sig läxan; han använder numera AI-verktyg enbart för bakgrundsdetaljer och miljöer, men när det kommer till hans eget ansikte väljer han den gamla skolans metod.

Under hans senaste videointervju upptäckte rekryteraren att de AI-genererade bilderna på hans sajt hade en liten men märkbar asymmetri i pupillerna, vilket ledde till en obekväm diskussion om transparens.

Detta bekräftar att tekniken, trots sin briljans, fortfarande saknar den mänskliga essens som bygger äkta förtroende.

References

[1] https://www.grandviewresearch.com/industry-analysis/ai-image-generator-market-report -- Den globala marknaden för AI-bildgenerering väntas nå 1,945 miljarder USD år 2030

[2] https://www.linkedin.com/business/talent/blog/product-tips/how-to-choose-professional-headshot -- LinkedIn-användare med professionella profilbilder får 14 gånger fler profilvisningar

[3] https://www.enforcementtracker.com/statistics.html -- GDPR-böter under 2024 översteg totalt 2,1 miljarder EUR

[4] https://www.ibm.com/reports/data-breach -- Den genomsnittliga kostnaden för ett dataintrång uppgick till 4,88 miljoner USD under 2024

[5] https://www.cisco.com/c/en/us/about/trust-center/data-privacy-benchmark-study.html -- Enligt Cisco Systems uttrycker 72 % av organisationer oro över integritetsrisker med AI