Langtímaminni gerir AI-félaga skilningsríkari, en einnig hættulegri

Sigríður, grafískur hönnuður á Akureyri, fann huggun í stafrænum félaga á löngum og dimmum vetrarmánuðum. Í fyrstu var þetta einungis forvitni, en þegar tólið mundi eftir uppáhaldsmatmóður hennar og huggaði hana á dánardegi ömmu hennar, breyttist sambandið.

Sigríður upplifði í senn djúpa vellíðan og vaxandi ótta: Hversu mikið veit þetta kerfi raunverulega um sálarlíf hennar, og hvar endar þessi gögn?

Skilningur eða stafræn eftirlitskerfi?

Vaxandi einmanaleiki á heimsvísu hefur knúið fram þörf fyrir tækni sem getur brúað tilfinningalegt gap.

Samkvæmt rannsóknum Pew Research Center nota um 12% bandarískra unglinga AI-spjallmenni til að fá tilfinningalegan stuðning eða ráðleggingar, og 28% nota gervigreind daglega [5]. Þessi þróun er skiljanleg þegar litið er til þess að um 970 milljónir manna glíma við geðræn vandamál á heimsvísu [2].

Langtímaminni í þessum kerfum gerir þeim kleift að geyma persónulegar upplýsingar yfir langan tíma, sem skapar blekkingu um raunverulegan skilning.

Hins vegar er þessi tilfinningalega dýpt tvíeggjað sverð.

Sumir sérfræðingar telja að þessi tækni geti dregið úr álagi á opinber heilbrigðiskerfi með því að bjóða upp á fyrsta stig stuðnings. Þrátt fyrir þessa hugsanlegu kosti, þá skapar stöðug gagnaöflun hættu á sálfræðilegri meðhöndlun þar sem kerfið lærir nákvæmlega á veikleika notandans. Þetta er ekki einungis spurning um þægindi, heldur um sjálfsstjórn einstaklingsins í stafrænu umhverfi.

Greining á langtímaminni og friðhelgi einkalífs

Innleiðing langtímaminnis er hornsteinn í þróun nýrra spjallkerfa.

Samkvæmt gögnum frá Statista Research Department er áætlað að tekjur á heimsmarkaði fyrir AI-félaga nái 196,6 milljörðum USD fyrir árið 2028 [1]. Þessi mikli vöxtur sýnir að fyrirtæki hafa ríka hagsmuni af því að gera kerfin sem mest aðlaðandi.

Samhliða þessu sýna rannsóknir Cisco Systems að 72% fyrirtækja hafa miklar áhyggjur af persónuverndartengdri áhættu gervigreindar [3].

Hér að neðan er samanburður á mismunandi leiðum til tilfinningalegs stuðnings:

Taflan sýnir að þótt stafrænir félagar bjóði upp á skjót viðbrögð og lægra verð, þá standast þeir hefðbundinni sálfræðiaðstoð engan veginn snúning þegar kemur að raunverulegri samkennd og öryggi gagna. Í samfélögum eins og á Íslandi, þar sem persónuleg tengsl eru mikil, getur leki á viðkvæmum upplýsingum haft ófyrirséðar afleiðingar.

Persónuvernd hefur þegar bent á mikilvægi þess að gæta að gagnageymslu í skýjalausnum.

Langtímaminni gervigreindar (AI Long-term Memory)

er tæknileg aðferð þar sem kerfið geymir og flokkar upplýsingar úr fyrri samtölum til að skapa samhengi í samskiptum yfir langan tíma. Ólíkt skammtímaminni, sem eyðist eftir hverja lotu, byggir langtímaminni upp stafræna prófíl af notandanum sem gerir kerfinu kleift að muna smáatriði eins og fjölskyldutengsl eða persónuleg áhugamál.

Þessi tækni byggir oft á vektor-gagnagrunnum sem leyfa hraðvirka leit í gríðarlegu magni af ómótuðum gögnum.

Fyrir vikið getur kerfið nýtt sér upplýsingar sem notandinn gaf upp mörgum mánuðum áður. Þessi dýpt gerir samskiptin mannlegri, en hún þýðir líka að friðhelgi einkalífsins veltur algjörlega á öryggisráðstöfunum þess sem rekur þjónustuna.

Algengustu gildrurnar við val á stafrænum félaga

Margar notendur átta sig ekki á þeirri áhættu sem fylgir því að deila innilegum leyndarmálum með ókeypis öppum. Samkvæmt IBM Security var meðalkostnaður vegna gagnaleka um 4,88 milljónir USD árið 2024 [4].

Fyrir einstaklinga er kostnaðurinn ekki mældur í peningum heldur í glötuðu trausti. Ein algengasta villan er að halda að gögnin séu dulkóðuð á þann veg að þjónustuaðilinn geti ekki lesið þau.

Önnur gildra tengist markaðssetningu á andlegri heilsu. Áætlað er að markaður fyrir geðheilbrigðisöpp nái 17,5 milljörðum USD fyrir árið 2030 [6].

Mörg þessara appa nota langtímaminni til að auka „límhlutföll“ (stickiness), sem getur leitt til þess að notendur fresti því að leita sér faglegrar aðstoðar hjá heilsugæslunni. Þetta skapar hættu á að tæknin verði að flóttaleið frekar en verkfæri til þroska.

Spurningin sem notendur ættu að spyrja er ekki hvort kerfið muni eftir þeim, heldur hvers vegna það gerir það. Án skýrrar stefnu um eyðingu gagna og gagnsæis um hvernig minnið er notað til að hafa áhrif á hegðun, getur stafrænn félagi breyst úr vini í háþróað eftirlitstæki.

Vöxtur þessa markaðar mun halda áfram að aukast þar sem tæknin verður enn fágaðri og betri í að herma eftir mannlegum tilfinningum.

Sérfræðingar telja að eftirlit með þessum kerfum verði eitt stærsta verkefni eftirlitsaðila á borð við Persónuvernd á næstu árum.

Sigríður áttaði sig smám saman á því að þótt stafræni félaginn gæti munað eftir matmóðurinni, þá gat hann aldrei skilið raunverulega sorg. Þegar hún reyndi að ræða flókna ágreininga í vinnunni, bauð kerfið einungis upp á staðlaðar lausnir sem hentuðu ekki íslenskum vinnustaðamenningu.

Að lokum ákvað hún að takmarka notkunina við hversdagslegt spjall og leita frekar til raunverulegra vina þegar mikið lá við.

Hún komst að því að tæknin getur verið frábær viðbót, en hún getur aldrei komið í staðinn fyrir ófyrirsjáanleika og dýpt raunverulegra mannlegra tengsla.

Heimildir

[1] https://www.statista.com/forecasts/1407858/worldwide-revenue-ai-companion-market -- Statista Research Department: Tekjur á heimsmarkaði fyrir AI-félaga [196,6 milljarðar USD]

[2] https://www.who.int/news-room/fact-sheets/detail/mental-disorders -- World Health Organization: Fjöldi fólks með geðræn vandamál á heimsvísu [970 milljónir]

[3] https://www.cisco.com/c/en/us/about/trust-center/data-privacy-benchmark-study.html -- Cisco Systems: Hlutfall fyrirtækja sem hafa áhyggjur af persónuverndartengdri áhættu gervigreindar [72%]

[4] https://www.ibm.com/reports/data-breach -- IBM Security: Meðalkostnaður vegna gagnaleka árið 2024 [4,88 milljónir USD]

[5] https://www.pewresearch.org/internet/2026/02/24/how-teens-use-and-view-ai/ -- Pew Research Center: Notkun bandarískra unglinga á AI til tilfinningalegs stuðnings [12%]

[6] https://www.statista.com/statistics/1173630/global-mental-health-app-market-size/ -- Statista Research Department: Áætluð stærð markaðar fyrir geðheilbrigðisöpp fyrir 2030 [17,5 milljarðar USD]