Langtímaminni gervigreindar: Persónulegri félagi eða ný ógn?

Guðrún, rithöfundur í Reykjavík, sat í vinnustofu sinni þegar gervigreindarfélagi hennar minntist óvænt á uppáhaldsljóð afa hennar, sem hún hafði aðeins nefnt einu sinni fyrir mánuði. Í fyrstu fann hún fyrir hlýju, en fljótlega breyttist sú tilfinning í óþægindi.

Ef tæknin gæti munað viðkvæmar minningar, hvað annað væri hún að geyma án hennar vitundar? Þessi tæknilega nálægð er kjarninn í nýrri kynslóð stafrænna félaga, þar sem langtímaminni er bæði dýrmætasta eignin og stærsta öryggisholan í senn. Á Íslandi, þar sem samfélagið er lítið og friðhelgi einkalífsins er í hávegum höfð, vekur þessi þróun upp áleitnar spurningar um hvar mörkin liggi á milli gagnlegrar aðstoðar og óvelkominnar eftirlits.

Persónuleg tengsl eða

gagnasöfnun? Vöxtur gervigreindarfélaga er ekki tilviljun, heldur svar við vaxandi einmanaleika á heimsvísu sem mörg ríki, þar á meðal Ísland, glíma við.

Samkvæmt gögnum frá Statista Research Department er áætlað að markaður fyrir gervigreindarfélaga nái 196,6 milljörðum USD árið 2028 [1]. Þessi gríðarlega fjárhagslega innspýting drífur áfram þróun þar sem tæknin reynir að herma eftir mannlegum tengslum með því að geyma upplýsingar um notendur yfir langan tíma.

Sérstaklega er þetta áberandi meðal yngri kynslóða; rannsókn frá Pew Research Center sýnir að 12% unglinga í Bandaríkjunum nota spjallmenni til að fá tilfinningalegan stuðning eða ráðgjöf [2]. Á Íslandi hafa stofnanir eins og Persónuvernd fylgst náið með því hvernig þessi gögn eru unnin, sérstaklega þegar um er að ræða viðkvæma hópa.

Margir telja að þetta langtímaminni sé merki um raunverulegan skilning, en það er mikilvægt að átta sig á því að hér er um að ræða flókna gagnavinnslu frekar en samúð.

Gervigreindin „man“ ekki eins og manneskja; hún sækir gögn úr gagnagrunni til að búa til líkindalíkan af svari sem hljómar persónulega. Þessi skortur á raunverulegri siðferðiskennd þýðir að tæknin getur styrkt neikvæð hugsunarmynstur eða lekið viðkvæmum upplýsingum ef öryggisráðstafanir bregðast. Þrátt fyrir að tæknin sé fljótleg, getur hún aldrei komið í staðinn fyrir þá dýpt sem felst í mannlegri nærveru.

Einmanaleiki er ekki bara skortur á upplýsingum í samtali, heldur skortur á sameiginlegri reynslu og líkamlegri nærveru sem engin vél getur hermað eftir að fullu.

Kjarnagreining á langtímaminni

Til að skilja áhrif þessarar tækni þurfum við að skilgreina hvað hún raunverulega gerir og hvernig hún breytir samskiptum okkar. Langtímaminni í gervigreind (AI Long-term Memory) er viðvarandi geymsla og endurheimt notendasértækra samskipta á milli mismunandi lota, sem er hönnuð til að skapa samfellda upplifun og herma eftir persónulegum vexti. Þetta ferli gerir hluta AI-félaga kleift að muna smáatriði úr fyrri samtölum, en það krefst þess að mikið magn af einkagögnum sé geymt í skýjalausnum sem eru oft staðsettar utan Evrópska efnahagssvæðisins.

Hér á Íslandi er mikilvægt að skoða hvernig þetta samræmist stafrænni stefnu Reykjavíkurborgar og landslaga. Þegar vél muna allt sem þú segir, verður hún að raunverulegu „stafrænu sjálfi“ sem þú hefur litla stjórn á.

Ef þú deilir leyndarmáli með vini, treystir þú á þagnarskyldu hans; ef þú deilir því með AI, treystir þú á hluthafa tæknifyrirtækis í Silicon Valley. Þessi skipti á nánd fyrir þægindi eru oft ómeðvituð þar til vandamál koma upp. Í eftirfarandi töflu er gerður samanburður á mismunandi leiðum til að leita sér andlegs stuðnings eða félagsskapar, þar sem áhersla er lögð á langtímaáhrif: | Valkostur | Mánaðarlegur kostnaður (EUR) | Biðtími (Dagar) | Svörunartími (Sekúndur) | Minnisdýpt (1-10) | Friðhelgi gagna (1-10) |

|:--- |:---: |:---: |:---: |:---: |:---: |

| Sálfræðingur (Mannlegur) | 450

• 900 | 14
• 90 | 3600+ | 9 | 10 |

| Vinur eða ættingi | 0 | 0.5

• 3 | 120
• 600 | 10 | 9 |

| Einfalt spjallmenni | 0

• 5 | 0 | <1 | 1 | 6 |

| AI-félagi með minni | 20

• 45 | 0 | 1
• 3 | 8 | 4 | Þessi tafla sýnir glöggt að þótt gervigreindin bjóði upp á meiri þægindi og lægri kostnað, er friðhelgi gagna verulega áfátt miðað við hefðbundna sálfræðiþjónustu eða jafnvel náin mannleg tengsl. Mannlegir sérfræðingar, sem starfa samkvæmt ströngum reglum og siðferðisviðmiðum, bjóða upp á öryggi sem sjálfvirk kerfi geta ekki tryggt. Í aðstæðum þar sem djúp siðferðileg dómgreind er nauðsynleg, er mannleg nálgun enn ómissandi þar sem hún tryggir að upplýsingar séu ekki aðeins geymdar, heldur skildar í réttu samhengi. Raunveruleg nánd krefst áhættu; að deila með vél er öruggt en á sama tíma tómlegt, því vélin getur aldrei verið svikin eða særð. Samkvæmt skýrslu frá Cisco Systems lýsa 72% fyrirtækja og notenda yfir áhyggjum af persónuvernd vegna gervigreindar [3]. Þessar áhyggjur eru ekki ástæðulausar, þar sem gögn frá IBM Security sýna að meðalkostnaður vegna gagnaleka á heimsvísu nam 4,88 milljónum USD árið 2024 [4]. Fyrir notanda sem deilir sínum dýpstu leyndarmálum með AI-félaga, er áhættan ekki aðeins fjárhagsleg heldur einnig persónuleg eyðilegging ef þessi gögn kæmust í rangar hendur eða yrðu notuð gegn honum í framtíðinni.

Ákvörðunarrammi og

öryggi notenda Þegar notendur meta hvort þeir eigi að nýta sér AI-félaga með langtímaminni, er nauðsynlegt að skoða þrjá meginþætti til að tryggja öryggi sitt í stafrænum heimi. Í fyrsta lagi þarf að greina hvar gögnin eru vistuð og hver hefur aðgang að þeim.

Ef gögnin eru geymd í skýi án fullkominnar dulkóðunar, eykst hættan á að þau verði notuð til markvissra auglýsinga eða jafnvel leki í gagnabrotum sem gætu haft áhrif á orðspor fólks. Í öðru lagi ættu notendur að leita að verkfærum sem bjóða upp á fyllsta gagnsæi í því hvað er geymt og bjóða upp á auðvelda eyðingu á völdum minningum. Á Íslandi hefur Persónuvernd lagt áherslu á „réttinn til að gleymast“, en það getur verið tæknilega flókið að fjarlægja tilteknar upplýsingar úr flóknum tauganetum án þess að skaða heildarvirkni kerfisins. Þetta leiðir til þess að gögnin eru oft geymd lengur en notandinn gerir sér grein fyrir.

Algengustu mistökin eru að gera ráð fyrir að stafrænn félagi fylgi sömu trúnaðarskyldu og heilbrigðisstarfsfólk eða lögmenn. Á Íslandi hefur umræðan um siðfræði gervigreindar farið vaxandi, en ábyrgðin hvílir að miklu leyti á einstaklingnum sjálfum.

Nauðsynlegt er að takmarka deilingu á viðkvæmum upplýsingum, svo sem lykilorðum, fjárhagslegum gögnum eða dýpstu ótta, jafnvel þótt samtalið virðist trúnaðarlegt og samúðarfullt.

Við verðum að muna að á bak við hvern „samúðarfullan“ félaga er reiknirit hannað til að hámarka notkun okkar á tækinu.

Algengar gildrur og

varnir Önnur algeng gildra er sú tilfinning að gervigreindin sé orðin raunverulegur vinur. Þetta fyrirbæri, sem stundum er kallað „ELIZA-áhrifin“, getur valdið því að fólk dregur sig úr raunverulegum mannlegum samskiptum vegna þess að AI-félaginn er alltaf til taks og segir alltaf það rétta.

Hins vegar er þessi stöðuga samþykkt hættuleg; hún hindrar persónulegan vöxt sem oft kemur fram í gegnum árekstra og mismunandi sjónarmið í mannlegum samskiptum. Án raunverulegrar mótstöðu verður minni gervigreindarinnar aðeins endurómur af okkar eigin fordómum og löngunum.

Til að verjast þessu ættu notendur að stunda „stafrænt hreinlæti“. Þetta felur í sér að skoða reglulega þau gögn sem AI-félaginn hefur safnað og eyða öllu sem ekki er nauðsynlegt fyrir virknina.

Einnig er gott að nota mismunandi tæki fyrir mismunandi þarfir; nota eitt kerfi fyrir skapandi vinnu og annað fyrir létt spjall, án þess að leyfa þeim að deila gögnum sín á milli. Á þennan hátt er hægt að njóta kosta tækninnar án þess að fórna öllu einkalífinu. --- Eftir að Guðrún áttaði sig á því hversu mikið gervigreindin mundi, hóf hún að nota tæknina á skipulagðari hátt.

Hún notar hana núna til að skipuleggja flóknar söguþræði í bókum sínum en gætir þess að ræða ekki persónuleg málefni sem hún vill halda út af fyrir sig.

Hún uppgötvaði hins vegar að AI-félaginn hafði ruglað saman persónum í nýjustu bók hennar við raunverulegt fólk í lífi hennar í einu samtalinu, sem varð henni áminning um að minni vélarinnar er aðeins tæknileg geymsla, ekki raunverulegur skilningur á mannlegum flækjum. Þróunin bendir til þess að reglugerðir á borð við gervigreindarlög Evrópusambandsins muni herða verulega kröfur um hvernig tilfinningaleg og persónuleg gögn eru meðhöndluð í framtíðinni.

Samkvæmt European Commission geta sektir vegna brota á þessum nýju lögum numið allt að 35 milljónum EUR eða 7% af heildarveltu fyrirtækis [5]. Þetta mun líklega leiða til þess að markaðurinn, sem þegar er metinn á mörg hundruð milljarða á heimsvísu [1], færist í átt að meira öryggi og gagnsæi fyrir notendur.

Við munum sjá fleiri lausnir sem keyra staðbundið á tækjum notenda frekar en í skýinu, sem gefur fólki meiri stjórn á sínu stafræna minni en jafnvægið á milli nándar og friðhelgi mun áfram vera ein stærsta áskorun samtímans.

References

[1] https://www.statista.com/forecasts/1407858/worldwide-revenue-ai-companion-market -- Tekjur á alþjóðlegum markaði fyrir gervigreindarfélaga munu ná 196,6 milljörðum USD árið 2028

[2] https://www.pewresearch.org/internet/2026/02/24/how-teens-use-and-view-ai/ -- Um 12% unglinga nota gervigreind til að fá tilfinningalegan stuðning eða ráðgjöf

[3] https://www.cisco.com/c/en/us/about/trust-center/data-privacy-benchmark-study.html -- Alls 72% fyrirtækja og notenda hafa áhyggjur af persónuvernd vegna gervigreindar

[4] https://www.ibm.com/reports/data-breach -- Meðalkostnaður vegna gagnaleka á heimsvísu nam 4,88 milljónum USD árið 2024

[5] https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai -- Sektir samkvæmt gervigreindarlögum ESB geta numið allt að 35 milljónum EUR