Pašviesota AI drošības atbildība: Kontroles ilūzija un reālais slogs

Artis, pieredzējis IT arhitekts Rīgā, gadiem ilgi uzskatīja, ka kontrole ir sinonīms drošībai. Kad viņa uzņēmums nolēma integrēt mākslīgo intelektu, viņš kategoriski noraidīja mākoņpakalpojumus, baidoties no datu noplūdēm. Artis izvēlējās vietēju vai lokālu (self-hosted) risinājumu, cerot uz pilnīgu privātumu.

Tomēr pēc trim mēnešiem viņš attapās pie monitora pulksten divos naktī, mēģinot novērst kritisku ievainojamību, kamēr sistēmas ielāpu saraksts kļuva arvien garāks, radot neparedzētu operacionālo slogu uz visu komandu.

Vietējās AI infrastruktūras ilūzija

Daudzi organizāciju vadītāji maldīgi uzskata, ka datu glabāšana vietējos serveros automātiski atrisina visas drošības problēmas. Šī pārliecība bieži balstās uz novecojušu izpratni par perimetra aizsardzību, kur fiziskā pieeja serverim tiek jaukta ar digitālo drošību.

Kā norāda Cisco Systems veiktā datu privātuma etalona pētījuma dati, 72% uzņēmumu pauž nopietnas bažas par AI datu drošības riskiem [2]. Šīs bažas ir pamatotas, jo vietēja sistēma nevis likvidē riskus, bet gan pilnībā pārnes tos no specializēta pakalpojumu sniedzēja uz pašu lietotāju, kuram bieži trūkst nepieciešamo resursu.

Šāda pieeja prasa ne tikai serveru jaudu, bet arī specifiskas zināšanas par AI modeļu drošību, kas būtiski atšķiras no tradicionālās IT sistēmu uzturēšanas.

Ja lielie mākoņpakalpojumu sniedzēji investē miljonus eiro automātiskajā ielāpu pārvaldībā un draudu monitoringā, tad vietējā vidē par katru rindiņu konfigurācijas failā atbild Artis un viņa nelielā komanda.

Nevērība šajā jomā var novest pie situācijas, kurā šķietami "slēgtā" sistēma kļūst par vieglu mērķi automatizētiem uzbrukumiem, jo drošība bez pastāvīgas uzraudzības ir tikai ilūzija.

Tehniskā realitāte un risku pāreja

Neskatoties uz pieaugošo sarežģītību, interese par lokāliem un pašpārvaldītiem risinājumiem turpina pieaugt visā pasaulē. Saskaņā ar Statista prognozēm, globālais mākslīgā intelekta tirgus apjoms

• gadā sasniegs aptuveni 254,5 miljardus USD [1]. Uzņēmumi meklē veidus, kā aizsargāt savu intelektuālo īpašumu un ievērot stingrākas datu suverenitātes prasības, taču reti rēķinās ar iespējamo kļūdu cenu. Vidējās datu drošības pārkāpuma izmaksas
• gadā sasniedza aptuveni 4,88 miljonus USD [3]. Šī summa ietver ne tikai tiešos finansiālos zaudējumus, bet arī ilgtermiņa reputācijas graušanu un juridiskās sankcijas, kas var būt letālas mazākiem tirgus spēlētājiem.

Daudzi uzņēmumi izvēlas vietējus modeļus, lai izvairītos no atkarības no viena piegādātāja, taču tie nonāk citā lamatā — tehniskākā fakta un drošības risku zonā. Profesionālas drošības komandas trūkums nozīmē, ka ievainojamības var palikt nepamanītas mēnešiem ilgi.

Lai labāk saprastu izvēles ietekmi un operatīvos riskus, apskatīsim detalizētu salīdzinājumu starp dažādiem AI izmantošanas un drošības modeļiem:

Šī tabula skaidri parāda, ka pašviesoti risinājumi nodrošina augstāko atbilstību vietējiem regulatoriem, taču par to jāmaksā ar ievērojami augstākām uzturēšanas izmaksām un paaugstinātu cilvēciskā faktora risku. Tradicionālā manuālā apstrāde joprojām uzrāda visaugstāko drošības pārkāpumu risku, taču tā ir visvienkāršāk saprotamā.

Reāls drošības pārkāpums vietējā vidē bieži vien nav hakeru ģenialitātes rezultāts, bet gan vienkārša sistēmas administratora neuzmanība. Verizon ziņojumā secināts, ka 74% no visiem datu drošības pārkāpumiem ir saistīti ar cilvēcisko faktoru, tostarp kļūdainām konfigurācijām vai nepilnīgu identitātes kontroli [4].

Svarīgi saprast, ka vietēja arhitektūra prasa jaunu pieeju drošības higiēnai. Pašviesota AI vārteja (Self-hosted AI Gateway) ir centralizēts infrastruktūras slānis, kas kontrolē un monitorē datu plūsmu starp uzņēmuma iekšējiem procesiem un modeļiem, nodrošinot lokālu drošības politiku izpildi un datu filtrēšanu. Šāds slānis ir kritisks, lai novērstu nejaušu sensitīvas informācijas noplūdi publiskajos tīklos, taču tā uzturēšana prasa nepārtrauktu inženiertehnisko uzmanību un regulārus auditus.

Trīs kritiskās kļūdas pašviesotā AI pārvaldībā

Analizējot neveiksmīgus ieviešanas piemērus Latvijas tirgū, īpaši LIKTA biedru un tehnoloģiju vadītāju pieredzē, izkristalizējas trīs galvenie klupšanas akmeņi, kas kontroles solījumu pārvērš operatīvā katastrofā.

Kļūda 1: Drošības atjauninājumu un ielāpu pārvaldības ignorēšana

Daudzi administratori uzskata, ka reiz uzstādīta sistēma darbosies droši bez pastāvīgas iejaukšanās. Mākslīgā intelekta rīkkopas un bibliotēkas tiek atjauninātas gandrīz katru dienu, lai novērstu jaunatklātas ievainojamības.

Novēlota ielāpu uzstādīšana atstāj atvērtas durvis kritiskām kļūdām, kuras uzbrucēji var izmantot dažu stundu laikā pēc to publiskošanas.

Kļūda 2: Datu dublējuma un atjaunošanas plāna neievērošana

Vietējā vidē datu dublēšana vairs nav pakalpojuma sastāvdaļa, kas notiek fonā. Bez pārbaudītas un pilnībā automatizētas rezerves kopiju izveides uzņēmums riskē zaudēt gadiem uzkrāto intelektuālo īpašumu un modeļu konfigurācijas.

Latvijas uzņēmumi bieži aizmirst veikt regulāras atjaunošanas mācības, lai pārliecinātos, ka rezerves kopijas ir lietojamas reālā krīzes situācijā.

Kļūda 3: Haotiska piekļuves tiesību pārvaldība bez kontroles

Ja katram darbiniekam ir pieeja visiem iekšējiem AI modeļiem un to vēsturei, sistēmas drošība ir tikai teorētiska. Bez stingras identitātes un piekļuves pārvaldības (IAM) integrācijas vietējs AI kļūst par lielāko iekšējo informācijas noplūdes avotu uzņēmumā.

Lietotāju tiesību auditēšana un minimālo privilēģiju principa ievērošana ir obligāta prasība, nevis izvēle.

---

Tehnoloģiju attīstība un jaunais ES Mākslīgā intelekta akts liecina, ka nākotnē uzņēmumi arvien vairāk investēs hibrīdos modeļos. Eksperti prognozē, ka pieprasījums pēc lokālas infrastruktūras saglabāsies augsts, jo īpaši nozarēs ar stingru valsts regulējumu un paaugstinātu datu jutīgumu.

Tomēr operatīvā realitāte piespiedīs organizācijas izmantot automatizētus drošības rīkus, lai mazinātu atkarību no manuāla darba un mazinātu cilvēciskās kļūdas iespējamību ilgtermiņā.

Artis galu galā nolēma saglabāt vietējo sistēmu, tomēr viņa pieeja ir fundamentāli mainījusies. Viņš vairs neuztver sistēmu kā pašsaprotamu un ir ieviesis stingru ielāpu uzstādīšanas kalendāru.

Lai gan viņš atzīst, ka uzturēšanas slogs ir lielāks nekā gaidīts, iegūtā atbilstība vietējiem standartiem dod nepieciešamo mieru sadarbībā ar valsts iestādēm.

Viņš saprata, ka patiesā kontrole nāk nevis no fiziskas servera atrašanās vietas, bet no procesiem, kas to aizsargā ikdienā.

References

[1] https://www.statista.com/forecasts/1474143/global-ai-market-size -- Globālais AI tirgus apjoms 2025 gadā sasniegs 254,5 miljardus USD

[2] https://www.cisco.com/c/en/us/about/trust-center/data-privacy-benchmark-study.html -- Cisco dati rāda ka 72 procenti uzņēmumu uztraucas par AI datu riskiem

[3] https://www.ibm.com/reports/data-breach -- Vidējās datu drošības pārkāpuma izmaksas 2024 gadā ir 4,88 miljoni USD

[4] https://www.verizon.com/business/resources/reports/dbir/ -- Verizon dati norāda ka 74 procenti datu drošības pārkāpumu ir saistīti ar cilvēcisko faktoru