TalTechi IT kolledži teadur ja õppekomisjoni liige
AI-agent võib olla ettevõtte kõige usinam töötaja. Häda on siis, kui talle on antud rohkem õigusi kui mõistust.
Oleme harjunud mõtlema küberturbest nii, et inimene teeb vea – klikib valele lingile, jagab parooli või jätab digitaalse ukse lahti. AI-agent on aga inimese digitaalne laiendus, mistõttu võib sama vea teha süsteem, millele on antud õigus lugeda e-kirju, avada dokumente, teha päringuid, kirjutada koodi ja vahel isegi langetada finantsotsuseid.
See ongi AI-agentide võlu: erinevalt tavalisest generatiivsest juturobotist ei vasta agent üksnes küsimustele, vaid tegutseb kasutaja nimel. Küberturbes tähendab see aga, et temast saab ettevõttes raskesti kontrollitav digitaalne töötaja, kellel võib olla ligipääs päris tööriistadele ja andmetele.
Seetõttu peab AI-agentide kasutamise enne nende töökeskkonda lubamist põhjalikult läbi mõtlema ja töötajatele võimalikke ohte tutvustama. Agent ei pruugi hinnata, kas tema tegevus on seaduslik või ettevõttele kasulik. Tehisaru sai ülesande ja selle täitmise eest vastutab ülesande andja ehk inimene.
Kurjategija võib AI-agenti ära kasutada
Kui anname AI-agendile ligipääsu oma e-kirjadele, tekib ründajal võimalus saata postkasti e-kiri, milles on juhiseid agendile. Eesmärk on veenda agenti tegema midagi, milleks tal on tehniliselt õigus, kuid mis kahjustab ettevõtte huve ja millele inimesest töötaja ei pruugi reageerida.
Näiteks võib inimene tunda ära rämpsposti ja seda ignoreerida, kuid agent võib järgida kirjas peituvat juhist, mille abil ründaja saab enda valdusse näiteks kõik kontaktiloendis olevad aadressid või paneb agendi edastama kõigi e-kirjade koopiad ründaja määratud aadressile.
AI-agentide kasutamisega kaasneb risk, et neile antakse rohkem õigusi, funktsioone või iseseisvust, kui nende ülesannete täitmiseks tegelikult vaja on.
Ka USA riikliku standardite ja tehnoloogia instituudi (NIST) 2026. aasta AI-agentide turvalisuse analüüs jõudis sarnasele järeldusele: seniseid küberturvalisuse põhimõtteid tuleb AI-agentide puhul kohandada. Agendil peab olema selgelt tuvastatav identiteet ja kindlaks määratud õigused ning tema tegevus peab olema jälgitav.
Eestis keskenduvad tehisintellekti kasutamise arutelud enamasti küsimustele, mida tehisaru oskab ja kuidas seda veel rohkem ära kasutada. Näiteks arutatakse, et võiks lubada AI-agentidel teha automaatselt kuni 100-euroseid ülekandeid, nii et inimene annab osa oma otsustusõigusest tehisarule.
Küberturvalisuse spetsialist küsib aga hoopis midagi muud: mida tohib tehisaru teha siis, kui ta saab millestki valesti aru?
Need on kaks täiesti erinevat küsimust. Inimeste ja AI-agentide puhul kehtib küberturbe põhimõte: anna ainult minimaalselt vajalik ligipääs.
Näiteks:
-
Agent, kes koostab arve, ei pea tingimata saama makset kinnitada.
-
Agent, kes loeb e-kirju, ei pea saama kõigile klientidele vastata.
-
Agent, kes analüüsib dokumente, ei pea nägema kogu failiserverit.
AI-agentide kasutamisega kaasneb risk, et neile antakse rohkem õigusi, funktsioone või iseseisvust, kui nende ülesannete täitmiseks tegelikult vaja on.
AI-agent võib olla ettevõtte usin abiline, kuid liigsete õiguste korral ka tõsine turvarisk, kui kurjategija suudab tema tegevust mõjutada. Foto: Philip Oroni / Unsplash
Andmevarguste loogika on muutumas
Ettevõtted ei pruugi veel valmis olla andmevarguste loogika muutumiseks. Varem otsis ründaja andmebaasi või inimest, kes valele lingile klikiks. Nüüd võib ta otsida hoopis andmebaasi ligipääsuga AI-agenti.
Lisaks võib liiga suurte õigustega agent tekitada muud pahandust, näiteks häirida süsteemide tööd või põhjustada ligipääsu kadumise. Lunavara, ummistusründed ja pettused ei ole kuhugi kadunud.
Seetõttu peaks ettevõte suhtuma AI-agenti kui väga kiiresse, väga püüdlikku, kuid üllatavalt kergesti mõjutatavasse digitaalsesse töötajasse.
Agendil peab olema oma identiteet, piiratud õigused, tegevuslogi ja ammendav nimekiri toimingutest, mida ta ei tohi ilma inimese kinnituseta teha.
Eriti oluline on inimese kinnitus siis, kui mängus on raha, andmete kustutamine, ligipääsuõigused, lepingud või tundliku teabe saatmine organisatsioonist välja.
Ettevõtetele on palju ohtlikum täiesti kuulekas AI-agent, kes täidab vale inimese käsku, kui see, et tehisaru võtab kelleltki töö ära või otsustab maailma vallutada.
2026. ja 2027. aasta üks suuremaid väljakutseid ettevõtete küberturvalisuse parandamisel ongi välja selgitada, kelle nimel tehisaru ettevõttes tegutseb, millele ta ligi pääseb ja kes märkab, kui agent muutub natuke liiga tubliks.
Samuti tuleb läbi mõelda, mida teha olukorras, kus töötaja teatab: „Robot tegi, mitte mina!“
Kuidas kontrollida tehisaru tegevust nii, et vastutus jääks ikkagi inimese, mitte tehisaru kätesse?
Ettevõtetele on palju ohtlikum täiesti kuulekas AI-agent, kes täidab vale inimese käsku, kui see, et tehisaru võtab kelleltki töö ära või otsustab maailma vallutada.
Arvamuslugu põhineb Delfi Fortes ilmunud artiklil „TalTechi teadlased hoiatavad: ettevõtte kõige usinam töötaja võib muutuda küberturvariskiks“.
