TalTechi IT Kolledži infoühiskonna ja küberkultuuri kaasprofessor
Läbimõtlematult kasutusele võetud AI-agendid võivad tekitada tõsiseid küberturvariske ja muuta vastutuse küsimuse senisest veel keerulisemaks.
Küberturbespetsialistide varasematele hoiatustele „Vaata, kuhu alla kirjutad, kuhu klikid ja mida alla laadid!“ lisandub nüüd üks suur punane hoiatus: „Vaata, mida lased teistel, eriti tehisarul, teha!“
AI-agent on mingil määral oma kasutaja peegeldus. Seetõttu on olulised inimese enda kriitiline mõtlemine, valikute läbikaalumine ja ülesannete selge sõnastamine ehk laiemalt väljendusoskus.
Tehisaru paradoks seisneb selles, et see võimaldab kasutaja eest ära teha suure osa mõttetööst, kuid päriselt kasu on sellest ainult neil, kes suudavad ka ise mõelda ja oma mõtteid teistele edasi anda.
Lähitulevikus annavadki küberturbespetsialistidele ilmselt kõige rohkem tööd lohakad ja laisad inimesed, kes on oma AI-agente pealiskaudselt koolitanud ja kelle agendid on seetõttu midagi ettenägematut korda saatnud. Eesti keeles saab selle kohta öelda: ülejala õpetamine toob ülekäte mineku.
Kes vastutab, kui tehisaru midagi valesti teeb?
Kolleeg Birgy Lorenzi mainitud riskile, et AI-agent võib täita vale inimese õiget käsku, kirjutan kahe käega alla.
Lisaksin veel ühe asjaolu. Tehnoloogiaajastu krooniline häda on see, et seadused jäävad arengule jalgu. Olgu tegemist sotsiaalmeedia, tarkvaralitsentside või tehisaruga – õigusruum ei jõua sageli tehnoloogiliste muutustega sammu pidada.
Kui kombineerida see AI-agendi eetilise ja juriidilise ükskõiksusega – tal pole südametunnistust ja seadusi järgib ta vaid niivõrd, kuivõrd see on tema toimimisse sisse kirjutatud –, saame üsna plahvatusohtliku kokteili.
Eriti murettekitav on võimalus, et paindliku eetikaga inimesed hakkavad üha enam ära kasutama seaduste mahajäämust ja üritavad vastutust tehisarule delegeerida. Seetõttu võib tekkida olukord, kus vastutab agent ehk sisuliselt ei vastuta mitte keegi.
Veel üks suur risk seisneb erinevate AI-agentide koosmõjus. Asi võib käest ära minna siis, kui koos tegutsema pandud agentide taga on erinevate eesmärkide ja arusaamadega inimesed, kes on oma agentidele andnud erinevalt määratletud ülesanded. Tulemus võib meenutada omaaegset Eino Baskini lugu: „Panin plussi ja miinuse kokku … Sa kurat, milline pauk käis!“ Samasugune oht võib tekkida ka kaitsjate poolel ehk küberturvalisuses.
Tehisaru paradoks seisneb selles, et see võimaldab kasutaja eest ära teha suure osa mõttetööst, kuid päriselt kasu on sellest ainult neil, kes suudavad ka ise mõelda ja oma mõtteid teistele edasi anda.
Arvamuslugu põhineb Delfi Fortes ilmunud artiklil „TalTechi teadlased hoiatavad: ettevõtte kõige usinam töötaja võib muutuda küberturvariskiks“.
