Kui inimesed küsivad aina sagedamini vastuseid ChatGPT-lt, Geminilt või teistelt tehisintellektisüsteemidelt, hakkavad need mudelid kujundama seda, millist infot usaldatakse ja milline pilt maailmast inimesteni jõuab. „Minu jaoks on täiesti vältimatu, et infovõitlus areneb järjest keerukamateks viisideks, kuidas suuri keelemudeleid manipuleerida,“ ütles Miller.
Tehisintellekt kui uus lahinguväli
Järjest olulisemaks muutub küsimus, kuidas suudavad riigid ja organisatsioonid mõjutada seda, millist infot suured keelemudelid leiavad, mida usaldusväärseks peavad ja kuidas seda inimestele esitavad.
Miller tõdes, et turundusmaailm on muutusega juba kohanenud. Kui seni investeeriti otsingumootorite optimeerimisse ehk SEO-sse, siis nüüd sünnib kiiresti uus tööstusharu – generatiivse otsingu optimeerimine ehk GEO. Selle eesmärk on mõjutada tehisarumudelite antavate vastuste iseloomu.
Ettevõtted tahavad, et AI soovitaks just nende tooteid, teenuseid või edastaks nende seisukohti. Milleri hinnangul on vaid aja küsimus, millal riiklikud mõjutusoperatsioonid selle loogika täielikult üle võtavad.
Ta selgitas, et riigid ja nende huvides tegutsevad võrgustikud võivad hakata sihipäraselt kujundama keskkondi, mida keelemudelid usaldavad: muuta Wikipedia sisu, suunata Redditi arutelusid ja luua tuhandete kaupa näiliselt usaldusväärseid veebilehti. Eesmärk ei ole enam üksnes inimeste, vaid ka tehisarusüsteemide mõjutamine. Internetti hakatakse teadlikult täitma sisuga, mille eesmärk on muuta seda, millise pildi keelemudelid maailmast kokku panevad.
See muudab infooperatsioonid varasemast märksa nähtamatumaks. Kui seni oli mõjutustegevuse sihtmärgiks inimene, siis nüüd püütakse mõjutada tervet infoökosüsteemi, mille põhjal tehisintellekt vastuseid loob.
„Minu jaoks on täiesti vältimatu, et infovõitlus areneb järjest keerukamateks viisideks, kuidas suuri keelemudeleid manipuleerida.”
Milleri hinnangul liigub maailm kiiresti olukorda, mille käigus muudetakse infooperatsioonid sisuliselt automatiseeritud relvastumisvõidujooksuks. Ühel pool on süsteemid, mis püüavad keelemudeleid mõjutada, teisel pool süsteemid, mis proovivad manipulatsioone avastada ja neutraliseerida. Foto: Rasmus Pitkänen
Üks süsteem mõjutab, teine püüab kaitsta
Milleri hinnangul liigub maailm kiiresti olukorra suunas, mille käigus muudetakse infooperatsioonid sisuliselt automatiseeritud relvastumisvõidujooksuks. Ühel pool on süsteemid, mis püüavad keelemudeleid mõjutada, teisel pool süsteemid, mis proovivad manipulatsioone avastada ja neutraliseerida. „Isegi parima stsenaariumi korral ei peata miski vastaseid arendamast järjest uusi keelemudelite manipuleerimisviise,“ ütles Miller.
Samas ei pea Miller olukorda lootusetuks, sest tulevikuinfooperatsioonid on tegelikult palju hapramad, kui esmapilgul paistab.
Ta on pakkunud välja lähenemise nimega D-RAIL, mis ei keskendu üksikute valeväidete ümberlükkamisele, vaid hakkab häirima mõjutusoperatsioonide taristut ja tööloogikat. Tema sõnul pole mõtet loota, et kogu ühiskond suudab iga uue manipulatsioonivõtte õigel ajal ära tunda. Mõjusam on muuta mõjutustegevus vastasele kulukamaks, riskantsemaks ja ebaefektiivsemaks.
Manipuleeriva infooperatsiooni õnnestumiseks peab kokku langema mitu muutujat: toimiv tehniline taristu, usutavad võltsidentiteedid, piisav rahastus, levitusvõrgustikud ja võime tähelepanu püüda. Kui üks neist alt veab, võib kogu operatsioon nõrgeneda. „Mõjutusoperatsiooni nurjamiseks piisab sellest, kui murda ahelas katki üksainus lüli,“ rõhutas Miller.
„Mõjutusoperatsiooni nurjamiseks piisab sellest, kui murda ahelas katki üksainus lüli.“
Carl Miller TalTechi innovatsioonifestivalil: infosõja järgmine sihtmärk on suured keelemudelid. Foto: Rasmus Pitkänen
Infosõjas on võim puurist väljas
Ettekande lõpuosas tunnustas Miller Eesti ja teiste Balti riikide senist vastupanuvõimet. Tema hinnangul on siinne piirkond Venemaa mõjutustegevusega paljudest Lääne-Euroopa riikidest paremini kohanenud, sest hübriidsurve pole siin mitte erandlik kriis, vaid aastakümneid tuttav julgeolekureaalsus.
Samas hoiatas ta liigse enesekindluse eest. Kui vaadata Eestit Venemaa infovõitluse vaatenurgast, ei pruugi järgmised sihtmärgid olla ainult sotsiaalmeedia ja avalik inforuum, vaid rünnaku alla võivad sattuda meditsiini- ja transpordiandmed ning varem mainitud suured keelemudelid.
Ettekande lõpetas Miller tõdemusega, et tänapäeva infooperatsioonides on võim kontrolli alt väljunud ning seda ei piira enam vanad seadused, normid ega rahvusvahelised kokkulepped. „Infosõjas on pääsenud võim justkui puurist välja.“
Maailm seisab nüüd silmitsi küsimusega, kas demokraatlikud ühiskonnad suudavad luua uusi reegleid ajastule, mil info pole enam lihtsalt suhtlusvahend, vaid osa geopoliitilisest konfliktist ja tehnoloogilisest võidurelvastumisest.
Tema sõnul käib võidujooks sõjapidamise reeglite taastamise nimel. See toimub just sellistes digiriikides nagu Eesti ja tehnoloogiaülikoolides nagu TalTech – seal, kus tuleb leida infokeskkondade kaitsmiseks vastastest kiiremaid, loovamaid ja paremaid praktikaid.
„Infosõjas on pääsenud võim justkui puurist välja.“
TalTechi innovatsioonifestival toob kokku eksperdid, poliitikakujundajad ja praktikuid Eestist ning välismaalt, et arutada, kuidas hübriidohud mõjutavad ühiskonna toimimist ning milliseid lahendusi on vaja usalduse hoidmiseks.