Iliti država kojom upravlja AI?
Većina ljudi nikada nije čula za dokument pod nazivom “The Agentic State”.
Ono što na prvi pogled zvuči kao još jedan tehnički dokument o umjetnoj inteligenciji, kada ga pažljivije pročitate, postaje jasno da se ne govori samo o novoj tehnologiji, nego o potpuno novom modelu funkcioniranja države. O potpuno novom sustavu.
Vizija je jednostavna.
Državna administracija više neće čekati da građanin podnese zahtjev, već će umjetna inteligencija sama povezivati registre, analizirati podatke, komunicirati s drugim sustavima i pokretati postupke.
Sve bi trebalo biti brže, jednostavnije i učinkovitije. Da, nakon godina iskustva spore, trome i skuoe birokracije, to zvuči privlačno, ali svaka tehnologija koja povećava učinkovitost istodobno povećava i mogućnost zlouporabe, o čemu se uopće ne govori.
Zato pitanje nije samo što automatizirani sustav može učiniti, nego što bi netko jednog dana mogao učiniti tim sustavom, jer ako istodobno promatramo razvoj i implementaciju digitalnog identiteta, digitalnih valuta središnjih banaka, pametnih gradova, umjetne inteligencije, interneta stvari, digitalizacije zdravstva, automatizacije državne uprave i sve većeg povezivanja različitih baza podataka, teško je ne primijetiti da svi ti projekti idu u istom smjeru, odnosno prema sve većoj međusobnoj povezanosti.
Sama po sebi, povezanost možda nije problem, problem nastaje kada jedna infrastruktura počne objedinjavati identitet, financije, zdravstvene podatke, komunikaciju s državom, promet, energiju i druge aspekte života, jer tada definitivno više ne govorimo samo o digitalnim uslugama, već govorimo o infrastrukturi koja tehnički omogućuje vrlo širok nadzor i upravljanje, i to u realnom vremenu, a takva infrastruktura stvara mogućnosti koje dosad nisu postojale, a o kojima su brojni diktatori mogli samo sanjati.
Povijest nas uči da se gotovo svaka tehnologija koja omogućuje veću kontrolu prije ili kasnije se pokuša iskoristiti upravo u tu svrhu, jer se vlast i moć uvijek suočavaju s iskušenjem da koriste dostupne alate.
I zato pitanje nije samo vjerujemo li današnjim političarima, već i kakve mogućnosti i ovlasti ostavljamo sutrašnjim političarima?
Jer zakoni se mijenjaju. Vlade se mijenjaju. Krize dolaze i prolaze, ali jednom izgrađena infrastruktura vrlo rijetko nestaje, i upravo zato danas nije najvažnije pitanje koliko je umjetna inteligencija pametna, već koliko ćemo mi ostati slobodni unutar tog i takvog sustava, sa kojim i kakvim mogućnostima utjecaja na takav sustav, ukoliko dozvolimo da se izgradi?
Digitalni identitet: temelj svega
Ako je “The Agentic State” mozak buduće digitalne države, što je njezin temelj?
Odgovor je vrlo jednostavan. Digitalni identitet. Bez njega umjetna inteligencija ne može sa sigurnošću znati kome pruža uslugu, čije podatke obrađuje ili u čije ime donosi određene odluke.
Zato se digitalni identitet često predstavlja kao pitanje praktičnosti. Jedna prijava. Jedan račun. Jedan digitalni novčanik. Jedan pristup svim javnim uslugama.
Na prvi pogled to možda zvuči sasvim razumno, ali postavimo jedno drugo pitanje.
Što se događa kada se gotovo svi aspekti života počnu oslanjati na jedan jedinstveni digitalni identitet?
Zdravstvo. Obrazovanje. Porezi. Banke.
Socijalna prava. Potpisivanje dokumenata. Komunikacija s državom. Digitalna valuta.
Jer ako sve prolazi kroz isti identitet, tada on više nije samo sredstvo identifikacije, on postaje ključ za sudjelovanje u društvu, a kada postoji jedan ključ, uvijek postoji i mogućnost da se ograniči njegov pristup.
Ne tvrdim da će se to dogoditi, ova činjenica je dovoljno strašna i bez te tvrdnje, ali pitam: Jesmo li kao društvo dovoljno razgovarali o tome što znači kada jedan sustav postane ulazna točka za gotovo sve?
Jesmo li uopće razgovarali?
Da li nas se išta pitalo prije nego li se počeo raditi na ovakvim ehnologijama i rješenjima?
Odakle i od koga ove ideje uopće dolaze? Jer nisu vlade te koje su prve počele spominjati digitalni ID, već UN i Bill Gates, WEF, Klaus Schwab i drugi.
DIGITALNA VALUTA: novac koji komunicira sa sustavom
Novac je oduvijek bio sredstvo razmjene, a digitalna valuta otvara mogućnost da novac postane i izvor informacija, privatnih informacija koje vlasti nemaju.
Ako se jednoga dana uvedu digitalne valute središnjih banaka, one mogu omogućiti brža plaćanja, manje troškove i jednostavnije međunarodne transakcije.
I to su legitimni ciljevi, ali postoji još jedno pitanje, može li digitalni novac biti programabilan? Do sada smo saznali da može, i da se upravo na takvoj vrsti digitalnog novca i radu.
A ako može i hoće, što to znači?
Može li tada novac imati rok trajanja?
Može li biti ograničen na određene vrste kupnje, primjerice kupnju mesa, goriva?
Može li se u izvanrednim okolnostima zamrznuti, u slučaju rata, prirodne katastrofe, ekonomske krize?
Može li se povezati s drugim digitalnim sustavima, poput digitalnog ID? Može li potisnuti fizički novac koji jamči anonimnost? Poslužiti kao temelj za izračun osobnog karbonskih otiska?
To nisu pitanja koja proizlaze iz mašte, to su pitanja koja proizlaze iz same prirode digitalnog sustava, a koja se već kao mogućnosti i rješenja propagiraju od strane raznih svjetskih moćnika te svjetskih organizacija.
Jer ono što je tehnički moguće, prije ili kasnije netko će predložiti da se iskoristi.
Pametni gradovi: kada grad postane računalo
Pametni gradovi predstavljaju se kao gradovi budućnosti. Manje gužve. Manje zagađenja. Pametnija rasvjeta. Učinkovitiji javni prijevoz. Brže hitne službe. Bolje upravljanje energijom.
Sve to zvuči razumno. I doista, tehnologija može pomoći da gradovi postanu ugodniji za život. Ali postavimo jedno drugo pitanje. Što grad mora znati o svojim stanovnicima da bi mogao biti toliko “pametan”?
Mora znati koliko se energije troši. Kako se krećemo. Kada putujemo. Koje usluge koristimo. Kako funkcionira promet. Koliko vode trošimo. Koliko otpada stvaramo.
Svaki od tih podataka može imati opravdanu svrhu. Problem nije jedan podatak. Problem nastaje kada se svi podaci počnu povezivati. Tada grad više nije samo mjesto u kojem živimo, on postaje sustav koji nas može razumjeti bolje nego što mi razumijemo njega.
Svaki pojedinačni sustav može imati opravdanu svrhu, ali što se događa kada svi počnu razmjenjivati informacije? Što se u tom slučaju događa sa anonimnosti? Slobodom?
Kada spojimo sve dijelove
Zamislimo da imamo: digitalni identitet, digitalni novac, Agentic State, umjetnu inteligenciju, pametni grad, pametni dom, umrežene uređaje, digitalno zdravstvo, automatiziranu državnu upravu.
Pojedinačno, svaki od tih projekata može imati opravdanje, ali kada ih promatramo zajedno, više ne gledamo odvojene tehnologije, gledamo infrastrukturu.
I tada se nameže pitanje koje bi svaki građanin trebao postaviti:
Ako se svi ti sustavi jednog dana povežu, tko će imati pristup toj cjelini?
Tko će njome upravljati?
Tko će donositi pravila?
Tko će nadzirati sustav?
I što će se dogoditi ako jednoga dana na vlast dođe netko tko tu infrastrukturu odluči koristiti drugačije nego što je prvotno zamišljena?
Jer infrastruktura koja se gradi je infrastruktura novog tehnološkog sustava upravljanja.
Sloboda se rijetko gubi odjednom. Češće se mijenja jedan po jedan sustav, jedna po jedna navika, jedno po jedno opravdanje. Svaki korak može izgledati razumno sam za sebe. Ali kamo vodi put kada ih spojimo u jednu cjelinu?
Podatkovni centri: nevidljive tvornice digitalnog svijeta
Većina ljudi nikada neće ući u podatkovni centar, jednostavno zato što djeluju toliko daleko od svakodnevnog života da ih gotovo i ne primjećujemo, ali gotovo svaka digitalna usluga koju koristimo prolazi upravo kroz njih: Elektronička pošta. Bankarstvo. Umjetna inteligencija. Državni registri. Zdravstveni sustavi. Fotografije. Video pozivi. sutra digitalni identitet, digitalna valuta, podaci prikupljeni u pametnim kućama i gradovima, automobilima. Sve.
Podatkovni centri postaju nova infrastruktura društva, slično kao što su nekada bile željeznice ili električne mreže, zato niču posvuda kao gljive nakon kiše, bez javne rasprave, bez pristanka.
Bez njih digitalni svijet jednostavno ne postoji. Zato nije neobično što države i velike tehnološke tvrtke ulažu milijarde u njihovu izgradnju.
Ali postavimo pitanje.
Ako podaci postaju jedan od najvrjednijih resursa današnjice, tko upravlja mjestima na kojima se oni pohranjuju i obrađuju? Ili još važnije. Koliko smo kao građani svjesni koliko svakodnevno ostavljamo digitalnih tragova?
Jer u digitalnom dobu moć često nije u tome tko posjeduje strojeve nego u tome tko upravlja informacijama.
OPŠIRNIJE O PODATKOVNIM CENTRIMA
Automatizacija: kada strojevi preuzmu posao
Tijekom povijesti ljudi su izmišljali strojeve kako bi si olakšali rad. To nije ništa novo.
Nova je brzina kojom umjetna inteligencija i robotika ulaze u gotovo svaku djelatnost, i ne samo da olakšavaju rad, već ga oduzimaju ljudima.
Tvornice. Skladišta. Prijevoz. Administracija. Bankarstvo. Računovodstvo. Pravo. Medicina, pa čak i kreativna zanimanja. Nitko ne može sa sigurnošću reći koliko će se radnih mjesta promijeniti ili nestati.
Ali jedno je pitanje već danas legitimno, ako umjetna inteligencija i roboti stvaraju sve veću vrijednost, kako će ljudi koji ostanu bez posla sudjelovati u gospodarstvu? To nije pitanje samo tehnologije., to je pitanje cijelog društva.
UBI: rješenje ili nova ovisnost?
U tom se kontekstu sve češće spominje univerzalni temeljni dohodak. Ideja je jednostavna. Ako strojevi proizvode sve više, možda bi svaki građanin trebao dobivati osnovni prihod. Za neke je to način smanjenja siromaštva, za druge je zaštita od posljedica automatizacije.
Ali postoji još jedno pitanje. Što se događa kada velik dio stanovništva više ne ostvaruje prihode vlastitim radom, nego ovisi o sustavu koji raspodjeljuje sredstva? Sustavu koji sve vidi i sve zna?
Društvo bi trebalo otvoreno i ozbiljno raspravljati o tome, jer sustav ovisnosti ne stvara slobodne već ovisne, upravljive ljude.
Karbonski otisak: kada sve postane mjerljivo
Sve se više govori o održivosti. Manjoj potrošnji energije. Zaštiti okoliša. Odgovornijem korištenju resursa. To su ciljevi s kojima se mnogi mogu složiti, ali do koje granice, jer digitalna tehnologija otvara novu mogućnost. Mjerenje.
Što se više aktivnosti odvija digitalno, to je više toga moguće pratiti i analizirati: Potrošnja energije. Prijevoz. Kupnja. Kretanje. itd.
Ne tvrdim da će se svi ti podaci koristiti za ograničavanje ljudi. Ali postavljam pitanje. Ako postoji mogućnost da se gotovo svaki aspekt života mjeri, tko određuje gdje je granica između korisne analitike i pretjeranog nadzora?
Svaka tehnologija koja može pomoći u upravljanju resursima može, u drugačijim okolnostima, postati i alat za širi društveni nadzor, ograničavanje i upravljanje, a trenutna energetska kriza i preporuke mjera, govore puno o tome.
Budućnost nije pitanje tehnologije. Ona je pitanje čovjeka.
Povijest čovječanstva pokazuje da gotovo svaka velika tehnologija može služiti dvjema svrhama. Može osloboditi čovjeka, ili ga može i učiniti ovisnijim.
Na kraju ne odlučuje tehnologija. Odlučuju ljudi. Zato je možda najveća opasnost to da građani prestanu postavljati pitanja. Poput, Kamo vodi put kada spojimo sve korake, tehnologije zajedno?
Ako postoji jedna poruka koju bih volio ostaviti na samom kraju ovog članka, onda je to ova: Nemojte odbaciti svoju odgovornost. Sloboda nije nešto što postoji samo zato što piše u Ustavu. Ona postoji samo dok postoje ljudi koji je smatraju vrijednom, dok je žive. A postavljati pitanja i tražiti odgovore je čin slobode!
Jer društvo koje prestane postavljati pitanja ne gubi slobodu odjednom. Ono je gubi toliko polako da to često primijeti tek kada je već postala uspomena.
OPĆA DEKLARACIJA O LJUDSKIM PRAVIMA – Članak 19.
Svatko ima pravo na slobodu mišljenja i izražavanja; to pravo uključuje slobodu zadržavanja mišljenja bez uplitanja i slobodu traženja, primanja i širenja informacija i ideja putem bilo kojeg medija i bez obzira na granice.
