Ne smijemo dopustiti da borba protiv jednog zla — preraste u stvaranje infrastrukture za veće zlo.
Europska unija želi suzbiti seksualno nasilje nad djecom na internetu. No zakon kojim to želi postići mogao bi pretvoriti privatne poruke svih građana –u predmet nadzora.
Postoji malo toga što ujedinjuje ljude kao iskrena želja da zaštitimo djecu. Kad je riječ o seksualnom nasilju nad djecom, svaki civilizirani sustav mora učiniti sve što može da ga spriječi, kazni i iskorijeni. Zato, kad Europska unija predloži zakon koji bi trebao zaustaviti širenje zlostavljačkog materijala na internetu – instinktivna reakcija je odobravanje.
Ali što ako taj zakon, koliko god dobro zamišljen, otvara vrata nečemu mnogo opasnijem?
Što je zapravo CSAR?
Radi se o prijedlogu europske Uredbe o sprječavanju i suzbijanju seksualnog zlostavljanja djece na internetu (Child Sexual Abuse Regulation – CSAR), koji bi trebao uvesti pravni okvir za:
• obvezu pružatelja digitalnih usluga da detektiraju i uklanjaju zlostavljački sadržaj,
• otkrivanje pokušaja vrbovanja djece (“grooming”),
• osnivanje posebnog EU Centra za borbu protiv zlostavljanja djece,
• te blisku suradnju s tijelima kaznenog progona.
No umjesto da cilja na počinitelje, ovaj zakon u svojoj sadašnjoj formi zapravo cilja – na sve
korisnike interneta.
Privatnost pod povećalom
Najkontroverznija odredba je mogućnost izdavanja tzv. naredbi za otkrivanje (detection
orders), prema kojima bi digitalne platforme i aplikacije bile prisiljene skenirati sve
komunikacije korisnika u potrazi za ilegalnim sadržajem.
To uključuje:
• poruke poslane putem aplikacija poput WhatsAppa, Signal-a, Messengera,
• enkriptirane sadržaje (tzv. end-to-end encrypted communication),
• pa čak i slike i dokumente spremljene na cloud.
Ukratko: nijedna poruka više ne bi bila doista privatna.
Što to znači za građane?
Zamislite da poštar mora otvoriti svako pismo koje šaljete – da provjeri sadrži li nešto
ilegalno. Da ga pročita, analizira, možda pogrešno protumači – i odluči hoće li ga predati
dalje.
Takav nadzor bio bi nezamisliv u fizičkom svijetu. No upravo to bi se moglo dogoditi u
digitalnom.
Ali zar to nije cijena sigurnosti?
Ne. Sigurnost nije suprotnost slobodi – ona je njezin uvjet.
Zakon koji ruši enkripciju i otvara mogućnost masovnog nadzora:
• ne čini djecu sigurnijom, jer kriminalci već koriste privatne mreže, dark web i
sofisticirane alate za skrivanje,
• slabi digitalnu sigurnost svih građana, jer jednom oslabljena enkripcija postaje
ranjiva za hakere, kriminalce, strane sile,
• stvara infrastrukturu za kontrolu, koja se lako može proširiti na druge “nepoželjne”
sadržaje – kritiku vlasti, političke protivnike, novinare.
Jednom kada se uvede tehnička mogućnost nadzora nad svim korisnicima, pitanje više nije
hoće li biti zloupotrijebljena, nego kada.
Što kažu stručnjaci?
Europski odbor za zaštitu podataka (EDPB) i Europski nadzornik za zaštitu podataka (EDPS)
upozoravaju da Uredba u sadašnjoj verziji:
“Predstavlja ozbiljan rizik za temeljna prava građana, uključujući pravo na
privatnost i slobodu izražavanja.”
Slično poručuju i brojne organizacije za digitalna prava, uključujući EDRi, Access Now,
Mozilla Foundation i druge.
Nema spora oko cilja – spor je oko cijene koju ćemo platiti da ga postignemo.
Postoji li bolje rješenje?
Da. Postoji način da se djeca zaštite, a prava građana očuvaju:
• Targetirane mjere, koje se primjenjuju samo na osnovu dokaza i uz sudski nalog.
• Tehnologije koje poštuju enkripciju, i koje ne skeniraju privatne poruke svih
korisnika.
• Neovisni nadzor, stroga pravila o upotrebi, ograničenje svrhe, transparentnost.
• Obvezna ljudska provjera, a ne isključivo AI, kada se detektira sumnjivi sadržaj.
Zakon mora biti alat protiv zla – ne oružje koje se može okrenuti protiv bilo koga.
Zaključak: Kome vjerujemo?
Pitanje nije: Jesmo li za zaštitu djece?
Naravno da jesmo.
Pitanje je: Vjerujemo li da se privatnost milijuna građana može bezopasno žrtvovati – bez nadzora, ograničenja i odgovornosti?
Danas, to su dječji predatori. Sutra, možda “radikalni govornici”. Prekosutra, “nepoželjni novinari”.
Svaka tehnologija nadzora koja jednom zaživi, ostaje – i raste.
Ako jednu generaciju zaštitimo, a nad drugom omogućimo potpuni nadzor – što smo zapravo učinili?
Ne smijemo dopustiti da borba protiv jednog zla — preraste u stvaranje infrastrukture za veće zlo.
OPĆA DEKLARACIJA O LJUDSKIM PRAVIMA – Članak 19.
Svatko ima pravo na slobodu mišljenja i izražavanja; to pravo uključuje slobodu zadržavanja mišljenja bez uplitanja i slobodu traženja, primanja i širenja informacija i ideja putem bilo kojeg medija i bez obzira na granice.
