Prevenciju zlostavljanja djece na internetu moramo olakšati

Međunarodni odgovor na zlostavljanje djece na internetu i dalje nije adekvatan. Postojeće alate nismo uspjeli da primijenimo u potpunosti, dosljedno i na globalno koordinisan način

Nedavni poraz kompanije Meta na sudu trebalo bi da podstakne vlade širom svijeta da pojačaju borbu protiv zlostavljanja djece na internetu. Sud u Novom Meksiku presudio je da platforme kompanije ne samo da izlažu djecu seksualnim predatorima i prikazuju im seksualno eksplicitni materijal, već i obmanjuju javnost u vezi sa ovim rizicima.

Uprkos ovoj značajnoj odluci, diskusije o bezbjednosti djece na internetu mogu nastaviti da se prebacuju sa jednog skandala na drugi, a da istinski efikasna rješenja ni ne budu usvojena. Javno negodovanje obično dostiže vrhunac nakon velikih sudskih slučajeva ili poslije šokantnih vijesti, kao što je, na primjer, bio slučaj u januaru, kada je otkriveno da je čatbot Grok pomagao korisnicima da preplave društvene mreže seksualizovanim slikama djece. Političari se, naravno, oglašavaju, čak i obećavajući strogu regulaciju, ali onda pažnja javnosti opada i ne preduzimaju se nikakve mjere. U međuvremenu, tehnologija nastavlja da se razvija i stvara nove probleme.

Tako ne mora biti, jer već znamo kako da spriječimo onlajn nasilje. Problem nije nedostatak znanja. Problem je u tome što naš odgovor ne prati stvarnost. Nedavna sistematska analiza naučne literature i mjera za borbu protiv nasilja u stvarnom svijetu, koji je objavio Međunarodni panel stručnjaka za informaciono okruženje (IPIE), došao je do poražavajućeg zaključka: iako već imamo alate koji su nam potrebni, globalni odgovor ostaje fragmentisan i nepotpun.

Digitalne platforme i istražitelji se, na primjer, u velikoj mjeri oslanjaju na sisteme koji skeniraju mrežu u potrazi za poznatim nezakonitim slikama i otkrivaju “gruming” (vrebanje i postepeno pridobijanje povjerenja žrtve radi zloupotrebe – prim. red.). Bez ovih alata, mnogi slučajevi onlajn nasilja bi ostali neotkriveni. Vještačka inteligencija se sve više koristi za poboljšanje ovih alata i analizu ogromnih količina podataka sa onlajn platformi, omogućavajući istražiteljima da pronađu ranije neotkriveni materijal s elementima nasilja.

Međutim, efikasnost vještačke inteligencije zavisi od podataka koji su korišćeni za obuku modela, a stručnjaci često nemaju pouzdan pristup setovima podataka koji su im potrebni. Autori analize IPIE pozivaju vlade da stvore bezbjedno, kontrolisano okruženje u kojem ovlašćeni stručnjaci mogu da pregledaju osjetljivi materijal, istovremeno osiguravajući zaštitu žrtava. Bez takve saradnje, napredak će ostati neujednačen i nestabilan.

Uz to, sve ove metode su usmjerene na borbu protiv nasilja nakon što se ono dogodi. Iako je važno poboljšati metode za otkrivanje počinilaca, cilj bi trebalo da bude sprečavanje štete prije nego što do nje dođe. Ovdje je IPIE tim otkrio važne “slijepe zone”. Da bi se organizovali i profitirali od seksualnog nasilja, počinioci mogu iskoristiti digitalne sisteme plaćanja, alate za oglašavanje i druge široko korišćene karakteristike onlajn platformi. Preduzete mjere, međutim, rijetko ciljaju ove mehanizme. Ako finansijska infrastruktura koja podržava seksualnu eksploataciju ostane netaknuta, borba protiv nasilja će uvijek biti u zaostatku.

Osim toga, javnost mora biti informisana. Obrazovne kampanje koje upozoravaju maloljetnike na rizike od gruminga i objašnjavaju štetnost nezakonitog sadržaja pokazuju ohrabrujuće rezultate (ponašanje postaje bezbjednije, broj prijavljenih prekršaja se povećava), ali ovaj rad je i dalje nedovoljno aktivan. U svakom slučaju, obrazovanje ne može zamijeniti odgovornost u radu platformi ili efikasno sprovođenje zakona. Od djece ne treba tražiti da koriste sisteme koji im omogućavaju da budu eksploatisani. Odgovornost mora biti na kompanijama koje kreiraju takve platforme i njima upravljaju.

Iako velike tehnološke kompanije posluju globalno, sprovođenje zakona ostaje uglavnom nacionalno. Bez ojačanog pravnog okvira koji se primjenjuje na međunarodnom nivou, zlostavljači će iskoristiti regulatorne praznine. U nekim zemljama, vlasti već imaju ovlašćenja da sprovode zakone van svojih nacionalnih granica, i zahtijevaju od kompanija da prijavljuju zloupotrebu, čuvaju dokaze i sarađuju sa istražiteljima. Evropska unija, jedno od najvećih tržišta za sve najveće digitalne platforme, je, na primjer, posebno dobro pozicionirana da pozove na odgovornost i najveće platforme i kriminalce.

Međutim, kao što pokazuje analiza IPIE-a, još se mnogo toga može učiniti da se poboljša međunarodna koordinacija kako bi sprovođenje zakona protiv kompanija i kriminalaca bilo jasnije i dosljednije. Skandal sa Grokom je jasan primjer teškoća sa kojima se regulatori suočavaju u praćenju brzo razvijajućih tehnologija. Iako su regulatori brzo reagovali kada je postalo jasno da čatbot kreira materijal o seksualnom zlostavljanju djece, bilo je potrebno da ozbiljno negodovanje javnosti da bi se na problem skrenula pažnja. U drugim slučajevima, lobiranje, ekonomski pritisak i drugi oblici uticaja te industrije sprečavaju vlasti da preduzmu ozbiljne regulatorne mjere.

Uzevši sve zajedno, nalazi IPIE-a odražavaju stanje globalnih mjera za borbu protiv zlostavljanja djece na internetu: one su apsolutno neophodne, ali su nedovoljne. Alati za detekciju redovno identifikuju slučajeve nasilja koje su naučili da otkrivaju; organi za sprovođenje zakona gone počinioce gdje je to moguće; obrazovni programi pokušavaju da skrenu pažnju na stalne rizike. Ali cio ovaj sistem se i dalje s naporom drži korak sa digitalnim pejzažom koji se konstantno mijenja. Finansijski sistemi koji podržavaju seksualnu eksploataciju i dalje su slabo pručeni; istražitelji nemaju pristup podacima potrebnim za poboljšanje procesa otkrivanja prestupa; pravni okviri ne uzimaju u obzir globalnu prirodu problema.

Godinama su vlade tvrdile da je za odlučnije mjere potrebno više podataka. Ovo opravdanje više nije ubjedljivo. Kako je IPIE tim utvrdio, podaci postoje. Već znamo koje mjere pomažu u smanjenju štete i znamo gdje su ključne praznine. Jedina nepoznanica koja ostaje je da li će politički lideri preduzeti neophodne korake da bi osigurali bezbjednost djece.

Autor je profesor digitalnih prava na Univerzitetu u Bornmutu i ​​gostujući profesor na Univerzitetu u Safoku

Copyright: Project Syndicate, 2026. (prevod: N. R.)