O investigaţie realizată de Wall Street Journal (WSJ), în colaborare cu cercetătorii de la Universitatea Stanford şi Massachusetts Amherst, arată că Instagram, reţeaua de socializare deţinută de compania Meta, găzduieşte şi pune în legătură o reţea vastă de pedofili, în special prin sistemele de recomandare care profilează utilizatorii pe o anumită nişă.

Cercetarea subliniază faptul că, spre deosebire de alte platforme sau forumuri care mijlocesc transferul de fotografii sau clipuri ilicite cu minori, Instagram nu găzduiește pur și simplu aceste activități, ci le promovează prin hashtag-uri cu conţinut explicit sau codificate.

În acest sens, echipa de investigație a creat conturi pe Instagram şi pe alte reţele care să testeze modul în care algoritmii scot la suprafaţă conţinut ilegal cu minori. Astfel, în cazul Instagram, cercetătorii au sesizat că, după ce au vizualizat un singur cont din reţeaua ilicită, secţiunea “sugerate pentru dumneavoastră” a fost populată de recomandări de conturi care vând sau cumpără conţinut sexual cu copii. Aceste conturi îndeamnă urmăritorii să “comande” conţinut cu acte ilicite întocmite de minori, precum automutilare, relaţii sexuale cu animale sau “întâlniri faţă în faţă”. Unele dintre aceste conturi listează şi prețuri. Altele mijlocesc tranzacţiile în afara platformei.

Stanford Internet Observatory a folosit hashtag-uri asociate cu pedofilia pentru a găsi 405 vânzători de materiale sexuale cu copii “autogenerate”, sau conturi despre care speculează că sunt administrate chiar de copii. Conform datelor colectate prin intermediul software-ului Maltego, care cartografiază rețelele de socializare, 112 dintre aceste conturi de vânzători aveau în total 22 de mii de urmăritori unici.

Actualii și foștii angajați ai Meta, care au lucrat pe ramura de siguranță a copiilor de pe Instagram, au declarat pentru WSJ că estimează numărul de conturi care măresc astfel de conținut la sute de mii, sau chiar milioane. Un purtător de cuvânt al companiei Meta a declarat că societatea caută în mod activ să elimine astfel de utilizatori, reuşind să înlăture 490 de mii de conturi numai în luna ianuarie.

Totuşi, eforturile de limitare şi siguranţă a conţinutului ilicit cu copii au întâmpinat şi încă întâmpină dificultăţi semnificative. Se bazează, în mare parte, pe o “vânătoare” de imagini şi videoclipuri confirmate că includ pornografie infantilă. Algoritmii verifică amprentele digitale ale imaginilor postate pe platforme, le compară cu o listă oficială și raportează atunci când se găseşte o potrivire, așa cum prevede legea federală din SUA. În 2022, centrul a primit aproape 32 de milioane de raportări de pornografie infantilă, majoritatea de la companii de internet, adică o creștere cu 47% comparativ cu 2020. 85% dintre sesizările depuse făceau referire la Meta, dintre care aproximativ 5 milioane doar la Instagram.

Instagram susţine că își îndeamnă utilizatorii să ajute la detectarea conturilor care încalcă regulile. Totuşi, potrivit unei analize a zeci de rapoarte depuse în ultimul an de numeroși activişti pentru siguranța copiilor, aceste eforturi nu au fost întotdeauna eficiente. Rapoartele utilizatorilor privind conținut cu nuditate infantilă au rămas fără răspuns timp de luni de zile sau au primit răspunsuri conform cărora “postările nu contravin ghidului nostru pentru comunitate”.

Un purtător de cuvânt al Meta a declarat pentru WSJ că organizaţia a primit rapoartele și nu a luat măsuri în privința lor. O analiză a modului în care compania a gestionat raportările privind abuzurile sexuale asupra copiilor a constatat că “o eroare de software a împiedicat procesarea unei părți substanțiale ale acestora iar personalul de moderare al companiei nu a aplicat în mod corespunzător regulile platformei”, a adăugat purtătorul de cuvânt.

Compania a precizat că de atunci a remediat defecțiunea și că oferă noi cursuri de formare pentru moderatorii săi de conținut. Totuşi, sugestiile de hashtag-uri bazate pe inteligența artificială ale Instagram continuă să afişeze, prin intermediul funcţiei de autocompletare, hashtag-uri care conţin, sub diferite forme, conţinut sexual cu copii. Compania a încercat să dezactiveze aceste hashtag-uri, pe fondul raportărilor făcute de jurnaliștii WSJ. Dar, în câteva zile, Instagram a început să recomande noi variante ale hashtag-urilor, care au condus la conturi care vindeau conținut sexual cu copii.

WSJ scrie că Meta a recunoscut problemele pe care le întâmpină în cadrul operațiunilor sale de aplicare a legii şi a transmis că a pus bazele unui grup care să se ocupe de rezolvarea acestei probleme. “Exploatarea copiilor este o infracţiune teribilă […] Căutăm în permanență modalități prin care să ne apărăm activ împotriva acestui pericol”, a precizat compania. Meta a adăugat că, în ultimii doi ani, a eliminat 27 de rețele de pedofilie şi că, de când a primit interpelările WSJ, a blocat mii de hashtag-uri care sexualizează copiii, unele cu milioane de postări. Transmite şi că a restricționat sistemele de recomandări care includ termeni asociaţi cu abuzul sexual şi că lucrează la limitarea contactului dintre adulţii care caută activ conţinut legat de pedofilie.

Totuşi, în urma controlului întocmit de Meta după raportările WSJ şi ale universităților, vizualizarea chiar și a unuia dintre conturile cu conținut pedofil a determinat algoritmii de sugestie ai reţelei să recomande conturi cu conținut similar. Ei au contribuit astfel la reconstruirea rețelei pe care proprii angajaţi din domeniul siguranței încearcă să o elimine.

---