O nouă investigație publicată de Le Monde, pe baza unui raport al OpenAI, dezvăluie o operațiune de propagandă rusă în care inteligența artificială este folosită pentru a produce și adapta mesaje de dezinformare în mai multe limbi. Campania combină texte generate cu ChatGPT, canale Telegram aparent independente, videoclipuri fabricate și chiar o organizație care se prezintă drept un think tank israelian, dar care ar avea legături cu persoane implicate în promovarea unor narațiuni favorabile Kremlinului.

Potrivit OpenAI, campania a fost operată din Rusia și a folosit ChatGPT pentru a genera mesaje de propagandă în mai multe limbi, în special în engleză. Operatorii au utilizat inclusiv VPN-uri pentru a încerca să își ascundă originea și pentru a evita ca mesajele să păstreze indicii lingvistice evidente privind proveniența lor. Cercetătorii au descoperit aceleași mesaje pe diverse canale Telegram, în engleză, germană sau franceză, care descriau un Occident decadent și prezentau Rusia ca o alternativă grandioasă.

„Această operațiune a combinat tactici sofisticate cu o execuție neglijentă”, a declarat Ben Nimmo, cercetător principal în cadrul echipei de Informații și Investigații de la OpenAI. „Operatorii au creat un index pseudo-academic și canale multilingve pe Telegram pentru a conferi credibilitate și vizibilitate narațiunilor lor, dar erorile lingvistice, cercetările plagiate și o listă neverosimilă de «experți» au contribuit la demascarea activității lor. Utilizarea ChatGPT i-a adus pe operatori în atenția noastră, ajutându-ne să descoperim o operațiune mai amplă și să interzicem conturile implicate.”

Un „think tank” israelian care nu este ceea ce pretinde

Una dintre cele mai interesante componente ale operațiunii este International Burke Institute (IBI), o organizație care se prezintă drept un think tank israelian și că are parteneriate cu organizații prestigioase precum ONU și UNICEF, însă aceste afirmații sunt înșelătoare. UNICEF a confirmat pentru Le Monde că IBI „nu este un partener autorizat și nu avem nicio înregistrare privind vreo colaborare”.

Mai mult, conținutul publicat de institut ar fi inclus materiale preluate sau plagiate din alte surse.

Unul dintre principalele produse promovate de organizație este un așa-numit „indice al suveranității”, care clasifică statele în funcție de criterii favorabile narațiunilor promovate de IBI. Rusia apare avantajos în aceste clasamente (pe locul 4), în timp ce mai multe state vest-europene sunt prezentate într-o lumină negativă.

Totuși, nu toate aspectele legate de IBI sunt fictive: are conexiuni reale în Israel. Mai multe persoane care s-au prezentat drept cercetători afiliați la IBI locuiesc în Israel, dar toate au în comun faptul că s-au născut sau au crescut în Rusia. Există, de asemenea, o legătură între IBI și Dor Moriah, o organizație caritabilă care sprijină cetățenii israelieni vorbitori de limbă rusă: mai multe persoane implicate în acest grup de reflecție au participat anterior la activități organizate de această organizație caritabilă, care este o asociație înregistrată în mod legal în Israel, spre deosebire de IBI, și pare să utilizeze același cont bancar ca și aceasta din urmă.

Noi provocări în lupta anti-dezinformare

Inteligența artificială poate reduce semnificativ costul și timpul necesar pentru producerea unor volume mari de conținut și, în același timp, permite adaptarea mesajelor pentru publicuri diferite. Însă problema cea mai mare nu este neapărat identificarea unui text generat de AI, ci verificarea: dacă un mesaj fals este publicat de un canal aparent independent, preluat de un institut care pare legitim și susținut ulterior de imagini sau videoclipuri fabricate, autentificarea informațiilor trebuie să meargă mult mai departe decât analiza unui singur material.

În acest caz, întrebarea nu mai este doar „este acest videoclip generat de inteligența artificială?”, ci și „cine a creat infrastructura care îl distribuie, ce alte surse îl susțin și cine beneficiază de răspândirea acestei narațiuni?”