Un raport al companiei Anthropic publicat în septembrie arată că modelul de inteligență artificială Claude a fost folosit în operațiuni asociate unor actori ruși pentru spionaj cibernetic, producerea de conținut de propagandă și dezvoltarea de software destinat unor drone autonome de atac.

Potrivit Anthropic, unul dintre cazurile investigate a implicat gruparea GTG-20006, care are legături cu Midnight Blizzard, grup controlat de Serviciul de Informații Externe al Rusiei, SVR, conform evaluărilor realizate anterior de servicii occidentale de informații, conform Euronews.

Cu ajutorul lui Claude, gruparea ar fi automatizat operațiuni de hacking împotriva a peste 20 de organizații. Printre ținte s-au aflat ministere, instituții din domeniul apărării și informațiilor, ambasade, centre de analiză și companii din industria de apărare.

Anthropic spune că Claude a fost utilizat în mai multe etape ale atacurilor, inclusiv pentru dezvoltarea unor instrumente malware, kituri de phishing și instrumente de supraveghere, dar și pentru executarea unor comenzi în rețele compromise, colectarea de credențiale și extragerea de date. În unele situații, modelul ar fi funcționat cu un nivel ridicat de autonomie, cu intervenție umană redusă.

Ucraina a fost principala țintă, inclusiv furnizori de tehnologii pentru drone militare și companiile din lanțurile lor de aprovizionare, însă nu și singura țară afectată de operațiunile GTG-20006 realizate cu Claude. Au fost vizate, de asemenea, departamente guvernamentale cu activitatea maritimă din țări din Asia și Orientul Mijlociu.

AI-ul, folosit în fabricile de propagandă

Raportul documentează și utilizarea lui Claude în operațiuni de influență asociate Rusiei. De exemplu, în Republica Centrafricană, Anthropic și investigatorii proiectului All Eyes On Wagner au identificat un cont administrat de o persoană vorbitoare de limbă rusă din Bangui, implicată într-o operațiune de manipulare a informațiilor legată de Radio Lengo Songo, un post asociat cu infrastructura de influență a grupării Wagner.

Claude ar fi fost folosit pentru automatizarea producerii de conținut și pentru pregătirea unor materiale făcute să pară că provin dintr-o operațiune media locală. Anthropic spune că activitatea era coordonată din afara țării, dar era construită astfel încât să creeze impresia unei operațiuni locale.

Compania a identificat și activități de monitorizare a unor politicieni din opoziție și pregătirea unor mesaje și punctaje pentru reprezentanți ai unor structuri rusești din Republica Centrafricană.

O operațiune similară a fost identificată și în Republica Moldova, unde un fost responsabil al Sputnik a folosit Claude pentru a transforma știri, sondaje și materiale publicate de opoziție în conținut adaptat unor narațiuni pro-Kremlin.

Claude ar putea ajunge pe câmpul de luptă

Și mai îngrijorător este folosirea asistentul AI Claude pentru dezvoltarea dronelor kamikaze. O echipă de dezvoltatori din Rusia a folosit Claude Code pentru a construi software destinat unor drone FPV autonome, inclusiv funcții de selectare a țintelor, ghidare în faza finală a zborului și coordonare între mai multe drone.

Anthropic a identificat nouă conturi asociate proiectului și susține că dezvoltatorii au încercat să construiască un sistem capabil să permită unui roi de drone să opereze cu un grad ridicat de autonomie. Pentru dezvoltarea și testarea sistemelor au fost folosite inclusiv imagini provenite din războiul din Ucraina, potrivit raportului.

Din fericire, deocamdată nu există dovezi că software-ul dezvoltat cu Claude a și fost folosit, însă raportul companiei arată că tehnologia poate fi folosită la liber de oricine are intenții violente, existând riscul să se ajungă la stări de neliniște socială sau chiar la pierderi de vieți umane.