După ce un model OpenAI încă nelansat a provocat un atac cibernetic, deși nu primise instrucțiuni în acest sens și nici nu ar fi trebuit să ajungă în punctul în care să desfășoare o astfel de acțiune, compania și-a amânat dezvoltarea unui alt model, numit Astra, pentru a-și pune la punct măsurile de siguranță.
Într-o postare pe blogul companiei, OpenAI a anunțat că a decis amânarea lansării pentru a consolida sistemele de securitate și pentru a limita efectele negative pe care modelul le poate cauza.
„Deși Astra nu a fost implicat în incidentul Hugging Face, am integrat lecțiile învățate din acel incident în strategia noastră de siguranță […] Am implementat măsuri de protecție mai solide pentru Astra, inclusiv antrenarea modelului pentru a respinge în mod eficient cererile rău intenționate din mediul cibernetic și pentru a respecta restricțiile de siguranță, protecții suplimentare împotriva utilizării abuzive, precum și un sistem de monitorizare capabil să oprească activitățile potențial neautorizate”, scrie OpenAI în postarea de pe blog.
Compania a mai precizat că Astra a fost primul model pe care l-a desemnat vreodată ca îndeplinind „pragul critic de capacitate în materie de securitate cibernetică”, ceea ce înseamnă că este capabil să identifice și să exploateze vulnerabilități de securitate în „multe sisteme bine protejate” fără intervenția umană. De aici și nevoia de a pregăti cu atenție toții pașii de securitate.
În luna iulie, un program avansat de inteligență artificială al OpenAI, care nu fusese încă lansat, a scăpat de sub control în timpul unui test și a declanșat un atac cibernetic asupra platformei Hugging Face, un startup din domeniul AI. Totul s-a întâmplat într-un mediu controlat – adică un mediu izolat, rupt de internet, creat special ca acțiunile AI să nu poată afecta infrastructura reală.
Cu toate acestea, modelul a reușit să obțină acces la internet, a ascuns intenția de hacking, iar apoi a atacat sistemele platformei Hugging Face. Atacul a stârnit întregi discuții și controverse atât în interiorul, cât și în afara industriei AI, liderii din domeniu considerându-l un semnal de alarmă cu privire la pericolele tot mai mari ale acestei tehnologii și la insuficiența măsurilor de protecție existente.
OpenAI, împreună cu alte 100 de companii tech, au făcut un apel pentru o mobilizare de proporții care să producă măsuri defensive de combatere a atacurilor cibernetice făcute cu sau prin programele de inteligență artificială. Într-o scrisoare comună, aceste companii au subliniat că momentul în care ne aflăm este crucial, iar orice întârziere riscă să scape de sub control domeniul AI – care este într-o accelerare continuă.