26 septembrie 2021, 0:21

Facebook dezvoltă o metodă de inginerie inversă pentru a depista deepfake-uri (VIDEO)

Deepfake-urile nu sunt o mare problemă pentru Facebook în acest moment, dar compania continuă să finanțeze cercetarea pentru a se proteja împotriva amenințărilor viitoare. Cea mai recentă lucrare este o colaborare cu oameni de știință de la Michigan State University: echipa creează o metodă de inginerie inversă pentru deepfake-uri, care să analizeze imaginile generate de inteligența artficială (AI).

Metoda ar putea ajuta rețeaua Facebook să-i urmărească pe cei care răspândesc deepfake-uri online. Acest conținut ar putea include dezinformare, dar și pornografie neconsimțită.

Studiile anterioare în acest domeniu au reușit să determine ce model de AI cunoscut a generat un deepfake, dar această lucrare face un pas mai departe, identificând trăsăturile modelelor necunoscute. Aceste trăsături, cunoscute sub denumirea de hiperparametri, trebuie reglate în fiecare model de învățare automată, precum piesele dintr-un motor. Acestea lasă o amprentă digitală unică pe imaginea finală, care poate fi apoi utilizată pentru a-i identifica sursa.

Algoritmul rezultat nu numai că poate amprenta trăsăturile unui model generativ, ci poate identifica și ce model cunoscut a creat o imagine și dacă o imagine este o falsificare.

Dar până și aceste rezultate de ultimă generație sunt departe de a fi fiabile. Când Facebook a organizat anul trecut o competiție de detectare a deepfake-urilor, algoritmul câștigător a fost capabil să detecteze videoclipuri manipulate de AI doar în 65,18% dintre cazuri.

Foto, video: Facebook


ARTICOLE ASEMĂNĂTOARE

Adresa ta de email nu va fi publicată. Câmpurile obligatorii sunt marcate cu *

By using this form you agree with the storage and handling of your data by this website.

Acest sit folosește Akismet pentru a reduce spamul. Află cum sunt procesate datele comentariilor tale.