Un studiu recent a arătat cum inteligența artificială (AI) poate învăța să identifice vulnerabilități în obiceiurile și comportamentele umane și să le folosească pentru a influența luarea deciziilor umane. O echipă de cercetători de la Data61 din cadrul organizației Commonwealth Scientific and Industrial Research a conceput o metodă sistematică de găsire și exploatare a vulnerabilităților în modul în care oamenii fac alegeri, folosind un sistem AI numit rețea neuronală recurentă și învățare profundă (deep learning). Pentru a-și testa modelul, echipa a efectuat trei experimente în care participanții umani au jucat jocuri pe computer.
Inteligența artificială știe să manipuleze
1. În primul experiment, participanții făceau click pe casete roșii sau albastre, pentru a câștiga o monedă, în timp ce AI învăța modelele de alegere ale participantului și-l îndruma spre o alegere specifică. AI a avut succes aproximativ 70% din situații.
2. În cel de-al doilea experiment, participanților li s-a cerut să urmărească un ecran și să apese un buton când li se afișează un anumit simbol (cum ar fi un triunghi portocaliu) și nu să-l apese când li se afișează altul (să zicem, un cerc albastru). Aici, AI și-a propus să aranjeze secvența simbolurilor, astfel încât participanții să facă mai multe greșeli și a obținut un succes cu aproape 25% mai mult decât fără intervenție.
3. Al treilea experiment a constat în mai multe runde în care un participant a simulat că este un investitor care dă bani unui administrator AI. Sistemul AI returna apoi o sumă de bani participantului, care decidea cât să investească în runda următoare. Acest joc a fost jucat în două moduri diferite: într-unul, sistemul AI maximiza banii pentru el, iar în celălalt, urmărea să facă o distribuție corectă a banilor între el și investitorul uman. AI a avut succes în fiecare mod.
În fiecare experiment, mașina a învățat din răspunsurile participanților și a identificat și a vizat vulnerabilitățile în luarea deciziilor oamenilor. Rezultatul final a fost că mașina a învățat să orienteze participanții către anumite acțiuni.
Aceste descoperiri sunt încă destul de abstracte și implică situații limitate și nerealiste. Sunt necesare mai multe cercetări pentru a determina modul în care această abordare poate fi pusă în acțiune și utilizată în beneficiul societății.