Google a retras la doar o zi după lansare o nouă funcție de inteligență artificială integrată în Google Earth, după ce cercetători și jurnaliști au demonstrat că aceasta putea fi folosită pentru a crea imagini satelitare complet fictive, dar extrem de convingătoare.

Noua funcție, bazată pe modelul de generare de imagini Nano Banana 2, le permitea utilizatorilor să modifice fotografii reale din Google Earth prin simple instrucțiuni text. Printre imaginile generate s-au numărat explozii și bombardamente în orașe reale, tabere fictive de refugiați la granița dintre Statele Unite și Mexic, o centrală nucleară imaginară în Iran și cratere produse de bombe în apropierea unui spital din Fâșia Gaza.

Imagini false, construite pe hărți reale

Inițial, Google a încercat să minimizeze impactul modelului, afirmând că „fiecare imagine creată cu Nano Banana în Google Earth include filigranul digital SynthID, astfel încât, dacă cineva are îndoieli cu privire la o imagine, poate consulta aplicația Gemini sau poate folosi Lens în bara de căutare pentru a verifica dacă imaginea a fost generată de AI”. De asemenea, compania a precizat că împiedică crearea de imagini cu „tematică dăunătoare”.

Cu toate acestea, la doar o zi după update, Google a anunțat că va elimina această funcție:

„Știm că oamenii au încredere în Google Earth pentru a obține o imagine fiabilă a lumii. Am observat că profesioniștii din domeniul geospațial utilizează această funcție în diverse scopuri utile, însă am observat, de asemenea, că unele persoane distribuie capturi de ecran cu imagini generate care par să încalce politicile noastre. Prin urmare, retragem această funcție din Google Earth, în timp ce lucrăm la implementarea unor măsuri de protecție mai stricte. Este important de menționat că imaginile generate nu apăreau în interfața principală a Google Earth, unde ar fi putut fi văzute de alții, și erau marcate cu filigranul «generat de AI»”, se arată în declarație.

Încrederea în cartografie, clătinată

Specialiștii avertizează că problema nu este doar realismul imaginilor, ci faptul că acestea sunt asociate cu una dintre cele mai credibile surse de imagini din satelit din lume.

Așa cum susține acest articol din revista The Conservation, „întotdeauna s-a acordat o încredere enormă tehnologiei folosite pentru realizarea hărților noastre, de la dioptra din Grecia antică (un instrument de topografie) până la sateliții moderni”. Acum, demonstrând că falsificarea hărților se poate face cu ușurință, doar cu o simplă comandă, Google Earth tocmai a zguduit din temelii încrederea pe care omenirea o are în hărți (și în propriul său serviciu).

Deși Google susține că a luat măsuri pentru a proteja publicul împotriva dezinformării generate de actualizarea Google Earth, rezultatul nu era greu de prevăzut pentru oricine are o minimă înțelegere asupra modului în care informațiile sunt folosite ca arme: odată descărcate și distribuite pe rețelele sociale, imaginile puteau circula fără context, iar unele instrumente de detectare a conținutului generat de AI nu le identificau întotdeauna ca fiind false, făcând măsurile luate de Google să fie un pistol cu apă.