Google a retras la doar o zi după lansare o nouă funcție de inteligență artificială integrată în Google Earth, după ce utilizatorii au demonstrat că aceasta poate crea imagini satelitare false, extrem de realiste. Decizia vine în urma criticilor privind riscul ca aceste imagini să fie confundate cu fotografii autentice din satelit și să alimenteze dezinformarea.
Compania a anunțat că funcția va reveni doar după introducerea unor măsuri suplimentare de protecție, care să limiteze utilizările abuzive, potrivit Investing.
Noua funcție de inteligență artificială a fost prezentată joi și permitea utilizatorilor să genereze imagini aeriene fotorealiste pe baza unor descrieri text. Practic, orice persoană putea solicita sistemului să creeze un anumit peisaj, o clădire sau o infrastructură, iar modelul AI producea o imagine care semăna foarte mult cu o fotografie realizată din satelit.
Deși Google a precizat că imaginile generate nu apăreau în versiunea principală a Google Earth și nu înlocuiau imaginile reale ale platformei, specialiștii au atras imediat atenția asupra potențialului de manipulare.
Problema nu ține doar de existența unor imagini artificiale, ci de nivelul foarte ridicat de realism pe care îl pot atinge modelele moderne de inteligență artificială.
Îngrijorările au apărut după ce cercetătorul olandez în domeniul informațiilor și verificării digitale, Henk van Ess, a demonstrat că instrumentul poate genera o instalație nucleară fictivă în Iran.
Exemplul a atras rapid atenția experților în securitate și a devenit unul dintre principalele motive pentru care Google a decis suspendarea funcției.
Potrivit lui Van Ess, imaginile produse de inteligența artificială pot deveni suficient de convingătoare încât să inducă în eroare jurnaliști, cercetători din domeniul informațiilor, organizații de verificare a faptelor și chiar instituții publice.
În contextul geopolitic actual, existența unor imagini satelitare fabricate poate avea consecințe importante asupra modului în care circulă informațiile în spațiul public.
La scurt timp după apariția criticilor, Google a anunțat pe platforma X că retrage temporar noua funcție.
Compania susține că lucrează la introducerea unor mecanisme suplimentare de siguranță înainte ca instrumentul să fie disponibil din nou.
Google a subliniat că imaginile generate prin inteligență artificială nu au fost publicate în versiunea standard a Google Earth și nu au afectat baza de date oficială a platformei.
Reprezentanții companiei nu au oferit alte explicații suplimentare în afara comunicatului public.
În ultimii ani, fotografiile din satelit au devenit una dintre cele mai importante surse de verificare pentru evenimente internaționale.
Aceste imagini sunt utilizate pentru documentarea conflictelor armate, monitorizarea dezastrelor naturale, analiza schimbărilor climatice, verificarea construcțiilor militare sau urmărirea dezvoltării infrastructurii.
Numeroase investigații jurnalistice se bazează pe comparații între imagini satelitare realizate în momente diferite.
Dacă imaginile generate prin inteligență artificială devin imposibil de diferențiat de cele autentice, procesul de verificare poate deveni mult mai dificil.
Experții avertizează că astfel de materiale ar putea circula pe rețelele sociale fără explicații privind originea lor și ar putea fi prezentate drept dovezi reale.
În lipsa unor sisteme eficiente de identificare, verificarea autenticității ar necesita resurse suplimentare și analize complexe.
Modelele generative au evoluat spectaculos în ultimii ani.
Dacă primele versiuni produceau imagini cu defecte evidente, noile sisteme pot crea texturi, umbre, vegetație, clădiri și relief cu un nivel ridicat de realism.
Acest progres tehnologic aduce beneficii importante în domenii precum arhitectura, urbanismul, educația sau simulările 3D.
În același timp însă, aceeași tehnologie poate servi la fabricarea unor imagini false folosite în campanii de dezinformare, fraude sau manipulări politice.
Specialiștii în securitate cibernetică avertizează că riscurile cresc pe măsură ce aceste instrumente devin accesibile unui număr tot mai mare de utilizatori.
Retragerea funcției apare într-un moment în care Alphabet accelerează investițiile în inteligența artificială.
Compania integrează tehnologii generative în numeroase produse, inclusiv Search, Workspace, Maps și Google Earth.
Strategia urmărește creșterea numărului de utilizatori și dezvoltarea unor noi surse de venit într-o piață în care competiția dintre marile companii tehnologice se intensifică.
Google concurează direct cu OpenAI, Microsoft, Meta și alte companii care dezvoltă modele generative tot mai performante.
În paralel, investitorii urmăresc cu atenție costurile uriașe asociate dezvoltării infrastructurii AI.
Alphabet a anunțat recent un plan de investiții estimat la aproximativ 205 miliarde de dolari, destinat extinderii infrastructurii necesare dezvoltării inteligenței artificiale.
Anunțul a generat întrebări din partea investitorilor cu privire la rentabilitatea acestor cheltuieli și la perioada necesară pentru recuperarea investițiilor.
Compania încearcă să demonstreze că noile funcții AI pot atrage utilizatori suplimentari și pot genera venituri pe termen lung.
În acest context, fiecare lansare devine atent analizată atât din perspectiva inovației, cât și a riscurilor.
Cazul Google Earth evidențiază dificultățile cu care se confruntă companiile tehnologice în momentul lansării unor instrumente AI capabile să producă imagini aproape imposibil de diferențiat de realitate.
Pe de o parte, astfel de tehnologii deschid oportunități importante pentru proiectare, educație și simulări vizuale.
Pe de altă parte, ele pot facilita răspândirea unor informații false cu impact asupra opiniei publice, securității și încrederii în sursele vizuale.
Industria încearcă să găsească un echilibru între inovație și protecția utilizatorilor. Introducerea unor filigrane digitale, identificarea conținutului generat de AI și limitarea anumitor solicitări se numără printre soluțiile analizate de dezvoltatorii marilor platforme.
Retragerea rapidă a funcției din Google Earth arată că marile companii tehnologice preferă să suspende temporar produse cu potențial ridicat de risc decât să permită utilizarea lor într-un mod care poate afecta credibilitatea informațiilor vizuale și poate amplifica fenomenul dezinformării.
