UE spune STOP abuzurilor folosind AI: Manipularea online și supravegherea emoțională, interzise

Angajatorii nu vor mai putea folosi inteligența artificială pentru a monitoriza emoțiile angajaților, iar site-urile web nu vor avea voie să utilizeze AI pentru a manipula utilizatorii în scopuri financiare, conform noilor ghiduri AI anunțate marți de Comisia Europeană.

Aceste orientări vin în contextul în care companiile încearcă să se adapteze la prima legislație globală privind utilizarea inteligenței artificiale – Actul privind Inteligența Artificială (AI Act), care a devenit obligatoriu anul trecut și va fi pe deplin aplicabil din 2 august 2026. Anumite restricții, precum interzicerea unor practici specifice, au intrat în vigoare încă din 2 februarie 2024.

Reguli stricte pentru protecția utilizatorilor și angajaților

Un oficial al Comisiei Europene a explicat că scopul ghidurilor este de a oferi claritate juridică pentru companiile care dezvoltă sau implementează sisteme AI pe piața europeană, precum și pentru autoritățile de supraveghere a pieței. Totuși, aceste ghiduri nu au caracter obligatoriu.

Printre practicile interzise se numără:

• "Dark patterns" bazate pe AI – metode care manipulează utilizatorii să facă achiziții costisitoare sau să își asume angajamente financiare semnificative.
• Exploatarea vulnerabilităților – utilizarea AI pentru a influența persoane în funcție de vârstă, dizabilități sau situație socio-economică.
• Scorarea socială bazată pe date irelevante – interzicerea folosirii AI pentru a evalua persoane pe baza originii etnice sau a altor date personale de către instituțiile de asistență socială și alte entități publice sau private.
• Predicția comportamentului criminal pe baza datelor biometrice – poliția nu poate utiliza AI pentru a anticipa infracțiunile unei persoane exclusiv pe baza trăsăturilor biometrice, dacă acestea nu sunt confirmate prin alte metode.

În ceea ce privește supravegherea angajaților, companiile nu mai au voie să folosească AI prin camere web sau sisteme de recunoaștere vocală pentru a monitoriza emoțiile acestora. De asemenea, poliția nu va putea utiliza camere de supraveghere mobilă echipate cu recunoaștere facială AI, cu excepția unor situații stricte și doar sub garanții legale solide.

Sancțiuni dure pentru încălcarea legislației AI

Până pe 2 august 2024, statele membre UE trebuie să desemneze autorități de supraveghere pentru a asigura respectarea noilor reguli. Companiile care încalcă legislația riscă amenzi cuprinse între 1,5% și 7% din veniturile lor globale.

În timp ce UE impune un cadru legal strict, Statele Unite au adoptat o abordare mai flexibilă, bazată pe conformare voluntară, iar China folosește AI în principal pentru menținerea stabilității sociale și controlului de stat.