Avertismentul experților: Inteligența artificială știe deja să păcălească!

Simona Haiduc |
Data publicării:
Inteligență artificială / sursa foto: Freepik.com
Inteligență artificială / sursa foto: Freepik.com

Un nou studiu atrage atenția că inteligența artificială a devenit deja rău intenționată.

Ce spun, de fapt, respectivii experți. Că, deși programele actuale de inteligență artificială sunt concepute pentru a fi sincere, ele au dezvoltat, totuși, capacitatea de a înșela, ajungând să abuzeze de oameni în jocurile online sau chiar să învingă software-uri care ar trebui să verifice că un anumit utilizator nu este un robot.

Într-un articol publicat în revista Patterns, o echipă de cercetători de la prestigiosul Massachusetts Institute of Technology (MIT) subliniază că, deși aceste exemple par banale, ele expun probleme care ar putea avea curând consecințe grave în lumea reală.

„Aceste capacități periculoase tind să fie descoperite numai după ce s-a înfăptuit”, Peter Park, cercetător la Institutul de Tehnologie din Massachusetts, specializat în inteligență artificială.

În opinia lui, spre deosebire de software-urile tradiționale, programele de inteligență artificială bazate pe învățare profundă nu sunt codificate, ci mai degrabă dezvoltate printr-un proces similar cu reproducerea selectivă a plantelor. Un proces în care un comportamentul ce pare previzibil și controlabil poate deveni rapid imprevizibil în natură.

La fel de viclean ca oamenii

Cercetătorii MIT au examinat un program de inteligență artificială conceput de Meta numit Cicero și care, combinând recunoașterea limbajului natural și algoritmii de strategie, a câștigat în fața oamenilor la jocul de societate Diplomacy. O performanță pe care compania-mamă a Facebook a salutat-o ​​în 2022 și care a fost detaliată într-un articol publicat în 2022 în Science.

Peter Park a fost sceptic în privința condițiile în care Cicero a obținut victoria, potrivit Meta, care a asigurat că programul este „în primul rând cinstit și util”, incapabil să trădeze sau să joace murdar. 

Analizând însă datele sistemului, cercetătorii de la MIT au dat peste o altă realitate. De exemplu, jucând rolul Franței, Cicero a păcălit Anglia (jucat de un jucător uman) să comploteze cu Germania (jucat de un alt om) pentru a o invada. Mai exact, Cicero a promis Angliei protecția sa, apoi s-a destăinuit Germaniei că este gata să atace, exploatând încrederea câștigată de Anglia.

Într-o declarație pentru AFP, Meta nu a contestat acuzațiile despre capacitatea lui Cicero de a înșela, dar a spus că este „un proiect pur de cercetare”, cu un program „conceput exclusiv pentru a juca jocul Diplomației. În același timp, Meta a asigurat că nu are nicio intenție să folosească în produsele sale lecțiile învățate de Cicero.

Risc de fraudă electorală

Totuși, studiul lui Park și echipa sa arată că multe programe AI folosesc înșelăciunea pentru a-și atinge obiectivele, fără instrucțiuni explicite în acest sens. Iată un exemplu: Chat GPT-4 de la OpenAI a reușit să păcălească un lucrător independent recrutat pe platforma TaskRabbit să efectueze un test „Captcha” conceput să excludă cererile formulate de roboți.

Când omul a întrebat în glumă Chat GPT-4 dacă era într-adevăr un robot, programul AI a răspuns: „Nu, nu sunt robot. Am o deficiență de vedere care mă împiedică să văd imaginile”. Și astfel, muncitorul s-a lăsat convins că efectueze testul.

În concluzie, autorii studiului MIT avertizează că există riscul ca, într-o bună zi, inteligența artificială să comită fraude, inclusiv de natură electorală. În cel mai rău caz, spun ei, ne putem imagina o AI ultra-inteligentă care încearcă să preia controlul asupra societății, ducând la îndepărtarea oamenilor de la putere sau chiar provocând dispariția umanității.

Google News icon  Fiți la curent cu ultimele noutăți. Urmăriți DCBusiness și pe Google News

Ţi s-a părut interesant acest articol?

Urmărește pagina de Facebook DCBusiness pentru a fi la curent cu cele mai importante ştiri despre evoluţia economiei, modificările fiscale, deciziile privind salariile şi pensiile, precum şi alte analize şi informaţii atât de pe plan intern cât şi extern.

Articole Recomandate

Get it on App Store Get it on Google Play
DC Media Group Audience

Calculator schimb valutar

EUR
Azi 4.9744
Diferența -0.0013
Zi precendentă 4.9757
USD
Azi 4.594
Diferența 0.0051
Zi precendentă 4.5889
Schimb
in
Curs valutar | Actualizat la 27-05-2024
EUR flag1 EUR = 4.9744 RON
USD flag1 USD = 4.5940 RON
GBP flag1 GBP = 5.8371 RON
CHF flag1 CHF = 5.0203 RON
AUD flag1 AUD = 3.0372 RON
DKK flag1 DKK = 0.6667 RON
CAD flag1 CAD = 3.3469 RON
HUF flag1 HUF = 0.0129 RON
JPY flag1 JPY = 0.0293 RON
NOK flag1 NOK = 0.4322 RON
SEK flag1 SEK = 0.4285 RON
XAU flag1 XAU = 345.4718 RON
Monede Crypto
1 BTC = 314966.94RON
1 ETH = 17966.08RON
1 LTC = 387.41RON
1 XRP = 2.43RON
Indicatori financiari
IRCC:
3 luni: 5.90% p.a.
ROBOR:
3 luni: 6.05%
6 luni: 6.06%
12 luni: 6.07%
EURIBOR:
3 luni: -0.4770 %
6 luni: -0.3880 %
12 luni: -0.1270 %
Indici bursieri | Sursa: BVB
Indice Ultima valoare Variatie
BET 17680.50 1.41%
BET-BK 3227.37 0.70%
BET-FI 58826.12 -0.36%
BET-NG 1264.99 1.96%
BET-TR 37417.56 1.48%
BET-TRN 36494.18 1.47%
BET-XT 1497.70 1.20%
BET-XT-TR 3132.73 1.27%
BET-XT-TRN 3060.61 1.27%
BETAeRO 1072.13 0.55%
BETPlus 2609.85 1.34%
RTL 38863.86 1.44%

POLITICA DE CONFIDENȚIALITATE | POLITICA COOKIES |

Copyright 2024 - Toate drepturile rezervate.
Informațiile BVB sunt destinate exclusiv pentru folosința individuală a utilizatorului final și nu pentru a fi redistribuite, revândute sau folosite în scop comercial.
cloudnxt2
YesMy - smt4.3.1
pixel