Scandal URIAȘ la Google după ce un inginer a afirmat că un AI are sentimente

Oana Pavelescu / 14 iun, 18:52
Scandal uriaș la Google
Scandal uriaș la Google

Blake Lemoine, un inginer de software din cadrul echipei de dezvoltare a inteligenței artificiale a Google, a făcut publice afirmațiile potrivit cărora a întâlnit inteligență artificială "sensibilă" pe serverele companiei, după ce a fost suspendat pentru că a împărtășit informații confidențiale despre proiect cu terțe părți.

Unitatea Alphabet Inc. l-a plasat pe cercetător în concediu plătit la începutul săptămânii trecute, pe motiv că a încălcat politica de confidențialitate a firmei, a declarat acesta într-o postare pe rețeaua Medium intitulată "S-ar putea să fiu concediat în curând pentru că am făcut muncă de etică în domeniul IA".

În postare, el face o legătură cu membrii anteriori ai grupului de etică AI al Google, cum ar fi Margaret Mitchell, care au fost în cele din urmă concediați de companie într-un mod similar după ce au ridicat probleme.

Tulburările etice ale Google în materie de inteligență artificială au început cu mult înainte de dezvăluirea publică a lui Blake Lemoine.

Sâmbătă, Washington Post a publicat un interviu cu Lemoine, în care acesta a declarat că a ajuns la concluzia că AI-ul Google cu care a interacționat era ca o persoană. AI-ul în cauză este denumit LaMDA, sau Modelul de limbaj pentru aplicații de dialog, și este folosit pentru a genera roboți de chat care interacționează cu utilizatorii umani adoptând diverse modele de personalitate. Lemoine a declarat că a încercat să efectueze experimente pentru a demonstra acest lucru, dar a fost respins de cadrele superioare din cadrul companiei atunci când a ridicat problema la nivel intern.

"Unii din comunitatea mai largă de inteligență artificială iau în considerare posibilitatea pe termen lung a unei inteligențe artificiale senzitive sau generale, dar nu are sens să facem acest lucru prin antropomorfizarea modelelor conversaționale de astăzi, care nu sunt senzitive", a declarat Brian Gabriel, purtător de cuvânt al Google, în replică față de afirmațiile inginerului. "Echipa noastră - inclusiv eticieni și tehnologi - a analizat preocupările lui Blake conform principiilor noastre privind AI și l-a informat că dovezile nu susțin afirmațiile sale."

Întrebat despre suspendarea lui Lemoine, compania a declarat că nu comentează probleme de personal.

Este IREAL! China a dezvoltat primul judecător cu inteligență artificială

De ce trebuie să fim îngrijorați de fapt

Ceea ce este îngrijorător este că Alphabet a înăsprit de fapt controlul asupra activității sale de inteligență artificială. Anul trecut, fondatorii lăudatului său laborator de cercetare în domeniul inteligenței artificiale, DeepMind, au eșuat în încercarea lor de ani de zile de a-l transforma într-o entitate necorporatistă. Aceștia doreau să se restructureze într-o organizație de tip ONG, cu mai multe părți interesate, considerând că puternica "inteligență generală artificială" pe care încercau să o construiască - a cărei inteligență ar putea în cele din urmă să o depășească pe cea a oamenilor - nu ar trebui să fie controlată de o singură entitate corporativă. Personalul lor a redactat linii directoare care interziceau ca inteligența artificială a DeepMind să fie folosită în arme autonome sau în scopuri de supraveghere.

În schimb, Google a refuzat planurile și a însărcinat propriul consiliu de etică, condus de directori Google, să supravegheze impactul social al sistemelor puternice pe care DeepMind le construia.

Respingerea de către Google a lui Lemoine și a întrebărilor sale este, de asemenea, îngrijorătoare, deoarece urmează un model de a arăta ușa vocilor disidente. La sfârșitul anului 2020, Google l-a concediat pe omul de știință Timnit Gebru din cauza unei lucrări de cercetare în care se spunea că modelele lingvistice - care sunt fundamentale pentru activitatea de căutare și publicitate a Google - deveneau prea puternice și potențial manipulatoare. Google a spus că nu se concentrase suficient de mult pe soluții. Săptămâni mai târziu, a concediat-o și pe cercetătoarea Margaret Mitchell, spunând că a încălcat codul de conduită și politicile de securitate ale companiei.

Disidenții, dați afară de la Google

Atât Mitchell, cât și Gebru au criticat Google pentru modul în care a tratat-o pe Lemoine, spunând că, de ani de zile, compania a neglijat, de asemenea, să acorde atenția cuvenită femeilor și eticienilor.

Indiferent dacă cineva crede că Lemoine este nebun sau că are dreptate, răspunsul Google la preocupările sale subliniază o întrebare mai amplă cu privire la cine ne controlează viitorul. Acceptăm cu adevărat că o singură entitate corporatistă bogată va conduce unele dintre cele mai importante tehnologii transformatoare pe care omenirea le va dezvolta în epoca modernă?

În timp ce Google și alți giganți din domeniul tehnologiei nu vor renunța la rolul lor dominant în cercetarea în domeniul IA, este esențial să punem la îndoială modul în care aceștia dezvoltă o tehnologie atât de puternică și să refuzăm să lăsăm scepticii și intelectualii aberanți să fie reduși la tăcere.

Google News icon  Fiți la curent cu ultimele noutăți. Urmăriți DCBusiness și pe Google News

Articole Recomandate

Get it on App Store Get it on Google Play

Calculator schimb valutar

EUR
Azi 4.9461
Diferența 0.0007
Zi precendentă 4.9454
USD
Azi 4.7286
Diferența -0.0138
Zi precendentă 4.7424
Schimb
in
Curs valutar | Actualizat la 03-07-2022
EUR flag1 EUR = 4.9461 RON
USD flag1 USD = 4.7286 RON
GBP flag1 GBP = 5.7088 RON
CHF flag1 CHF = 4.9311 RON
AUD flag1 AUD = 3.2198 RON
DKK flag1 DKK = 0.6650 RON
CAD flag1 CAD = 3.6612 RON
HUF flag1 HUF = 0.0124 RON
JPY flag1 JPY = 0.0349 RON
NOK flag1 NOK = 0.4769 RON
SEK flag1 SEK = 0.4595 RON
XAU flag1 XAU = 273.0029 RON
Monede Crypto
1 BTC = 90273.42RON
1 ETH = 4979.03RON
1 LTC = 235.34RON
1 XRP = 1.49RON
Indicatori financiari
IRCC:
3 luni: 2.65% p.a.
ROBOR:
3 luni: 6.47%
6 luni: 6.60%
12 luni: 6.73%
EURIBOR:
3 luni: -0.4770 %
6 luni: -0.3880 %
12 luni: -0.1270 %
Indici bursieri | Sursa: BVB
Indice Ultima valoare Variatie
BET 12375.32 0.66%
BET-BK 2253.51 0.13%
BET-FI 50107.35 -0.59%
BET-NG 943.07 0.72%
BET-TR 23459.17 0.66%
BET-TRN 23374.09 0.66%
BET-XT 1078.22 0.45%
BET-XT-TR 2030.27 0.45%
BET-XT-TRN 2023.61 0.45%
BETAeRO 910.97 -0.70%
BETPlus 1845.89 0.60%
RTL 27605.93 0.71%

Opinii

Virgil Popescu / Foto: gov.ro

Lui Virgil Popescu i-au murit lăudătorii

Cu mare greutate și pe ultima sută de metri,...

Mircea Coșea / Foto: Arhivă

Mircea Coșea: ”Suntem o țară de 50 de bani. O spun cu durere!”

Mircea Coșea și-a exprimat opinia față de...

Dar trebuie să privim și partea plină a paharului, adică tot e bine că s-au mai luat niște decizii

Ce spun românii despre măsurile Guvernului. Avem răspunsurile

Sunt românii mulțumiți de măsurile adoptate de...

Cannes, Franța
Cannes, Franța
Cannes, Franța
Cannes, Franța
Cannes, Franța
Cannes, Franța
Cannes, Franța
Cannes, Franța
Cannes, Franța
Cannes, Franța
Cannes, Franța
Cannes, Franța
Cannes, Franța
Cannes, Franța
Cannes, Franța
Cannes, Franța
Cannes, Franța
Cannes, Franța
Cannes, Franța
Cannes, Franța

POLITICA DE CONFIDENȚIALITATE | POLITICA COOKIES |

Copyright 2022 - Toate drepturile rezervate.
Informațiile BVB sunt destinate exclusiv pentru folosința individuală a utilizatorului final și nu pentru a fi redistribuite, revândute sau folosite în scop comercial.
cloudnxt2
YesMy - smt4.1.0