Unde se află supercomputerul ChatGPT. Suma pe care Microsoft a cheltuit-o pentru acest prim serviciu de inteligență Artificială

Oana Pavelescu |
Data publicării:
Microsoft a reușit să facă ceva extraordinar / Foto: DCBusiness
Microsoft a reușit să facă ceva extraordinar / Foto: DCBusiness

Când Microsoft Corp. a investit 1 miliard de dolari în OpenAI în 2019, a fost de acord să construiască un supercomputer masiv, de ultimă generație, pentru startup-ul de cercetare în domeniul inteligenței artificiale.

Dar a apărut și problema: Microsoft nu avea nimic asemănător cu ceea ce avea nevoie OpenAI și nu era complet sigură că ar putea construi ceva atât de mare în serviciul său de cloud Azure care să și suporte rularea unui astfel de program.

OpenAI încerca să antreneze un set din ce în ce mai mare de programe de inteligență artificială numite modele, care ingerau volume din ce în ce mai mari de date și învățau din ce în ce mai mulți parametri, variabilele pe care sistemul de inteligență artificială le-a descoperit prin antrenamente și reantrenamente. Acest lucru însemna că OpenAI avea nevoie de acces la servicii puternice de cloud computing pentru perioade lungi de timp. 

Antrenamente, servere și procesoare puternice

Pentru a face față acestei provocări, Microsoft a trebuit să găsească modalități de a înșirui zeci de mii de cipuri grafice A100 de la Nvidia Corp. - calul de bătaie pentru antrenarea modelelor de inteligență artificială - și să schimbe modul în care poziționează serverele pe rafturi pentru a preveni întreruperile de curent. Scott Guthrie, vicepreședintele executiv al Microsoft care supervizează cloud-ul și AI, nu a vrut să ofere un cost specific pentru proiect, dar a spus că "este probabil mai mare" de câteva sute de milioane de dolari.

"Am construit o arhitectură de sistem care poate funcționa și fi fiabilă la scară foarte mare. Asta a dus la faptul că ChatGPT a fost posibil", a declarat Nidhi Chappell, directorul general al Microsoft pentru infrastructura Azure AI. "Acesta este unul dintre modelele care a rezultat. Vor fi multe, multe altele".

Tehnologia a permis OpenAI să lanseze ChatGPT, chatbotul viral care a atras peste 1 milion de utilizatori la câteva zile după ce a devenit public în noiembrie și care acum este atras în modelele de afaceri ale altor companii, de la cele conduse de fondatorul miliardar al fondurilor speculative Ken Griffin la serviciul de livrare de alimente Instacart Inc. Pe măsură ce instrumentele de inteligență artificială generativă, precum ChatGPT, capătă interes din partea întreprinderilor și a consumatorilor, furnizorii de servicii cloud precum Microsoft, Amazon.com Inc. și Google, aparținând Alphabet Inc., vor fi supuși unei presiuni tot mai mari pentru a se asigura că centrele lor de date pot furniza puterea de calcul enormă necesară. 

În prezent, Microsoft folosește același set de resurse pe care l-a construit pentru OpenAI pentru a antrena și rula propriile modele mari de inteligență artificială, inclusiv noul robot de căutare Bing introdus luna trecută. De asemenea, vinde sistemul și altor clienți. Gigantul software lucrează deja la următoarea generație a supercomputerelor de inteligență artificială, parte a unui acord extins cu OpenAI în care Microsoft a adăugat 10 miliarde de dolari la investiția sa.

Ce este în spatele ChatGPT

Antrenarea unui model masiv de inteligență artificială necesită un grup mare de unități de procesare grafică conectate într-un singur loc, precum supercomputerul de inteligență artificială asamblat de Microsoft. Odată ce un model este utilizat, răspunsul la toate întrebările pe care le adresează utilizatorii - numit inferență - necesită o configurație ușor diferită. Microsoft implementează, de asemenea, cipuri grafice pentru inferență, dar aceste procesoare - sute de mii - sunt dispersate geografic în cele peste 60 de regiuni unde compania are centre de date. Acum, compania adaugă cel mai recent cip grafic Nvidia pentru sarcini de lucru AI - H100 - și cea mai nouă versiune a tehnologiei de rețea Infiniband de la Nvidia pentru a partaja datele și mai rapid, a declarat luni Microsoft într-o postare pe blog. 

În prezent, Microsoft folosește același set de resurse pe care l-a construit pentru OpenAI pentru a antrena și rula propriile modele mari de inteligență artificială, inclusiv noul robot de căutare Bing prezentat luna trecută. De asemenea, vinde sistemul și altor clienți. Gigantul software lucrează deja la următoarea generație a supercomputerului de inteligență artificială, parte a unui acord extins cu OpenAI, în care Microsoft a adăugat 10 miliarde de dolari la investiția sa.

Noul Bing este încă în previzualizare, Microsoft adăugând treptat mai mulți utilizatori de pe o listă de așteptare. Echipa lui Guthrie organizează o întâlnire zilnică cu aproximativ două duzini de angajați pe care i-a supranumit "pit crew" (echipa de la boxe), după numele grupului de mecanici care reglează mașinile de curse în mijlocul cursei. Sarcina grupului este de a găsi soluții pentru a aduce rapid online cantități mai mari de capacitate de calcul, precum și de a rezolva problemele care apar.

"Este foarte mult un fel de adunare, în care se spune: "Hei, dacă cineva are o idee bună, haideți să o punem pe masă astăzi, să o discutăm și să ne dăm seama dacă putem economisi câteva minute aici? Putem să mai reducem câteva ore? Câteva zile?"". a spus Guthrie. 

Ce îi trebuie unui serviciu cloud

Un serviciu cloud depinde de mii de piese și articole diferite - bucăți individuale de servere, conducte, beton pentru clădiri, diferite metale și minerale - iar o întârziere sau o lipsă de aprovizionare a oricărui component, oricât de mică ar fi, poate da totul peste cap. Recent, echipa s-a confruntat cu lipsa unor dispozitive care țin cablurile laolaltă. Așa că Microsoft a priectat un sistem propriu pe care îl va și produce. 

Apoi a fost problema alimentării cu energie electrică a acestei super-mașini. Microsoft a trebuit să se asigure că echipamentul de rețea care se ocupă de comunicarea între toate cipurile poate face față acestei sarcini și a trebuit să dezvolte un software care să utilizeze la maximum GPU-urile și echipamentul de rețea. În prezent, compania a creat un software care îi permite să antreneze modele cu zeci de trilioane de parametri.

Pentru că toate mașinile pornesc în același timp, Microsoft a trebuit să se gândească la locul în care au fost amplasate și la locul în care au fost amplasate sursele de alimentare. În caz contrar, se ajunge la versiunea pentru centrele de date a ceea ce se întâmplă atunci când pornești un cuptor cu microunde, un prăjitor de pâine și un aspirator în același timp în bucătărie, a declarat Guthrie.  

De asemenea, compania a trebuit să se asigure că poate răci toate aceste mașini și cipuri și folosește evaporarea, aerul de afară în climatele mai reci și răcitoare de înaltă tehnologie în zonele calde, a explicat Alistair Speirs, director al infrastructurii globale Azure.

Microsoft va continua să lucreze la modele personalizate de servere și cipuri și la modalități de optimizare a lanțului său de aprovizionare pentru a obține orice câștig de viteză, eficiență și economii de costuri pe care le poate obține, a spus Guthrie.

"Modelul care uimește lumea în acest moment este construit pe baza supercomputerului pe care am început să îl construim în urmă cu câțiva ani. Noile modele vor fi construite pe noul supercomputer pe care îl pregătim acum, care este mult mai mare și va permite o sofisticare și mai mare", a spus el. 

Google News icon  Fiți la curent cu ultimele noutăți. Urmăriți DCBusiness și pe Google News

Ţi s-a părut interesant acest articol?

Urmărește pagina de Facebook DCBusiness pentru a fi la curent cu cele mai importante ştiri despre evoluţia economiei, modificările fiscale, deciziile privind salariile şi pensiile, precum şi alte analize şi informaţii atât de pe plan intern cât şi extern.

Articole Recomandate

Get it on App Store Get it on Google Play
DC Media Group Audience

Calculator schimb valutar

EUR
Azi 4.9764
Diferența 0.0001
Zi precendentă 4.9763
USD
Azi 4.6687
Diferența 0.0062
Zi precendentă 4.6625
Schimb
in
Curs valutar | Actualizat la 22-04-2024
EUR flag1 EUR = 4.9764 RON
USD flag1 USD = 4.6687 RON
GBP flag1 GBP = 5.8125 RON
CHF flag1 CHF = 5.1404 RON
AUD flag1 AUD = 2.9982 RON
DKK flag1 DKK = 0.6669 RON
CAD flag1 CAD = 3.3943 RON
HUF flag1 HUF = 0.0126 RON
JPY flag1 JPY = 0.0302 RON
NOK flag1 NOK = 0.4231 RON
SEK flag1 SEK = 0.4259 RON
XAU flag1 XAU = 357.7647 RON
Monede Crypto
1 BTC = 307907.72RON
1 ETH = 14949.04RON
1 LTC = 396.79RON
1 XRP = 2.48RON
Indicatori financiari
IRCC:
3 luni: 5.90% p.a.
ROBOR:
3 luni: 6.05%
6 luni: 6.07%
12 luni: 6.08%
EURIBOR:
3 luni: -0.4770 %
6 luni: -0.3880 %
12 luni: -0.1270 %
Indici bursieri | Sursa: BVB
Indice Ultima valoare Variatie
BET 16910.08 0.43%
BET-BK 3110.25 0.45%
BET-FI 59801.99 -0.16%
BET-NG 1206.54 0.12%
BET-TR 35086.37 0.43%
BET-TRN 34277.67 0.43%
BET-XT 1439.97 0.36%
BET-XT-TR 2954.18 0.36%
BET-XT-TRN 2890.93 0.36%
BETAeRO 1056.20 0.09%
BETPlus 2498.87 0.41%
RTL 37135.90 0.42%

POLITICA DE CONFIDENȚIALITATE | POLITICA COOKIES |

Copyright 2024 - Toate drepturile rezervate.
Informațiile BVB sunt destinate exclusiv pentru folosința individuală a utilizatorului final și nu pentru a fi redistribuite, revândute sau folosite în scop comercial.
cloudnxt2
YesMy - smt4.3.1
pixel