Pentagonul a lansat primul task force pentru inteligență artificială generativă

DCBusiness Team |
Data publicării:
Inteligența Artificială
Inteligența Artificială

Programele de inteligență artificială generativă, precum ChatGPT și Bard de la Google, au captat atenția publicului și au atras atenția legislatorilor, deși, până în prezent, Pentagonul a fost reticent în a le adopta.

Așa a fost până azi, când Departamentul Apărării a anunțat înființarea un grup de lucru pentru a înțelege cum ar putea folosi astfel de instrumente în siguranță, pentru a dezvălui situațiile în care nu este sigur pentru departament să le folosească și pentru a explora modul în care țări precum China ar putea folosi AI generativă pentru a dăuna Statelor Unite. 

Grupul operativ, denumit Task Force Lima, "va evalua, sincroniza și utiliza inteligența artificială (AI) generativă în întregul departament", potrivit unui proiect de declarație de presă consultat de Defense One. 

Inteligența artificială generativă se referă la "o categorie de algoritmi de inteligență artificială care generează noi rezultate pe baza datelor pe care au fost instruiți", potrivit Forumului Economic Mondial. Acest lucru este foarte diferit de algoritmii mult mai simpli de învățare automată care iau doar date structurate, cum ar fi valorile numerice, și produc următorul rezultat statistic probabil. Instrumentele de inteligență artificială generativă destinate publicului includ așa-numitele modele lingvistice mari, cum ar fi ChatGPT, care pot scrie texte noi care nu se pot distinge în mare măsură de vorbirea umană. Aceste instrumente au fost deja utilizate pentru a scrie eseuri, planuri de afaceri și chiar lucrări științifice. Dar, deoarece modelele lingvistice mari sunt antrenate pe corpusuri de date la fel de mari ca și Web-ul de căutare, acestea mint uneori - sau, în limbajul cercetătorilor în domeniul IA, "halucinează". Din acest motiv, oficialii Pentagonului și-au exprimat reticența față de adoptarea IA generativă.

Noul efort va fi condus de Craig Martell, ofițerul principal digital al Departamentului Apărării. Martell a declarat că multe lucruri sunt încă incerte, dar un obiectiv principal va fi acela de a găsi un "set de cazuri de utilizare, la nivel intern al departamentului, în care credem că AI generativă ne poate ajuta să ne facem treaba și în care pericolele, dificultățile AI generativă pot fi atenuate. De exemplu... dacă am nevoie să fac o primă redactare a unui document, este în regulă, pentru că îmi voi asuma întreaga responsabilitate de a edita acel document, de a mă asigura că este corect înainte de a-l transmite mai departe, pentru că este în joc cariera mea". 

Cu toate acestea, există o serie de cazuri de utilizare în care riscurile unor aberații vor fi prea mari pentru a utiliza un model lingvistic cuprinzător, cum ar fi "orice lucru cinetic" sau faptul că trebuie să se ocupe de arme letale, a spus el. 

"Să ne lămurim care sunt condițiile de acceptabilitate", a spus Martell. De exemplu, dacă cineva din departament trebuie să rezume foarte repede o mulțime de text într-un document juridic, un LLM ar putea fi un instrument bun în acest scop, dar numai dacă utilizatorul poate satisface anumite preocupări. "Cum atenuăm apoi potențialele aberații care se află în acel text? Dacă există proceduri prin care acel text poate fi verificat cu ușurință, atunci probabil că vom fi de acord cu asta."

Martell a venit la Departamentul Apărării de la Lyft și a avertizat public asupra pericolelor pe care le pot reprezenta modelele lingvistice cuprinzătoare. Dar, spune el, astfel de modele "nu sunt o cutie a Pandorei". Departamentul Apărării trebuie să înțeleagă unde pot fi folosite în siguranță - și unde adversarii le-ar putea desfășura, a spus el. "Va exista un set de cazuri de utilizare care vor fi noi vectori de atac, nu doar pentru Departamentul Apărării, ci și pentru corporații. Și va trebui să... să ne dăm seama cum să le rezolvăm".

Grupul operativ va ajuta, de asemenea, Pentagonul să înțeleagă mai bine ce trebuie să cumpere pentru a atinge noile ambiții în materie de inteligență artificială. Asta ar putea însemna mai multe servicii cloud, date sau date sintetice, modele sau nimic din toate acestea. Efortul este într-un stadiu prea incipient pentru a ști exact ce va însemna pentru industrie, a spus Martell. 

"Dacă decidem că ne vom construi propriul nostru model de bază, vom mări volumul de calcul, nu există nicio îndoială în această privință. Pentru a-ți construi propriul model de fundație, ai nevoie de multă putere de calcul. Dacă o vom cumpăra de la altcineva sau dacă vom lua un model open source și îl vom perfecționa", este posibil să aibă nevoie de contracte diferite, a spus el. 

Martell a spus că o întrebare mai amplă este dacă Departamentul Apărării în ce măsură AI generativă ar putea fi utilă, având în vedere o mai bună înțelegere a riscurilor. În timp ce departamentul are o mulțime de date interne atent îngrijite, terabytes de diagnostice ale motoarelor de avioane cu reacție sau ani de filmări ale camerelor de supraveghere a dronelor deasupra Orientului Mijlociu nu reprezintă un model lingvistic mare. Deoarece acestea trebuie să extragă din corpusuri mari de text, o anumită cantitate de nesiguranță este inerentă modului în care funcționează. Întrebarea la care domeniul academic nu a răspuns încă este dacă această lipsă de fiabilitate inerentă poate fi cuantificată cu precizie pentru a dezvălui riscurile utilizării.

"Este o întrebare deschisă dacă dispunem de suficiente date care să acopere o arie de acoperire suficient de largă pentru ca valoarea modelului să se mențină și fără acele date preinstruite. Pe de altă parte... ipoteza mea este că, cu cât sunt mai multe date pre-antrenate, cu atât este mai probabil ca halucinațiile. Așadar, acesta este un compromis pe care va trebui să îl explorăm cu adevărat. Nu cred, de fapt nu cred că comunitatea științifică știe încă răspunsul la această întrebare", a spus el. 

Unul dintre beneficiile potențiale ale grupului de lucru este acela de a aduce clarificări în ceea ce privește abordarea  celei mai bune căi de urmat pentru industrie - cel puțin dacă obiectivul este de a produce servicii sau produse care să îndeplinească standardele Departamentului Apărării.

Google News icon  Fiți la curent cu ultimele noutăți. Urmăriți DCBusiness și pe Google News

Articole Recomandate

Get it on App Store Get it on Google Play
DC Media Group Audience

Calculator schimb valutar

EUR
Azi 4.9725
Diferența 0.0023
Zi precendentă 4.9702
USD
Azi 4.5419
Diferența 0.0050
Zi precendentă 4.5369
Schimb
in
Curs valutar | Actualizat la 29-11-2023
EUR flag1 EUR = 4.9725 RON
USD flag1 USD = 4.5419 RON
GBP flag1 GBP = 5.7376 RON
CHF flag1 CHF = 5.1534 RON
AUD flag1 AUD = 3.0036 RON
DKK flag1 DKK = 0.6669 RON
CAD flag1 CAD = 3.3433 RON
HUF flag1 HUF = 0.0131 RON
JPY flag1 JPY = 0.0306 RON
NOK flag1 NOK = 0.4260 RON
SEK flag1 SEK = 0.4353 RON
XAU flag1 XAU = 294.1024 RON
Monede Crypto
1 BTC = 172538.29RON
1 ETH = 9306.99RON
1 LTC = 316.57RON
1 XRP = 2.77RON
Indicatori financiari
IRCC:
3 luni: 5.96% p.a.
ROBOR:
3 luni: 6.25%
6 luni: 6.31%
12 luni: 6.39%
EURIBOR:
3 luni: -0.4770 %
6 luni: -0.3880 %
12 luni: -0.1270 %
Indici bursieri | Sursa: BVB
Indice Ultima valoare Variatie
BET 14801.12 0.77%
BET-BK 2770.82 0.46%
BET-FI 57803.08 -0.80%
BET-NG 1082.48 0.85%
BET-TR 30560.14 0.77%
BET-TRN 29867.99 0.77%
BET-XT 1275.18 0.62%
BET-XT-TR 2603.14 0.63%
BET-XT-TRN 2548.43 0.63%
BETAeRO 945.99 -0.24%
BETPlus 2196.76 0.71%
RTL 32935.62 0.56%

Opinii

Valentin Lazea / Foto: Agerpres
Forumul Țărilor Arabe și Musulmane / Foto: OIC

The Economist: Multe guverne arabe vor ca Hamas să dispară

Multe guverme arabe vor ca Hamas să dispară...

Xi Jinping și Joe Biden

De ce SUA ar trebui să se teamă de China

Joe Biden se va întâlni cu Xi Jinping la San...


POLITICA DE CONFIDENȚIALITATE | POLITICA COOKIES |

Copyright 2023 - Toate drepturile rezervate.
Informațiile BVB sunt destinate exclusiv pentru folosința individuală a utilizatorului final și nu pentru a fi redistribuite, revândute sau folosite în scop comercial.
cloudnxt3
YesMy - smt4.3.1