Așa a fost până azi, când Departamentul Apărării a anunțat înființarea un grup de lucru pentru a înțelege cum ar putea folosi astfel de instrumente în siguranță, pentru a dezvălui situațiile în care nu este sigur pentru departament să le folosească și pentru a explora modul în care țări precum China ar putea folosi AI generativă pentru a dăuna Statelor Unite. 

Grupul operativ, denumit Task Force Lima, "va evalua, sincroniza și utiliza inteligența artificială (AI) generativă în întregul departament", potrivit unui proiect de declarație de presă consultat de Defense One. 

Inteligența artificială generativă se referă la "o categorie de algoritmi de inteligență artificială care generează noi rezultate pe baza datelor pe care au fost instruiți", potrivit Forumului Economic Mondial. Acest lucru este foarte diferit de algoritmii mult mai simpli de învățare automată care iau doar date structurate, cum ar fi valorile numerice, și produc următorul rezultat statistic probabil. Instrumentele de inteligență artificială generativă destinate publicului includ așa-numitele modele lingvistice mari, cum ar fi ChatGPT, care pot scrie texte noi care nu se pot distinge în mare măsură de vorbirea umană. Aceste instrumente au fost deja utilizate pentru a scrie eseuri, planuri de afaceri și chiar lucrări științifice. Dar, deoarece modelele lingvistice mari sunt antrenate pe corpusuri de date la fel de mari ca și Web-ul de căutare, acestea mint uneori - sau, în limbajul cercetătorilor în domeniul IA, "halucinează". Din acest motiv, oficialii Pentagonului și-au exprimat reticența față de adoptarea IA generativă.

Noul efort va fi condus de Craig Martell, ofițerul principal digital al Departamentului Apărării. Martell a declarat că multe lucruri sunt încă incerte, dar un obiectiv principal va fi acela de a găsi un "set de cazuri de utilizare, la nivel intern al departamentului, în care credem că AI generativă ne poate ajuta să ne facem treaba și în care pericolele, dificultățile AI generativă pot fi atenuate. De exemplu... dacă am nevoie să fac o primă redactare a unui document, este în regulă, pentru că îmi voi asuma întreaga responsabilitate de a edita acel document, de a mă asigura că este corect înainte de a-l transmite mai departe, pentru că este în joc cariera mea". 

Cu toate acestea, există o serie de cazuri de utilizare în care riscurile unor aberații vor fi prea mari pentru a utiliza un model lingvistic cuprinzător, cum ar fi "orice lucru cinetic" sau faptul că trebuie să se ocupe de arme letale, a spus el. 

"Să ne lămurim care sunt condițiile de acceptabilitate", a spus Martell. De exemplu, dacă cineva din departament trebuie să rezume foarte repede o mulțime de text într-un document juridic, un LLM ar putea fi un instrument bun în acest scop, dar numai dacă utilizatorul poate satisface anumite preocupări. "Cum atenuăm apoi potențialele aberații care se află în acel text? Dacă există proceduri prin care acel text poate fi verificat cu ușurință, atunci probabil că vom fi de acord cu asta."

Martell a venit la Departamentul Apărării de la Lyft și a avertizat public asupra pericolelor pe care le pot reprezenta modelele lingvistice cuprinzătoare. Dar, spune el, astfel de modele "nu sunt o cutie a Pandorei". Departamentul Apărării trebuie să înțeleagă unde pot fi folosite în siguranță - și unde adversarii le-ar putea desfășura, a spus el. "Va exista un set de cazuri de utilizare care vor fi noi vectori de atac, nu doar pentru Departamentul Apărării, ci și pentru corporații. Și va trebui să... să ne dăm seama cum să le rezolvăm".

Grupul operativ va ajuta, de asemenea, Pentagonul să înțeleagă mai bine ce trebuie să cumpere pentru a atinge noile ambiții în materie de inteligență artificială. Asta ar putea însemna mai multe servicii cloud, date sau date sintetice, modele sau nimic din toate acestea. Efortul este într-un stadiu prea incipient pentru a ști exact ce va însemna pentru industrie, a spus Martell. 

"Dacă decidem că ne vom construi propriul nostru model de bază, vom mări volumul de calcul, nu există nicio îndoială în această privință. Pentru a-ți construi propriul model de fundație, ai nevoie de multă putere de calcul. Dacă o vom cumpăra de la altcineva sau dacă vom lua un model open source și îl vom perfecționa", este posibil să aibă nevoie de contracte diferite, a spus el. 

Martell a spus că o întrebare mai amplă este dacă Departamentul Apărării în ce măsură AI generativă ar putea fi utilă, având în vedere o mai bună înțelegere a riscurilor. În timp ce departamentul are o mulțime de date interne atent îngrijite, terabytes de diagnostice ale motoarelor de avioane cu reacție sau ani de filmări ale camerelor de supraveghere a dronelor deasupra Orientului Mijlociu nu reprezintă un model lingvistic mare. Deoarece acestea trebuie să extragă din corpusuri mari de text, o anumită cantitate de nesiguranță este inerentă modului în care funcționează. Întrebarea la care domeniul academic nu a răspuns încă este dacă această lipsă de fiabilitate inerentă poate fi cuantificată cu precizie pentru a dezvălui riscurile utilizării.

"Este o întrebare deschisă dacă dispunem de suficiente date care să acopere o arie de acoperire suficient de largă pentru ca valoarea modelului să se mențină și fără acele date preinstruite. Pe de altă parte... ipoteza mea este că, cu cât sunt mai multe date pre-antrenate, cu atât este mai probabil ca halucinațiile. Așadar, acesta este un compromis pe care va trebui să îl explorăm cu adevărat. Nu cred, de fapt nu cred că comunitatea științifică știe încă răspunsul la această întrebare", a spus el. 

Unul dintre beneficiile potențiale ale grupului de lucru este acela de a aduce clarificări în ceea ce privește abordarea  celei mai bune căi de urmat pentru industrie - cel puțin dacă obiectivul este de a produce servicii sau produse care să îndeplinească standardele Departamentului Apărării.

  Fiți la curent cu ultimele noutăți. Urmăriți DCBusiness și pe Google News