Inteligența artificială, ingineria genetică și noile laboratoare automatizate reduc barierele care împiedicau până acum grupările teroriste sau chiar persoanele fără o pregătire științifică avansată să dezvolte arme biologice. Un atac nu ar lovi numai populația, ci ar putea distruge ferme, paraliza producția de medicamente și provoca pierderi economice uriașe.
Avertismentul este lansat de Elizabeth Sherwood-Randall, fost consilier pentru securitate internă la Casa Albă și fost adjunct al consilierului pentru securitate națională al Statelor Unite, într-o analiză publicată de revista Foreign Affairs.
Autoarea susține că sistemele de securitate actuale au fost construite pentru o lume în care numai câteva state dispuneau de laboratoarele, specialiștii și resursele necesare producerii unor arme biologice. Inteligența artificială riscă să schimbe radical această situație.
Sherwood-Randall descrie un scenariu în care o organizație teroristă folosește un model AI ale cărui mecanisme de protecție au fost eliminate pentru a proiecta o tulpină nouă a virusului gripei aviare H5N1.
Noua variantă ar putea fi concepută pentru a fi mai letală și pentru a trece mai ușor de la animale la oameni. Gruparea ar putea apela apoi la un laborator automatizat care primește comenzile online și execută experimentele la distanță.
Virusul ar putea fi dispersat în sistemele de ventilație ale unor ferme zootehnice mari. Primele consecințe ar fi economice: sacrificarea efectivelor, dispariția unor cantități importante de carne și lapte de pe piață, creșterea prețurilor și pierderi majore pentru fermieri și industria alimentară.
Dacă agentul patogen ar trece ulterior la oameni, efectele s-ar extinde asupra întregii economii. Spitalele ar fi suprasolicitate, angajații nu ar mai putea merge la serviciu, iar transporturile și lanțurile de aprovizionare ar fi perturbate.
Autoarea vorbește despre un scenariu posibil, nu despre un atac produs deja. Avertismentul se bazează însă pe evoluții tehnologice reale: scăderea costurilor pentru citirea și sintetizarea ADN-ului, răspândirea instrumentelor de editare genetică și apariția unor sisteme AI capabile să proiecteze proteine și să anticipeze interacțiunile biologice.
Una dintre cele mai importante schimbări este capacitatea AI de a transfera cunoștințe avansate către persoane cu o pregătire redusă.
În urmă cu numai câțiva ani, modelele lingvistice întâmpinau dificultăți la teste relativ simple de biologie. În prezent, cele mai performante sisteme pot răspunde unor întrebări extrem de specializate și îi pot ghida pe utilizatori în realizarea unor sarcini științifice complexe.
Sherwood-Randall invocă evaluări potrivit cărora unele modele au ajuns să depășească specialiști cu doctorate în virusologie la testele referitoare la cunoștințele necesare activității de laborator. Organizația de cercetare SecureBio arată că modelele AI avansate obțin deja rezultate comparabile sau superioare unei mari părți dintre experții testați în anumite evaluări de virusologie.
Acest lucru nu înseamnă că un utilizator obișnuit poate produce imediat un virus periculos. Realizarea unui agent patogen funcțional presupune în continuare acces la materiale, aparatură și competențe practice. AI poate însă elimina o parte dintre obstacolele intelectuale care protejau până acum domeniul.
Un alt risc provine din dezvoltarea așa-numitelor „cloud labs” - laboratoare în care experimentele sunt comandate prin internet și realizate cu ajutorul sistemelor automatizate și al roboților.
Aceste servicii au o utilitate economică și științifică evidentă. Ele reduc costurile cercetării, permit companiilor mici să testeze produse și accelerează descoperirea medicamentelor.
Aceleași infrastructuri ar putea fi însă exploatate de actori rău intenționați, în special dacă identificarea clienților și verificarea comenzilor nu sunt suficient de stricte.
În paralel, firmele specializate în sinteza ADN pot produce fragmente genetice pe baza unor instrucțiuni digitale. Un atacator ar putea încerca să comande separat fragmente aparent inofensive, pe care ulterior să le combine.
Tocmai de aceea, fosta consilieră a Casei Albe solicită verificarea obligatorie atât a identității clienților, cât și a secvențelor genetice comandate.
Riscul nu se limitează la virusurile care infectează oamenii. Un atac informatic asupra unei fabrici de medicamente ar putea modifica parametrii procesului de producție, generând produse contaminate sau ineficiente.
Pe lângă victimele directe, un asemenea incident ar provoca o criză de încredere în medicamente și ar putea destabiliza piața farmaceutică.
O organizație extremistă ar putea, de asemenea, să modifice un agent patogen care atacă plantele, astfel încât acesta să distrugă porumbul, grâul sau orezul. Consecințele s-ar vedea rapid în prețurile alimentelor, veniturile fermierilor și exporturi.
În cazul unei țări care furnizează cantități mari de cereale pieței mondiale, efectele ar trece imediat frontierele și ar putea provoca penurie în statele dependente de importuri.
Un astfel de scenariu este relevant și pentru România, unul dintre marii producători de cereale ai Uniunii Europene. Un agent patogen nou, greu de identificat, ar putea afecta simultan fermele, exporturile prin porturile românești și prețurile alimentelor de pe piața internă.
În perioada Războiului Rece, Statele Unite încercau să descurajeze un atac biologic prin posibilitatea unei riposte devastatoare, inclusiv nucleare. Strategia putea funcționa atunci când potențialii agresori erau state care puteau fi identificate și care aveau teritorii, populații și infrastructuri de protejat.
O grupare teroristă, o rețea criminală sau un individ radicalizat nu pot fi descurajați în același mod. În plus, un atacator ar putea ascunde mai ușor originea unui agent biologic decât originea unei rachete.
Sherwood-Randall propune înlocuirea acestei abordări cu ceea ce numește „descurajare prin reziliență”. Ideea este că agresorii vor avea mai puține motive să lanseze un atac dacă știu că agentul patogen poate fi descoperit rapid, originea lui poate fi stabilită, iar vaccinurile și tratamentele pot fi produse într-un timp scurt.
Pentru aplicarea acestei strategii, industria biotehnologică ar trebui declarată infrastructură critică, asemenea sectoarelor energetic, financiar sau de transport.
Companiile care dezvoltă modele AI, sintetizează ADN, administrează baze de date genomice ori operează laboratoare automatizate ar trebui să colaboreze permanent cu autoritățile și să participe la exerciții de reacție în cazul unui incident biologic.
Statele ar avea nevoie, de asemenea, de rețele capabile să identifice rapid agenți patogeni necunoscuți. Monitorizarea apelor uzate, colectarea datelor din spitale și ferme și analiza genetică ar trebui integrate într-un sistem comun.
O altă soluție propusă este constituirea unei rezerve strategice de capacități private. Guvernele ar încheia din timp contracte cu centre de calcul, laboratoare și fabrici de medicamente, astfel încât acestea să poată trece imediat la producerea testelor, tratamentelor și vaccinurilor în cazul unei crize.
Analiza atrage atenția și asupra dependenței industriei farmaceutice americane de China. Numeroase componente utilizate pentru fabricarea medicamentelor provin din această țară, iar companiile occidentale cumpără tot mai multe drepturi asupra unor terapii dezvoltate de firme chineze.
Într-o criză biologică, dependența de furnizori externi ar putea încetini producerea medicamentelor și vaccinurilor. Din acest motiv, Sherwood-Randall cere stimulente fiscale, investiții publice și subvenții pentru readucerea unei părți din producția biotehnologică în Statele Unite.
Problema este valabilă și pentru Europa. Pandemia de COVID-19 a demonstrat cât de vulnerabile pot deveni statele atunci când materiile prime farmaceutice, echipamentele medicale și capacitățile de producție sunt concentrate în câteva țări.
Interzicerea inteligenței artificiale în cercetarea biologică nu reprezintă o soluție realistă. Aceleași modele care ar putea ajuta un atacator pot accelera descoperirea unui vaccin, identificarea unui virus și proiectarea unui tratament.
În plus, biotehnologia are aplicații majore în medicină, agricultură, industrie și energie. Statele nu pot bloca dezvoltarea domeniului fără să renunțe la o sursă importantă de creștere economică.
Miza este, prin urmare, controlarea accesului la cele mai performante modele biologice, verificarea comenzilor de ADN și menținerea unui om în circuitul de decizie al laboratoarelor automatizate.
Mesajul central al analizei este că atacurile biologice nu mai pot fi privite exclusiv ca un pericol militar. Ele reprezintă și un risc economic sistemic, comparabil cu un atac asupra rețelelor energetice, sistemului financiar sau marilor infrastructuri de transport.
