Război cu AI: Companiile de inteligență artificială se pregătesc pentru un posibil dezastru la scară mare. Ce scenarii analizează în secret

Liderii unor companii precum Anthropic și OpenAI simulează consecințele unui incident catastrofal provocat de inteligența artificială.

Potrivit Axios, unii reprezentanți ai industriei se tem că un astfel de eveniment ar putea avea loc în următoarele șase până la 12 luni și ar declanșa o criză politică și socială.

În contextul dezbaterilor internaționale privind siguranța inteligenței artificiale (AI), conducătorii unor companii importante din domeniu analizează, în discuții private, scenarii în care un incident grav ar putea provoca perturbări majore în societate și ar putea schimba radical politica de reglementare a tehnologiei.

Unul dintre scenariile considerate plauzibile este un atac cibernetic de amploare, capabil să întrerupă accesul la servicii financiare, internet, electricitate sau apă potabilă.

Potrivit publicației americane Axios, reprezentanți ai industriei se pregătesc pentru posibilitatea unui incident major în următoarele șase până la 12 luni.

Primul caz de amploare în care un sistem de inteligență artificială ar provoca daune grave ar putea alimenta neîncrederea publicului atât în tehnologie, cât și în liderii companiilor care o dezvoltă.

Printre cei care ar putea fi supuși presiunii publice și politice se numără Dario Amodei, directorul general al Anthropic, Sam Altman, directorul OpenAI, și președintele american Donald Trump, criticat de susținătorii unei reglementări mai stricte pentru abordarea sa față de sector.

OpenAI a confirmat că organizează exerciții interne pentru a se pregăti în eventualitatea unor crize.

„Aceste scenarii nu sunt considerate inevitabile; scopul lor este să ne ajute să ne pregătim pentru o varietate de situații", a declarat un reprezentant al companiei.

Potrivit Axios, exercițiile includ activitatea unor așa-numite echipe roșii - echipe specializate care simulează atacuri și scenarii nefavorabile pentru a identifica vulnerabilitățile sistemelor.

Totuși, una dintre principalele preocupări ale conducerii companiilor este modul în care Congresul Statelor Unite ar reacționa la o asemenea criză și ce măsuri legislative ar putea adopta.

Un incident grav ar putea fi provocat de un grup necontrolat de agenți autonomi de inteligență artificială, în timpul unor teste interne, sau de un atacator care descoperă o modalitate neașteptată de a exploata modelele existente.

Indiferent de cauză, companiile se așteaptă ca autoritățile să caute responsabilii și să apară presiuni politice pentru limitarea dezvoltării tehnologiei.

Riscurile asociate utilizării rău intenționate a inteligenței artificiale sunt deja evidențiate de atacurile asupra unor instituții financiare din Coreea de Sud, inclusiv de informațiile privind compromiterea sistemelor a două bănci.

Potrivit datelor disponibile, un hacker din China ar fi utilizat instrumente bazate pe modele chinezești de inteligență artificială, inclusiv DeepSeek, pentru a fura datele a zeci de mii de clienți bancari.

Compania de securitate cibernetică CrowdStrike a relatat că atacatorul ar fi folosit și Claude Code pentru a identifica modalități de comercializare a informațiilor furate.

Aceste cazuri ilustrează dificultatea tot mai mare de a combate atacurile cibernetice pe măsură ce instrumentele de inteligență artificială devin mai accesibile.

O provocare suplimentară este răspândirea modelelor cu ponderi deschise (open-weight), care pot fi descărcate și utilizate de terți, inclusiv în scopuri rău intenționate.

Unii specialiști în securitate cibernetică consideră că apărarea eficientă împotriva atacurilor asistate de inteligența artificială va necesita, la rândul ei, utilizarea unor sisteme AI capabile să detecteze și să neutralizeze amenințările.

O altă preocupare este dependența tot mai mare a economiei globale de infrastructura necesară dezvoltării și funcționării inteligenței artificiale.

O încetinire bruscă a sectorului, provocată de noi restricții sau de o criză majoră, ar putea afecta investițiile și activitatea economică într-un moment în care există deja vulnerabilități.

Prin urmare, măsurile radicale de limitare a tehnologiei ar putea avea consecințe economice importante. Autoritățile ar trebui să găsească un echilibru între reducerea riscurilor și evitarea unor perturbări majore ale economiei.

Această dependență complică deciziile politice: cu cât inteligența artificială este integrată mai profund în infrastructura economică, cu atât devine mai dificilă suspendarea utilizării sale fără efecte secundare.

Experții în planificare strategică estimează că, după alegerile intermediare din SUA, o eventuală consolidare a poziției democraților ar putea determina partidul să încerce să limiteze rapid dezvoltarea inteligenței artificiale.

Totuși, chiar dacă democrații ar obține controlul asupra Camerei Reprezentanților și Senatului, acest lucru nu ar garanta adoptarea unei politici unitare. Există diferențe de opinie și în interiorul partidului cu privire la amploarea și forma reglementării.

Printre cele mai radicale propuneri susținute de unii democrați se numără interzicerea dezvoltării superinteligenței și suspendarea cercetării asupra sistemelor avansate de inteligență artificială.

Alte măsuri, inclusiv obligativitatea opririi sistemelor AI avansate în anumite circumstanțe, beneficiază de sprijin bipartizan și de susținerea unor reprezentanți ai industriei.

Experții se întreabă însă dacă o oprire generalizată a tuturor sistemelor de inteligență artificială ar putea fi pusă efectiv în aplicare, având în vedere amploarea infrastructurii și diversitatea aplicațiilor existente.

Liderii companiilor tehnologice sunt conștienți că adoptarea unor noi restricții pare puțin probabilă în prezent. Cu toate acestea, ei încearcă să influențeze cadrul legislativ și politicile care ar putea fi adoptate de autoritățile americane după primul incident major asociat inteligenței artificiale.

O criză de amploare ar putea schimba rapid prioritățile politice și ar putea determina Washingtonul să acționeze în comun, în pofida divergențelor dintre partide.

Potrivit Axios, numeroși reprezentanți ai industriei consideră că un incident semnificativ s-ar putea produce în următoarele șase până la 12 luni.

Nu este vorba despre o predicție certă că un asemenea dezastru va avea loc, ci despre o estimare a riscurilor discutate în sector.

Rămâne însă o problemă esențială: Congresul american ar putea să nu fie suficient de pregătit pentru a reacționa rapid și eficient la o criză provocată de o tehnologie care evoluează mai repede decât procesul legislativ.

Miza nu este doar prevenirea unui incident catastrofal, ci și capacitatea autorităților de a răspunde fără întârziere, într-un moment în care infrastructura economică și serviciile esențiale ar putea depinde tot mai mult de inteligența artificială.