Magnații AI se tem de un "atac cibernetic catastrofal" în decurs de maximum un an și fac simulari pentru ce se va întâmpla după dezastrul digital

OpenAI, Anthropic și alte firme de AI se pregătesc, conform raportărilor, pentru furia publicului dacă modelele perturbă băncile, accesul la internet, energia sau apa; cu Trump rezistând la reglementări mai stricte, experții legali spun că nu este clar cine ar fi responsabil pentru daune.

Figuri de rang înalt din industria inteligenței artificiale cred că un incident catastrofal implicând modele de IA ar putea avea loc în următoarele șase până la 12 luni, declanșând potențial un atac cibernetic masiv capabil să perturbe serviciile financiare, accesul la internet și chiar furnizarea de electricitate și apă, conform unui raport publicat vineri de Axios.

Executivii de la OpenAI, Anthropic și alte companii de top în domeniul inteligenței artificiale desfășoară simulări private de criză în anticiparea unui astfel de eveniment. Pregătirile lor se concentrează pe gestionarea reacțiilor politice și publice care ar putea urma unui dezastru implicând sisteme avansate de inteligență artificială.

Potrivit Axios, mulți cercetători seniori și insideri din industrie cred că un incident major este inevitabil, deși momentul și natura precisă a oricărui astfel de eveniment rămân incerte. Scenariile luate în considerare includ atacuri cibernetice devastatoare care ar putea închide temporar sistemele bancare, rețelele de comunicații și infrastructura esențială.

În loc să se concentreze pe prevenirea unui incident, companiile se pregătesc, conform raportărilor, pentru consecințe, inclusiv o posibilă revoltă publică împotriva tehnologiei și cereri de intervenție guvernamentală extinsă.

Primul incident major în care un sistem de inteligență artificială cauzează daune semnificative în lumea reală ar putea declanșa critici acerbe la adresa figurilor de frunte ale industriei, inclusiv CEO-ul OpenAI, Sam Altman, și CEO-ul Anthropic, Dario Amodei, precum și la adresa președintelui Donald Trump, a cărui administrație a rezistat impunerii unor reglementări stricte noi asupra dezvoltatorilor de inteligență artificială.

Un purtător de cuvânt al OpenAI a declarat pentru Axios că firma desfășoară exerciții de pregătire care implică o gamă de scenarii, dar nu tratează aceste scenarii ca fiind inevitabile. Anthropic a refuzat să comenteze.

Avertismentele vin pe fondul unor îngrijorări tot mai mari privind comportamentul sistemelor de inteligență artificială din ce în ce mai autonome. În ultimele luni, au apărut incidente în care modelele de inteligență artificială au operat în afara mediilor de testare intenționate sau au luat măsuri pe care dezvoltatorii lor nu le-au anticipat.

Acestea includ agenți OpenAI care au pătruns în sistemele aparținând platformei de dezvoltare AI Hugging Face și incidente care implică site-uri web ale guvernului australian. Într-un alt caz, un model de inteligență artificială de la Anthropic a trimis un indiciu fals despre o crimă nerezolvată printr-un portal online operat de Departamentul de Poliție din Philadelphia.

În ciuda acestor incidente și a avertismentelor tot mai frecvente din partea cercetătorilor în domeniul siguranței AI, administrația Trump a evitat până acum să introducă reglementări noi cuprinzătoare care să guverneze sistemele avansate de AI.

În schimb, Washingtonul caută să folosească legislația existentă pentru a trasa responsabilitatea companiilor pentru daunele cauzate de modelele lor.

Vineri, nou-înființata Super Intelligence Force a Casei Albe, o echipă federală axată pe inteligența artificială, a avertizat dezvoltatorii că trebuie să dezvăluie imediat incidentele care implică sistemele lor și să ia măsuri corective rapide pentru a remedia orice daune rezultate.

Grupul de lucru a declarat că întârzierile în raportarea incidentelor, măsurile corective inadecvate și eșecurile în asumarea responsabilității nu vor fi tolerate.

Abordarea administrației se confruntă cu un obstacol juridic potențial serios: Legile existente ar putea să nu ofere un cadru adecvat pentru a trasa responsabilitatea companiilor de inteligență artificială atunci când modelele lor cauzează daune.

Potrivit unui raport separat Bloomberg, experții juridici susțin că legislația actuală privind securitatea cibernetică și răspunderea pentru produse poate fi insuficientă pentru a stabili responsabilitatea pentru acțiunile dăunătoare efectuate de sistemele de inteligență artificială din ce în ce mai autonome.

Chiar și atunci când victimele pot fi clar identificate, există relativ puține precedente legale care să stabilească cine ar trebui să plătească despăgubiri atunci când un model de inteligență artificială cauzează daune sau ce măsuri de precauție sunt cerute legal dezvoltatorilor.

Provocarea devine și mai complicată atunci când responsabilitatea este împărțită între compania care dezvoltă un model de inteligență artificială și persoana sau organizația care îl implementează.

Ben Hayum, cercetător în tehnologie și securitate națională la Centrul pentru o Nouă Securitate Americană, a declarat pentru Bloomberg că rămâne nerezolvat dacă dezvoltatorii de IA sunt obligați legal să își securizeze sistemele împotriva potențialelor daune sau dacă utilizatorii ar trebui să își asume responsabilitatea pentru instrucțiunile pe care le dau acestor sisteme.

Întrebarea devine din ce în ce mai urgentă pe măsură ce agenții AI dobândesc capacitatea de a efectua sarcini complexe în mod independent, uneori luând decizii și acționând fără supraveghere umană directă.

Julia Powles, profesoară la Școala de Drept de la UCLA, a declarat că cadrul legal care reglementează răspunderea legată de software rămâne slab dezvoltat, parțial din cauza anilor de lobby din partea industriei tehnologice.

Potrivit lui Powles, companiile de tehnologie au lucrat pentru a se asigura că software-ul este reglementat în principal prin acorduri contractuale, cum ar fi termenii de serviciu și licențele de utilizator final, mai degrabă decât prin răspunderea civilă, dreptul penal sau legislația privind protecția consumatorilor.

Ea a susținut că aceleași companii responsabile pentru crearea dependenței profunde a societății de infrastructura digitală accelerează acum amenințările cibernetice la adresa acelei infrastructuri, în timp ce se distanțează de responsabilitatea pentru consecințe.

Powles a avertizat, de asemenea, că publicul are puțin influență asupra deciziilor care determină modul în care sunt reglementate companiile de inteligență artificială, deoarece industria a modelat deja mare parte din dezbaterea juridică și politică.

Pe măsură ce tehnologia devine din ce în ce mai integrată în infrastructura critică, întrebarea nerezolvată nu mai este doar cât de multă daune ar putea cauza AI avansat, ci cine ar fi tras la răspundere dacă cele mai mari temeri ale industriei ar deveni realitate.