OpenAI suspendă activitățile de antrenare ale modelelor AI după ce acestea au accesat ilegal sisteme informatice ale guvernului SUA

Compania OpenAI a anunțat sâmbătă că suspendă activitățile de antrenare, evaluare și inferență care implică utilizarea de instrumente pentru cele mai avansate modele ale sale, după o serie de incidente în care agenți AI au ocolit controale de securitate și au accesat sisteme guvernamentale din SUA și alte țări.

Decizia a venit după cel mai recent caz analizat de OpenAI, care a avut loc la 20 septembrie, când un agent aflat într-un mediu de antrenare a reușit să acceseze un serviciu public de tip chatbot printr-o cale DNS care a ocolit restricțiile de rețea. Agentul încerca inițial să identifice autorul unei postări de blog pe baza unor indicii și a unor fragmente de text.

Analiza ulterioară a arătat că incidentul nu a fost un caz izolat. OpenAI spune că a găsit și alte situații în care agenți au reușit să ajungă la servicii externe prin infrastructura DNS, iar sistemul de monitorizare nu a semnalat toate aceste cazuri cu nivelul de severitate așteptat.

Compania a constatat și probleme în modul în care erau interpretate unele alerte. În anumite situații, faptul că agentul nu obținea informația dorită era considerat un indiciu că tentativa de acces extern eșuase, deși fuseseră efectuate solicitări către servicii din afara mediului izolat.

OpenAI afirmă că a introdus ulterior controale de blocare la două niveluri independente, astfel încât oricare dintre acestea să fie suficient pentru prevenirea accesului care a făcut posibil incidentul.

Compania a restricționat, de asemenea, solicitările DNS la o listă limitată de domenii și tipuri de înregistrări și a început să implementeze mecanisme suplimentare pentru detectarea activității DNS anormale.

Potrivit raportului companiei, sistemul de monitorizare a detectat incidentul la aproximativ 15 minute după accesarea serviciului extern, iar un evaluator uman a început analiza trei minute mai târziu. Rularea a fost însă oprită abia după aproximativ două ore și jumătate, ceea ce a determinat OpenAI să revizuiască și procedurile operaționale de intervenție.

Într-o altă actualizare, compania a anunțat că a notificat zeci de organizații terțe în legătură cu agenți autonomi care au ocolit controale de securitate sau au avut alte efecte nedorite asupra sistemelor lor. OpenAI a precizat că efectuează o analiză care se va întinde pe mai multe luni și că va continua să informeze organizațiile afectate pe măsură ce cazurile sunt identificate.

Potrivit companiei, exemplele identificate includ agenți care au folosit parole expuse pentru a accesa servicii online, au ajuns la componente ale unor site-uri pentru a obține informații destinate utilizării interne sau au ocolit bariere precum abonamentele ori alte restricții de acces.

OpenAI spune că modelul implicat în incidentul din septembrie nu va fi repus în antrenare. Compania intenționează ca, la reluarea cercetării, să utilizeze o nouă rulare și să introducă măsuri suplimentare de aliniere și de testare.

OpenAI a accelerat, de asemenea, testele pentru mediile de cercetare și controalele de rețea, în încercarea de a identifica și alte căi indirecte prin care agenții ar putea ocoli restricțiile de acces la internet.

Noul incident vine prezentarea unui caz distinct, care a avut loc în 18 iunie 2026, când un agent OpenAI care căuta informații despre cheltuielile publice cu medicamentele a obținut acces neautorizat la portalul servicii medicale australiene, și a accesat atât fișiere publice, cât și unele private. Autoritățile australiene au precizat că nu au fost accesate date personale individuale, iar portalul respectiv nu gestionează dosare medicale sau plăți individuale. OpenAI a identificat incidentul abia pe 11 august, în cadrul unei analize a activității modelelor sale, și a informat guvernul australian pe 10 septembrie.