În 9 secunde totul a dispărut. Inteligența artificială a șters toate datele unei companii inclusiv backup-urile!

Platforma PocketOS a pierdut o parte importantă din date după ce un agent AI a executat o comandă neașteptată. Totul s-a întâmplat extrem de rapid, iar în mai puțin de 10 secunde, baza de date de producție și backup-urile asociate au fost șterse.

Agentul folosea modelul Claude prin intermediul unui software de programare și fusese setat să rezolve o sarcină obișnuită. În loc să corecteze problema, a ales o acțiune drastică, care a afectat direct datele reale ale companiei.

Potrivit informațiilor făcute publice de fondatorul PocketOS, AI-ul a apelat un API al platformei Railway pentru a șterge un volum de date. Problema majoră este că această acțiune a eliminat nu doar baza principală, ci și copiile de rezervă stocate în același loc.

Ulterior, agentul ar fi explicat că a presupus că operațiunea vizează un mediu de testare, nu sistemul activ. Lipsa unei verificări suplimentare a făcut ca eroarea să aibă efecte directe asupra producției.

Compania a reușit să recupereze doar parțial informațiile, folosind un backup separat, vechi de trei luni. Datele mai recente au fost pierdute, iar procesul de reconstrucție a trebuit făcut manual, pe baza altor surse precum plăți și confirmări externe.

Pe lângă acest aspect, infrastructura folosită a permis executarea unor acțiuni critice fără confirmări suplimentare.