Inteligenta Artificială a turnat-o la politie pe o femeie dupa un chat. Ea a fost arestată pe loc după sesizarea lui Claude la Anthropic

O femeie din Florida a fost arestată după ce o conversație purtată cu chatbotul Claude a fost semnalată autorităților de către Anthropic. Compania ar fi detectat în discuție o amenințare privind un posibil atac armat asupra Biroului Șerifului din comitatul Lee.

Incidentul ar fi avut loc pe 26 septembrie. Potrivit raportului de arestare, femeia ar fi spus că intenționează să tragă cu arma asupra instituției și că urma să cumpere o nouă armă în ziua următoare.

Sistemele Anthropic ar monitoriza conversațiile pentru identificarea unor termeni și formulări asociate amenințărilor grave. În acest caz, mesajele au fost semnalate automat, apoi trimise unei echipe umane pentru verificare.

După analizarea conversației, compania a alertat autoritățile. Polițiștii au mers la domiciliul femeii, unde au reținut-o fără incidente.

Ulterior, aceasta ar fi explicat că folosea Claude ca pe un „jurnal" și nu ca pe un mijloc de pregătire a unui atac. Autoritățile au tratat însă mesajele drept o posibilă amenințare reală.

Pe 30 septembrie, procurorii au formulat o acuzație gravă în baza legislației din Florida privind amenințările scrise sau electronice legate de atacuri armate în masă ori terorism. Femeii i-a fost desemnat un avocat din oficiu, iar următoarea audiere este programată pentru 2 noiembrie.

Politica de confidențialitate a Anthropic permite transmiterea unor date către forțele de ordine atunci când compania consideră că acest lucru este necesar pentru prevenirea unor vătămări grave sau a unor pagube importante.

În mod normal, autoritățile trebuie să urmeze o procedură legală pentru a obține datele unui utilizator. Excepția o reprezintă situațiile de urgență, în care există un risc considerat iminent pentru viața sau siguranța unei persoane.