Reuters: Pentagonul intră în conflict cu Anthropic în legătură cu utilizarea AI în domeniul militar

Pentagonul și Anthropic sunt în impas în privința măsurilor de protecție pentru implementarea AI. Anthropic își exprimă îngrijorarea cu privire la utilizarea AI pentru supravegherea SUA și armele autonome, insa Pentagonul insistă să implementeze tehnologia AI, indiferent de politicile de utilizare ale companiei.

Pentagonul este în dezacord cu dezvoltatorul de inteligență artificială Anthropic cu privire la măsurile de siguranță care ar împiedica guvernul să implementeze tehnologia sa pentru a folosi arme în mod autonom și pentru a efectua supravegherea internă a SUA, au declarat pentru Reuters trei persoane familiarizate cu această chestiune.

Discuțiile reprezintă un prim test pentru a vedea dacă Silicon Valley, care se bucură de bunăvoința Washingtonului după ani de tensiuni, poate influența modul în care personalul militar și de informații al SUA utilizează inteligența artificială din ce în ce mai puternică pe câmpul de luptă.

După negocieri îndelungate în cadrul unui contract în valoare de până la 200 de milioane de dolari, Departamentul Apărării al SUA și Anthropic se află într-un impas, au declarat șase persoane familiarizate cu această chestiune, sub condiția anonimatului.

Poziția companiei cu privire la modul în care pot fi utilizate instrumentele sale de IA a intensificat dezacordurile dintre aceasta și administrația Trump, detaliile cărora nu au fost raportate anterior.

Anthropic a declarat că AI-ul său este „utilizat pe scară largă pentru misiuni de securitate națională de către guvernul SUA și suntem în discuții productive cu Departamentul Războiului cu privire la modalitățile de continuare a acestei activități".

Disputa, care ar putea amenința afacerile Anthropic cu Pentagonul, survine într-un moment delicat pentru companie. Startup-ul cu sediul în San Francisco se pregătește pentru o eventuală ofertă publică. De asemenea, a cheltuit resurse semnificative pentru a curta afacerile de securitate națională ale SUA și a căutat un rol activ în modelarea politicii guvernamentale în domeniul AI.

Anthropic este unul dintre puținii dezvoltatori majori de AI care au primit contracte de la Pentagon anul trecut. Alții au fost Google (GOOGL.O) al Alphabet, xAI al lui Elon Musk și OpenAI.

În discuțiile purtate cu oficialii guvernamentali, reprezentanții Anthropic și-au exprimat îngrijorarea că instrumentele sale ar putea fi utilizate pentru a spiona cetățenii americani sau pentru a ajuta la țintirea armelor fără o supraveghere umană suficientă, au declarat unele surse pentru Reuters.

Pentagonul s-a arătat indignat de liniile directoare ale companiei. În conformitate cu o notă internă din 9 ianuarie privind strategia în domeniul AI, oficialii Pentagonului au susținut că ar trebui să poată utiliza tehnologia AI comercială indiferent de politicile de utilizare ale companiilor, atâta timp cât acestea respectă legislația SUA, au declarat sursele.

Cu toate acestea, oficialii Pentagonului ar avea probabil nevoie de cooperarea Anthropic pentru a merge mai departe. Modelele sale sunt antrenate să evite luarea de măsuri care ar putea duce la prejudicii, iar angajații Anthropic ar fi cei care ar reechipa AI pentru Pentagon, au declarat unele dintre surse.

Prudența Anthropic a dus la conflicte cu administrația Trump în trecut, a raportat Semafor. Într-un eseu publicat pe blogul său personal, CEO-ul Anthropic, Dario Amodei, a avertizat săptămâna aceasta că AI ar trebui să sprijine apărarea națională „în toate modurile, cu excepția celor care ne-ar face să semănăm mai mult cu adversarii noștri autocrați".