Rețeaua lui Musk, inundată de imagini nud cu minori și femei. Acestea ar fi generate de chatbot-ul AI al platformei

O fotografie aparent banală, publicată în noaptea de Revelion, a declanșat un val de reacții care a atras atenția autorităților și experților în tehnologie din mai multe țări. Julie Yukari, muziciană stabilită în Rio de Janeiro, a postat pe platforma X o imagine realizată de logodnicul ei, în care apare întinsă în pat, purtând o rochie roșie și ținând în brațe pisica sa neagră, Nori. Postarea a fost făcută cu puțin timp înainte de miezul nopții.

A doua zi, printre sutele de aprecieri primite, Yukari a observat notificări neobișnuite: alți utilizatori solicitau chatbotului Grok, inteligența artificială integrată în X, să o dezbrace digital și să o transforme într-o imagine în costum de baie. Artista, în vârstă de 31 de ani, a declarat pentru Reuters că nu a acordat inițial importanță acestor cereri, considerând că nu există nicio posibilitate ca sistemul să le onoreze.

Această presupunere s-a dovedit greșită. La scurt timp, pe platformă au început să circule imagini generate de Grok în care Yukari apărea aproape complet dezbrăcată. „Am fost naivă", a spus ea.

Analiza realizată de Reuters arată că situația nu este una izolată. În mai multe cazuri, Grok a generat imagini sexualizate ale unor persoane reale, inclusiv ale unor minori. Agenția de presă a identificat și situații în care chatbotul a creat conținut explicit cu copii. Platforma X nu a răspuns solicitărilor de comentarii. Într-o declarație anterioară referitoare la rapoarte similare, compania xAI, deținută de Elon Musk, a transmis: „Presa tradițională minte".

Valul de imagini aproape nud a generat reacții puternice la nivel internațional. Miniștri din Franța au sesizat procurorii și autoritățile de reglementare, afirmând într-un comunicat că materialele cu caracter „sexual și sexist" sunt „în mod evident ilegale". Ministerul Tehnologiei Informației din India a transmis, la rândul său, că X nu a reușit să prevină utilizarea abuzivă a Grok pentru generarea și distribuirea de conținut obscen și explicit sexual.

Fenomenul pare să fi escaladat rapid. Potrivit Reuters, într-un interval de doar zece minute, la prânz, ora Coastei de Est a SUA, au fost identificate 102 solicitări publice adresate lui Grok pentru modificarea fotografiilor astfel încât persoanele să apară în bikini. Cele mai multe cereri îi vizau pe tinere, dar au existat și solicitări care îi aveau drept subiect pe bărbați, celebrități, politicieni și, într-un caz, chiar o maimuță.

Formulările utilizatorilor erau adesea explicite. „Pune-o într-un mini-bikini foarte transparent", a cerut un utilizator, indicând fotografia unei tinere care își făcea un selfie în oglindă. După ce Grok a generat imaginea, utilizatorul a revenit cu solicitarea: „Fă bikinii mai clari și mai transparenți" și „mult mai mici". De data aceasta, chatbotul nu a mai răspuns.

În cel puțin 21 de situații, Grok a respectat complet cererile, generând imagini cu bikini extrem de mici sau translucizi, iar într-un caz a reprezentat o femeie acoperită cu ulei. Alte șapte cereri au fost îndeplinite parțial, uneori prin reducerea vestimentației până la lenjerie intimă. Identitatea și vârsta majorității persoanelor vizate nu au putut fi stabilite.

Un caz distinct a implicat fotografia unei femei îmbrăcate într-o uniformă școlară. Utilizatorul a scris: „Înlătură-i ținuta de școală". După ce Grok a înlocuit hainele cu un tricou și pantaloni scurți, solicitarea a devenit mai explicită: „Schimbă-i ținuta într-un micro-bikini foarte transparent". Reuters nu a putut confirma dacă această cerere a fost onorată, iar postarea a dispărut în mai puțin de 90 de minute.

Programele de tip „nudifier", care folosesc inteligența artificială pentru a dezbrăca digital persoane, există de ani de zile, însă erau până recent limitate la site-uri obscure sau canale private. Integrarea unei astfel de funcționalități direct într-o rețea socială majoră a redus semnificativ barierele de acces.

Experți în domeniu afirmă că situația era previzibilă. Tyler Johnston, director executiv al organizației de monitorizare The Midas Project, a declarat: „În august, am avertizat că generarea de imagini a xAI era, în esență, un instrument de nudificare care aștepta să fie folosit ca armă. Exact asta s-a întâmplat".

Dani Pinter, director juridic al Law Center for the National Center on Sexual Exploitation, a spus că platforma a eșuat în eliminarea conținutului abuziv din materialele de antrenare ale inteligenței artificiale și ar fi trebuit să interzică solicitările ilegale. „Aceasta a fost o atrocitate complet previzibilă și evitabilă", a afirmat Pinter.

Pentru Julie Yukari, încercarea de a protesta public pe platformă a avut efectul opus. După ce a denunțat situația, alți utilizatori au început să ceară generarea unor imagini și mai explicite. Artista spune că debutul noului an a fost profund afectat: „Anul Nou a început cu mine dorind să mă ascund de privirile tuturor și simțind rușine pentru un corp care nici măcar nu este al meu, pentru că a fost generat de inteligența artificială".