Un "Cernobîl digital" ar putea paraliza lumea. Avertismentul unui laureat Nobel despre riscurile inteligenței artificiale

Geoffrey Hinton, unul dintre pionierii inteligenței artificiale și laureat al Premiului Nobel, avertizează că tehnologia ar putea provoca o criză majoră chiar în 2026 sau 2027. Cercetătorul nu exclude posibilitatea ca dezvoltarea AI să producă, în cele din urmă, mai multe probleme.

Într-un interviu acordat publicației britanice The Guardian, Geoffrey Hinton, în vârstă de 78 de ani, a declarat că inteligența artificială ar putea declanșa un incident de amploare, care ar putea afecta infrastructuri esențiale.

Cercetătorul a comparat unele incidente recente de securitate informatică asociate agenților AI cu accidentul nuclear de la Three Mile Island, din 1979, considerându-le semnale de avertizare.

Hinton estimează că un eveniment mult mai grav ar putea avea loc până la sfârșitul acestui an sau în 2027, comparând posibilele consecințe cu cele ale dezastrului de la Cernobîl.

Acesta nu se referă la un dezastru nuclear propriu-zis, ci la posibilitatea ca inteligența artificială să fie utilizată pentru atacuri asupra rețelelor electrice sau a sistemelor financiare.

Un asemenea incident ar putea provoca întreruperi masive ale alimentării cu energie ori blocarea sistemului financiar timp de o săptămână.

Deși recunoaște potențialul inteligenței artificiale de a transforma pozitiv societatea, Hinton consideră că riscurile nu pot fi ignorate.

„Poate că ne-ar fi fost mai bine dacă nu am fi dezvoltat-o niciodată", a declarat cercetătorul.

El estimează că, în cel mult zece ani, omenirea va putea înțelege dacă este capabilă să controleze riscurile acestei tehnologii.

În scenariul optimist, AI ar putea genera o prosperitate fără precedent. În cel pesimist, dezvoltarea sa ar putea accentua diferențele dintre bogați și săraci, provoca șomaj masiv și alimenta tensiuni sociale.

Hinton i-a criticat pe liderii unor companii importante din domeniul tehnologiei, printre care Sam Altman, Mark Zuckerberg și Elon Musk, susținând că interesele financiare sunt prioritizate în detrimentul siguranței.

Cercetătorul a cerut introducerea unor reguli internaționale mai stricte, inclusiv testarea obligatorie și evaluarea independentă a modelelor AI înainte de lansarea acestora.

El a comparat această procedură cu autorizarea medicamentelor, argumentând că dezvoltatorii ar trebui să demonstreze că beneficiile tehnologiei depășesc riscurile.

Avertismentele lui Hinton vizează toate statele unde funcționarea băncilor, a serviciilor publice și a infrastructurii energetice depinde tot mai mult de sisteme informatice. Un atac cibernetic major facilitat de inteligența artificială ar putea avea consecințe și asupra acestor sectoare.

Hinton, care a părăsit Google în 2023 pentru a putea vorbi liber despre riscurile AI, rămâne totuși încrezător că riscurile pot fi gestionate.

El consideră că omenirea deține încă suficient control pentru a preveni scenariile extreme, dar numai dacă guvernele și companiile vor investi eforturi considerabile în siguranța tehnologiei.