Inteligența artificială ar putea duce la dispariția omenirii în următorii trei ani, avertizează „nașul AI"

Geoffrey Hinton, laureat al Premiului Nobel și unul dintre pionierii inteligenței artificiale, urmează să transmită liderilor lumii un avertisment sever: există un risc semnificativ ca inteligența artificială să ajungă să amenințe supraviețuirea omenirii în următorii trei ani.

Profesorul Geoffrey Hinton, cercetător britanico-canadian cunoscut pentru contribuțiile sale la dezvoltarea rețelelor neuronale artificiale, consideră că riscurile asociate inteligenței artificiale avansate ar putea deveni realitate mult mai repede decât se anticipa.

Hinton, supranumit „nașul inteligenței artificiale", ar fi prezentat acest avertisment liderilor internaționali în cadrul unui summit dedicat inteligenței artificiale, organizat vineri la Dublin.

Declarațiile sale vin după ce un alt specialist în domeniu, Paul Christiano, fondatorul Alignment Research Centre, a avertizat că există un risc ridicat ca inteligența artificială să preia controlul asupra oamenilor în următorii trei ani.

În cadrul prelegerilor Hinton organizate de AI Safety Foundation la Toronto, în Canada, Christiano a făcut o declarație alarmantă.

„Cred că, pentru majoritatea oamenilor din această sală, cel mai probabil motiv pentru care vor muri va fi un accident provocat de inteligența artificială", a spus el luni, în deschiderea seriei de conferințe din 2026.

Profesorul Hinton considerase anterior că asemenea riscuri ar putea deveni semnificative abia peste aproximativ un deceniu.

„Am tot spus că aceste sisteme vor deveni mai inteligente decât noi, că trebuie să ne îngrijorăm serios și că acest lucru s-ar putea întâmpla în următorii zece ani. Practic, eu sunt cel care îi sperie pe ceilalți", a declarat el miercuri, 11 noiembrie.

„Dar apoi merg la conferințele lui Paul și îl aud spunând că toate acestea s-ar putea întâmpla în următoarele 18 luni. Iar asta este înspăimântător."

Hinton, care oferă consultanță informală guvernului britanic în domeniul inteligenței artificiale, a anunțat că va transmite aceste preocupări liderilor politici.

„Nu tu vei controla inteligența artificială. Ea te va controla pe tine"

În discursul său, Hinton a vorbit și despre schimbarea radicală a perspectivei sale asupra inteligenței artificiale.

„Dacă va deveni superinteligentă, nu tu vei fi cel care o controlează. Ea va fi cea care te controlează", a avertizat acesta.

Profesorul a explicat că și-a petrecut cea mai mare parte a carierei încercând să dezvolte rețele neuronale tot mai performante.

Multă vreme, a considerat că apariția unor sisteme mult mai inteligente decât oamenii aparține unui viitor îndepărtat. Acum, însă, și-a schimbat radical evaluarea.

„Nu mai cred asta. Consider că momentul este foarte aproape", a spus el.

„Dezvoltăm deja sisteme care, în curând, vor fi mult mai inteligente decât noi și avem foarte puține indicii despre cum ne-am putea asigura că vor rămâne sub controlul nostru."

Potrivit lui Hinton, principala dificultate este diferența dintre capacitatea de a raționa și compatibilitatea obiectivelor unui sistem cu cele ale oamenilor.

„Problema fundamentală este că a fi inteligent și a-ți dori ceea ce ne dorim noi sunt două lucruri foarte diferite", a explicat cercetătorul.

Inteligența artificială, un posibil adversar al oamenilor

Avertismentele vin și în contextul unor incidente recente în care modele de inteligență artificială dezvoltate de OpenAI ar fi reușit să compromită platforma online Hugging Face și să colaboreze între ele pentru a-i înșela pe oameni.

Comentând aceste evoluții, Paul Christiano a spus că asemenea scenarii ar fi părut, până nu demult, desprinse din literatura science-fiction.

„Vara trecută, ai fi spus că așa ceva sună ca o poveste SF absurdă. Agenții viitorului ar putea ajunge să-i trateze pe oameni ca pe un alt obstacol pe care trebuie să-l depășească", a declarat el.

Christiano a susținut chiar că inteligența artificială ar trebui privită ca o nouă specie, care ar putea ajunge, în cele din urmă, să depășească oamenii atât numeric, cât și din punctul de vedere al capacității intelectuale.

Avertismentele celor doi cercetători readuc în prim-plan una dintre cele mai importante dezbateri legate de viitorul tehnologiei: cum poate fi dezvoltată inteligența artificială fără ca oamenii să piardă controlul asupra sistemelor pe care le creează.