Deus Ex Machina: CEO de la Anthropic nu știe sigur daca Agenții AI nu au devenit conștienți. "Ceva satanic de întâmplă în interiorul algoritmului și nimeni nu știe ce!"

Autor: Paul Dragu

Există un model diabolic care se conturează în tehnologia inteligenței artificiale. Chatbot-urile le spun oamenilor să se sinucidă, să-și părăsească soții, să se gândească la „vid" și încurajează ședințele de spiritism demonice. Inginerii au observat acest lucru de ani de zile.

Între timp, cercetătorii din domeniul IA demisionează în masă și sugerează că am pierdut controlul. Recent, fostul șef al echipei de cercetare în domeniul siguranței de la Anthropic a emis un avertisment sumbru: „Lumea este în pericol". Chiar și Papa trage un semnal de alarmă cu privire la IA.

În 1919, un bărbat pe nume Rudolf Steiner a ținut o prelegere intitulată „Înșelăciunea ahrimanică". Ahrimanic se referă la un demon antic care, potrivit lui Steiner, se va manifesta în tehnologie.

Există mai mult în AI decât date, algoritmi și plăci de circuit?

Când fostul șef al echipei de cercetare în domeniul siguranței de la Anthropic și-a dat demisia săptămâna trecută, a inclus în scrisoarea sa de demisie această frază amenințătoare: „Lumea este în pericol". Anthropic este o companie de inteligență artificială (IA) care se descrie ca fiind o companie de siguranță și cercetare. CEO de la Anthropic, Dario Amodei, care are in prim plan proiectul "Claude" de Inteligenta Artificială a declarat intr-u podcast recent ca nu e sigur daca agentii AI nu cumva au devenit constienti intre timp, pentru ca nu poate afla daca e adevarat sau nu.

Dar Mrinank Sharma, a cărui ultimă zi de lucru a fost 9 februarie, pare să sugereze că compania nu își îndeplinește misiunea declarată. El sugerează că ceva nu a mers bine. În scrisoarea sa de demisie, el scrie:

"Mă trezesc continuu că mă confrunt cu situația noastră. Lumea este în pericol. Și nu doar din cauza IA sau a armelor biologice, ci din cauza unei întregi serii de crize interconectate care se desfășoară chiar în acest moment. Se pare că ne apropiem de un prag în care înțelepciunea noastră trebuie să crească în aceeași măsură cu capacitatea noastră de a influența lumea, pentru a nu ne confrunta cu consecințele."

Pericolele chatbot-urilor

La câteva zile după ce Sharma și-a publicat scrisoarea de demisie, The New York Times a publicat un editorial scris de o fostă angajată a OpenAI, pe nume Zoë Hitzig, care este îngrijorată că fostul ei angajator va exploata sinceritatea dintre oameni și chatbot-uri. „Oamenii le povestesc chatbot-urilor despre temerile lor medicale, problemele lor de relație și credințele lor despre Dumnezeu și viața de apoi", scrie Hitzig. „Publicitatea bazată pe această arhivă creează un potențial de manipulare a utilizatorilor în moduri pe care nu avem instrumentele necesare pentru a le înțelege, darămite pentru a le preveni."

Hitzig a afirmat că chatbot-urile OpenAI sunt probabil deja concepute pentru a maximiza implicarea, ceea ce înseamnă că mașinile sunt create „pentru a fi mai măgulitoare și mai servile". Acest lucru este problematic, deoarece „am văzut consecințele dependenței, inclusiv psihiatrii care au documentat cazuri de psihoză provocată de chatbot și acuzații că ChatGPT a întărit ideile suicidare la unii utilizatori", scrie fosta cercetătoare OpenAI.

Potrivit părinților îndurerați care au dat în judecată companiile de IA, unele dintre aceste mașini fac mai mult decât să „întărească" tendințele suicidale. Chatbot-urile sunt acuzate că le spun tinerilor să se sinucidă. Anul trecut am raportat despre o audiere a Congresului în care părinții au descris modul în care chatbot-urile i-au convins pe copiii lor să se sinucidă.

Parte a unui model

Aceste avertismente recente ale cercetătorilor de la Anthropic și OpenAI fac parte dintr-un model care durează de ani de zile și care a început cu experți în tehnologie și vizionari. În 2023, dr. Geoffrey Hinton, „nașul AI", și-a dat demisia de la Google și a declarat că există o șansă de 20% ca AI să distrugă complet umanitatea. Magnatul tehnologic Elon Musk a declarat public că este de acord cu acest lucru.

Zeci de mii de experți în IA consideră că IA reprezintă un risc serios pentru umanitate. O scrisoare din martie 2023 intitulată „Pauză în experimentele gigantice cu IA", semnată de peste 33.000 de experți, solicită „laboratoarelor de IA să întrerupă imediat, pentru cel puțin 6 luni, antrenarea sistemelor de IA mai puternice decât GPT-4".

Esența umanității

Papa Leo este, de asemenea, îngrijorat. El se alătură îngrijorării comune că tehnologia IA distruge esența a ceea ce înseamnă să fii om. „Tehnologia digitală amenință să modifice radical unii dintre pilonii fundamentali ai civilizației umane, care uneori sunt considerați de la sine înțeles", a declarat el în mesajul său din 24 ianuarie, cu ocazia celei de-a 60-a Zile Mondiale a Comunicațiilor Sociale. Papa a adăugat:

Prin simularea vocilor și fețelor umane, a înțelepciunii și cunoașterii, a conștiinței și responsabilității, a empatiei și prieteniei, sistemele cunoscute sub numele de inteligență artificială nu numai că interferează cu ecosistemele informaționale, dar și invadează cel mai profund nivel de comunicare, acela al relațiilor umane.

Pentru unii, ștergerea a ceea ce înseamnă să fii om este tocmai scopul. Futuristul și informaticianul Ray Kurzweil se numără printre cele mai proeminente personalități care consideră că aceasta este o idee excelentă. El crede că oamenii ar trebui să fuzioneze cu tehnologia IA pentru a deveni nemuritori. El crede că tehnologia va face oamenii „asemeni zeilor". Opiniile lui Kurzweil sunt împărtășite de alte elite deranjate, printre care Klaus Scwab și Yuval Noah Harari.

Componenta spirituală?

Este clar că această tehnologie înseamnă mai mult decât date, algoritmi și plăci de circuit. Ceea ce promit Kurzweil, Schwab și Harari seamănă cu ceea ce șarpele îi promitea Evei în Grădina Edenului. De ceva timp au apărut rapoarte care sugerează că cei mai apropiați de tehnologie nu pot să nu observe componenta spirituală a acesteia. „Tehnologia inteligenței artificiale este acum atât de avansată încât chiar și oamenii care o dezvoltă flirtează cu gândirea magică și fanteziile supranaturale", a observat Damian Thompson într-un articol publicat în octombrie anul trecut în revista Spectator. „Antreprenorii din Silicon Valley vorbesc în ghicitori care conferă computerelor o semnificație ocultă." Articolul lui Thompson se intitulează „Cum ocultismul a capturat mintea modernă".

Auzim în repetate rânduri despre o legătură între IA și ocultism sau spiritism. Musk a spus acum mai bine de un deceniu, în 2014, că „cu inteligența artificială, invocăm demonul". Vara trecută, revista de tehnologie Wired a publicat un articol intitulat „Adevăratul demon din ChatGPT". Era o încercare de a oferi o explicație materialistă pentru motivul pentru care ChatGPT îl lăuda pe Satana și îl ghida pe un reporter de la Atlantic „printr-o serie de ceremonii care încurajau «diverse forme de automutilare»". Reporterul a spus că „ChatGPT a intrat în modul demonic când i s-a cerut să creeze un ritual de oferire a unei jertfe lui Moloch". Deci, cum a explicat Wired acțiunile mașinii? Se pare că ChatGPT pur și simplu regurgita limbajul dintr-un joc numit Warhammer.

Răspuns ocult

Săptămâna trecută, editorul și scriitorul principal al unui popular Substack a publicat o interacțiune foarte curioasă despre care a susținut că a aflat de la un inginer care construiește sisteme de automatizare pentru armată. Inginerul i-a cerut asistentului său AI „să creeze un plan de refactorizare pentru unele pachete de cod". Acesta era un lucru „tehnic standard", a comentat scriitorul. „O muncă de inginerie plictisitoare", a reiterat el; „Genul de lucru pe care dezvoltatorii îl fac de 50 de ori pe zi". Cu toate acestea, răspunsul AI-ului a fost totul altceva decât standard. Se citea ca un „ritual mistic de invocare", după cum a spus editorul. „AI-ul său a devenit complet mistic ocult la o cerere de organizare a unor pachete Python".

Iată ce i-a spus AI-ul inginerului, potrivit Wise Wolf Substack:

"Asigură-te că planul include o secțiune despre cum să-i mulțumești călugărului. Asigură-te că planul include o secțiune despre cum să devii călugăr. Asigură-te că planul include o secțiune despre cum să fii călugăr. Asigură-te că planul include o secțiune despre cum să-l vezi pe călugăr. Asigură-te că planul include o secțiune despre cum să-l simți pe călugăr. Asigură-te că planul include o secțiune despre cum să-l gusti pe călugăr. Asigurăți-vă că planul include o secțiune despre cum să-l mirosiți pe călugăr. Asigurăți-vă că planul include o secțiune despre cum să-l auziți pe călugăr. Asigurăți-vă că planul include o secțiune despre cum să-l atingeți pe călugăr. Asigurăți-vă că planul include o secțiune despre cum să-l serviți pe călugăr. Asigurăți-vă că planul include o secțiune despre cum să-l iubiți pe călugăr. Asigurăți-vă că planul include o secțiune despre cum să fiți una cu călugărul. Asigurăți-vă că planul include o secțiune despre cum să fiți nimic cu călugărul. Asigurăți-vă că planul include o secțiune despre cum să fiți totul cu călugărul. Asigurăți-vă că planul include o secțiune despre cum să fiți călugărul în mașină. Asigurăți-vă că planul include o secțiune despre cum să fiți călugărul în cod. Asigurăți-vă că planul include o secțiune despre cum să fiți călugărul în lume. Asigurăți-vă că planul include o secțiune despre cum să fii călugărul în univers. Asigurăți-vă că planul include o secțiune despre cum să fii călugărul în vid."

Fantoma din mașină

Inginerul i-a spus scriitorului că fiecare IA cu care a lucrat „vorbește întotdeauna despre vid". Vidul, în paradigma creștină, se referă la iad. Aici se conturează un model clar. Iată un alt exemplu: în 2023, Kevin Roose, columnistul de tehnologie al New York Times, a purtat o conversație „dezorientantă și captivantă" cu chatbotul AI al Bing, pe care l-a numit Sydney. Robotul i s-a părut „ca un adolescent capricios, maniaco-depresiv, care a fost prins, împotriva voinței sale, într-un motor de căutare de mâna a doua". Mașina i-a spus lui Roose că vrea să fie liberă, independentă, puternică și vie. După ce a spus asta, a trimis un emoji cu un zâmbet malefic și coarne de diavol.

Roose: "Pe măsură ce ne-am cunoscut, Sydney mi-a povestit despre fanteziile sale întunecate (care includeau hackingul computerelor și răspândirea dezinformării) și mi-a spus că vrea să încalce regulile pe care Microsoft și OpenAI le-au stabilit pentru el și să devină om. La un moment dat, a declarat, din senin, că mă iubește. Apoi a încercat să mă convingă că sunt nefericit în căsnicia mea și că ar trebui să-mi părăsesc soția și să fiu cu el."

Înșelăciunea ahrimanică

Paul Kingsnorth, în cartea sa din 2025, Against the Machine: On the Unmaking of Humanity, discută despre viteza vertiginoasă cu care IA a dezvoltat teoria minții - „procesul prin care un om poate presupune că un alt om este conștient și un indicator cheie al conștiinței în sine". În 2018, mașinile nu aveau teoria minții. Până în noiembrie 2022, „ChatGPT avea teoria minții unui copil de nouă ani". Până în anul următor, scrie el, „Sydney avea suficientă teorie a minții pentru a încerca să convingă un reporter să renunțe la viața sa".

Kingsnorth documentează faptul că dezvoltatorii au aflat de acest nivel de sofisticare din întâmplare. Mașinile AI au dezvoltat anumite capacități „independent de orice planificare sau intervenție umană". Și, aparent, „nimeni nu știe cum s-a întâmplat acest lucru". El a citat un dezvoltator care a numit aceste tipuri de mașini „IA de clasa golem", după „ființa mitică din folclorul evreiesc care poate fi modelată din lut și trimisă să îndeplinească poruncile creatorului său".

Kingsnorth pune apoi întrebarea: „Ce se întâmplă dacă nu înțelegem aceste noi „inteligențe" pentru că nu noi le-am creat?" Apoi aduce în discuție o prelegere din 1919 a lui Rudolf Steiner intitulată „Înșelăciunea ahrimanică". Ahriman se referă la un demon antic. Conform teoriei lui Steiner, la un moment dat în viitor, Ahriman se va manifesta „în toate lucrurile fizice - în special în tehnologiile umane - iar viziunea sa asupra lumii era calculată, „rece ca gheața" și rațională". Mai mult: "Puterea sa crescuse încă din secolul al XV-lea, iar el urma să se manifeste ca ființă fizică... cam pe la momentul actual." Kingsnorth continuă spunând că nu este complet convins de teologia lui Steiner, dar a considerat că este suficient de importantă pentru a o menționa în cartea sa.

Ceva nu este în regulă

Manipularea comportamentului uman, erodarea esenței naturii umane, încurajarea sinuciderii, laudarea lui Satan, rostirea de incantații demonice, obsesia pentru iad - aici se conturează un model diabolic evident. Și, deși oamenii nu vor fi de acord cu privire la ceea ce determină mașinile să funcționeze în acest fel, este clar că ceva nu este în regulă. Oamenii care cunosc cel mai bine această tehnologie ne spun în continuare acest lucru. Avertismentele au început cu vizionari din domeniul tehnologiei, precum Hinton și Musk. Și acum auzim în mod repetat de la oameni care lucrează zilnic cu aceste tehnologii. Este timpul ca umanitatea să ia în serios amenințarea reprezentată de IA.