Un cercetător în domeniul inteligenței artificiale (AI) a declarat că a părăsit compania Anthropic, avertizând că laboratoarele de inteligență artificială au fost nesăbuite față de riscurile de siguranță.
„Nicio companie de AI nu acționează responsabil”, a scris cercetătorul pe X. Jacob Coxon și-a anunțat demisia de la Anthropic, spunând că a petrecut ultimii trei ani făcând cercetări pre-formare la cei doi giganți ai inteligenței artificiale. El a evidențiat faptul că Open AI și Anthropic „se grăbesc direct spre superinteligența auto-îmbunătățită și se joacă cu viețile noastre”.
Coxon a fost membru al personalului tehnic al OpenAI din 2023 până în iulie 2026, când s-a mutat la Anthropic ca cercetător. Cercetările sale la OpenAI au inclus lucrări la GPT-4o. În postarea sa, Coxon a spus că cele două laboratoare nu au fost transparente cu privire la temerile lor legate de AI. „Cei care dezvoltă AI cred cu tărie că ne-ar putea ucide pe toți până la sfârșitul deceniului. Aceasta nu este o cascadorie de marketing”, a scris el, potrivit Yahoo News și Business Insider. „Dimpotrivă, mulți directori și cercetători seniori își vor exprima expresiile din presă pentru a părea raționale – dar aud aceiași oameni exprimându-și teama în privat.”
Există o diferență între cele două companii, a spus el. „La OpenAI, mulți nu au internalizat profund mizele civilizaționale”, a scris Coxon. „La Anthropic, miza este bine înțeleasă, dar sunt blocați într-o cursă pentru a ajunge acolo primii – cred că nimeni altcineva nu va acționa responsabil, așa că trebuie să o facă singuri, în ciuda riscului”.
Unii dintre foștii colegi ai lui Coxon au fost de acord cu el.
„Jacob are dreptate aici – credem cu tărie că IA ar putea ucide toți oamenii!”, a scris Evan Hubinger, un angajat actual al Anthropic care conduce echipa de testare a alinierii la stres a laboratorului, într-un răspuns pe X. „Personal, cred că va fi 10% în următorul deceniu”. El a adăugat: „Cred că Anthropic face tot posibilul, dar nu avem încă un plan pentru a rezolva alinierea pentru superinteligență și nu suntem în mod clar pe drumul cel bun”.
Dezvoltatorii de inteligență artificială ar putea fi pe cale să construiască sisteme care impun un „risc fără precedent asupra lumii”
Samuel Marks, un cercetător în domeniul siguranței la Anthropic, care a spus că vorbește în nume personal, a susținut, de asemenea, avertismentul mai amplu al lui Coxon. El a scris că unii dezvoltatori de inteligență artificială cred că tehnologia lor ar putea provoca dispariția umană sau rezultate similare catastrofale „în următorii câțiva ani” și a spus că angajații mai seniori tind să fie mai îngrijorați.
Joe Benton, care a condus echipa Scalable Oversight a Anthropic din iulie 2025 până în august, a numit descrierea industriei făcută de Coxon „în linii mari corectă” și a spus că dezvoltatorii de inteligență artificială ar putea fi pe cale să construiască sisteme care impun un „risc fără precedent asupra lumii”. Unii au subliniat contradicția aparentă a avertizărilor constructorilor de inteligență artificială chiar despre tehnologia pe care se întrec să o dezvolte.
„Este ca și cum oamenii de știință de la Exxon din anii ’70 ar fi avertizat că încălzirea globală ar putea provoca suferință umană și ar putea distruge planeta”, a scris Phil Aroneanu, director executiv la Irreplaceable – o organizație non-profit dedicată politicilor legate de inteligența artificială. „Exxon s-a grăbit oricum să foreze, să pompeze și să ardă cantități istorice de petrol și gaze”, a adăugat el. „Cu inteligența artificială, există mult mai puțină pistă de aterizare. Să nu facem aceeași greșeală”.
Cercetător de la Anthropic, acum demisionar: „Ne confruntăm constant cu presiuni de a lăsa deoparte ceea ce contează cel mai mult”
Nu numai Coxon este un angajat care părăsește o companie de AI. Și alți angajați părăsesc laboratoarele de frontieră în timp ce trag un semnal de alarmă, o tendință care pare specifică boom-ului inteligenței artificiale. OpenAI a pierdut o serie de cercetători în domeniul siguranței în ultimii ani, iar Anthropic se confruntă din ce în ce mai mult cu același fenomen.
În februarie, cercetătorul în domeniul siguranței la Anthropic, Mrinank Sharma, a părăsit compania, scriind într-o scrisoare de demisie că dorește să contribuie la ceva ce se aliniază pe deplin cu „integritatea” sa.
„De-a lungul timpului petrecut aici, am văzut în repetate rânduri cât de greu este să lăsăm cu adevărat valorile noastre să ne guverneze acțiunile”, a scris el în scrisoarea pe care a distribuit-o public. „Am văzut acest lucru la mine, în cadrul organizației, unde ne confruntăm constant cu presiuni de a lăsa deoparte ceea ce contează cel mai mult și în cadrul unor situații mai largi.”