Demisie la Anthropic: colegul confirmă — AI poate ucide toată omenirea

Jacob Coxon, cercetător britanic de 27 de ani specializat în preantrenarea sistemelor de inteligență artificială, a demisionat marți de la Anthropic și a avertizat că atât fostul său angajator, cât și OpenAI „se joacă cu viețile noastre", accelerând fără precauții suficiente spre un tip de AI capabil să se autoîmbunătățească recursiv.

Cercetătorul a anunțat decizia printr-o serie de postări pe rețeaua X, după trei ani de cercetare la cele două companii considerate lideri globali în domeniu. „Niciuna dintre aceste companii nu acționează responsabil. Aleargă direct spre o superinteligență capabilă să se autoîmbunătățească și joacă ruletă cu viețile noastre", a scris Coxon. Și-a precizat că nu pleacă la o altă companie — renunță complet la industria AI, o decizie rară chiar și în Silicon Valley.

Avertismentele sale nu se opresc la critica celor două firme. „Nu subestimați puterea acestei tehnologii. Curând vor exista sisteme supraomenești care pot sparge orice sistem informatic, pot revoluționa orice domeniu peste noapte și pot acumula resurse și putere", a adăugat cercetătorul. Tonul mesajelor iese din tiparele obișnuite ale dezbaterii publice despre AI: nu e o critică teoretică, ci un avertisment concret de la cineva care a lucrat la modelele respective.

Colegul confirmă: „personal estimez o probabilitate de peste 10%"

Răspunsul cel mai șocant nu a venit din afara companiei, ci din interior. Evan Hubinger, directorul echipei de Alignment Science la Anthropic — adică exact echipa responsabilă cu testarea siguranței propriilor modele — a confirmat public pe X avertismentele cercetătorului.

„Jacob are dreptate — noi chiar credem, sincer, că AI ne-ar putea ucide pe toți. Personal, estimez o probabilitate de peste 10% în următorul deceniu", a declarat Hubinger, potrivit CBS News. Declarația e remarcabilă nu doar prin conținut, ci și prin sursa ei: nu un critic extern, nu un academician, ci liderul echipei de siguranță a companiei.

Mai mult, directorul a adăugat o recunoaștere care ridică întrebări fundamentale despre direcția strategică a Anthropic: „Cred că Anthropic face tot ce poate, dar nu avem încă un plan pentru a rezolva alinierea superinteligenței și nu suntem clar pe drumul cel bun."

Ce este superinteligența cu autoîmbunătățire și de ce e periculoasă

Termenul central din avertismentele celor doi este superinteligența cu autoîmbunătățire recursivă — un sistem AI suficient de capabil încât să poată modifica sau îmbunătăți propriul cod, devenind progresiv mai puternic fără intervenție umană.

Scenariul descris nu e unul abstract: sisteme AI care ating acel prag ar putea, teoretic, să opereze cu o viteză și o complexitate imposibil de supravegheat de oameni. Cercetătorul a declarat pentru Wall Street Journal că ritmul actual de dezvoltare îl îngrijorează profund: „Ne îndreptăm spre cele mai agresive dintre aceste scenarii — este posibil ca până la sfârșitul anului viitor lucrurile să fi scăpat de sub control."

Distincția esențială față de sistemele actuale este autonomia: un model AI care nu poate să-și modifice propriii parametri rămâne un instrument. Un model care poate — și nu are garanții de aliniere robuste — devine un actor independent.

Competiția corporativă, factor de risc major

Cercetătorul a ridicat și un punct care circulă de ani buni în culisele industriei, dar rareori este exprimat public: presiunea competitivă dintre Anthropic și OpenAI forțează ambele companii să sacrifice precauția în favoarea vitezei.

„Oamenii care construiesc AI cred sincer că aceasta ne-ar putea ucide pe toți", a scris el — subliniind că nu e vorba de ignoranță, ci de o decizie conștientă de a continua în ciuda riscurilor percepute. Conform declarațiilor sale, mulți angajați din sector vorbesc deschis despre aceste temeri în conversațiile private, chiar dacă public adoptă un discurs mai temperat.

Contextul industrial dă greutate suplimentară avertismentelor. În luna august, OpenAI a primit 30 de procese noi legate de un incident grav, semn că responsabilitatea juridică a companiilor AI devine o temă tot mai acută.

Reacția politică: riscuri pentru securitatea națională

Evenimentul a declanșat reacții și la nivel politic. Potrivit The Independent, Andy Burnham, ministru în guvernul britanic, a recunoscut că inteligența artificială „reprezintă riscuri pentru securitatea națională", adăugând că tehnologia poate oferi simultan soluții pentru a face țara mai sigură — o formulare care reflectă ambivalența cu care factorii de decizie abordează subiectul.

Un semnal rar în Silicon Valley

Ceea ce face cazul acesta diferit de criticile anterioare la adresa industriei AI este consecvența gestului: nu a trecut la un competitor, nu și-a lansat propria companie, nu a publicat un manifest academic. A renunțat complet la o carieră care, la 27 de ani, abia începuse — și și-a explicat public motivul.

Hubinger, care a rămas la Anthropic, a confirmat că viziunea cercetătorului demisionat este împărtășită în interiorul companiei. Paradoxul devine vizibil: o organizație fondată cu misiunea declarată de a face AI sigur include cercetători de rang înalt care estimează o probabilitate de peste 10% că propria lor muncă ar putea contribui la extincția umană — și continuă totuși.