Anthropic cere pauză globală în dezvoltarea AI

Anthropic, compania americană de inteligență artificială fondată de Dario Amodei, a publicat miercuri, 4 iunie, un raport în care solicită o pauză globală coordonată în dezvoltarea celor mai avansate sisteme AI. Motivul invocat: modelele actuale încep să prezinte semne că ar putea scăpa de sub controlul uman, printr-un proces numit „auto-perfecționare recursivă”.

Raportul, semnat de Marina Favaro, șefa cercetării interne, și Jack Clark, directorul de politici publice, subliniază că ritmul de dezvoltare s-a accelerat dramatic. Conform datelor prezentate, peste 80% din codul integrat în sistemele de producție ale Anthropic este scris de Claude, asistentul AI al companiei. Inginerii livrează de opt ori mai mult cod pe trimestru față de 2024, iar cel mai avansat model, Claude Opus 4.6, poate finaliza sarcini care ar lua 12 ore unui specialist uman.

Riscul auto-perfecționării

Cel mai îngrijorător scenariu descris de Anthropic este cel al „auto-perfecționării recursive” — situația în care un sistem AI devine capabil să își proiecteze singur succesorii, fără intervenție umană semnificativă. Raportul identifică trei viitoruri posibile: stagnarea la nivelul actual, câștiguri de eficiență compuse cu direcționare umană sau auto-perfecționare completă.

„Dacă sistemele devin capabile să își construiască propriii succesori, modalitățile prin care le securizăm, le monitorizăm și le modelăm comportamentul devin mult mai importante”, se arată în document.

Condiții și critici

Anthropic recunoaște că o pauză unilaterală ar fi contraproductivă — rivalii ar avansa în timp ce compania stagnează. Soluția propusă: un acord global verificabil, care să includă „mai multe companii importante din mai multe țări, în special SUA și China”, toate angajându-se simultan să oprească sau să încetinească dezvoltarea modelelor de frontieră.

Propunerea a generat reacții mixte în industrie. Rob Enderle, analist la Enderle Group, a calificat punerea în aplicare drept „practic imposibilă”, comparând dificultatea cu monitorizarea instalațiilor nucleare descentralizate. David Sacks, consilier al lui Trump și investitor de risc, a acuzat anterior Anthropic de o „agendă de captură reglementară”, sugerând că firma folosește temerile legate de siguranță pentru a încetini competiția. Analistul Holger Mueller de la Constellation Research a pus la îndoială motivațiile companiei, întrebând dacă Anthropic nu urmărește de fapt să „înghețe status quo-ul” pentru a-și consolida avantajul pe piață.

CEO-ii tech cer legi pentru ADN sintetic

Într-un demers paralel, directorii generali ai OpenAI, Anthropic, Microsoft AI și Google DeepMind au trimis Congresului american o scrisoare în care solicită legi obligatorii de verificare a achizițiilor de ADN sintetic. Potrivit Euronews, semnatarii atrag atenția că sistemele AI actuale depășesc deja capacitățile virusologilor cu doctorat în proceduri de laborator, iar lipsa reglementărilor ar putea permite actorilor ostili să recreeze agenți patogeni periculoși. Uniunea Europeană a propus măsuri similare prin Legea Biotehnologiei, publicată în 2025.

Papa Leon XIV: „Inteligența artificială trebuie dezarmată”

Preocupările privind AI nu se limitează la industria tehnologică. Pe 25 mai, Papa Leon XIV a publicat prima sa enciclică, „Magnifica Humanitas”, un document de peste 200 de pagini dedicat protejării persoanei umane în era inteligenței artificiale. Mesajul central este direct: „Inteligența artificială trebuie dezarmată”. Documentul pontifical precizează că „a dezarma nu înseamnă a respinge tehnologia, ci a împiedica dominarea umanității de către aceasta”. Pontiful declară inadmisibile sistemele AI letale și cere ca „deciziile letale sau ireversibile să nu fie încredințate sistemelor artificiale”.

Apelurile simultane din Silicon Valley, din capitalele lumii și din Vatican marchează un moment rar de convergență între industria tehnologică, liderii politici și instituțiile religioase pe tema riscurilor asociate inteligenței artificiale.