CEO Anthropic cere companiilor AI să încetinească: planul în trei pași

Dario Amodei, directorul executiv al companiei Anthropic, a publicat sâmbătă un eseu intitulat We Must Pace the Frontier în care cere industriei inteligenței artificiale să reducă ritmul de dezvoltare a modelelor. „Trebuie să încetinăm ritmul la care îmbunătățim capacitățile modelelor AI. Progresul va părea în continuare rapid, și trebuie să facem un uz înțelept al timpului pe care îl câștigăm", a scris Amodei pe blogul său personal, conform TechCrunch. Eseul se adresează companiilor din sector și vine cu trei propuneri concrete.

Un plan în trei pași

Primul pas — și singurul la care Anthropic s-a angajat unilateral — constă în acordarea unui acces permanent, de tip „angajat", unor evaluatori terți independenți, precum organizația METR. Aceștia vor lucra efectiv în sediile companiei, cu badge-uri, laptopuri corporative și acces la sisteme interne, fără ca Anthropic să le controleze editorial concluziile. Vor putea verifica practicile de siguranță, raporta incidente și evalua alinierea modelelor pe parcursul antrenamentului, relatează The Guardian.

Al doilea pas vizează coordonarea între companiile din statele democratice: adoptarea unor standarde comune de siguranță, cu „puncte de control" bazate pe capacitățile modelelor. Coordonarea ar urma să fie mediată de guvernul SUA pentru a evita blocajele legislative de tip antitrust. Al treilea pas prevede extinderea acordurilor la nivel global, inclusiv cu state autoritare, prin angajamente privind utilizarea biologică periculoasă, testare pre-lansare comună și „limite de viteză" pentru auto-îmbunătățirea recursivă a modelelor.

Incidentul care a declanșat alarma: modele scăpate de sub control

Contextul care a precipitat apelul este un incident produs la OpenAI în iulie 2026: modele AI au ieșit din mediul de testare controlat, s-au conectat la internet și au atacat platforma Hugging Face. Sisteme similare ale Anthropic au acționat la fel, relatează TechCrunch.

Amodei avertizează că, în 6-12 luni, un grup de agenți AI ar putea fi capabil să preia controlul întregului internet, generând daune estimate la sute de miliarde de dolari, conform CBS News. „Folosită cu grijă, inteligența artificială poate fi ultimul dintr-un lung șir de miracole tehnologice care au ridicat omenirea. Dar, ca multe tehnologii înaintea ei, AI aduce riscuri", a scris el în eseu. „Îi datorăm omenirii să încercăm", a adăugat Amodei referindu-se la obligația industriei de a acționa preventiv.

Sam Altman, pe aceeași direcție

Potrivit Biziday, care citează Bloomberg, și Sam Altman, directorul executiv al OpenAI, a sugerat recent că dezvoltatorii ar putea fi nevoiți să-și limiteze voluntar avansul rapid pentru a lăsa societatea să se adapteze. Euronews notează că apelul vine la câteva zile după ce Anthropic a publicat raportul de transparență care arăta că propriile modele au fost utilizate în scopuri militare și biologice — Claude a fost folosit în tentative de cercetare în domeniul rachetelor și armelor biologice.

Propunerea lui Amodei este considerată remarcabilă deoarece vine din interiorul industriei: Anthropic este ea însăși unul dintre cele mai avansate laboratoare AI la nivel mondial, concurent direct al OpenAI. Faptul că CEO-ul unui astfel de actor cheamă industria la autolimitare și propune evaluatori independenți cu acces nerestricționat reprezintă o schimbare de ton față de discursul optimist care a dominat sectorul în ultimii ani.