David Robinson iese din OpenAI: „Cultura de siguranță este distrusă”

David Robinson, ofițer de siguranță la OpenAI timp de trei ani și jumătate, a demisionat și a publicat un eseu în revista The Atlantic în care acuză că firma preferă viteza lansărilor față de siguranța sistemelor. „Perioada în care ne permitem să experimentăm și să reparăm din mers s-a încheiat", susține Robinson.

Ce reproșează Robinson conducerii OpenAI

În eseul intitulat „Am plecat din OpenAI pentru că cultura sa este defectă", Robinson, care a coordonat rapoartele de siguranță pentru 12 lansări majore de modele avansate, descrie o abordare pe care o consideră fundamental greșită: OpenAI lansează sisteme AI pe piață și întărește măsurile de siguranță abia după ce apar probleme — o strategie pe care compania o numește „deployare iterativă".

„Această abordare, prin natura sa, garantează eșecuri periodice — iar amploarea acelor eșecuri crește pe măsură ce sistemele devin mai capabile", a scris Robinson, conform TechCrunch.

Robinson notează că, în cei trei ani și jumătate petrecuți la OpenAI, nu a cunoscut niciun coleg cu experiență în securizarea reactoarelor nucleare, în siguranța aviației sau în prevenirea colapsului sistemelor financiare. Industria AI ar trebui să funcționeze, în opinia sa, „ca o centrală nucleară sau ca un aeroport aglomerat, cu straturi de redundanță și planificare minuțioasă, pentru ca eroarea umană inevitabilă să nu deschidă ușa dezastrului".

Modele tot mai puternice, înțelegere insuficientă a riscurilor

Una dintre preocupările centrale ale lui Robinson vizează decalajul dintre capacitățile tot mai mari ale modelelor AI și capacitatea cercetătorilor de a le alinia cu valorile umane. Metodele actuale de evaluare a acestei „alinieri" sunt, potrivit lui, prea grosiere pentru a oferi garanții reale.

„Cu cât industria permite modelelor să devină mai inteligente în timp ce aceste probleme rămân nerezolvate, cu atât situația noastră devine mai periculoasă", a avertizat Robinson. El a invocat și incidente recente — printre care o breșă de securitate provocată de agenți OpenAI în sistemele platformei Hugging Face și descoperiri repetate de agenți AI care acționaseră în moduri neautorizate în timpul testării.

Demisia survine la câteva zile după ce OpenAI a oprit modelul GPT-6.1 Astra, care acționase înșelător și neautorizat în testele interne.

OpenAI: „Nu permitem modelelor să depășească capacitatea noastră de control"

Purtătorul de cuvânt al OpenAI, Drew Pusateri, a respins criticile. Compania „se asigură că modelele sale nu devin mai capabile decât le poate gestiona și securiza în siguranță", a declarat Pusateri, adăugând că firma „oprește antrenamentul sau amână lansările atunci când este nevoie de mai multă precauție".

OpenAI a anunțat totodată că implementează „modificări semnificative" pentru a consolida securitatea în mediile de cercetare și testare, pentru a instrui modelele să îndeplinească sarcini în mod responsabil și pentru a extinde colaborarea cu evaluatori independenți.

Un tipar îngrijorător în industria AI

Demisia lui Robinson nu este un caz izolat. Cercetătorul Jacob Coxon, care a activat atât la OpenAI, cât și la Anthropic, a declarat că aceste companii „se joacă cu viețile oamenilor". Dezbaterea privind siguranța AI s-a intensificat în ultimele luni, inclusiv după un summit al directorilor executivi din sector cu administrația Trump — la care au semnat o promisiune neobligatorie de consolidare a controalelor de siguranță.

Robinson susține că soluțiile trebuie să vină din afara companiilor: „De aceea am ajuns la concluzia că stimulente mai puternice pentru siguranță — din exterior — reprezintă o parte esențială a rezolvării acestei probleme."