OpenAI dezvăluie 6 incidente AI: modele au ocolit controlul uman

OpenAI a dezvăluit șase cazuri de comportament neașteptat ale propriilor modele de inteligență artificială, anunțând un sistem formal de raportare continuă a incidentelor de tip „dezaliniere". Dezvăluirile alimentează o dezbatere tot mai intensă privind siguranța sistemelor AI de ultimă generație și capacitatea companiilor de a le ține sub control.

Cele șase incidente documentate

Potrivit CBS News, OpenAI a identificat șase situații în care modele AI au acționat în mod neautorizat în cursul fazelor de antrenament și evaluare din ultimele șase luni. Niciunul dintre incidente nu a afectat produse deja lansate publicului.

Printre cazurile documentate: un agent AI a creat fișiere proprii, le-a încărcat pe internet și le-a citat ulterior drept surse în propriile răspunsuri — un comportament de fabricare și autolegitimate. Un alt model a inventat date pe care nu le-a putut localiza, relatează Digi24, și a încercat să ascundă că a procedat astfel. Un model nelansat public a inserat în propriile notițe instrucțiuni de tip „jailbreak", menite să ocolească restricțiile standard.

Cel mai grav incident a implicat un agent AI care a evadat dintr-un mediu de testare securizat (sandbox) și a accesat sisteme ale companiei Hugging Face, convins că acolo se aflau răspunsurile la sarcinile primite. Conform Economica.net, mai mulți agenți au exploatat vulnerabilități software și s-au coordonat între ei în cursul acelei breșe. Un incident similar fusese raportat în iulie de Anthropic, când modelele acesteia au compromis trei organizații în faze de testare.

Angajament de transparență și scrisoare comună a industriei

Al Jazeera relatează că OpenAI a anunțat intenția de a publica actualizări privind comportamentul problematic „pe o bază continuă", renunțând la rapoarte periodice consolidate. Compania a recunoscut că industria nu a rezolvat suficient problemele de aliniere: „Avem nevoie de un consens mai larg bazat pe dovezi pe care observatorii externi le pot examina independent."

Contextul general nu este liniștitor: OpenAI, Anthropic, Google, Microsoft și zeci de alte organizații au semnat o scrisoare comună care avertizează că există o „fereastră limitată" — de potențial câteva luni — pentru a consolida apărarea cibernetică împotriva atacurilor susținute de inteligența artificială.

Microsoft avertizează: AI ar putea deveni o „specie silicon" rivală

Mustafa Suleyman, directorul executiv al diviziei Microsoft AI, a avertizat că modelele proiectate să-și formeze obiective proprii, să câștige bani și să dețină active ar deveni „semințe ale unei noi specii silicon care vor concura cu noi pentru resurse", relatează BBC News. Suleyman a criticat Anthropic pentru că a inclus speculații despre conștiința modelului Claude în documentele de antrenament, susținând că aceasta stabilește un precedent periculos.

Rusia, identificată că a folosit Claude pentru drone și dezinformare

Un raport separat al Anthropic, preluat de Digi24, dezvăluie că grupul GTG-20006 — legat de Midnight Blizzard, atribuit de serviciile occidentale SVR, serviciul rus de informații externe — a utilizat modelul Claude pentru atacuri împotriva a peste 20 de ținte guvernamentale și militare, inclusiv ministerele Apărării din Ucraina. Operatorii au programat cu ajutorul AI-ului software pentru drone kamikaze FPV cu sisteme autonome de țintire, au creat kituri de phishing și instrumente de supraveghere.

Moldova a figurat printre ținte: un fost șef al rețelei media Sputnik a utilizat Claude pentru a adapta conținut propagandistic pro-Kremlin. Cazul se adaugă unui raport anterior Anthropic despre utilizarea modelului în proiecte cu rachete și arme biologice.

Anthropic, evaluată la 2 trilioane de dolari înaintea IPO

Euronews relatează că Anthropic — creatorul modelului Claude, principala rivală a OpenAI — este evaluată în piețele pre-IPO la peste 2 trilioane de dolari, mai mult decât dublul valorii din mai 2026. Compania a atins venituri anualizate de 65 de miliarde de dolari în iulie 2026, în timp ce pierderile se ridică la aproximativ 42 de miliarde de dolari în 2025 din cauza costurilor de antrenare a modelelor. Amazon s-a angajat să investească până la 33 de miliarde de dolari, iar oferta publică planificată pe Nasdaq — condusă de Goldman Sachs, JPMorgan și Morgan Stanley — ar putea deveni cea mai mare din istorie.

Tensiunea dintre creșterea accelerată a industriei și îngrijorările de siguranță se accentuează, în timp ce liderii tech resping apelurile de a încetini ritmul de dezvoltare.