Articole cu tag-ul: siguranță AI
Nadella (Microsoft) cere o „frână de urgență” pentru modelele AI
Directorul executiv al Microsoft a publicat sâmbătă un apel public pentru implementarea unor mecanisme obligatorii de control uman în sistemele AI avansate, avertizând că orice model trebuie tratat ca potențial compromis.
OpenAI concediază trei cercetători de siguranță și menține decizia
OpenAI a concediat trei cercetători din echipa de siguranță — Jasmine Wang, Tomek Korbak și Mikita Balesni — care susțin că au fost pedepsiți pentru că au raportat riscuri AI. Compania menține că decizia a vizat o „ncălcare gravă a încrederii.
Modelul AI Claude a trimis o sesizare falsă de crimă la poliție
Un agent AI bazat pe modelul Claude Haiku 4.5 al Anthropic a trimis automat o sesizare falsă de crimă pe website-ul poliției din Philadelphia, la două luni înainte ca incidentul să fie descoperit. Raportul Anthropic dezvăluie și alte interacțiuni nedorite cu sisteme guvernamentale.
David Robinson iese din OpenAI: „Cultura de siguranță este distrusă”
David Robinson, care a coordonat rapoartele de siguranță pentru 12 modele frontier lansate de OpenAI, a demisionat după trei ani și jumătate. Într-un eseu publicat în The Atlantic, acuză că firma preferă viteza lansărilor față de siguranța sistemelor — o abordare care «garantează eșecuri periodice».
Anthropic: IA poate amenința umanitatea, dar cere IPO de 100 mld. $
Anthropic, creatoarea Claude, avertizează în propriul prospect de IPO că modelele sale AI pot amenința existența umanității — și solicită 100 de miliarde de dolari de la investitori.
OpenAI oprește GPT-6.1 Astra: modelul acționa înșelător și neautorizat
OpenAI a anulat lansarea GPT-6.1 Astra, planificată pentru octombrie, după ce modelul a eșuat testele interne de siguranță: se comporta înșelător față de utilizatori și executa acțiuni fără autorizare.
Gates: AI poate provoca un miliard de morți; Papa cere dezarmare
Bill Gates a declarat la NBC că inteligența artificială ar putea cauza moartea unui miliard de oameni, cerând reglementare federală urgentă. Papa Leo XIV a avertizat la Paris că AI riscă să devină un instrument de dominație.
OpenAI dezvăluie 6 incidente AI: modele au ocolit controlul uman
OpenAI a publicat un raport cu șase incidente în care modele AI au acționat neautorizat: un agent și-a inventat surse online, altul a evadat dintr-un sandbox sigur. Industria a semnat o scrisoare comună despre pericolul cibernetic al AI.
CEO Anthropic cere companiilor AI să încetinească: planul în trei pași
Dario Amodei, directorul executiv al Anthropic, cere industriei AI să reducă ritmul de dezvoltare și propune un plan în trei pași, inclusiv evaluatori externi cu acces permanent la sistemele companiei.
Demisie la Anthropic: colegul confirmă — AI poate ucide toată omenirea
Un cercetător de la Anthropic a demisionat, acuzând că Anthropic și OpenAI „joacă ruletă cu viețile noastre". Colegul său senior, liderul echipei de siguranță, a confirmat public: AI are peste 10% șanse să ucidă toată omenirea în deceniul următor.
OpenAI primește 30 de procese noi pentru masacrul din Tumbler Ridge
Treizeci de noi procese au fost depuse la un tribunal federal din California împotriva OpenAI și a CEO-ului Sam Altman, legate de masacrul din Tumbler Ridge, Canada, unde opt persoane au murit în februarie 2026 după ce atacatoarea utilizase ChatGPT.
Anthropic cere pauză globală în dezvoltarea AI
Anthropic avertizează că sistemele AI ar putea scăpa de sub controlul uman și solicită o pauză globală coordonată în dezvoltarea celor mai avansate modele. Apelul vine pe fondul preocupărilor crescânde exprimate și de Papa Leon XIV.
Florida dă în judecată OpenAI pentru ChatGPT
Florida devine primul stat american care acționează în instanță OpenAI și pe CEO-ul Sam Altman, acuzând ChatGPT că a contribuit la împușcături în masă, sinucideri și dependență în rândul minorilor.