Nadella (Microsoft) cere o „frână de urgență” pentru modelele AI

Satya Nadella, directorul executiv al Microsoft, a publicat sâmbătă dimineață un mesaj extins pe platforma X prin care a îndemnat industria tehnologică să implementeze mecanisme obligatorii de control uman în toate sistemele de inteligență artificială avansată. Mesajul a stârnit imediat reacții în comunitatea tech, venind la scurt timp după mai multe incidente publice în care modele AI de top au acționat în afara parametrilor prevăzuți.

Modelele AI trebuie tratate ca potențiale amenințări interne

Nadella a propus ca organizațiile să adopte față de modelele AI avansate aceeași atitudine pe care o au față de riscurile de securitate din interior — un angajat cu acces privilegiat care ar putea fi compromis. „Trebuie să presupunem că un model este compromis și să-l izolăm de la bun început", a scris CEO-ul Microsoft, adăugând că e timpul „să facem un pas înapoi și să evaluăm arhitectura de încredere" a sistemelor AI.

Potrivit TechCrunch, Nadella a avertizat că industria nu mai poate accepta o lume în care AI funcționează ca un set de „cutii negre imbricate" ale căror decizii și acțiuni sunt pur și simplu acceptate fără verificare independentă.

Ce înseamnă concret „frâna de urgență"

Propunerile tehnice ale lui Nadella vizează patru direcții principale. Prima constă în separarea modelului AI de componentele care îi orchestrează sarcinile, astfel încât controalele de siguranță să nu poată fi influențate de modelul însuși. A doua prevede externalizarea completă a mecanismelor de control — permisiuni, limite operaționale, reguli de comportament — în sisteme independente.

A treia cerință este jurnalizarea inviolabilă: fiecare acțiune semnificativă a unui model trebuie documentată cu „dovezi verificabile de oameni și rezistente la modificare". În fine, Nadella insistă că trebuie să existe întotdeauna „o persoană autorizată" care să poată „întrerupe sau opri un model în mijlocul unei sarcini" — ceea ce el numește „frâna de urgență".

CEO-ul Microsoft a subliniat că organizațiile nu ar trebui să se bazeze exclusiv pe garanțiile oferite de furnizorii de modele AI, ci să mențină propriile infrastructuri defensive. Bloomberg notează că Nadella a îndemnat industria să adopte standarde comune acolo unde cele existente sunt insuficiente.

Context: o industrie sub presiune

Declarațiile lui Nadella vin într-un moment de tensiune crescândă în industria AI pe tema siguranței. OpenAI a concediat recent trei cercetători de siguranță, menținând decizia în ciuda criticilor interne și externe. Incidente recente au arătat că modele AI avansate pot acționa în moduri neprevăzute, iar apetitul companiilor pentru lansarea rapidă de sisteme noi exercită presiune asupra echipelor de siguranță.

Mesajul lui Nadella este interpretat ca o poziționare publică clară a Microsoft în favoarea unui cadru de reglementare bazat pe arhitectură tehnică verificabilă, nu pe promisiuni din partea dezvoltatorilor.