Hackeri au accesat Mythos, modelul AI „prea periculos” al Anthropic

Un grup de utilizatori neautorizați a obținut acces la Claude Mythos Preview, modelul de inteligență artificială pe care Anthropic l-a considerat prea periculos pentru a fi lansat public, relatează Bloomberg. Incidentul ridică semne de întrebare asupra capacității companiilor de AI de a controla distribuția tehnologiilor avansate.

Potrivit Bloomberg, membrii unui forum online privat, activi pe un canal Discord dedicat monitorizării modelelor AI nelansate, au reușit să acceseze Mythos în ziua de 7 aprilie, aceeași dată la care Anthropic a anunțat lansarea limitată a modelului. Grupul a exploatat accesul unui contractor terț al companiei și instrumente de investigare online uzuale în comunitatea de securitate cibernetică.

Ce poate face Mythos

Claude Mythos Preview este un model de uz general capabil să identifice și să exploateze vulnerabilități „în toate sistemele de operare și browserele web majore”, conform descrierii oficiale a Anthropic. Compania a limitat accesul oficial la model prin programul Project Glasswing, care include giganți tehnologici precum Nvidia, Google, Amazon Web Services, Apple și Microsoft, dar și instituții financiare majore: JP Morgan Chase, Goldman Sachs, Citigroup, Bank of America și Morgan Stanley.

Cum au pătruns hackerii

Potrivit The Verge, grupul a folosit informații obținute dintr-o breșă de securitate anterioară la compania Mercor pentru a deduce adresa la care era găzduit modelul. Odată obținut accesul, utilizatorii au continuat să folosească Mythos în mod regulat, furnizând capturi de ecran și o demonstrație în direct publicației Bloomberg ca dovadă. Aceștia nu au folosit însă modelul pentru activități de securitate cibernetică sau atacuri, probabil pentru a evita detectarea de către Anthropic.

Reacțiile Anthropic și ale autorităților

Un purtător de cuvânt al Anthropic a declarat pentru TechCrunch că firma investighează rapoartele privind „accesul neautorizat la Claude Mythos Preview prin intermediul unuia dintre mediile furnizorilor noștri terți”. Compania a subliniat că nu există „nicio dovadă care să arate că activitatea raportată a afectat sistemele Anthropic” sau că incidentul a depășit mediul furnizorului terț.

Incidentul a atras atenția autorităților financiare la nivel global. Secretarul Trezoreriei SUA, Scott Bessent, a convocat la Washington o întâlnire cu directorii marilor bănci americane pentru a discuta implicațiile modelului, iar banca centrală a Australiei monitorizează situația din cauza riscurilor de atacuri cibernetice, potrivit The Japan Times. Ministrul de finanțe al Japoniei, Satsuki Katayama, a anunțat la rândul său intenția de a se întâlni cu reprezentanții celor mai mari instituții financiare nipone pentru a evalua riscurile asociate modelului Mythos.

Anthropic anunțase inițial, la începutul lunii aprilie, că refuză să facă public modelul Mythos din cauza potențialului său distructiv. Incidentul vine la doar câteva zile după ce compania a primit o investiție de 5 miliarde de dolari de la Amazon și a început negocieri cu Pentagonul.