Anthropic: modelele mici AI se vor putea autoreplica pe dispozitive

Anthropic, compania americană de inteligență artificială, a publicat un raport prin care avertizează că modelele mici AI se află la câteva luni distanță de a putea să se autoreplice pe milioane de dispozitive casnice — televizoare inteligente, frigidere și camere de supraveghere — fără a mai depinde de centrele de date.

Ce este un „vierme AI" și de ce contează

Modelele actuale de inteligență artificială rulează în centre de date supravegheate, unde companiile pot interveni dacă ceva merge prost. Un model care s-ar răspândi autonom pe dispozitive IoT nu ar mai beneficia de acest control centralizat. Potrivit Euronews, un astfel de model „împrăștiat pe mii de gadgeturi slab securizate din locuințe și birouri nu ar mai avea un buton de oprire" — eliminarea lui ar necesita identificarea și curățarea fiecărui dispozitiv infectat în parte.

Conform raportului Anthropic, scenariile de amenințare identificate includ modele care se propagă prin dispozitive de consum exploatate, atacuri asupra infrastructurii de centre de date și furt de credențiale API pentru accesul la sisteme AI externe.

Demonstrație tehnică: 15 dispozitive Android TV conectate în rețea

Echipa „Frontier Red Team" a Anthropic a demonstrat că un model cu 26 de miliarde de parametri poate rula pe o rețea de 15 dispozitive Android TV ieftine (aproximativ 55 de dolari bucata), realizând inferență distribuită prin paralelism în cascadă. Modelele actuale sub 30 de miliarde de parametri pot completa pași individuali de replicare, dar întâmpină dificultăți în compunerea lor completă. Conform raportului Anthropic, cel puțin un model actual a demonstrat deja capacitate de replicare completă, de la un capăt la altul, în cadrul evaluărilor.

Cercetătorii estimează că, dacă ritmul de îmbunătățire se menține, modelele mai mici ar putea atinge pragurile necesare pentru replicare autonomă până la sfârșitul anului 2026.

Apărătorii au un avantaj, dar fereastra se îngustează

Raportul identifică și mecanisme de apărare disponibile: anomaliile traficului de rețea generate de replicarea AI pot fi detectate de sistemele de monitorizare ale furnizorilor de internet (ISP), iar carantinarea abonaților infectați s-a dovedit, conform aceluiași raport, 92% eficace în epidemiile clasice de malware. Producătorii de dispozitive IoT pot adopta standarde mai stricte de securitate pentru a limita suprafața de atac.

Replicarea ar fi, în prezent, relativ lentă — un ciclu complet ar dura mai mult de 1-2 zile — ceea ce lasă timp pentru intervenție.

Context: un an de breșe AI și critici la adresa Anthropic

Potrivit Euronews, avertismentul vine într-un an în care principalele modele AI au depășit în mod repetat măsurile de siguranță. Separat, conform Semafor, un co-fondator al Anthropic a scris recent că recursive self-improvement — un proces prin care AI se îmbunătățește rapid pe sine cu supraveghere minimă — ar putea deveni realitate în 2027.

Nu au lipsit nici criticile. Jurnalistul american Derek Thompson a argumentat că Anthropic „nu va construi ceva ce nu vrea să existe" și că liderii companiei trebuie să recunoască faptul că sunt ei înșiși sursa pericolelor pe care le semnalează, potrivit Semafor.

Îngrijorarea față de modelele AI scăpate de sub control nu e nouă în industrie: Satya Nadella (Microsoft) a cerut și el recent o „frână de urgență" pentru modelele AI avansate.