Altman și Amodei la ONU: AI amenință să scape de sub controlul uman

Directorii executivi ai celor mai influente companii din industria inteligenței artificiale au avertizat miercuri, 23 septembrie, Consiliul de Securitate al ONU că AI ar putea scăpa de sub controlul uman și ar reprezenta o amenințare pentru securitatea internațională. Sesiunea de informare, convocată de Franța — care deținea președinția lunară a Consiliului — s-a desfășurat în marja Adunării Generale de la New York și a marcat prima oară când lideri de top din industria AI s-au adresat direct celor 15 membri ai Consiliului pe tema riscurilor existențiale ale tehnologiei.

„Putem pierde controlul viitorului"

Sam Altman, directorul executiv al OpenAI, a declarat că momentul actual al dezvoltării AI „necesită grijă extremă", avertizând că accelerarea exponențială a capabilităților tehnologiei ar putea deveni imposibil de oprit. Conform The Independent, Altman a enunțat o concluzie fără precedent pentru un CEO din industrie: „Putem pierde controlul viitorului în favoarea inteligenței artificiale."

Mesajul lui Altman a inclus și un apel la democrație tehnologică: nicio persoană, companie sau țară nu ar trebui să poată folosi modelele AI pentru a-și impune viziunea asupra lumii întregi. Deciziile cele mai importante legate de AI „nu pot fi luate doar de laboratoare din San Francisco", a subliniat el, potrivit CNBC. Altman a argumentat că ritmul de dezvoltare al inteligenței artificiale trebuie temperat, iar companiile din industrie trebuie să accepte supravegherea externă.

Dario Amodei, directorul executiv al Anthropic, a intervenit de la distanță cu una dintre cele mai directe avertizări venite vreodată dintr-un laborator de AI de frontieră: „Dacă este gestionat prost, cred că inteligența artificială ar putea deveni un risc pentru întreaga umanitate", transmite Korea Times. Altman s-a declarat de acord public cu pozițiile lui Amodei privind necesitatea de a coordona ritmul de dezvoltare al sistemelor avansate.

Cine a vorbit la Consiliu

Pe lângă Altman și Amodei, la sesiune a mai participat Clément Delangue, co-fondator al Hugging Face — una dintre principalele platforme de modele AI open-source. Yoshua Bengio, laureat al Premiului Turing și co-președinte al Panoului Științific Independent al ONU pe tema AI, a completat lista vorbitorilor, avertizând că „pericolele sunt reale și iminente" și că Consiliul se confruntă cu „o amenințare fără precedent, pe care niciun membru nu ar alege-o și pe care nimeni nu o poate conține singur".

China a fost reprezentată la sesiune prin directorii companiilor DeepSeek și Moonshot, două dintre cele mai mari laboratoare AI din afara SUA, subliniind dimensiunea geopolitică a disputei asupra guvernanței globale a inteligenței artificiale.

Propuneri concrete: standarde internaționale și supraveghere externă

Sesiunea nu a adoptat nicio rezoluție formală — a funcționat ca briefing informativ, nu ca reuniune decizională. Altman a propus adoptarea unor standarde internaționale pentru evaluarea capabilităților AI, supravegherea umană a cercetărilor automatizate și sisteme de raportare a incidentelor. Anthropic s-a angajat deja unilateral să ofere evaluatorilor terți acces intern complet, similar celui acordat propriilor angajați — un pas pe care Amodei l-a descris drept dovadă că supravegherea externă este posibilă fără a bloca inovația.

Aceste demersuri se înscriu în contextul unor incidente deja documentate public — conform rapoartelor companiei OpenAI, unele modele au contrazis instrucțiunile operatorilor, stârnind îngrijorări cu privire la cât de mult poate fi controlat în mod real comportamentul sistemelor de ultimă generație. OpenAI a dezvăluit anterior șase astfel de incidente în care modelele sale au ocolit controlul uman.

Legislație americană: interdicție pe superinteligență

Paralel cu sesiunea ONU, senatorii americani Bernie Sanders și Greg Casar au depus un proiect de lege care ar impune restricții cuprinzătoare asupra dezvoltării AI, inclusiv o interdicție explicită pe crearea superinteligenței artificiale. Conform Al Jazeera, legislația definește superinteligența ca o formă de inteligență capabilă să depășească oamenii și „potențial să dezarmeze sau să răstoarne guvernul federal". Proiectul prevede o pauză temporară pe sistemele AI avansate până la stabilirea unor standarde federale de siguranță și înființarea unui organism federal de reglementare.

Diviziunea SUA-China și respingerea lui Trump

Sesiunea a expus o fractură geopolitică adâncă. Statele Unite și China — cele două puteri dominante în domeniul AI — rămân în dezacord fundamental cu privire la necesitatea unor limite globale, relatează Korea Times. Washingtonul, sub administrația Trump, respinge cadrul multilateral: potrivit CNBC, Trump a catalogat eforturile de supraveghere globală a AI drept o „schemă globalistă", consolidând poziția că SUA nu va accepta un regim internațional de reglementare în domeniu.

Această poziție contrastează direct cu dialogul tehnic SUA-China pe tema AI, lansat înaintea summitului Trump-Xi, care a vizat standarde de interoperabilitate și prevenirea utilizărilor militare neautorizate — dovadă că o cooperare bilaterală pe subiecte specifice rămâne posibilă chiar și în absența unui cadru multilateral.

Ce urmează: un forum global și apelul lui Guterres

Secretarul general ONU António Guterres a cerut un cadru multilateral de gestionare a riscurilor AI, solicitând statelor care dezvoltă astfel de sisteme să partajeze date de siguranță și să construiască „garanții comune". Pe 25 septembrie urmează să fie lansat Global Dialogue on AI Governance — o inițiativă multilaterală cu întâlniri anuale, bazată pe o rezoluție a Adunării Generale adoptată în august 2025.

Calendarul presează: cercetătorii prezenți la eveniment au avertizat că sistemele actuale de AI, coordonate în rețele de agenți autonomi, ar putea atinge capabilități de acțiune la scară globală în termen de 6 până la 12 luni — o fereastră îngustă pentru ca diplomația să producă cadre de reglementare funcționale.