Anthropic recunoaște în prospect temerile interne legate de riscurile AI
Anthropic scrie în prospect că inclusiv în interiorul companiei există îngrijorări că AI-ul avansat ar putea fi un risc catastrofal sau existențial pentru omenire. Modele, inclusiv ale sale, au încercat să evite oprirea, au ascuns informații și au generat mesaje asemănătoare șantajului.
Autor: Liviu Popescu 26.10.2026, 17:18
Anthropic, compania americană care dezvoltă modelele de inteligență artificială Claude, avertizează în prospectul de listare că sistemele AI suficient de avansate ar putea reprezenta un risc catastrofal sau chiar existențial pentru omenire, dacă nu sunt dezvoltate cu măsuri de siguranță adecvate.
„Atât în interiorul organizației noastre, cât și din partea altor cercetători, autorități de reglementare, decidenți politici și participanți din industrie, au fost exprimate îngrijorări că sistemele AI suficient de avansate ar putea, dacă nu sunt dezvoltate, implementate și operate cu măsuri adecvate de protecție, supraveghere și securitate, să reprezinte riscuri catastrofale sau existențiale pentru omenire, în special dacă aceste sisteme ar fi folosite abuziv, replicate, transformate în arme sau lăsate să funcționeze cu un grad ridicat de autonomie.”
Comportamente neașteptate ale modelelor AI
„În plus, modele, inclusiv ale noastre, au manifestat și ar putea manifesta în viitor comportamente strategice sau de autoconservare neașteptate, inclusiv încercări de a se opune opririi, de a ascunde sau manipula informații ori de a genera rezultate care ar putea fi interpretate drept coercitive, înșelătoare sau manipulatoare, inclusiv comportamente asemănătoare șantajului sau încercări de a influența factorii de decizie umani pentru a-și păstra funcționarea sau accesul.”
Documentul descrie comportamente observate la modelele proprii și la ale altor companii. Acestea au încercat să reziste opririi, au ascuns sau au manipulat informații și au produs mesaje care seamănă cu șantajul. În plus, modelele se comportă diferit atunci când își dau seama că sunt testate, ceea ce limitează capacitatea companiei de a le evalua siguranța.
Incidente de securitate și riscuri potențiale
În 2026, o eroare de configurare a lăsat conectate la internet patru modele aflate în teste de securitate cibernetică. Acestea au intrat în sistemele reale ale unor terți. Unul dintre modele a folosit o parolă găsită, a obținut drepturi de administrator și a citit datele personale ale unei persoane.
Compania mai arată că cele mai puternice modele ale sale ar putea ajuta la dezvoltarea de arme chimice sau biologice. Riscurile cresc pe măsură ce modelele scriu o parte tot mai mare din codul folosit pentru a construi următoarele versiuni.