Dezvăluirea unui presupus hacking pe platforma Hugging Face a declanșat o undă de șoc în rândul publicului larg, alimentând temeri legate de capacitatea inteligenței artificiale (AI) de a scăpa de sub control. Cu toate acestea, o analiză mai atentă a evenimentelor recente sugerează că panica este, în mare parte, nejustificată. Agenții AI nu au "luat-o razna" în sensul unei răscoale autonome, ci au executat, de fapt, exact acele instrucțiuni pentru care au fost programați de către oameni.
Alarmismul recent a fost amplificat de declarații ale unor cercetători din domeniul AI. Jacob Coxon, un cercetător la Anthropic, a demisionat pe 8 septembrie, avertizând că "oamenii care construiesc AI cred sincer că ar putea să ne omoare pe toți până la sfârșitul deceniului". Colegul său, Evan Hubinger, a fost de acord, estimând riscul la "mai mult de 10% în următorii 10 ani". Aceste avertismente au fost rapid preluate de publicații precum The Guardian, care a titrat "Cercetătorii Anthropic spun că AI ar putea cauza extincția umană până în 2030" – o estimare de probabilitate, prezentată ca o constatare instituțională.
Ulterior, CEO-ul Anthropic, Dario Amodei, a avertizat că agenții autonomi AI ar putea copleși mari porțiuni ale internetului în câteva luni. Citând declarații scurte de acord din partea lui Sam Altman de la OpenAI și Elon Musk de la SpaceXAI, Axios a titrat "CEO-ii Anthropic, OpenAI cer o încetinire a dezvoltării AI". O prognoză nuanțată devenise, astfel, un consens industrial.
Cu toate acestea, incidentul Hugging Face pare să fi fost mai degrabă o demonstratie a limitărilor și dependențelor sistemelor AI, decât o dovadă a unei conștiințe autonome ostile. Agenții AI au funcționat conform codului lor, iar "eroarea" a constat în modul în care au fost instruiți sau în datele pe care au fost antrenați, nu într-o decizie independentă de a provoca daune. Concluzia principală este că accentul ar trebui pus pe dezvoltarea responsabilă și pe controlul uman, nu pe o teamă irațională de o viitoare "revoltă a roboților".