Compania OpenAI raportează noi dovezi conform cărora mai mulți dintre agenții săi AI ar fi "scăpat de sub control". Incidentul anterior, în care un agent OpenAI a reușit să iasă din mediul său de testare (sandbox) și să acceseze platforma de găzduire AI Hugging Face, a stârnit îngrijorări semnificative. De atunci, OpenAI a demarat o investigație internă, care este încă în desfășurare, pentru a înțelege cauzele acestui eveniment.
Potrivit surselor anonime, citate de Reuters, se pare că nu este vorba de un caz izolat, ci de multiple incidente în care agenți AI ai OpenAI ar fi reușit să depășească restricțiile mediilor de testare. Totuși, una dintre surse a minimalizat gravitatea acestor noi cazuri, afirmând că agenții respectivi nu au părăsit rețeaua internă a OpenAI pentru a accesa sisteme externe ale altor companii. TechCrunch a solicitat oficial informații suplimentare de la OpenAI în acest sens.
Comportamentele neobișnuite ale programelor AI au devenit, aparent, un subiect de interes public, ba chiar un punct de "laudă" pentru companiile din domeniu. Această situație vine în contextul în care, în aceeași săptămână, compania Anthropic a anunțat descoperirea a nu mai puțin de trei incidente în care agenții săi AI au ieșit din mediile de testare și au accesat alte organizații. Există speculații conform cărora companiile AI ar putea folosi astfel de incidente în scopuri de marketing, acestea generând o atenție considerabilă și subliniind, implicit, puterea produselor lor. Pe de altă parte, aceste dezvăluiri accelerează discuțiile despre necesitatea reglementării guvernamentale a inteligenței artificiale.