OpenAI, Anthropic și Google DeepMind își unesc forțele pentru a crea un organism menit să supravegheze riscurile asociate inteligenței artificiale (AI). Anunțul vine pe fondul cererilor tot mai numeroase pentru un control sporit asupra potențialelor efecte negative ale acestei tehnologii, a informat OpenAI pentru AFP.
Chris Lehane, directorul de politici globale al OpenAI, compania din spatele ChatGPT, a confirmat că producătorul popularului chatbot colaborează cu rivalii săi, Anthropic și Google DeepMind (parte a Alphabet), în domeniul siguranței inteligenței artificiale. Informația a fost preluată de Bloomberg News și Reuters.
Inițiativa ar fi pornit de la o sugestie a lui Demis Hassabis, CEO al Google DeepMind înainte de a prelua funcția de președinte la începutul lunii august. El a propus înființarea unei entități similare cu Autoritatea de Reglementare a Industriei Financiare din SUA (FINRA), o organizație care funcționează sub supravegherea Comisiei pentru Valori Mobiliare și Burse din SUA (SEC).
În ultimele luni, principalii jucători din domeniul AI au solicitat guvernului american să reglementeze sectorul și să asigure siguranța sistemelor AI. Chiar și administrația Trump a implementat un proces de evaluare a noilor modele de AI la începutul lunii august, însă participarea este voluntară, iar detaliile specifice ale mecanismului nu au fost dezvăluite.
În ciuda apelului lansat de CEO-ul Anthropic, Dario Amodei, pentru încetinirea dezvoltării AI, președintele american Donald Trump și alți membri ai partidului de guvernământ și-au reafirmat intenția de a nu limita progresul în acest domeniu, invocând temeri că astfel de măsuri ar favoriza China pe plan competitiv.
Înființarea unui organism propriu de supraveghere de către industrie ar putea necesita, cel mai probabil, adoptarea unei legislații specifice pentru a preveni acuzațiile de cartel sau încălcarea normelor antitrust în cadrul industriei AI.
Într-o postare publicată online la mijlocul lunii iulie, Demis Hassabis a conturat o posibilă structură, finanțată de companiile din sector, cu un consiliu format din experți independenți și reprezentanți ai comunității open-source.
Odată ce organizația ar deveni operațională, companiile majore de AI ar fi obligate să își supună noile modele unei evaluări riguroase, cu accent pe siguranță, înainte de a le lansa pe piață. Hassabis a sugerat că acest organism ar putea, de asemenea, să coordoneze o eventuală încetinire a dezvoltării AI, în cazul în care înțelegerea riscurilor nu ar ține pasul cu progresele tehnologice.