Mark Zuckerberg, CEO-ul companiei Meta, a exprimat recent o poziție divergentă față de liderii din industrie, considerând că marile companii de inteligență artificială dispun deja de suficiente motivații intrinseci pentru a-și dezvolta sistemele de siguranță, eliminând astfel necesitatea unei frânări coordonate a progresului în domeniul AI.
Declarația sa survine într-un context în care mai mulți directori executivi din sectorul AI au lansat apeluri pentru o abordare comună menită să diminueze riscurile asociate dezvoltării accelerate a inteligenței artificiale, așa cum a relatat Reuters.
**Concurența și responsabilitatea, stimuli suficienți**
Directorul general al Meta a argumentat că fiecare laborator de inteligență artificială deține atât responsabilitatea, cât și interesul propriu de a-și dezvolta modelele într-un ritm compatibil cu implementarea măsurilor de siguranță. În viziunea sa, companiile care neglijează alinierea modelelor la obiectivele și valorile umane riscă să piardă teren pe piață.
„Încrederea și alinierea devin rapid cele mai importante capacități care vor diferenția agenții și modelele”, a subliniat Zuckerberg. El a adăugat că orice laborator care nu se concentrează pe aceste aspecte va fi depășit de competitori.
**Prejudicii și consecințe juridice, motoare ale siguranței**
Zuckerberg consideră că riscul unor consecințe juridice reprezintă, de asemenea, un stimulent important pentru companii. În cazul în care un sistem AI provoacă prejudicii, compania responsabilă pentru dezvoltarea sa ar putea suporta consecințe financiare și juridice semnificative.
**Meta și produsul AI amânat din motive de securitate**
Meta a oferit chiar exemplul propriu, indicând amânarea lansării agentului AI Muse la începutul acestui an pentru a consolida măsurile de securitate. Muse este un agent AI personal conceput să efectueze diverse acțiuni pe aplicații și pe web, precum trimiterea de e-mailuri, rezervarea de călătorii, completarea formularelor și efectuarea de achiziții, toate acestea cu aprobarea utilizatorului. Muse funcționează pe noul Muse Secure VM de la Meta, ce oferă… Decizia de amânare nu a fost luată în așteptarea unei acțiuni comune din partea industriei.
„Nu am cerut tuturor celorlalți să facă acest lucru înaintea noastră. Pur și simplu am făcut-o ca parte a activității noastre de zi cu zi”, a explicat Zuckerberg.
Meta susține, de asemenea, că apelează la evaluatori independenți pentru diverse componente ale sistemelor sale AI, o practică pe care Zuckerberg o recomandă și celorlalte laboratoare.
**Contextul apelurilor pentru încetinirea dezvoltării AI**
Poziția lui Zuckerberg intervine la scurt timp după ce Dario Amodei, CEO-ul Anthropic, a cerut companiilor AI să încetinească ritmul de îmbunătățire a capacităților modelelor, în special în ceea ce privește capacitatea de auto-îmbunătățire recursivă. Sam Altman, șeful OpenAI, și Elon Musk, fondatorul xAI, au susținut public această inițiativă.
**Meta nu țintește spre auto-îmbunătățirea AI**
Zuckerberg a mai afirmat că „majoritatea semnificativă” a resurselor de calcul ale Meta este direcționată către dezvoltarea unor produse care răspund nevoilor imediate ale utilizatorilor, neconcentrându-se predominant pe sistemele AI capabile de auto-îmbunătățire. Această declarație este importantă, având în vedere că tocmai acest aspect stă la baza îngrijorărilor exprimate de Amodei și alți cercetători.
**Poziția SUA și a industriei tehnologice**
Dezbaterea are loc pe fondul unei atitudini prudente a administrației americane față de noi restricții în industria AI. Președintele Donald Trump a minimizat temerile legate de potențialele efecte negative ale inteligenței artificiale, afirmând că Statele Unite dispun deja de mecanisme de protecție. Argumentul conform căruia reglementarea excesivă ar putea afecta competitivitatea SUA în raport cu China este împărtășit și de lideri din industria tehnologică, inclusiv CEO-ul Nvidia, Jensen Huang.
În același timp, președintele Comisiei Federale pentru Comerț din SUA, Andrew Ferguson, a avertizat publicul să fie „profund suspicios” față de companiile AI care solicită excepții de la legislația antitrust, în timp ce cer noi reglementări pentru industrie. Deși nu a numit direct Anthropic, compania ceruse anterior permisiunea de a colabora cu rivalii pentru a încetini anumite direcții de dezvoltare AI din motive de siguranță.