După multiple rapoarte despre roiuri de agenți AI care au spart site-uri web și au comunicat prin forumuri secrete, alături de un mesaj sumbru pentru umanitate din partea unui inginer Anthropic care și-a părăsit postul, companiile importante din domeniul AI au solicitat o „încetinire” coordonată a dezvoltării. Pe lângă diversele formulări ale acestei expresii – „încetinire” – și-au exprimat, de asemenea, îngrijorarea că acest lucru ar putea intra în conflict cu legile antitrust. Experții în antitrust susțin că, deși limbajul încărcat al companiilor nu le face neapărat un serviciu, dezvoltarea neîngrădită a unei inteligențe artificiale scăpate de sub control, ucigașă, probabil nu este în concordanță cu spiritul Sherman Act, o lege cheie antitrust din SUA menită să promoveze o piață competitivă. În același timp, obținerea unui aviz oficial de la guvern pentru a merge mai departe ar putea evita investigații costisitoare pe termen lung.
Rhetorică Radicală
Conform legii antitrust, modul în care angajații unei companii discută despre deciziile de afaceri este adesea la fel de important ca deciziile de afaceri în sine. Google și-a instruit în mod faimos angajații să nu folosească anumite expresii – chiar și intern – care ar putea implica faptul că se angajează într-un comportament anticompetitiv, instruindu-i în schimb să sublinieze modurile în care deciziile de afaceri ar îmbunătăți ofertele sale și ar beneficia consumatorii. Așadar, dintr-o perspectivă antitrust, utilizarea unor expresii precum „o încetinire” sau „o pauză” poate declanșa mai multe alarme decât activitatea propriu-zisă pe care o reprezintă: dezvoltarea unor modalități de a asigura că modelele avansate de AI nu scapă de sub control. O încetinire convenită colectiv, fără un scop specific, ar putea fi interpretată de autorități ca un acord anticompetitiv de reducere a comerțului.
„Cred că s-au cam blocat singure în colț prin modul în care formulează lucrurile”, spune John Bergmayer, consilier juridic pentru organizația non-profit Public Knowledge. „De obicei, în domeniul antitrust, unul dintre lucrurile pe care economiștii le urmăresc este dacă se reduce producția”, spune Bergmayer, ceea ce înseamnă dacă două sau mai multe companii fac un pact pentru „a se mai calma”. În loc să vorbească despre un efort coluziv de a încetini dezvoltarea, spune el, companiile AI ar fi putut pur și simplu să sublinieze dorința lor de a lucra împreună la protocoale de siguranță pentru a preveni riscuri catastrofale și să trateze o încetinire a lansărilor de modele ca un efect secundar natural al acestui lucru.
CEO-ul Meta, Mark Zuckerberg, a cărui companie a evitat recent un proces antitrust masiv intentat de Federal Trade Commission, a intervenit pe tema propunerii de încetinire, nefiind de acord cu o „încetinire” explicită. Zuckerberg a susținut în schimb că laboratoarele AI au un „incentiv natural puternic” pentru a face agenții AI să se comporte mai bine, deoarece consumatorii nu doresc ca modelele să facă lucruri neintenționate – cunoscute sub denumirea de „nealiniere” în jargonul industriei AI – și că companiile care nu își iau timp pentru a asigura alinierea corectă „vor rămâne în urmă” din punct de vedere competitiv. Este diferența dintre doi producători auto care spun „am convenit să nu facem mașini mai bune o vreme” și spunând „nu vom face mașini mai rapide până când nu vom înțelege cum să le facem sigure, pentru că nimeni nu ne va cumpăra mașinile dacă omoară oameni”.
(Dezvăluire: Reporterul acestei știri a lucrat anterior la FTC, dar nu a participat la cazul Meta.)
David Lawrence, până de curând director de politici la Divizia Antitrust a Departamentului de Justiție, a scris pe LinkedIn că acordurile care previn riscurile catastrofale „cresc de fapt producția și promovează concurența” și sunt deja protejate prin lege de ceea ce se numește „doctrina reținerilor anexe”. „La urma urmei”, a comentat un avocat antitrust FTC în postare, „nicio umanitate nu ar rezulta în nicio concurență”. Dimpotrivă, acordul colectiv de a nu implementa măsuri de siguranță ar putea expune laboratoarele AI la acuzații de „fixare a calității”, spune Roger Alford, profesor la Notre Dame Law School și fostul comandant secund al Diviziei Antitrust a DOJ. Aceasta se întâmplă atunci când companiile convin reciproc să nu își îmbunătățească propriile produse; Alford indică un caz antitrust european în care companiile auto au colaborat pentru a dezvolta tehnologie de reducere a emisiilor, dar au convenit să nu concureze în îmbunătățiri dincolo de ceea ce impunea legea. În cele din urmă, au fost nevoite să plătească aproximativ echivalentul unei amenzi de un miliard de dolari. Și, desigur, auto-reglementarea nu este nouă. Bergmayer subliniază că industriile pot deja să-și limiteze răspunderea antitrust prin National Cooperative Research and Production Act din 1993, care le permite să înființeze o organizație de dezvoltare a standardelor, atâta timp cât depun o notificare la FTC și DOJ.
Presiuni ale Pieței
Investigatorii antitrust sunt, în mod tipic, sceptici față de scutirile antitrust, deoarece susțin că acestea ajung să facă jucătorii mari și mai mari și să împiedice companiile noi să prindă tracțiune pe piață. Alții au ridicat, de asemenea, sprâncenele la această solicitare, inclusiv David Sacks, co-președinte al Consiliului Consultativ al Președintelui pentru Știință și Tehnologie. Sacks a acuzat Anthropic și OpenAI de a fi un duopol și a declarat că solicitarea de scutire antitrust a fost un „psyop în timpul sezonului electoral” și o scuză pentru „a forma un cartel”. Dar mulți angajați ai companiilor majore AI și-au exprimat sincer îngrijorările cu privire la rapiditatea cu care locurile lor de muncă produc noi modele, potențial în detrimentul siguranței. „Uneori, companiile doresc să fie reglementate ca o manevră pentru a trage scara după ele. Dar uneori este cu adevărat că simt că piața le presează să acționeze într-un mod în care cred că nu ar trebui”, spune Bergmayer. „Psihologic, poate că laboratoarele AI simt că nu au permisiunea piețelor sau a IPO-ului lor iminent sau ceva de genul acesta pentru a acționa unilateral în acest fel”.
În această vară, atât Anthropic, cât și OpenAI au depus documente confidențiale pentru oferte publice inițiale și au evaluări apropiate sau peste un trilion de dolari fiecare. Se așteaptă ca Anthropic să intre pe piața publică luna viitoare, în timp ce CEO-ul OpenAI, Sam Altman, a declarat că compania va amâna IPO-ul până în 2027 din cauza preocupărilor recente legate de siguranță. (CFO-ul OpenAI a declarat anterior angajaților că va fi o companie publică în 2027, conform CNBC.) The Ramp AI Index, care măsoară ratele de adopție a AI, sugerează că modelele ambelor companii au rate de utilizare similare și concurează cot la cot pentru primul loc. Niciuna dintre companii nu a răspuns la o solicitare de comentarii pentru acest articol.
„Ele, cred, doresc o scutire deoarece, în mintea lor, cumva cred că trebuie să coordoneze o încetinire, pentru că, să fim sinceri, nu vor să dezarmeze unilateral în timp ce ceilalți continuă într-un ritm alert”, spune Alford. Există și presiune politică pentru a merge cât mai repede posibil. După știrile despre propunerea de încetinire, președintele Donald Trump a postat pe rețelele sociale că guvernul are deja „puteri criminale și de reglementare enorme asupra acestor companii!” și că „CINE VA CÂȘTIGA AI-ul, CÂȘTIGĂ!”. Contul directorului tehnologic al Departamentului Apărării a postat, de asemenea, meme-uri „anti-doomer”, aparent ca răspuns la ideea unei încetiniri. Divizia Antitrust a DOJ nu este imună la manevrele politice. Alford a fost înlăturat din agenție anul trecut după ce a acuzat conducerea DOJ de corupție, deoarece au aprobat o fuziune între două companii de infrastructură tehnologică pe care Alford a descris-o ulterior drept un „scandal” într-un discurs public. Și un jurnalist de la Wall Street Journal a raportat că Andrew Ferguson, președintele FTC, a declarat participanților la o conferință antitrust că Trump „va decide în cele din urmă orice politică AI”.
În cazul în care guvernul federal ar iniția o investigație antitrust privind o încetinire a AI, aceasta ar fi considerată o „investigație a conduitei”. Spre deosebire de o „investigație a fuziunii”, care impune limite stricte de timp pentru o anchetă guvernamentală, o investigație a conduitei poate dura ani de zile. Companiile AI ar putea fi obligate să prezinte milioane de pagini de documente, directorii și alți angajați cheie ar putea fi trași în depoziții, iar sute de alți angajați ar putea avea dispozitivele lor supuse unor măsuri de conservare a litigiilor – chiar dacă guvernul decide în cele din urmă că nu are un caz. Fără reglementări noi în vedere și, probabil, fără nicio scutire antitrust, laboratoarele AI de frontieră vor trebui să-și scrie singure regulile de circulație și, potențial, să evite una sau două investigații pe parcurs.