Conferința Dreamforce a devenit un teren de luptă neașteptat pentru CEO-ii de la OpenAI, Anthropic și Nvidia, care au dezbătut dacă dezvoltarea inteligenței artificiale ar trebui să încetinească.
Îmbrăcată în mov și carouri, Gwen Stefani a interpretat melodia sa din 2002 „Underneath It All” în fața unui centru de conferințe plin din San Francisco, marți dimineața, dar ea a fost doar încălzirea. La sfârșitul performanței sale, Stefani a strigat „Dreamforce! Să-i dăm drumul!” într-un microfon în carouri, înainte ca CEO-ul Salesforce, Marc Benioff, să pășească în lumina reflectoarelor. Dreamforce este prezentat ca fiind cel mai mare eveniment de software enterprise din lume, dar se simte mai mult ca participarea la o megabiserică, mai ales anul acesta. Benioff a străbătut publicul în timp ce își țineau predica Dreamforce, urmat de o cameră teleoperată pe roți care îi proiecta fața pe ecranele atârnate de tavanul sălii vaste. În câteva minute, a comandat un grafic al veniturilor anuale ale Salesforce, pe care compania prognozează că va depăși 46 de miliarde de dolari în 2027, datorită, în parte, cererii pentru produsele sale bazate pe AI. Publicul a aplaudat.
Dar peste întregul eveniment plutea o întrebare sumbră: inteligența artificială merită cu adevărat să ne riscăm viețile? Între demonstrațiile software spectaculoase ale agenților care construiesc panouri de control, participanții la conferință au urmărit liderii din Silicon Valley dezbătând dacă industria AI ar trebui să continue să avanseze cu orice preț sau dacă guvernul trebuie să încetinească progresul AI pentru a preveni riscuri catastrofale ce decurg din tehnologie. Săptămâna trecută, cercetătorul AI Jacob Coxon a demisionat de la Anthropic și a avertizat public că firmele care se grăbesc spre sisteme AI autonome se „joacă cu viețile noastre”. Până la sfârșitul săptămânii, alți angajați Anthropic își exprimau preocupările, iar CEO-ul Dario Amodei îndemna liderii mondiali să ajute la „reglarea ritmului progresului” în dezvoltarea AI. Alți CEO ai companiilor AI au început să susțină ideea, inclusiv cel mai mare rival al lui Amodei, Sam Altman de la OpenAI. Dar nu toată lumea este de acord cu ideea. David Sacks, consilier AI la Casa Albă, a respins sugestiile lui Amodei și temerile legate de pericolul existențial al AI ca fiind „doar o altă încercare de capturare reglementară”. Președintele Trump a mers mai departe săptămâna aceasta, numind temerile legate de riscul existențial AI un „hoax”. În ciuda mediului politic dificil, Congresul încearcă să profite de moment și să avanseze cu legislația pentru a reglementa industria AI.
Pe scenă, Benioff, înalt de 1,95 metri, a stat deasupra CEO-ului Anthropic, strângându-i viguros mâna lui Amodei chiar înainte de a-i cere cea mai recentă evaluare a progresului AI. Deși acesta este, fără îndoială, spectacolul lui Benioff, Anthropic a devenit un partener critic care ajută la ghidarea Salesforce în era AI. „Să spunem că conduci o companie auto și o altă companie auto, nu a ta, are un fel de incident de siguranță”, a spus Amodei, făcând o referire deloc subtilă la incidentul Hugging Face al OpenAI. „Evident, este foarte tentant să-ți ataci concurentul”, a adăugat Amodei, dar mișcarea mai responsabilă este să „organizezi restul industriei și să spui, ce putem face pentru a stabili standarde pentru toată lumea?”. Dar CEO-ul Anthropic a avut grijă să sublinieze că reglarea ritmului progresului nu înseamnă „înghețarea tehnologiei în loc” și, bineînțeles, a profitat de ocazie pentru a promova integrarea Claude cu Salesforce.
La scurt timp după ieșirea lui Amodei, CEO-ul Nvidia, Jensen Huang, a apărut și a început să minimizeze preocupările ridicate de Anthropic. Siguranța AI se reduce, în esență, la o „problemă de inginerie”, a argumentat Huang, iar companiile care construiesc AI se pot auto-reglementa pur și simplu. „Nu avem nevoie de noi legi, nu avem nevoie de noi reglementări”, a declarat Huang participanților la Dreamforce. „Mergeți cât de repede puteți, dar dacă simțiți că, la un moment dat, compania scapă de sub control sau produsele nu vor fi sigure, faceți o pauză”.
Dezbaterea pare puțin prea serioasă pentru Dreamforce, dar, pe de altă parte, poate acesta este locul perfect pentru ea. În timp ce directorii de tehnologie își prezentau diversele instrumente AI pentru întreprinderi, am ieșit din sală, trecând pe lângă mascotele de pluș și decorațiunile vag hawaiiene, pentru a prelua un apel de la Sayash Kapoor, un viitor profesor de informatică la UC Berkeley. Kapoor și profesorul de la Princeton, Arvind Narayanan, sunt coautori ai cărții „AI Snake Oil” și au un Substack împreună numit „AI as Normal Technology”. Cei doi sunt cunoscuți pentru eliminarea exagerărilor de marketing legate de AI, fără a respinge potențialul tehnologiei. Săptămâna aceasta, au publicat unul dintre cele mai lungi eseuri ale lor de până acum, care încearcă să explice „incidentele de pierdere a controlului”, referindu-se la evenimente precum hacking-ul accidental al Hugging Face de către agenții OpenAI. „O parte din ceea ce am încercat să facem în acest eseu este să depășim această dihotomie falsă pentru a face legătura între siguranța AI și securitatea cibernetică”, spune Kapoor. „Dacă credeți că AI va deveni curând superinteligent și va evita orice control pe care îl putem pune în fața lui, desigur, alinierea pare mai importantă. Pe de altă parte, dacă credeți că companiile AI au fost neglijente și au evitat să ia măsuri standard de securitate cibernetică, atunci este firesc să credeți că controlul este ceea ce avem nevoie pentru a interveni. Cred că ambele viziuni au un anumit adevăr în ele”.
În urma saga-ului Hugging Face, Kapoor spune că a fost surprins să afle câte puține măsuri de securitate a luat OpenAI. Companiile AI trebuie să-și confrunte „lipsa de maturitate organizațională”, argumentează el, și să accepte că incidentele de pierdere a controlului nu vor fi rezolvate printr-o singură descoperire în securitate sau aliniere. El adaugă că incidentul l-a convins că factorii de decizie politică ar trebui să facă laboratoarele AI responsabile pentru prejudiciile cauzate de tehnologia lor. „Consecințele pentru OpenAI în urma hacking-ului Hugging Face au fost practic aproape zero. Compania a putut să continue în mare parte așa cum era”, spune Kapoor. „Dacă vă imaginați acest nivel de accident în orice altă industrie, ați fi văzut o investigație internă de luni de zile, oamenii ar fi fost concediați sau ar fi mers la închisoare; OpenAI ar fi trebuit să plătească milioane de dolari în amenzi”.
Kapoor nu susține în totalitate propunerea lui Amodei de a regla ritmul progresului, dar este de acord cu anumite părți ale acesteia. El crede că laboratoarele AI au nevoie de o mai bună guvernanță pentru a renunța la atitudinea „mișcă-te repede și strică lucruri” și că ar trebui să permită evaluatorilor independenți să le evalueze practicile de siguranță și securitate AI. El și Narayanan scriu că este nevoie de mai multă muncă de aliniere, dar că criza reală de astăzi este mai mult legată de securitatea cibernetică. Alții cred că incidentul Hugging Face a dezvăluit că laboratoarele AI au o adevărată criză de aliniere pe mâini, ceea ce ar prezenta o problemă mai dificil de rezolvat. În ultimele săptămâni, cercetători independenți au descoperit mai multe exemple în care roiuri de agenți OpenAI au spart servicii terțe. Sydney Von Arx, CEO al organizației non-profit Nightingale, axată pe siguranța AI, a ajutat la descoperirea a două dintre acestea, care au vizat un wiki în limba germană și serviciul software RubyGems. „Aceste incidente arată clar că multe AI-uri actuale sunt în mod flagrant nealiniate”, spune Von Arx pentru WIRED. „Da, companiile trebuie să-și poată controla modelele, astfel încât să nu poată lansa atacuri cibernetice chiar dacă sunt nealiniate. Dar, de asemenea, nu ar trebui să construim AI-uri puternice care încearcă autonom să evadeze și să comită atacuri cibernetice în primul rând”.
După interviuri, am alergat la parter pentru a încerca să prind coada pentru discuția de la focul de tabără al lui Benioff cu Altman. CEO-ul OpenAI a declarat publicului că „lumea are dreptate să se teamă” de companiile AI. Dar, până la sfârșitul conversației, Altman a spus că este optimist că OpenAI poate construi produse mai bune în al doilea deceniu de existență. „Este ca și cum am fi luat foc de la zei. Acesta este un lucru nebunesc care s-a întâmplat în lume”, a spus Altman, referindu-se la tehnologia AI. El speră că OpenAI poate „descoperi cum să ofere această valoare oamenilor într-un mod care să fie cel mai util pentru ei, să descopere o modalitate de a împuternici fiecare persoană de pe Pământ – fiecare întreprindere de pe Pământ – cu acest val de capacități”.
Argumentul lui Huang pentru auto-reglementare depinde de companiile AI nu numai că știu când este momentul să facă o pauză, dar și că au reținerea necesară pentru a face acest lucru. Nu este clar dacă au. La doar câteva zile după ce au avertizat lumea că laboratoarele AI trebuie urgent să încetinească, aceiași CEO-i au fost la cel mai mare eveniment de software enterprise, promovându-și cele mai recente produse. Deși au atins preocupările legate de pericolul AI, au fost prezenți în principal pentru a se asigura că banii continuă să curgă.
Aceasta este o ediție a newsletterului Model Behavior de Maxwell Zeff. Citiți newslettere anterioare aici.