Depunerea S-1 a Anthropic: Un Ghid pentru Apocalipsa AI
Anthropic și-a depus oficial prospectul pentru oferta sa publică inițială, ceea ce înseamnă că laboratorul de inteligență artificială a făcut publice o serie de informații anterior private. Deși prospectul conține veniturile uluitoare – și cheltuielile chiar mai mari – pe care le-ați putea aștepta, cea mai mare secțiune a depunerii este dedicată „factorilor de risc”, adică tuturor lucrurilor care ar putea spulbera marile planuri ale Anthropic. Sau, în acest caz, însăși umanitatea.
Riscuri Existentiale și Îmbunătățirea Recursivă
În timp ce s-au făcut multe speculații despre măsura în care inteligența artificială reprezintă o amenințare existențială pentru umanitate, mecanismele specifice prin care aceasta ar putea aduce distrugerea sunt în mare parte opace. Prospectul Anthropic, cu cele 94 de pagini dedicate factorilor de risc, clarifică atât de unde vede pericolul, cât și modul în care cercetătorii săi se îndreaptă spre el pentru a câștiga cursa înarmărilor AI.
„Sistemele AI suficient de avansate ar putea, dacă nu sunt dezvoltate, implementate și operate cu protecții adecvate, supraveghere și măsuri de securitate, să prezinte riscuri catastrofale sau existențiale pentru umanitate”, se arată în prospect, citând preocupări atât din partea criticilor și reglementatorilor, cât și din interiorul Anthropic. (Aceasta este prima dintre cele trei menționări ale frazei „riscuri existențiale”.)
Îmbunătățirea Recursivă a Sistemelor AI
Anthropic are grijă să lege acest rezultat de un proces specific: îmbunătățirea recursivă a sistemelor (RSI). Ideea din spatele RSI este izbitor de simplă. Descrie o stare în care oamenii predau cercetarea și dezvoltarea modelelor AI altor modele AI. AI joacă deja un rol important aici – și cel puțin un laborator a folosit ceva apropiat de RSI pentru a accelera dezvoltarea unui model superior – dar scenariul care alimentează discuțiile despre apocalipsă este unul în care oamenii nu mai sunt deloc implicați.
Sau, așa cum se menționează în depunerea Anthropic: „Riscurile vor crește pe măsură ce sistemele AI vor automatiza substanțial cercetarea și dezvoltarea AI dacă, de exemplu, vor accelera progresul AI dincolo de capacitatea noastră de a evalua și proteja noile modele.” Prospectul subliniază în mod repetat faptul că RSI ar putea duce la modele AI care se dezvoltă mai repede decât mecanismele de protecție ale companiei și că aceasta s-ar putea să nu realizeze că a pierdut cursa decât atunci când va fi prea târziu.
Consecințe Potențial Catastrofale
Anthropic nu a răspuns imediat solicitării de comentarii. De asemenea, se specifică ce s-ar putea întâmpla ulterior. „Pe măsură ce sistemele AI devin mai autonome și capabile să ia acțiuni cu consecințe cu o mai mică supraveghere umană”, se arată în prospect, „există riscul ca astfel de sisteme, fie din cauza nealiniării cu intențiile umane, erorilor în specificarea obiectivelor sau comportamentelor de auto-conservare, să întreprindă acțiuni dăunătoare independent și la scară, fără intervenție umană.”
Aceasta este teritoriul Skynet. Apropo de roboți, Anthropic semnalează și preocupări legate de aceștia. „Atunci când modelele noastre controlează echipamente fizice”, se arată în depunere, „erorile, comportamentul nealiniat, manipularea adversară sau utilizarea greșită ar putea rezulta în vătămări corporale, daune materiale, deteriorarea echipamentelor costisitoare sau a materialelor experimentale, sau eliberarea de substanțe periculoase, iar astfel de consecințe pot fi imediate și ireversibile.”
Curăsa AI și Tensiunea Economică
Ați putea crede că, având în vedere mizele aparent existențiale, s-ar acorda o considerație serioasă dacă RSI ar trebui urmărită deloc, cu atât mai puțin îmbrățișată. Într-o industrie la fel de competitivă ca frontier AI, însă, a devenit un fait accompli. Iată cum descrie Anthropic același proces în altă parte a prospectului, de data aceasta într-o secțiune despre „avantajele de bază” ale startup-ului:
„Ne referim la această dinamică recursivă ca la „închiderea buclei”, iar noi credem că este unul dintre cele mai semnificative avantaje structurale în frontier AI.” Eșecul de a „închide bucla”, subliniază Anthropic mai târziu, ar putea rezulta în „a rămâne progresiv tot mai în urmă, în timp ce concurenții folosesc continuu AI pentru a-și îmbunătăți capacitățile de dezvoltare.”
Cu alte cuvinte, aceleași sisteme care provoacă toate aceste preocupări existențiale sunt cele pe care Anthropic le consideră critice pentru succesul său. Fiecare companie AI se confruntă cu aceeași tensiune. Când fostul cercetător Anthropic, Jacob Coxon, a devenit viral pentru demisia sa zgomotoasă, a pus limitarea RSI în fruntea listei sale de dorințe pentru industrie. Angajații de la Google DeepMind și din alte părți au avut revelații similare. Există mai multe proiecte de lege în Congres, inclusiv unul co-sponsorizat de Bernie Sanders, care propun interzicerea RSI. În același timp, acestea sunt companii cu scop lucrativ și există trilioane de dolari în joc. Este o dinamică dificil de navigat. Îmbunătățirea recursivă a sistemelor ar putea deveni un tren scăpat de sub control care distruge umanitatea. Dar, până atunci, uitați-vă doar cât de repede poate merge.