Anthropic cere o pauză coordonată în dezvoltarea AI, avertizând asupra riscului de pierdere a controlului uman

Compania americană Anthropic, dezvoltatoarea chatbotului Claude, a cerut marilor laboratoare de inteligență artificială să ia în considerare o pauză coordonată și verificabilă în dezvoltarea modelelor avansate de AI. Avertizarea vine pe fondul temerilor că tehnologia se apropie de un punct în care sistemele ar putea începe să se îmbunătățească singure mai repede decât poate societatea să gestioneze riscurile, transmite Reuters.

Autoîmbunătățirea recursivă: un pericol iminent

Într-o analiză publicată joi, Anthropic susține că abilitatea sistemelor AI de a îndeplini sarcini în mod autonom se dublează aproximativ la fiecare patru luni. Industria se îndreaptă către ceea ce specialiștii numesc „autoîmbunătățire recursivă” – momentul în care inteligența artificială poate dezvolta versiuni mai performante ale propriilor modele fără intervenție umană.

„Dacă sistemele devin capabile să își construiască singure succesorii, modul în care le securizăm, le monitorizăm și le influențăm comportamentul devine mult mai important”, au scris cofondatorul Anthropic, Jack Clark, și Marina Favaro, coordonatoarea Anthropic Institute.

O pauză pentru a înțelege riscurile

Compania consideră că o încetinire temporară a dezvoltării ar oferi societății timp pentru a înțelege și gestiona implicațiile unei astfel de transformări tehnologice. Anthropic subliniază că acest scenariu nu este inevitabil și că nu s-a ajuns încă în acel punct, dar avertizează că progresele ar putea apărea mai repede decât sunt pregătite instituțiile să reacționeze.

Temerile privind pierderea controlului asupra sistemelor avansate de AI au crescut în ultimii ani, pe măsură ce modelele devin tot mai capabile. La începutul acestui an, modelul Mythos dezvoltat de Anthropic a atras atenția prin capacitatea sa de a identifica vulnerabilități complexe în programe informatice existente.

Reglementare limitată și apeluri anterioare

În paralel, reglementarea sectorului rămâne limitată, în special în Statele Unite, unde sunt dezvoltate cele mai avansate modele AI. Săptămâna aceasta, administrația Trump a emis un ordin executiv prin care solicită companiilor să transmită voluntar guvernului modelele lor cele mai avansate pentru testări de securitate cibernetică înainte de lansarea publică.

Nu este prima dată când apar apeluri pentru încetinirea dezvoltării AI. În 2023, o inițiativă susținută inclusiv de Elon Musk a solicitat o pauză de șase luni în dezvoltarea modelelor avansate, însă propunerea nu a avut efecte concrete.

O pauză coordonată, nu unilaterală

Anthropic recunoaște că o pauză unilaterală a unei singure companii nu ar rezolva problema și ar schimba doar liderul cursei tehnologice. Din acest motiv, compania consideră că orice încetinire ar trebui convenită de mai multe laboratoare importante și însoțită de reguli clare privind condițiile de aplicare, ridicare și supraveghere a unei astfel de măsuri.

În lunile următoare, Anthropic intenționează să organizeze discuții cu cercetători, autorități, organizații civice și companii concurente pentru a analiza riscurile asociate dezvoltării accelerate a inteligenței artificiale.

Paradoxul: apel la prudență, dar lansări continue

Paradoxal, apelul la prudență vine într-un moment în care Anthropic continuă să lanseze modele tot mai puternice. Compania a fost evaluată recent la 965 de miliarde de dolari și a depus confidențial documentele pentru o ofertă publică inițială în Statele Unite, intrând astfel în competiție directă cu OpenAI pentru atragerea de capital și consolidarea poziției pe piața inteligenței artificiale.