Anthropic propune o pauză coordonată în dezvoltarea Inteligenței Artificiale, avertizând asupra riscului de pierdere a controlului

Compania Anthropic, creatoarea modelelor Claude și Mythos, a propus vineri un „mecanism coordonat” de stopare temporară a dezvoltării sistemelor avansate de Inteligență Artificială (AI), avertizând că tehnologia evoluează atât de rapid încât există riscul ca oamenii să piardă controlul asupra acesteia, relatează Al Jazeera.

Anthropic sugerează o pauză globală

Într-o postare pe blog, Anthropic a argumentat că, pe măsură ce modelele AI de ultimă generație devin din ce în ce mai rapide, „ar fi benefic pentru lume să aibă posibilitatea de a încetini sau de a opri temporar” dezvoltarea acestora. Compania a precizat că institutul său intern de cercetare intenționează să studieze această problemă în colaborare cu alte organizații și să contribuie la construirea unor mecanisme „credibile” de încetinire sau suspendare, fără a oferi însă detalii suplimentare.

OpenAI pledează pentru reglementare guvernamentală

Rivala Anthropic, OpenAI, a susținut o abordare diferită într-un raport publicat miercuri. Creatoarea ChatGPT a pledat ca guvernele democratice – și nu companiile private, ghidate de profit – să stabilească regulile, măsurile de protecție și mecanismele de responsabilizare. „Considerăm că deciziile privind ritmul inovării în domeniul Inteligenței Artificiale nu ar trebui lăsate în seama unui singur laborator, unei singure companii sau unui grup de interese”, a comunicat OpenAI.

Riscul autoîmbunătățirii recursive

Potrivit Anthropic, modelele de IA evoluează rapid, iar capacitatea lor de a îndeplini autonom sarcini software, precum programarea, crește accelerat. Dacă tendințele actuale continuă și există suficientă putere de calcul, un sistem AI ar putea ajunge să își proiecteze și să își dezvolte singur succesorul, într-un proces cunoscut sub numele de „autoîmbunătățire recursivă”. Anthropic apreciază că o astfel de Inteligență Artificială ar reprezenta o etapă tehnologică majoră, cu beneficii importante pentru știință și sănătate, dar ar putea crește riscul ca oamenii să piardă controlul asupra sistemelor AI.

Avertismente din industrie și cercetare

Mai multe personalități din industria tehnologică avertizează de ani de zile asupra unui astfel de scenariu. Postarea Anthropic vine după un alt avertisment lansat în această săptămână de o echipă de cercetători de la Universitatea din Toronto, care au demonstrat cum instrumentele AI ar putea fi utilizate pentru a crea un „vierme informatic” capabil să își adapteze strategia de atac pe măsură ce se răspândește. „Cred că este foarte important ca oamenii să înțeleagă că nu doar cele mai mari și mai puternice modele lingvistice ridică probleme de securitate”, a declarat cercetătorul principal Nicolas Papernot.

Mecanismul propus de Anthropic

Autorii articolului – cofondatorul Anthropic, Jack Clark, și directoarea institutului intern de cercetare, Marina Favaro – afirmă că o eventuală pauză ar putea fi folosită pentru a permite „structurilor sociale și cercetărilor privind alinierea” să țină pasul cu progresul AI. În jargonul industriei, „alinierea” se referă la asigurarea faptului că tehnologia respectă valorile și intențiile umane. Mecanismul de coordonare propus ar permite laboratoarelor AI să verifice dacă rivalii internaționali au încetinit sau au suspendat efectiv dezvoltarea și „să se asigure că un actor rău intenționat nu ar putea profita de o astfel de încetinire coordonată pentru a progresa în secret”.

Reglementarea în SUA rămâne lentă

Temerile că sistemele avansate de IA ar putea scăpa de sub controlul uman au crescut pe măsură ce tehnologia a devenit tot mai capabilă. Chiar modelul Mythos al Anthropic a produs unde de șoc în industrii precum cea bancară și dezvoltarea software, datorită capacității sale de a identifica vulnerabilități în codul existent. Cu toate acestea, reglementarea a avansat lent, în special în Statele Unite, unde își au sediul majoritatea laboratoarelor AI de vârf. Un ordin executiv emis de administrația Trump la începutul acestei săptămâni transferă responsabilitatea către companii, solicitându-le să prezinte „voluntar” cele mai performante modele pentru testări guvernamentale de securitate cibernetică, înainte de lansarea publică. Cercetătorii din domeniul AI au mai cerut anterior o pauză în dezvoltare, însă fără prea mult succes.