Anthropic ar avea un model AI atât de puternic încât refuză să îl lanseze public. Ce este Claude Mythos

Un nou model AI al Anthropic stârnește îngrijorări în industria tech

Anthropic, compania din spatele chatbotului Claude și unul dintre cei mai importanți rivali ai OpenAI, se află în centrul unei controverse după apariția informațiilor despre un model experimental numit Claude Mythos.

Potrivit datelor publicate în ultimele săptămâni, Mythos nu este un model obișnuit și nici nu va fi disponibil publicului larg, cel puțin pentru moment. Anthropic susține că sistemul are capacități extrem de avansate în domeniul securității cibernetice și că ar putea reprezenta un risc dacă ar ajunge pe mâna unor persoane rău intenționate.

Tocmai din acest motiv, accesul la Claude Mythos a fost limitat la un grup restrâns de organizații și companii selectate printr-un program special numit Project Glasswing.

Anthropic spune că modelul poate descoperi vulnerabilități extrem de complexe

Informațiile apărute despre Claude Mythos sugerează că modelul depășește semnificativ generațiile anterioare Claude în ceea ce privește analiza software și identificarea vulnerabilităților informatice.

Potrivit evaluărilor realizate de AI Security Institute din Marea Britanie, Mythos a demonstrat capacitatea de a executa atacuri cibernetice complexe în medii controlate, inclusiv scenarii care presupun mai multe etape succesive și exploatarea autonomă a vulnerabilităților.

Raportul menționează că modelul a reușit să finalizeze sarcini care, în mod normal, ar necesita zile întregi de muncă din partea unor experți umani în securitate cibernetică.

Mai multe publicații internaționale au descris Mythos drept cel mai avansat model creat până acum de Anthropic pentru programare, analiză software și securitate informatică.

De ce refuză compania să îl lanseze public

Cea mai mare controversă nu este însă legată de performanțele modelului, ci de decizia Anthropic de a nu îl oferi utilizatorilor obișnuiți.

Compania susține că aceeași tehnologie care poate identifica și repara vulnerabilități software poate fi utilizată și pentru exploatarea lor. Cu alte cuvinte, un sistem suficient de inteligent pentru a proteja infrastructura digitală poate deveni și un instrument extrem de periculos în cazul utilizării abuzive.

Anthropic afirmă că Mythos nu a fost antrenat special pentru activități ofensive în zona cyber, însă aceste capabilități au apărut ca efect secundar al progreselor realizate în programare, raționament și autonomie operațională.

Acesta este unul dintre motivele pentru care modelul este testat exclusiv într-un mediu controlat și accesibil doar unor organizații considerate de încredere.

Au apărut deja informații despre acces neautorizat

Situația a devenit și mai sensibilă după apariția unor informații potrivit cărora un grup restrâns de utilizatori ar fi obținut acces neautorizat la o versiune preview a modelului.

Conform unor relatări apărute în presa internațională, accesul ar fi fost realizat prin intermediul unui furnizor terț implicat în infrastructura utilizată pentru testarea sistemului. Anthropic a confirmat că investighează incidentul și că încearcă să stabilească exact cum a fost posibil accesul respectiv.

Compania susține că nu există dovezi că infrastructura principală a fost compromisă, însă cazul a amplificat dezbaterea privind riscurile asociate modelelor AI extrem de avansate.

Mythos este comparat deja cu un prag nou în evoluția AI

Mai mulți cercetători și experți în inteligență artificială consideră că apariția Claude Mythos reprezintă unul dintre cele mai importante momente din evoluția modelelor AI din ultimii ani.

Unele analize sugerează că sistemul marchează un nou nivel de autonomie și eficiență în rezolvarea problemelor complexe, în special în domenii tehnice precum programarea și securitatea cibernetică.

În același timp, apar tot mai multe discuții despre necesitatea unor reguli mai stricte privind dezvoltarea și distribuirea modelelor AI capabile să execute sarcini sensibile fără intervenție umană constantă.

Ce urmează pentru Claude Mythos

Deocamdată, Anthropic nu a anunțat dacă intenționează să lanseze vreodată Claude Mythos pentru publicul larg.

Compania continuă să testeze modelul prin intermediul Project Glasswing și să colaboreze cu organizații implicate în securizarea infrastructurii digitale critice.

Între timp, Mythos a devenit unul dintre cele mai discutate nume din industria inteligenței artificiale, iar dezbaterea privind limitele și riscurile noilor modele AI este mai intensă ca niciodată.