Guvernul SUA obligă Anthropic să suspende accesul străinilor la modelele AI Fable 5 și Mythos 5

Statele Unite au ordonat companiei Anthropic să suspende accesul cetățenilor străini la cele mai recente modele de inteligență artificială, Fable 5 și Mythos 5, invocând „motive de securitate națională”, potrivit Reuters. Decizia a fost transmisă printr-o directivă a autorității americane de control al exporturilor.

Reacția Anthropic

Anthropic a anunțat vineri că va „dezactiva brusc” cele mai avansate modele AI pentru toți utilizatorii, după ce a primit ordinul guvernamental. Compania susține că nu a primit detalii concrete despre riscul invocat, ci doar „dovezi verbale privind existența unei posibile vulnerabilități”. Reprezentanții Anthropic contestă măsura, considerând că problema nu justifică retragerea modelelor abia lansate.

Cu doar două zile înainte de emiterea ordinului, Anthropic ceruse public o supraveghere mai strictă a inteligenței artificiale, susținând posibilitatea blocării modelelor considerate prea periculoase. Totuși, compania afirmă că măsura adoptată vineri nu respectă principiile unei reglementări corecte și bazate pe dovezi.

Contextul securității naționale

Motivul invocat de autorități este un jailbreak raportat care ar permite identificarea unor vulnerabilități în cod, ceea ce ar putea amenința securitatea cibernetică a SUA. După lansarea noilor modele, au apărut mai multe analize care raportau diverse probleme. Kirsten Davies, directorul pentru informații al Pentagonului, a declarat: „Securitatea națională trebuie să aibă prioritate și anumite aspecte sunt mai importante decât veniturile companiilor, atenția mediatică sau evaluările înainte de listarea la bursă”.

Experții în securitate au avertizat că modelele din clasa Mythos pot accelera semnificativ atacurile cibernetice sofisticate dacă ajung în mâinile unor persoane rău intenționate. Riscul este considerat deosebit de mare în sectoare precum cel bancar, unde infrastructura informatică este complexă și include sisteme vechi conectate între ele.

Relațiile tensionate dintre Anthropic și administrația americană

Decizia vine într-un moment în care relațiile dintre Anthropic și administrația americană păreau să se îmbunătățească după o perioadă tensionată. Conform informațiilor prezentate de Anthropic, conflictul a început când compania a refuzat să permită Armatei Americane să folosească modelele sale pentru supraveghere internă și pentru sisteme de arme autonome. Ulterior, guvernul a inclus Anthropic pe o listă neagră, măsură care încă nu a intrat în vigoare.

Anthropic este o companie fondată de cercetători plecați de la OpenAI tocmai pentru că erau îngrijorați de faptul că modelele de inteligență artificială nu sunt suficient controlate. Luna trecută, firma a depus documentația pentru listarea la bursă.

Impactul asupra utilizatorilor

Amazon Web Services a anunțat vineri seara că Anthropic i-a solicitat să retragă accesul la Fable 5 și Mythos 5 pentru toți utilizatorii din toate regiunile, inclusiv pentru americani. De asemenea, mai mulți angajați importanți ai Anthropic s-au născut în afara Statelor Unite, iar compania nu a precizat dacă aceștia ar putea pierde accesul la modelele afectate de ordin.

Anthropic a declarat că lucrează pentru clarificarea situației și pentru restabilirea accesului la modelele Fable și Mythos cât mai rapid posibil.