Modelul AI Mythos al Anthropic a spart sistemele clasificate ale SUA în câteva ore, dezvăluie un senator
În cadrul Proiectului Glasswing, IA Mythos a identificat vulnerabilități în sistemele guvernamentale sensibile, potrivit unor surse oficiale.
Modelul de inteligență artificială Mythos, dezvoltat de compania Anthropic, a reușit să identifice vulnerabilități în sistemele informatice extrem de sensibile ale guvernului Statelor Unite în cadrul unui exercițiu de testare, conform informațiilor publicate de Associated Press și Reuters.
Proiectul Glasswing și colaborarea cu agențiile de informații
Anthropic a colaborat cu agențiile de informații din Washington pentru a efectua teste folosind Mythos în cadrul Proiectului Glasswing, un program cu acces restricționat destinat identificării și remedierii vulnerabilităților din software-ul critic înainte ca atacatorii să le poată exploata.
Senatorul Mark Warner, din Virginia, a făcut referire la aceste teste în cadrul unei audieri din Congres din această lună. El a declarat că a fost informat de către șeful Agenției Naționale de Securitate (NSA), Joshua Rudd, că Mythos „a pătruns în aproape toate sistemele noastre clasificate, nu în câteva săptămâni, ci în câteva ore”.
Capacități și limitări ale Mythos
Citând un oficial american neidentificat, AP a precizat că, deși Mythos a identificat anumite vulnerabilități în câteva ore, acest lucru nu înseamnă că modelul a fost capabil să le exploateze în acel interval de timp. Casa Albă, Anthropic și Departamentul Apărării nu au răspuns imediat solicitărilor de declarații ale Reuters.
Relația dintre Anthropic și guvernul SUA a fost una tumultoasă. Compania, care se pregătește pentru listarea pe bursă, a refuzat să permită armatei SUA să utilizeze modelele sale de IA pentru supraveghere internă și sisteme de arme complet autonome. Ca răspuns, guvernul a inclus Anthropic pe o listă neagră de securitate națională.
Restricții la export și pierderea accesului NSA
În această lună, guvernul SUA a ordonat companiei să suspende exporturile celor mai recente modele de AI, Mythos și Fable, către destinații din întreaga lume și către toți cetățenii străini, invocând motive de securitate națională. Potrivit The New York Times, NSA a pierdut accesul la Mythos pe fondul acestei dispute.
