Haine cu modele geometrice care păcălesc camerele de recunoaștere facială, propuse de un cercetător
Bill Swearingen (@hevnsnt) a creat tricouri și hanorace cu imprimeuri care derutează algoritmii de detectare a corpului, exploatând limitările sistemelor de supraveghere.
Într-o eră în care camerele de supraveghere inteligente și sistemele de recunoaștere facială devin omniprezente, un cercetător propune o soluție inedită: haine special concepute pentru a deruta algoritmii. Bill Swearingen, cunoscut online ca @hevnsnt, a creat tricouri, hanorace și accesorii cu modele grafice care induc în eroare rețelele neuronale responsabile cu identificarea persoanelor.
De ce haine anti-recunoaștere facială?
Swearingen consideră că tehnologiile de supraveghere sunt adesea folosite fără consimțământul oamenilor, care nu au ales să participe la aceste sisteme, dar sunt analizați automat de camere și baze de date biometrice. Conform Dark Reading, cercetătorul a ales să atace o etapă vulnerabilă a procesului: detectarea corpului.
Cum funcționează metoda?
Sistemele de recunoaștere facială urmează câțiva pași principali: captarea imaginii, detectarea corpului și feței, extragerea caracteristicilor vizuale și compararea cu bazele de date. Swearingen a observat că multe dintre aceste procese sunt realizate direct pe camere, nu pe servere puternice, ceea ce forțează algoritmii să facă compromisuri pentru a funcționa în timp real. Aceste limitări pot fi exploatate.
Experimentele sale au implicat testarea mai multor modele de inteligență artificială extrase din echipamente reale. Acolo unde nu a avut acces direct, a recreat condițiile de funcționare în medii virtualizate. Primele încercări au inclus tricouri cu multe fețe imprimate, dar metoda avea un dezavantaj: puțini oameni ar purta haine acoperite cu zeci de chipuri.
Soluția discretă: modele geometrice
Soluția mai practică a venit sub forma unor modele geometrice complexe, asemănătoare cu arta abstractă sau zgomotul digital. Aceste imprimeuri nu par ciudate pentru ochiul uman, dar creează confuzie pentru algoritmi. Rețelele neuronale învață să recunoască margini, texturi și forme asociate cu ochii, nasul sau structura corpului. Modificări vizuale foarte mici, invizibile pentru oameni, pot face ca un sistem automat să devină nesigur în privința imaginii analizate.
Conceptul „CV dazzle” adaptat pentru haine
Ideea nu este complet nouă. În securitate există deja „CV dazzle”, unde machiajul sau accesoriile ascund caracteristicile feței. Swearingen duce acest concept mai departe, folosind corpul ca punct de atac. El continuă să testeze modele noi, generând imprimeuri și măsurând cât de mult scade încrederea algoritmilor. Modelele eficiente sunt păstrate și îmbunătățite.
Limitări și provocări
Metoda are limite. Nu toate sistemele de recunoaștere facială funcționează la fel; un model care păcălește o cameră poate eșua în fața alteia. Un design testat digital poate avea rezultate diferite în lumea reală, din cauza luminii, materialului și poziției corpului. În plus, tehnologia evoluează: o actualizare software ar putea reduce eficiența hainelor.
Un pas spre controlul confidențialității
Swearingen crede că lupta nu este doar despre haine, ci despre oferirea unui control oamenilor într-o perioadă în care inteligența artificială analizează tot mai multe aspecte ale vieții. În viitor, el ia în calcul dezvoltarea unor modele care să afecteze direct identificarea facială, folosind elemente precum glugi sau gulere înalte pentru a altera modul în care algoritmii interpretează chipul unei persoane.
