Sistem AI de detectare a armelor în școli, eșec total: compania dată în judecată după un atac armat în Tennessee
Un elev rănit în atacul armat de la Liceul Antioch din Nashville, din ianuarie 2025, a dat în judecată compania care a dezvoltat un sistem AI de detectare a armelor, după ce acesta nu a identificat arma. Sistemul, achiziționat cu un milion de dolari, este acuzat că nu a funcționat corect.
Un sistem de detectare a armelor bazat pe inteligență artificială, instalat la Liceul Antioch din Nashville, Tennessee, nu a reușit să identifice un elev înarmat care a deschis focul în ianuarie 2025. Compania care a dezvoltat tehnologia este acum dată în judecată de un elev rănit în atac.
Procesul deschis de un supraviețuitor
Elevul, care a suferit răni ușoare, susține că sistemul de supraveghere AI nu și-a îndeplinit scopul pentru care a fost achiziționat. Acțiunea în instanță vizează atât dezvoltatorul tehnologiei, cât și firma responsabilă de instalare și mentenanță. Potrivit documentelor, reclamanții afirmă că dezvoltatorul cunoștea limitările sistemului, dar l-a promovat cu afirmații exagerate despre capacitatea sa de a detecta arme de foc.
Contract de un milion de dolari
În 2023, autoritățile școlare din Nashville au aprobat un contract de aproximativ un milion de dolari pentru implementarea acestei soluții de securitate. Sistemul era promovat ca fiind capabil să detecteze amenințări înainte de primul foc de armă, contribuind la prevenirea tragediilor.
După atac, reprezentanții companiei au explicat că eșecul s-a datorat poziției elevului și modului în care arma era ascunsă, ceea ce a făcut imposibilă identificarea de către camere. Totuși, experții în securitate consideră că numărul mare de condiții necesare pentru funcționarea corectă a sistemului ridică semne de întrebare serioase.
Incidente anterioare cu sisteme similare
Controversa este amplificată de alte incidente: un sistem AI a confundat o pungă de chipsuri cu o armă, iar altul a interpretat greșit un instrument muzical drept armă, declanșând proceduri de urgență. Cu toate acestea, școlile americane continuă să adopte astfel de tehnologii.
Critici și alternative
Susținătorii afirmă că orice tehnologie care poate spori siguranța merită analizată. Criticii, însă, consideră că fondurile ar putea fi mai bine investite în consiliere psihologică și măsuri preventive care atacă problema de la rădăcină.
