Un adolescent din SUA, încătușat după ce un sistem AI a confundat o pungă de chipsuri cu o armă: „Poliția a venit cu vreo opt mașini”
0Un elev de 16 ani din SUA a fost încătușat de poliție, după ce un sistem de inteligență artificială utilizat de liceul unde învață a semnalat în mod eronat că acesta ar deține o armă, deși de fapt ținea în mână o pungă de chipsuri.
„Poliția a venit cu vreo opt mașini, toți cu armele îndreptate spre mine, cerându-mi să mă întind pe jos”, a declarat Taki Allen pentru publicația locală WMAR-2 News.
Departamentul de Poliție din Baltimore County a precizat că ofițerii „au acționat corespunzător și proporțional, pe baza informațiilor disponibile la momentul respectiv”.
Alertarea generată de inteligență artificială a fost verificată de operatori umani, care nu au identificat nicio amenințare, însă directorul școlii unde învață elevul a contactat echipa de securitate a unității, care a alertat poliția. Incidentul a provocat apeluri pentru o revizuirea procedurilor școlare privind utilizarea tehnologiilor AI.
Potrivit băiatului, tocmai terminase o pungă de Doritos după antrenamentul de fotbal și a pus punga goală în buzunar. La aproximativ 20 de minute, polițiștii înarmați au sosit.
„Polițistul mi-a cerut să mă pun în genunchi, m-a arestat și mi-a pus cătușele”, a spus adolescentul.
Poliția a confirmat pentru BBC News că Allen a fost doar încătușat, nu și arestat, iar incidentul a fost rezolvat în siguranță după ce s-a stabilit că nu exista nicio amenințare reală.
Reacția școlii și a autorităților
Într-o scrisoare adresată părinților, directoarea școlii a precizat că echipa de securitate a „revizuit rapid alerta și a confirmat că nu există nicio armă”. Ea a contactat ofițerul de resurse școlare, care a apelat la secția de poliție pentru sprijin suplimentar. Poliția a verificat adolescentul și a confirmat că nu deține arme.
Politicienii locali au cerut o investigație mai amplă. „Fac apel la școlile din Baltimore County să revizuiască procedurile legate de sistemul AI de detectare a armelor”, a scris un consilier local pe Facebook.
Omnilert, compania care furnizează sistemul AI, a transmis că regretă incidentul și își exprimă îngrijorarea față de elev și comunitatea afectată. Sistemul său detectase inițial un obiect ce părea a fi o armă, imaginea fiind verificată ulterior de echipa de revizuire înainte de a fi transmisă echipei de securitate a școlii „în câteva secunde”.
Compania susține că procedura a funcționat conform designului: „Deși obiectul s-a dovedit ulterior că nu era o armă, procesul a funcționat așa cum a fost conceput: pentru a prioritiza siguranța prin verificare rapidă umană”. Allen, însă, consideră că „nicio pungă de chipsuri nu ar trebui confundată cu o armă”.