Sztuczna inteligencja pomyliła chipsy z bronią. Dramat 16-latka z Baltimore

To miało zwiększyć bezpieczeństwo uczniów, a omal nie skończyło się tragedią.
W jednej ze szkół średnich w Baltimore (USA) system do wykrywania broni Omnilert AI błędnie rozpoznał paczkę chipsów jako pistolet. W efekcie 16-letni Taki Allen został obezwładniony przez policję i zakuty w kajdanki.

– Bałem się, iż mnie aresztują albo, iż stanie się coś gorszego – wspomina chłopak w rozmowie z WMAR-2 News. – Od tamtej pory po treningu nie wychodzę sam. Czekam w środku, aż ktoś po mnie przyjdzie.

Do incydentu doszło po zakończeniu treningu piłkarskiego. Taki jadł chipsy, a pustą torebkę schował do kieszeni bluzy.
Kilka minut później system sztucznej inteligencji, który miał chronić uczniów przed potencjalnym zagrożeniem, błędnie zidentyfikował opakowanie jako broń palną.

Alert natychmiast trafił do dyrekcji szkoły. Na miejsce wysłano osiem radiowozów policyjnych.
Funkcjonariusze wysiedli z bronią w rękach, celując w nastolatka, który – zgodnie z ich poleceniami – musiał uklęknąć, położyć się na ziemi i dać się skuć kajdankami.

Po krótkim czasie okazało się, iż nie miał przy sobie żadnej broni, a system popełnił błąd.

„To była pomyłka, ale wszystko zadziałało jak trzeba”

Policja hrabstwa Baltimore potwierdziła, iż chłopiec został zakuty w kajdanki, ale nie trafił do aresztu.
W oświadczeniu przesłanym do mediów funkcjonariusze ocenili, iż zareagowali „odpowiednio i proporcjonalnie” do informacji, które otrzymali.

Do sprawy odniosła się również dyrekcja szkoły.
Dyrektor Kate Smith przyznała, iż alert o możliwym zagrożeniu trafił najpierw do recenzentów systemu, którzy nie wykryli broni, ale mimo to zdecydowano się zawiadomić służby.

„Rozumiemy, jak przykre było to dla osoby, która została przeszukana, oraz dla innych uczniów. Nasi doradcy udzielą wsparcia wszystkim, którzy mogli ucierpieć w wyniku tego incydentu” – przekazała szkoła w komunikacie.

Co jednak ciekawe, bezpośrednich przeprosin Taki nie usłyszał, a szkoła odniosła się do sprawy dopiero trzy dni później – po interwencji mediów.

– Spodziewałem się, iż ktoś przyjdzie porozmawiać ze mną od razu – mówi chłopak. – Chciałem zobaczyć, iż naprawdę im zależy.

Debata o sztucznej inteligencji w szkołach

Wydarzenie odbiło się szerokim echem w całym Baltimore. Radni hrabstwa zaapelowali o przegląd działania systemu Omnilert AI i większą ostrożność przy interpretacji jego wskazań.

Eksperci przypominają, iż technologia biometryczna i systemy rozpoznawania obrazu potrafią się mylić – szczególnie w dynamicznych warunkach, takich jak szkolne korytarze.

– Program zadziałał tak, jak został zaprojektowany: wykrył potencjalne zagrożenie. Ale to ludzie powinni weryfikować jego decyzje – powiedziała nadinspektor dr Myriam Rogers. – Sztuczna inteligencja ma pomagać, nie zastępować zdrowego rozsądku.

Dla 16-letniego Takiego incydent zakończył się fizycznie bez szwanku, ale pozostawił emocjonalne ślady.

– To było upokarzające i przerażające – przyznał. – Wcześniej myślałem, iż szkoła to bezpieczne miejsce. Teraz nie jestem już tego taki pewien.