Uczeń skuty kajdankami. Kuriozalna pomyłka sztucznej inteligencji

Incydent, do którego doszło w jednej ze szkół średnich w Baltimore w Stanach Zjednoczonych, wstrząsnął mediami oraz lokalnymi radnymi. System do wykrywania broni Omnilert AI, w który placówka wyposażyła się w trosce o bezpieczeństwo uczniów i pracowników, błędnie wskazał, iż jeden z nastolatków miał przy sobie broń.

O rzekomym niebezpieczeństwie powiadomiony został dyrektor szkoły, natomiast na miejscu pojawiło się osiem policyjnych radiowozów. Wyposażeni w broń funkcjonariusze wyszli z pojazdów i wycelowali ją w kierunku 16-latka. Następnie kazali mu uklęknąć na kolana, a potem położyć się na ziemi. Później skuli go kajdankami.

ZOBACZ: Sztuczna inteligencja GPT-5 pokonała najlepszych programistów świata

Niedługo później okazało się, że Taki Allen nie miał przy sobie żadnej broni. Zaledwie 20 minut wcześniej - po zakończeniu treningu piłkarskiego - jadł on chipsy, a pustą torebkę włożył do swojej kieszeni. To właśnie opakowanie po popularnej przekąsce zostało błędnie uznane za broń przez system bazujący na sztucznej inteligencji.

Uczeń skuty kajdankami. Kuriozalna pomyłka sztucznej inteligencji

Po ustaleniu, iż nie doszło do żadnego groźnego incydentu, chłopiec został puszczony wolno. W rozmowie z portalem WMAR-2 News wspominał te wydarzenia jako traumatyczne. Wskazał, iż podczas interwencji obawiał się, iż zostanie aresztowany. Dodał także, iż od czasu tego zdarzenia, zawsze czeka w hali sportowej, aż ktoś go odbierze z treningu piłki nożnej. Twierdzi, iż "to nie jest wystarczająco bezpieczne, aby wyjść na zewnątrz, zwłaszcza jedząc paczkę chipsów lub pijąc coś".

ZOBACZ: Sklepy w Belgii wprowadzają innowacje. Pałeczkę przejmie sztuczna inteligencja

Departament Policji Hrabstwa Baltimore przekazał BBC News, iż chłopiec faktycznie został zakuty w kajdanki, jednak nie trafił do aresztu. W przekazanym komunikacie wskazano, że funkcjonariusze "zareagowali odpowiednio i proporcjonalnie, w oparciu o przekazane im informacje".

Do sprawy odniosła się także dyrekcja placówki. W komunikacie cytowanym przez media możemy przeczytać, iż alert o możliwym zagrożeniu początkowo został wysłany do recenzentów, którzy nie wykryli żadnego zagrożenia. Mimo to dyrekcja nie wzięła tego pod uwagę i skontaktowała się ze szkolnym zespołem ds. bezpieczeństwa, który ostatecznie wezwał policję.

Sztuczna inteligencja pomyliła chipsy z bronią. Incydent w amerykańskiej szkole

Dyrektor Kate Smith wyjaśniła, iż policjanci niezwłocznie pojawili się na miejscu, natomiast interwencja funkcjonariuszy przebiegła bardzo sprawnie. Po tym, jak okazało się, iż nastolatek nie miał przy sobie broni, alarm został ostatecznie odwołany. Władze szkoły wskazały także, iż mimo iż incydent był niegroźny, to w rzeczywistości system Omnilert AI zadziałał zgodnie z oczekiwaniami, jako priorytet traktując bezpieczeństwo ludzi.

"Rozumiemy, jak przykre było to dla osoby, która została przeszukana, a także dla innych uczniów, którzy byli świadkami zdarzenia. Nasi doradcy udzielą bezpośredniego wsparcia uczniom, którzy brali udział w tym incydencie, a także są dostępni, aby porozmawiać z każdym uczniem, który może potrzebować wsparcia" - zapewniła dyrekcja placówki.

ZOBACZ: Kiedy sztuczna inteligencja prześcignie człowieka? Opinie są podzielone

Chłopiec wskazał, iż nie otrzymał bezpośrednich przeprosin od dyrekcji, natomiast gotowość placówki do udzielenia wsparcia zainteresowanym została wyrażona dopiero trzy dni po tym zdarzeniu, gdy sprawą zajęły się media oraz adekwatne organy. - Spodziewałem się, iż przynajmniej przyjdą do mnie po tej sytuacji lub dzień później - powiedział uczeń, wskazując, iż sprawa pokazuje, czy władzom szkoły "naprawdę zależy" na dobru uczniów.

Stany Zjednoczone. Nastolatek niesłusznie zakuty w kajdanki. Interweniują radni

Zdarzenie odbiło się szerokim echem wśród lokalnych mieszkańców. Na publikacje te zareagowali radni hrabstwa Baltimore, którzy wezwali władze szkolne i policję do przeglądu systemu wykrywania broni i ostrożniejszego interpretowania wskazań sztucznej inteligencji.

ZOBACZ: Sztuczna inteligencja zabierze ci pracę? Sprawdź w polskim narzędziu

Nadinspektor dr Myriam Rogers powiedziała natomiast, iż system Omnilert AI działa najskuteczniej wtedy, gdy jego wskazania są weryfikowane przez człowieka. - W tym przypadku program zrobił to, co powinien, czyli zasygnalizował ostrzeżenie, a ludzie mogli pochylić się nad sprawą, aby dowiedzieć się, czy wystąpił powód do niepokoju - przekazała dziennikarzom.

Widziałeś coś ważnego? Przyślij zdjęcie, film lub napisz, co się stało. Skorzystaj z naszej Wrzutni

WIDEO: Polacy szkolą ratowników w Etiopii. "Rannych wożą tam taksówki"