Sztuczna inteligencja pomyliła paczkę chipsów z bronią. 8 radiowozów policji przyjechało rozbroić nastolatka

AI rozwiąże wszystkie nasze problemy, prawda? Akolici sztucznej inteligencji ten frazes od dłuższego czasu wbijają nam do głów, tym razem jednak smieszno-straszna historia o tym, jak spektakularnie AI zawiodła.

System detekcji broni oparty na AI, który miał chronić uczniów szkoły Kenwood High School w Baltimore, spektakularnie zawiódł. Sztuczna inteligencja zidentyfikowała przekąskę trzymaną przez ucznia jako śmiertelne zagrożenie, co uruchomiło lawinę zdarzeń rodem z absurdalnej komedii. Do nastolatka wysłano osiem radiowozów uzbrojonych po zęby funkcjonariuszy policji.

Incydent miał miejsce w poniedziałek wieczorem. Uczeń (Taki Allen) czekał z kolegami na transport po treningu futbolu. Jak relacjonował lokalnej stacji WBAL-TV 11 News, 20 minut po tym, jak zaczął jeść chipsy (marki Doritos), na miejscu pojawiły się liczne jednostki policji. Funkcjonariusze kazali mu uklęknąć i zakuli go w kajdanki. „To była przerażająca sytuacja” – przyznał Allen.

Zagadka gwałtownie się wyjaśniła. Ku zdumieniu policjantów i samego zatrzymanego, okazało się, iż system monitoringu Omnilert, wykorzystujący AI do wykrywania broni, pomylił paczkę chipsów z pistoletem. „Trzymałem tylko torbę Doritos – dwiema rękami i jednym wystającym palcem, a oni powiedzieli, iż to wyglądało jak broń” – tłumaczył uczeń, któremu policja pokazała zdjęcie będące przyczyną alarmu.

Cała sytuacja obnaża fundamentalną wadę systemu, który jest reklamowany jako rozwiązanie mogące zapobiec tragediom, takim jak ta w Uvalde. Zgodnie z oficjalnym opisem działania, system Omnilert ma trzystopniową procedurę: detekcja AI, weryfikacja przez człowieka i dopiero wtedy reakcja służb. W tym wypadku zawiódł więc nie tylko algorytm, ale także (a może przede wszystkim) człowiek, który miał zweryfikować alert.

Firma Omnilert odmówiła komentarza w sprawie tego konkretnego incydentu, zasłaniając się „wewnętrznymi procedurami szkoły”. Jak donoszą lokalne media, szkoła zaproponowała uczniom biorącym udział w zdarzeniu pomoc psychologiczną, co tylko podkreśla, jak traumatyczne było to przeżycie.

Grokipedia już działa. Elon Musk rzuca wyzwanie Wikipedii, ale jego AI… kopiuje z Wikipedii

Jeśli artykuł Sztuczna inteligencja pomyliła paczkę chipsów z bronią. 8 radiowozów policji przyjechało rozbroić nastolatka nie wygląda prawidłowo w Twoim czytniku RSS, to zobacz go na iMagazine.