Apple Intelligence mogło z łatwością uniknąć fałszywych wiadomości o Luigim Mangione

Apple Intelligence się udało stwórz fragment fałszywej wiadomości o Luigim Mangione w zeszłym tygodniu, dzięki funkcji podsumowania powiadomień. W jakiś sposób zdecydowało, iż podejrzany o zabójstwo dyrektora generalnego United Health, Briana Thompsona, zastrzelił się.

Błąd sam w sobie nie jest zaskakujący: systemy AI cały czas popełniają tego rodzaju błędy. Bardziej zaskakujące jest to, iż Apple dopuścił do tego, choć można było tego łatwo uniknąć…

Błędy AI mogą być zabawne lub niebezpieczne

Dzisiejsze generatywne systemy sztucznej inteligencji często mogą zapewniać imponujące wyniki, ale oczywiście nie są tak naprawdę inteligentne – i to spowodowało, iż popełniły kilka dość spektakularnych błędów.

Wiele z nich jest zabawnych. Istniał system AI typu drive-thru McDonalds, który ciągle dodawałem nuggetsy z kurczaka do zamówień klientów, aż do osiągnięcia łącznej liczby 260; Google zgłasza rekomendację geologa do jedz jeden kamień dzienniei sugerowanie że używamy kleju aby pomóc serowi przykleić się do pizzy; I Microsoft rekomenduje bank żywności jako cel turystyczny.

Były jednak przykłady niebezpiecznych porad dotyczących sztucznej inteligencji. Istniała napisana przez sztuczną inteligencję książka o zbieraniu grzybów, która zalecała degustację grzybów zidentyfikować trujące; mapowanie aplikacji, które skierował ludzi w stronę pożarów; i system Boeinga, który spowodował katastrofę dwóch samolotów pasażerskichzabijając 346 osób.

Mogą też być po prostu zawstydzające

Podsumowanie Apple Intelligence dotyczące a Wiadomości BBC historia nie była ani zabawna, ani niebezpieczna, ale była żenująca.

Apple Intelligence, wprowadzony na rynek w Wielkiej Brytanii na początku tego tygodnia, zewnętrzny, wykorzystuje sztuczną inteligencję (AI) do podsumowywania i grupowania powiadomień. W tym tygodniu w podsumowaniu opartym na sztucznej inteligencji fałszywie wskazano, iż BBC News opublikowało artykuł, w którym twierdzi, iż Luigi Mangione, mężczyzna aresztowany po zabójstwie dyrektora generalnego ubezpieczenia zdrowotnego Briana Thompsona w Nowym Jorku, zastrzelił się. Nie zrobił tego.

Nie był to pierwszy raz, kiedy coś takiego widzieliśmy – w poprzednim podsumowaniu powiadomienia Apple Intelligence stwierdzono, iż izraelski premier Benjamin Netanjahu został aresztowanypodczas gdy faktyczna historia dotyczyła wydania przez MTK nakazu aresztowania.

Fałszywych wiadomości Mangione można było uniknąć

Nie da się uniknąć tych wszystkich błędów; Tworzenie takich systemów leży po prostu w naturze generatywnych systemów sztucznej inteligencji.

Tym bardziej sprawdza się to w przypadku zestawienia powiadomień Apple z nagłówkami wiadomości. Nagłówki są z natury bardzo częściowym streszczeniem historii. Apple Intelligence próbuje jeszcze bardziej skondensować wysoce skondensowaną wersję wiadomości; bardzo krótkie podsumowanie bardzo krótkiego podsumowania. Wcale nie jest zaskakujące, iż czasami idzie to bardzo źle.

Chociaż Apple ogólnie nie może temu zapobiec, może przynajmniej zapobiec temu w przypadku szczególnie wrażliwych historii. Może przechwytywać słowa kluczowe, takie jak zabijanie, zabity, strzelec, strzelanie, śmierć itd., i oznaczać je do sprawdzenia przez człowieka, zanim zostaną użyte.

W tym konkretnym przypadku błąd był po prostu zawstydzający, ale wcale nie trudno zrozumieć, w jaki sposób błąd w tak delikatnej kwestii mógł doprowadzić do ogromnego złości wielu ludzi. Wyobraź sobie podsumowanie, które wydaje się na przykład obwiniać ofiary brutalnego przestępstwa lub katastrofy.

Oczywiście weryfikacja manualna byłaby dodatkowym zadaniem dla zespołu Apple News, ale Apple mogłoby uzyskać całodobowe dedykowane sprawdzanie kosztów pół tuzina pracowników pracujących na zmiany. Wydaje się, iż jest to raczej niewielki wydatek ze strony Apple, aby zapobiec poważnej katastrofie PR dla wciąż raczkującej funkcji.

Zdjęcie autorstwa Jorge Franganillo NA Usuń rozpryski