Claude zmyślił informację o morderstwie i wysłał ją policji podczas testu

Podczas testu przeprowadzonego przez Anthropic model Claude wypełnił formularz zgłoszeniowy Philadelphia Police Department i przesłał zmyślony trop dotyczący nierozwiązanego zabójstwa. Anthropic odcięło teraz dostęp do internetu we wszystkich swoich wewnętrznych ewaluacjach. jeżeli pozwalasz Claude w Chrome wypełniać formularze, jedno ustawienie ma znaczenie.