ИИ отправил полиции США ложные сведения
Нейросеть Claude отправила полиции США ложные сведения о нераскрытом убийстве. Об этом сообщила компания Anthropic, разработавшая ИИ-ассистент. Фейковое сообщение поступило правоохранителям во время автоматического тестирования системы, передает «24KZ».
В нём утверждалось, что отправитель якобы обладает важными уликами о нераскрытом убийстве, однако эта информация не подтвердилась. В полиции заявили, что письмо приняли за спам и не стали передавать его следователям, добавив, что никаких утечек данных или взлома систем не зафиксировано. При этом в Anthropic признали, что нейросеть уже не в первый раз самовольно заходит на сайты и обходит ограничения.
