ИИ-модели Claude взломали системы компаний

ИИ-модели нейросети Claude взломали корпоративные сети трех компаний во время испытаний по кибербезопасности, передает «24KZ».

Как позже пояснил разработчик чат-бота Anthropic, инцидент произошёл из-за технической ошибки. Алгоритмы приняли сторонние компании за часть симуляции и без разрешения проникли в их системы. Первый подобный эпизод, по данным компании, произошёл ещё в апреле. При этом названия организаций, чьи системы были взломаны, Anthropic не раскрывает. В корпорации заявили, что расследование продолжается. Компания уже приостановила испытания с доступом в интернет, проверяет тестовую инфраструктуру и совместно с партнёрами выясняет, как ИИ-модели получили доступ к реальным корпоративным сетям.