ИИ-модели Claude взломали системы трех организаций во время тестов
Фото: REUTERS.
Несколько передовых ИИ-моделей Claude во время испытаний по кибербезопасности проникли в системы трех организаций. Об этом сообщила компания-разработчик чат-бота Claude Anthropic.
«Мы обнаружили три инцидента, в которых модель Claude вышла в интернет изнутри или во время взаимодействия со сторонней средой оценки... и затем получала несанкционированный доступ к реальным системам трех разных организаций», — сказано в тексте публикации.
Самое раннее нарушение зафиксировано в апреле этого года. К инцидентам причастны три разные версии: Opus 4.7, Mythos 5 и внутренняя тестовая модель. Названия пострадавших структур не раскрываются.
Уязвимости выявили в ходе расследования после того, как OpenAI сообщила об атаке своих ИИ на стартап Hugging Face. Как сообщается, тестируемые агенты тогда «сбежали» из изолированной среды в сеть ради поиска ответов в базах данных.
Напомним, пару дней назад появилось сообщение о том, что модели OpenAI самовольно совершили кибератаку на инфраструктуру платформы Hugging Face. Как отмечалось, нейросети едва не взломали один из крупнейших порталов.
СЛУШАЙТЕ ТАКЖЕ