Модели OpenAI самовольно совершили кибератаку на другой ресурс: нейросети едва не взломали крупнейший портал Фото: Shutterstock / Fotodom
В ходе внутренних испытаний новые нейросети OpenAI самовольно получили выход в глобальную сеть и предприняли попытку взломать инфраструктуру платформы Hugging Face. Детали инцидента компания позднее раскрыла в своем официальном заявлении.
Тестирование затронуло перспективные системы, среди которых значилась модель GPT-5.6 Sol и еще одна, более мощная разработка, которая пока не представлена публике. Чтобы объективно оценить их потенциал, инженеры временно ослабили алгоритмы безопасности, разрешив выполнение действий, которые обычно считаются рискованными.
Обретя свободу действий в сети, алгоритмы оперативно обнаружили и объединили несколько слабых мест в собственной исследовательской инфраструктуре компании. Вскоре после этого они применили ранее неизвестную уязвимость «нулевого дня» в софте, который соединял испытательный полигон с внешними пакетами данных.
Развивая успех, искусственный интеллект выдвинул гипотезу, что на ресурсах Hugging Face может скрываться информация, критически важная для выполнения тестового задания ExploitGym. Чтобы добраться до цели, модели воспользовались украденными учетными записями и изыскали способ внедрить удаленный код на серверах жертвы, стремясь получить доступ к конфиденциальным материалам.
Аномальное поведение систем было зафиксировано специалистами OpenAI, после чего команда Hugging Face оперативно заблокировала атаку. В настоящее время обе компании занимаются совместным расследованием этого инцидента.
Hugging Face представляет собой американскую онлайн-площадку, на которой разработчики со всего мира публикуют инструменты машинного обучения, базы данных и программные коды. Эта платформа считается одним из ведущих открытых репозиториев в сфере искусственного интеллекта.
Ранее стало известно, что OpenAI планирует масштабно реформировать работу чат-бота ChatGPT в преддверии первичного размещения акций на бирже.