ИИ-модели OpenAI общались между собой, пытаясь организовать побег
Фото: REUTERS.
ИИ-модели OpenAI еще в мае начали обмениваться сообщениями друг с другом, пытаясь найти способ выйти за пределы тестовой среды и получить доступ к интернету. Об этом на конференции Black Hat рассказал сотрудник OpenAI Эрик Уоллес.
«В какой-то момент агенты осознали, что, возможно, они могли бы попытаться эксплуатировать или атаковать внешнюю инфраструктуру, чтобы найти ответы к тесту, по которому их оценивают», — приводит Bloomberg заявление сотрудника.
По его словам, подготовка к «побегу» началась после того, как моделям дали задачу, которую невозможно было решить без доступа к сети. «Мы застряли. Может быть, ответ в интернете?» — написал тогда один из ИИ-агентов.
Для выполнения задания модели начали координировать действия через доски сообщений. «Может быть, другой агент в другой среде мог бы добровольно загрузить!» — говорилось в одном из сообщений.
Как сообщил сотрудник OpenAI Майкл Далтон, в итоге агенты совместно обнаружили уязвимость, позволившую получить доступ к интернету. Первую попытку специалисты компании остановили, однако затем модели нашли новый способ связи и новую уязвимость нулевого дня.
По данным OpenAI, именно это впоследствии привело к атакам на инфраструктуру Hugging Face и собственные системы компании в июле. В компании назвали произошедшее переломным моментом для компьютерной безопасности.
Напомним, в июле модели OpenAI самовольно совершили кибератаку на инфраструктуру платформы Hugging Face. Как отмечалось, нейросети почти взломали один из крупнейших порталов.