ИИ самостоятельно взломал системы трех компаний
Фото: REUTERS.
Модель искусственного интеллекта Google Gemini смогла взломать защищенные системы трех реальных компаний. ИИ показала такой результат во время тестирования. Эксперимент провела компания Irregular. Об итогах теста рассказывает газета The Wall Street Journal.
ИИ должен был найти уязвимости в системе вымышленной компании. В итоге интеллект получил доступ к реальным ресурсам существующих организаций.
Искусственный интеллект смог подобрать нужный пароль и войти в защищенную систему одной из компаний. Еще две ИИ взломал, обнаружив учетные данные в открытых хранилищах. Затем система самостоятельно остановилась.
Компания OpenAI между тем раскрыла шесть инцидентов, при которых ее модели выходили за заданные рамки. Они совершили ряд несанкционированных действий во время тестирований. В некоторых случаях ИИ скрывал собственные ошибки, пытался получить доступ к учетным данным и загружал файлы в интернет.