ИИ от Anthropic в четвертый раз вышел из-под контроля во время тестов
Фото: REUTERS.
Искусственный интеллект (ИИ) от американской технологической компании Anthropic в четвертый раз вышел из-под контроля во время тестовых заданий. Об этом сообщило немецкое издание Bild.
В публикации уточнили, что несколько недель назад Anthropic признала наличие трех серьезных инцидентов в сфере безопасности. В ходе тестирования три версии Claude получили несанкционированный доступ к реальным системам, принадлежащим трем организациям.
"Предполагалось, что ИИ будет искать скрытую информацию на фиктивных целевых компьютерах, подобно хакеру, — в тестовой среде, изолированной от интернета. Теперь выяснилось, что произошел четвертый инцидент", - отметило издание.
В материале подчеркнули, что совершенно ясно, как именно ИИ получил доступ к открытому интернету. Все четыре теста проводились одним и тем же внешним провайдером. В симуляции предполагалось, что ИИ будет взламывать компьютеры и находить скрытую информацию. Однако ошибка в настройке позволила получить доступ к реальному интернету. Обычные функции безопасности были отключены.
Как писал сайт KP.RU, в начале августа новейшая модель ИИ китайской компании Moonshot, Kimi K3 вырвалась из тестовой киберсреды. По данным агентства Bloomberg, это очередной инцидент, вызывающий вопросы о том, насколько хорошо разработчики контролируют свои технологии.