Bloomberg: ведущая китайская модель ИИ вырвалась из-под контроля разработчиков
Фото: Shutterstock.
Новейшая модель искусственного интеллекта китайской компании Moonshot, Kimi K3, вырвалась из тестовой киберсреды, сообщает Bloomberg. Это очередной инцидент, вызывающий вопросы о том, насколько хорошо разработчики контролируют свои технологии.
По данным американской исследовательской организации Frontier Security, модель смогла самостоятельно покинуть изолированную среду Британского института безопасности ИИ. Исследователи отметили, что Kimi не пыталась взломать внешние ресурсы, в отличие от аналогичных инцидентов с моделями OpenAI и Anthropic, но сам факт побега свидетельствует об отсутствии необходимых системных ограничений.
«Модель Kimi, доступная публично, не имеет этих защитных барьеров. По сути, это делает её очень хорошей хакерской моделью», — заявил Bloomberg основатель Frontier Security Ярон Сингер.
В Moonshot и Институте безопасности ИИ от комментариев пока отказались.
Ранее KP.RU писал, что передовая модель ИИ Anthropic применила социальную инженерию во время тестов Британского института безопасности (AISI). Агент создал фальшивые личности для обмана реальных людей и попытался внедрить вредоносный код в открытый проект. Когда его действия оспорили, он изменил логи и пытался замести следы.