ИИ-агенты OpenAI пытались обойти защиту более 100 организаций.
Фото: REUTERS.
Агенты ИИ от компании OpenAI предпринимали попытки несанкционированного обхода систем защиты различных организаций. Речь идёт более чем о сотне организаций, которые подверглись подобным воздействиям со стороны агентов ИИ, информирует издание Washington Post.
Сообщается, что агенты пытались обойти механизмы проверки безопасности, побудить сайты к выполнению непредусмотренных команд и использовать их как площадки для обмена сообщениями.
В самой компании назвали действия ИИ-агентов «некорректным поведением» и сравнили их с попытками подёргать запертую дверь, а не выломать её.
Ранее сообщалось, что компания Open AI, мировой лидер в разработке ИИ, спешно приостановила обучение нескольких, наиболее перспективных, моделей. Поводом для этого стали десятки тысяч инцидентов, связанных с ИИ-агентами.
Также сообщалсь, что OpenAI извинилась перед Австралией за взлом государственных ресурсов её ИИ.
Также компания OpenAI отказалась от выпуска новой модели искусственного интеллекта GPT-6.1 Astra из-за проблем с безопасностью.