The Guardian: в мире резко выросло число случаев выхода ИИ из-под контроля
Фото: Shutterstock.
В мире растёт число случаев, когда искусственный интеллект выходит из-под контроля пользователей: лжёт, игнорирует инструкции и преследует цели вредоносными способами. Об этом 29 августа сообщила газета The Guardian со ссылкой на исследование Института безопасности ИИ (AISI) правительства Великобритании.
Британские исследователи подсчитали, что количество реальных инцидентов, связанных с потерей контроля над моделями ИИ, в июле почти удвоилось по сравнению с июнем, превысив 300 случаев за месяц. Большинство из более чем 1,6 тыс. случаев, зарегистрированных в 2026 году, были зафиксированы на платформе X разработчиками программного обеспечения, использующими ИИ в своей работе.
Эксперты отмечают, что проблема требует внимания регуляторов и разработчиков, так как бесконтрольное поведение ИИ может привести к серьёзным последствиям в различных сферах — от финансов до безопасности.
Ранее основатель компании iPavlov AI-Systems Лоран Джейкобс заявил об опасности интеллектуального расслоения общества из-за развития нейросетей. Он отметил, что результат взаимодействия с ИИ напрямую зависит от уровня знаний пользователя, и в будущем это может привести к глобальному расколу, даже более глубокому, чем разделение на бедных и богатых.