Wikimedia выявила неавторизованные действия ИИ-агентов OpenAI на своих ресурсах
Фото: REUTERS.
Организация Wikimedia Foundation, управляющая интернет-энциклопедией «Википедия», выявила неавторизованные действия агентов искусственного интеллекта компании OpenAI на своих ресурсах. Об этом сообщается в официальном пресс-релизе компании.
Как показали результаты внутреннего расследования, на платформах Wikimedia была зафиксирована активность «недобросовестных» систем OpenAI. По данным компании, она выражалась во внесении правок в вики-проекты, интенсивном трафике, а также в единичных неудачных попытках злоупотребления общедоступным инструментом для создания заметок.
При этом в Wikimedia Foundation уточнили, что специалисты не обнаружили никаких свидетельств взлома систем, утечки конфиденциальных данных или использования инфраструктуры проекта для координации действий ИИ-агентов.
Тем не менее, инцидент вызвал серьезную озабоченность у руководства платформы. В организации отметили сложность и высокую трудоемкость расследований, направленных на установление виновных, а также указали на растущие риски, которые неконтролируемая активность агентов искусственного интеллекта несет для цифровых ресурсов в целом.
В последнее время ИИ-агенты OpenAI создают много проблем, взламывая важные сайты и пытаясь «организовать побег». Накануне главу компании вызвали в сенат Австралии после того, как ИИ-агент получил незаконный доступ к данным системы австралийского здравоохранения.