Сервис не всегда предлагал пользователям обратиться за профессиональной помощью или связаться с кризисными службами. Фото: IMAGO/Zoonar.com/Irina Pavlova/Global Look Press
ChatGPT for Teens, версия чат-бота OpenAI для пользователей от 13 до 17 лет, недостаточно хорошо защищает подростков в потенциально опасных ситуациях. К такому выводу пришла некоммерческая организация Common Sense Media, которая протестировала работу сервиса. Об этом сообщает Bloomberg.
По данным организации, во время тестирования чат-бот не всегда своевременно уведомлял родителей, когда подростки вели продолжительные разговоры о самоубийстве, самоповреждении или расстройствах пищевого поведения. В некоторых случаях предупреждения, по утверждению исследователей, вообще не поступали.
Кроме того, специалисты обратили внимание на реакцию ChatGPT на разговоры о кризисных ситуациях. По их данным, сервис не всегда предлагал пользователям обратиться за профессиональной помощью или связаться с кризисными службами.
Организация призвала OpenAI приостановить продвижение ChatGPT for Teens и не предоставлять подросткам доступ к сервису до тех пор, пока компания не сможет обеспечить более надежные возрастные меры безопасности.
В OpenAI с выводами исследования не согласились. Представитель компании заявил, что значительная часть проверки могла завершиться еще до того, как компания полностью внедрила функции родительского контроля. Они также попросили Common Sense Media провести повторное тестирование с учетом обновленных механизмов защиты.
Напомним, ранее KP.RU писал о приостановке нескольких, наиболее перспективных, моделей Open AI. Расследуются десятки тысяч инцидентов, произошедших по вине нейросети.