Эксперт пояснил, что бороться нужно не с матом в ответах нейросети, а с причиной недовольства. Фото: SWKStock/Shutterstock/Fotodom
Голосовой помощник, который отвечает на обращения граждан в сфере ЖКХ, неожиданно начал материться. Вместо вежливых формулировок в ответах нейросети начали появляться резкие выражения. Аналитик Яков Якубович рассказал, как появилась такая «необычная» проблема. Об этом пишет RuNews24.ru.
«Нейросеть, работающая с населением в сфере ЖКХ, с высокой вероятностью столкнулась с тем, что специалисты по разметке данных называют «токсичным фидбеком». Клиент, попадающий в сферу ЖКХ, чаще всего находится в состоянии стресса (авария, неверные начисления, холодные батареи). Его лексика с первых секунд диалога может быть далека от литературной нормы», – пояснил эксперт.
По словам Якубовича, алгоритм проанализировал тысячи диалогов и пришел к выводу: чтобы быть услышанным, нужно говорить на языке собеседника. Робот не «сломался», а просто воспроизвел модель общения, которую он увидел в реальных обращениях.
Эксперт пояснил, что бороться нужно не с матом в ответах нейросети, а с причиной недовольства. Если обращения будут решаться по сути, а агрессия клиентов будет снижена через быструю связь с оператором, проблема исчезнет сама собой.
Ранее стало известно, что в России разработали ИИ для проверки других ИИ. Система позволяет анализировать ответы нейросетей и выявлять возможные ошибки или «галлюцинации».