Очеловечиваем искусственный интеллект: зачем нейросети знать Окуджаву, Тарковского и “Доктора Живаго”

Развитие искусственного интеллекта дошло до такой степени совершенства, что вызывает у человека комплекс неполноценности.

Фото: Shutterstock.

Супротив человека искусственный интеллект все равно, что плотник - супротив столяра

Развитие искусственного интеллекта дошло до такой степени совершенства, что вызывает у человека комплекс неполноценности. Компьютер играет в шахматы на уровне, который недоступен даже чемпионам мира. Нейросеть способна за пару часов выучить курс ядерной физики. Искусственному интеллекту в этом году вручили аж две Нобелевские премии - по химии и физике. В общем, машинный алгоритм воспринимается человеком, как высший разум, который превосходит нас и по объему знаний и по мощи интеллекта. Однако есть сфера, в которой человек до сих пор с легкостью уделывает этот ваш хваленый искусственный интеллект. Вы не догадываетесь какая это область знаний?

- Самый понятный пример - это известная игра “Кто хочет стать миллионером?”, - объясняет Максим Кронгауз, лингвист, доктор филологических наук, руководитель группы Центра междисциплинарных исследований МФТИ, профессор РГГУ, МФТИ и НИУ ВШЭ. - По условиям для победы надо ответить на 15 вопросов. Последние вопросы очень сложные и искусственный интеллект превосходит человека при ответе на них. Но при этом человек уверенно обыгрывает ИИ в ответах на, так называемые, смешные вопросы. Там ответы, кроме одного правильного, специально подобраны так, чтобы вызвать улыбку. Например: “Как заканчивается название сказки “Белоснежка и семь…” И варианты ответа: 7 пятниц, 7 бед, 7.40 и 7 гномов. Это языковое клише, которое известно всем людям, даже если мы не читали эту сказку. Но великий и могучий искусственный интеллект при ответах на такие детские вопросы часто теряется.

Очеловечиваем искусственный интеллект

Вряд ли это достижение может быть причиной прилива чувства гордости за человечество. Но для ученых это свидетельство о том, что ахиллесова пята ИИ это не только галлюцинации (борьба с этой проблемой уже ведется). Оказывается искусственному интеллекту сложно быть равноправным собеседником. А если он не в состоянии полноценно понять человека, то как он может нас заменить в той или иной сфере? Как ему вообще можно доверять какое-то серьезное дело, если он способен истолковать наши мысли шиворот-навыворот?

- Оказалось, что для ИИ функция понимания собеседника это особая, куда более сложная задача, чем просто накопление и использование знаний, - говорит Максим Кронгауз. - Перед нами сейчас стоит цель - настроить алгоритм таким образом, чтобы он считывал наши намеки, понимал игру слов, различал, когда мы шутим - а когда говорим серьезно, узнавал речевые клише, которые мы обычно используем. Иными словами, ИИ должен стать для нас культурно близким.

По словам ученых, это можно сделать двумя способами: либо загрузить в модель бесконечное число таких вопросов и ответов. Но это будет бессистемная игра с машиной, которая не даст ей возможности развиваться. Либо надо дать алгоритму представление о культуре в целом, о культурном пространстве, в котором живет человечество, и настроить ИИ на различные культурные типы личности.

Такое “очеловечивание” искусственного интеллекта - это и есть цель проекта «Культурные замеры больших языковых моделей», который команда лингвистов во главе с Максимом Кронгаузом реализует в рамках Московского физико-технического института (МФТИ).

Фото: Shutterstock.

Исследователи выделили восемь современных культурных типов:

- Базовый тип

- Советский интеллигент

- Человек трендовый

- Карьерист- «достигатор»

- Современный интеллектуал

- Духовный практик

- Неформал

- IT-визионер

Некоторые распространенные типы в этот перечень не попали. Например, отказали в представительстве довольно многочисленной когорте братков и гопников. Причин было несколько, но одна из главных - ученым не хотелось учить искусственный интеллект “жить по понятиям” и “фильтровать базар”.

Если ChatGpt оказался вдруг…

- Мы хотели составить для каждого культурного типа некую карту - набор культурных представлений и языковых знаний, - рассказывает Максим Кронгауз. - Если мы возьмем советского интеллигента, то он слушает Визбора и Высоцкого, читает поэтов Серебряного века и братьев Стругацких, смотрит фильмы Тарковского и Марка Захарова. Его мироощущение строится на этом культурном багаже. Люди этого типа общаются между собой, используя соответствующие цитаты и образы. Они помогают точнее выразить мысль и используются, как пароль “свой-чужой”. Конечно, люди на “окраине” этого типа могли не читать “Доктора Живаго”, но в любом случае они знают историю знаменитого романа Пастернака и знают, как на него реагировать.

Используя такую разметку по ключевым авторам, произведениям, культурным кумирам (для каждого типа они свои - например, Высоцкий для советских интеллигентов, и Стив Джобс для современных интеллектуалов) ученые намерены обучить модель глубже понимать людей.

А на первом этапе работы участники группы сформировали 400 вопросов, с помощью которых тестировали различные модели искусственного интеллекта. О результатах ученые рассказали на встрече в Центре междисциплинарных исследований МФТИ. Примеры верных ответов и ошибок ИИ мы приводим ниже, возможно они покажутся интересными не только ученым, но и читателям KP.RU. Во всяком случае, некоторые из них заставят улыбнутся.

ПОИГРАЕМ?

Какой чат бот самый умный

Фото: Дмитрий ОРЛОВ. Перейти в Фотобанк КП

СЛУШАЙТЕ ТАКЖЕ

Искусственный интеллект на тропе войны: как сегодня применяют ИИ на поле боя (подписывайтесь на наши подкасты)