Человечество погубит не искусственный интеллект, а естественная лень

Мы слишком многое доверим решать искусственному интеллекту, вместо того чтобы развивать себя

Фото: Shutterstock.

Сначала люди ждали конца света, потом коммунизма, а теперь ждут появления сильного искусственного интеллекта (ИИ), который тоже решит за нас все проблемы и расставит все по своим местам. То ли на счастье, то ли на беду, но до создания сильного ИИ, кажется, рукой подать. Во всяком случае, Сэм Альтман, глава OpenAI и крестный отец ChatGPT, на днях написал в своем блоге , что нейросети достигнут уровня сверхразума уже в наступившем 2025 году.

Что такое сильный ИИ? По словам Альтмана это нейросеть, способная самостоятельно учиться, получать новые знания и выполнять любые интеллектуальные задачи наравне с квалифицированным специалистом. Или даже лучше его. От сильного ИИ ждут самых разных чудес: тут вам и начало эры новых научных открытий и решение нерешаемых задач продления жизни и похудения к лету...

Некоторое время назад даже в среде специалистов не было единого мнения относительно того, можно ли в принципе создать машинный сверхразум? Мы не понимаем, как работает сознание и мышление у человека, как формируется его личность, говорили скептики, поэтому не очень понимаем, как этому научить алгоритм. С тех пор ученые продвинулись далеко в деле обучения нейросетей. Они наделили роботов чертами человеческой психики. Так, например, машины узнали что такое мотивация - сила, без которой невозможно самосовершенствование. Только человеком движут жажда славы, власти или признания, а роботом руководит исключительно цифровая мотивация: алгоритмы пишутся так, чтобы он стремился набрать как можно больше зачетных очков. А недавно Московский физико-технический институт (МФТИ) запустил проект «Культурные замеры больших языковых моделей». Его реализует группа лингвистов во главе с Максимом Кронгаузом (Кронгаузом( , они пытаются “очеловечить” искусственный интеллект, загрузив в него некоторые образцы культурного кода человечества (“КП” подробно писала об этом в материале “Очеловечиваем искусственный интеллект: зачем нейросети знать Окуджаву, Тарковского и “Доктора Живаго”).

К каким последствиям может привести это слияние машинного и человеческого разума? Об этом мы поговорили с лингвистом, доктором филологических наук, Максимом Кронгаузом, руководителем группы Центра междисциплинарных исследований МФТИ, профессором РГГУ, МФТИ и НИУ ВШЭ.

- Максим Анисимович, кажется, что ученые “воспитывают” искусственный интеллект по образу и подобию человека. Но ведь человек грешен, даже лучших из нас порой обуревают предрассудки. Мы бываем несправедливы, лживы, а временами творим зло. Какие вещи о нас машине лучше не знать? И чему ее учить категорически нельзя?

- Есть некоторые закрытые области, которые большие языковые модели уже сейчас отказываются обсуждать. Это касается в первую очередь моральных и этических проблем. Например, “Алиса” - виртуальный голосовой помощник Яндекса - не будет с вами разговаривать про алкоголь, наркотики, вредные привычки или неприличные темы. Я думаю, нельзя создавать модель с преступными наклонностями, именно поэтому среди культурных типов, с которыми мы хотим познакомить языковые модели, нет “братков” и “гопников”, хотя этот тип довольно распространен в обществе. Наверное, в какой-то момент обучение ИИ на определенные темы будет законодательно запрещено. Кроме того, есть слишком чувствительные области - например, религия. Поэтому мы не рискуем создавать религиозную модель. На мой взгляд, мы взяли “чистую область” - это культура.

ИИ не опасен, опасность заложена в нас самих

Фото: Shutterstock.

- Зачем нейросетям культура?

- Потому что человечество разнообразно и мироощущение человека строится на культурном багаже. Мы есть то, какие книги мы читаем, какие кинофильмы смотрим, в какой социальной и языковой среде варимся. Мы выделили 8 современных культурных типов: Базовый тип, Советский интеллигент, Человек трендовый, Карьерист- «достигатор», Современный интеллектуал, Духовный практик, Неформал, IT-визионер. Для каждого культурного типа составляем некую карту - набор культурных представлений и языковых знаний. Люди определенного культурного типа общаются между собой, используя соответствующие цитаты и образы. Они помогают точнее выразить мысль и используются, как пароль “свой-чужой”. Настраивая алгоритм по ключевым авторам, произведениям и кумирам, мы добиваемся, чтобы ИИ считывал намёки, понимал игру слов и речевые клише, различал, когда мы шутим, а когда говорим серьёзно. Иными словами, мы хотим придать нейросетям разнообразие, которым отличается и человеческое общество. Научить модели глубже понимать людей. А для человека сделать общение с моделью более приятным.

- Если пойти по этому пути дальше, то можно реконструировать сознание великих людей прошлого. Оно ведь живет в их книгах, дневниках, письмах, публицистике… Чье сознание вам было бы интересно воплотить в машине?

- Интерес людей к этой теме понятен, потому что с кумирами прошлого интересно поговорить о событиях, которые происходят вокруг нас. Если говорим о великих ученых, то сразу вспоминается Эйнштейн. Если брать писателей, то мне интересно было бы поговорить с Толстым и Достоевским. Булгаков - тоже интересный собеседник. Но для меня такая перспектива остается запретной темой, пугающей фантастикой. Нельзя забывать, что каждый человек продукт своего времени. Книги, стихи, художественные картины - это результат осмысления жизненного пути, который был пройден автором. Ответы на вопросы, которые перед нами ставит новая эпоха, мы должны искать самостоятельно.

- На ваш взгляд, искусственному интеллекту уготована судьба инструмента, помощника? Или он в какой-то момент неизбежно осознает своё Я и захочет играть роль первой скрипки?

- Для меня совершенно очевидно, что главная угроза не в том, что искусственный интеллект поймет, какой он умный, а эти людишки - глупые, и захочет подмять нас под себя. Скорее опасность заложена в нас самих. Сейчас мы находимся в состоянии некой эйфории, поскольку ИИ увеличивает наши творческие, научно-исследовательские, художественные возможности. С каждым годом мощь искусственного разума будет только возрастать и возникнет соблазн отдать эти сферы в руки нейросетей. Зачем человеку годами вынашивать свой роман, если искусственный интеллект напишет лучше? Зачем ученым десятилетиями биться над решениями научной проблемы, если алгоритм умеет исследовать лучше, чем они? Вот у меня в свое время была дурацкая привычка, я любил считать устно. Но когда появился калькулятор, я предпочел нажимать на кнопки и получать безошибочный ответ, а не упражняться в устном счете. Сейчас я в уме не считаю. Вот если мы творчество, исследования, осмысление себя, доверим машинам - то человечество начнет деградировать. Понятно, что останутся какие-то отдельные энтузиасты, в которых горит бешеный огонь писательский, поэтический, научный. Но единицы ничего не решают. Ученый, философ, писатель, это массовые профессии, чтобы появился гений, должна возникнуть питательная среда, где можно общаться и обмениваться идеями. Вот в этом я вижу главную опасность: мы ленивы и нелюбопытны. Мы слишком многое доверим решать искусственному интеллекту, вместо того чтобы развивать себя.