"В нас вшит инстинкт самосохранения": академик рассказал, что помешает искусственному интеллекту поработить людей
Академик РАН, директор Института психологии РАН, доктор психологических наук Дмитрий Ушаков.
Фото: Иван МАКЕЕВ. Перейти в Фотобанк КП
Как искусственный интеллект изменит мышление людей? Когда человечество научится выращивать гениев? Какие “противоядие” придумали люди, чтобы “приручить” технологии, которые способны их уничтожить? Об этом в программе «Время науки» на Радио “Комсомольская правда” (97,2 FM) говорили:
- радиожурналист Мария Баченина,
- академик РАН Александр Сергеев, научный руководитель Национального центра физики и математики (НЦФМ),
- их гость академик РАН, директор Института психологии РАН, доктор психологических наук Дмитрий Ушаков.
ИСКУССТВЕННОМУ ИНТЕЛЛЕКТУ НЕ ХВАТАЕТ МОТИВАЦИИ
Мария Баченина:
- Дмитрий Викторович, чем современная психология отличается от той, что была в прошлом веке?
Дмитрий Ушаков:
- Психологи по-прежнему решают индивидуальные проблемы отдельных людей, но все больше и больше привлекаются к решению глобальных задач. Мир вокруг меняется, меняются окружающие нас технологии и это приводит к трансформации общества. Людям надо помочь адаптироваться к этим переменам. Психологи должны видеть, куда движется общество, какие риски возникают на этом пути.
Александр Сергеев:
- А эти опасности связаны именно с развитием современного мира - искусственный интеллект, цифровая революция? Или они всегда присутствовали в психологии отдельных индивидов.
Дмитрий Ушаков:
- Старые угрозы дополняются новыми. Искусственный интеллект, на мой взгляд, опасен не сам по себе, важно, как ИИ используют люди. В свое время появился манифест, который подписали Билл Гейтс, Стивен Хокинг, и другие известные люди. Там авторы использовали запоминающуюся метафору муравейника. Когда люди строят плотину для ГЭС и образовавшееся водохранилище заливает муравейник, то это происходит не потому, что мы хотим сделать что-то плохое муравьям. Мы просто преследуем свои цели, а муравьи для нас не столь важны. И если мы сотворим своими руками некий сверхмощный разум в виде искусственного интеллекта, то можем оказаться в положении муравья: ИИ поступит с нами таким же образом.
Я думаю, что эта картина не очень реальная. Алгоритмы машинного обучения – это замечательная технология, которая в той или иной степени имитирует когнитивную деятельность, но ИИ не обладает собственной мотивационной системой. А чтобы функционировал разум, ему недостаточно понимать и просчитывать, ему нужна мотивация, ему нужно направление движения. Мотивационная система человека устроена таким образом, что ей во многом управляют потребности тела – мы устали или мы радуемся, у нас идет выброс определенных гормонов, мы хотим есть или испытываем жажду.
Фото: Иван МАКЕЕВ. Перейти в Фотобанк КП
Мария Баченина:
- То есть мы живые люди.
Дмитрий Ушаков:
- Да. А до тех пор, пока искусственный интеллект не имеет “тела”, в котором он живет, у него нет подлинно мотивационной системы.
Мария Баченина:
- Его нельзя этим наделять, иначе он будет нам конкурент?
Дмитрий Ушаков:
- Человечеству не имеет никакого смысла это делать.
Александр Сергеев:
- Извините, но когда мы говорим об объединении искусственного интеллекта с робототехникой, речь идет именно об этом. Мы создаем устройство, записанное в виде софта и искусственных нейронных сеток, эта система снабжается сенсорикой и исполнительными механизмами. И в результате фактически мы имеем то же самое, что есть и у человека.
Дмитрий Ушаков:
- Но без мотивационной системы.
Александр Сергеев:
- А мотивационная система появляется, когда человек или искусственный интеллект начинает копить то, что мы с вами называем эмоциями. То есть заряжается положительными или отрицательными эмоциями.
Дмитрий Ушаков:
- Мотивация может сопровождаться эмоциями, но мотивация не сводится к эмоциям. И эмоции могут существовать и помимо мотивации.
Мария Баченина:
- Например?
Дмитрий Ушаков:
- Например, когнитивные эмоции - радость от открытия. Мотив – это то, что реально движет нашим поведением. Эмоция – это то, что мы субъективно испытываем. Иногда мы что-то делаем вопреки эмоции. Хотим одного, а делаем другое…
Мария Баченина:
- Допустим, мне лень делать домашку, а я должна ее делать.
Дмитрий Ушаков:
- Да. Эти вещи связаны между собой, но не идентичны. Эмоции имеют мотивирующую функцию, они нас могут к чему-то подталкивать. А мотивация – это наши старые биологические механизмы, которые, привели к тому, что живое до сих пор существует на Земле. И разум в том числе.
Фото: Иван МАКЕЕВ. Перейти в Фотобанк КП
КАК ЧЕЛОВЕЧЕСТВО ЗАЩИЩАЕТ СЕБЯ ОТ ПОБОЧНЫХ ЭФФЕКТОВ НОВЫХ ТЕХНОЛОГИЙ
Александр Сергеев:
- Вот вы говорите “базовые мотивации”. Понятно, что некоторые вещи - тот же основной инстинкт - передаются генетически. Но все-таки хотелось, чтобы в процессе воспитания, образования и обучения у нашей молодежи появились новые мотивации дополнительно к тому, что заложено природой. Как современная психология оценивает в процентах влияние генетики и влияние фактора воспитания на формирование личности?
Дмитрий Ушаков:
- Давайте для начала на секундочку вернемся к тому, чем нужно и чем не нужно наделять искусственный интеллект. Мне кажется, мы должны беспокоиться о том, чтобы разум развивался, как такое планетное образование. До сих пор пик разума – это был разум человеческий. Сейчас он не становится разумом искусственным, он становится разумом гибридным. В том плане, что искусственный интеллект начинает выполнять некоторые функции, которые выполняет человеческий разум. Причем в некоторых случаях он выполняет их лучше. Но мы не должны целиком перекладывать это на нейросети. Почему? Потому что эволюция – это удивительная штука. Допустим, считается, что жизнь на Земле существует 4,5 миллиарда лет или около того. При этом она не исчезла, хотя были биологические периоды массового вымирания, человечество тоже проходило через опасные ситуации. Вспомните Карибский кризис, когда человечество было близко к тому, чтобы уничтожить само себя. Но этого не случилось. Почему? Есть ли некие встроенные механизмы, благодаря которым живое себя защищает?
Был такой интересный ученый – Акоп Назаретян, который говорил о техно-гуманитарном балансе. Когда человечество приобретает определенные технологии, параллельно должны сформироваться некие социальные инструменты, которое позволят человечеству жить с этими изобретениями. Первое такое крупное событие – это неолитическая революция, когда люди перешли от охоты, рыболовства, собирательства к производящей экономике.
Александр Сергеев:
- Аграрная революция.
Дмитрий Ушаков:
- Да. Собственно, характерной чертой неолита, нового каменного века является формирование новых видов хозяйствования - землепашества и скотоводства. В это время вместе стали собираться крупные массы людей, что повлекло большие проблемы, например вирусные эпидемии. Наш иммунитет на это отреагировал и перестроился. Но также изменилось поведение людей для того, чтобы они могли жить в таких больших сообществах.
В Египте или в Месопотамии земледельческие общины образовывали общества, для решения масштабных коллективных задач, таких, как ирригация. Историк и социолог Карл Виттфогель называл эти общества гидравлическими. А там, где собираются большие массы населения для решения крупных проектов, там формируется авторитаризм, власть фараона и прочее.
А дальше было много технологических революций и к каждому изменению человечество должно было приспосабливаться. Почему? А потому, что система мотивации людей очень гибко устроена. В нас встроены механизмы самосохранения, самозащиты, которые каждый раз в различных культурных ситуациях преобразуются. В нашу психику все это надежно вшито. И многие муки, которые мы переживаем, например, в связи с какими-то моральными дилеммами, это отражение того, что мы оказались в коллективной ситуации, где должны измениться, чтобы соответствовать задачам, которые решает общество. И мы даже не до конца понимаем, как мы это делаем.
ЕВГЕНИЙ ОНЕГИН 2.0. ПРОБЛЕМА ЛИШНЕГО ЧЕЛОВЕКА В ЦИФРОВУЮ ЭПОХУ
Александр Сергеев:
- В связи с цифровой революцией, появлением ИИ, мы явно видим, что грядет переустройство общества. Оно будет функционировать по-другому - новые социальные роли, новые командиры. Что-то мы уже можем предвидеть. Как человек должен измениться психологически, чтобы быть адекватным тому новому времени, что придет?
Дмитрий Ушаков:
- Появляется то, что называется постиндустриальным обществом, когда люди хорошо обеспечены материально. И здесь, в связи с этим, возникает новая идеология. И заключается она в том, что у части населения уходит на второй план ценность достижения и становится популярной идея принятия всего.
Александр Сергеев:
- Ну, раз сытно, спокойно, чего еще надо, куда бежать?
Дмитрий Ушаков:
- Да. Ценность какая? Делай, что хочешь, будь, каким хочешь, ты ничего никому не должен. Я думаю, что это одна из основных проблем современного общества.
Александр Сергеев:
- А вы, как психолог, что думаете - мы большинстве своем согласились бы так жить? Нам было бы комфортно?
Дмитрий Ушаков:
- Сейчас по Европе бродит призрак всеобщего гарантированного дохода. То есть человек может родиться, бесплатно получить образование, получить пособие и прожить на это пособие до глубокой старости. И здесь возникает проблема смыслов. В нашей великой русской литературе это уже было. Мы в школе обсуждали проблему лишнего человека на примере того же Евгения Онегина. У него все есть, он не служит. После Манифеста о вольности дворянства при Петре III многие представители высших сословий оказались в такой ситуации. И это очень тяжело. Потому что человек должен искать новые пути, к чему-то стремиться. При этом мы видим, что инстинкт достигаторства не исчез.
Александр Сергеев:
- А это врожденное?
Дмитрий Ушаков:
- С одной стороны здесь есть биологические корни, с другой стороны - культурные. Но сегодня проблема в том, что задачу поиска смысла нам надо решать в ситуации, когда технологически мы достигли очень многого. При этом эти технологические средства могут быть средствами манипуляции людьми. Вы можете влиять на человека зная, что он делает в соцсетях, куда он ходит, что покупает…
Александр Сергеев:
- За удобство и комфорт мы продаем душу искусственному интеллекту?
Дмитрий Ушаков:
- Возникает проблема бессмысленности существования. Собственно, как устроена глубинная система мотивации человека? Она предполагает, что человек всегда должен сознавать: то, что происходит это хорошо.
Мария Баченина:
- Вы имеете в виду, что он должен быть в гармонии с мнением большинства?
Дмитрий Ушаков:
- По-разному может быть. Иногда в гармонии с мнением большинства, иногда в противовес большинству, но в гармонии со своей референтной группой. Но главное, что это ощущение должно быть. Ведь нам не так уж важен абсолютный уровень нашего комфорта. Мы живем несравненно лучше, чем Онегин или даже представители суперэлиты начала XIХ века. В плане комфорта, в плане самочувствия, безопасности, медицины и всего остального. Но нас это не удовлетворяет. Почему? Потому что у нас нет абсолютного мерила, мы всегда хотим чего-то лучшего.
Фото: Иван МАКЕЕВ. Перейти в Фотобанк КП
ЧТО ДЕЛАТЬ, ЕСЛИ ТЫ ОКАЗАЛСЯ НА ВЕРШИНЕ ПИРАМИДЫ МАСЛОУ?
Александр Сергеев:
- А может быть, все-таки значительная часть людей устроена так, что их идеал - это тихая, спокойная жизнь, обеспеченные базовые потребности. Этот уровень все время повышается. Ну, а чего надрываться-то?
Дмитрий Ушаков:
- Проблема заключается в том, что люди должны быть удовлетворены этим. А если изо дня в день повторяется одно и тоже, возникает вопрос: зачем? Когда речь идет о выживании, мы должны бороться, чего-то достигать. А если всё есть? У Борхеса есть рассказ под названием «Бессмертный». Некий великий римский воин хочет прорваться в страну бессмертных. Он ведет отряд через какие-то невероятные трудности, а потом попадает в странное место, где живут люди, которые не разговаривают. Он ни с кем из них не может войти в контакт. И только один привязался, ходит за ним хвостом, и воин назвал его Аргусом, как собаку Улисса. И вдруг наступает гроза, во время которой эти люди как-то оживляются. И Аргус вдруг с трудом произносит: «Да, как давно я написал это». Оказывается, что он - Гомер, который попал в страну бессмертных. Но почему они такие? Потому что перед ними бесконечная жизнь, и им нечего делать в это бесконечное время…
Мария Баченина:
- Мотивации нет.
Дмитрий Ушаков:
- Совершенно верно. И в тот момент, когда он, уколовшись о какую-то колючку, чувствует боль, он понимает, что, наконец, потерял свое бессмертие, и радуется этому. Собственно, в этом и есть проблема смыслов. Все знают пирамиду Маслоу, ее, кажется, даже в школе изучают. И там как раз заложена эта идея: когда удовлетворены все потребности, то возникает высшая потребность, смысловая - зачем?
Фото: Иван МАКЕЕВ. Перейти в Фотобанк КП
ЧТО ВАЖНЕЕ - ТАЛАНТ ИЛИ ЧЕЛОВЕЧЕСКИЕ КАЧЕСТВА
Мария Баченина:
- А что важнее для общества: талантливые люди, которые создают некие культурные ценности, новые смыслы? Или человеческие качества - доброта, стремление помочь, желание служить на благо Отечества?
Александр Сергеев:
- А вы знаете, что великий Ньютон в частной жизни был очень неприятным человеком?
Мария Баченина:
- Я таких ньютонов много знаю.
Дмитрий Ушаков:
- Или Лейбниц, с которым Ньютон соперничал и на научном поприще, и в способности вызывать у людей антипатию. Как-то был опубликован анонимный памфлет против Ньютона, все подумали, что это написал Лейбниц. Тот отрицал. А после его смерти были найдены черновики этого памфлета. Надо сказать, что у них был спор о приоритетах относительно дифференциального исчисления. Впрочем, у Ньютона с Гуком были серьезные разногласия.
Возвращаясь к вопросу насчет того, талант или человеческие качества. Какие аргументы в пользу таланта? Существует так называемый закон Прайса, который заключается в следующем. Если у вас есть некое сообщество, производящее новый продукт, то большую часть этого продукта будет производить незначительная часть членов этого сообщества. Взять, допустим, классических композиторов, их где-то порядка 250 человек, так вот половину этого репертуара написала группа, которая составляет квадратный корень из этого числа, то есть примерно 16 человек.
Александр Сергеев:
- Но если бы не было второй половины…
Дмитрий Ушаков:
- Если вы берете сообщество в 10 тысяч человек, то корень квадратный – 100, то есть 1% общества производит половину всего.
В этом плане, конечно, талантливые люди делают очень много, этого отрицать нельзя. С другой стороны, что-то мы делаем индивидуально, а что-то делаем коллективно. В свое время Наполеон после египетской кампании записал наблюдения о противостоянии французов с мамлюками (это мусульманские рыцари). Он говорил: два мамлюка при столкновении победят трех французов. Если вы пустите 100 французов против 100 мамлюков, то французы не побегут. Если вы пустите 1000 французов, то они наверняка побьют 1,5 тысячи мамлюков.
Мария Баченина:
- Сила коллектива.
Дмитрий Ушаков:
- Да, сила организации. Кстати, аналогичные наблюдения были у Юлия Цезаря по итогам Галльской войны относительно римлян и галлов. Один на один римлянин уступал галлу, но коллективно они побеждали. Если мы говорим про науку, то это коллективное дело, и оно зависит от организации…
Александр Сергеев:
- Но открытия делают единицы.
Дмитрий Ушаков:
- Открытия – да. Но при этом наука должна существовать, как адекватно работающий институт. Тогда и индивиды могут проявить свои возможности и таланты. Когда мы говорим о коллективном решении задач, то здесь работают социальные институты. То есть правила игры при совместной деятельности. Соответственно, если у нас правила игры заданы так, что все против всех, то никакой талант ничего не сделает. А вот для того, чтобы функционировали эти институты, нужны как раз такие вещи, как человеческая порядочность, доброжелательность, сотрудничество.
Почему важна нравственность? Потому что только нравственное общество может хорошо решать задачи. Без взаимодействия все летит в тартарары. Поэтому – да, талант очень важен, но важен менталитет и институты, которые позволяют людям коллективно решать серьезные задачи.
Фото: Иван МАКЕЕВ. Перейти в Фотобанк КП
ГЕНИЯ ДЕЛАЕТ ГЕНЕТИКА ИЛИ СОЦИАЛЬНОЕ ОКРУЖЕНИЕ?
Мария Баченина:
- А есть какие-то общества или государства, которые с этой точки зрения находятся в более выигрышной ситуации?
Дмитрий Ушаков:
- Есть классические работы Вебера, который писал о протестантизме, о протестантском менталитете. Например, если мы посмотрим на нобелевских лауреатов, мы увидим, что протестантов больше, чем католиков.
Александр Сергеев:
- Русская наука, в значительной степени была представлена в XVIII веке протестантами, которые были импортированы из Западной Европы. И у нас почти весь первый состав Российской академии наук – это были люди с такими корнями.
Дмитрий Ушаков:
- Типа Леонарда Эйлера.
Александр Сергеев:
- Да. Это было и до Петра. Потому что реформация началась существенно раньше, и российские монархи воспользовались этой ситуацией и стали приглашать людей, которые в Европе находились в каких-то сложных условиях. Дмитрий Викторович, откройте тайну: сколько в таланте генетики, а сколько мы можем добавить воспитательным процессом?
Дмитрий Ушаков:
- У разных свойства человека это соотношение разное. Если мы берем интеллект, то вклад родителей от 40 до 80 процентов - это то, что определяется генетикой.
Александр Сергеев:
- От 40 до 80? Широко.
Дмитрий Ушаков:
- Там такая система: 80% дает оценка, если мы берем монозиготных (однояйцевых) близнецов, разлученных в раннем детстве. А можно сравнить монозигот и дизигот (разнояцевых близнецов), воспитанных вместе. Вот у дизигот такая оценка дает 60 процентов вклада генетики в интеллект. Есть оценки, которые дают 40, но они уже менее весомые.
Александр Сергеев:
- Если так, то это некое руководство к действию в современном обществе.
Мария Баченина:
- Я за евгенику.
Александр Сергеев:
- А мы, наверное, все здесь за евгенику.
ЕВГЕНИКА: ВОЗВРАЩЕНИЕ ЗАПРЕТНОГО СЛОВА
Дмитрий Ушаков:
- Знаете, евгеника переживала разные периоды. Она была весьма респектабельной в Европе, да и вообще в мире…
Александр Сергеев:
- И в России тоже.
Дмитрий Ушаков:
- Да, и в России. До появления Гитлера. В период до 30-х годов в евгеническом обществе состояли очень респектабельные люди, более того, принимались некие евгенические меры. Затем, поскольку это связалось с нацизмом, она стала восприниматься, как что-то совершенно неприемлемое и неприличное. И в общем-то на Западе евгеника до сих пор преследуется. Людей, причем очень авторитетных, выгоняли из университетов за высказывания в ее пользу. Например, пострадал Джеймс Уотсон, нобелевский лауреат, человек, который в соавторстве с Френсисом Криком открыл двойную спираль ДНК, один из самых известных ученых ХХ века.
Александр Сергеев:
- Если все-таки евгеника будет развиваться, то постепенно начнет складываться некий клан суперлюдей, которые, наверное, будут руководить, в конце концов, этим человечеством.
Дмитрий Ушаков:
- Тут мы сталкиваемся с эффектом, о котором говорили в начале: когда возникает новая технология, то в ответ развивалась некая гуманитарная область, которая позволяет эту технологию как-то “приручить”. В свое время мы начинали с неолитической революции, а недавно обуздали ядерное оружие. Потому что ядерное оружие все-таки привело к тому, что после его возникновения не было мировых войн.
Александр Сергеев:
- На всякое действие человечество придумывает противодействие. Надеюсь, что и в случае евгеники тоже будет что-то предложено.
Дмитрий Ушаков:
- Наверное, в качестве резюме стоит сказать, что мы в принципе не можем вычислить, куда мы движемся. Потому что такие вычисления больше нас самих. Как говорил Тютчев, нам не дано предугадать, как наше слово отзовется, и нам сочувствие дается, как нам дается благодать. Поэтому мы возвращаемся к живому человеческому чувству, которого нет у искусственного интеллекта. И только это чувство и дает нам путеводную нить по дороге освоения могучих технологий и познания самих себя.
СЛУШАЙТЕ ТАКЖЕ
Как водород спасет мир от смерти из-за глобального потепления