Премия Рунета-2020
Россия
Москва
+21°
Boom metrics
Наука
Эксклюзив kp.rukp.ru
18 июня 2024 3:45

ИИ диктует нам как жить: в чем его главная опасность и как не запустить процесс "одомашнивания человека"

Академик Сергеев: Следующий шаг в прогрессе ИИ - замена человеческого интеллекта

Фото: Shutterstock.

В истории цивилизации появление принципиально новой технологии каждый раз приводило к грандиозным переменам. Плуг и мотыга превратили бродячих охотников-собирателей в земледельцев. Промышленная революция привела к росту крупных городов и освобождению крестьян от феодальной зависимости… А как трансформируют общество технологии искусственного интеллекта? Об этом мы поговорили с научным руководителем Национального центра физики и математики академиком РАН Александром Сергеевым.

ЧЕЛОВЕК ОКАЖЕТСЯ НА МЕСТЕ БРОЙЛЕРА?

- Александр Михайлович, один из главных страхов современного человека заключается в том, что искусственный интеллект отберет у него работу и вообще упразднит целый список профессий…

- Это как раз не так страшно. Все это человечество уже проходило, в начале XX веке вместе с гужевым транспортом исчезла профессия извозчика, но никто не пострадал: кучеры освоили профессию водителя такси. Безработица — это проблема вчерашнего дня, сегодня нас ждут другие грандиозные перемены. Наблюдая за прогрессом ИИ, многие понимают, что следующий шаг - это когда алгоритмы заменят наш интеллект. Уже сегодня нейросети предсказывают точнее и лучше человека, поэтому мы широко используем системы поддержки принятия решений на основе ИИ. Но зная естественную склонность человека идти по пути наименьшего сопротивления, я опасаюсь, что затем мы отдадим машинам на откуп и само принятие решений.

- Чем это плохо?

- Сейчас все чаще звучит термин “одомашнивание человека”. В давние времена наши предки занялись одомашниванием животных. Люди предложили братьям меньшим вроде бы выгодные условия: кормили, защищали от хищников, строили загоны, чтобы уберечь от холода и непогоды. И сейчас количество одомашненных животных многократно превышает численность диких зверей, населяющих планету. Но принесло ли это животным благо? Например, несчастному бройлеру, которого откармливают несколько недель, а потом отправляют в суп? Или коровам и поросятам, которые всю недолгую жизнь проводят в тесных загонах, прежде чем отправиться на бойню? Или котов и собак, которых стерилизуют, кастрируют и уродуют их внешний вид, чтобы забавлять публику? Но такова оказалась плата за то, что животные свою, полную опасностей, но в то же время полноценную жизнь доверили человеку. И производят теперь молоко, яйца, шерсть, мясо. А теперь уже человек может оказаться на этом месте.

- То есть ИИ решит за нас все проблемы?

- Да, он пропишет, как питаться, лечиться и с кем встречаться, он составит идеальный распорядок дня, в конце которого ты будешь ощущать себя счастливым и довольным. Но за это ты должен будешь отдавать ему всю персональную информацию о себе, чтобы искусственный интеллект точнее и удобнее вел тебя по жизни.

ПРОДАТЬ ДУШУ ИСКУССТВЕННОМУ ИНТЕЛЛЕКТУ

- На первый взгляд это выглядит, как выгодная сделка.

- Конечно! Фауст тоже так думал, когда продавал душу дьяволу — это обязательное условие такого рода сделок. Но теперь подумайте, готовы ли вы доверить всю информацию о своих мыслях, чувствах, политических взглядах, физиологии и болезнях… Ведь алгоритм будет знать вас насквозь, вплоть до каждой клетки тела. При этом вы действительно будете получать правильные, разумные советы и решения. По крайней мере, на начальном этапе. Только лишитесь права распоряжаться своей жизнью по собственному разумению.

- И все равно, кажется, что человек получит больше, чем другая сторона.

- Вы ошибаетесь! Мы просто не осознаем ценности того, чем владеем. Это сейчас богатство воспринимается, как счет в банке, дорогая недвижимость или собственный бизнес. А мы идем к обществу, где главным капиталом будет информация. В этом обществе не будет классов и классовой борьбы: появится новая элита - слой людей, владеющих информацией и информационными технологиями. Именно они будут определять нашу с вами судьбу. Ниже будет второй слой - алгоритмы и машины с их производительной мощью. А в самом низу - слой счастливых и беззаботных людей, от которых уже ничего не зависит. И с которыми по команде из первого слоя с помощью второго можно будет сделать что угодно.

- А чем же мы будем заниматься?

- Возможно, нижнему слою будет оставлена возможность размножаться. Ведь единственное, чего не умеют машины, — это распространять нашу генетику. А мы это умеем. И еще рады будем уйти в это занятие с головой, потому что нас, как любой биологический вид, страшит сокращение рождаемости. А здесь нам предложат активное размножение, тиражирование своей ДНК. И за это еще обеспечат комфортное беззаботное существование.

Фото: Shutterstock.

ТОТАЛЬНЫЙ КОНТРОЛЬ ОБЩЕСТВА - НОВЫЙ ВЫЗОВ ЦИВИЛИЗАЦИИ

- Но ведь люди, кажется, начинают осознавать угрозу? Недавно большое недовольство россиян вызвала затея с передачей в единую систему биометрических данных, которые собирали разные организации, например, банки. А Евросоюз запретил социальный рейтинг и распознавание лиц в общественных местах…

- Здесь не все так просто. Например, если возьмем Китай, то ни у кого нет сомнений, что они хотят организовать тотальный информационный контроль над членами общества. Кстати, Китай этого и не скрывает, они считают, что таким образом проще управлять населением. А учитывая, что они сейчас мировые технологические лидеры, то может появиться огромная сила - мобилизованная и вертикально управляемая масса хорошо образованных людей... По-моему, это серьезный вызов цивилизации. Грядет новое соревнование политических систем, но уже не капитализма и социализма. И потом, мы привыкли думать, что информационно-технологические гиганты - тот же Google, например, - свято придерживаются принципов свободы и тайны персональных данных. Хочется надеяться, что сегодня это так. Но как будет завтра?

НАСТУПИЛА ЭПОХА ГОСПОДСТВА “БОТАНИКОВ”?

- Если мы посмотрим на выгодоприобретателей нового уклада, то получим удивительную картину. В первобытные времена преимущества человеку давала физическая сила. Потом ценилось благородное происхождение, богатство… А сегодня в кой-то веки наступает эпоха “ботаников”, карт-бланш получают математики, физики, программисты. Посмотрите на зарплаты айтишников - разве было время более благоприятное для творческих и одаренных людей?

- Я с вами не соглашусь. Вот недавно мы в Росатоме обсуждали стипендии магистрантов и аспирантов МГУ Саров, который действует на территории Национального центра физики и математики. Вроде бы у нас хорошие стипендии, от 50–70 тысяч. Но нельзя сказать, что у нас ажиотаж в приемной комиссии и все рванулись к нам поступать. И я вам скажу, что курьеры, нанимаемые, в том числе, и информационными компаниями, которые развозят заказы, доставляют пиццу - они получают больше. А труд там не слишком творческий: сел на самокат и поехал. Это показатель того, что современные информационные гиганты могут себе позволить такой неквалифицированный труд оплачивать достаточно хорошо. Но нужны ли творческие люди этим компаниям, которые будут диктовать свои условия? И в каких количествах? Это большой вопрос. Потому что сейчас мы видим, что в вертикально интегрированных коллективах с жесткой дисциплиной в основном востребованы исполнители.

- Но ведь говорят, что именно работникам средней и низкой квалификации грозит замещение искусственным интеллектом?

- Тут есть одно важное обстоятельство: творческая работа — это очень непростой удел. Возьмите ученых или артистов – это на 95 процентов люди, неудовлетворенные собой, потому что творчество — это тяжелый труд, он полон проб и ошибок, а озарение или звездная роль случаются нечасто. Да, когда ты добиваешься успеха, это ни с чем не сравнимое счастье. Но у меня есть опасение, что человечество клюнет на другой способ достижения блаженства, гораздо более простой. Человеку предложат поддерживать приемлемый уровень жизни, даже не работая на самокате, а просто потому, что ты согласишься стать клиентом искусственного интеллекта. Ты ему отдаешь свои персональные данные, а он тебе обеспечивает спокойную, достойную, сытую жизнь.

ИЩЕМ ТЕХ, КОМУ НЕ НУЖНА СЫТАЯ СПОКОЙНАЯ ЖИЗНЬ

- Есть любопытные расчеты: раньше стране хватало 50 тысяч одаренных выпускников в год. И с этой задачей справлялась система отбора талантов через предметные олимпиады, спецшколы и интернаты. В эпоху высоких технологий нам нужно набирать уже 500 тысяч одаренных детей в год. А где их взять?

- Тут есть несколько проблем. С одной стороны, это «перегретость» экономики и рынка труда, когда молодежь разбирают, как горячие пирожки. Ты не успел еще стать совершеннолетним, а тебе чуть ли не на каждом углу предлагают 150 тысяч. Это в значительной степени связано с тем, что старшие поколения не так уверенно осваивают новые профессии. Грубо говоря, молодежь “кликает” гораздо быстрее. И у молодых возникает большой соблазн пойти по пути наименьшего сопротивления. Зачем долго учиться, зачем грызть гранит науки, когда есть возможность легкого заработка в новых профессиях? Поэтому нам нужно найти и обратить в свою веру ребят, для которых зарплата и спокойная жизнь стоят не на первом месте. Которым неинтересно развозить продукты на самокате или рисовать прыгающий по экрану мячик. И наша задача заразить их творчеством, любопытством и наукой. Мы в Росатоме это прекрасно понимаем, поэтому мы идем в школы, в специализированные учебные центры и стараемся привить школьникам нашу систему ценностей творческого серьезного труда. И если мы этого не сделаем, то попадем в то самое кастовое общество, где владельцы информации с помощью алгоритмов будут управлять человечеством, которому надоело напрягаться и принимать решения.