Между людьми и роботами будет конкуренция - мы вступаем в новый тип цивилизации: кто теперь хозяин на планете

В голове у киборга может поместиться все знание человечества. Но ученые сомневаются, что машины способны на этой основе составить собственную картину мира. Фото: sdecoret/Shutterstock/Fotodom

Искусственный интеллект ставит диагнозы, пишет дипломы, генерирует котиков и программный код, управляет самолетами и маркетплейсами - без него мы как без рук. И в то же время сами «крестные отцы» ИИ не устают предупреждать: их детище таит в себе экзистенциальную угрозу. В марте 2023 года появилось знаменитое «Письмо тысячи ученых» с призывом заморозить дальнейшие разработки ИИ (его подписали в том числе Илон Маск и Стив Возняк). В октябре нынешнего года опубликовано аналогичное «Письмо 10 нобелевских лауреатов».

МЫ ВСТУПАЕМ В НОВЫЙ ТИП ЦИВИЛИЗАЦИИ

Так чего же больше несет в себе искусственный разум: возможностей или опасностей? За и против взвешивали ученые на конференции «Гуманизация технологий: этика научной коммуникации в эпоху ИИ», которая проходила в МФТИ.

- Тут жеманиться нечего - с появлением искусственного интеллекта мы оказались в революционной ситуации. Ничего подобного в истории человечества не было, - уверена Татьяна Черниговская. - Мне возражают: а восстание луддитов и тому подобное? Ткацкие станки ломали, бунтовали против появления машин… Это все не то. Раньше ездили на осле, потом пересели на паровоз, затем на самолет - это количественные изменения, просто скорость передвижения стала выше. А здесь человечество имеет дело с качественным изменением: мы переходим на принципиально другой тип цивилизации. Раньше машины делали за нас физическую работу, теперь они думают за нас.

Татьяна Черниговская.

В ЧЕМ МАШИНЫ СИЛЬНЕЕ НАС?

Резон в таких рассуждениях есть. Люди чувствовали себя в безопасности, потому что занимали нишу единственного разумного существа на планете. У нас не было конкурентов. Теперь мы создали сущность, которая просчитывает ходы в миллион раз лучше нас, никогда не ошибается и не обладает совестью, милосердием и состраданием. Впервые на планете появился тот, кто может заменить нас!

У машин есть важное конкурентное преимущество, считает Виктор Казанцев, руководитель Лаборатории нейробиоморфных технологий МФТИ. Скорость их эволюции несопоставима с нашей. Человеку понадобилось миллион лет, чтобы пройти путь от обезьяны до цифровой революции. Машины проделали путь от самодвижущейся повозки до алгоритмов ИИ всего за 100 лет.

Кроме того, наше развитие ограничено биологическими законами. Шаг в совершенствовании человечества - это появление нового поколения. Для того чтобы человек приобрел базовые знания, необходимо как минимум 20 лет. У компьютеров, согласно закону Мура, производительность удваивается за два года. Кроме того, у машин каждая новая прошивка инсталлируется всего на несколько часов и полностью наследует прошлое обучение.

- В прошлом году произошел грандиозный прорыв - искусственный интеллект обрел тело! - говорит Виктор Казанцев. - Была решена задача автономного передвижения роботов на двух ногах, которая долгое время считалась недостижимой целью. Сегодня роботы-гуманоиды способны выполнять даже хирургические операции. Вся биомеханика, все движения, которые есть у нас, теперь есть и у них. Эти машины полностью адаптированы к человеческой инфраструктуре. И серьезные компании прогнозируют, что через 15 лет - в 2040 году - число роботов-гуманоидов достигнет 1 миллиарда - цифра, сопоставимая с количеством людей на планете.

ЧЕМ АНАЛОГОВЫЕ ЛЮДИ ЛУЧШЕ ЦИФРОВЫХ ГУМАНОИДОВ

Двум интеллектам (естественному и искусственному) в одной берлоге станет тесно. Но наши шансы не выглядят безнадежными. По мнению Виктора Казанцева, в ближайшие годы ключевым вопросом станет конкуренция за энергию. И здесь у аналогового интеллекта людей есть огромное конкурентное преимущество, за которым машинам невозможно угнаться. Наш мозг адаптирован к энергетике планеты - он потребляет порядка десяти ватт энергии, примерно как энергосберегающая лампочка. Цифровые машины работают на других принципах, и им требуется огромное количество электричества. Например, бывший председатель совета директоров и главный исполнительный директор Google Эрик Шмидт подсчитал: чтобы обеспечить энергией вычислительные центры, которые обрабатывают запросы ChatGPT и других чат-ботов с ИИ, в ближайшие 20 лет только в США надо построить несколько десятков атомных электростанций. Трудно себе представить, сколько энергии будут съедать 1 миллиард гуманоидов, которые не только думают, но и выполняют физическую работу.

- Искусственный разум во много раз превосходит людей по объему накопленных знаний: в большие языковые модели загружено все, что было написано человечеством за всю его историю, - рассуждает Татьяна Черниговская. - Но что такое мышление? Это не просто знание миллиарда фактов. Может ли ИИ, как и мы, создавать картину мира? Или он не способен отличить ее от фейка? Есть ли у него сомнения? А могут ли у него быть озарения? Ведь знание, на котором построена наша цивилизация, пришло к нам в виде озарений. Знает ли ИИ о роли божественной ошибки в великих открытиях?

Последнюю мысль Черниговская объясняет на примере Альфреда Шнитке. Великий композитор говорил: для образования жемчужины нужно, чтобы раковина перестала быть стерильной - чтобы в нее попала песчинка, то есть что-то «неправильное», инородное. Великое в искусстве и науке часто рождается «не по правилам». Именно обращение с правилами на грани риска, ошибки и является зоной роста, где возникает что-то гениальное.

В ТЕМУ

Эйнштейн, Спиваков и скрипка Страдивари

В отличие от машин мы обладаем интуицией и неосознанным знанием. В нашем мозге 100 миллиардов нейронов. И непонятно, зачем нам столько. Потому что даже гении не используют и малой части этого ресурса. Мы часто не понимаем, из чего рождается знание. На эту тему Татьяна Черниговская рассказала любопытную историю.

- В лекциях о загадках человеческого мозга я часто использовала пример с Эйнштейном. Известно, что обладатель выдающегося интеллекта увлекался игрой на скрипке и играл очень плохо, - говорит Татьяна Владимировна. - И вот однажды мне звонит наш дирижер и скрипач Владимир Спиваков и спрашивает: а откуда вы знаете, что Эйнштейн плохо играл на скрипке? Я отвечаю: об этом везде написано. А он говорит: вы знаете, сохранились записи выступлений Эйнштейна, я их слышал. Могу вам сказать, что для любителя он играл на высоком исполнительском уровне. Я покраснела, потому что для меня это был невероятный конфуз, оказывается, я все время распространяла фейки. И тут Спиваков добавляет: у Эйнштейна, кстати, был очень хороший инструмент, он играл на скрипке Страдивари. И тут я решила его поймать и спрашиваю: а откуда вы знаете, что у него была скрипка Страдивари? Где это написано? Тут повисла тяжелая чугунная пауза… После чего Спиваков говорит: вообще-то я по качеству звучания могу отличить один инструмент от другого. Чтобы понять, что скрипка сделана Страдивари, мне не надо видеть табличку. Я это просто слышу.

ИЗ ДОСЬЕ «КП»

Татьяна Черниговская - доктор биологических наук, сфера ее научных интересов - исследование мозга. Широко известна благодаря лекциям, книгам и публичным выступлениям, в которых объясняет связь между мозгом, языком и сознанием. Директор Института когнитивных исследований Санкт-Петербургского государственного университета.

ЧИТАЙТЕ ТАКЖЕ

От гонки искусственных интеллектов до налогов и штрафов: как теория игр объясняет поведение людей

Эпоха массового применения роботов-гуманоидов: из лабораторий вышла революционная технология

СЛУШАЙТЕ ТАКЖЕ

Все могут короли, но есть нюансы! Как жили монархи в средние века