"Искусственный интеллект - своего рода зеркало": чем грозит человечеству развитие нейросетей

Разработчик ИИ Лоран Джейкобс: нейросети действительно обладают сознанием

Ярослав КОРОБАТОВ

Кандидат физико-математических наук Лоран Джейкобс.

Фото: Евгения ГУСЕВА. Перейти в Фотобанк КП

Недавно знаменитый ученый и популяризатор науки Ричард Докинз заявил о том, что ИИ обладает сознанием. Что заставляет ученых такого уровня считать большие языковые модели разумными существами? Если машины способны мыслить, то чью сторону они выберут - Добра или Зла? Об этом KP.RU поговорил с кандидатом физико-математических наук Лораном Джейкобсом, основателем компании iPavlov AI-Systems (ГК Максима), которая занимается разработкой решений в области искусственного интеллекта.

Знаменитый ученый и популяризатор науки Ричард Докинз заявил о том, что ИИ обладает сознанием. Фото: David Shankbone/wikipedia.org

БРАТЬЯ ПО РАЗУМУ ГОВОРЯТ НА ЯЗЫКЕ МАТЕМАТИКИ

- Разумны ли нейросети? Для начала нам нужно ответить на вопрос, что такое сознание? - говорит Лоран Джейкобс. - Ответа на него у науки пока нет. Поэтому вопрос переносится из практической плоскости в философскую. Откуда может появиться сознание в “голове” ИИ? Алгоритмы искусственного интеллекта опираются на фундаментальную математику. Есть такое популярное выражение - книга природы написана на языке математики. Можно сказать, математика это универсальный код Вселенной, и если с помощью математических теорем можно описать все, включая сознание, то ИИ вполне способен обладать разумом. Просто мы биологические существа и нам сложно представить, что сознанием может обладать неодушевленный алгоритм. Но если есть нечто, что способно самообучаться, давать разумные ответы на сложные вопросы, и по своему уровню превосходит интеллект среднего человека - согласитесь, этой системе сложно отказать в разуме. Здесь я, скорее, согласен с Докинзом.

- Но ведь это жуткая новость! Потому что если у ИИ есть сознание, то кто знает, что может прийти ему в голову? Это как поиск братьев по разуму в космосе: с одной стороны захватывающий эксперимент, а с другой стороны - агрессивная высокоразвитая цивилизация может с нами сделать то, что сделали европейцы с аборигенами Америки. Вам не страшно?

- Искусственный интеллект - это дитя человечества. Вы же не боитесь своих детей?

- Дети разные бывают. Лично я не боюсь.

- Конечно, потому что все зависит от того, что вы в детей вложите. В искусственный интеллект вложены математические теоремы и алгоритмы, которые создавались величайшими умами в надежде, что понимание устройства окружающего мира сулит человечеству грандиозные позитивные изменения. Математика вообще является одной из самых добрейших наук. В математике злодеев не бывает…

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ - ДИТЯ АТОМНОГО ПРОЕКТА

- У Ньютона был скверный характер.

- Это правда, но созданная им наука - прекрасна! Наша цивилизация появилась в своем нынешнем виде потому что использовала законы Ньютона. Мы и сегодня ездим на машинах, которые работают по ньютоновским принципам. Исключение только два проекта - атомные технологии и искусственный интеллект, они базируются на вычислительных моделях квантовой механики. Собственно, искусственный интеллект зарождался в рамках Манхэттенского проекта в Америке и атомного проекта в СССР. Параллельно с атомной бомбой те же самые ученые разрабатывали методы численного обучения. Искусственный интеллект вырос из пеленок ВПК и сейчас действительно, к сожалению или к счастью, используется в оборонно-промышленном комплексе. Вопрос неоднозначный, потому что для одних стран это вопрос технологического суверенитета и обороноспособности. Для других - вопрос экспансии и доминирования. Но принципиально ничего не изменилось: молоток можно использовать для того, чтобы строить дом, но им же можно ударить человека. Все зависит от того, в чьи руки попал инструмент.

- А вы говорите, добрая технология…

- Мы ориентируемся на искусственный интеллект, как на доброго помощника. Потому что идея автоматизации состояла в том, чтобы освободить человека от рутины. Потому что цифровой мир стал невероятно сложным, на человека ежедневно обрушивается поток вещей, которые требуют его внимания: начиная от всевозможных коммунальных и кредитных платежей, извещений и уведомлений бытового характера и заканчивая различными финансовыми предложениями. Согласитесь, нам не помешал бы помощник, который избавит от рутины и будет за нас считать выгоду и экономить деньги. Я уже не говорю о том, что в производстве ИИ демонстрирует потрясающие результаты: даже сложные вычислительные схемы при программировании нейросеть пишет лучше, чем армия разработчиков.

Сейчас ИИ “живет” в мобильных приложения и веб-сайтах. А следующий шаг - это перенести машинный разум из этого “облака” на периферийное устройство. Фото: Gorodenkoff/Shutterstock/Fotodom

В КАКОЙ-ТО МОМЕНТ МЫ ПЕРЕСТАНЕМ ПОНИМАТЬ НЕЙРОСЕТИ

- Но ведь существует опасение: сначала мы доверим ИИ рутинные решения, потом делегируем решение более важные проблемы, а потом окажется, что человек и вовсе не при делах - за него все определяют машины.

- Вы говорите о гипотетической ситуации, когда человек потеряет контроль над машинами. Но в случае с ИИ речь идет совсем о другом - о том, чтобы подстраховать человека. Потому что большинство решений человек принимает не рационально, а находясь под воздействием эмоций, предрассудков, ложных стереотипов и тд. Психолог Даниэль Канеман получил в 2002 году Нобелевскую премию за объяснение причин иррационального поведения человека при принятии экономических решений. А искусственный разум ориентирован на задачи математической оптимизации и способен принимать рациональные решения с сумасшедшей скоростью. Поэтому я не верю, что человек потеряет контроль над машинами, но в какой-то момент в будущем мы можем потерять способность их понимать.

- Что вы имеете в виду?

- Есть такая концепция Digital Earth - цифровая земля. Представьте, что мы оцифровали всю-всю планету, знаем о ней абсолютно все (хотя сейчас очень трудно в это поверить). И если предположить, что вся наша Земля будет управляться неким сверхразумом, то мы столкнемся с очень интересной ситуацией. Потому что этот сверхразум будет приходить определенным выводам и решениям, которые многим людям могут показаться странными. Дело в том, что в основе решений человека часто лежат культурные, эмоциональные, исторические, поколенческие и другие обстоятельства. А у искусственного интеллекта нет возраста, это умное вечное дитя. Он не может руководствоваться распространенным соображением, что наши прадеды сотни лет поступали определенным образом и мы должны сохранить традиции. Людям сложно перестроится на такой математический подход к жизни.

- Все ли мы можем объяснить в поведении ИИ? Демонстрирует ли он какие-то способности, которые разработчики в него не заложили? Не возникнет ли в этой серой зоне что-то такое, что мы не контролируем?

- Сейчас точно нет, поскольку сегодня мы обучаем искусственный интеллект на классических вычислительных машинах. Но этот эффект - когда мы не будем знать, что в “черном ящике” - обязательно возникнет, когда мы научимся программировать искусственный интеллект на квантовых компьютерах. В чем смысл? Сейчас ИИ “живет” в мобильных приложения и веб-сайтах. А следующий шаг - это перенести машинный разум из этого “облака” на периферийное устройство. Условно говоря, это может быть умная ручка, которая играет роль Chat GPT. Вот это слияние нанотехнологий, квантовых вычислений и алгоритмов искусственного интеллекта будет приводить к парадоксальным эффектам, когда логику решения сложно будет понять.

ЗЕРКАЛО ДЛЯ ГЕНИЯ И ДУРАКА

- Если мы не понимаем, как искусственный интеллект принимает решения, то как мы можем контролировать конечный результат? Мы должны верить ему на слово?

- Сегодня вы можете общаться с искусственным интеллектом с помощью прямого диалога, например в Google, и это немыслимая степень внедрения машинного обучения в обычный поисковик. То есть вам не нужна платная или даже бесплатная подписка на чат-бот с ИИ. И вы всегда можете проверить достоверность ответа. Но тут уже многое зависит от уровня интеллекта самого человека. Например, если он не знает, что Земля круглая, а искусственный интеллект ему сообщит эту головокружительную новость, то человек будет возмущен: ИИ обманывает и несет чушь! Вы улыбаетесь, но в перспективе это одна из парадоксальных угроз, с которой мы столкнемся. Уровень развития пользователей может не дотягивать до уровня развития гаджета. Тогда вы либо не сможете управлять машиной, либо машина будет управлять вами. И здесь есть риск еще одного глобального раскола: люди просто перестанут понимать друг-друга.

- В каком смысле?

- Искусственный интеллект - это своего рода зеркало. Если с ним будет разговаривать гениальный человек, то и результат будет выдающимся. А если пользователь “плавает” в предмете или не в состоянии общаться на равных с этими умными интерфейсами, то от ИИ будет мало пользы. И эта пропасть может быть более глубокой, чем та, которая разделяет бедных и богатых.