Искусственный интеллект - как ребенок: имеем ли мы право эксплуатировать машину, если она обретет сознание
Искусственный интеллект сравнивают с ребенком, который активно познает мир.
Фото: Иван ВИСЛОВ. Перейти в Фотобанк КП
Может ли нейросеть заменить академиков? А генерировать тексты на уровне поэзии Пушкина? В чем ценность галлюцинаций искусственного интеллекта? Эти и другие темы в программе «Время науки» на Радио “Комсомольская правда” (97,2 FM) обсуждали:
- радиожурналист Мария Баченина,
- академик РАН Александр Сергеев, научный руководитель Национального центра физики и математики (НЦФМ),
- их гость - Юрий Визильтер, профессор РАН, доктор физико-математических наук, научный директор Института искусственного интеллекта МФТИ, директор по направлению «Искусственный интеллект и техническое зрение» ГосНИИ авиационных систем.
НЕЙРОСЕТЬ, КАК И ВСЕ ДЕТИ ВЫЙДЕТ ИЗ-ПОД КОНТРОЛЯ?
Мария Баченина:
- Все говорят про «искусственный интеллект». А существует ли он? Появились ли уже думающие машины?
Юрий Визильтер:
- Искусственный интеллект - не очень удачное название. В том числе потому, что служит ярлыком для нескольких разных вещей. Есть наука, которая называется «искусственный интеллект». Она точно существует, потому что есть люди, которые получают за это зарплату. А еще есть сам предмет этой науки, который тоже называется «искусственный интеллект». В массовом сознании ИИ – это некое искусственное существо, которое обладает умом, душой и прочими человеческими качествами. Такого явления в природе пока не существует, и в общем-то, никто и не собирался его создавать. Искусственный интеллект, которым мы занимаемся, это некоторая совокупность аппаратных и программных средств, способных выполнять функции, которые раньше могли выполнять только люди. Ни больше, ни меньше.
Мария Баченина:
- А разве мы не стремимся создать такой сильный искусственный интеллект, который, будет обладать сознанием и принимать самостоятельные решения, но при этом не будет выходить из-под нашего контроля?
Юрий Визильтер:
- Давайте разделим эти два вопроса. Первое - что такое сильный искусственный интеллект? Под этим термином подразумевается универсальный ИИ, который способен решать весь спектр задач, которые решает человек. С таким же качеством, а может быть, даже лучше. Второй вопрос: может ли искусственный интеллект обладать сознанием? И тут существует философская проблема - как установить наличие сознания у другого объекта, даже у другого человека. Например, у каждого из сидящих в этой студии есть сознание, чувства, внутренний мир. Но как убедиться, что это действительно так?
Также у вопроса есть и другая сторона - этическая. Вы сформулировали, что сильный ИИ будет обладать сознанием, но при этом он не выйдет из-под нашего контроля. Прошу прощения, но это явное противоречие. Если некоторое существо, не важно, естественное или искусственное, обладает сознанием, свободой воли, чувствами, то почему оно должно нам подчиняться? Оно является самостоятельной личностью, и в этом случае мы автоматически обязаны распространить на него все то, что мы применяем к людям. В моем представлении, если это случится, мы должны признать, что у человечества появились дети. А всякий, у кого есть дети, знает, что они рано или поздно выходят из-под контроля.
Юрий Визильтер, профессор РАН, доктор физико-математических наук, научный директор Института искусственного интеллекта МФТИ, директор по направлению «Искусственный интеллект и техническое зрение» ГосНИИ авиационных систем.
Фото: Иван МАКЕЕВ. Перейти в Фотобанк КП
СВОБОДУ “ЖЕЛЕЗЯКЕ”!
Мария Баченина:
- А давайте держать его в детском возрасте. И потом, может быть, это прозвучит неэтично, но ведь были времена, когда люди лишали воли других людей. В истории были периоды и рабовладения, и крепостничества, например.
Юрий Визильтер:
- И что же хорошего в этом?
Мария Баченина:
- Ничего хорошего, но мы говорим о железяке.
Юрий Визильтер:
- Это очень важный водораздел для меня. Если железяка сколь угодно точно демонстрирует поведение, похоже на поведение человека, но в реальности у нее нет сознания, воли и чувств, то, конечно, ее обязательно надо контролировать. Но как только железяка, кусок биомассы, или что-либо другое, сумеет доказать, что у нее есть сознание и чувства, мы обязаны относиться к ней, как свободной личности. Мы не имеем права ее эксплуатировать и держать в рабстве. По крайней мере, лично мне так кажется.
При этом не могу не отметить, что мы вами сразу начали обсуждать очень интересные, но совершенно гипотетические вещи, в которых я совсем не являюсь экспертом. Я все-таки занимаюсь наукой об искусственном интеллекте. А то, что мы вами сейчас обсуждаем, это научно-фантастические сюжеты.
Мария Баченина:
- Но это же безумно увлекательно!
Юрий Визильтер:
- Тогда ещё немного фантастики. У философов есть несколько гипотез относительно сознания. Одна из них заключается в следующем. Когда формируется материальный объект высокого уровня сложности, например, очень сложный мозг, то у него возникает сознание. При этом есть две точки зрения. Первая, что объект обязательно должен быть биологическим, иметь нервную ткань такого типа, как у человека. А другая гипотеза гласит: носитель не важен, и если у кремниевой вычислительной схемы будет сложность того же порядка, там тоже возникнет сознание. Сейчас наши компьютеры, при всей их мощности, намного проще человеческого мозга. Но в принципе, где-то через несколько десятков лет, судя по темпам развития электроники, мы сможем эту гипотезу экспериментально проверить. Я в нее не верю. Мне кажется, дело не в интегральной сложности, которая возникает в материальном объекте.
Фото: Иван МАКЕЕВ. Перейти в Фотобанк КП
КТО УМНЕЕ - ЕСТЕСТВЕННЫЙ АКАДЕМИК ИЛИ ИСКУССТВЕННЫЙ?
Мария Баченина:
- Мы прекрасно знаем, что искусственный интеллект начинает менять рынок труда. Он повышает производительность, увеличивает эффективность. С другой стороны, некоторых работников он лишает рабочих мест. Но может ли ИИ заменить ученого, например, академика?
Юрий Визильтер:
- Мой ответ - скоро сможет. Я думаю, уже в ближайшие 10 лет искусственный интеллект технически сможет заменить человека практически любой профессии, работающего в офисе с бумагами или за компьютером - именно в его непосредственной трудовой функции. И я не вижу в этом никакой трагедии. Например, заменили экскаваторы землекопов - и никто по этому поводу не переживает. Ученые тоже ничего сверхъестественного не делают. Да, есть моменты творчества. Но что такое творчество? Это создание нового. А ведь новое можно создавать разными способами. В природе очень часто новое возникает случайно. На этом основана эволюция. Просто у человека творчество связано с очень ярким эмоциональным выбросом. И поэтому интуитивно нам кажется, что творчество может быть только таким, связанным с эмоциями, с креативностью, с личностной неординарностью. А компьютеры могут делать все то же самое довольно будничным образом: токен за токеном, генерировать тексты, в которых будет очень много творческого. Или картинки, или еще что-нибудь. Сейчас нейросети не просто генерируют научные статьи, а работают в режиме полного исследовательского цикла: анализируют информацию, выдвигают гипотезы, придумывают эксперименты для их проверки, анализируют результаты и отправляют созданные на этой основе научные статьи на рецензию. Первый раз статью такого полного цикла в 2024-м опубликовали коллеги из японской компании Sakana AI. А сейчас на конференциях, в том числе по искусственному интеллекту, уже в полный рост встаёт проблема, что делать с искусственно сгенерированными статьями.
Мария Баченина:
- А это хорошо или плохо?
Юрий Визильтер:
- Лично мне кажется, хорошо. Просто представьте, что у нас армия исследователей может разом вырасти в 10 раз. Люди-то из науки никуда при этом не исчезнут. Мы только что обсуждали, есть ли у алгоритмов воля, есть ли у них сознание? В том-то и фокус, что нет. Задание все равно дает человек, и люди же будут интерпретировать результаты. Потому что только люди знают, зачем это нужно. Без людей машинное исследование останется просто некоторым количеством бит в компьютере.
Фото: Иван МАКЕЕВ. Перейти в Фотобанк КП
ГАЛЛЮЦИНАЦИИ - ЭТО ОБРАТНАЯ СТОРОНА СПОСОБНОСТИ К ОБОБЩЕНИЯМ
Мария Баченина:
- Но ведь у нейросетей бывают галлюцинации. Я не понимаю, как можно довериться результатам без верификации?
Юрий Визильтер:
- В моем представлении, галлюцинации у генеративных моделей, это не болезнь, а их базовое свойство. Они ведь должны быть креативными, поскольку создают некоторый контент. Для того, чтобы что-то новое создавать, в принципе необходимо иметь способность к обобщению. Обратной стороной любой способности к обобщению является возможность галлюцинаций. Самый простой пример: у нас с вами замечательная зрительная система. Она не специализированная, а универсальная, что позволяет нам видеть объекты, которых мы раньше никогда не видели. Она креативна, и ровно поэтому склонна к ошибкам и иллюзиям. В интернете есть такой популярный раздел - подборки зрительных иллюзий, когда зрительная система человека ошибается, и нам, например, кажется, что один объект больше другого, а они одинакового размера. Или нам кажется, что объект изогнутый, а он на самом деле прямой. И это легко объясняется как раз эффектами активной интерпретации данных в человеческом восприятии.
Так вот галлюцинации – это оборотная сторона обобщающей способности. Так в принципе устроена обработка информации и в биологических системах, и в компьютерах. До конца исключить галлюцинации мы не можем, потому что тогда получим просто дословное цитирование исходной выборки. Аналогичным образом дело обстоит и с человеческой памятью. При этом, конечно, важно, чтобы нейросеть не генерировала заведомо ложных фактов. Для этого создана целая технология: как проверять факты, как правильным образом писать промты (запросы - Ред) для нейросетей и т.д.
Александр Сергеев:
- Известно, что для обучения больших языковых моделей использовано практически все, что человечеством было написано и оцифровано. Если взять генеративный искусственный интеллект, который был обучен на полном собрании сочинений Александра Сергеевича Пушкина, и попросить эту сеть написать некое стихотворение про какое-то явление природы. Ответ, который она выдаст - его можно каким-то образом найти у Пушкина? Или это действительно будет нечто новое, некое развитие пушкинской поэзии?
Юрий Визильтер:
- Давайте посмотрим, как работают нейросети. К ним на вход поступает некоторая последовательность токенов (отдельных символов - Ред). Условно, давайте считать, что каждый токен — это вектор, который кодирует одно слово. Соответственно, у нас есть некоторый образец текста, допустим, тысяча слов. И нейросеть, глядя на эти тысячу слов, пытается предсказать тысяча первое слово. Вот и все, что она умеет. Если мы таким образом посмотрим на ваш пример, то нейросеть будет вычислять вероятность, с которой Пушкин бы продолжил этот текст тем или иным словом. И так, слово за словом, она будет пытаться генерировать что-то очень похожее на то, что Пушкин мог бы написать с высокой степенью вероятности.
Александр Сергеев:
- Тогда она может сделать еще одно собрание сочинений а-ля Пушкина.
Юрий Визильтер:
- Она будет пытаться, но надо сказать честно, что Пушкин так не писал. Потому что человек создает свои тексты по-другому. У него сложно устроенный внутренний мир: он знает, кто он такой, с какой целью он говорит или пишет, к кому обращается, в каком контексте сказана та или иная фраза… И уже в рамках этой сложной структуры мы используем свою способность генерировать слова. Технологии ИИ только недавно начали развиваться в сторону моделирования таких структур психики и внутреннего опыта. Может ли машина написать что-то похожее на Пушкина, если дать ей для образца 14 пушкинских строк? С очень высокой вероятностью - да. Будет ли этот текст отличаться такой же художественной силой и выразительностью? На сегодняшний день, скорее - нет. Но я думаю, мы очень быстро движемся к возможности все более качественной имитации.
ЧИТАЙТЕ ТАКЖЕ
СЛУШАЙТЕ ТАКЖЕ
В США пытаются сделать генетически модифицированного ребёнка