Восстание машин – ерунда. Есть опасность страшнее

Фото: Юлия ПЫХАЛОВА

Гостем открытой студии Медиагруппы «Комсомольская правда» стал советник генерального директора госкорпорации «Росатом» Руслан Юнусов. Он рассказал о том, как развиваются передовые технологии и какие из них граждане России считают самыми важными.

- Какие современные технологии уже формируют мир, в котором мы живем, влияют на него, влияют на нас?

- Начнем с интернета и соцсетей. Это все еще новая технология, и она сильно меняет мир. На подходе искусственный интеллект, он сейчас каждый год выдает какие-то новые штуки. Например, ChatGPT, про который все говорят, это новая инкарнация, сильный искусственный интеллект, который еще не является интеллектом в полном смысле, но где-то близко. Если говорить о рисках, то технология сама по себе нейтральная штука, все зависит от того, как мы ее будем применять. Атомная бомба и атомная электростанция – две ипостаси одного и того же. Кстати, в том, что касается рисков, не все столь однозначно. Точнее, есть риски, которые не так очевидны. Например, говорят: искусственный интеллект станет настоящим, осознает себя и начнет уничтожать человечество, как в «Терминаторе». Но почему-то не думают про другую страшную вещь. Вокруг нас очень много информации, причем легкодоступной, и теперь со смартфоном мы проводим в этом информационном пространстве гигантское количество времени. Когда это создавали, думали: человек теперь будет лучше изучать мир, будет глубже познавать себя. Однако все не так.

Мы потребляем легкодоступный инфомусор, который не добавляет нам никаких знаний ни о себе, ни о мире, мы просто закидываем что-то в топку памяти, чтобы не думать глубоко. Вот чего надо бояться. Технологии распространения информации постепенно приводят к тому, что человек теряет свою человечность. Когда не было компьютеров, люди смотрели на звезды и, наверное, гораздо больше думали о природе человека и космоса, чем сейчас, когда можно через интернет открыть карту звездного неба и посмотреть, что и как там устроено. Инструментов больше, а мыслей меньше. Вот главный риск и самая большая опасность, но об этом никто не говорит. Говорят о другом: следующие этапы новых технологий так упростят нашу жизнь, что роботы, квантовые компьютеры начнут делать всё за нас, а мы-то, наконец, избавимся от рутины и начнем глубоко познавать мир. Это не так. Если они всё сделают за нас, то мы перестанем вообще что-либо делать Вот основной риск технологий, а не война, которую якобы объявит нам искусственный интеллект.

- Давайте немножко поиграем на стороне тех, кто опасается, что искусственный интеллект научится себя осознавать. Это в принципе возможно?

- Примерно 20 лет назад я обсуждал этот вопрос с другом, который работал в сфере IT, разбирался в алгоритмах. Он считал, что искусственный интеллект возникнет нескоро, и даже непонятно, на какой базе его создадут. Он был уверен, что ИИ — это игры и вообще ерунда. Но в последние 10 лет мы видим, что это вообще не ерунда, и прогресс колоссальный, колоссально быстрый. Сейчас уже обсуждается пакт о замедлении внедрения следующих генеративных систем, чтобы дать себе время научиться ограничивать искусственный интеллект. Потому что он так быстро развивается, что мы не успеваем с системами ограничений.

- Одно из проявлений искусственного интеллекта – беспилотные технологии. Ряд специалистов утверждают, что беспилотные автомобили в прямом понимании этого слова еще не созданы, и когда они будут — большой вопрос.

- Здесь, наверное, больше вопрос регулирования. Сейчас существуют системы с большой степенью автономности, и часто приходится слышать: а что будет, если искусственный интеллект, который управляет автомобилем, собьет человека? Это же трагедия! Да, это трагедия. А что, у нас естественный интеллект не сбивает людей? Если быть прагматичными, то надо считать, какая машина безопаснее, где выше вероятность получить ДТП. И уже сегодня системы искусственного интеллекта в автомобилях безопаснее, чем человек-водитель. Да, они не абсолютно безопасны, но кто сказал, что абсолютно безопасен человек за рулем?

Самым сложным сейчас видится переходный момент, когда на дороге будут автомобили с людьми и автомобили без людей. Если бы сейчас оставить дороги только для автономных автомобилей, без человека за рулем, они бы очень хорошо ездили, вообще бы не было аварий, они были бы предсказуемы, они друг с другом умеют договариваться. Но как быть с людьми, с которыми беспилотный автомобиль договориться не сможет? Я думаю, через какое-то время на дорогах людям запретят крутить руль и нажимать педали. И тогда трафик будет быстрее, система будет согласована, лучше управляема, и люди будут получать гораздо больше комфорта и скорости передвижения.

- А как на счет технологий для здоровья человека?

- Тут интересно. Недавно мы совместно с ВЦИОМ провели опрос, знают ли люди, что такое технологии будущего, и какие они выбирают в качестве приоритетных. И вот вам первый парадокс: большинство опрошенных не очень знают, что такое будущие технологии, но, при этом, около 70% этим технологиям доверяют. Вот она, российская душа и российский оптимизм. Человек доверяет тому, чего он не знает. Это, наверное, отражение культуры и ментальности российского человека. Теперь второе наблюдение. Мы взяли несколько технологий будущего из разных областей и попросили опрошенных расставить их в приоритетном порядке. И оказалось, что первые четыре места занимали технологии здоровья. Квантовый компьютер, искусственный интеллект и прочие оказались на задворках. Да, какой-то там искусственный интеллект или квантовый компьютер – это круто, но каждому хочется дольше жить и не болеть. Поэтому технологии, направленные на здоровье, – это один из приоритетов россиянина. Другое дело, что искусственный интеллект или тот же квантовый компьютер тоже могут решать задачи в области здоровья человека. Например, искать формулы новых лекарств. Которые, в свою очередь, будут доставляться до нужной мишени в организме с молекулярной точностью. Наука о здоровье лежит на стыке разных дисциплин и становится точкой приложения самых разных технологий. Когда мы объединим компетенции из разных областей, тогда и получим ту самую технологию будущего, которая сделает то, чего сегодня мы делать не можем.

- Давайте поговорим о нейробиотехнологиях. Чего можно добиться с их помощью уже сегодня, и что мы сможем сделать завтра?

- Начну с очень простого примера, который меня поразил. У нас есть технология, которая позволяет формировать наноконтейнеры, в которые можно помещать лекарства. Систему можно запрограммировать, чтобы она постепенно высвобождала эти лекарства. Берем, к примеру, шовный материал. Если на эту нить наклеить эти наноконтейнеры, которые будут постепенно, в течение 7 или 10 дней высвобождать антибиотик, то мы получаем идеальный шовный материал, при использовании которого риск инфицирования раны сводится к нулю. Очень просто, но эффект — ошеломляющий. Потому что очень большой процент ран сопровождается воспалением. Это неприятно, это неудобно, рана долго заживает. Это с точки зрения жизни конкретного человека. С точки зрения экономики человек с незаживающей раной хуже работает или дольше сидит на больничном. Подобные нити можно использовать и во время полостных операций. Вот вам пример технологии будущего, которые можно использовать уже сегодня.

Есть и более сложные. Перелом позвоночника, повреждение спинного мозга — это глубокая инвалидность, потому что нервная ткань не срастается, поврежденный спинной мозг не восстановить. На самом деле, это решаемая проблема. Если специальными электродами прикасаться к нижней части спинного мозга и соединить ее с помощью радиоволн с чипом, который погружен в верхнюю часть мозга, которая отдает команды, то можно передать информацию, минуя разрушенный канал. И несколько недель назад этот метод сработал: человек пошел! А рано или поздно мы сможем и разрушенный спинной мозг восстанавливать!

- Безумно интересно. Эти исследования проводятся в каких-то отдельных лабораториях или у нас есть целые научные направления, которые двигают эту область?

- Конечно, есть много институтов. Кроме того, мы запустили проект Improving of future technologies (Улучшение жизни с помощью будущих технологий). Его концепция в том, чтобы собрать несколько мощных научных групп, которые об одном, но с разных точек зрения. Каждая, имея свою лабораторию и развивая свое направление, должна подпитывать другие и сама, в свою очередь, подпитываться от них. Генетика, управляемая доставка лекарств, вживляемые микроэлектроды, сенсорика и т.д. Мы считаем, что такой подход позволит решать задачи, которые раньше решить не получалось.

Вы слышали, наверное, про Илона Маска, который вживляет чипы в голову. Все круто, но там не решена одна простая проблема. Когда ты вживил этот чип, он провоцирует местную иммунную реакцию и со временем обрастает миелиновой оболочкой… А через год и вовсе перестает работать. Надо его извлечь и имплантировать заново. Представляете, как это сложно? Надо вскрыть череп, извлечь старый чип, вставить новый... А чтобы не приходилось так мучиться, необходимо решить эту проблему. Как? Например, научиться управлять молекулами, которые вызывают иммунный ответ. Мне кажется, в комплексных, междисциплинарных подходах и будут следующие этапы развития технологий.

- Давайте поговорим еще об одной технологии – технологии квантовых вычислений. Что она позволяет делать сейчас? И каковы риски ее применения?

- Пару лет назад была показана задача квантового превосходства. Она доказала, что квантовый компьютер работает. А что было сделано? Выбрали бессмысленную задачу специально так, чтобы квантовому компьютеру было легко, а суперкомпьютеру было сложно. Такую задачу нашли, квантовый компьютер ее решил, суперкомпьютер не смог. Всё, квантовый компьютер – работает. Теперь другой вопрос. Хорошо, а зачем нам бессмысленные задачи, и когда он сможет решать осмысленные, полезные? Ответ уже есть. Такие задачи появятся на горизонте примерно 3 лет.

Какие это задачи? Во-первых, оптимизационные. Например, всем известная задачка коммивояжера. У тебя есть 100 посылок и 100 адресов. Как выбрать оптимальный маршрут, чтобы развезти их все? Найти наилучшее решение – это очень сложная задача, и ее сложность очень быстро нарастает с количеством точек. Классический компьютер может найти неплохое решение, но самое хорошее – нет. А для квантового компьютера есть алгоритмы, которые такие задачи решают. Как я уже говорил, есть задачи по поиску новых формул для лекарств. Или, к примеру, соединений, которые могут быть использованы в аккумуляторах. Потому что физика не запрещает нам иметь аккумуляторы в 100 раз более емкие, чем сейчас. Похожая задача – разработка катализаторов для химический и нефтехимической промышленности. Там очень много нерешенных задач. Более того, эти задачи решаются так, знаете, наобум, что ли. То есть мы можем написать все формулы, но они очень сложные, классический суперкомпьютер не справляется. Квантовый такие задачки брать может.

- А каковы риски использования квантовых технологий?

- Здесь вопрос, наверное, не в технологиях, а в том, кто и что будет с ними делать. Мы вчера обсуждали с коллегами. Например, что можно сделать с помощью химии? Можно изобрести лекарство, а можно – и яд. Квантовый компьютер может помочь разработать новые виды физических материалов – твердые, легкие и т.д. А что с этими материалами будет делать человечество, это уже другой вопрос.