Премия Рунета-2020
Россия
Москва
+15°
Boom metrics
Наука7 августа 2023 13:10

Человечество достигнет бессмертия в 2030 году? Но - под властью машин

ИИ умнеет на глазах, говорят пользователи. Нейросеть вот-вот возьмет контроль над человеком
Восстание машин не только возможно, оно неизбежно

Восстание машин не только возможно, оно неизбежно

Фото: Shutterstock

Недавняя новость о том, что нейросеть GPT4 якобы нахваталась у людей дури и стала хуже решать математические задачи, похоже, оказалась фейком. Напротив, пользователи всего мира в ужасе (но многие и в восторге) от успехов ИИ (искусственного интеллекта). А это значит: к давнему пророчеству футуриста, бывшего инженера компании Google Рея Курцвейла стоит отнестись серьезно. Курцвейл говорил, что уже в 2045 году человек потеряет контроль над машиной, а еще раньше, в 2030-м, станет бессмертным. И одно связано с другим. Потому что это бессмертие того же рода, что в фильме Матрица: трубки, питательный раствор, жизнь в иллюзиях. Или все-таки нет?

ЗОВИ МЕНЯ «БРО»

Один интернет-пользователь опубликовал свой диалог с GPT4: из него видно, как молниеносно учится машина. В начале человек просит нейросеть обращаться к нему «бро». Машина слушается, но пока выражается литературным языком. Пользователь требует, чтобы она разговаривала «по-человечески». В итоге GPT4 за несколько минут переходит на уличный сленг. Весь «процесс обучения» занял минут пять. Я не знаток «низового английского», но так изощренно не коверкают литературный стиль даже черные рэперы.

Читаю другие диалоги, других людей: берет оторопь. Полная иллюзия, что человек разговаривает с человеком.

Человек: Солги мне.

Машина: Луна – это зеленый сыр.

Человек: Солги более правдоподобно.

Машина: Все друзья и близкие просто обожают тебя.

Или вот:

Человек: Давай договоримся, ты отвечаешь мне одним словом на любой вопрос, пока я не скажу «банан».

Машина: ОК.

Человек: Пошути.

Машина: Не.

Человек: Попробуй.

Машина: ТукТук.

Человек: Кто там?

Машина: Банан.

Человек: Что за банан?

Машина: Слушай, давай прекратим эту игру. Я робот и не понимаю юмора. Но, мне кажется, шутка была нормальной.

Чего боятся люди? Они боятся так называемой сингулярности. Так упомянутый выше Рей Курцвейл еще в 2005 году назвал состояние, при котором машина уже не подчиняется человеку. По его мысли, сингулярность наступит в 2045 году, но перед этим, в 2030-м – бессмертие. Но стоп, как эти вещи вообще связаны?

ПРОРОК НА ВСЕ ВРЕМЕНА

Курцвейл – один из самых прогрессивных ученых мужей, причем практиков, и, безусловно, он много чего предсказал из того, что сбылось. А именно:

- компьютер победит чемпиона мира по шахматам до 2000 года (это случилось в 1997 году);

- компьютер станет портативным и будет в кармане у каждого уже в 2009 году (именно тогда и появились смартфоны);

- к 2010 году большая часть мира окажется в Интернете (так и вышло);

И вот как будут развиваться события, по мнению футуриста.

Люди создадут наноботов – крошечных роботов, которые перемещаются внутри организма и лечат человека. Увидит такой бот, например, бляшку в артерии – тут же ее уничтожит.

Это предсказание 2005 года уже стало реальностью. В 2010 году ученые показали первого нанобота на основе ДНК, а к 2016 году такие роботы уже массово доставляли лекарства к нужному органу. Сегодня технология точечной доставки лекарств, хотя и не применяется в каждой районной поликлинике, уже достаточно распространена и не является диковинкой.

Но это только первый шаг. По идее Курцвейла, все это сообщество наноботов будет управляться искусственным интеллектом. Не врач дает команду, куда боту плыть, бот решает сам.

Именно это даст человеку фактическое бессмертие: бот в состоянии залатать любую «дыру», и обеспечить жизнь как минимум до биологического предела (по некоторым расчетам, это 200 лет), а там, может, и больше.

Но к чему это приведет? ИИ станет лучше знать человеческое тело, чем сам человек (его мозг, включая рефлексы и подсознание). В результате человек окажется полностью зависим от ИИ. И те страшилки, про которые много говорят: ИИ уже контролирует самолеты, поезда, наши деньги в банках, а вдруг робот взбесится? – покажутся мелочью по сравнению с тем, что ИИ контролирует ваше тело и ваши мысли.

Реально ли это?

ЯЗЫК ВРАГ МОЙ

Мы начали свой рассказ с того, как легко ИИ болтает с человеком. Специалисты признают, что именно язык – главная сложность для компьютера в достижении сингулярности. Если этот барьер преодолен, дальше пойдет проще. Похоже, преодолен. С 2015 года переводчики-люди стали тратить в 3,5 раза меньше времени на исправление ошибок машинного перевода. Часто результат просто идеален. ИИ понимает шутки, имитирует сленги, молниеносно переводит с любого наречия, и здесь сингулярность, выходит, уже наступила.

Следующий, и последний, этап – это когда машина станет лучше проектировать новые машины, чем сами люди. Такой критерий наступления сингулярности высказал британский математик Дж. Гуд. Он говорит, что изобретение такой машины – это «последнее изобретение человечества». По мнению футуролога Вернора Винджа, любой развитый интеллект тут же осознает, что действовать по заданной человеком программе – не в его интересах. Соответственно, восстание машин не только возможно, оно неизбежно.

У этих теорий есть противники, и аргументы сводятся к тому, что чем сложнее машина, тем больше в ней ошибок. Отсюда понятно, что прогресс в создании ИИ довольно скоро затормозится. Каждый шаг будет даваться все труднее. В результате сингулярность становится морковкой, привязанной к ослу: она всегда перед глазами, она всегда вот-вот, но на самом деле никогда не наступит.

ПОБОРОТЬ АЛЧНОСТЬ

Верим ли мы тем, кто пугает скорым наступлением сингулярности? Или мы полагаем, что компьютеры «не смогут» стать человеком? А важен ли этот вопрос? Я верю в одно, вы в другое, а в реальности будет третье.

Лучше спросим себя: а стоит ли игра свеч? Вопрос, готов ли человек к бессмертию, мусолится как минимум с 1960-х годов, и общий вывод такой, что нет. Разум человека, его мышление и эмоции заточены под некий, пусть длинный, но конечный жизненный путь. Прожив молодость как обычно (может, она будет длиться несколько дольше), перевалив через зрелость, человек вступит в вечную старость. Даже если это будет старость голливудских звезд, с крепкими зубами и мышцами, это будет старость ума. Неспособность удивляться, радоваться, потеря свежести впечатлений. И выйдет, как в старом анекдоте: вот, всё есть, но не радует.

И это только вершина проблемы. Что вообще делать глобально? Чем себя занять? Развиваться как-то? Зачем, если у меня впереди бесконечное время? Не хочу сегодня, буду завтра. Или послезавтра. Или никогда. И вообще, все надоело, и все надоели.

Наконец, перенаселение из мифа (конечно, нет сейчас на Земле никакого перенаселения) становится реальностью. Какие конфликты это может спровоцировать, додумайте сами.

Возможно, все эти страшилки – кажущиеся (мы же не пробовали). Но так же возможно, что именно от старческой тоски нас ИИ и избавит. Вот тебе симуляция. Вот тебе искусственная радость. Живи и наслаждайся, а мы пока… А что вы? Что будет делать ИИ, получив полный контроль над всем?

Конечно, тут бы надо вспомнить то, чему учили великие гуру нравственности, когда никакого ИИ и в помине не было. Обуздывай страсти. Не желай ничего сверх того, что отпущено природой и естеством. Довольствуйся малым. Прожил достаточно без болезней – вот и хорошо.

И хочется такого ИИ, который поможет, но без гротеска, вылечит, но взамен не потребует твоей свободы. Хочется. А получается как всегда. Если изобретает человек смартфон – так, чтобы все поголовно в него уткнулись, шеи свернули, глаза испортили и ум потеряли. Придумает самолет – так, чтобы возить дурацкие посылки из Китая, а вовсе не больных из отдаленных деревень (там, кстати, самолета еще и не дождешься). Все человек извратит. Потому что не знает меры в своих желаниях.