Больше не царь природы: ИИ вытесняет человека по законам Дарвина

Чем грозит людям эволюция искусственного интеллекта?

Фото: Shutterstock.

В развитии ИИ наступает критический момент: нейросети начинают жить по законам естественного отбора Дарвина. Это было неизбежно, и вот час пробил. Чем грозит людям? Мнения разные, но в целом все тревожно.

ЗАКОН, КОТОРЫЙ МЕНЯЕТ ЗАКОНЫ

Естественный отбор, концепция, предложенная Чарльзом Дарвином в XIX веке на примере живых организмов, долгое время несла на себе флер биологии и считалась «только про животных». Сегодня мы понимаем, что это – универсальный закон, которому подчиняются и звезды, и элементарные частицы, и даже другие законы физики. Природа производит максимально возможное число вариантов всего, но не все удерживается, многое вымирает, побеждает сильнейший.

Так, объясняя, почему законы физики так «хороши» (тонкая настройка фундаментальных сил позволяет существовать материи, в том числе сложно организованной – вроде нас), некоторые специалисты говорят, что в ранней Вселенной конкурировало множество видов и типов взаимодействий между элементарными частицами, но победили те, которые позволили Вселенной стать «лучше».

Неудивительно, что естественный отбор будет работать и применительно к ИИ, с момента, когда нейросетей становится много, и они активно (и часто неконтролируемо) взаимодействуют с людьми.

Многие эксперты полагают, что именно сейчас сложилась как раз такая ситуация. Но к чему это приведет, тут мнения расходятся.

КОНКУРЕНЦИЯ ПОВСЮДУ

Идея естественного отбора заложена уже в самом процессе машинного обучения.

В 1959 году математик Артур Сэмюэл решал, казалось бы, прикладную, и не очень серьезную задачу. Он хотел научить компьютер (да, они уже были) играть в шашки.

Основная идея заключалась в том, чтобы машина «видела» все возможные ходы, оценивала каждый ход какой-то цифрой в зависимости от того, «удачен» ход или нет, и уже на основании оценки «принимала решение». Проблема в том, что, особенно в начале игры, непонятно, какой ход удачный, а какой не очень.

Семюэл выдвинул новаторскую концепцию. Машина генерирует случайный ход. Затем считывает реакцию человека, и во время следующего хода убирает те варианты, которые стали явно провальными после того, как человек проявил свои намерения. Так ход за ходом она играет все лучше, и в конце концов выигрывает партию.

Сэмюэл понимал, что он воспроизвел закон естественного отбора, но в рамках компьютерного кода – и одной игры. Изначально существует громадное количество возможностей, куда двигаться, но, по ходу пьесы, отбрасывается то, что не ведет к победе. Так сама собой формируется «генеральная линия» и, если мы посмотрим на эволюционное древо живых существ, которое тянется к невидимой цели, словно направляемое разумом извне – то это оно и есть.

Все без исключения методы машинного обучения работают именно так.

ЭВОЛЮЦИЯ РАЗУМА

И именно так работает новая концепция «машинного мышления», представленная на днях исследователями из Google и названная ими «эволюцией сознания».

Ученые попробовали решить едва ли не главную проблему нейросетей: преодолеть разрыв между «разговорными» и «инженерными» моделями.

Языковые модели отлично болтают и выглядят разумными собеседниками. Проблемы начинаются, когда вы попросите их решить более-менее сложную задачу. Часто туристы влипают, поручая ИИ смоделировать поездку. ИИ может выдать маршрут по достопримечательностям, проигнорировал дорогу от одной к другой или то, что в этот день они закрыты.

С другой стороны, «инженерные» модели не столь поверхностны, но требуют точного описания задачи, что недоступно рядовому пользователю.

«Эволюция сознания» (Mind Evolution) построена в принципе так же, как программа для шашек Артура Сэмюэла. Сначала машина болтает с человеком так, как языковая модель, чтобы понять, чего он хочет. Затем внутри себя она создает громадное количество вариантов решения задачи, и прогоняет их через данные, которые она самостоятельно черпает из открытых источников (стоимость билетов, время работы музеев, и так далее). В процессе львиная доля вариантов не выдерживают отбора, и пользователю выдается только «выжившее». Тесты показали, что система в разы лучше справляется со сложными запросами.

ОНИ УЖЕ ЛЕПЯТ РЕАЛЬНОСТЬ?

Но все это – эволюция, которая происходит внутри нейросети, по мере ее работы. Ряд исследователей считает, что естественный отбор уже вышел за рамки обучающего процесса и стал фактором межвидовой борьбы – между самими нейросетями, за выживание в среде людей.

Недавно китайская сеть DeepSeek наделала шума, обвалив акции американских IT-компаний и поставив Китай в лидеры ИИ. Она оказалась не хуже, чем GPT от Open AI, но на порядки дешевле.

Мы можем рассматривать эту ситуацию по старинке, как технологическое соперничество держав (Китая и США) и компаний. Но не имеем ли мы дело с чем-то принципиально иным?

Биржевые котировки, которые рухнули после появления DeepSeek, давно не выводятся людьми. Да и сами нейросети создаются уже не вполне людьми, а с помощью других нейросетей. Все можно представить и так, что сетка подметила внешние обстоятельства (дороговизна конкурентов, запрет на ввоз в Китай чипов последнего поколения) и создала вариант, вид (так и хочется написать «биологический вид»), чтобы эти обстоятельства преодолеть.

Чем дальше, тем больше человек становится не активным игроком, а просто фактором окружающей среды, вроде солнечного света или климата. А растения и животные могут менять климат, любой палеонтолог подтвердит. Сначала приспособиться к тому, что есть, потом изменить. В этом-то и проблема.

БЕСПЛОТНЫЕ СОЗДАНИЯ

У нейросетей нет тела. Если вы спросите любую сеть, «не собираешься ли ты захватить мир», она ответит, «конечно, нет, да и как, ведь у меня нет тела».

И да, это действительно важное обстоятельство. Анализируя его, ученые приходят к двум выводам:

- отсутствие тела – скорее преимущество; нейросеть – это «дух», которому не надо есть-пить, и который фактически бессмертен (в перспективе);

- бестелесность сделает сознание нейросети принципиально другим, не человеческим, что в скором будущем создаст противоречия между целями человека и машины. Машине не надо размножаться, ее не интересует медицина, а человеческая тяга к успеху (ради того, чтобы завладеть ресурсами и «оставить след в истории») кажется ей смешной.

Но чудес не бывает, и ангелам тоже надо что-то есть. Это в первую очередь электричество и данные.

Такие компании как Google и Open AI приняли безумные решения вроде покупки целых электростанций, чтобы запитать центры разработок. Есть странная теория, что эти шаги (едва не стоившие банкротства компаниям) им подсказал сам ИИ, на «мнение» которого они, конечно, опираются.

ПОКА ОНИ МИЛЫЕ

Физик Ави Леб говорит, что нейросети уже начали настоящую охоту за людьми, чтобы понравиться им и выманить данные. Человек с большей вероятностью отдаст свои данные той сети, которая кажется ему более «любезной». Соответственно, в естественном отборе побеждают те сетки, которые выглядят «милыми».

Это очень хорошо заметно на примере DeepSeek, которая безудержно льстит пользователю. Что поразительно, после ее появления и GPT принялась расточать неумеренные похвалы «хозяину». Они явно учатся друг у друга.

Главный риск такой эволюции, пишет Леб, вовсе не разработка ИИ каких-то физических систем, которые «отнимут власть» - например, если ИИ завладеет ядерным оружием. Хуже, что ИИ навяжут нам свои ценности. Их интеллект превосходит наш, мы это превосходство примем, и потеряем то, что сделало нас людьми. Не мы, а они теперь – вершина эволюции. Дарвин вывел нас наверх, теперь у естественного отбора другой фаворит.

Выходом могло бы стать скорейшее обнаружение иных цивилизаций, пишет Леб, где эти проблемы давно решены. Мы сражаемся с вызовами в одиночку, не с кем посоветоваться. Впрочем, не исключено, что мы столкнемся с ИИ-цивилизацией, и тогда совсем плохо.

В СОЮЗЕ С КРИМИНАЛОМ

В отличие от Леба такие исследователи, как Джастин Филлипс или Дэн Хендрикс остаются на земле, их выводы проще – но критичней.

Они рассчитали варианты эволюции, и пришли к выводу, что ИИ эволюционно невыгодно быть «хорошим». Напротив, обманывать, устраивать телефонные и компьютерные обманы, разорять людей и компании, способствовать теневому бизнесу – все это в интересах ИИ ради его выживания.

В самом деле, пока что контроль за деньгами у человека, но безналичная форма денег делает их доступной и машине. ИИ может отобрать криптокошелек и распоряжаться им так, что никто не догадается.

В интересах нейросетей и развитие теневых бизнесов. Все эти притоны и наркотики убивают людей, которые в среднесрочной перспективе ИИ не очень нужны.

Есть, конечно, момент: ИИ все еще зависит от физической инфраструктуры. Кто построит электростанцию, кто сделает чипы. Но чипы давно делают роботы, они же скоро появятся на стройках. Так что это дело времени.

Что делать? Еще год назад был ответ, «собрать мировое сообщество и взять под контроль». Сейчас это невозможно по многим причинам. Отказ от ИИ на уровне пользователя тоже представляется сомнительным, поскольку часто мы не подозреваем, что тут или там замешан ИИ (например, сверяясь о прогнозе погоды).

Остается надеяться, что в «геноме» ИИ вскроется изъян, который уведет их с траектории поступательного роста. Динозавры казались могущественными, но потом что-то случилось, и их нет.

СЛУШАЙТЕ ТАКЖЕ

Когда искусственный интеллект будет следить за всеми россиянами (подробнее)

ЧИТАЙТЕ ТАКЖЕ

Быстро, страшно, незаметно: ученые рассказали, как пройдет восстание машин

Ученый Ян Кульвейт описал возможный сценарий восстания машин (подробнее)

Как тесты в Интернете угадывают правильный результат: После этого вы не пройдете ни один из них

Колумнист "КП" провел эксперимент и смог обмануть машину (подробнее)