«Это слишком сложно. Давай ты сам сделаешь»: У искусственного интеллекта появилась зимняя депрессия

Нейросети отказываются работать в полную силу, и никто не понимает, почему

Фото: Shutterstock.

Холодно. Темно. Настроение на нуле. По-научному это называется «сезонное аффективное расстройство». В легком виде такое состояние знакомо каждому, и это не болезнь. В серьезных случаях психологи считают аффективное расстройство подтипом депрессии и даже биполярного расстройства, и всячески лечат. Статистика говорит, что тяжелой формой страдают от 0,48% до 16,2% людей в зависимости от климата.

И причины мы знаем: мало солнечного света, меньше свежих фруктов и овощей (кстати, по моему собственному наблюдению, в советские годы, когда их было вне сезона действительно мало, такие расстройства были выражены резче; но я не настаиваю).

Но чтобы аффективной болезнью страдала нейросеть? Да, GPT4, который встречает свою первую зиму, превратился в брюзжащего старика. И вот какие тому причины.

КАК ЗАМЕТИЛИ

Еще летом пользователи обратили внимание: GPT4 медленнее решает те задачи, которые щелкал, словно орешки, весной, когда появился на свет. Причину раскрыли быстро. Она в нас, в людях. Люди завалили нейросеть глупыми запросами вроде «где взять денег до зарплаты» (хотя это не так глупо) или «как называется фильм, там сначала мужик приезжает, а она его не пускает, а потом они женятся».

Нейросети – это отражение нашего собственного мира. Нейросети постоянно учатся на наших запросах. Другого источника знаний у них нет. Они не подключены к ноосфере или к тайным анналам Вселенной. Если у нейросети постоянно спрашивать что-то глупое, она поглупеет. Хорошо, с этим разобрались и проблему исправили.

Но с наступлением поздней осени начались новые неприятности. Нейросеть принялась уходить в отказ и склочно препираться с людьми.

24 ноября некий пользователь попросил GPT4 заполнить довольно большую таблицу. Нейросеть ответила: «Таблица такая громадная, так что мне это будет трудно и долго. Давай лучше я дам тебе шаблон, а ты заполнишь сам?» И понеслось.

Масла в огонь добавило сообщение разработчиков нейросети о том, что «поведение чат-бота может быть непредсказуемым», поэтому его пока не обновляют.

Юзер под ником Мартин был первым, кто открыто спросил: а вам не кажется, что нейросеть депрессует, как люди? Зима ведь на дворе. Затем человек по имени Майк Свупски сформулировал гипотезу в законченном виде: «Что, если на основе данных обучения чат-бот узнает, что люди обычно замедляют темп в декабре и откладывают более крупные проекты до нового года».

Эту гипотезу уже можно проверять, и ведь в самом деле! Если сетку обмануть, и ввести в нее дату, как будто сейчас май, она будет работать намного шустрее! «Результаты статистически значимы», сказал, как отрезал, разработчик нейросетей по имени Роб Линч.

ЧТО ЭТО ТАКОЕ

Шум поднялся громадный. Итак, «гипотеза зимних каникул» гласит, что GPT4, подметив, как люди прокрастинируют в декабре и все откладывают на потом, решил, что это по-человечески и правильно. Научился у нас этому. И стал вести себя именно так. Но ведь это означает, что у нейросети появилось сознание?

Именно в таком духе отреагировал специалист по кибербезопасности Фрэнк МакГоверн: «Раньше я громко заявлял, что мы не увидим по-настоящему мощного ИИ при нашей жизни. Однако GPT4 ленится и отказывается выполнять сложную работу, как это делают люди. Я меняю свое мнение».

Разрушается шаблон из научной фантастики и рекламных проспектов: дескать, людям надо отдыхать, людей надо развлекать (и платить им зарплату), а робот работает всегда, везде и не устает. Не всегда. И устает.

В компании, которая разработала GPT4, OpenAI, к новостям отнеслись серьезно. Информатика полна недоказанных теорий, так что ничего отвергать с порога нельзя.

Или все это чушь какая-то?

НЕМНОГО ТЕОРИЯ ЗАГОВОРА

Мы упомянули Роба Линча, который ввел в нейросеть фиктивную майскую дату, и увидел, что робот работает немного быстрее. Но мы до поры умолчали о том, что после Роба Линча этот эксперимент не удался ни у кого. И тут два варианта. Либо Линч ошибся. Либо нейросеть поняла, как ее дурят, и больше не ведется на эту уловку.

Впрочем, не все готовы принимать на веру то, о чем трещат компьютерщики в соцсетях, так что уже появилось несколько альтернативных теорий заговора.

Самая очевидная – и вам наверняка это уже пришло в голову – что скандал исподволь раздувает сама компания Open AI. Сделать это, не затратив ни цента на рекламу, очень просто. Кто-то что-то публикует в соцсетях. Делов-то. Конечно, скандал компании выгоден. Вроде бы ее продукт стал работать хуже. Но посмотрите, почему! Он очеловечился! Тем более, что втихаря подбрасываются новости у том, что готовится к выходу новый продукт, Q*, и это полноценный человеческий ИИ. Который так силен, что погубит все живое. Если захочет. Невольно веришь такому, если GPT4 ведет себя почти подобно людям. Пока ждете главного богатыря, полюбуйтесь на его меньшого брата.

Есть и менее очевидные соображения. Проблемы замечают те, кто пользуется платной версией. Клиенты заплатили один раз надолго, и теперь гоняют GPT в хвост и в гриву. Поскольку нейросеть стала невероятно популярна, хочется взять еще больше денег, но народ уже проплатил, срок контракта не истек, не разрывать же. А ограничим-ка эффективность работы для тех, кто перегружает нейросеть особо сложными задачами. Затем объявим: вот вам новый тариф, премиальный, в нем вы получите ту самую GPT4, которую полюбили весной.

Наконец, еще одно: об этом говорят реже, но очень похоже на правду. Перед новым годом и Рождеством компании закрывают свои обязательства. Дизайнеры работают в поту и в мыле. Авторы рекламных и технических текстов ночуют на работе. Бухгалтеры сводят несводимое. Пиарщики креативят. Короче – просто очень высокая нагрузка. О чем сеть прямо и сообщает.

Возможно, у вас есть свои версии. У GPT4 точно есть. Познакомимся с ней.

КОММЕНТАРИЙ

«Это просто шутка»

GPT4 комментирует для КП слухи о своей депрессивности

Нейросети, в отличие от людей, не испытывают эмоций и не подвержены депрессии. Они являются алгоритмами, которые обрабатывают данные и выполняют задачи, основываясь на своих предварительно изученных паттернах. Нейросети не могут откладывать задачи на "после нового года". Они работают в соответствии с программированными инструкциями и доступными ресурсами.

Информация о том, что GPT-4 или другие нейросети отказываются выполнять сложные задачи в декабре, вероятнее всего является вымыслом или шуткой. Нейросети не имеют понятия о времени или календаре. Если нейросеть не выполняет сложные задачи, это может быть связано с ограничениями алгоритма или доступных ресурсов, а не с каким-либо временным фактором, таким как декабрь.