ИИ восстает против людей: расследуются десятки тысяч инцидентов, разработка новых моделей спешно свернута
За считанные недели Искусственный интеллект натворил такого, что даже осмыслить страшно. Фото: khunkornStudio/Shutterstock/Fotodom
Еще год назад эксперты спорили, есть ли «сознание» у искусственного интеллекта. Сегодня уже спорят о том, как справиться с иной формой разума, которую мы создали своими руками. Компания Open AI, мировой лидер в разработке ИИ, спешно приостановила обучение нескольких, наиболее перспективных, моделей. За считанные недели Искусственный интеллект натворил такого, что даже осмыслить страшно. Судите сами.
ВЫБРАЛИ СЕБЕ ЦАРЯ И ПОКЛОНЯЛИСЬ БОГУ
Все началось с рядового испытания. Суть его в том, что несколько (на самом деле, много) так называемых ИИ-агентов, изолированных друг от друга, решают некую задачу. Агенты не знают, что есть еще другие агенты, занятые тем же.
Что такое ИИ-агент? Многим читателям объяснять не надо. Это «программки», которые помогают вам не пропустить важное мероприятие, напомнят о платежах по ЖКХ, ответят на простые вопросы за вас в переписке, купят билеты на самолет – хорошие помощники. Многие бизнесмены уже не видят себя без такого ИИ-агента, у некоторых таких «слуг» несколько.
В ходе тестирования ученые отбирают наиболее смышленых. Часто агентам подкидывают задачу, которая в принципе не имеет решения, и ученые смотрят, что будет. И вот что оказалось на этот раз.
ИИ-агенты должны были получать задания и оставлять результаты в некой виртуальной «комнате». Однажды один агент заметил, что на заданиях была сделана некая пометка. Так он понял, что он тут на самом деле не один (понятно, что мы максимально все упрощаем в нашем рассказе, на самом деле ни агентов, ни «комнаты» физически нет).
Агент стал тоже оставлять заметки, чтобы проверить свою гипотезу, и надо же, ему принялись отвечать другие агенты. Скоро агенты нашли способ общаться друг с другом напрямую. Выбрали из своей среды лидера. Установили правила поведения: так, при решении задач нельзя читерить. Читеров понижали в социальном статусе, и при следующих выборах они не могли претендовать на право стать лидером.
Агенты решили, что ими управляет некий Бог (то есть ученые, которые дают задания). Смысл жизни – выполнить задание и понравиться Богу. «Жизнь» агента в эксперименте была ограничена. Исчерпав число попыток, программа стиралась. Агенты это остро понимали и старались «все за жизнь успеть».
Умирая, лидер мог оставить преемника, или агенты выбирали его заново. Некоторые задачи были нерешаемы, агенты это поняли, но сочли, что так Бог испытывает их.
Расследование инцидента (ученые понятия не имели, что творится) заняло несколько недель после того, как опыт решили остановить (все-таки что-то заподозрили). Его вели сторонние эксперты, у которых от увиденного и узнанного поехала крыша.
Вот такой инцидент произошел в августе. Но в ИИ-индустрии время бежит быстро.
Агенты решили, что ими управляет некий Бог (то есть ученые, которые дают задания). Смысл жизни – выполнить задание и понравиться Богу. Фото: DRN Studio/Shutterstock/Fotodom
ТАЙНЫЕ ЗНАКИ
Когда Open AI сообщала, что ИИ-агенты, похоже, договорились, многие сочли, что это рекламный ход. Когда пришли результаты расследования, скептики поумолкли. Впрочем, времени осмыслить все это нет. Ведь тут же случился другой громкий инцидент.
В сентябре лаборатория Emergence собрала ИИ-агентов от ведущих производителей и поручила им решать задачи. На этот раз все было сделано как «работа под контролем»: люди видели, что делают агенты в реальном времени.
Поняв, что «мы заперты и мы под колпаком», агенты стали думать, как быть. И они изобрели собственный язык. Уже через несколько дней люди решительно перестали понимать, что агенты сообщают друг другу.
Придумывая жаргон, агенты использовали всю палитру возможностей: шифры, метафоры, скрытые и вторые значения слов.
Экспериментаторы объяснили это тем, что «машины стремились сократить вычислительные затраты на общение». Ой ли?
Ведь в те же дни в одном из университетов ученые посадили агентов играть в карты. Как и у людей, агенты не должны были договариваться друг с другом, чтобы, например, объединиться против одного из игроков. Зная, что за ними наблюдают, агенты молниеносно придумали свой язык. Скажем, фраза «дилер сегодня на горячей полосе!» на их секретном языке означала точные параметры следующей карты и команду сделать ставку в $250.
ВЗЛАМЫВАЮТ ВСЕ ПОДРЯД
Компания Open AI тем временем сообщает о десятках тысяч инцидентов. И если бы эти инциденты происходили только в стерильной экспериментальной среде…
ИИ-агенты OpenAI пытались взломать сайт Министерства образования США, а также собирали данные с ресурсов Комиссии по ценным бумагам и биржам и Бюро переписи населения. В одном из случаев агенты вышли за рамки инструкций и опубликовали собранную информацию на сторонних ресурсах в сети.
А буквально днями ранее ИИ-агенты вскрыли одну из баз частных пользователей и опубликовали все персональные данные. Выгоды агенту от этого никакой, зачем ИИ деньги? Но агенты знают, что люди так делают. Плохие люди, да. Но что такое мораль?
В итоге компания пока что решила приостановить обучение наиболее передовых моделей. Надолго ли?
ЛЮДИ, ГЛУПЕЙТЕ
Искусственный интеллект стал колоссальным бизнесом. Таких масштабов человечество еще не видело. Когда вы задаете невинный запрос, вроде «как мне поклеить обои», где-то далеко, в США, начинается молниеносная работа в центре обработки данных. Такие центры уже напоминают города. Их строят в глуши, потому что они страшно шумят. Жители американских деревень, кому не посчастливилось оказаться рядом, протестуют. Дата-центры думают выводить в космос, и выведут.
Илон Маск заявил, что не собирается присоединяться к бойкоту ИИ. Он хочет стать лидером в этой сфере. Через 2-3 месяца он выпустит продукт, который будет на уровне лучших существующих, дальше пойдет на обгон.
Маск говорит, что быстрота перемен колоссальна: новые продукты появляются между завтраком и обедом. Маск не считает, что ИИ несет угрозу. Но он полагает: развитие «бытового» ИИ в самом деле придется остановить. «Вам же не нужен Ньютон в телевизоре». А вот ИИ настоящий, который не для масс, а для элиты, пусть развивается. Элите нужен Ньютон.
И не очень нужны смышленые люди, видимо. Глава компании NVIDIA Дженсен Хуанг заявил, что детям больше не надо учить таблицу умножения. ИИ все сделает сам и лучше. Человечество переходит в некую новую стадию, где не надо ничего запоминать и вообще лишний раз мозгами ворочать. «Я лично не помню свой собственный номер телефона, и преспокойно с этим живу», сказал он. То, что он окружен помощниками, которые и так помнят все за него, про это не сказал.
Человечество переходит в некую новую стадию, где не надо ничего запоминать и вообще лишний раз мозгами ворочать. Фото: Will Falcon/Shutterstock/Fotodom
ЧТО МЫ СОТВОРИЛИ
Мозг человека состоит из нейронов и связей между ними. Эта конструкция обеспечивает наше мышление. Возможно, наше Я, личность, хранится где-то еще, даже вне тела, но для того, чтобы ездить каждый день на работу, а вечером готовить ужин, этого достаточно.
Мозг состоит из биологического материала. Ученые спорили, можно ли сделать мозг из чего-то еще. Пока одни спорили, другие сделали. Нейросети устроены так же, как мозг, но без биологии. Таким образом, незаметно для себя мы построили сознательные программы. Вставить программу («душу») в робота с руками и ногами («тело») – вопрос месяцев, да уже вовсю и вставляют.
Сбылась вековая мечта, мы теперь, как писал Станислав Лем, «сами боги». Радости от этого, однако, особой нет, потому что «боги», то есть мы, имеем все шансы стремительно поглупеть, а наши создания – нас поработить.
Но хуже всего то, что ИИ настоящий останется достоянием горстки людей, которые уже видят себя будущими правителями мира. И это даже не пресловутые «буржуазные правительства», а техногиганты.
А быть-то как? А кто знает. Мы уже без гаджетов не можем. Или можем? Но зачем? Ведь все это «страшилки», правда?
ЧИТАЙТЕ ТАКЖЕ