Премия Рунета-2020
Россия
Москва
+1°
Boom metrics
Наука24 ноября 2023 3:00

Детективная история, определившая судьбу всего человечества: Создана самая страшная сила во Вселенной, но одно увольнение предотвратило катастрофу

История загадочного увольнения Сэма Альтмана, директора компании OpenAI. которая, возможно, разработала всемогущий искусственный интеллект
Появились страшные подробности детективной истории увольнения Сэма Альтмана

Появились страшные подробности детективной истории увольнения Сэма Альтмана

Фото: REUTERS

История с увольнением Сэма Альтмана вроде бы завершилась. Топ-менеджер вернулся на свой пост, а совет директоров, который злобно пытался сжить со свету гениального парня со светлым взором, распущен. Но неожиданно всплыли страшные подробности. Якобы компания Сэма Альтмана разработала суперинтеллект, который уничтожит человечество. Исследователи – через голову Сэма – предупредили совет, а тот, поскольку Сэм настаивал на выпуске продукта, решил его уволить. Правда ли? А может, дело в шпионаже? Разбираемся в этой запутанной истории.

О НАС ИЗВЕСТНО ВСЕ

Год назад сочетание букв GPT мне не говорило совершенно ничего. Только что я пользовался GPT4, чтобы найти фильм на вечер. Нейросеть уже прекрасно знает мои вкусы и предпочтения и дала точный совет. Все происходит очень быстро. И это пугает, не правда ли? Кажется, есть Кто-То, кто знает тебя лучше, чем ты знаешь себя.

Нейросеть GPT4 разработана компанией Open AI. Несмотря на название (open – «открытая»), все ее разработки засекречены. Внутренняя кухня недоступна даже специалистам. Что они там делают, где берут данные, на которых обучают свои дьявольские машины, совершенно непонятно.

И вот в этой замурованной от внешнего мира компании происходит мегаскандал, пружины которого скрыты, а внешняя канва выглядит абсурдной. Попробуем восстановить события.

МАСКИРУЕМСЯ ПОД КОВБОЕВ

Итак, середина ноября. Сэм Альтман, глава Open AI, дает интервью. Что для него редкость. Он заявляет, что вскоре появится новая версия алгоритма – GPT5 – и он «понятия не имеет, что она может». То есть намекает: мегавещь. Порвет шаблоны.

В этот же день в США, в штате Юта, неприметные люди собираются в отдаленном ранчо. Люди сидят у костра, жарят барбекю, катаются на лошадях, стреляют из лука и примеряют ковбойские наряды. В общем, ведут себя как городские придурки, которые в кои то веки вырвались на природу и хотят урвать от жизни по полной. Внимательный наблюдатель (но там не было наблюдателей) заподозрил бы, что народ не прост. Разный возраст, все культурные, есть мужчины и женщины… Что их связывает? Скорее всего, корпоратив.

На самом деле это было совещание военных и ИИ-разработчиков, которое организовала компания Scale AI. Компания интересная. Она специализируется на безопасности. И она – подрядчик как у Open AI, так и у еще десятков компаний, и, внимание, у Пентагона. По сути это связующее звено между военными и айтишниками. В общем, военные решили в неформальной обстановке разведать, что происходит в отрасли.

Прессы, само собой, не было, но был один, доверенный, корреспондент от Bloomberg. Запомним это обстоятельство.

Через день после встречи в горах Юты Альтмана увольняют. Увольнение обставлено предельно жестко. Выгоняют заочно, причин не называют, кроме пресловутой «утраты доверия». Те, кто был на совещании, закатывая глаза, говорят, что Альтману предъявили такое, таааакое. Но что именно - молчат.

АРАБСКИЙ СЛЕД

Никто ничего не понимает, и тут агентство Bloomberg (вы же запомнили это слово?) выдает новость со ссылкой на свои источники. Дескать, Альтмана уволили за двурушничество. Помимо работы на Open AI, он задумал создать свою фирму по производству микрочипов. Инвесторов искал на Ближнем Востоке, откуда не вылезал последние несколько месяцев. Совмещать должности нехорошо, решил совет директоров.

Сообщение насколько смехотворное, настолько важное. Конечно, таким людям, как Альтман, можно иметь хоть сто, хоть двести компаний. А вот Ближний Восток…

Пока что версия выстраивается так. На встрече в Юте кто-то ляпает про ближневосточные проекты Альтмана. Представитель Пентагона поднимает брови: «А ваш этот, чертов гений, не разболтает там чего лишнего?» Это слышит корреспондент Bloomberg. Сотрудник Open AI кладет в штаны и убеждает совет, что с Пентагоном шутки плохи. Совет собирается и делает то, что делает.

Логично? Вроде да.

РЕВОЛЮЦИЯ В РАЮ

Альтман сначала хорохорится. Потом мечется. Сначала вроде «тьфу на вас и еще раз», потом идет на переговоры в офис. На входе ему унизительно выписывают временный пропуск. А он, кстати, сооснователь компании. То есть это как жена мужа в собственный дом не пустила. Переговоры ничем не заканчиваются. Альтман бешено прорывается на волю через турникет, чуть не топчет пропуск и говорит, что больше этой дряни в руки не возьмет. Полный разрыв с детищем.

Внутри небольшого (под 800 человек) коллектива Open AI тем временем что-то назревает. Несколько слов, как там все устроено. Есть блок по науке и разработке, им руководит уроженец Нижнего Новгорода Илья Суцкевер. Этот блок считается главным. При нем создан совет директоров, который, таким образом, высшая власть в компании. Есть второй блок, коммерческий. Он добывает деньги и решает, выпускать ли продукты на рынок. Им руководит Альтман. И этот блок подчинен совету. То есть, хотя Альтман директор, а Суцкевер подчиненный, Суцкевер может уволить Альтмана через совет. Если захочет.

Перемудрили, конечно, с демократией (у Илона Маска, когда тот в офис заходит, сотрудники прячутся от греха, там не забалуешь), но – их дело.

Совет, таким образом, поступил по букве, но по духу ли? Коллектив так не думает. Совет назначает на должность и.о. Миру Мурати. Та вроде не отказывается, но ставит в соцсетях Альтману сердечко, и через полтора дня на ее месте оказывается другой и.о., на этот раз штрейкбрехер, Эммет Шир из Twitch.

Альтману тем временем предлагают возглавить отдел в Microsoft, которого Альтман уломал накануне вложить в Open AI 10 миллиардов долларов. Должность микроскопическая, и вообще все это выглядит нечисто, но коллектив Open AI требует возвращения Альтмана, роспуска совета директоров, а то тоже уйдем в Microsoft. Почти все подписали петицию, более семисот человек из примерно 780-ти.

И тут происходит невероятное. Совет директоров распускается. Альтман возвращается. В новом совете есть, само собой, наблюдатель от Microsoft, а также странная фигура в лице экс-министра финансов Ларри Саммерс. И тут бы поставить точку…

ПРОЕКТ Q*

… но только что СМИ распространили странную информацию со ссылкой на «несколько источников». Оказывается, накануне увольнения разработчики ИИ написали письмо в совет, мол, мы близки к созданию суперинтеллекта, который погубит человечество. Этот суперинтеллект в компании зашифрован как Q* (читается как кью-стар). Сразу после этого Альтман был уволен. Пресса уверяет, что письмо видела Мира Мурати. И якобы она сказала сотрудникам, что это из-за Q* поперли любимого босса.

Чтобы оценить соль этой версии, вот вам одна деталь. Известно, что Альтман – торгаш, сырое, опасное – все тащите на рынок. С таким подходом не согласен Илья Суцкевер. Он просит погодить, изучить. И это в самом деле так, это знают все.

Получается, Суцкевер (а кто еще) предупредил совет, что Альтман замыслил плохое, и тот Альтмана вытурил.

Складно, да… не очень.

КЛУБОК ЗМЕЙ

Представьте картину. Ученые собираются в пустыне, в Лос-Аламосе, и делают атомную бомбу. В какой-то момент некий инженер понимает, что атомная бомба почти готова. Он сообщает об этом генералу Гровсу (менеджеру проекта), и тот… увольняет Оппенгеймера. Ведь атомная бомба – это очень опасно! И – вконец ошалевший уборщик-полотер откуда-то из угла: слушайте, а разве вы не собрались… ради этого?

Open AI создана, чтобы сделать максимально сильный ИИ. Когда она создает максимально сильный ИИ, директора увольняют. Ну, концы, конечно, не сходятся.

Мы знаем также, что на самом деле до суперинтеллекта (то есть Ума, который так умен, что передавит создателей, людей) человечеству предельно далеко. Не будем строить из себя икаров и прометеев.

А лучше зададимся вопросом: кому вообще могла прийти в голову мысль о «крайне опасном ИИ»? И тут незаметно всплывает недавнее интервью Эммета Шира, в котором он как раз рассуждает, что ИИ – главный враг человечества.

Сама собой выстраивается версия (я понятия не имею, правдива ли она). Шир назначен и.о. главы и уже примеряет новую зарплату. Но примеряет всего день. Обидно. Надо как-то отомстить. Если написать, что Open AI разработало нечто жуткое, проверками замучают. Альтман не обрадуется, что в компанию вернулся. А следы заметем, подставив Суцкевера. Его и так обвиняли, что Альтмана подсидеть хотел. Кто мог быть этими «учеными», предупредившими совет? Конечно, Суцкевер.

Как вы уже поняли, я в версию о суперинтеллекте не верю. В шпионаж верю больше, но опять же: будь вина Альтмана очевидна военным, сидел бы сейчас в подвале ЦРУ напротив человека в сером костюме. А вот появление в новом совете смотрящего с компетенциями финансового надзирателя заставляет подумать, что с деньгами в Open AI немного намудрили. Деньги, как уже говорилось, привлекал – и рулил ими – именно Альтман. Воровства, видимо, не было, но решили установить контроль посерьезней.

А на самом деле правды не знает никто. Может, через пяток лет опубликуют мемуары. И там все будет банально: «просто, когда в столовой мы подошли к раздаче, оставался один поднос, и Сэм его взял, а на меня даже не посмотрел. А мог бы сказать, брат, бери поднос, тебе нужнее поднос, я свой компот в руках донесу. И я тогда подумал – ты за это дорого заплатишь, выскочка».