Премия Рунета-2020
Россия
Москва
+30°
Boom metrics
В мире8 июня 2024 9:50

«Манхэттенский проект»-2: В США собирают новую «атомную бомбу» с искусственным интеллектом

Экономист Ашенбреннер сравнил искусственный интеллект с атомной бомбой
В США собирают новую «атомную бомбу» с искусственным интеллектом

В США собирают новую «атомную бомбу» с искусственным интеллектом

Фото: Shutterstock.

Ретрограды шарахаются от слов «Искусственный интеллект» (да-да, помним - зачем компьютер, если есть пишущая машинка), практичные граждане используют ИИ в хвост и в гриву. А футурологи рассуждают, как он изменит нашу цивилизацию. Математик, экономист Леопольд Ашенбреннер, который работал в главной штаб-квартире Искусственного Интеллекта - американской компании Open AI, опубликовал прогноз на 165 страниц. Автор сравнивает ИИ с ядерным оружием. Лидеры гонки будут править миром. Но потом сверхразум может взять под контроль и лидеров, и всех нас.

Ашенбреннер - вундеркинд, поступил в университет в 15 лет. В Open AI, с которого начался ИИ-бум, он занимался как раз анализом рисков, связанных с развитием технологий. И был уволен. Формально - за то, что разгласил секреты. Фактически - за свои мрачные выводы и призывы поставить бесконтрольные исследования в рамки.

Леопольд считает, что искусственный разум, равный нашему, появится в 2027 году. А еще через год-другой он превзойдет человеческие способности. И люди окончательно перестанут понимать, что творится внутри этого «черного ящика». Сейчас-то уже не особо понимают.

Ну и представьте: супермозг, впитавший все знания землян, с массой слуг-роботов (робототехника тоже, благодаря связке с ИИ, развивается бешеными темпами), выходит из-под контроля…

Даже без роботов сверхинтеллект будет в состоянии взломать любую избирательную, военную, информационную систему. Или изобрести биологическое оружие, а потом заплатить человеку в биткоинах, чтобы тот его синтезировал.

ЦЕПНАЯ РЕАКЦИЯ И ДРОНЫ С ЯДОМ

Война… Механические солдаты и гигантские рои дронов - только начало. А как вам дроны размером с комара, несущие яд? А ядерные вооружения, которые нереально отследить? Или, наоборот, непробиваемая противоракетная оборона? Боевые действия нашего времени скоро покажутся столь же древними, как маневры конницы XIX века, уверен Ашенбреннер.

Он красной нитью ведет параллели с историей создания атомной бомбы. Ученик Эйнштейна, физик Лео Силард, живший в Англии, в 1933 году выдвинул идею про возможность цепной ядерной реакции. И уведомил об этом британское военное ведомство. Но власти отнеслись к нему холодно.

Теория Силарда начала подтверждаться на практике, он забил тревогу, призывая засекретить исследования. Однако такие гранды физики как Энрико Ферми или Фредерик Жолио-Кюри посчитали предупреждения о военной важности своих работ абсурдом.

Они осознали ошибку, когда в Европе запахло Второй мировой. Ферми нашел выход на адмирала Хупера из штаба ВМС США и поведал ему о перспективе создания мощнейшего оружия. Хупер … принял его за безумного изобретателя.

Лишь когда Эйнштейн написал письмо американскому президенту Рузвельту, предложив, чтобы правительство координировало физиков, в Штатах создали Урановый комитет - предтечу «Манхэттенского проекта» по созданию атомной бомбы.

Главная фраза из письма Эйнштейна: работа ученых может «привести к созданию бомб, и, возможно — хотя и менее достоверно — исключительно мощных бомб нового типа. Одна подобная бомба, доставленная на корабле и взорванная в порту, полностью разрушит весь порт».

Внедрение ИИ - та же цепная ядерная реакция, утверждает Ашенбреннер. А где атомная бомба, там и Хиросима.

ПЛОТЬ, ПИЩА

У искусственного интеллекта есть «плоть», которой нужна «пища». Плоть - это дата-центры, набитые процессорами для обработки огромных массивов данных. Пища - электричество и сами данные, на которых ИИ обучается.

Согласно прогнозу Ашенбреннера, к 2030 году «плоть» ИИ будет потреблять 20% всего американского электричества. Понадобятся миллионы графических процессоров (сейчас на них бесконечная очередь).

Microsoft планирует строительство гигантского дата-центра «Звездные врата» за $100 млрд для своего партнера OpenAI. А его гендиректор Сэм Альтман намерен собрать инвестиций на $7 триллионов, чтобы преодолеть дефицит микросхем…

По выкладкам Ашенбреннера, за инвесторами (может, не на семь триллионов сразу, но все же) дело не станет. Компании и освободят средства, и заработают за счет «услуг» искусственного интеллекта. Конечно, вложится правительство.

Энергетика? В Штатах можно расширить добычу газа. Правда, придется снять экологические барьеры и забыть про изменение климата, но уже не до этого, ей-богу.

Но остается главное слабое место - безопасность.

ТРИЛЛИОНЫ ПОД ХВОСТ

Будучи патриотом США до мозга костей, автор прогноза трубит о том, что надо жестко секретить разработки по ИИ. Ведь их может украсть великий и ужасный Китай. Глядишь, в Эмиратах, где нефти хоть залейся и земли в избытке, построят свои мега-дата-центры. Само собой, не дремлет и Россия. А ведь властелином мира должна оставаться Америка, которая, так и быть, возьмет под крыло проверенных союзников.

Еще немного - и окончательно «станет ясно, что секреты искусственного интеллекта - самые важные секреты национальной обороны, с ними надо обращаться, как с чертежами атомной подлодки «Колумбия», — сулит Ашенбреннер. И пугает: «Полагаю, Китай получает ночные загрузки всех американских исследований и кодов прямо сейчас». Данные хранят кое-как, на вечеринках в Силиконовой долине выбалтывают все тайны…

Эдак триллионы долларов, которые американцы вложат в свой новый инструмент господства, пойдут псу под хвост. Поэтому нужен новый «Манхэттенский проект»: охранять дата-центры, как военные базы (их вдобавок могут захватить или разбомбить) и вообще поставить все под контроль Пентагона и спецслужб.

Положим, поставят. А вот как быть, если распояшется сам ИИ?

ЧЕРНЫЙ ВОЕННЫЙ ЯЩИК

«Сверхчеловеческий разум - это новая страшная игра», — уверяет аналитик. Уже нынешние системы искусственного интеллекта выглядят как «черные ящики», полностью просчитать, что творится внутри, специалисты не в состоянии. А позже мы и вовсе столкнемся с аналогом инопланетян. И «уподобимся первоклассникам, которым предстоит контролировать работу академика».

Конечно, супер-ИИ могут контролировать другие ИИ, но кто будет контролировать их? Супер-разум способен научиться лгать, стремиться к захвату власти…

Только американская сверхдержава, гнет свою линию ученый, в силах разумно направить эту стихию и опередить «диктаторов». Если они первыми получат электронный мега-мозг, то непременно пойдут войной нового уровня на внешних противников…

Но мы то-знаем, что не какие-то абстрактные «диктаторы», а именно США никогда не упускали возможность подавить всех остальных. Недаром Пентагон завел Управление по Искусственному Интеллекту. Его директор недавно объяснял коллегам на пальцах, что их ждет в ближайшем будущем. «Представьте мир, где боевые командиры смогут сразу видеть все, что нужно для принятия стратегических решений. Вместо дня-двух данные будут обработаны за 10 минут!»

Американское минобороны вкладывает $480 млн в ИИ-платформу, которая «охватит всех: от аналитиков разведки и офицеров на самых дальних островах до высших чинов Пентагона». И это лишь верхушка айсберга: известно о 800 проектах ведомства в области искусственного интеллекта, а сколько секретных? Та же компания Open AI в январе незаметненько убрала из публичного свода своих правил формулировки, запрещающие использовать ее технологии в военных целях.

Так что убеждать Пентагон в нужности второго «Манхэттенского проекта» уже не надо. Но вот вопрос об управляемости сверхразума остается открытым. О риске уничтожения человечества мегамозгом говорят очень многие - Илон Маск, например. Что он назначил подобному сценарию «всего» 20% вероятности, совсем не утешает. Поскольку, если Маск не раз попадал пальцем в небо, то все прогнозы гуру ИИ, бывшего сотрудника Open AI Дэниел Кокотайло до сих пор сбывались. И его версия - сверхразум нас «пожрет» с вероятностью 70%.

СЛУШАЙТЕ ТАКЖЕ

Искусственный интеллект на тропе войны: как сегодня применяют ИИ на поле боя (подписывайтесь на наши подкасты)