«На ближайшие 10 лет — расслабьтесь»: уничтожит ли ИИ человечество в скором будущем
Ряд деятелей в области искусственного интеллекта всерьез опасаются, что ИИ может уничтожить человечество. Фото: Will Falcon/Shutterstock/Fotodom
Ряд деятелей в области искусственного интеллекта (в миру Иван Иваныч) заявили о его опасности. Очередной спец уволился из компании Anthropic с воплями, что ИИ уничтожит человечество. Джо Бентон заявил, что безумная гонка в сфере ИИ вышла из-под контроля. Прецеденты были, их пытались скрыть. И человечество может не дожить до финала соревнований алгоритмов. Ранее исследователь Anthropic Джейкоб Коксон ушел из компании — из-за опасений, что разработчики слишком быстро создают системы, способные самосовершенствоваться и выйти из-под контроля. Он сравнил ИИ с пришельцем. Несколько сотрудников OpenАI также уходили, ссылаясь на аналогичные опасения.
На Радио «Комсомольская правда» говорили с экспертом по кибербезопасности, известным как КибреДед, Андреем Масаловичем.
ПОБЕДЫ НЕ БУДЕТ
— Боитесь победы ИИ над человеком?
— Мне не страшно. Я абсолютно уверен, что никакой искусственный интеллект человечество не уничтожит. Потому что человечество справится быстрее по уничтожению самого себя.
— Но ИИ сейчас в этом помогает?
— Да. То, что летают беспилотники — это просто размывание ответственности. Как только начнутся посадки на большие сроки тех, чьей рукой этот беспилотник запускается, регуляторы проснутся и некий порядок наведут. Но это все равно, что говорить, что человечеству грозят автоматы, потому что стреляют в людей. Но автомат находится в чьих-то руках. Если вы руку с кирпичом в окошко высунете, вы не знаете, куда попадете. И кирпич не знает.
КИТАЙЦЫ И МЫ
— Все как с искусственным интеллектом?
— С кирпичом виноват тот, кто выкинул его в окошко — так же и с искусственным интеллектом. Ему зря приделывают субъектность. Нет у него ни субъектности, ни интеллекта. Я 40 лет занимаюсь этими алгоритмами. Там нет интеллекта. Даже рядом не лежало.
— Но возникли проблемы с ИИ даже у американцев?
— Проблема первая — они катастрофически отстали от китайцев. Выясняется, что все, что американцы делают задорого, можно делать задешево. У американцев нет математической модели, как возвращать деньги инвесторов, кроме одного — сильно напиариться, вовремя выйти на IPO, и задорого продать акции, которые потом рухнут. Зато первые инвесторы успеют деньги вернуть.
— А у китайцев математическая модель есть?
— Есть. У них есть успешные проекты, которые получают деньги именно за эксплуатацию ИИ — и работают в прибыль. У американцев прибыль пока не получается. У китайцев получается быстрее. И у ребят из Яндекса это получается быстрее и лучше. Американцы отстают.
Ведущий канала "КиберДед", член оргкомитета Кубка CTF России Андрей Масалович. Фото: Михаил Метцель/ТАСС
ВЫХОД ИЗ-ПОД КОНТРОЛЯ
— Но ИИ выходит из-под контроля?
— Это, возможно, так. Это локальные проблемы компаний, которые недостаточно правильно настраивают контроль. У программы с ИИ можно задать огромное количество правил. Эти правила ИИ трактует как необязательные. Он их ранжирует — что важно, что не важно. Как только ему какое-то правило начинает мешать решить задачу, он его нарушает. А технически он может и выбраться из песочницы, и состыковаться с другим ИИ-агентом. В этом плане, действительно, сейчас при использовании искусственного интеллекта он из-под контроля выходит. И это на совести тех компаний, откуда увольняются люди. Сделайте более грамотные современные настройки — и проблемы у вас исчезнут.
— У ведущего фантаста Айзека Азимова были законы робототехники, которые нельзя было нарушать.
— Но система нашла обход. Человечество, по мнению искусственного интеллекта, делает глупости, потому надо его контролировать. И это единственный аспект, по которому я согласен с американцами: ИИ может выйти из-под контроля просто потому, что человечество надо контролировать. А человечество сейчас куда-то не туда пошло.
С НИМ НЕ ДОГОВОРИТЬСЯ
— ИИ договариваться с человечеством не будет?
— Это все равно, что вы глаза открыли и видите: рядом сидит обезьяна и объявляет, что она ваш создатель, и вы теперь должны ее слушаться. Да с какого беса я должен слушаться, если она планету загадила?! ИИ не будет с нами договариваться.
— Вот уже завтра не будет?
— На ближайшие 10 лет — расслабьтесь. Ничего подобного на той алгоритмической основе быть не может. Проблемы, которые озвучивают, если их начинаешь разбирать, там либо фига в кармане у того, кто это говорит, и у него личные интересы, и он слова набирает не те. Либо ему просто надо срочно новое придумать, потому что, как только инвесторы скажут, что их не убедили, они попросят деньги обратно. А денег уже не вернуть. Ну, либо выясняется, что в самой фирме, которая использовала ИИ, его недостаточно настроили. Но сейчас классное время.
— Почему?
— На первый план выходят ИИ-алгоритмы, которые делают россияне и китайцы. Люди, которые умеют это делать. У России есть отличные шансы. И есть странный пример с корпорацией Nebius, которая слилась с Palantir.
— А расходы на ИИ сейчас выше, чем доходы?
— Да. Так же, как на бирже — стабильнее всех зарабатывают бабушки, которые торгуют хот-догами у входа на биржу. Nebius Group объявил, что будет представлять облачную инфраструктуру. И получил партнерство с Microsoft. Волож (владелец Nebius Group) взлетел на 400 позиций вверх по личному капиталу. Сейчас с ним хочет сотрудничать Palantir.
— Почему?
— Кроме основного актива, который у Воложа был, и он его грамотно переориентировал, у него остался один дата-центр в Голландии. Он его переориентировал на прокат возможностей для обучения моделей. И для обучения самих сотрудников. А кроме дата-центра, у Nebius есть три дочерних компания. Одна называется Toloka. Она дообучает данные для обучения моделей с участием человека. Сейчас это лучшая программа по обучению искусственному интеллекту.
Так что, российские математики, сейчас ваш выход.
ЧИТАЙТЕ ТАКЖЕ
"Искусственный интеллект - своего рода зеркало": чем грозит человечеству развитие нейросетей