"Никто не понимает, как мыслит искусственный интеллект": Как нейросети превращаются в оружие и сможет ли человечество договориться с ИИ

Фото: Tee11/Shutterstock/Fotodom

Они говорили, что он – это уже не просто машина. Что у него есть собственный разум. Что он опасен. И выходит из-под контроля. Угадайте с одной попытки, о чем речь? О нем, вездесущем, – об ИИ. Обсуждений таких сейчас много, одно из них состоялось 2 сентября на Восточном экономическом форуме. Там прошла интереснейшая сессия «Будущее управления искусственным интеллектом».

Контроль не должен отставать от развития

Еще 2–3 года назад это была узкотехническая тема, а сейчас искусственный интеллект меняет мир. Теперь обсуждается распределение энергии и вычислительных мощностей, стандарты, правила и то, как в разных странах подходят к регулированию ИИ.

В самом начале сессии модератор Сергей Рыбаков, генеральный директор Фонда «Природа и люди» озвучил три проблемы, который указывают на то, что управление искусственным интеллектом не должно отставать от его развития (а оно отстает).

Первая – концентрация технологической власти. Передовые чипы, облака, базовые модели, данные и капитал сосредоточены в руках ограниченного круга стран и компаний. Получается рискованная ситуация: доступ к ИИ зависит от внешних поставщиков, оттого, что нет влияния на стандарты, цены и правила использования данных.

Генеральный директор Фонда «Природа и люди» Сергей Рыбаков. Фото: Евгений Федосков/ РОСКОНГРЕСС

Вторая проблема – разрыв между заявлениями и реализацией. Инвестиционные обещания, декларации и демонстрации, конечно, хороши, но общественный эффект не гарантируют.

И третья – фрагментация управления. ООН, Международный союз электросвязи (МСЭ), региональные организации, национальные регуляторы и технические органы часто дублируют работу друг друга и предъявляют несовместимые требования.

Мы не знаем, как он мыслит

Корректно ли вообще говорить о глобальном управлении искусственным интеллектом? Это не то же самое, что и управлять его разработкой, регулировать деятельность в этой сфере. Но вот именно контролировать сам ИИ – возможно ли это?

- На данном этапе, когда модели ещё достаточно скромные, наверное, да, – сказала заместитель начальника Экспертного управления Президента РФ Светлана Лукаш. – Но возможности искусственного интеллекта развиваются настолько быстрее и мощнее, чем мы и правительство успеваем их понимать, оценивать и контролировать.

Не исключено то, что люди и вовсе потеряют контроль над ИИ, потому что у последнего больше преимуществ: колоссальная скорость, огромный объем памяти, он умеет копировать, перезаписывать себя, создавать резервные копии. Отдельные эксперты считают, что это может стать основой для появления сверхинтеллекта в дальнейшем.

Заместитель начальника Экспертного управления Президента РФ Светлана Лукаш. Фото: Евгений Федосков/ РОСКОНГРЕСС

Но странам и компаниям сейчас не до объединения: идёт наращивание энергетических мощностей, моделей, дата-центров. Выйти из гонки трудно, потому что это прямое конкурентное преимущество. Пока на форумах обсуждаются в основном философские понятия, согласование ведётся разрозненными компаниями, а не на межгосударственном уровне, каждый хочет договориться на своих условиях.

Неоднократно на сессии от разных выступающих звучала мысль, что ИИ может стать огромной опасностью, если не научиться его контролировать.

- Можно контролировать что-то, если ты сильнее его, либо если ты с ним договоришься, либо если объект контроля будет действовать по общим правилам, – рассуждала Светлана Лукаш. – И вот здесь самая большая проблема: никто не понимает, как мыслит искусственный интеллект. Это не спроектированное, сконструированное по понятным нам правилом устройство – ИИ выращивается. Именно поэтому мы не знаем, с кем имеем дело.

Поэтому первостепенная задача – не просто обучение ИИ нашей этике, но и согласование предпочтений человека и искусственного интеллекта. Иными словами, попытка договориться.

В США не доверяют, в Китае - радуются

Любопытно было сравнить выступления спикеров из двух конкурирующих лагерей: Китая и США.

Первым взял слово директор китайского института, университета Фудань Чанг Вэйвэй. Он рассказал о том, как в июле этого года в Шанхае прошла Всемирная конференция по искусственному интеллекту. Как человеку подружиться с машиной, которая научилась думать? Как обеспечить безопасность, когда в принятии решений участвуют искусственные алгоритмы? Эти и другие вопросы поднимались на конференции, и, по мнению Чанга Вэйвэя, Китай нашел на них ответы.

- Китай стремится сделать так, чтобы искусственный интеллект поддерживал традиционные институты, но помогал также и новым, – отметил Чанг Вэйвэй.

Директор китайского института, университета Фудань Чанг Вэйвэй. Фото: Евгений Федосков/ РОСКОНГРЕСС

Он рассказал, что в этом направлении делается. Во-первых, Китай предоставит возможности для обучения 5 000 инженеров из стран Глобального юга за свой счёт. Во-вторых, создаст Центр применения искусственного интеллекта и сотрудничества. В-третьих, предоставит системы прогнозирования/предупреждения для 30 стран.

Чан Вэйвэй сравнил американскую, монополистическую модель, в которой «победитель получает всё», и китайский подход, где главная идея в том, чтобы ИИ служил человеку и развитию всех индустрий. Исследования показали, что в Штатах люди скорее с недоверием относятся к новой разумной технологии, в то время как в Китае 80% респондентов рады его существованию.

- Мы не переживаем по поводу конкуренции с США. У нас идет активное развитие собственных чипов и кластеров, есть восемь вычислительных хабов, эффективные большие модели, такие как DeepSeek, а производство электроэнергии превышает суммарный показатель Японии, США и ЕС, – резюмировал на позитивной ноте Вэйвэй.

Режим «несотрудничества»

Тем интереснее прозвучал ответ «другой стороны». Президент Сети Организации Объединенных Наций по поиску решений в области устойчивого развития (SDSN) Джеффри Сакс выступил, скорее, с критикой политики США в отношении ИИ.

- Искусственный интеллект превращается в своего рода оружие, становится полем битвы. Кремниевая долина – это сейчас такой центр вооружения Пентагона, генералы, военные – все они постоянно общаются с технологичными компаниями, – заявил Сакс.

Он сказал, что США явно не хотят делиться технологиями, потому что это «стратегическая гонка». Однако и доминировать, по мнению Сакса, страна тоже не будет, «это ещё одна американская иллюзия», потому что Китай на операционном уровне уже находится на равных с США, накоплена большая экспертиза и в России, и в Иране.

- Эти хитроумные системы не могут надежно контролироваться. Однако сейчас мы находимся в режиме «несотрудничества». Чем быстрее США изменят этот подход, тем лучше будет для общего процесса, – так закончил свое выступление профессор.

С кого спрашивать?

Почему все так озабочены и озадачены по поводу совместного, согласованного контроля над ИИ? Потому что возникает вопрос ответственности, ведь цена его ошибки может стать очень высокой.

- Как вы привлечете к ответу искусственный интеллект? Что это такое – искусственный интеллект? Это сумма интеллекта людей, отдельных индивидуумов – в хороших системах видны источники. А, как говорил Сенека, errare humanum est – человеку свойственно ошибаться. Поэтому в ИИ накапливается и сумма опыта, и сумма ошибок, – высказал свое мнение директор отделения для связи с Российской Федерацией Продовольственной и сельскохозяйственной Организации Объединённых Наций Олег Кобяков.

И в то же время он хорошо «приземлил» дискуссию, напомнив всем, что искусственный интеллект зависит от простой розетки. Поэтому всегда, при работе с любым ИИ, особенно молодому поколению, следует делать так, «чтобы что-то задерживалось в голове».

Читайте также:

Гости из 78 стран и рекордные контракты: главные итоги Восточного экономического форума

Мягкая сила с твердым стержнем, или Культурный код Восточного экономического форума