Кто умнее – искусственный интеллект или человек

Фото: Пресс-служба форума Ecumene

Что такое искусственный интеллект сегодня? По сути, это наша жизнь. Приложения на телефоне, навигаторы, агрегаторы такси, распознавание лиц в метро, адресная реклама в соцсетях, голосовые ассистенты и т.д. Мы привычно пользуемся этими благами, не задумываясь, как это работает, и можно ли им доверять. Сессия «Доверенный искусственный интеллект» стала одной из ключевых на Четвертом Глобальном форуме Ecumene 2024. С одним из ее участников - вице-президентом Академии криптографии РФ Андреем Коваленко - нам удалось пообщаться.

- Если мы говорим «доверенный ИИ», есть и не доверенный?

- Конечно. Допустим, вы учите детей по учебнику арифметики, а потом вдруг приходит экзаменатор и пытается им задать вопрос из области геометрии. Дети скажут: мы этого не проходили. Если мы точно также зададим определенной функции ИИ вопрос, которому она не обучена, она выдаст абракадабру. Потому что она примет какие-то значения на неизвестный ей вопрос из той области, которой обучена. И что машине «в голову взбредет», никто не знает. Например, есть медицинские приложения. В них заложен четкий функционал с набором определенных данных по симптомам. Если научили отличать ковид от ОРВИ, приложение это сделает. А если нет, то увы.

- Таким образом, доверенный ИИ – тот, которого научили?

- Да.

- В таком случае ИИ не может заменить человека?

- Нет, конечно, и никогда не заменит. Даже привычный калькулятор иногда может ошибаться. Конечно, мы должны в какой-то степени доверять алгоритму, который зашит в калькулятор. И если производитель - солидная фирма, отвечающая за качество, то доверие есть. А если это халтура? Однозначно, искусственному интеллекту мы можем доверить только конкретные задачи, тщательное исследованные со всех сторон, в которых четко видны ограничения. В шахматах конь пошел не так, шахматный компьютер скажет, что это неправильный ход.

- Какие сейчас проблемы стоят перед искусственным интеллектом?

- Проблема избыточных ожиданий. Мы думаем, что вот-вот что-то произойдет с ИИ и он будет решать глобальные задачи.

- И мы переложим на него ответственность за принятие решений?

- Эта проблема уже существует и ее надо решать. Допустим, в палате интенсивной терапии состояние пациента оценивает искусственный интеллект, зажигая либо зеленую, либо красную лампочку. Зеленая – все стабильно, красная – не очень. Что сделает ответственная дежурная медсестра? Даже при зеленой лампочке, все равно подойдет, потрогает лоб, послушает дыхание, посмотрит на объективные приборы сердцебиения и убедится, что все в норме. А если на ее месте окажется коллега, которая доверится зеленой лампочке? Тогда не исключено, что в какой-то момент ИИ ошибется и ухудшение состояния пациента не заметят сразу. Что скажет та медсестра? Так это же искусственный интеллект, Он умнее, чем я. Или еще такой пример. Пилот должен сажать свой самолёт сам, не доверяя автоматике, которая в любой момент может дать сбой. Но даже если исключить ошибки, при постоянном автопилоте командир экипажа потеряет навыки в управлении. А потеря навыков – это реальная угроза дисквалификации.

- В общем, восстание роботов нам не грозит?

- Восстание не грозит, но есть риски из-за развития ИИ потерять чувство ответственности и профессиональные навыки.

СПРАВКА «КП»

Первый Глобальный Форум ECUMENE состоялся в сентябре 2021 года в Москве. Более 130 000 зрителей из 50 стран следили за событиями деловой программой, в рамках которой состоялись выступления более 70 спикеров из 16 стран мира. С каждым годом аудитория мероприятия увеличивается. Так, в 2022 году в Форуме приняли участие 100 спикеров из 22 стран мира, а зрителями стали более 300 000 человек из 83 стран мира. В 2023 году в дискуссиях приняли участие более 120 экспертов, а мероприятия Форума посмотрели более 700 000 зрителей из 87 стран.

Ключевой миссией ECUMENE является продвижение позиции России в рамках глобальной повестки устойчивого развития, формирование новых тенденций на период после 2030 года. Результаты работы Форума ежегодно презентуются в рамках Конференции сторон Рамочной конвенции ООН по изменению климата (COP).

Генеральным партнером Глобального Форума ECUMENE 2024 выступает Газпромбанк. Мероприятие проходит при поддержке Исследовательского центра частного права им. С.С. Алексеева при Президенте РФ и нескольких институтов Организации Объединенных Наций: Программы ООН по охране окружающей среды, Рамочной конвенции ООН об изменении климата, Продовольственной и сельскохозяйственной организации, Информационного центра ООН. Соорганизатором выступает Университет МИСИС.

Подробная программа Форума ECUMENE 2024 и онлайн-трансляция доступны на официальном сайте www.ecumeneforum.com.