Премия Рунета-2020
Россия
Москва
-3°
Boom metrics
Наука16 ноября 2023 11:30

Искусственный интеллект научился воскрешать мертвых: Ученые и общество испуганы безграничными возможностями ИИ

Почему роботы нарушают правила морали и этики, и как с этим быть, разбирались на форуме в Москве
Искусственный интеллект только что появился, а уже нарушил все возможные законы этики.

Искусственный интеллект только что появился, а уже нарушил все возможные законы этики.

Фото: Shutterstock

Искусственный интеллект только что появился, а уже нарушил все возможные законы этики. Взять ваши смартфоны: теперь алгоритмы решают, что вы смотрите, слушаете, и да, мобильные устройства изучают нас, вроде как ради нашего же блага. Но давали ли мы согласие на вторжение в частную жизнь?

Именно этим вопросам был посвящен Форум этики в сфере ИИ, который в четверг прошел в Москве. И на него, помимо «технарей», пригласили представителей ведущих конфессий. Потому что веками именно Вера была мерилом нравственности, а теперь на ее место влез робот Бендер из известного мультика.

ПУШКИН НЕНАСТОЯЩИЙ

ИИ создает множество этических проблем. Проще сказать, что он весь и есть этическая проблема. Если я звоню в интернет-магазин, и со мной общается робот, должен ли я знать, что это не человек? В госорганах предупреждают, а частные компании ведь нет. Если я вызвал такси, а за рулем никого нет, имею ли я право отказаться? Когда человека выкидывают с работы, потому что так решил алгоритм, какой закон заставит работодателя подключить к конфликту «живого» кадровика? Уже сейчас сплошь и рядом машины отказывают людям в кредите, а, собственно, по какому праву? А ведь это только цветочки на вершине айсберга.

Ягодки начинаются, когда ИИ подменяет собой человеческую личность. И в первую очередь дискуссии крутятся вокруг «цифровых копий», которые обеспечивают «виртуальное бессмертие». Вот, некий алгоритм говорит, что он – Пушкин. Он ведет себя, как Пушкин. Выглядит на экране, как Пушкин. Да, Александр Сергеевич давно скончался. Но имеем ли мы право с ним – так?

Про Пушкина – не для красного словца. Недавно один стартап обратился за государственным финансированием, хотят создавать цифровые копии великий людей, рассказал на Форуме Андрей Незнамов из Сбера. И цель вроде бы благая. Раз молодежь не читает, но общается с виртуальными персонажами, пусть хотя бы с Пушкиным общается. Но что-то ведь здесь не то… Да?

«Я думаю, что цифровой Пушкин – это не Пушкин», отрезал Владимир Легойда, председатель Синодального отдела по взаимоотношениям Церкви с обществом и СМИ. Его поддержал Александр Крайнов из Яндекса.

- Цифровая копия - крайне неудачный термин. Даже если собрать все, что написал, человек, этого мало, (чтобы восстановить его личность – КП). А в реальности собирается далеко не все. Цифровая копия - это всего лишь запись некоторых действий, анализируя которую, можно создать имитацию. Актер, который играет в кино исторического персонажа – по сути такая же копия. В этом нет человека, с которого делали копию. Она в глазах смотрящего. Когда мы сможем делать полноценные копии? Я думаю, я не доживу. На горизонте пятидесяти лет такой вероятности не просматривается.

ТОКСИЧНОЕ БЕССМЕРТИЕ

Но тут дело-то в другом, настоящий Пушкин на самом деле или нет, поясняет Крайнов. Человеку свойственно очеловечивать все вокруг – мы даже с собственным автомобилем разговариваем. Такими сделал нас естественный отбор. И проблема, конечно, в нас – но мы не станем другими, значит, проблему придется решать.

У человека скончался родственник. Он скорбит. Появляются жулики, говорят – мы сделаем тебе копию твоего родственника, будешь с ним разговаривать, приводили примеры на Форуме. Люди ведутся: подцепить человека, особенно если он в трауре, в печали, ничего не стоит, это знают все мошенники.

Но дело даже глубже. Веками наша мораль формировалась в парадигме «помни о последнем часе, с ним сверяй свои поступки». И вот наступает цифровое бессмертие. То есть… можно все? Это может привести к трансформации традиционных ценностей, вызвать напряженность, говорил муфтий Альбир Крганов, глава Духовного собрания мусульман России. Если человек сверяет свою жизнь с Библией, Кораном, другими великими книгами традиционных конфессий, он на эти соблазны не поддастся, говорилось на Форуме. Но это «если»…

Хорошо, допустим, цифровая копия. Но кто будет ею владеть? Кто будет поддерживать те сервера, на которых она хранится? «Я бы не хотел вечной жизни в банке», открестился от лестного (на самом деле нет) предложения Александр Крайнов.

САМИМ БЫ НЕ СТАТЬ РОБОТАМИ

Михаил Федотов, директор образовательного центра «Кафедра ЮНЕСКО» при Высшей школе экономики, увидел во всем этом проблему, которую не всякий визионер видит. Общаясь с алгоритмами, не станет ли живой человек… алгоритмом?

- Есть опасность роботизации человека. Я имею в виду не импланты в мозг. А подразумеваю алгоритмизацию производственных процессов, в том числе в медицине, науке, культуре, образовании. Подмену творчества стандартными протоколами… Не надо алгоритмизировать человека и превращать его в робота. Иначе вместо творчества будет имитация, вместо врачевания – здравоохранение, вместо культуры – статистика посадочных мест в театрах. Так мы не достигнем тех целей, которые стоят перед цивилизацией, — сказал он.

Кажется, главное – чтобы люди, общаясь с ИИ, оставались людьми. Священники в шутку просят ИИ написать проповедь, рассказал отец Александр Волков. И получается… вполне себе текст. Но никому и в голову не придет выйти к пастве с телефоном и это зачитать.

- Для священника проблема очеловечивания ИИ – не страшная. Потому что священник, общаясь с людьми, никогда не следует штампам и алгоритмам, — пояснил отец Александр.

И тут, конечно, важно встречное движение. Владимир Легойда рассказал, что на днях тролил Алису мировоззренческими вопросами. Но умная колонка заявила, что она – всего лишь ИИ, и на такие темы рассуждать не будет. Легойда дал понять, что именно этого ждет общество от тех, кто учит и программирует ИИ.

Вы к нам с уважением, и мы к вам с уважением. А то ведь у ИИ репутация в обществе так себе. На Форуме провели опрос, убьют ли человечество алгоритмы. И немало людей сказали, что да. Это не от доверия к роботу. Это от недоверия к тем, что их создает. Новые вызовы технического прогресса еще раз подчеркивают важность коммуникации тех, кто создает прорывные технологии, и тех, для кого они создаются.