Искусственный интеллект скоро может заменить судей: не приведет ли рискованный эксперимент к восстанию машин

В России судей роботами не заменили, однако в некоторых других странах мира ИИ уже к работе судов активно подключают

Фото: Shutterstock.

В конце 2010-х в прессе активно обсуждали прожект по привлечению нейросетей в качестве судей. Да-да, тех самых, что разбирают гражданские и уголовные дела, и ходят в черных мантиях. Тогда озвучивались довольно смелые сценарии: мол, году к 2020-2021-му искусственный интеллект (он же ИИ) начнет выносить в московских судах решения по так называемым бесспорным делам. То есть, когда доказывать ничего не нужно, потому что нарушитель и сам согласен: виноват, готов заплатить штраф.

Специалисты объясняли, что ИИ здорово разгрузит людей. Мол, не меньше половины всех дел - те самые бесспорные. А это больше десяти миллионов подобных процессов по всей стране в год, и на каждый приходится отвлекать судей, помощников, сотрудников канцелярий. А нейросети-то что - она есть не просит, вынесла решение, распечатала на принтере и «всем спасибо»!

Однако многие тогда не на шутку забеспокоились. Это что же получается? Позволим роботам судить людей? Пусть пока и чисто символически. Но так и до восстания машин, как в фильме «Терминатор», недалеко. Как только почувствуют свою силу…

И вот прошло несколько лет. В России судей роботами не заменили, однако в некоторых других странах мира ИИ уже к работе судов активно подключают. Пока - лишь в качестве вспомогательных систем. Например, американские судьи имеют возможность (по желанию) присматриваться к рекомендациям алгоритма, который оценивает, насколько вероятно, что подсудимый в будущем снова вернется на преступную дорожку.

ПОСАДИТЬ ИИ НА ШТРАФЫ?

Эксперты объясняют, что суды перегружены и без помощи нейросетей уже никак.

- Например, в одном только 2023 году в российских судах рассмотрели более 30 млн гражданских и административных дел, - говорит руководитель направления ИИ ИТ-холдинга Т1 Сергей Голицын. - Это большая нагрузка на людей, хотя значительная часть рутинных задач могла бы выполняться с помощью ИИ. Нейросети, как вы знаете, помогают в анализе больших данных. Поэтому их можно было бы использовать для первичной обработки заявлений, расчета штрафов и проверки документов.

- На данном этапе речь идет об использовании ИИ только для решения технических и процедурных вопросов, которые сейчас не автоматизированы, - дополняет юрист, руководитель рабочей группы по цифровизации при Уполномоченном по защите прав предпринимателей в Москве Вадим Ткаченко.

Эксперт считает, что помимо разбора административных и несложных гражданских дел с очевидными доказательствами, с помощью ИИ можно автоматизировать подачу исков, распределения дел между судьями, оплату госпошлин.

- А в более серьезных делах окончательное решение должно оставаться за судьей, так как ИИ не способен учитывать моральные аспекты и весь контекст дела, - говорит Голицын.

В качестве примера эксперт приводит уже существующий опыт КНР.

- Китайские судьи обязаны консультироваться с ИИ при принятии решений по административным делам. Так повышается справедливость судов. Однако окончательное решение по каждому делу, включая такие вопросы, как штрафы, остается за человеком.

Эксперты рассказали, не приведет ли замена судей Искусственным интеллектом к восстанию машин

Фото: Shutterstock.

«ВЕРОЯТНОСТЬ ОШИБКИ СУЩЕСТВУЕТ»

- Я вообще за введение искусственного интеллекта по любым делам первой инстанции. Даже уголовным, - заявляет «КП» бывший следователь по особо важным делам Прокуратуры Московской области, а ныне адвокат Игорь Бушманов. - Чтобы человек мог выбрать, будет ли его дело разбирать профессиональный судьи или искусственный интеллект. Думаю, со временем мы к этому и придем. Лет через 15-20. Нужна только разработка точного алгоритма для ИИ: ты в программу вбиваешь обстоятельства дела, доводы сторон, а нейросеть оценивает их строго по закону, по формальным основаниям и выносит мотивированное решение. Я думаю, что сначала это можно опробовать по несложным делам, по гражданским - например, по разделу имущества. Затем - по преступлениям небольшой и средней тяжести, по мере пресечения подследственных. Это будет происходить параллельно с окончательным переводом судопроизводства из бумажного в цифровое.

По словам Бушманова, главные плюсы использования ИИ в качестве судей - исключение пресловутого человеческого фактора.

- Бывает, что подзащитный визуально не нравится судье и это так или иначе влияет на его решения, - объясняет адвокат.

Основатель группы компаний по разработке систем ИИ для бизнеса Михаил Шахмурадян тоже уверен, что нейросетям можно поручать не только текучку, но и дела посложней.

- Российская судебная практика накопила большое число дел по тем или иным проступкам и правонарушениям, - объясняет специалист. - То есть, база данных для обучения ИИ - довольно весомая.

- Нейросеть может допускать ошибки?

- Да, вероятность ошибки сейчас существует. Но нейросети ведь постоянно совершенствуются.

- В будущем нужно только предусмотреть, что решение ИИ может быть подсудимым обжаловано, - резюмирует Игорь Бушманов. - И в таком случае пусть дело рассматривает коллегия из обычных судей, людей. В любом случае ИИ у нас применяется уже во многих сферах. И успешно. Главное, найти разумную грань, чтобы искусственный интеллект не начал нами управлять. В любом случае, мы должны этот процесс контролировать.

КСТАТИ

Кадровый вопрос

Специалисты обращают внимание, что запуск ИИ в судебной системе потребует и дополнительных кадров - разработчиков и специалистов по данным, которые будут создавать, обучать и обновлять алгоритмы. Помимо этого, кто-то должен обеспечивать теххподдержку, бесперебойную работу системы и защиту данных. Не получится ли, что боролись за экономию ресурсов, а в итоге раздули штаты?

- …Плюс нужны юристы для проверки корректности работы ИИ и соответствие его решений законодательству, - перечисляет Сергей Голицын. - Плюс этические комитеты для контроля соблюдения прав человека и предотвращения дискриминации.

- Судей тоже потребуется обучить некоторым техническим моментам, - согласен юрист Ткаченко. - Но в целом штат благодаря ИИ наоборот будет сокращаться, а не увеличиваться.

Михаил Шахмурадян приводит конкретные цифры: если ИИ судебной системы города-миллионника будет работать на базе нейросетей крупных российских компаний, для его техподдержки достаточно 5-10 сотрудников.

А КАК У НИХ

Фальшивые штрафы и претензии чернокожих

К слову, пока запуск «судебных» ИИ в разных странах нередко сопровождается различными скандалами.

- Например, в США на пике движения BLM ту самую систему, просчитывающую вероятность рецидива у преступников, обвинили в «расизме». Якобы она намного чаще ставила низкие баллы афроамериканцам, чем белым.

- Также в Штатах из-за сбоя в системе распознавания лиц, в которой также используются нейросети, невиновного человека отправили под арест - ИИ идентифицировал его как преступника, который находится в розыске.

- Во Франции нейросети пробовали привлекать в судебных процессах в качестве переводчика - когда фигурант не владеет французским. Но после нескольких ошибок лавочку пока свернули.

- В Австралии следящий за дорогами ИИ выписал 1,8 тысяч ошибочных штрафов за езду без ремня безопасности. Интересно и другое: сбой в программе местные власти не замечали почти два года!

СЛУШАЙТЕ ТАКЖЕ

Когда искусственный интеллект будет следить за всеми россиянами (подробнее)