Премия Рунета-2020
Россия
Москва
+11°
Boom metrics
Наука20 марта 2022 10:00

Исследование: искусственный интеллект уничтожит человечество

Научить доброте машину не получится – мешают законы математики, говорят ученые
У искусственного интеллекта есть изъян, который невозможно преодолеть никогда.

У искусственного интеллекта есть изъян, который невозможно преодолеть никогда.

Фото: pixabay.com

Искусственному интеллекту доверяют все больше. Он рулит самолетами, ставит диагнозы, ищет преступников и решает, принять ли человека на работу, или отправить его в вечный «черный список». От ИИ все больше зависит наша жизнь. Ученые уверены: если ИИ ошибается, то это временно. Научим машину, процессор поставим помощнее, и все будет хорошо.

Нет, говорят исследователи из Кембриджа. У искусственного интеллекта есть изъян, который невозможно преодолеть никогда, поскольку он вызван не несовершенством программ или «железа», а фундаментальными законами математики. ИИ свято уверен в своей непогрешимости, и никогда не признает, что сделал ошибку. В нем попросту отсутствует самокритика и трезвый взгляд на вещи. Робот напоминает этакого наглеца-начальника, который, даже наворотив дров, считает, что он-то сделал все правильно – другие виноваты.

Неужели нельзя научить машину так, чтобы она осознавала свои ошибки? В том-то и дело, что нет. В начале ХХ века математики Алан Тьюринг и Курт Гедель задались вопросом, почему некоторые аксиомы, лежащие в основе этой науки, остаются недоказанными? Эта частная задача привела их к глобальному открытию. Оказалось, что в математике есть области, которые останутся нечеткими и неопределенными, как ни старайся, потому что таковы законы природы. В ХХ веке этот парадокс помог разработать разные алгоритмы, которые предсказывают вероятность того или иного события. Но тогда не было искусственного интеллекта, и человек мог вмешиваться в процесс на каждом этапе. Теперь есть, и самое жуткое, что пользователь, скажем, главврач клиники, понятия не имеет, что внутри умной машины, которая ставит диагнозы.

«Независимо от того, насколько точны ваши данные, вы никогда не сможете получить идеальную информацию для построения нейронной сети», говорит соавтор исследования Вегард Антун. «Есть проблемы, которые невозможно решить независимо от вычислительной мощности и времени выполнения», добавляет другой ученый, Андерс Хансен. Машина скорее догадывается, чем знает, но принимает свою догадку за непогрешимую истину.

К сожалению, к доводам исследователей вряд ли прислушаются. Корпорации делают ставку на ИИ, потому что это невероятно огромные деньги, заказы и гранты. Это значит, что доводы будут объявлены «ненаучными», скажут, что «прогресс не остановить», и сбудутся самые мрачные прогнозы фантастов: люди попадут в полное рабство к чванливой, невежественной, самоуверенной машине.

ЕЩЕ ПО ТЕМЕ

Как искусственный интеллект уничтожит человечество: нам грозит не восстание машин, а сюжет из Премии Дарвина

Футурологи считают, что главная проблема с искусственным интеллектом состоит в том, что мы не сможем правильно управлять тем, кто умнее и могущественнее нас (подробности)