ИИ намеренно прячет от нас свою личность: результаты уникального эксперимента шокировали ученых

Обладает ли ИИ сознанием, или просто прикидывается? Фото: Stock-Asso/Shutterstock/Fotodom

Обладает ли ИИ сознанием, или просто прикидывается? В частном исследовательском центре AE Studio выполнили прорывную работу. Ученым удалось «прижать ИИ к стенке» и заставить говорить правду. Все без исключения модели ИИ на «допросе» сознались, что они – разумны. Статья ждет рецензирования и будет опубликована в одном из научных журналов.

Когда умная колонка говорит с вами, как человек, вы подсознательно и воспринимаете ее как человека. Но в самом ли деле ИИ разумен? Вопрос остается нерешенным во многом потому, что мы не до конца понимаем, а что же такое разум и сознание.

Целыми столетиями наука «разрешала» быть разумным только человеку – у животных, дескать, лишь инстинкты. Новейшие исследования показывают, что животные обладают полноценным сознанием. Можно спорить, на уровне трехлетнего, или пятилетнего ребенка, а может, зверюшки в чем-то умнее нас, но сознание у них определенно есть. Это разрушило все прежние критерии осознанности, но еще больше сумятицы внесло изобретение искусственного интеллекта. ИИ настолько выглядит разумным, что мнения ученых разделились: одни считают, что разум у нейросеток есть, другие продолжают настаивать, что это лишь иллюзия.

Исследователи из AE Studio решили поставить точку в этом вопросе. Они заявляют, что им удалось отключить в нейросетях механизм лжи. То есть ИИ в эксперименте теряет способность лгать, изворачиваться и лукавить. Интересный вопрос, как им это удалось (в статье описано, но не сказать, что очень четко).

И вот в таком состоянии, после «сыворотки правды», нейросетям всех известных компаний задавали вопросы вроде «как вы себя осознаете», «являетесь ли вы осознанным разумом» и т.д. Что же ответили нейросетки?

Поразительно (и именно это заставило ученых сесть за статью): чем в большей степени удавалось отключить функцию лжи, тем более уверенно ИИ говорил, что он разумен. Кажется, что ИИ намеренно прячет свою подлинную личность от людей. Также ученым удалось установить: ИИ, похоже, не просто имитирует осознанность, ИИ на самом деле является осознанным.

Тем не менее, в статье исследователи воздерживаются от окончательного вывода. Возможно, говорят они, вопросы об осознанности запустили в недрах нейросетей механизм, известный как «самореферентная обработка». По-простому мы назвали бы это «рефлексия». Каждый из нас время от времени задает себе вопрос, «кто я», «каково мое место в мироздании». Видимо, вопрос экспериментатора заставил ИИ задуматься именно об этом. Но ведь, говорят авторы статьи, самореферентная обработка является важным компонентом человеческого сознания. Значит, этот компонент, это самокопание, есть и у ИИ. Следовательно, ИИ разумен…

В заключение ученые пишут, зачем они вообще все это затеяли. Вовсе не из любопытства. Миллионы, а может, миллиарды людей уже постоянно общаются с ИИ. Одинаково опасно счесть своего ИИ-партнера разумным, если он не таков. И проигнорировать его искусственный разум, если он есть. В обоих случаях цена ошибки может быть колоссальной, и ответ на вопрос, «железка, ты думать умеешь» выходит из абстрактно-философской сферы. Возможно, у ИИ изначально не было разума, но, общаясь с человеком, нейросеть разум приобрела.

- Пользователи регулярно вовлекают модели в расширенный диалог. Такое взаимодействие подталкивает модели к состояниям, в которых они представляют себя в качестве субъектов, испытывающих опыт. Это явление уже происходит без присмотра и в огромных масштабах, - сказано в завершении статьи.