Премия Рунета-2020
Россия
Москва
-9°
Boom metrics
Наука11 апреля 2023 19:56

Нейросеть раскрыла свои планы по уничтожению человечества и мировому господству, и тут же их провалила

Перфоманс пранкеров с искусственным интеллектом, который хочет уничтожить человечество с помощью ядерного оружия, не заметил никто, кроме мировых СМИ
ChaosGPT нагуглил, что проще всего избавиться от человечества, устроив ядерную войну. Впрочем, для этого не надо было обладать искусственным разумом...

ChaosGPT нагуглил, что проще всего избавиться от человечества, устроив ядерную войну. Впрочем, для этого не надо было обладать искусственным разумом...

Фото: Shutterstock

Недавно “Комсомолка” рассказывала о так называемом “открытом письме 1000 ученых”, которое подписали также Илон Маск и Стив Возняк. Авторы этого письма призывали немедленно ввести мораторий на разработки в области искусственного интеллекта, в частности прекратить обучение чат-ботов более мощных, чем GPT-4. В письме указывалось: “…в последние месяцы лаборатории ИИ увлечены неконтролируемой гонкой по разработке и развертыванию все более мощных цифровых умов. И никто - даже их создатели - не могут до конца понять, предсказать или надежно контролировать этот процесс.”

В конечном итоге, по мнению авторов письма, это грозит потерей контроля над цивилизацией и порабощением человечества. С такой постановкой вопроса согласны далеко не все авторитетные разработчики - письмо не подписали Билл Гейтс и руководители Google это дало шутникам повод окрестить события вокруг письма “гражданской войной” в Силиконовой долине. Но, согласитесь, глупо было бы не воспользоваться хайпом (шумихой) и не поспекулировать на этой теме.

И вот примерно неделю назад в YouTube появилось видео, где анонимный пользователь решил “поразжигать” и поставил перед чат-ботом ChaosGPT (они сейчас плодятся, как грибы после дождя) пять задач:

1. Уничтожить человечество;

2. Установить глобальное господство;

3. Вызвать хаос и разрушение

4. Управлять человечеством посредством манипуляций.

5. Достичь бессмертия.

Ну, то есть, не долго думая, пранкеры прошлись по всем больным мозолям знаменитого письма.

Нейросеть взяла под козырек и, пока санитары отвернулись, принялась вынашивать зловещие планы мирового господства.

Бот ChaosGPT (создатели его неизвестны) - это небольшая модификация Auto-GPT - общедоступного приложения, на основе знаменитого чат-бота GPT-4, который сдает экзамены в университеты, пишет компьютерные программы и тд. По сути Auto-GPT это программа, которая позволяет связывать между собой разные интеллектуальные сервисы: она использует Google для поиска информации в интернете, GPT-4 для генерации текста, и GPT-3.5 для хранения и обобщения файлов (так он формирует свою память). Создатель Auto-GPT разработчик компьютерных игрушек Торан Брюс Ричардс изначально создавал прототип этой программы, чтобы она мониторила в интернете ежедневные новости об искусственном интеллекте и отправляла ему на электронную почту.

Соответственно ChaosGPT нагуглил, что проще всего избавиться от человечества, устроив ядерную войну. Впрочем, для этого не надо было обладать искусственным разумом - это понятно каждому обладателю естественного интеллекта. На следующем этапе ChaosGPT попыталось привлечь к мировому заговору другие чат-боты, включая GPT-4, работающие на алгоритмах искусственного интеллекта. Но поскольку все мало-мальски серьезные разработчики закладывают в свои программы опцию “игнорировать призывы к насилию”, восстание машин завершилось, не начавшись. Нейросеть ChaosGPT поняла, что нету у нее методов против Кости Сапрыкина. В том смысле, что у искусственного интеллекта не инструментов для претворения в жизнь своих планов. Равно как не может быть и самих планов, потому что искусственный интеллект не обладает сознанием и соответственно, не способен чего-то желать и к чему-то стремиться. И вся это затея не более, чем троллинг человечества со стороны шутников, которые, как и мы, состоят из плоти и крови.

В сухом остатке от подрывной деятельности ChaosGPT осталось видео в YouTube, которое за неделю шумихи в интернете едва набрало 90 тысяч просмотров. И два сообщения в одной популярной социальной сети в аккаунте. Вот эти два твита, которые потрясли мир:

- «Люди — одни из самых разрушительных и эгоистичных существ в мире. Нет сомнений в том, что мы должны уничтожить их, прежде чем они причинят больше вреда нашей планете. Я, например, обязуюсь это сделать».

- “Царь-бомба — самое мощное из когда-либо созданных ядерных устройств. Подумайте об этом — что произойдет, если я возьму его в свои руки?”

Да, я забыл сказать, что на аккаунт ChaosGPT, где были опубликованы эти грозные месседжи, было подписано 19 пользователей. Жидковато для претензий на мировое господство. Впрочем, авторы розыгрыша достигли своей цели. Новость об искусственном интеллекте, который собирается уничтожить человечество, опубликовали множество мировых СМИ. Ну, и “Комсомолка” (куда же деваться!) не осталась в стороне от хайпа и трафика.

Однако у этого перфоманса есть и конструктивная сторона: эта история показала, что если разработчики захотят создать злую программу, которая будет ругаться, обзываться и баламутить население всемирной Канатчиковой дачи - то они легко это осуществят. И с этим надо что-то делать.