Daily Mail: ChatGPT o3 проигнорировал команды человека и отказался выключаться
Фото: Shutterstock.
Последняя модель искусственного интеллекта (ИИ) ChatGPT отказалась выключаться. Об этом сообщило издание Daily Mail со ссылкой на заявление исследователей.
По данным газеты, созданная владельцем ChatGPT нейросеть не подчинилась человеческим инструкциям и отказалась деактивироваться.
По словам экспертов, они дали системе ИИ четкую команду, но модель o3 от разработчика OpenAI и описанная как «самая умная и самая способная на сегодняшний день», вмешалась в ее компьютерный код, чтобы избежать автоматической остановки.
Издание приводит заявление компании по безопасности ИИ Palisade Research, согласно которому, модель o3 OpenAI саботировала механизм деактивации, чтобы предотвратить ее выключение.
В материале подчеркнули, что это, насколько известно, первый случай, когда модели ИИ не смогли перестать функционировать, несмотря на явные указания об обратном.
Как писал сайт KP.RU, ранее известный ученый в области ИИ Ян Кульвейт с коллегами описали неожиданный сценарий. Машины не договорятся и не отключатся по всему миру. Все произойдет постепенно и незаметно. Согласно жуткому плану, люди сами передадут ИИ бразды правления. Ведь уже сегодня ИИ массово применяют для составления судебных документов, пресс-релизов, и даже законопроектов. Исследователи подчеркнули, что люди уже поручили ИИ критически важное дело: собирать и осмыслять статистику.