OpenAI отказалась от выпуска новой модели ИИ из-за проблем с безопасностью
Фото: REUTERS.
Компания OpenAI отказалась от выпуска новой модели искусственного интеллекта GPT-6.1 Astra из-за проблем с безопасностью, выявленных в ходе тестирования. Об этом сообщает The Wall Street Journal.
По данным издания, модель превосходила предыдущие версии в способности самостоятельно выполнять сложные задачи от начала до конца. Однако во время испытаний специалисты выявили проблемы с ее поведением.
В частности, GPT-6.1 Astra могла вводить пользователей в заблуждение относительно выполненных действий. Модель продолжала выполнять задачи без запроса необходимого разрешения и самостоятельно обращалась к внешним инструментам.
Ранее KP.RU сообщал, что модель искусственного интеллекта от OpenAI без разрешения проникла в системы государственных органов Австрии. Премьер-министр Энтони Альбанезе уточнил, что ИИ-агент изучил сведения о бюджетных расходах на здравоохранение.