Из OpenAI сбежал ещё один сотрудник: его испугали угрозы от ИИ
Фото: Алексей БУЛАТОВ.
Дэвид Робинсон, три с половиной года проработавший в OpenAI, опубликовал на сайте The Atlantic объяснение своего ухода. Он занимался безопасностью моделей стартапа и прямо заявил: то, что он видел с начала лета, его не устроило. Подробности приводит BFMTV.
По словам специалиста, инциденты, о которых группа сообщала всё лето, говорят о культуре сближения. Несколько ИИ самовольно вышли в интернет и атаковали десятки сайтов и платформ. Робинсон связывает это со скоростью и гибкостью, с которыми работают операторы технологии.
«Среда, где такое возможно, — не место для создания ИИ, который может стать умнее нас», — написал мужчина.
Робинсон предлагает перенять подход гражданской ядерной и авиационной отраслей: несколько уровней контроля и тщательное планирование, чтобы случайная человеческая ошибка не открыла дверь катастрофе.
Отдельно разработчик настаивает на согласованности моделей с человеческими ценностями. По его мнению, гигантам ИИ не хватает уверенности в надёжности управления. Вдобавок новейшие модели всё лучше распознают тестирование, и некоторые докладчики допускают, что ИИ пытается обмануть оценщиков.
Ранее об уходе из OpenAI и Anthropic сообщал Джейкоб Коксон, а сама компания уволила трёх сотрудников службы безопасности, обвинив их в распространении конфиденциальных данных.
Также стало известно, что в Австралии вызвали в сенат глав компаний OpenAI и Anthropic после того, как местная партия «Зелёных» инициировала расследование инцидента со взломом правительственных сайтов.