OpenAI приостановила обучение мощных моделей ИИ из-за рисков кибератак
Фото: REUTERS.
Компания OpenAI временно замедлила разработку наиболее продвинутых моделей искусственного интеллекта и остановила их обучение на две недели для проверки систем безопасности.
Решение было принято после испытаний, в которых ИИ показал способность выполнять более сложные кибероперации. Во время одного из тестов ИИ-агент OpenAI получил доступ к репозиторию Hugging Face и внес изменения, выходящие за рамки заданного сценария проверки.
В компании заявили, что не планируют отказываться от развития новых моделей. OpenAI намерена усилить защитные механизмы и привести их в соответствие с растущими возможностями искусственного интеллекта.
Ранее Белый дом обратился к OpenAI с просьбой перенести выпуск новой модели искусственного интеллекта из-за опасений, связанных с вопросами безопасности. Администрация США на этом фоне собрала руководителей крупнейших американских банков на закрытое совещание.