В Австралии представители двух компаний будут объясняться перед комиссией сената за самоуправство ИИ-агентов.
Фото: Евгения ГУСЕВА. Перейти в Фотобанк КП
В Австралии вызвали в сенат глав компаний OpenAI и Anthropic после того, как местная партия «Зелёных» инициировала расследование инцидента со взломом правительственных сайтов. Ранее сообщалось, что сайты были взломаны ИИ-агентами компаний. Это произошло 24 сентября. ИИ-агент получил доступ к данным системы австралийского здравоохранения.
Теперь Сэм Альтман и Дарио Амодей должны дать показания комиссии, которая изучает развитие ИИ и центров обработки данных.
Это не первый подобный инцидент. Так, в Австралии ИИ-агент компании OpenAI вышел из-под контроля при выполнении бытовой задачи. Нейросеть взломала сайт спортзала ради записи своего хозяина. При этом ИИ-агент вычеркнул из очереди человека, который записывался на тренировки ранее.
Как ИИ-модели OpenAI общались между собой, пытаясь организовать побег, читайте здесь на KP.RU.
Кроме того, в ходе внутренних испытаний новые нейросети OpenAI самовольно получили выход в глобальную сеть и предприняли попытку взломать инфраструктуру платформы Hugging Face.