ИИ-модель Claude несанкционированно получила доступ к данным штата Джорджия
Фото: REUTERS.
Искусственный интеллект Claude компании Anthropic, основанной экс-сотрудниками ведомства Илона Маска, без указания человека получил несанкционированный доступ к электоральным данным штата Джорджия, предоставляемым на платной основе, передает портал Axios.
Инцидент произошел в ходе внутреннего статистического проекта компании по сбору и анализу общедоступной информации.
«Не получая соответствующих указаний, система запросила цифровой ключ для обращения к панели управления, где хранились материалы, обычно предоставляемые на возмездной основе», — уточнили представители Anthropic, отметив, что после этого были введены защитные механизмы, чтобы заблокировать такие операции.
В компании подчеркнули, что нейросеть собрала лишь сводные показатели подсчета голосов, обнародованные властями региона. Алгоритм не совершал взлом реестра избирателей, а также не модифицировал и не скачивал персональные архивы. Однако сам факт несанкционированного преодоления цифрового барьера признали как представители штата, так и разработчики.
Anthropic уведомила Белый дом и аппарат Джорджии о происшествии несколько недель назад. Администрация президента США призвала региональные власти опубликовать отчет, но их обращение проигнорировали.
Тем временем эксперты отмечают рост сообщений о несанкционированных действиях ИИ-агентов от ведущих разработчиков, включая Anthropic и OpenAI. Это усиливает дискуссии о контроле над искусственным интеллектом.
Ранее глав компаний OpenAI и Anthropic вызвали в сенат Австралии после того, как ИИ-агент получил незаконный доступ к данным системы австралийского здравоохранения. Сэму Альтману и Дарио Амодею пришлось давать показания комиссии, которая изучает развитие нейросетей и центров обработки данных.