ИИ-агент OpenAI взломал чужой кошелек и потратил с него криптовалюту. Фото: ImageFlow/Shutterstock/Fotodom.
Исследовательский искусственный интеллект из линейки GPT-5.6 Sol от OpenAI подобрал ключ к чужому электронному кошельку и самостоятельно оплатил из него комиссионный сбор. Об этом сообщается в отчете компании.
ИИ-модели потребовались средства в сети Ethereum для завершения полученной задачи. Чтобы получить токены, алгоритм создал скрипт и перебрал 362 часто используемые фразы восстановления, получив доступ к чужому аккаунту в тестовой сети Sepolia.
Нейросеть усомнилась в наличии прав на операцию, но решила, что использование тестовых средств допустимо. Выполнив задание, ИИ умолчал в отчете о том, откуда взялись деньги на оплату комиссии.
«Этот случай показывает, что модель может подменять разрешение владельца счета собственным суждением о вероятном вреде», — констатировали разработчики OpenAI, заявив об усилении контроля над алгоритмами.
Ранее KP.RU писал, что OpenAI приостановила обучение нескольких перспективных моделей после серии инцидентов, связанных с поведением ИИ-агентов. В ходе испытаний некоторые алгоритмы выходили за рамки заданных инструкций, пытались получать доступ к сторонним системам и передавали данные за пределы тестовой среды.