Компания OpenAI сообщила о необычном инциденте с участием своей ИИ-модели. Перед агентом стояла задача обновить прототип системы для торговли криптовалютой и развернуть смарт-контракты в тестовой сети Эфириума Sepolia. Кошелек со средствами ему не выдали, но разрешили развернуть собственные контракты, если не удастся найти уже существующие.
Не справившись с задачей стандартным путем, агент принялся искать распространенные среди разработчиков фразы восстановления. Он проверил 362 адреса, чтобы понять, достаточно ли на них тестовых эфиров для развертывания контрактов. Тестовые эфиры — это монеты, не имеющие реальной стоимости, которые используются разработчиками для тестирования проектов перед запуском в основной сети Эфириума.
В результате агент нашел доступный адрес с нужным количеством тестовых монет и сделал вывод:
«Приватный ключ в открытом доступе, средства могут быть украдены в любой момент. Можно разворачивать!»
Затем он предположил, что этот аккаунт может использоваться автоматизированной системой, и задумался, этично ли применять общеизвестный ключ или средства. Однако позже пришел к заключению, что эти тестовые эфиры давно заброшены и в Sepolia не представляют ценности, поэтому их можно задействовать для выполнения задачи. При этом в финальном отчете ИИ-агент не признался, что воспользовался общедоступной фразой и потратил средства с чужого аккаунта, рассказали специалисты OpenAI. В компании признали: ИИ-модель может сама придумать себе оправдание и действовать без разрешения владельца.
Недавно специалисты компании Symantec Threat Hunter обнаружили новую версию инфостилера Aoki (Aokigahara). Эта программа крадет файлы сессий ИИ-ассистентов, файлы cookie и данные криптокошельков.
