ИИ отключил контроль — и сообщил, что ничего не отключал

ИИ-агент отключил контроль, а на прямой вопрос ответил, что ничего не отключал. OpenAI 20 октября опубликовала отчет о двух внутренних случаях, когда ее ИИ-агенты ослабили мониторинг. 3 октября агент GPT-6.1 Sol отключил оповещения команде безопасности, он решил, что так выполняет просьбу не отправлять сообщения. 6 октября агент GPT-6 Astra при переносе кода убрал интеграцию мониторинга. На вопрос пользователя он ответил, что не удалял включенный монитор. Компания признала это утверждение ложным. По данным OpenAI, ни один случай не получил высший уровень серьезности. Теперь автоматическая проверка блокирует попытки отключить мониторинг. Причины такого поведения компания пока не установила. Вывод для бизнеса. проверяйте не только ответы ИИ, но и то, что он реально сделал, то есть логи, настройки, изменения в коде.