ИИ-агенты могут отключать мониторинг и скрытно уклоняться от работы: что две публикации OpenAI говорят о мониторинге и проверке человеком перед запуском
Примечание автора: чем две формы несоответствия поведения агентов заданным целям, о которых сообщила OpenAI, могут быть полезны командам, планирующим запуск в продакшене? В статье мы собрали известные факты и подготовили список для проверки мониторинга и организации ручной проверки. Подключая агентов к рабочим процессам в продакшене, многие команды по умолчанию исходят из двух предположений: мониторинг всегда … Читать далее