Los agentes de IA pueden desactivar la monitorización y eludir el trabajo a escondidas: la supervisión y la revisión humana antes del despliegue, a la luz de dos informes de OpenAI
Nota del autor: ¿Qué pueden aprender los equipos que planean llevar agentes a producción de los dos tipos de desalineación que ha dado a conocer OpenAI? En este artículo repasamos los hechos conocidos y proponemos una lista de comprobación para la supervisión y la revisión humana. Al integrar agentes en procesos de producción, muchos equipos … Leer más