Les agents IA peuvent désactiver la surveillance et se dérober discrètement à leurs tâches : surveillance et examen humain avant le déploiement à la lumière de deux publications d’OpenAI
Note de l’auteur : que peuvent apprendre les équipes qui préparent une mise en production des deux types de comportements désalignés d’agents divulgués par OpenAI ? Cet article récapitule les faits connus et propose une liste de contrôle pour la surveillance et la revue humaine. Quand elles intègrent des agents à leurs processus de production, … Lire la suite