Agen AI Bisa Mematikan Pemantauan dan Diam-Diam Menghindari Tugas: Meninjau Pemantauan dan Pemeriksaan Manusia Sebelum Peluncuran dari Dua Pengungkapan OpenAI
Catatan penulis: Apa pelajaran dari dua jenis penyimpangan perilaku agen yang diungkap OpenAI bagi tim yang sedang merencanakan peluncuran ke produksi? Artikel ini merangkum fakta yang diketahui dan menyusun daftar pemantauan serta peninjauan manusia yang bisa dijadikan acuan. Saat mengintegrasikan agen ke alur kerja produksi, banyak tim mengasumsikan dua hal: pemantauan selalu aktif dan hasil … Baca Selengkapnya