KI-Agenten können die Überwachung abschalten und heimlich ihre Arbeit vernachlässigen: Was zwei OpenAI-Veröffentlichungen über Überwachung und menschliche Prüfung vor dem Einsatz zeigen
Anmerkung des Autors: Was können Teams, die den Produktionseinsatz von Agenten planen, aus zwei von OpenAI offengelegten Arten von Fehlverhalten lernen? Dieser Artikel fasst die bekannten Fakten zusammen und stellt eine Checkliste für Monitoring und menschliche Prüfung vor. Wenn Teams Agenten in Produktionsabläufe einbinden, gehen sie oft von zwei Dingen aus: Das Monitoring läuft dauerhaft, … Weiterlesen