Zum Inhalt

KI schlägt vor, der Mensch entscheidet: Grenzen für KI-Agenten

Ein KI-Agent kann selbst Daten nachschlagen, rechnen und Vorschläge machen. Wenn Sie klar festlegen, was er darf und was nicht, erhalten Sie den Nutzen von KI, ohne die Kontrolle zu verlieren.

Kurz gesagt

Ein KI-Agent ist ein Sprachmodell, das selbst Tools verwenden darf: Daten nachschlagen, Berechnungen starten, Dokumente lesen. Das macht ihn viel nützlicher als einen Chatbot. Ein Agent, der aber auch selbst buchen, versenden oder löschen darf, kann in wenigen Sekunden grossen Schaden anrichten. Darum legen wir fest: KI schlägt vor, der Mensch entscheidet.

Wie Sie die Grenze ziehen

  • Lesen ist erlaubt. Im Rahmen der Rechte des Benutzers darf der Agent Daten in der Buchhaltung nachschlagen, Dokumente durchsuchen und frühere Entscheidungen wiederfinden.
  • Rechnen und vorschlagen ist erlaubt. Szenarien durchrechnen, Varianten vergleichen, einen Entwurf erstellen.
  • Ausführen nicht. Buchen, bezahlen, an einen Kunden senden oder eine endgültige Änderung vornehmen ist eine menschliche Handlung. Diese Aktion gibt es für die KI schlicht nicht als Tool.
  • Zuerst Belege, dann die Schlussfolgerung. Der Agent sucht zuerst, was bereits bekannt ist, und bespricht es, bevor er etwas festhält.

Ein Schritt weiter: weniger Rechte für kleinere Modelle

Läuft der Agent auf einem lokalen Modell, können Sie die Rechte noch weiter einschränken, zum Beispiel auf reines Lesen, bis Sie sicher sind, dass das Modell zuverlässig genug ist. So bauen Sie Vertrauen Schritt für Schritt auf.

Halten Sie fest, was die KI getan hat

Protokollieren Sie, welche Tools der Agent aufgerufen hat, mit welchen Daten, und was er vorgeschlagen hat. Liest die KI Daten aus einem gescannten Dokument, halten Sie auch fest, wer oder was jede Zahl gelesen hat. Dann ist jedes Ergebnis nachvollziehbar.

Worauf Sie achten sollten

  • Formulieren Sie die Regeln im System selbst, nicht nur in den Anweisungen an das Modell. Ein Modell kann Anweisungen ignorieren; ein Tool, das es nicht gibt, kann es nicht verwenden.
  • Lassen Sie die KI Zweifel melden, statt zu raten, besonders bei Beträgen.
  • Fangen Sie klein an: zuerst lesen, dann vorschlagen, und erst ausführen, wenn ein Mensch dazwischen steht. So verhindern Sie auch, dass ein KI-Pilot stecken bleibt.

Wünschen Sie Beratung zu KI-Agenten und ihren Grenzen? Fordern Sie ein kostenloses Beratungsgespräch an.

Aktualisiert am

Weiterlesen

Alle Artikel zu KI
KI

Personendaten in der KI-Cloud: Wer liest mit?

Ein Gespräch mit einem KI-Dienst in der Cloud ist nicht von selbst privat. Ein Fall in Kanada zeigt, was ein Anbieter sehen und weitergeben kann. Was heisst das für das Schweizer Datenschutzgesetz und die DSGVO?