Kurz gesagt
Ein KI-Agent ist ein Sprachmodell, das selbst Tools verwenden darf: Daten nachschlagen, Berechnungen starten, Dokumente lesen. Das macht ihn viel nützlicher als einen Chatbot. Ein Agent, der aber auch selbst buchen, versenden oder löschen darf, kann in wenigen Sekunden grossen Schaden anrichten. Darum legen wir fest: KI schlägt vor, der Mensch entscheidet.
Wie Sie die Grenze ziehen
- Lesen ist erlaubt. Im Rahmen der Rechte des Benutzers darf der Agent Daten in der Buchhaltung nachschlagen, Dokumente durchsuchen und frühere Entscheidungen wiederfinden.
- Rechnen und vorschlagen ist erlaubt. Szenarien durchrechnen, Varianten vergleichen, einen Entwurf erstellen.
- Ausführen nicht. Buchen, bezahlen, an einen Kunden senden oder eine endgültige Änderung vornehmen ist eine menschliche Handlung. Diese Aktion gibt es für die KI schlicht nicht als Tool.
- Zuerst Belege, dann die Schlussfolgerung. Der Agent sucht zuerst, was bereits bekannt ist, und bespricht es, bevor er etwas festhält.
Ein Schritt weiter: weniger Rechte für kleinere Modelle
Läuft der Agent auf einem lokalen Modell, können Sie die Rechte noch weiter einschränken, zum Beispiel auf reines Lesen, bis Sie sicher sind, dass das Modell zuverlässig genug ist. So bauen Sie Vertrauen Schritt für Schritt auf.
Halten Sie fest, was die KI getan hat
Protokollieren Sie, welche Tools der Agent aufgerufen hat, mit welchen Daten, und was er vorgeschlagen hat. Liest die KI Daten aus einem gescannten Dokument, halten Sie auch fest, wer oder was jede Zahl gelesen hat. Dann ist jedes Ergebnis nachvollziehbar.
Worauf Sie achten sollten
- Formulieren Sie die Regeln im System selbst, nicht nur in den Anweisungen an das Modell. Ein Modell kann Anweisungen ignorieren; ein Tool, das es nicht gibt, kann es nicht verwenden.
- Lassen Sie die KI Zweifel melden, statt zu raten, besonders bei Beträgen.
- Fangen Sie klein an: zuerst lesen, dann vorschlagen, und erst ausführen, wenn ein Mensch dazwischen steht. So verhindern Sie auch, dass ein KI-Pilot stecken bleibt.
Wünschen Sie Beratung zu KI-Agenten und ihren Grenzen? Fordern Sie ein kostenloses Beratungsgespräch an.
Aktualisiert am