Das Problem
Eine Mitarbeiterin kopiert eine Kunden-E-Mail, ein Patientendossier oder eine Offerte in einen öffentlichen KI-Chatbot, um schnell etwas damit zu erledigen. Damit landen Personendaten bei einem externen Anbieter, oft ausserhalb Europas, und können gespeichert oder zum Trainieren des Modells verwendet werden. Die Autoriteit Persoonsgegevens (die niederländische Datenschutzbehörde) erhielt bereits mehrere Meldungen solcher Datenlecks, unter anderem von einer Hausarztpraxis und einem Telekomunternehmen, und ruft Organisationen auf, klare Regeln zu vereinbaren.
Warum es immer wieder vorkommt
- KI-Chatbots sind kostenlos, einfach und wirklich nützlich.
- Es gibt keine freigegebene Alternative, also nutzen die Leute, was da ist.
- Nicht allen ist bewusst, dass die Eingabe in einen Chatbot dasselbe ist, wie Daten mit Dritten zu teilen.
Was der AI Act verlangt
Organisationen, die KI einsetzen, müssen nach dem AI Act (der KI-Verordnung der EU) die KI-Kompetenz der Personen fördern, die damit arbeiten. Stimmen Sie die Erklärung der Möglichkeiten und Risiken auf deren Arbeit ab. Das gilt auch für KMU.
Unser Vorgehen
- Lokale KI als freigegebene Alternative. Ein KI-Angebot, das auf Ihrer eigenen Hardware oder in Ihrer eigenen Umgebung läuft. Daten gehen nicht nach aussen, und es gibt keine Kosten pro Anfrage.
- Klare Regeln. Welche Daten in welche KI-Anwendung dürfen und welche nicht.
- Rechte pro Anwendung. Die KI erhält nur Zugriff auf das, was nötig ist, und darf lesen und vorschlagen, aber nicht selbst ausführen.
- Erklärung für Mitarbeitende. Kurz und praktisch, damit der sichere Weg auch der naheliegende Weg ist.
Worauf Sie achten sollten
- Ein Verbot ohne Alternative funktioniert nicht; die Leute nutzen KI dann trotzdem. Das nennt man Schatten-KI.
- Halten Sie fest, welche KI-Anwendungen es gibt und wofür.
- Passiert es trotzdem: Ein Datenleck mit Personendaten müssen Sie unter Umständen melden.
Wünschen Sie Beratung zum sicheren Arbeiten mit KI? Fordern Sie ein kostenloses Beratungsgespräch an.
Quellen
Aktualisiert am