Zum Inhalt

Eine Mitarbeiterin teilt entgegen den Vereinbarungen Patientendaten mit einem öffentlichen Chatbot. Das ist ein Datenleck.

Die niederländische Datenschutzbehörde erhielt eine Meldung über einen solchen Vorfall in einer Hausarztpraxis. Mit KI, die in Ihrer eigenen Umgebung läuft, verlassen Daten das Unternehmen nicht.

Das Problem

Eine Mitarbeiterin kopiert eine Kunden-E-Mail, ein Patientendossier oder eine Offerte in einen öffentlichen KI-Chatbot, um schnell etwas damit zu erledigen. Damit landen Personendaten bei einem externen Anbieter, oft ausserhalb Europas, und können gespeichert oder zum Trainieren des Modells verwendet werden. Die Autoriteit Persoonsgegevens (die niederländische Datenschutzbehörde) erhielt bereits mehrere Meldungen solcher Datenlecks, unter anderem von einer Hausarztpraxis und einem Telekomunternehmen, und ruft Organisationen auf, klare Regeln zu vereinbaren.

Warum es immer wieder vorkommt

  • KI-Chatbots sind kostenlos, einfach und wirklich nützlich.
  • Es gibt keine freigegebene Alternative, also nutzen die Leute, was da ist.
  • Nicht allen ist bewusst, dass die Eingabe in einen Chatbot dasselbe ist, wie Daten mit Dritten zu teilen.

Was der AI Act verlangt

Organisationen, die KI einsetzen, müssen nach dem AI Act (der KI-Verordnung der EU) die KI-Kompetenz der Personen fördern, die damit arbeiten. Stimmen Sie die Erklärung der Möglichkeiten und Risiken auf deren Arbeit ab. Das gilt auch für KMU.

Unser Vorgehen

  1. Lokale KI als freigegebene Alternative. Ein KI-Angebot, das auf Ihrer eigenen Hardware oder in Ihrer eigenen Umgebung läuft. Daten gehen nicht nach aussen, und es gibt keine Kosten pro Anfrage.
  2. Klare Regeln. Welche Daten in welche KI-Anwendung dürfen und welche nicht.
  3. Rechte pro Anwendung. Die KI erhält nur Zugriff auf das, was nötig ist, und darf lesen und vorschlagen, aber nicht selbst ausführen.
  4. Erklärung für Mitarbeitende. Kurz und praktisch, damit der sichere Weg auch der naheliegende Weg ist.

Worauf Sie achten sollten

  • Ein Verbot ohne Alternative funktioniert nicht; die Leute nutzen KI dann trotzdem. Das nennt man Schatten-KI.
  • Halten Sie fest, welche KI-Anwendungen es gibt und wofür.
  • Passiert es trotzdem: Ein Datenleck mit Personendaten müssen Sie unter Umständen melden.

Wünschen Sie Beratung zum sicheren Arbeiten mit KI? Fordern Sie ein kostenloses Beratungsgespräch an.

Quellen

Aktualisiert am

Weiterlesen

Alle Artikel zu KI
KI

Personendaten in der KI-Cloud: Wer liest mit?

Ein Gespräch mit einem KI-Dienst in der Cloud ist nicht von selbst privat. Ein Fall in Kanada zeigt, was ein Anbieter sehen und weitergeben kann. Was heisst das für das Schweizer Datenschutzgesetz und die DSGVO?