Kurz gefasst
Mitarbeitende lassen KI Verträge zusammenfassen, Kundenanfragen beantworten und Dossiers auswerten. Dabei gehen Namen, Adressen, Finanzdaten und manchmal Gesundheitsdaten mit. Viele Nutzer meinen, ein solches Gespräch bleibe zwischen ihnen und der KI. Das ist nicht selbstverständlich.
Bei einem KI-Dienst in der Cloud gehen die Daten auf die Systeme eines Anbieters. Je nach Dienst und Vertrag werden sie gespeichert, automatisch auf Missbrauch geprüft und in bestimmten Fällen von Mitarbeitenden des Anbieters angesehen. Das heisst nicht, dass jemand jedes Gespräch liest. Es heisst aber, dass Sie nicht davon ausgehen können, dass Ihre Informationen nur zur Beantwortung Ihrer Frage dienen.
Was der Fall in Kanada zeigt
Am 10. Februar 2026 tötete eine Achtzehnjährige im kanadischen Tumbler Ridge acht Menschen und danach sich selbst. Später wurde bekannt, dass sie mit ChatGPT gewalttätige Szenarien besprochen hatte.
OpenAI hatte ihr Konto bereits im Juni 2025 mit Systemen zur Missbrauchserkennung bemerkt und gesperrt. Das Unternehmen erwog, die Polizei zu informieren, sah die eigene Schwelle dafür aber nicht erreicht. Nach der Tat nahm es doch Kontakt mit der Polizei auf und gab Auskunft über ihre Nutzung. Im September 2026 reichte die Provinz British Columbia Klage gegen OpenAI ein. Das ist ein Vorwurf; ein Gericht hat darüber noch nicht entschieden.
Für Ihre Organisation geht es nicht um den Inhalt dieser Gespräche, sondern darum, was der Fall über die Möglichkeiten eines Anbieters zeigt:
- Gespräche werden automatisch auf Inhalte geprüft.
- Ein Anbieter kann Verhalten erkennen und Konten sperren.
- Mitarbeitende des Anbieters können Gespräche beurteilen.
- Daten über die Nutzung können an Strafverfolgungsbehörden gehen.
Dass ein Anbieter bei Anzeichen schwerer Gewalt eingreift, ist verständlich. Es macht aber auch klar: Wer vertrauliche Informationen einem externen KI-Dienst übergibt, gibt einen Teil der Kontrolle aus der Hand.
Was das Datenschutzgesetz verlangt
In der Schweiz gilt das Datenschutzgesetz (DSG), revidiert in Kraft seit dem 1. September 2023. Ein verbreitetes Missverständnis ist, Personendaten würden erst bearbeitet, wenn sie gespeichert oder für das Training eines Modells verwendet werden. Auch das Senden an einen KI-Dienst und die Auswertung dort ist eine Bearbeitung. Der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) hat im November 2023 festgehalten, dass das Gesetz direkt auf KI anwendbar ist. Eine Organisation muss deshalb darlegen können, dass:
- die Bearbeitung rechtmässig ist und nach Treu und Glauben erfolgt;
- die Daten nur für einen erkennbaren Zweck verwendet werden;
- nicht mehr Daten mitgehen als nötig;
- die betroffenen Personen informiert sind;
- die Datensicherheit angemessen ist;
- die Bearbeitungen dokumentiert sind.
Bearbeitet ein externer Anbieter die Daten in Ihrem Auftrag, braucht es eine Vereinbarung über die Auftragsbearbeitung (Art. 9 DSG). Gehen die Daten ins Ausland, muss dort ein angemessener Schutz gewährleistet sein (Art. 16 DSG). Gesundheitsdaten gelten als besonders schützenswert. Bei bestimmten vorsätzlichen Verstössen kann die verantwortliche Person mit einer Busse bis 250'000 Franken bestraft werden.
Das Gesetz verbietet einen KI-Dienst in der Cloud also nicht. Ein Geschäftsdienst mit guten Vereinbarungen und angemessener Sicherheit ist möglich. Eine Mitarbeiterin, die ein ganzes Personaldossier in ein privates Konto kopiert, ist es nicht. Dass ein Dienst verfügbar ist, macht ihn noch nicht geeignet für die Daten Ihrer Organisation.
Über die Schweiz hinaus: DSGVO und Vereinigtes Königreich
Hat Ihre Organisation Kunden oder Mitarbeitende in der EU, gilt für deren Daten zusätzlich die Datenschutz-Grundverordnung (DSGVO). Sie verlangt für jede Bearbeitung eine Rechtsgrundlage, einen Vertrag mit dem Auftragsverarbeiter (Art. 28 DSGVO) und zusätzliche Garantien, wenn Daten den Europäischen Wirtschaftsraum verlassen. Die europäischen Aufsichtsbehörden haben bestätigt, dass KI unter diese Regeln fällt. Das Vereinigte Königreich hat eine eigene Fassung, die UK GDPR.
Wer in mehreren Ländern tätig ist, hat also mit mehreren Gesetzen zu tun, und bei einem Dienst eines amerikanischen Anbieters auch mit der Frage, welchem Recht dieser Anbieter selbst untersteht. Je weniger Daten Ihre Umgebung verlassen, desto einfacher wird das.
Die Fragen, die offen bleiben
Ein Mitarbeiter bittet einen KI-Assistenten, die Krankheitsabsenzen seiner Abteilung auszuwerten. Er lädt eine Excel-Datei mit Namen, Absenztagen, medizinischen Bemerkungen und Vereinbarungen zur Wiedereingliederung hoch. Nach wenigen Sekunden hat er eine brauchbare Auswertung.
Für ihn ist das ein Erfolg. Für die Organisation bleiben Fragen. Wo wurden die Daten bearbeitet? Wurden sie gespeichert, und wie lange? Wer hat Zugriff? Können Sie darlegen, dass es zulässig war?
Ein Anbieter, der verspricht, Ihre Daten nicht für das Training zu verwenden, sagt damit nichts über Speicherung, Protokolle und Sicherheitsprüfungen. Nicht für das Training verwendet ist nicht dasselbe wie nicht bearbeitet.
Lokale KI: die Kontrolle zurück
Die Alternative ist lokale KI: Das Modell läuft auf Systemen, die Sie selbst betreiben oder unter Ihrer direkten Kontrolle betreiben lassen. Sie bestimmen, wo die Daten bearbeitet werden, wer Zugriff hat und was aufgezeichnet wird.
- Daten bleiben im Haus. Sensible Informationen verlassen Ihre eigene Umgebung nicht.
- Eigene Regeln. Sie legen fest, was für Speicherung, Protokolle und Zugriff gilt.
- Bestehende Rechte. Die KI knüpft an die Berechtigungen an, die Sie bereits haben.
- Planbare Kosten. Bei täglicher Nutzung ist der lokale Betrieb oft günstig.
- Weniger Abhängigkeit. Geänderte Bedingungen eines Anbieters treffen Sie weniger.
Lokale KI macht Sie nicht von selbst gesetzeskonform. Rechtmässigkeit, Zugriff und Aufbewahrungsfristen bleiben Ihre Verantwortung, in jedem Land. Der Unterschied: Sie haben die Mittel in der Hand, diese Regeln selbst durchzusetzen. Ein Rechenzentrum braucht es dafür nicht: Moderne offene Modelle laufen auf kompakter Hardware.
Unser Vorgehen
KI sollte kein loses Hilfsmittel sein, in das Mitarbeitende nach eigenem Ermessen Daten eingeben. Wir machen KI zu einem Teil Ihrer IT-Architektur, mit denselben Anforderungen wie für jedes andere geschäftskritische System.
- Rechte folgen dem Nutzer. Die KI sieht nur, was der Nutzer selbst sehen darf.
- Kontrollierte Schnittstellen. Daten gelangen über feste, betreute Schnittstellen zur KI.
- Lokal, wo es geht. Bearbeitung auf eigenen, betreuten Systemen.
Unser Grundsatz: Bringen Sie die KI zu Ihren Daten, statt Ihre Daten in irgendeine KI-Cloud.
Wünschen Sie Beratung zu Personendaten und KI? Fordern Sie ein kostenloses Beratungsgespräch an.
Quellen
Aktualisiert am