KI-Werkzeuge nach DSGVO prüfen: zehn Kriterien
Kein KI-Werkzeug ist von sich aus datenschutzgerecht. Ob Sie es nach der DSGVO einsetzen können, zeigen Vertrag, Standorte und Einstellungen. Diese zehn Kriterien helfen bei der Prüfung.
Das Wichtigste in Kürze
- Ob ein KI-Einsatz zur DSGVO passt, hängt an Ihrem Zweck, Ihren Daten und am Vertrag mit dem Anbieter, nicht an einem Siegel in der Werbung.
- Die wichtigsten Prüfpunkte: Ort der Verarbeitung samt KI-Modell, Regeln zum Training, Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO, vollständige Liste der Unterauftragsverarbeiter, Protokoll und Rechte.
- Warnzeichen sind „in der EU verfügbar“ statt „in der EU verarbeitet“, Training nur per Widerspruch abwählbar, ein Vertrag nur auf Anfrage und Zertifikate ohne Geltungsbereich.
- Acht schriftliche Fragen an den Anbieter trennen ernsthafte Kandidaten von den übrigen.
Datenschutz bei KI ist kein Zusatz mehr für besonders Vorsichtige. Wer im Betrieb mit Kundendaten, Angeboten oder Personalfragen arbeitet, braucht ein Werkzeug, das sich sauber einsetzen lässt. Zwischen einem grünen Haken auf der Website eines Anbieters und einem Einsatz, den Sie gegenüber Kunden und Aufsichtsbehörde vertreten können, liegt aber einiges.
Dieser Artikel ersetzt keine Rechtsberatung. Er hilft Ihnen, die richtigen Fragen zu stellen.
Warum ein Siegel nicht reicht
Die DSGVO regelt die Verarbeitung personenbezogener Daten, nicht Programme. Verantwortlich bleiben Sie als Unternehmen. Ein KI-Werkzeug kann Ihnen die Arbeit leicht oder schwer machen. Die Verantwortung nimmt es Ihnen nicht ab.
Die Grundsätze sind dieselben wie bei jeder anderen Verarbeitung: Rechtmäßigkeit (Art. 5 Abs. 1 lit. a und Art. 6 DSGVO), Zweckbindung, Datenminimierung, Speicherbegrenzung, Integrität und Vertraulichkeit (Art. 5 Abs. 1 lit. b, c, e und f DSGVO). Ein gutes Werkzeug unterstützt diese Grundsätze technisch, statt sie nur in den häufigen Fragen zu erwähnen.
Wenn ein Anbieter mit Datenschutz wirbt, prüfen Sie deshalb: Gibt es einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO? Wo wird gerechnet, auch beim KI-Modell? Was gilt für das Training mit Ihren Eingaben? Gibt es Rollen und Rechte? Gibt es ein Protokoll? Die ehrliche Antwort steht selten in der Werbung. Sie steht im Vertrag und in der Liste der Unterauftragsverarbeiter.
Zehn Kriterien für die Prüfung
- Ort der Verarbeitung, auch beim Modell. Entscheidend ist nicht nur, wo die Daten liegen, sondern wo das KI-Modell rechnet. Ein Rechenzentrum in Frankfurt hilft wenig, wenn jede Anfrage an ein Modell in den USA geht.
- Regeln zum Training. Steht im Vertrag, ob Ihre Eingaben zum Training von Modellen verwendet werden? Gilt die Regel von Anfang an oder erst nach einem Widerspruch?
- Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO. Öffentlich einsehbar oder als fertiges Dokument, nicht nur „auf Anfrage“.
- Vollständige Liste der Unterauftragsverarbeiter. Mit Sitz und Ort der Verarbeitung, ausdrücklich auch die Anbieter der KI-Modelle.
- Grundlage für Übermittlungen in Drittländer. Bei Modellen in den USA etwa Standardvertragsklauseln (Art. 46 Abs. 2 lit. c DSGVO) und eine Bewertung der Risiken der Übermittlung. Mehr dazu im Artikel Datenschutz bei KI im Unternehmen.
- Protokoll. Wer hat wann was getan, wer hat etwas bestätigt? Ohne Protokoll können Sie im Ernstfall nichts nachweisen.
- Rollen und Rechte. Nicht jede Person darf alles sehen, ändern oder veröffentlichen.
- Sichere Anmeldung. Mindestens ein zweiter Faktor, damit ein erratenes Passwort nicht reicht.
- Auskunft, Löschung, Herausgabe. Die Rechte aus Art. 15, 17 und 20 DSGVO müssen sich im Alltag umsetzen lassen. Wie finden Sie die Daten einer Person, wie löschen Sie sie, wie bekommen Sie Ihre Daten heraus?
- Nachweise für die Sicherheitsmaßnahmen nach Art. 32 DSGVO. Etwa eine Zertifizierung nach ISO 27001 oder ein externer Sicherheitstest, jeweils mit Geltungsbereich. Fehlen solche Nachweise, lassen Sie sich die Maßnahmen beschreiben und entscheiden selbst, ob sie Ihnen reichen.
Ein elftes Kriterium wird oft übersehen, obwohl es in Art. 32 DSGVO ausdrücklich steht: Verfügbarkeit und Belastbarkeit der Systeme (Art. 32 Abs. 1 lit. b DSGVO). Fragen Sie, wie oft gesichert wird, wie lange ältere Stände aufbewahrt werden und ob die Wiederherstellung geübt wird (Art. 32 Abs. 1 lit. c und d DSGVO).
Wofür KI-Werkzeuge im Betrieb genutzt werden
Je nach Aufgabe stellen sich die Fragen unterschiedlich scharf.
Chat mit einem KI-Assistenten
Texte entwerfen, Fragen beantworten, Dokumente zusammenfassen. Hier landen schnell Kundendaten und interne Zahlen in der Eingabe. Prüfen Sie besonders, wo das Modell rechnet und ob Sie das selbst einstellen können.
Dokumente und Belege
Verträge, Rechnungen, Übersetzungen. Alles, was Geschäftsgeheimnisse oder personenbezogene Daten enthält, gehört nicht in ein Werkzeug ohne Vertrag. Wer einen Vertrag in ein Werkzeug im Netz ohne Anmeldung und ohne Vertrag lädt, gibt ihn aus der Hand.
Besprechungen und Sprache
Mitschriften und Zusammenfassungen von Besprechungen verarbeiten Stimmen und oft heikle Themen. Alle Teilnehmenden müssen vorher Bescheid wissen. Klären Sie die Rechtsgrundlage, bevor die erste Aufnahme läuft.
Warnzeichen: daran erkennen Sie schwache Angebote
Bevor Sie unterschreiben, achten Sie auf diese Punkte:
- „In der EU verfügbar“ ist nicht „in der EU verarbeitet“. Die Oberfläche läuft in Frankfurt, das Modell rechnet in den USA. Das ist keine Verarbeitung in der EU.
- Training nur per Widerspruch abwählbar. Ohne aktive Einstellung landen Eingaben im Training. Verlangen Sie eine klare Regel im Vertrag.
- Vertrag nur auf Anfrage. Wer keinen Vertrag zur Auftragsverarbeitung bereitstellt, hat oft keinen fertigen.
- Keine Liste der Unterauftragsverarbeiter. Wenn unklar ist, welcher Modellanbieter dahintersteckt, können Sie das Risiko der Übermittlung nicht bewerten.
- Zertifikat ohne Geltungsbereich. Eine Zertifizierung nur für die Verwaltung des Anbieters hilft Ihnen nicht. Sie muss die KI-Verarbeitung umfassen.
- Pauschale Versprechen ohne Beleg. Wer Sicherheit ohne jede Einschränkung verspricht, aber keinen Vertrag zeigt, sagt Ihnen wenig.
Acht Fragen an den Anbieter
Diese Fragen können Sie so, wie sie sind, per Mail an jeden KI-Anbieter schicken:
- Bitte senden Sie uns Ihren Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO.
- Bitte nennen Sie alle Unterauftragsverarbeiter mit Sitz und Ort der Verarbeitung.
- Wo rechnen die KI-Modelle, können wir das einschränken, und auf welcher Grundlage übermitteln Sie Daten in Drittländer?
- Was gilt für das Training mit unseren Eingaben, und wo steht das im Vertrag?
- Was steht in Ihrem Protokoll, und wer kann es einsehen?
- Wie sind Rollen und Rechte aufgebaut, und wer bei Ihnen hat Zugang zu unseren Daten?
- Welche Nachweise gibt es für Ihre Sicherheitsmaßnahmen, und welchen Geltungsbereich haben sie?
- Wie laufen Auskunft, Löschung und Herausgabe unserer Daten ab?
Wer alle acht Fragen klar und schriftlich beantwortet, ist ein ernsthafter Kandidat. Wer ausweicht oder erst lange intern klären muss, eher nicht.
So beantwortet Cortexion diese Fragen
Wir messen uns an denselben Fragen. Der Stand heute:
- Server: bei Hetzner in Nürnberg und Falkenstein (Deutschland) und Helsinki (Finnland).
- KI-Modelle: Ohne Einstellung rechnen die Modelle von Anthropic und OpenAI in den USA. Mit der Einstellung „Nur KI-Modelle in der EU nutzen“ arbeitet Cortexion nur mit Modellen von Anbietern mit Sitz in der EU, gerechnet in der EU. Eine Fahne am Modell zeigt den Ort. Mehr dazu im Artikel KI-Modelle in der EU nutzen.
- Training und Datenhaltung bei den Modellanbietern: Dazu geben wir keine eigene Zusage. Es gelten die Verträge der Anbieter.
- Vertrag: Ein Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO mit der Liste der Unterauftragsverarbeiter wird auf cortexion.ai veröffentlicht.
- Protokoll: Jedes Unternehmen hat ein eigenes Protokoll, das nur ergänzt wird. Wer speichert oder live schaltet, steht mit Namen in der Versionsgeschichte.
- Rollen und Zugang: Inhaber, Admin und Mitglied, dazu Gruppen. Inhaber und Admins geben Modelle frei oder sperren sie und können je Person Bauen und Veröffentlichen sperren. Inhaber lesen fremde Inhalte nicht; ihre Zugriffe stehen im Protokoll.
- Anmeldung: ein zweiter Faktor per Code-App ist wählbar.
- Verschlüsselung: Die Übertragung ist verschlüsselt. Zugangsdaten liegen verschlüsselt im Tresor Ihres Unternehmens; die KI sieht nur einen Platzhalter.
- Sicherungen: Datenbanken werden alle 10 Sekunden gesichert, ältere Stände 30 Tage aufbewahrt.
- Löschen und Herausgabe: Apps, Websites und Abläufe liegen 30 Tage im Papierkorb. Gelöscht wird auf Verlangen, Ihre Daten bekommen Sie auf Anfrage.
Dazu kommt das Versprechen, an dem sich Cortexion messen lässt: „Sie beschreiben im Chat, was Sie brauchen; die KI erledigt es oder baut Ihnen die App dafür. Live geht nichts ohne Ihre Bestätigung.“ Nach außen handelt die KI nur mit Ihrer Freigabe oder im Auto-Modus, den Sie jederzeit ausschalten können. Wie das im Alltag aussieht, zeigt die Seite Kontrolle, die technischen Einzelheiten stehen unter Sicherheit.
Datenschutz macht KI planbarer
Der häufigste Einwand: Ein sauber geprüftes Werkzeug kostet mehr als ein privates Konto. Beim Listenpreis stimmt das manchmal. Bei den Gesamtkosten selten: Eine Datenpanne kostete 2024 weltweit im Schnitt 4,88 Millionen US-Dollar (IBM, Cost of a Data Breach Report 2024). Selbst wenn Ihr Betrieb weit darunter liegt, sind Aufwand, Meldung und Vertrauensverlust teurer als ein Vertrag mit klaren Regeln.
Bei Cortexion kostet das Paket Kompakt im Jahresvertrag 14,99 € netto je Monat, im Monatsvertrag 17,24 €; eine Lizenz Basis ist enthalten. Nachberechnet wird nie, mehr KI gibt es nur durch Hochstufen.
Auswahl statt Glaubensfrage
Arbeiten Sie die Kriterien oben durch, legen Sie die Antworten zu Ihren Unterlagen und entscheiden Sie dann. Schreiben Sie fest, welche Daten in welches Werkzeug dürfen; wie das geht, steht im Artikel KI-Richtlinie schreiben.
Wenn Sie Cortexion an diesen Fragen messen möchten: Sie können 14 Tage testen, ohne Zahlungsmittel, mit 30.000 KI-Credits; in der Testphase geht nichts live. Die Pakete stehen unter Preise.