Zum Inhalt springen
Cortexion – zur Startseite

Recht und Datenschutz

Datenschutz bei KI im Unternehmen: acht Bausteine

KI und DSGVO sind kein Widerspruch, aber sie verlangen Vorarbeit. Wir gehen die acht Bausteine durch, mit denen Sie KI im Unternehmen sauber aufstellen.

· aktualisiert am · 7 Min. Lesezeit · von

Das Wichtigste in Kürze

  • Ein sauberer KI-Einsatz beruht auf acht Bausteinen: Rechtsgrundlage, Vertrag zur Auftragsverarbeitung, Schutzmaßnahmen, Prüfung der Folgenabschätzung, Information, Verzeichnis, Schulung mit Richtlinie und Rechte der Betroffenen.
  • Jeder Einsatzzweck braucht eine festgehaltene Rechtsgrundlage nach Art. 6 DSGVO, etwa Vertragserfüllung oder berechtigtes Interesse.
  • Im Vertrag zur Auftragsverarbeitung zählen vor allem Ort der Verarbeitung, Regeln zum Training, Löschung und die Liste der Unterauftragsverarbeiter.
  • Eine Folgenabschätzung ist meist nötig, wenn KI Bewerbungen vorsortiert, Kunden bewertet, Leistung von Beschäftigten auswertet oder besondere Daten verarbeitet.

KI und DSGVO sind kein Widerspruch. Wer im Unternehmen KI einführt, muss aber Vorarbeit leisten. Sonst drohen Bußgelder, Abmahnungen und im schlimmsten Fall der Verlust von Kundendaten. Die gute Nachricht: Die Bausteine sind dieselben wie bei jeder anderen Verarbeitung, nur mit ein paar Besonderheiten.

Dieser Artikel ersetzt keine Rechtsberatung. Sprechen Sie im Zweifel mit Ihrer oder Ihrem Datenschutzbeauftragten.

1. Rechtsgrundlage klären (Art. 6 DSGVO)

Jede Verarbeitung personenbezogener Daten durch eine KI braucht eine Rechtsgrundlage. Im Alltag sind es meist diese:

  • Art. 6 Abs. 1 lit. b, Vertragserfüllung: etwa wenn die KI hilft, eine Kundenanfrage zu beantworten.
  • Art. 6 Abs. 1 lit. f, berechtigtes Interesse: etwa für interne Hilfen beim Schreiben und Zusammenfassen. Das verlangt eine Abwägung mit den Interessen der Betroffenen.
  • Art. 6 Abs. 1 lit. a, Einwilligung: etwa wenn Stimmen in einer Besprechung mitgeschrieben werden.
  • Daten von Beschäftigten: etwa im Bewerbungsverfahren. Hier gelten besondere Regeln; klären Sie die Grundlage mit Ihrem Datenschutzbeauftragten.

Halten Sie für jeden Einsatzzweck fest, welche Rechtsgrundlage greift. Diese Begründung gehört ins Verzeichnis der Verarbeitungstätigkeiten (Baustein 6).

2. Vertrag zur Auftragsverarbeitung abschließen

Der KI-Anbieter verarbeitet Daten in Ihrem Auftrag. Dafür brauchen Sie nach Art. 28 Abs. 3 DSGVO einen Vertrag. Achten Sie auf:

  • klare Zwecke der Verarbeitung,
  • den Ort der Verarbeitung, auch der KI-Modelle (in der EU, sonst eine Grundlage wie Standardvertragsklauseln nach Art. 46 Abs. 2 lit. c DSGVO und eine Bewertung der Risiken),
  • eine klare Regel, ob Ihre Daten zum Training von Modellen verwendet werden,
  • Löschfristen,
  • die vollständige Liste der Unterauftragsverarbeiter.

Bei Cortexion wird der Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO samt Liste der Unterauftragsverarbeiter auf cortexion.ai veröffentlicht. Zum Training und zur Datenhaltung bei den Modellanbietern geben wir keine eigene Zusage; es gelten die Verträge der Anbieter. Worauf Sie bei jedem Anbieter achten sollten, steht im Artikel KI-Werkzeuge nach DSGVO prüfen.

3. Technische und organisatorische Maßnahmen

Art. 32 Abs. 1 DSGVO verlangt Schutzmaßnahmen, die dem Stand der Technik und dem Risiko angemessen sind. Für die Arbeit mit KI sind wichtig:

  • Verschlüsselung: bei der Übertragung immer, bei der Speicherung, wo möglich. Fragen Sie den Anbieter, was genau verschlüsselt ist.
  • Rollen und Rechte: Wer darf welche Daten sehen, wer darf etwas veröffentlichen?
  • Protokoll: Wer hat wann was mit der KI getan, wer hat etwas bestätigt?
  • Anmeldung mit zweitem Faktor.
  • Sparsame Eingaben: Geben Sie der KI nur, was sie für die Aufgabe braucht.

Bei Cortexion ist die Übertragung verschlüsselt, Zugangsdaten liegen verschlüsselt im Tresor des Unternehmens, und die KI sieht davon nur einen Platzhalter. Es gibt die Rollen Inhaber, Admin und Mitglied, dazu Gruppen, ein Protokoll je Unternehmen und einen zweiten Faktor per Code-App. Mehr unter Sicherheit.

4. Datenschutz-Folgenabschätzung prüfen (Art. 35 DSGVO)

Bei voraussichtlich hohem Risiko für die Betroffenen ist eine Folgenabschätzung Pflicht (Art. 35 Abs. 1 DSGVO). Bei KI ist sie meist nötig, wenn Sie:

  • Bewerbungen automatisch vorsortieren,
  • Kundendaten auswerten, um Personen zu bewerten oder einzustufen,
  • die Leistung von Beschäftigten auswerten,
  • besondere Kategorien von Daten verarbeiten, etwa Gesundheit oder Religion.

Für übliche Büroarbeit, etwa Texte entwerfen oder Belege vorbereiten, brauchen Sie sie meist nicht. Eine kurze Begründung, warum keine nötig ist, gehört trotzdem in die Akte.

5. Informieren (Art. 13 und 14 DSGVO)

Wer Daten in eine KI gibt, muss die betroffenen Personen darüber informieren. Praktisch heißt das:

  • die Datenschutzerklärung um die KI-Verarbeitung ergänzen,
  • Beschäftigte per Mail oder Aushang informieren,
  • Kunden an den passenden Stellen informieren, etwa mit einem Hinweis, dass eine Antwort mit KI vorbereitet wurde.

Wer mit dem Assistenten von Cortexion schreibt, sieht unter dem Eingabefeld fest den Satz „Sie sprechen mit einer KI.“

6. Verzeichnis der Verarbeitungstätigkeiten ergänzen (Art. 30 DSGVO)

Jeder Einsatzzweck ist ein Eintrag im Verzeichnis. Hinein gehören Zweck, Kategorien von Daten und Betroffenen, Empfänger, Löschfristen und die Schutzmaßnahmen. Halten Sie die Einträge so kurz wie möglich und so vollständig wie nötig.

7. Schulung und KI-Richtlinie

Datenschutz lässt sich nicht an die KI abgeben. Jede Person, die KI nutzt, muss wissen:

  • Welche Daten dürfen hinein, welche nicht? Eine klare Liste der verbotenen Daten hilft.
  • Wen frage ich, wenn ich unsicher bin?
  • Was passiert mit den Ergebnissen der KI? Aussagen prüfen, Quellen ansehen.
  • Wie gehe ich mit Daten von Kunden, Bewerbern und Kollegen um?

Bewährt hat sich eine kurze Pflichtschulung beim Einstieg, eine jährliche Auffrischung und eine schriftliche KI-Richtlinie, die jede neue Person mit Unterschrift bestätigt. Dazu passt die Pflicht zur KI-Kompetenz aus dem EU AI Act: Wer KI-Systeme im Betrieb einsetzt, ergreift Maßnahmen, um die Entwicklung der KI-Kompetenz des Personals zu unterstützen; ein bestimmtes Niveau muss er nicht sicherstellen (Art. 4 Abs. 1 der KI-Verordnung (EU) 2024/1689 in der Fassung der Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026).

8. Rechte der Betroffenen umsetzen (Art. 15 bis 22 DSGVO)

Auskunft, Berichtigung, Löschung, Herausgabe, Widerspruch und das Recht, nicht allein einer automatisierten Entscheidung unterworfen zu sein: Diese Rechte gelten auch, wenn eine KI im Spiel ist. Für die Praxis heißt das:

  • Sie müssen Daten einer Person finden und herausgeben können.
  • Einträge müssen sich einzeln löschen lassen.
  • Bei Entscheidungen mit rechtlicher Wirkung muss ein Mensch prüfen und ändern können (Art. 22 DSGVO).

Bei Cortexion hat jede Person ein eigenes Gedächtnis des Assistenten, nur für sie sichtbar, änderbar und löschbar. Apps, Websites und Abläufe liegen nach dem Löschen 30 Tage im Papierkorb. Ihre Daten bekommen Sie auf Anfrage. Und für Entscheidungen gilt: Live geht nichts ohne Ihre Bestätigung. Nach außen handelt die KI nur mit Freigabe oder im Auto-Modus, den Sie jederzeit ausschalten können.

Checkliste für den ersten Monat

  • Vertrag zur Auftragsverarbeitung beim KI-Anbieter anfordern und prüfen lassen.
  • Die ersten Einsatzzwecke mit ihren Rechtsgrundlagen in eine Tabelle schreiben.
  • Je Einsatzzweck einen Eintrag im Verzeichnis anlegen.
  • Prüfen, ob eine Folgenabschätzung nötig ist; falls ja, Termin mit dem Datenschutzbeauftragten.
  • Datenschutzerklärung und Bedingungen anpassen.
  • Betriebsrat einbinden, falls es einen gibt.
  • KI-Richtlinie schreiben und an alle verteilen.
  • Pflichtschulung für alle durchführen, die viel mit KI arbeiten.

Häufige Fehler im Mittelstand

  • „Das ist nur privat.“ Wenn Beschäftigte Firmendaten in ein privates KI-Konto geben, ist das Schatten-KI. Sobald es um Daten aus dem Betrieb geht, ist das Unternehmen verantwortlich.
  • „Ein Anbieter aus den USA geht gar nicht.“ Übermittlungen in die USA sind mit einer geeigneten Grundlage möglich, etwa Standardvertragsklauseln und einer Bewertung der Risiken. Wer das vermeiden will, wählt Modelle, die in der EU rechnen. Bei Cortexion geht das mit der Einstellung „Nur KI-Modelle in der EU nutzen“: Dann arbeiten nur Modelle von Anbietern mit Sitz in der EU, gerechnet in der EU. Ohne diese Einstellung rechnen die Modelle von Anthropic und OpenAI in den USA.
  • „Die Server stehen in Deutschland, also passt alles.“ Der Standort der Server ist nur ein Teil. Entscheidend ist auch, wo das Modell rechnet. Die Server von Cortexion stehen bei Hetzner in Nürnberg und Falkenstein (Deutschland) und Helsinki (Finnland).
  • „Wir haben einen Vertrag unterschrieben, das reicht.“ Der Vertrag zur Auftragsverarbeitung ist einer von acht Bausteinen, nicht der einzige.

Wenn Sie sehen möchten, wie Rollen, Protokoll, Freigaben und die Einstellung für Modelle in der EU in Cortexion aussehen: Sie können 14 Tage testen, ohne Zahlungsmittel, mit 30.000 KI-Credits; in der Testphase geht nichts live. Die Pakete stehen unter Preise.

Porträt von Markus Offermann

Geschäftsführer der Cortexion GmbH. Er schreibt über Datenschutz, den EU AI Act, KI-Richtlinien, den Betriebsrat und über Freigaben.