Zum Inhalt springen
Cortexion – zur Startseite

Recht und Datenschutz

Schatten-KI: das unsichtbare Risiko im Unternehmen

Beschäftigte kopieren Verträge in private KI-Konten, lassen Lebensläufe bewerten oder Kundenanfragen beantworten, oft gut gemeint und ohne Wissen der Geschäftsführung. So erkennen Sie Schatten-KI und so ersetzen Sie sie.

· aktualisiert am · 6 Min. Lesezeit · von

Das Wichtigste in Kürze

  • Schatten-KI heißt: Beschäftigte nutzen private KI-Werkzeuge mit Firmendaten, ohne dass Geschäftsführung, Datenschutz oder IT davon wissen.
  • Die Risiken reichen von Verstößen gegen die DSGVO und Training mit Firmendaten bis zum Verlust des Schutzes von Geschäftsgeheimnissen.
  • Sperren und Drohungen verlagern das Problem nur aufs private Handy; wirksam sind Aufklärung, eine genehmigte Alternative und eine KI-Richtlinie.
  • Ein Plan für drei Monate beginnt mit einer anonymen Umfrage ohne Folgen für die Antwortenden.

Schatten-KI ist das, was früher Schatten-IT war, nur schneller: Beschäftigte nutzen private KI-Werkzeuge mit Firmendaten, ohne dass Geschäftsführung, Datenschutz oder IT davon wissen. Meist steckt keine böse Absicht dahinter. Die Leute wollen ihre Arbeit gut und schnell erledigen. Genau deshalb ist das Risiko so schwer zu sehen.

Dieser Artikel ersetzt keine Rechtsberatung. Er zeigt, woran Sie Schatten-KI erkennen und was dagegen hilft.

Was Schatten-KI konkret ist

  • Ein Mitarbeiter im Vertrieb kopiert eine Kundenanfrage in sein privates KI-Konto, um schnell eine Antwort zu formulieren.
  • Eine Kollegin aus der Personalabteilung lässt Lebensläufe von einer KI bewerten.
  • Jemand aus der Buchhaltung gibt Quartalszahlen in einen KI-Chat, weil er „nur kurz“ eine Auswertung will.
  • Im Marketing werden Fotos von Kunden in einen Bildgenerator geladen.
  • Ein Entwickler lässt sich Code über sein privates Konto vorschlagen und gibt dabei Quellcode des Kunden preis.

Jeder dieser Fälle ist gut gemeint („spart Zeit, ist doch nicht schlimm“) und fast immer datenschutzrechtlich heikel.

Die fünf Risiken im Einzelnen

1. Verstoß gegen die DSGVO

Gibt ein Beschäftigter Kundendaten in ein privates KI-Konto, bleibt das Unternehmen Verantwortlicher (Art. 4 Nr. 7 DSGVO). Einen Vertrag zur Auftragsverarbeitung mit dem Anbieter gibt es aber nicht. Der Bußgeldrahmen reicht bis 20 Mio. € oder bei Unternehmen bis 4 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahrs, je nachdem, welcher Betrag höher ist (Art. 83 Abs. 5 DSGVO); für Pflichten wie den Vertrag zur Auftragsverarbeitung gilt ein Rahmen bis 10 Mio. € oder 2 % (Art. 83 Abs. 4 DSGVO). Fällt der Vorfall als Datenpanne auf, ist er meist meldepflichtig: unverzüglich und möglichst mit einer Frist von 72 Stunden, nachdem das Unternehmen davon erfahren hat; wer später meldet, muss die Verzögerung begründen (Art. 33 Abs. 1 DSGVO).

2. Training mit Firmendaten

Bei privaten Konten werden Eingaben oft zum Training von Modellen verwendet, solange man nicht widerspricht. Ihre Verträge, Preise und Abläufe können so in ein Modell wandern. Was danach mit ihnen geschieht, haben Sie nicht mehr in der Hand.

3. Verlust von Geschäftsgeheimnissen

Das Geschäftsgeheimnisgesetz schützt Informationen nur, wenn das Unternehmen den Umständen nach angemessene Geheimhaltungsmaßnahmen getroffen hat (§ 2 Nr. 1 lit. b GeschGehG). Wer keine Regeln für KI hat, riskiert, dass ein Gericht den Schutz später nicht anerkennt. Bei einem Streit ist das ein ernstes Problem.

4. Urheberrecht und Lizenzen

Beschäftigte laden Quellcode, Entwürfe oder Unterlagen hoch, die nicht für fremde Verarbeitung freigegeben sind. Das kann gegen Lizenzbedingungen oder gegen Verschwiegenheitsvereinbarungen mit Kunden verstoßen.

5. Nachweise und Prüfungen

In regulierten Branchen, etwa Finanzen, Gesundheit oder Energie, kann ein Vorfall mit Schatten-KI Folgen für Prüfungen und Nachweise haben. Und wer nicht weiß, welche KI im Haus genutzt wird, kann auch die Pflichten aus dem EU AI Act nicht sauber erfüllen.

Woran Sie Schatten-KI erkennen

  • Texte werden plötzlich auffallend glatt und auffallend schnell fertig.
  • In Gesprächen fallen Sätze wie „Ich frag das mal kurz die KI“.
  • Auf Firmenrechnern tauchen Anmeldungen bei KI-Diensten auf, für die es kein Firmenkonto gibt.
  • Rechnungen für KI-Abos landen in Spesenabrechnungen.

Bevor Sie Rechner oder Netz auswerten, sprechen Sie mit Datenschutz und, falls es einen gibt, mit dem Betriebsrat. Auch das Erkennen von Schatten-KI hat Grenzen.

Was nicht funktioniert

  • Sperren: Dann nutzen die Leute ihr privates Handy, und das Problem wird unsichtbar.
  • Drohen ohne Alternative: Das frustriert und treibt erst recht in den Schatten.
  • „Bei uns nutzt niemand KI.“ Doch, nur wissen Sie es nicht.

Was funktioniert: drei Stufen

Stufe 1: Aufklären

Eine Pflichtveranstaltung von etwa einer Stunde mit klaren Beispielen: Was geht, was geht nicht, was sind die echten Risiken? Wichtig ist der Ton. Ohne Drohung, denn die meisten handeln aus Unsicherheit, nicht aus böser Absicht.

Stufe 2: Eine genehmigte Alternative anbieten

Das ist der Kern. Ohne offizielle KI im Betrieb weichen die Leute auf private Konten aus. Stellen Sie ein Werkzeug bereit, das Ihre Leute gern nutzen und das Sie vertreten können. Woran Sie ein solches Werkzeug erkennen, steht im Artikel KI-Werkzeuge nach DSGVO prüfen. Gegen Schatten-IT half nie das Verbot, sondern ein gutes eigenes Angebot. Bei KI ist es genauso.

Mit Cortexion bekommt jede Person mit Lizenz einen eigenen Chat mit dem KI-Assistenten: Fragen beantworten, Texte entwerfen, Dateien lesen, im Internet recherchieren. Für Ihre Aufsicht wichtig:

  • Inhaber und Admins geben Modelle frei oder sperren sie. Eine Fahne am Modell zeigt, wo es rechnet.
  • Mit der Einstellung „Nur KI-Modelle in der EU nutzen“ arbeiten nur Modelle von Anbietern mit Sitz in der EU, gerechnet in der EU. Ohne diese Einstellung rechnen die Modelle von Anthropic und OpenAI in den USA.
  • Zum Training und zur Datenhaltung bei den Modellanbietern gibt Cortexion keine eigene Zusage; es gelten die Verträge der Anbieter.
  • Es gibt einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO, der auf cortexion.ai veröffentlicht wird.
  • Jedes Unternehmen hat ein eigenes Protokoll. Inhaber lesen fremde Inhalte nicht; ihre Zugriffe stehen im Protokoll.

Der letzte Punkt ist für die Akzeptanz wichtiger, als er klingt. Wer fürchtet, dass die Chefin jede Frage mitliest, bleibt lieber beim privaten Konto. Das Gedächtnis des Assistenten ist je Person und nur für sie sichtbar.

Stufe 3: KI-Richtlinie und Schulung

Eine Liste der erlaubten Werkzeuge, eine Liste der Daten, die nicht hineingehören, und ein klarer Weg, wen man bei Unsicherheit fragt. Wie Sie so eine Richtlinie aufbauen, steht im Artikel KI-Richtlinie schreiben.

Ein Plan für drei Monate

ZeitraumWas passiert
Woche 1 und 2Anonyme Umfrage: „Welche KI-Werkzeuge nutzen Sie wofür?“ Offen und ohne Folgen für die Antwortenden.
Woche 3Geschäftsführung und Datenschutz informieren, Betriebsrat einbinden.
Woche 4 bis 6Werkzeug nach klaren Kriterien auswählen, Vertrag zur Auftragsverarbeitung abschließen.
Woche 7 und 8KI-Richtlinie schreiben, mit Betriebsrat gegebenenfalls eine Betriebsvereinbarung.
Woche 9 und 10Schulung für alle.
Woche 11 bis 13Werkzeug einführen, die ersten Einsatzzwecke aus der Umfrage übernehmen.

Was Sie nach drei Monaten sehen sollten

  • Wie viele Beschäftigte das genehmigte Werkzeug tatsächlich nutzen.
  • Welche der früher privaten Einsatzzwecke jetzt im genehmigten Werkzeug laufen.
  • Was eine zweite anonyme Umfrage über private Konten ergibt.

Schatten-KI lässt sich nicht verbieten, nur ersetzen. Wenn Sie ausprobieren möchten, ob Cortexion Ihren Leuten das private Konto ersetzt: Sie können 14 Tage testen, ohne Zahlungsmittel, mit 30.000 KI-Credits für das ganze Unternehmen; in der Testphase geht nichts live. Die Pakete stehen unter Preise.

Porträt von Markus Offermann

Geschäftsführer der Cortexion GmbH. Er schreibt über Datenschutz, den EU AI Act, KI-Richtlinien, den Betriebsrat und über Freigaben.