Shadow AI: unkontrollierte KI-Nutzung in den Griff bekommen

Was Shadow AI eigentlich ist

Shadow AI (auch Schatten-KI) bezeichnet jede Nutzung von KI-Werkzeugen im Arbeitsalltag, die ausserhalb der Kontrolle und ohne Wissen der IT- oder Fachverantwortlichen stattfindet. Das ist keine Randerscheinung mehr, sondern in den meisten Betrieben bereits Alltag: eine Person aus dem Vertrieb fasst eine Kunden-E-Mail mit ihrem privaten ChatGPT-Konto zusammen, jemand aus der Buchhaltung lädt eine Excel-Tabelle mit Zahlen in ein Gratis-Tool, um eine Grafik daraus zu machen, und in der Entwicklung läuft eine Browser-Erweiterung mit, die unbemerkt Code-Schnipsel an einen fremden Server schickt.

Der Begriff ist bewusst an “Schatten-IT” angelehnt - jenes seit Jahrzehnten bekannte Phänomen, dass Mitarbeitende eigene Tools (private Cloud-Speicher, nicht freigegebene Apps) nutzen, wenn die offizielle IT-Ausstattung als zu langsam oder zu umständlich empfunden wird. Bei KI passiert das nur ungleich schneller: Ein neuer KI-Chatbot ist in 30 Sekunden im Browser-Tab offen, ganz ohne Installation, ohne Freigabeprozess, ohne dass irgendein Log-Eintrag in der Firmen-IT entsteht.

Wichtig für die Einordnung: Shadow AI entsteht in den allermeisten Fällen nicht aus böser Absicht. Mitarbeitende wollen schneller und besser arbeiten, sehen ein legitimes Problem (eine lange E-Mail, ein mühsamer Report) und ein naheliegendes Werkzeug dafür. Das Fehlen einer Regel wird nicht als Verbot verstanden, sondern als “wurde offenbar noch nicht geklärt, also nutze ich, was ich kenne”. Diese Einordnung ist entscheidend für den richtigen Umgang damit, dazu später mehr.

Welche Formen Shadow AI annimmt

Shadow AI ist breiter als “jemand nutzt ChatGPT privat”. In der Praxis begegnen dir typischerweise fünf Varianten:

1. Private Gratis-Accounts bei bekannten Chat-Tools (ChatGPT, Gemini, Claude als Privatkonto) für Arbeitsaufgaben.
2. KI-Funktionen in bereits genutzter Software, die niemand aktiv eingeschaltet, aber auch niemand geprüft hat - viele Office-, CRM- und Notiz-Apps haben mittlerweile automatisch aktivierte KI-Zusatzfunktionen.
3. Browser-Erweiterungen mit KI-Funktion, die Zusammenfassungen, Übersetzungen oder Schreibhilfe direkt im Browser anbieten und dabei Seiteninhalte an fremde Server senden.
4. KI-gestützte Entwicklungswerkzeuge, die Entwickler:innen selbst installieren (Code-Vervollständigung, Chat-Plugins in der IDE), oft mit Zugriff auf den gesamten Quellcode-Kontext.
5. KI-Funktionen in mobilen Apps, die Mitarbeitende auf dem privaten oder dienstlichen Smartphone nutzen, etwa zur Diktat-Transkription oder Bildbearbeitung.

Die Risiken im Einzelnen

Datenabfluss und Betriebsgeheimnisse

Das grösste und unmittelbarste Risiko: Sobald Firmendaten in ein KI-Tool ohne Vertragsverhältnis (kein Auftragsbearbeitungsvertrag / keine “Data Processing Agreement”) eingegeben werden, verliert das Unternehmen die Kontrolle darüber, wo diese Daten landen, wie lange sie gespeichert werden und ob sie möglicherweise zum Training zukünftiger Modelle verwendet werden. Bei Gratis-Konsumentenversionen vieler KI-Chatbots ist genau das häufig der Standardfall, sofern in den Kontoeinstellungen nichts anderes deaktiviert wurde. Betroffen sind nicht nur Kundendaten, sondern auch Quellcode, Preisstrategien, unveröffentlichte Produktideen oder interne Protokolle.

Compliance-Verstösse (DSGVO/nDSG, EU AI Act)

Werden Personendaten in ein Tool ohne gültige Rechtsgrundlage eingegeben, ist das in der Regel ein Verstoss gegen die Datenschutz-Grundverordnung beziehungsweise das revidierte Schweizer Datenschutzgesetz - unabhängig davon, ob die einzelne Person das wusste. Verantwortlich ist rechtlich meist das Unternehmen, nicht die einzelne Mitarbeiterin. Hinzu kommt der EU AI Act, der von Unternehmen verlangt, ein “angemessenes Mass an KI-Kompetenz” sicherzustellen - eine Anforderung, die bei unkontrollierter, ungeschulter Nutzung praktisch nicht erfüllbar ist. Mehr zu den rechtlichen Grundlagen unter EU AI Act für Schweizer Unternehmen und DSGVO/nDSG in der IT-Praxis.

Geistiges Eigentum und Urheberrecht

Wird mit einem nicht freigegebenen Tool Code, Text oder Bildmaterial erzeugt, ist oft unklar, wem die Rechte daran gehören und ob Trainingsdaten Dritter unbemerkt eingeflossen sind. Das kann bei veröffentlichtem Material (Marketing, Kundendokumentation) zu Rechtsrisiken führen, die erst auffallen, wenn es zu spät ist.

Qualität und Fehlerrisiko

Unkontrolliert genutzte Tools laufen ohne die Qualitätssicherung, die ein sorgfältig eingeführtes Firmentool hätte (z. B. Anbindung an aktuelle interne Daten, geprüfte Prompts, Vier-Augen-Prinzip). Ergebnisse werden dadurch öfter ungeprüft übernommen - inklusive erfundener Fakten, siehe Warum KI halluziniert.

Sicherheitsrisiken durch das Tool selbst

Nicht jedes KI-Tool, das im Internet kursiert, ist seriös. Browser-Erweiterungen mit KI-Etikett sind ein beliebter Vektor für Datendiebstahl und Malware, weil sie oft breite Berechtigungen verlangen (“Zugriff auf alle besuchten Websites”) und kaum jemand die Berechtigungen tatsächlich liest, bevor er installiert.

Wie du Shadow AI in deinem Betrieb erkennst

Governance beginnt mit Sichtbarkeit - du kannst nichts regeln, was du nicht siehst. In der Praxis bewähren sich fünf Erkennungswege, die sich gegenseitig ergänzen:

Technische Erkennung über Proxy-Logs funktioniert im Kern so, dass bekannte KI-Domains gegen den Datenverkehr abgeglichen werden. Ein vereinfachtes Beispiel, wie eine solche Auswertung konzeptionell aussehen kann (die genaue Umsetzung hängt stark von deiner Firewall/deinem Log-System ab):

# Konzeptbeispiel: Firewall-/Proxy-Logs nach bekannten KI-Domains filtern
# (Feld- und Dateinamen an dein eigenes Log-Format anpassen)

$kiDomains = @(
    "chat.openai.com", "gemini.google.com", "claude.ai",
    "poe.com", "character.ai", "perplexity.ai"
)

Get-Content .\proxy-log-export.csv |
    ConvertFrom-Csv |
    Where-Object { $kiDomains -contains $_.ZielDomain } |
    Group-Object BenutzerKonto, ZielDomain |
    Sort-Object Count -Descending |
    Select-Object Name, Count |
    Format-Table -AutoSize

Ergebnis ist keine Liste von “Schuldigen”, sondern eine Landkarte: welche Tools wie häufig und von wie vielen Personen genutzt werden. Das ist die Grundlage für den nächsten, wichtigeren Schritt.

Governance statt Verbot: der Ansatz, der tatsächlich funktioniert

Der naheliegende Reflex - “wir sperren alle KI-Domains auf der Firewall” - scheitert in der Praxis fast immer. Verbote ohne Alternative verschieben die Nutzung nur auf private Geräte und private Mobilfunk-Verbindungen, wo sie für die IT komplett unsichtbar wird. Damit ist das eigentliche Risiko (unkontrollierter Datenabfluss) nicht kleiner geworden, sondern grösser - nur die Sichtbarkeit ist verschwunden.

Der wirksamere Ansatz dreht die Logik um:

Governance-Reihenfolge, die funktioniert:

1. Sichtbar machen   -> Welche Tools werden tatsächlich genutzt (siehe oben)?
2. Bewerten           -> Welche Nutzung ist riskant, welche unkritisch?
3. Alternative bieten -> Ein freigegebenes, mindestens ebenso gutes Tool bereitstellen
4. Regeln             -> Klare, verständliche Richtlinie (siehe Policy-Bezug unten)
5. Begleiten          -> Schulung, Freigabeprozess für neue Tools, regelmässige Prüfung
6. Erst danach: technisch einschränken, was trotzdem verboten bleibt

Etablierte Rahmenwerke wie das NIST AI Risk Management Framework oder die Norm ISO/IEC 42001 für KI-Managementsysteme folgen im Kern derselben Logik: Risiko klassifizieren, Kontrollen einführen, kontinuierlich überwachen - statt eines einmaligen Verbots. Für ein KMU muss das nicht heissen, ein vollständiges Managementsystem zu zertifizieren; die Denkweise dahinter (Risiko bewerten statt pauschal verbieten, Nutzung dokumentieren statt ignorieren) lässt sich aber auch informell im Kleinen anwenden.

Erlaubte Alternativen anbieten: der eigentliche Hebel

Der wirksamste Einzelschritt gegen Schatten-KI ist meistens nicht Kontrolle, sondern ein gutes, offiziell freigegebenes Tool, das mindestens so bequem ist wie die private Alternative. Konkret heisst das:

• Ein zentrales KI-Tool mit Firmenlizenz anbieten (z. B. Microsoft 365 Copilot, ein Business-/Enterprise-Konto eines Chat-Anbieters), das vertraglich abgesichert ist und dessen Dateneinstellungen (kein Training mit Firmendaten, definierter Speicherort) geprüft und dokumentiert wurden. Details zur Einführung findest du unter Microsoft 365 Copilot einführen.
• Die Auswahl an den echten Bedürfnissen ausrichten, nicht an der günstigsten Lizenz - wenn das freigegebene Tool spürbar schlechter ist als die bekannte Gratis-Version, bleibt die Schatten-Nutzung bestehen. Eine strukturierte Auswahl findest du unter KI-Tools auswählen im KMU.
• Einen einfachen, schnellen Freigabeprozess für neue Tool-Wünsche einrichten, statt jede Anfrage über Monate liegen zu lassen. Wer nach zwei Wochen ohne Antwort einfach das private Konto nutzt, hat gelernt, dass der offizielle Weg nicht funktioniert.
• Rollenspezifische Zusatz-Tools prüfen, wo Standardlösungen nicht reichen - etwa ein Code-Assistent für die Entwicklung oder ein spezialisiertes Transkriptionstool für Meetings, siehe KI-Meeting-Transkription.

Entscheidungsbaum: Ein Schatten-KI-Tool wurde entdeckt - was jetzt?

Ein bisher unbekanntes KI-Tool wird in der Nutzung entdeckt
│
├─ Wurden bereits vertrauliche/personenbezogene Daten eingegeben?
│   Ja  -> Sofort: Datenschutz-Vorfall prüfen (evtl. meldepflichtig),
│           Nutzung des Tools für diese Datenklasse sofort stoppen
│   Nein -> weiter
│
├─ Erfüllt das Tool ein echtes, wiederkehrendes Bedürfnis?
│   Nein -> Nutzung höflich, aber klar unterbinden, Grund erklären
│   Ja   -> weiter
│
├─ Gibt es bereits ein freigegebenes Tool für genau diesen Zweck?
│   Ja  -> Auf das freigegebene Tool umleiten, kurz erklären warum
│   Nein -> weiter
│
└─ Prüfprozess für Neuaufnahme starten
    (DPA vorhanden? Speicherort? Training mit Eingaben? passende Datenklasse?)
    -> Ergebnis ins Tool-Register eintragen, Rückmeldung an die
       meldende Person, damit sichtbar wird: melden lohnt sich

Dieser letzte Punkt ist oft der am meisten unterschätzte: Wenn eine Person proaktiv meldet “ich nutze gerade Tool X” und daraufhin nur eine Ermahnung erhält, hört das Melden auf. Wird die Meldung dagegen ernst genommen und führt im besten Fall sogar zur offiziellen Freigabe, etabliert sich genau die Kultur, die Governance überhaupt erst ermöglicht.

Policy-Bezug: Governance braucht ein schriftliches Fundament

Alles oben Beschriebene - Erkennung, Bewertung, Alternativen, Freigabeprozess - gehört am Ende in ein verbindliches Dokument, das allen Mitarbeitenden bekannt ist: die KI-Nutzungsrichtlinie. Ohne sie bleibt Governance eine Absicht der IT-Abteilung statt einer gelebten Regel im ganzen Betrieb. Eine gute Richtlinie beantwortet für jede Person drei einfache Fragen (welche Tools sind erlaubt, was darf hinein, an wen wende ich mich bei Unsicherheit) und macht damit die Grauzone, in der Schatten-KI entsteht, überhaupt erst sichtbar.

Der vollständige Aufbau einer solchen Richtlinie inklusive Datenklassen-Modell, Freigabeprozess-Vorlage und einer kostenlosen Muster-Richtlinie zum Anpassen steht im vertiefenden Artikel KI-Nutzungsrichtlinie fürs Unternehmen schreiben - dieser Artikel hier liefert den Governance-Rahmen und die Erkennungsmethoden, jener Artikel das konkrete Policy-Dokument dazu.

Fallstricke in der Praxis

Governance nur der IT überlassen. Ohne Rückendeckung der Geschäftsleitung bleibt jede Massnahme ein Bittstellen. Governance funktioniert nur, wenn sie sichtbar von oben mitgetragen wird.

Zu technisch, zu spät kommuniziert. Eine CASB-Lösung, die monatelang unbemerkt Daten sammelt, bevor jemand mit den Mitarbeitenden spricht, wirkt wie Überwachung statt Fürsorge, wenn die Ergebnisse dann plötzlich zu Sanktionen führen. Transparenz von Anfang an vermeidet dieses Misstrauen.

Ausnahmslos alles verbieten wollen. Wie oben beschrieben, führt das fast immer zu noch unsichtbarerer Nutzung auf privaten Geräten.

Governance als reines Einmalprojekt behandeln. Ein Kickoff-Workshop ohne Folgeprozess verpufft, sobald das nächste dringende Projekt ansteht.

Melde-Kultur durch Bestrafung zerstören. Wer die erste ehrliche Meldung eines Mitarbeitenden mit einer Abmahnung beantwortet, bekommt danach keine weiteren Meldungen mehr - nur noch mehr unsichtbare Nutzung.

Kurz zusammengefasst

• Shadow AI ist unkontrollierte KI-Nutzung ausserhalb von IT- und Fachverantwortung - in den meisten Betrieben längst Realität, laut Studien bei einem Grossteil der KI-Nutzenden (Stand: 2026-07).
• Die Hauptrisiken sind Datenabfluss zu Anbietern ohne Vertragsverhältnis, Compliance-Verstösse gegen DSGVO/nDSG und EU AI Act, Rechtsunsicherheit bei geistigem Eigentum sowie Sicherheitsrisiken durch fragwürdige Tools.
• Erkennung gelingt am besten über eine Kombination aus anonymer Befragung, Proxy-/DNS-Logs, Cloud-App-Discovery und Prüfung von Spesenabrechnungen.
• Pauschale Verbote verlagern die Nutzung nur auf private, unsichtbare Kanäle - Governance mit freigegebener Alternative wirkt deutlich zuverlässiger.
• Eine gute, offiziell angebotene Alternative ist meist der wirksamste Einzelschritt gegen Schatten-KI.
• Governance braucht ein schriftliches Fundament (siehe KI-Nutzungsrichtlinie fürs Unternehmen schreiben) und einen wiederkehrenden Prüfrhythmus, keinen einmaligen Kickoff.

Weiterlernen

• Microsoft Work Trend Index: Studien zu KI-Nutzung am Arbeitsplatz
• NIST AI Risk Management Framework
• BSI: Künstliche Intelligenz - Empfehlungen für Unternehmen
• Microsoft Purview: Datensicherheit für die KI-Ära
• DNV: ISO/IEC 42001 - Zertifizierung für KI-Managementsysteme
• EU AI Act im Originalwortlaut