Das Wichtigste in Kürze
- Schatten-KI ist Realität: Laut BSI ist jedes vierte Unternehmen betroffen. Mitarbeitende nutzen private KI-Tools ohne Freigabe, die Dunkelziffer liegt deutlich höher.
- Verbote verschärfen das Problem: Wer Systeme zunagelt, treibt Mitarbeitende auf private Geräte und Accounts. Kanalisieren schlägt verbieten.
- Amnestie statt Jagd: Eine anonyme Tool-Inventur zeigt ohne Schuldzuweisung, was im Unternehmen wirklich genutzt wird.
- Offizielles Tool bereitstellen: Erst Prozesse prüfen und eliminieren, dann ein freigegebenes, produktives KI-Werkzeug anbieten.
- Ampelrichtlinie und Datenklassifizierung: Vier Vertraulichkeitsstufen nach ISO 27001, technisch durchgesetzt mit Microsoft Purview. Was technisch unterbunden ist, muss niemand kontrollieren.
- EU AI Act beachten: Schulungspflicht nach Artikel 4 und Hochrisiko-Anwendungen wie Bewerber-Scoring nur mit Human in the Loop.
Einführung
Herzlich willkommen zu einer weiteren Episode von TJs Technology Tuesday mit dem Thema Digital 4 Productivity. Wissen Sie, was Ihre Mitarbeitenden alles so den ganzen Tag machen? Jetzt denken Sie wahrscheinlich an Homeoffice, an zu langen Pause, an Raucherpausen, die sie draußen haben. Nee, daran denke ich gar nicht. Ich denke an was Ganz anderes, nämlich ich denke an Shadow IT.
Was ist Shadow IT und Shadow AI?
Was heißt denn Shadow IT oder Shadow AI? Die heimliche Nutzung im Team. Und wenn Sie sich mal anschauen, jedes vierte Unternehmen laut BSI ist davon betroffen, dass Mitarbeitende private Tools für die Arbeit nutzen, ohne dass die freigegeben sind. Und die Dunkelziffer ist deutlich höher. Das heißt, hier ist so ein bisschen wie Schatten-IT früher.
Also das Phänomen ist nicht neu. Das Phänomen ist jetzt nur noch schlimmer geworden, weil KI ist ja ein Multiplikator. Und die Amerikaner sagen so schön: Shit hit the fan. Also das ist dann genau das, was passiert, also dass sich das Ganze multipliziert. Und Schatten-IT ist schon immer gefährlich gewesen.
Wie Schatten-IT entsteht
Und wodurch entsteht es? Es entsteht dadurch, dass Mitarbeitende einfach zugenagelte Systeme kriegen und dann kreativ werden, um arbeiten zu können. Und wenn sie Dinge zu sehr zunageln, dann ist die erste Stufe, dass man versucht, das bereitgestellte Firmensystem so weit zu nutzen, wie es irgendwie geht. Und wenn das nicht geht, dann nimmt man sein eigenes Gerümpel mit. Und das ist keine gute Idee, weil dann ist es eben out of control dessen, was man so macht.
Praxisbeispiele aus dem Berufsalltag
Das heißt, wenn man sich mal anguckt, was passiert denn wirklich draußen? Und ich habe jetzt 38 Jahre Berufserfahrung. Erfahrung. Also vor dem Hintergrund ist es bei mir nicht gegoogeltes Halbwissen, sondern ich kenne mich da wirklich ein bisschen aus, aus eigener leidvoller Erfahrung. Also wenn ich jetzt mal gucke, auch hier dieses Thema, was halt regelmäßig passiert: Ach komm, formulier mal eine Mail an den Kunden.
So, zack, geht mal eben die Mail mit kompletten Kontaktdaten, mit allem Drum und Dran raus. Oder: Hier hast du mal einen Vertrag und vergleich den mal am System, eben ohne Kontrolle. Oder da wird es dann ganz heiß zu sagen: Ach, KI kann mir doch meine Bewerber scanne. Da sind wir ganz schnell sogar im Bereich Hochrisiko-KI, also wo ich dann sogar richtig stramme Strafen im Rahmen des EU-AI-Act riskiere, wenn ich ebenScoring-Systeme mit KI nutze, ohne dass da noch mal ein Human in the Loop drin ist. Also da ist gut gedachte Automatisierung, ist da ein hohes Risiko im Sinne Ihrer Produktivität, aber auch im Sinne sogar der Risiken im Rahmen des EU-AI-Act.
Warum Verbote nicht funktionieren: Amnesie statt Jagd
Wichtig ist, nicht mit Verboten zu arbeiten, sondern es zu kanalisieren. Also, weil ich weiß nicht, wer von Ihnen Kinder hat oder wer war mal Kind. Also ich glaube, spätestens jetzt sollte jeder im Spiel sein. So, das heißt, die Eltern konnten uns so viel verbieten, was sie wollten. Wichtig war, wenn wir es verstanden haben, dann haben wir es auch akzeptiert.
Sonst haben wir es versucht zu umgehen. Und letztendlich ist es nicht anders bei diesen Themen genauso. Das heißt, wichtig ist eben Amnesie statt Jagd. Zu sagen: Mensch, was nutzt ihr denn schon? Und dann auch wirklich nicht, also wir haben ja Fehlerkultur in Deutschland, ist ja oft so, dass wir sagen: Ja, Fehler sollen mehr gemacht werden, aber der, der Fehler macht, wird abrasiert.
Wenn man das einmal lernt, dann macht man keine Fehler mehr. Bzw. Natürlich machen wir alle Fehler, aber dann vertuschen wir sie und dann lernen wir nicht daraus. Und gerade in Konzernen ist das die aus meiner Erfahrung vorherrschende Kultur. Keine gute Idee.
Werkzeug 1: Anonyme Inventur und offizielles Tool
Kann man auch beispielsweise anonym abfragen. Geht ja gar nicht darum, wer nutzt was, sondern zu sagen: Welche Tools sind denn insgesamt im Unternehmen im Sinne eben einer Inventur? Und dann ist die Idee, ein möglichst offizielles Tool bereitzustellen. Vielleicht kann man davor eigentlich noch mal einen Zwischenschritt gucken. Okay, was macht ihr denn mit dem Tool?
Gibt es da vielleicht Dinge, wo wir sagen, den Prozess brauchen wir vielleicht gar nicht mehr, den können wir eliminieren? Ich sage mal, zuerst kommt eliminieren, dann kommt automatisieren. Also wissen Sie, es kommt eliminieren, dann kommt strukturieren, dann kommt automatisieren. Automatisieren und dann kommt als Sahne noch mal gegebenenfalls KI obendrauf. Also immer die Prozessperspektive draufhaben.
Werkzeug 2: Die Ampelrichtlinie
So, dann eben die Frage einer Ampelrichtlinie, also das auch im Rahmen des EU-AI-Acts. Dazu gibt es von mir übrigens auch eine gute Schulung, also dort gerne auch noch mal. Ich mache einen Link in den Kommentaren dazu, also da können Sie auch noch mal sich die EU-AI-Act-Schulung auch noch mal holen. Also deswegen eine Seite wichtig ist eine Richtlinie. Was darf man, was darf man nicht?
Ich zeige das gleich noch mal etwas ausführlicher.
Schulung vor Kontrolle
Dann eben wichtig: Kontrolle ist gut, aber wichtig ist einmal Schulung im Vorfeld, dass die Mitarbeitenden wissen, was sie machen dürfen, was sie nicht machen dürfen und vor allen Dingen, weshalb das so ist. Weil wenn man das versteht, ist das was ganz anderes. Und natürlich kann man das Ganze ergänzen noch mal durch Compliance-Systeme wie Purview im Rahmen von Microsoft 365 beispielsweise. Ja, wichtig auch eben Erfolge sichtbar machen. Also so was wie KI-Tipp des Monats mit den KI-Systemen, die es gibt.
Praxisbeispiel: ChatGPT vs. Copilot bei der Volksbank
Also ich habe das erst letztes Jahr in der Volksbank erlebt. Da gab es im Marketing eine Mitarbeiterin, die sagt: „Ja, ChatGPT ist viel cooler als der Copilot." Sag ich: „Ja, tut mir leid, Copilot, da senden Sie Ihre Daten nach USA." Mal unabhängig davon, dass mein Vertrauen in Sam Altman ein bisschen eingeschränkt ist. So, das heißt, im regulierten Umfeld gibt es eben mit dem Copilot eine von der Atuvia freigegebene Lösung, wo ich eben auch das Ganze compliant-gerecht nutzen kann. So, da habe ich das gezeigt und gesagt: „Sie haben eigentlich recht, wenn ich weiß, wie es geht, kann ich mit dem Werkzeug auch arbeiten." arbeiten. Und letztendlich sind die OpenAI, also die ChatGPT-Modelle, im Copilot genauso verfügbar.
Die Ampel im Detail: Kultur schlägt Kontrolle
Also, und deswegen ganz, ganz wichtig, immer Kultur schlägt Kontrolle oder Culture eats Strategy for Breakfast, wie Peter Drucker mal früher gesagt hat, der Management-Papst. Ja, wichtig ist eben hier eine Ampel gemeinsam zu erarbeiten, sagen, was ist denn grün? Ich habe hier das eben auch bewusst mal so gemacht, dass oben nicht zuerst rot kommt, sondern oben grün. Habe es eben auch bewusst mal nicht farbig gemacht, denn gerade viele Viele Männer sind rot-grün-farbenblind. Also da muss man ein bisschen aufpassen.
Arbeiten Sie nicht zu sehr mit Farben, arbeiten Sie eher mit Schattierungen, mit Graustufen. Der Kollege Hichert beispielsweise, Ex-McKinsey-Mann, berät da extrem hervorragend zum Thema, wie man eben ohne bunte fancy Dinge vernünftige Visualisierung macht. Ja, Rot ist zwischen Grün und Rot kann man gut unterscheiden. Eben Kundendaten, Personendaten, Geschäftsgeheimnisse dienen Externen. Was heißt extern?
Also nicht in ChatGPT, sondern dann in den Copilot.
Datenschutz und Rechtslage: Microsoft, Patriot Act und EU
Wo die Daten eben ohnehin schon liegen, bei Microsoft in Frankfurt. Aktuell ist es so, wenn Sie Microsoft 365 einsetzen in Deutschland, dann liegen die Daten in Frankfurt. Die Verarbeitung der Daten, die läuft noch eben in Irland teilweise, weil es noch keine KI-Rechenzentren in Deutschland gibt. Ja, aber das ist auch EU. Sie haben natürlich ein Restrisiko, weil es eine amerikanische Firma ist.
Und laut Patriot Act ist es so, dass wenn die amerikanischen Behörden sagen, ich will Daten eben gegeben haben von einer amerikanischen Firma, müssen die die herausgeben, egal wo die Daten gespeichert sind, in welchem Land. EU Privacy Shield sagt: Okay, alles was EU ist, rücken wir nicht raus. Wenn sich die beiden Rechtsprechungen nicht widersprechen würden, dann gäbe es keine Juristen in dem Bereich. Also das ist genau die Aufgabe von Juristen. Und es ist auch nicht die Regel, dass Microsoft dauernd irgendwelche Daten rausliefert.
Die arbeiten für DAX-Konzerne, die wissen schon, dass sie sich das nicht erlauben können. Und noch mal last but not least, wenn Sie ohnehin schon mit Microsoft 365 arbeiten, dann ist das Kind eh schon in den Brunnen gefallen, sage ich jetzt mal flapsig. Das heißt, die Daten liegen eh schon drin. Dann haben Sie aber kein weiteres, kein höheres Risiko, wenn Sie die KI von Microsoft nutzen. Ja, und dann gelb eben interne Informationen hier und da muss man sehr fein eben pro Unternehmen definieren, was darf eben auch beispielsweise in den Copilot Was darf da nicht rein?
Datenklassifizierung in der Praxis (ISO 27001 & Purview)
Bin gerade bei einem Unternehmen in der Begleitung, wo ich eben auch das Thema KI-Richtlinie, wo wir auch Schulungen in Präsenz machen, wo wir eben gerade auch in Ergänzung zu ISO 27001 eben sehr klar Datenklassen definieren, die dann eben operationalisierbar sind durch eben ein Ampelsystem für Mitarbeitende und für klare Klassifizierungen von Vertraulichkeiten. Da hat man im Regelfall 4 Stufen, die man dann eben in Purview eben so umsetzen kann, dass dann dann auch Dokumente, die beispielsweise in der höchsten Vertraulichkeitsstufe 4 sind, auch technisch gar nicht hochgeladen werden können. Also deswegen ganz wichtig: Dinge, die man unterbindet, braucht man hinterher nicht kontrollieren. Also wenn man sagt, okay, es geht technisch gar nicht, was hochzuladen, aber eben immer mit dem Hintergrund, wir sind hier in dieser Episode zum Thema Schatten-KI, dass ich sage, Leute, nicht irgendwie alles zunageln, sondern mit Hirn und Verstand dort eben mit den Mitarbeitern das gemeinsam machen. Und wenn man Mitarbeitenden erklärt, wozu man bestimmte Leitplanken hat, weshalb es bestimmte Guardrails gibt, dann ist meine Erfahrung auch, dass unter der Voraussetzung, dass sie produktives Werkzeug haben, damit auch bereit sind zu arbeiten.
Kernbotschaften im Überblick
Ja, was ist die wichtigste, was sind die wichtigsten Kernbotschaften? Shadow AI ist in jedem vierten Unternehmen Realität, vermutlich auch bei Ihnen. Verbote verschärfen das Problem. Alternativen lösen es. Und last but not least eben, was sind die 3 Werkzeuge?
Amnesie, offizielles Tool und Ampelrichtlinie. Also ganz, ganz wichtig, dass Sie schulen, dass Sie das vernünftig organisieren. Also sich nicht drum kümmern, dann haben Sie Wildwuchs. Und Wildwuchs ist da keine gute Idee. Also deswegen wichtig, holen Sie die KI-Nutzung aus dem Schatten.
Fazit und weiterführende Angebote – bleiben Sie mit dran!
Dazu gibt es eben von mir den EU-AI-Act-Kurs in 14 Lektionen in Deutsch, Entschuldigung, Englisch als Videokurs. Link haben haben Sie entsprechend mit dabei. Damit kann jeder Mitarbeiter, jede Mitarbeiterin mit einem eigenen Zertifikat dann auch nachweisen, dass sie oder er geschult ist. Kann jeder Mitarbeiter, jede Mitarbeiterin in ihrem, in seinem Tempo machen. Sie haben eine saubere Dokumentation dazu, wer es gemacht hat.
Und ergänzend erhalten Sie gerne auch meine Unterstützung durch Newsletter, durcheben diese Impulse wie den TJs Technology Tuesday. Den können Sie ja entweder auf LinkedIn jede Woche Dienstag von 12:30 bis 12:45 sehen. Da haben Sie sogar den Charme, dass Sie im Regelfall mir dort live Fragen stellen können. Wenn ich im Büro bin, wenn ich in einem Hotel bin unterwegs, wenn ich die Möglichkeit habe, dass ich nicht gerade präsent bei einem Kunden bin, dann ist es wirklich live. Dann gibt es die zweite Stufe, dass ich eben nebenbei im Chat noch mal gucken kann, aber nicht aufnehmen kann, dann nehme ich es vorher auf.
Oder die dritte Variante, dass ich, wenn ich eben gar nicht die Möglichkeit habe, eine vernünftige Kamerasituation zu haben, dann wird es eben voraufgezeichnet. Aber ich gucke eben im Nachgang spätestens auch noch mal die Kommentare rein, ergänze die, sodass Sie auch die Links dazu haben. Ja, Stichwort Links zum Thema eben produktive Nutzung finden Sie auf alle Fälle auch den Link zu meinem EU AI Act Videokurs, 14 Episoden. In Deutsch und in Englisch. Es gibt immer ein Video, es gibt Charts dazu, es gibt ein Transkript, es gibt eine Zusammenfassung.
Am Ende gibt es auch ein Zertifikat, sodass Sie auch die EU-AI-Act-juristischen formalen Voraussetzungen des Artikel 4 erfüllen und dokumentieren können. Und Sie habenhoffentlich ein Gefühl dafür bekommen, dass es nicht nur darum geht, das ganze Thema zu dokumentieren, sondern auch zu verstehen. Das bringe ich schon in dem Kurs rüber und bei Bedarf eben mehr. Deswegen einfach auf den Link klicken. Da haben Sie die Möglichkeit, sich den Kurs zu sichern oder einen Termin mit mir zu vereinbaren, wo wir sagen: Mensch, wie viele brauchen Sie vielleicht von den Kursen und welche weitere Unterstützung möchten Sie in Form von KI-Policy-Erarbeitung, in Form von Workshops, in Form von Use-Case-Sammlung und Erarbeitung oder solche Dinge bis hin zu dem Thema auch Keynotes zu diesem Thema.
Denn das sind die Formate, die ich gerne für Sie in der Unterstützung anbiete. Ihr Personality Coach für Führungskräfte Thorsten Jekel.
Erwähnte Tools & Ressourcen
- Microsoft Purview – Werkzeug zur Klassifizierung und technischen Durchsetzung von Vertraulichkeitsstufen in Microsoft 365.
- Microsoft Copilot – KI-Assistent im Microsoft-365-Kontext. Arbeitet auf Daten, die ohnehin im Unternehmen liegen.
- ISO 27001 – Norm für Informationssicherheit, Basis für ein operationalisierbares Klassifizierungssystem.
- BSI – Bundesamt für Sicherheit in der Informationstechnik, Quelle der Zahlen zu Schatten-IT und Schatten-KI.
- EU-AI-Act-Videokurs – 14 Lektionen in Deutsch und Englisch mit Zertifikat, um die Schulungspflicht nach Artikel 4 zu erfüllen.
Häufige Fragen (FAQ)
Was ist Schatten-KI?
Schatten-KI, auch Shadow AI genannt, ist die Nutzung von KI-Tools durch Mitarbeitende ohne Freigabe durch die IT. Sie ist die Fortsetzung der klassischen Schatten-IT – nur mit deutlich größerer Hebelwirkung, weil KI Daten in fremde Systeme trägt.
Wie verbreitet ist Schatten-KI in Unternehmen?
Laut BSI ist jedes vierte Unternehmen betroffen. Da die Nutzung meist unbemerkt bleibt, liegt die tatsächliche Zahl höher. Wer keine anonyme Inventur macht, kennt seinen eigenen Stand nicht.
Warum funktionieren Verbote bei Schatten-KI nicht?
Verbote beseitigen den Bedarf nicht. Mitarbeitende weichen auf private Geräte und Accounts aus, wo gar keine Kontrolle mehr besteht. Wirksam ist der umgekehrte Weg: ein offizielles, produktives Werkzeug bereitstellen und die Leitplanken erklären.
Welche drei Werkzeuge helfen gegen Schatten-KI?
Erstens Amnestie statt Jagd – eine anonyme Tool-Inventur ohne Schuldzuweisung. Zweitens ein offizielles, freigegebenes KI-Tool. Drittens eine Ampelrichtlinie, die klar regelt, welche Daten in welches System dürfen.
Wie klassifiziere ich Daten für den KI-Einsatz?
Bewährt haben sich vier Vertraulichkeitsstufen in Anlehnung an ISO 27001, gekoppelt an ein Ampelsystem für Mitarbeitende. In Microsoft Purview lässt sich technisch erzwingen, dass Dokumente der höchsten Stufe gar nicht erst hochgeladen werden können.
Was fordert der EU AI Act beim KI-Einsatz im Unternehmen?
Der EU AI Act verlangt unter anderem KI-Kompetenz der Mitarbeitenden nach Artikel 4 und stuft bestimmte Anwendungen als Hochrisiko ein. Bewerber-Scoring per KI ohne menschliche Kontrolle fällt darunter und kann empfindliche Strafen auslösen.
