IT hat kapituliert — Warum 56% der IT-Leader GenAI nicht erklären können (und was das für Ihre Governance bedeutet)
Laut einer aktuellen Gartner-Studie (2026) geben 56% der IT-Leader zu, dass sie die Ergebnisse ihrer GenAI-Systeme nicht erklären können.
Die Zahl ist erschreckend. Aber sie überrascht mich nicht.
Denn wenn ich ehrlich bin: Viele IT-Abteilungen konnten auch die Cloud nicht erklären — zumindest nicht in der Sprache, die Vorstände, Auditoren und Betriebsräte brauchen.
Was wir gerade erleben, ist nicht das Versagen der IT. Es ist das Ergebnis von drei tektonischen Verschiebungen, die ohne Pause über die IT-Organisation hereingebrochen sind — und für die niemand das Governance-Modell aktualisiert hat.
Welle 1: Die Cloud — Kontrollverlust als Service
Jahrzehntelang war die IT-Abteilung Herrin über ihre Infrastruktur. Server im Keller, Daten auf eigenen Platten, Updates nach eigenem Zeitplan. Die Welt war deterministisch, auditierbar, beherrschbar.
Dann kam die Cloud.
Auf dem Papier ein Effizienzgewinn. In der Realität ein Paradigmenbruch: Kontrolle über Hardware — abgegeben. Kontrolle über Patch-Zyklen — abgegeben. Kontrolle über physische Datenlokalität — abgegeben.
Viele Großunternehmen haben diese Transition professionell gemanagt. Aber der industrielle Mittelstand? Seien wir ehrlich: Ein erheblicher Teil hat die Cloud-Migration bis heute nicht sauber abgeschlossen. Hybride Landschaften, unklare Verantwortlichkeiten, Schatten-IT, die in Azure-Tenants wuchert, die niemand konsolidiert hat.
Und bevor diese Baustelle geschlossen war, kam die nächste Welle.
Welle 2: Datensouveränität — Die Frage, die niemand laut stellt
Die Cloud läuft. Aber auf wessen Infrastruktur?
AWS. Azure. Google Cloud. Drei US-Hyperscaler dominieren den europäischen Markt. Das ist kein Geheimnis — aber die strategischen Implikationen werden erstaunlich selten offen diskutiert.
Die Fragen liegen auf dem Tisch:
- Wo liegen meine Daten physisch? Und ist „Frankfurt (EU)“ wirklich so souverän, wie es klingt, wenn der Betreiber dem US CLOUD Act unterliegt?
- Wer hat Zugriff? Nicht theoretisch laut Vertrag — sondern praktisch, im Ernstfall, wenn eine US-Behörde anklopft?
- Was passiert bei einem politischen Regimewechsel? Wir haben in den letzten Jahren gelernt, dass transatlantische Datenabkommen fragiler sind, als uns lieb ist.
Die unbequeme Wahrheit: Es gibt heute kaum europäische Cloud-Alternativen in der Produktionsqualität und Skalierbarkeit, die ein SAP S/4HANA oder ein industrielles IoT-Backend zuverlässig betreiben könnten. GAIA-X ist ein politisches Signal, aber kein operatives Produkt.
Die IT-Abteilung steht also vor einem unlösbaren Dilemma: Sie soll Datensouveränität garantieren — auf einer Infrastruktur, die ihr nicht gehört, die sie nicht kontrolliert und deren Rechtsrahmen sich jederzeit ändern kann.
Und dann kam die dritte Welle.
Welle 3: GenAI und der EU AI Act — Compliance für das Unerklärbare
Generative AI bricht das letzte Fundament, auf dem klassische IT-Governance steht: die Determinismus-Annahme.
SAP ist deterministisch. Gleicher Input, gleicher Output. Immer. Das ist die Basis jeder Auditierbarkeit, jeder SOX-Compliance, jeder IATF-16949-Zertifizierung.
GenAI ist probabilistisch. Gleicher Input, unterschiedlicher Output. Das ist kein Bug — es ist das Funktionsprinzip. Und es bricht jedes Governance-Modell, das auf Nachvollziehbarkeit und Reproduzierbarkeit aufgebaut ist.
Gleichzeitig tritt der EU AI Act in Kraft. Er fordert:
- Risikoklassifizierung der eingesetzten AI-Systeme
- Transparenzpflichten gegenüber Nutzern und Aufsichtsbehörden
- Dokumentation der Entscheidungslogik
Im Prinzip sinnvoll. In der Praxis stellt sich die Frage: Wie dokumentiere ich die „Entscheidungslogik“ eines Systems, das keine deterministische Logik hat? Wie erkläre ich einem Auditor, warum die AI diese Lieferantenempfehlung gegeben hat und nicht eine andere — wenn die ehrliche Antwort lautet: „Weil das Modell bei diesem Durchlauf diese Wahrscheinlichkeitsverteilung berechnet hat“?
Der EU AI Act stellt Guardrails auf. Aber die Werkzeuge, um diese Guardrails im industriellen Alltag operativ umzusetzen, existieren heute kaum. Nicht als Prototyp — als produktionsfähige Lösung mit SAP-Integration, mit Audit-Trail, mit Freigabe-Workflow.
Die Diagnose: Drei Wellen, null Governance
Treten wir einen Schritt zurück.
In weniger als einem Jahrzehnt wurde die IT-Abteilung mit drei fundamentalen Paradigmenwechseln konfrontiert:
- Cloud: Kontrollverlust über Infrastruktur
- Hyperscaler-Dominanz: Souveränitätsverlust über Daten
- GenAI: Erklärungsverlust über Ergebnisse
Jeder einzelne davon hätte ein neues Governance-Modell gebraucht. Bekommen hat die IT keines davon. Stattdessen wurde jede Welle auf das bestehende Modell draufgesattelt — ein Modell, das für On-Premise-SAP-Systeme in einem deutschen Rechenzentrum entworfen wurde.
Kein Wunder, dass 56% kapituliert haben.
In regulierten Industrien — Automotive, Pharma, Aerospace — ist dieses Governance-Vakuum kein Schönheitsfehler. Es ist ein Audit-Killer. Wenn niemand erklären kann, warum die AI eine bestimmte Empfehlung gegeben hat, wer haftet dann? Der CTO? Der Fachbereich? Der Vendor?
Was jetzt nötig ist: Adult Supervision
Die Lösung ist nicht, IT-Abteilungen durch AI-Bootcamps zu jagen. Die Lösung ist ein grundlegend anderes Verständnis davon, wer GenAI verantwortet.
GenAI-Governance ist keine IT-Aufgabe. Es ist eine Führungsaufgabe.
Der CTO braucht kein Whitepaper über Transformer-Architekturen. Er braucht ein Entscheidungsframework:
- Wo darf die AI autonom handeln? (z.B. Zusammenfassungen von Meeting-Protokollen)
- Wo braucht sie menschliche Freigabe? (z.B. Lieferantenempfehlungen im Sourcing)
- Wo ist sie verboten? (z.B. sicherheitskritische Prozessentscheidungen in der Fertigung)
Das ist, was ich „Adult Supervision“ nenne. Keine Technologie-Feindlichkeit. Kein Bremsen um des Bremsens willen. Sondern die strategische Entscheidung, wo die Maschine laufen darf — und wo ein erfahrener Mensch mit Prozesswissen die Hand am Lenkrad behält.
Um beim Bild zu bleiben: Man muss kein Motorenbauer sein, um zu wissen, wann man bremsen muss. Aber man muss wissen, dass der Motor unter der Haube nicht mehr deterministisch läuft — und dass das Konsequenzen hat.
Die eigentliche Frage
Sie lautet nicht: „Warum kann die IT GenAI nicht erklären?“
Sie lautet: „Wer in Ihrem Unternehmen verantwortet Entscheidungen, die kein Mensch mehr vollständig nachvollziehen kann?“
Wenn die Antwort darauf Schweigen ist — dann haben Sie nicht ein IT-Problem. Dann haben Sie ein Führungsproblem.
E-Mail: sven.vollmer@business-quotient.com
Sven Vollmer ist „The Industrial Translator“. Er baut Brücken zwischen der operativen Realität der Industrie (SAP, Supply Chain) und den Möglichkeiten generativer KI. Sein Fokus liegt auf wertschöpfenden Anwendungen abseits des Hypes.
Transparenz-Hinweis: Dieser Artikel entstand mit redaktioneller Unterstützung von KI (Gemini/Claude). Die Ideen, fachliche Prüfung, die Auswahl der Use Cases und die Bewertung (‚Adult Supervision‘) oblagen zu 100% dem Autor.
LinkedIn: www.linkedin.com/in/sven-vollmer-bq
