KI-Kompetenz im Mittelstand: Warum wir KI schneller nutzen, als wir sie verstehen

Es gibt in der aktuellen KI-Debatte eine Zahl, die mich nicht loslässt. Laut der TÜV-Weiterbildungsstudie 2026 setzen 56 Prozent der Unternehmen bereits generative KI im Arbeitsalltag ein. Geschult für diesen Einsatz haben ihre Beschäftigten aber nur 27 Prozent. Die Lücke zwischen diesen beiden Zahlen halte ich für eines der größten Transformationsrisiken der kommenden Jahre.

Ob der Mittelstand KI nutzt, ist 2026 eigentlich nicht mehr die entscheidende Frage. Er nutzt sie – oft breiter, als es die Führungsetage vermutet. Viel entscheidender ist für mich, ob die Menschen, die mit diesen Werkzeugen arbeiten, deren Ergebnisse wirklich verstehen, kritisch einordnen und am Ende auch verantworten können. Und genau diese Lücke wird häufig übersehen – weil fehlende Kompetenz im Alltag zunächst kaum sichtbar ist.

Was hat sich verändert?

Neue Studien und neue Vorgaben erhöhen den Handlungsdruck

Zwei Entwicklungen treffen in diesem Jahr aufeinander. Erstens die Empirie: Neben der TÜV-Studie zeigt die Future-Skills-Studie 2026 der Haufe Akademie eine bemerkenswerte Wahrnehmungslücke. 79 Prozent der Fachkräfte halten ihre digitalen Kompetenzen für gut oder sehr gut – aber nur 54 Prozent der Führungskräfte teilen diese Einschätzung. Man kann diese Differenz als Statistik lesen. Man kann sie aber auch als Warnsignal lesen: Wir reden über dieselben Kompetenzen und meinen offensichtlich Unterschiedliches.

Zweitens der regulatorische Rahmen. Mit Artikel 4 des EU AI Act besteht seit Februar 2025 eine Pflicht zur „KI-Kompetenz“ – und zwar risikoklassenübergreifend für alle, die KI-Systeme betreiben. Wer im Vertrieb Texte mit KI erstellt oder im Backoffice Assistenzsysteme laufen lässt, fällt darunter. Der sogenannte Digital Omnibus hat im Sommer 2026 einige Fristen des AI Act verschoben. Die Kompetenzpflicht selbst bleibt bestehen. Das ist bemerkenswert: Der Gesetzgeber hat vieles gelockert, ausgerechnet die Anforderung an menschliche Kompetenz aber nicht.

Was ist die eigentliche Herausforderung?

Das größte Risiko ist nicht die Technologie, sondern ihr unreflektierter Einsatz

Der TÜV-Verband beschreibt eine „KI-Wahrnehmungsdiskrepanz“ im Mittelstand: Gerade Unternehmen ohne praktische KI-Erfahrung sehen häufig gar keinen Qualifizierungsbedarf. Das ist der gefährlichste Punkt der ganzen Debatte. Fehlende Technologie fällt auf. Fehlende Kompetenz fällt nicht auf – bis etwas schiefgeht: eine erfundene Quelle in einem Angebot, ein Datenschutzverstoß durch die falsche Eingabe, eine Fehlentscheidung auf Basis einer plausibel klingenden, aber falschen KI-Antwort.

Aus meiner Forschung zu Zukunftskompetenzen im deutschen Mittelstand nehme ich vor allem eine Erkenntnis mit: Kompetenz entsteht nicht einmalig. Für Organisationen bedeutet sie vielmehr, sich immer wieder auf neue Anforderungen einstellen zu können. Bei KI verschärft sich das, weil sich die Werkzeuge in Monaten verändern, nicht in Jahren. Eine einmalige Schulung ist deshalb bestenfalls ein Anfang – und schlimmstenfalls ein Feigenblatt.

Warum ist KI-Kompetenz keine Tool-Schulung?

Zwischen Bedienung und verantwortungsvoller Nutzung liegt ein großer Unterschied

Wir verwechseln zu oft Bedienung mit Kompetenz. Zu wissen, wo man einen Prompt eingibt, ist Bedienung. Zu wissen, wann man dem Ergebnis nicht trauen darf, ist Kompetenz. Die Future-Skills-Studie 2026 macht sichtbar, welche Fähigkeiten dabei an Bedeutung gewinnen: kritisches Denken, Anpassungsfähigkeit, emotionale Intelligenz. Dass Fähigkeiten wie kritisches Denken oder Anpassungsfähigkeit wichtiger werden, ist dabei kein Gegenentwurf zur Technik. Es folgt unmittelbar daraus, wie KI funktioniert.: Je mehr Routinen die Maschine übernimmt, desto wichtiger wird die menschliche Urteilskraft an den Stellen, an denen es auf Kontext, Verantwortung und Zweifel ankommt.

KI-Kompetenz hat damit drei Ebenen: die technische (Wie funktioniert das Werkzeug?), die kritische (Wo sind seine Grenzen und Risiken?) und die organisationale (Wie gehen wir als Unternehmen verantwortungsvoll damit um?). Die meisten Angebote decken nur die erste Ebene ab. Die Wirkung entsteht auf der dritten. Für Unternehmen wird daher gerade die organisationale Ebene entscheidend: Wer darf was, nach welchen Regeln und mit welcher Verantwortung?

Meine Perspektive: Kompetenz ist das Betriebssystem der lernenden Organisation

Technik, kritisches Denken und Organisation müssen zusammenspielen

Mein Leitmotiv ist seit Jahren dasselbe: Der Mensch soll am Steuer bleiben, nicht zum Beifahrer werden. Bei KI bekommt dieser Satz eine unbequeme Bedingung. Am Steuer bleiben kann nur, wer fahren kann. Souveränität ohne Kompetenz ist eine Illusion – man delegiert die Kontrolle, ohne es zu merken.

Deshalb bin ich überzeugt: KI-Kompetenz ist keine Personalentwicklungs-Fußnote, sondern eine Führungsfrage. Sie ist das Betriebssystem einer lernenden Organisation. Und sie beginnt oben. Die TÜV-Studie zeigt, dass zwar 87 Prozent der Unternehmen Weiterbildung für wichtig halten, aber nur 29 Prozent eine schriftliche Weiterbildungsstrategie haben. Diese Lücke zwischen Bekenntnis und Verbindlichkeit ist kein Budgetproblem – sie ist ein Führungsproblem.

Was sollten Unternehmen jetzt tun?

Lernende Organisationen brauchen Orientierung statt Einzelmaßnahmen

Realität statt Bauchgefühl: Zuerst erheben, wo und wie im Unternehmen bereits KI genutzt wird – auch inoffiziell. Man kann keine Kompetenzlücke schließen, die man nicht kennt.
Kompetenz in drei Ebenen denken: Bedienung, kritische Einordnung und organisationale Verantwortung getrennt adressieren – nicht alles in ein 60-Minuten-Modul packen.
Rollen- statt Gießkannenprinzip: Wer KI für Kundenkommunikation nutzt, braucht anderes Rüstzeug als die Geschäftsführung, die über KI-Investitionen entscheidet.
Verbindlich verankern: Weiterbildung in Personal- und Investitionsstrategie festschreiben, mit klarer Verantwortlichkeit – so entsteht aus einem Bekenntnis eine Praxis.
Lernkultur vor Curriculum: Multiplikatoren, Austauschformate und Fehlerfreundlichkeit wirken nachhaltiger als ein einmaliges Zertifikat. Kompetenz wächst im Alltag, nicht im Seminarraum allein.
Dokumentieren: Art. 4 verlangt keine Zertifizierung, aber nachvollziehbare, kontextangemessene Maßnahmen. Wer strukturiert vorgeht, erfüllt die Pflicht fast nebenbei.

Fazit

Technologie allein reicht nicht aus

Der Mittelstand hat KI vielerorts längst im Arbeitsalltag. Jetzt entscheidet sich, ob Unternehmen genauso konsequent in die Fähigkeiten ihrer Mitarbeiter investieren wie in die Technologie selbst.

Für mich liegt genau dort die eigentliche Aufgabe der nächsten Jahre: Menschen so zu befähigen, dass sie KI nicht nur nutzen, sondern ihre Ergebnisse beurteilen, hinterfragen und verantworten können. Denn nur dann bleibt der Mensch tatsächlich am Steuer.