Zum Inhalt springen

Warum stocken KI-Projekte im Mittelstand, und was verlangt die KI-Kompetenzpflicht?

Geschrieben von
Vincent Michler
Veröffentlicht
Lesezeit
8 Minuten
Reihe „KI im Mittelstand“
Teil 2 von 3

Kurz beantwortet

Die größte Hürde für KI in KMU ist fehlendes Wissen: 85 % der Unternehmen ohne KI nennen es laut Bitkom 2026 als Hemmnis, dazu kommen Rechtsunsicherheit (66 %) und schwer kalkulierbare Kosten (63 %). Art. 4 der EU-KI-Verordnung verpflichtet seit Februar 2025 jedes Unternehmen, das KI beruflich einsetzt, zur KI-Kompetenz seiner Beschäftigten. Seit dem Digital Omnibus (in Kraft seit 27. Juli 2026) müssen Unternehmen Maßnahmen zur Förderung der KI-Kompetenz ergreifen, ein bestimmtes Niveau ist nicht mehr vorgeschrieben. Ein Zertifikat ist nicht nötig, eine interne Dokumentation reicht.

Inhalt (9 Abschnitte)

In Teil 1 dieser Reihe ging es um die Zahlen: Eine Mehrheit der deutschen Unternehmen nutzt KI inzwischen in irgendeiner Form, aber nur wenige schöpfen das Potenzial aus. Dieser Teil fragt, woran das liegt, und klärt, was die KI-Verordnung der EU (AI Act) seit 2025 von Unternehmen verlangt.

Hinweis: Dieser Beitrag ordnet die Rechtslage ein, ersetzt aber keine Rechtsberatung im Einzelfall.

Was bremst KI in kleinen und mittleren Unternehmen?

Fehlendes Wissen steht in jeder großen Erhebung an erster Stelle. Bitkom hat im Sommer 2026 Unternehmen ab 20 Beschäftigten befragt, die KI noch nicht nutzen. Ihre Gründe:

Hemmnis (Nicht-Nutzer, Bitkom 2026) Anteil
Fehlendes technisches Know-how 85 %
Rechtliche Hürden und Unsicherheit 66 %
Schwer kalkulierbare Kosten 63 %
Fehlende personelle Ressourcen 51 %
Fehlende Daten 40 %
Keine Anwendungsfälle erkannt 30 %

Die amtliche Statistik zeigt dasselbe Muster. Unter den Unternehmen, die einen KI-Einsatz erwogen und sich dagegen entschieden haben, nannten 2025 laut Destatis 72 % fehlendes Wissen als Grund. Die KfW kommt in ihrer Mittelstandsanalyse vom Juli 2026 zu dem Schluss, dass digitales Know-how und Digitalisierungsgrad für die KI-Nutzung wichtiger sind als die Größe des Unternehmens.

Warum stocken Projekte auch bei Unternehmen, die schon KI nutzen?

Sobald KI im Einsatz ist, verschieben sich die Probleme. Die KI-Nutzer in der Bitkom-Umfrage nennen vor allem Datenschutzanforderungen (66 %), Rechtsunsicherheit (56 %) und Kosten (54 %). 45 % fürchten, dass Unternehmensdaten in falsche Hände geraten, 42 % berichten von fehlender Akzeptanz bei den Beschäftigten.

Das Ergebnis: 59 % der KI-nutzenden Unternehmen sagen, dass sie das Potenzial gar nicht ausschöpfen. Kein einziges Unternehmen gab an, es voll zu nutzen.

Hinter diesen Zahlen stehen meist drei Muster:

  • Einzelne nutzen KI, das Team nicht. Zwei oder drei Interessierte arbeiten mit ChatGPT, der Rest hat es einmal ausprobiert und war vom Ergebnis enttäuscht. Wissen bleibt bei Einzelnen.
  • Unklare Regeln. Niemand weiß genau, welche Daten in welches Tool dürfen. Im Zweifel wird gar nichts gemacht, oder es wird heimlich mit privaten Konten gearbeitet. Laut Bitkom hatten 2025 nur 23 % der Unternehmen Regeln für den KI-Einsatz.
  • Tool gekauft, Ablauf nicht geändert. Lizenzen sind schnell beschafft. Ob eine Aufgabe danach anders erledigt wird, entscheidet sich im Alltag des Teams.

Alle drei Muster haben dieselbe Ursache: Den Beschäftigten fehlt das praktische Wissen, wie sie KI für ihre eigenen Aufgaben einsetzen und die Ergebnisse prüfen. Genau hier setzt auch der AI Act an.

Was verlangt Art. 4 AI Act von Unternehmen?

Art. 4 der KI-Verordnung (Verordnung (EU) 2024/1689) regelt die sogenannte KI-Kompetenz, im Englischen „AI literacy“. Die Pflicht gilt seit dem 2. Februar 2025 und betrifft zwei Gruppen: Anbieter, die KI-Systeme entwickeln, und Betreiber, die KI-Systeme beruflich einsetzen.

Für KMU ist der zweite Punkt entscheidend. Betreiber ist jedes Unternehmen, dessen Beschäftigte KI für die Arbeit nutzen, also auch eine Steuerkanzlei mit ChatGPT-Lizenz oder ein Handwerksbetrieb, der Angebotstexte mit Copilot schreibt. Die EU-Kommission nennt in ihrem offiziellen Q&A genau so ein Beispiel: Nutzen Beschäftigte ChatGPT für Werbetexte oder Übersetzungen, sollten sie über konkrete Risiken wie erfundene Fakten informiert werden.

Laut Bitkom sehen sich trotzdem nur 37 % der Unternehmen als Betreiber vom AI Act betroffen. Hier liegt eine Wissenslücke, die man ernst nehmen sollte.

Was hat der Digital Omnibus 2026 geändert?

Im November 2025 schlug die EU-Kommission ein Paket zur Vereinfachung digitaler Regeln vor, den „Digital Omnibus“. Ursprünglich sollte die Pflicht aus Art. 4 ganz auf Kommission und Mitgliedstaaten übergehen. So ist es nicht gekommen.

Die Änderungsverordnung (EU) 2026/1744 ist am 27. Juli 2026 in Kraft getreten. Seitdem gilt für Art. 4:

Fassung bis Juli 2026 Fassung seit 27. Juli 2026
Pflicht der Unternehmen nach besten Kräften ein ausreichendes Maß an KI-Kompetenz sicherstellen Maßnahmen zur Förderung der KI-Kompetenz ergreifen
Vorgeschriebenes Niveau „ausreichend“ kein bestimmtes Niveau für Einzelne
Unterstützung nicht geregelt Kommission und Mitgliedstaaten unterstützen, besonders KMU

Die Pflicht ist also abgeschwächt, aber nicht abgeschafft. Wer gar nichts unternimmt, verstößt weiterhin gegen Art. 4. Die Kommission betont im Q&A, dass die Pflicht bleibt, nur ein bestimmtes oder „ausreichendes“ Niveau nicht mehr vorgeschrieben ist.

Einige Schulungsanbieter werben bis heute mit dem alten Wortlaut und sprechen davon, dass Unternehmen die KI-Kompetenz jedes Mitarbeitenden „nachweisen müssen“. Das trifft seit Juli 2026 so nicht mehr zu.

Wer kontrolliert das, und drohen Bußgelder?

Aufsicht und Durchsetzung durch nationale Behörden laufen seit dem 2. August 2026. In Deutschland ist seit dem 29. Juli 2026 das KI-Marktüberwachungsgesetz (KI-MIG) in Kraft, die Bundesnetzagentur ist Marktüberwachungsbehörde und zentrale Anlaufstelle. Ihr KI-Service-Desk richtet sich ausdrücklich an KMU und gibt Hinweise zum Aufbau von KI-Kompetenz.

Einen eigenen Bußgeldtatbestand für Art. 4 enthält der AI Act nicht. Sanktionen richten sich nach nationalem Recht und sollen verhältnismäßig sein. Fehlende Schulungen können laut Kommission aber eine Rolle spielen, wenn wegen eines anderen Verstoßes ermittelt wird oder ein Schaden entstanden ist. Pauschale Warnungen vor Millionenstrafen allein wegen Art. 4 sind deshalb übertrieben.

Wie setzen KMU die KI-Kompetenzpflicht pragmatisch um?

Die Kommission verlangt kein Zertifikat und keinen KI-Beauftragten. Eine interne Dokumentation der Maßnahmen genügt. Für ein KMU reichen in der Regel fünf Schritte:

  1. Bestandsaufnahme: Welche KI-Tools nutzen wir, offiziell und inoffiziell? Wer nutzt sie wofür?
  2. Regeln festlegen: Eine kurze KI-Richtlinie, welche Tools freigegeben sind, welche Daten hinein dürfen (keine personenbezogenen Kundendaten in Tools ohne Auftragsverarbeitung) und dass Ergebnisse vor der Verwendung geprüft werden. Die Orientierungshilfe der Datenschutzkonferenz von 2024 ist dafür eine gute Checkliste.
  3. Schulen, passend zur Rolle: Wer Angebote schreibt, braucht andere Beispiele als die Buchhaltung. Wichtig sind die Grenzen der KI: Halluzinationen, veraltetes Wissen, Datenschutz.
  4. Dokumentieren: Wer wurde wann zu welchen Inhalten geschult? Eine Teilnahmeliste mit Agenda reicht als Grundlage.
  5. Auffrischen: Tools ändern sich schnell. Ein kurzer Termin pro Halbjahr hält das Wissen aktuell.

Der Aufwand ist überschaubar. Und er löst nebenbei das eigentliche Problem aus dem ersten Abschnitt: Teams, die wissen, was sie dürfen und wie es geht, nutzen KI mehr und sicherer.

Welche Schulungsformate es gibt, was sie kosten und ob sich der Aufwand für ein KMU rechnet, behandelt Teil 3 dieser Reihe. Wie eine eintägige Team-Schulung mit Teilnahmebestätigung für Ihre Dokumentation aussieht, zeigt KI-Grundlagen fürs Team.

Häufige Fragen

Ist eine KI-Schulung für Mitarbeitende Pflicht?

Eine bestimmte Schulung schreibt der AI Act nicht vor. Art. 4 verpflichtet Unternehmen, die KI-Systeme einsetzen, seit dem Digital Omnibus aber weiterhin dazu, Maßnahmen zur Förderung der KI-Kompetenz ihrer Beschäftigten zu ergreifen. Eine Schulung ist dafür die naheliegende Maßnahme. Wer gar nichts tut, verstößt gegen Art. 4.

Gilt Art. 4 AI Act auch, wenn wir nur ChatGPT nutzen?

Ja. Wer ein KI-System wie ChatGPT, Copilot oder Langdock beruflich einsetzt, ist Betreiber im Sinne der KI-Verordnung. Die EU-Kommission nennt in ihrem Q&A ausdrücklich das Beispiel, dass Beschäftigte ChatGPT für Werbetexte oder Übersetzungen nutzen. Sie sollten dann etwa über Risiken wie erfundene Fakten (Halluzinationen) informiert werden.

Brauchen wir ein Zertifikat als Nachweis der KI-Kompetenz?

Nein. Laut EU-Kommission ist kein Zertifikat erforderlich, eine interne Dokumentation der Maßnahmen genügt. Auch einen KI-Beauftragten schreibt der AI Act nicht vor.

Was hat der Digital Omnibus an Art. 4 geändert?

Die ursprüngliche Fassung verlangte, nach besten Kräften ein ausreichendes Maß an KI-Kompetenz sicherzustellen. Seit der Änderungsverordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026, müssen Unternehmen Maßnahmen zur Förderung der KI-Kompetenz ergreifen, ohne ein bestimmtes Niveau garantieren zu müssen. Kommission und Mitgliedstaaten sollen besonders KMU dabei unterstützen.

Wer kontrolliert die KI-Kompetenzpflicht in Deutschland?

Seit Inkrafttreten des KI-Marktüberwachungsgesetzes (KI-MIG) am 29. Juli 2026 ist die Bundesnetzagentur Marktüberwachungsbehörde und zentrale Anlaufstelle für die KI-Verordnung. Ihr KI-Service-Desk gibt KMU auch Hinweise zum Aufbau von KI-Kompetenz.

Quellen

  1. Bitkom: Erstmals nutzt die Mehrheit der Unternehmen KI (14.09.2026)bitkom.org
  2. Bitkom: Beschäftigte nutzen vermehrt Schatten-KI (21.10.2025)bitkom.org
  3. Destatis: Gründe gegen die Nutzung von KI (Berichtsjahr 2025)destatis.de
  4. EU-Kommission: AI Literacy, Questions & Answersdigital-strategy.ec.europa.eu
  5. EUR-Lex: Verordnung (EU) 2026/1744 (Digital Omnibus zur KI-Verordnung)eur-lex.europa.eu
  6. Bundesnetzagentur: KI-Verordnung, Pressemitteilung vom 29.07.2026bundesnetzagentur.de
  7. Datenschutzkonferenz: Orientierungshilfe KI und Datenschutz (06.05.2024)datenschutzkonferenz-online.de
  8. KfW Research: Fokus Volkswirtschaft Nr. 554, KI im Mittelstand (Juli 2026)kfw.de

Themen: AI Act, KI-Kompetenz, Art. 4, Digital Omnibus, Datenschutz, KMU

Vincent Michler

KI-Trainer und Engineer

Gründer von pyminds in München. Schult seit 2025 Teams in Unternehmen und Bildungsträgern zu KI-Assistants, Agents und Automatisierung, bisher über 200 Teilnehmende.

Mehr über pyminds

Weiterlesen

KI-Schulung für Ihr Team,an Ihren Aufgaben.

Live-Schulungen für 3 bis 12 Personen, remote oder vor Ort. Geübt wird mit den Tools, die Ihr Team schon nutzt, und an echten Aufgaben aus dem Alltag.

Fragen zum Beitrag? hallo@pyminds.de

  • 3 bis 12 Personen
  • Remote oder vor Ort
VOR DER ZAHLUNG

Alles Weitere in der Widerrufsbelehrung mit Muster-Widerrufsformular. Die AGB bestätigst du anschließend in der Kasse.

Öffnet Stripe in einem neuen Tab.