KI-Kompetenz nach EU AI Act: Was kleine Unternehmen 2026 dokumentieren müssen

Eine Mitarbeiterin lässt mit ChatGPT Entwürfe für Kundenangebote formulieren, ein Kollege fasst mit Microsoft Copilot Besprechungen zusammen und die Geschäftsführung testet einen KI-Chatbot für die Website. Solche Einsätze sind im kleinen Unternehmen längst Alltag. Seit Februar 2025 gilt jedoch die Pflicht zur KI-Kompetenz aus Artikel 4 des EU AI Act. Viele Betriebe fragen deshalb zurecht: Müssen wir jetzt KI-Schulungen nachweisen? Die kurze Antwort lautet: Ein formales Zertifikat ist nicht vorgeschrieben. Eine schlanke, nachvollziehbare Dokumentation ist trotzdem sinnvoll.

Was der EU AI Act unter KI-Kompetenz versteht

Artikel 4 des EU AI Act verpflichtet Anbieter und Betreiber von KI-Systemen dazu, Maßnahmen für ein ausreichendes Maß an KI-Kompetenz zu treffen. Gemeint sind nicht nur klassische Schulungen im Seminarraum. Entscheidend ist, dass Personen, die KI-Systeme im Auftrag des Unternehmens einsetzen oder deren Einsatz beaufsichtigen, die nötigen Kenntnisse für ihre jeweilige Aufgabe haben.

Dabei berücksichtigt der EU AI Act unter anderem:

• technische Kenntnisse und Erfahrung
• Ausbildung und sonstige Schulungen
• den konkreten Kontext, in dem das KI-System genutzt wird
• die Personengruppen, die von den Ergebnissen betroffen sein können

Die Pflicht gilt seit dem 2. Februar 2025. Weitere zentrale Vorgaben des EU AI Act werden ab August 2026 umfassend anwendbar. Kleine Unternehmen sollten das Thema daher nicht als spätere Großkonzernpflicht behandeln, sondern ihre aktuelle KI-Nutzung jetzt geordnet erfassen.

Wichtig: Der EU AI Act fordert keine einheitliche Schulungsbescheinigung und schreibt weder Dauer noch Format einer Unterweisung vor. Ein pauschales Video für alle Beschäftigten wird aber oft nicht genügen, wenn Mitarbeitende KI in sensiblen Arbeitsabläufen einsetzen.

Welche Mitarbeitenden betroffen sind

Nicht jede Person im Unternehmen braucht dieselbe Tiefe an KI-Wissen. Sinnvoll ist eine Einteilung nach tatsächlicher Nutzung und Risiko.

Personengruppe	Typische KI-Nutzung	Sinnvolle Kompetenzinhalte
Gelegentliche Anwender	Textentwürfe, Übersetzungen, Ideensammlungen	Datenschutz, Prüfung von Ergebnissen, keine vertraulichen Eingaben
Regelmäßige Anwender	Angebote, Marketing, Support, Dokumentation	gute Eingaben, Qualitätskontrolle, Urheberrecht, Freigabeprozesse
Führungskräfte	Auswahl und Einführung von KI-Tools	Risiken bewerten, Verantwortlichkeiten festlegen, Anbieter prüfen
Fachabteilungen mit sensiblen Daten	Personal, Finanzen, Recht, Gesundheit	strenge Dateneingaben, menschliche Prüfung, Grenzen automatisierter Entscheidungen
IT und Administration	Konten, Schnittstellen, Berechtigungen	Zugriffsrechte, Protokollierung, Konfiguration, Datenschutzvereinbarungen

Für ein kleines Handwerksunternehmen kann ein kurzer Leitfaden für ChatGPT und Microsoft Copilot ausreichen, wenn KI nur für unverbindliche Textentwürfe genutzt wird. Anders sieht es aus, wenn ein Unternehmen Bewerbungen vorsortiert, Kreditentscheidungen vorbereitet oder Preise automatisiert personalisiert. Je stärker KI-Ergebnisse Menschen unmittelbar betreffen, desto gründlicher sollten Schulung, Kontrolle und Dokumentation sein.

Auch externe Personen sollten Sie einbeziehen, wenn sie regelmäßig im Auftrag Ihres Unternehmens mit Ihren KI-Systemen arbeiten. Das können freie Mitarbeitende, Agenturen oder virtuelle Assistenzkräfte sein.

Welche Dokumentation sinnvoll ist

Eine Pflicht zum Führen einer bestimmten KI-Schulungsakte gibt es nicht. Im Streitfall oder bei einer Prüfung ist es dennoch hilfreich, wenn Sie zeigen können, wie Sie die KI-Kompetenz im Betrieb organisiert haben. Das schützt auch intern: Neue Mitarbeitende wissen schneller, welche Tools erlaubt sind und welche Regeln gelten.

Für die meisten KMU reicht eine einfache Dokumentation in einer Tabellenkalkulation, im HR-System oder in einem geschützten Bereich Ihres Projekttools. Halten Sie pro Schulung mindestens diese Punkte fest:

• Name und Funktion der teilnehmenden Person
• eingesetzte KI-Tools, etwa ChatGPT, Microsoft Copilot oder Gemini
• Datum und Format der Unterweisung
• behandelte Inhalte
• verantwortliche Person im Unternehmen
• Bestätigung der Teilnahme und Kenntnisnahme der Regeln
• Termin für eine Überprüfung oder Aktualisierung

Ergänzen Sie die Teilnehmerliste um einen kurzen Schulungsplan und eine interne KI-Richtlinie. Beides muss nicht lang sein. Entscheidend ist, dass die Vorgaben zu Ihrer tatsächlichen Nutzung passen.

Wer KI im Kundenkontakt nutzt, sollte die Schulung mit klaren Prozessregeln verbinden. Für einen Website-Chatbot gehört dazu beispielsweise, wann ein Gespräch an einen Menschen übergeben wird und wie Nutzende erkennen, dass sie mit KI kommunizieren. Welche Kennzeichnung ab 2026 relevant wird, erläutert unser Beitrag zur KI-Chatbot-Kennzeichnung ab 2026.

Ein schlanker Schulungsprozess für ChatGPT, Copilot und ähnliche Tools

Für kleine Teams muss KI-Kompetenz kein aufwendiges Bildungsprojekt werden. Ein funktionierender Prozess besteht häufig aus fünf Schritten.

1. KI-Tools und Anwendungsfälle erfassen

Listen Sie zuerst auf, welche KI-Tools im Unternehmen tatsächlich genutzt werden. Fragen Sie nicht nur nach offiziell eingeführten Konten. Oft verwenden Mitarbeitende kostenlose Einzelzugänge, Browser-Erweiterungen oder KI-Funktionen in vorhandener Software.

Notieren Sie daneben den Zweck: Angebotsentwurf, E-Mail-Zusammenfassung, Bildgenerierung, Kundenservice, Recherche oder Analyse. Diese Übersicht zeigt schnell, wo Risiken liegen und welche Regeln erforderlich sind. Einen Überblick über typische Einsatzfelder liefert auch unser Ratgeber KI-Tools für kleine Unternehmen nutzen.

2. Erlaubte und unzulässige Eingaben festlegen

Der wichtigste Schulungsinhalt lautet meist: Was darf in das Tool eingegeben werden?

Vertrauliche Kundendaten, Personalinformationen, Zugangsdaten, Vertragsinhalte und interne Kalkulationen gehören nicht ohne Prüfung in öffentliche KI-Dienste. Auch bei Unternehmenskonten sollten Sie wissen, welche Vertrags- und Datenschutzeinstellungen gelten.

Für Zugangsdaten und die gemeinsame Verwaltung von Tool-Konten brauchen Sie einen sauberen Prozess. Ein Passwort-Manager für kleine Teams hilft dabei, persönliche Logins, geteilte Kennwörter und ehemalige Mitarbeitende besser zu verwalten.

3. Menschliche Prüfung verbindlich machen

KI-Ausgaben können überzeugend formuliert und trotzdem falsch, unvollständig oder für den konkreten Fall ungeeignet sein. Mitarbeitende sollten deshalb lernen, Ergebnisse fachlich zu prüfen, Quellen bei Bedarf nachzuvollziehen und keine KI-Ausgabe ungeprüft an Kunden, Behörden oder Geschäftspartner weiterzugeben.

Formulieren Sie eine klare Regel: KI erstellt Vorschläge, die Verantwortung bleibt beim Menschen. Besonders bei Angeboten, Verträgen, Buchungen, Personalthemen und Kundenbeschwerden sollte es festgelegte Freigaben geben.

4. Eine kurze Unterweisung durchführen

Für Anwenderinnen und Anwender genügt oft eine praxisbezogene Einheit von 30 bis 60 Minuten. Arbeiten Sie mit echten, aber anonymisierten Beispielen aus dem Betrieb. Zeigen Sie dabei gute und schlechte Eingaben, typische Fehler sowie den Freigabeprozess.

Eine sinnvolle Agenda umfasst:

• Zweck und Grenzen des eingesetzten Tools
• erlaubte und verbotene Daten
• Prüfung von Fakten, Rechenwegen und Quellen
• Umgang mit Urheberrecht und fremden Inhalten
• Kennzeichnung und Übergabe im Kundenkontakt
• Ansprechpartner bei Unsicherheiten

Wer das Thema systematisch vertiefen will, findet passende Seminare bei cmt.de.

5. Regelmäßig aktualisieren

KI-Tools ändern Funktionen, Datenschutzoptionen und Vertragsbedingungen häufig. Prüfen Sie Ihre Unterlagen daher mindestens dann, wenn Sie ein neues Tool einführen, KI in einem neuen Bereich einsetzen oder sich ein relevanter Prozess verändert.

Ein kurzer jährlicher Auffrischungstermin ist für viele KMU praktikabel. Bei stark genutzten Tools oder sensiblen Anwendungsfällen sind kürzere Abstände sinnvoll.

Was Sie nicht dokumentieren müssen

Sie müssen nicht jeden einzelnen Prompt speichern oder jede KI-Antwort archivieren, nur um Artikel 4 zu erfüllen. Das wäre in vielen Fällen unverhältnismäßig und kann selbst Datenschutzprobleme schaffen.

Auch ein externes Zertifikat ist nicht automatisch besser als eine interne, gut dokumentierte Unterweisung. Maßgeblich ist, ob die Mitarbeitenden die Risiken und Regeln ihres konkreten Einsatzes verstehen.

Anders gelagert sind Aufbewahrungspflichten für geschäftliche Unterlagen. Wenn KI bei Rechnungen, Buchhaltung oder geschäftlicher Korrespondenz eingesetzt wird, bleiben die jeweiligen Anforderungen bestehen. Dazu passen unsere Hinweise zur E-Mail-Archivierung für kleine Unternehmen und zu E-Rechnungen GoBD-konform archivieren.

Checkliste für die Umsetzung

• KI-Tools und konkrete Anwendungsfälle im Unternehmen erfassen
• Verantwortliche Person für KI-Regeln benennen
• Mitarbeitende nach Nutzungsintensität und Risiko gruppieren
• kurze, toolbezogene Unterweisung durchführen
• Regeln für Daten, Prüfung und Freigaben schriftlich festhalten
• Teilnahme, Inhalte und Datum dokumentieren
• neue Mitarbeitende vor der ersten KI-Nutzung einweisen
• Unterlagen bei neuen Tools oder geänderten Prozessen aktualisieren

Für kleine Unternehmen ist die KI-Kompetenz nach EU AI Act vor allem eine Organisationsaufgabe. Sie müssen keine umfangreiche Akademie aufbauen. Wer KI-Nutzung transparent macht, klare Regeln setzt und die Unterweisung nachvollziehbar festhält, schafft eine solide Grundlage für ChatGPT, Copilot und die nächsten KI-Funktionen im Arbeitsalltag.