Was Sie über KI wissen müssen. Und was dafür niemand im Haus sein muss.

/01KI-Kompetenz: Begriff und der rechtliche Anlass

Artikel 4 des EU AI Act verpflichtet seit dem 2. Februar 2025 jeden Anbieter und Betreiber eines KI-Systems, Maßnahmen zu ergreifen, damit das eigene Personal über ein ausreichendes Maß an KI-Kompetenz verfügt. Was damit konkret gemeint ist, welche sechs Bausteine als Nachweis taugen und wie der Digital Omnibus den Maßstab zum 27. Juli 2026 gesenkt hat, haben wir ausführlich in KI-Kompetenzpflicht Art. 4: Was Schulung im Mittelstand heißt beschrieben. Dieser Artikel wiederholt das nicht, sondern setzt einen Schritt davor an: Die Pflicht sagt, dass Kompetenz da sein muss — sie sagt nicht, wer sie im Betrieb trägt und wer sie von außen einkaufen darf.

Das ist die Frage, die uns Geschäftsführer tatsächlich stellen, meist nicht mit dem Wort „Artikel 4" im Mund: Brauchen wir einen eigenen KI-Experten? Reicht es, wenn die IT das nebenbei macht? Was, wenn wir alles an einen Dienstleister geben? Die ehrliche Antwort ist differenzierter als „machen Sie selbst" oder „lagern Sie alles aus" — sie hängt an der Rolle, die jemand im Umgang mit KI-Systemen einnimmt, nicht an der Betriebsgröße.

/02Vier Rollen, vier verschiedene Mindestwissen

In Betrieben mit fünfzig bis fünfhundert Beschäftigten sehen wir wiederkehrend vier Rollen, die jeweils anderes Wissen brauchen — und genau diese Verteilung entscheidet später, was sich auslagern lässt und was nicht:

Die letzte Spalte ist der eigentliche Kern dieses Artikels: Zwei der vier Rollen lassen sich in ihrem technischen Teil vollständig an einen Partner abgeben. Zwei nicht — und zwar nicht, weil ihnen das Wissen fehlen dürfte, sondern weil die Entscheidung, die sie treffen, zur Geschäftsführung und zum Haus gehört, nicht zu einem externen Vertrag.

Damit diese Verteilung nicht nur in einer Präsentation steht, sondern im Betrieb nachschlagbar ist, pflegen wir sie mit Kunden als einfache Tabelle — dieselbe Datei, aus der die Terminalzeile dieses Artikels einen Ausschnitt zeigt:

# rollen-ki.csv
name;rolle;mindestwissen;auslagerbar
M. Huber;Geschaeftsfuehrung;Datenklassen,Rollenlogik;nein
S. Keller;Fachanwender Vertrieb;freigegebene Werkzeuge,Grenzen;teilweise
T. Berg;IT-Administration;Betrieb,Protokollierung;ja
J. Neumann;Systembauer RAG-Assistent;Freigabeprozesse,Evaluation;teilweise

Eine solche Liste ist kein Bürokratieprojekt, sondern die kürzeste Form eines Nachweises: Wer bei einer Prüfung oder im Schadensfall gefragt wird, wer wofür zuständig ist, zeigt diese eine Datei statt eine Suche durch E-Mails und Organigramme.

/03Was zwingend ins Haus gehört

Drei Entscheidungen kann kein Partner für Sie treffen, und zwar unabhängig davon, wie gut er ist. Erstens: welche Datenklasse in welches System darf. Das setzt voraus, dass jemand im Haus weiß, was eine Kalkulation, eine Konstruktionszeichnung oder eine Kundenliste wert ist — diese Einschätzung kennt kein Dienstleister besser als das eigene Unternehmen. Zweitens: wer im Sinn von Artikel 3 Nummer 3 und 4 des EU AI Act Anbieter und wer Betreiber eines Systems ist. Ein Betrieb, der ein Open-Weight-Modell selbst mit einer Wissensbasis verbindet und unter eigenem Namen einsetzt, übernimmt diese Rolle — ob er sie kennt oder nicht, ändert nichts an der Pflicht, nur daran, ob er sie erfüllt. Drittens: wer im Betrieb die Freigabe neuer KI-Werkzeuge erteilt. Diese Stelle kann eine Person oder ein kleines Gremium sein, aber sie muss existieren und im Haus sitzen — sonst entscheidet am Ende die Fachabteilung mit dem größten Elan, nicht die mit der besten Übersicht über Datenklassen. Enthält eine Datenklasse personenbezogene Daten — Kunden, Bewerber, Beschäftigte —, kommt die DSGVO dazu: Wer entscheidet, ob ein Sprachmodell Zugriff bekommt, entscheidet damit zugleich über eine Verarbeitung im Sinn der Verordnung. Auch das ist eine Entscheidung, die im Haus bleibt, selbst wenn die technische Umsetzung extern liegt.

Dieses Mindestwissen lässt sich an einem Nachmittag vermitteln, wenn es an den eigenen Werkzeugen und Daten stattfindet — nicht an einem Standardkurs, der die eigene Umgebung nicht kennt. Was ein Betrieb dafür selbst aufbauen muss, ist keine technische Fähigkeit, sondern eine Entscheidungsstruktur: eine Person, die gefragt wird, bevor ein neues KI-Werkzeug produktiv geht.

/04Was sich sinnvoll auslagern lässt

Der technische Betrieb eines KI-Systems ist der Teil, bei dem ein Partner in den meisten Mittelstandsbetrieben regelmäßig besser abschneidet als eine interne IT mit zwei bis fünf Köpfen — nicht, weil die eigene IT unfähig wäre, sondern weil Modellversionen, Quantisierung, Inferenzserver und Betriebsüberwachung ein eigenes, sich schnell wandelndes Fachgebiet sind, das neben Patchday, Firewall und Druckerproblemen selten die nötige Aufmerksamkeit bekommt. Dasselbe gilt für die laufende Pflege einer Wissensbasis: Einrichten ist überschaubar, aber Aktualität halten, wenn sich Dokumente und Prozesse ändern, ist eine wiederkehrende Aufgabe, die in der Praxis oft liegen bleibt, wenn sie niemandem fest zugeordnet ist. Wer diesen Teil an einen Managed-Services-Partner gibt, kauft damit vor allem eines: dass jemand dafür verantwortlich bleibt, wenn im Haus gerade niemand Zeit hat — was bei der Wissensbasis öfter vorkommt, als die meisten Projektpläne vorsehen.

Auch die reine Fachschulung lässt sich auslagern — ein externer Trainer, der am eigenen System schult, bringt oft mehr als eine interne Person, die das Thema nebenbei übernimmt und selbst erst einarbeiten müsste. Was dabei auslagerbar ist: die Durchführung. Was nicht auslagerbar bleibt: die Entscheidung, welche Inhalte dort vermittelt werden, weil die sich aus den eigenen Datenklassen und Werkzeugen ergeben, nicht aus einem allgemeinen Lehrplan.

Was diese Auslagerung kostet, lässt sich an unseren eigenen Preisstufen zeigen — nicht als Angebot, sondern als Anker für die Größenordnung, über die bei dieser Entscheidung tatsächlich gesprochen wird:

Was in keiner dieser drei Stufen enthalten ist, lässt sich an der Entscheidungsstruktur aus Abschnitt 3 ablesen: die Freigabeentscheidung, die Datenklassifikation, die Rolle als Anbieter oder Betreiber. Das bleibt beim Haus, unabhängig davon, welche Stufe gebucht wird — ein Partner liefert den Betrieb, nicht die Entscheidung darüber, was betrieben werden darf.

/05Die Grauzone: Governance-Dokumentation als Dienstleistung

Zwischen den klaren Fällen liegt ein Bereich, in dem Auslagerung nur teilweise funktioniert: die Dokumentation, die Artikel 4 als Nachweis verlangt — Richtlinie, Werkzeugliste, Teilnehmerprotokolle. Ein Partner kann die Vorlage liefern, das Format pflegen und bei der Struktur helfen; die Inhalte — welche Werkzeuge mit welchen Daten tatsächlich im Einsatz sind — muss das Haus liefern, weil nur es sie kennt. Wer diesen Unterschied übersieht, kauft eine Richtlinienvorlage, die hübsch aussieht und im Ernstfall nichts über den eigenen Betrieb aussagt.

In der Praxis funktioniert die Arbeitsteilung am besten, wenn der Partner das ISMS-Format und die laufende Pflege übernimmt und das Haus einmal im Quartal die Werkzeugliste und Datenklassen bestätigt — eine Stunde Aufwand, kein Projekt. Das Inventar selbst bleibt damit ein gemeinsam gepflegtes Dokument, nicht ein einmal gekauftes PDF, das nach drei Monaten nicht mehr stimmt.

Die sechs Bausteine, die dort als Nachweis beschrieben sind — Nutzungsrichtlinie, Kurzeinweisung je Rolle, Werkzeugliste mit Freigabe, Praxisregeln je Werkzeug, Ansprechpartner und Meldeweg, Wiederholung bei Änderung — lassen sich den vier Rollen aus Abschnitt 2 eindeutig zuordnen, und genau diese Zuordnung entscheidet, wer welchen Baustein liefert:

Die rechte Spalte zeigt, wie konsequent sich die Trennung aus diesem Artikel durchhält: Format und Durchführung sind fast durchgehend auslagerbar, der inhaltliche Kern — welche Daten, wer informiert wird, wer entscheidet — bleibt bei genau zwei der sechs Bausteine zwingend im Haus.

/06Ein Partner ersetzt kein Wissen — er verschiebt die Verantwortung nicht

Ein verbreiteter Irrtum: „Wir haben einen Dienstleister, also sind wir fein raus." Artikel 4 richtet sich an Anbieter und Betreiber — ein Betrieb, der ein KI-System einsetzt, bleibt Betreiber, auch wenn ein Partner es betreibt. Die Pflicht zur Kompetenz der eigenen Beschäftigten verschwindet nicht, weil der Server woanders steht. Was ein Partner tatsächlich abnimmt, ist der technische Aufwand — nicht die rechtliche Verantwortung und nicht die Pflicht, dass die eigenen Leute wissen, was sie mit dem System tun dürfen.

Diese Unterscheidung lohnt sich, bevor ein Vertrag unterschrieben wird: Ein guter Partner liefert nicht nur Betrieb, sondern auch die Informationen, die das Haus für seine eigene Nachweispflicht braucht — welches Modell in welcher Version läuft, welche Datenklassen es verarbeitet, wann es zuletzt aktualisiert wurde. Fehlt das, bleibt die Lücke bei Ihnen, nicht beim Dienstleister.

Vier Fragen an einen Vertragsentwurf zeigen meist, ob diese Informationspflicht tatsächlich geregelt ist, nicht nur stillschweigend vorausgesetzt: Wer informiert wen, wenn sich das Modell ändert? In welchem Format liegt die Werkzeugliste vor, und wie oft wird sie aktualisiert? Wer liefert die Teilnehmerprotokolle der Einweisung — der Partner, der sie hält, oder das Haus, das sie dokumentieren muss? Und: Was passiert mit den Nachweisen, wenn der Vertrag endet — bleiben Liste und Protokolle beim Haus, oder beginnt der nächste Partner bei null? Ein Vertrag, der diese vier Fragen nicht beantwortet, überlässt die Antwort dem Streitfall.

Verarbeitet der Partner dabei personenbezogene Daten für Sie, gehört ein Auftragsverarbeitungsvertrag mit den üblichen technischen und organisatorischen Maßnahmen zum Mindeststandard — das ist unabhängig von Artikel 4 ohnehin Pflicht, wird aber in KI-Projekten regelmäßig vergessen, weil der Fokus auf dem Modell liegt, nicht auf dem Vertrag darum herum. Wer das vor Projektstart klärt, erspart sich die Nachbesserung, wenn der erste Audit danach fragt. Ein kurzer Blick in den Vertrag reicht: Steht dort nichts zu Datenstandort, Löschfristen und Meldewegen bei einem Vorfall, fehlt etwas, das spätestens bei der nächsten Prüfung auffällt — besser, der eigene Einkauf fragt danach als der Prüfer.

/07Wie der Aufbau in der Praxis aussieht: drei Monate, drei Schritte

Aus Einführungen, die wir begleitet haben, hat sich eine Reihenfolge bewährt, die ohne Schulungsindustrie auskommt:

monat-1  Freigabestelle benennen, Datenklassen auflisten (1 Tag Workshop)
monat-1  Werkzeugliste anlegen: was läuft bereits, wer nutzt es, wofür
monat-2  Einweisung je Rolle am echten Werkzeug, nicht an Folien
monat-2  Betrieb klären: eigene IT, Partner, oder beides je System
monat-3  Erste Prüfung der Nachweise: Richtlinie, Liste, Teilnehmer
monat-3  Termin für die naechste Pruefung festlegen (bei Aenderung, nicht Kalender)

Der erste Monat ist der, in dem sich am meisten entscheidet: Wer die Freigabestelle übernimmt und wie die Datenklassen heißen, bestimmt den gesamten weiteren Aufbau. Der dritte Monat ist der, der am häufigsten ausfällt, weil die Einführung nach der Einweisung als „erledigt" gilt — dabei ist die Nachweisprüfung der Teil, der im Ernstfall tatsächlich zählt.

Konkret sieht der erste Workshop so aus: Geschäftsführung und IT-Leitung sitzen zusammen und gehen zwei Listen durch. Die erste: Welche Systeme mit KI-Beteiligung laufen bereits — oft mehr, als vorher jemand gezählt hätte, weil Bürosoftware und Ticketsystem längst eigene Assistenzfunktionen mitbringen. Die zweite: Welche drei bis fünf Datenklassen gibt es im Haus, und welche davon darf in welches System. Aus diesen zwei Listen entsteht am selben Nachmittag die Werkzeugliste aus Abschnitt 5 — nicht als separates Projekt, sondern als Mitschrift des Workshops. Der zweite Monat überträgt dieselbe Liste in die Einweisung: Jede Rolle bekommt eine eigene, kurze Sitzung an genau den Werkzeugen, die für sie in der Liste stehen, nicht an einer allgemeinen Präsentation über KI. Der dritte Monat ist bewusst kein neues Projekt, sondern ein Termin im Kalender: dieselben zwei Listen noch einmal durchgehen, prüfen, was sich geändert hat, und den nächsten Termin festlegen — nicht in zwölf Monaten, sondern dann, wenn sich etwas ändert.

/08Wo es hakt: Grenzen und Fallstricke

Auslagern wird zum Auslagern der Verantwortung verwechselt. Wie in Abschnitt 6 beschrieben, bleibt die Betreiberpflicht im Haus, auch wenn der Betrieb extern liegt. Ein Vertrag, der das nicht klarstellt, erzeugt später Streit darüber, wer die Nachweise liefert.

Die Freigabestelle existiert nur auf dem Papier. Viele Betriebe benennen eine Person, aber niemand fragt sie je, weil der Weg zu ihr nicht bekannt ist. Ein neues KI-Werkzeug wird dann faktisch von der Fachabteilung freigegeben, die es zuerst ausprobiert hat — die formale Struktur hilft nichts, wenn sie niemand kennt.

Externe Schulung ohne eigene Nacharbeit verpufft. Ein Werkstattformat am eigenen System ist nur so gut wie die Richtlinie, die danach tatsächlich geschrieben wird. Wird dieser Schritt dem Trainer überlassen, entsteht ein Dokument, das die eigene Umgebung nicht wirklich trifft.

Rollen verschieben sich leise. Ein Assistent, der als IT-Pilot begann, landet nach einigen Monaten oft in einer anderen Abteilung, mit anderen Daten, ohne dass die Freigabestelle davon erfährt. Ohne Inventar mit regelmäßiger Prüfung bleibt das unbemerkt — und mit ihm die Frage, ob der Betrieb inzwischen zum Anbieter eines ganz anderen Systems geworden ist, als ursprünglich freigegeben wurde.

Mindestwissen verwechselt sich mit Vollständigkeit. Eine Geschäftsführung, die glaubt, sie müsse jede technische Einzelheit eines Modells verstehen, verliert sich in Details, die für ihre eigentliche Entscheidung — welche Daten, welche Freigabe — unerheblich sind. Die Abgrenzung aus Abschnitt 3 ist bewusst eng gehalten: drei Entscheidungen, nicht drei Fachgebiete.

/09Die Entscheidung: selbst aufbauen, auslagern oder beides

Selbst aufbauen muss ein Betrieb die Entscheidungsstruktur: wer Datenklassen festlegt, wer Werkzeuge freigibt, wer im Sinn des AI Act Anbieter oder Betreiber ist. Das lässt sich nicht kaufen, weil es Wissen über das eigene Haus voraussetzt, das kein Partner mitbringt.

Auslagern lohnt sich für den technischen Betrieb, die laufende Pflege von Modellen und Wissensbasis, und die Durchführung von Schulungen — Bereiche, in denen Spezialisierung regelmäßig mehr bringt als Eigenaufbau, gerade in einer IT mit wenigen Köpfen, die ohnehin ausgelastet ist. Beides zusammen ist für die meisten Mittelständler die realistische Antwort: eigene Entscheidungshoheit über Daten und Freigaben, externer Betrieb und externe Durchführung der Einweisung — mit einer klaren Schnittstelle, wer welche Nachweise liefert. Die Rollentabelle aus Abschnitt 2 und die Bausteintabelle aus Abschnitt 5 sind dafür der Ausgangspunkt, nicht das Ergebnis einer einmaligen Prüfung: Beide verändern sich, sobald ein neues Werkzeug dazukommt oder eine Rolle wechselt.

/10Häufige Fragen