Der Bot muss sich vorstellen. Beim ersten Satz, nicht im Impressum.

/01Artikel 50: Begriff und Abgrenzung

Artikel 50 des EU AI Act trägt die Überschrift „Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme" und ist die Vorschrift, die im Mittelstand am häufigsten greift — häufiger als jede Hochrisiko-Regel. Sie gilt nach Artikel 113 seit dem allgemeinen Geltungsbeginn am 2. August 2026 und war nie Gegenstand der Verschiebung durch den Digital Omnibus; der hat lediglich in Absatz 7 die Zuständigkeit für Verhaltenskodizes von der KI-Behörde auf die Kommission übertragen und in Artikel 111 Absatz 4 eine Übergangsfrist für die maschinenlesbare Kennzeichnung eingefügt.

Die Vorschrift enthält vier Pflichten, die sich an zwei Rollen richten: Absatz 1 und 2 an Anbieter, Absatz 3 und 4 an Betreiber. Absatz 5 regelt die Form für alle vier, Absatz 6 stellt klar, dass Hochrisiko-Pflichten und andere Transparenzregeln — etwa aus der DSGVO — daneben bestehen bleiben. Was Artikel 50 nicht ist: keine Inhaltskontrolle, keine Pflicht zur Richtigkeit der Antworten, keine Haftungsregel für Fehlauskünfte. Er verlangt, dass der Mensch weiß, womit er es zu tun hat. Nicht mehr — aber auch nicht weniger.

Für diesen Artikel steht der Fall im Mittelpunkt, der in Betrieben mit fünfzig bis fünfhundert Beschäftigten am häufigsten vorkommt: ein Chatbot auf der Website, ein Telefonassistent in der Anlage, ein Assistent, der Antwortentwürfe für den Support schreibt. Welche Pflichten der Omnibus insgesamt verschoben hat und welche nicht, steht in Welche KI-Pflichten trotz Verschiebung gelten.

/02Absatz 1: Der Bot muss sich zu erkennen geben — und wer dafür haftet

Absatz 1 verpflichtet Anbieter, Systeme, die „für die direkte Interaktion mit natürlichen Personen bestimmt sind", so zu konzipieren und zu entwickeln, dass die Personen informiert werden, dass sie mit einem KI-System interagieren. Die Pflicht ist eine Konstruktionspflicht: Der Hinweis ist Teil des Systems, nicht Teil der Nutzungsbedingungen. Ein Chatbot, der den Hinweis nur zeigt, wenn der Betreiber ihn konfiguriert, ist aus Sicht des Anbieters nicht vorschriftsgemäß konzipiert.

Wer Anbieter ist, entscheidet Artikel 3 Nummer 3: wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt. Drei Konstellationen kommen im Mittelstand vor:

• Gekaufter Bot eines Herstellers, nach dessen Anleitung betrieben: Der Hersteller ist Anbieter, der Betrieb Betreiber. Der Betreiber sollte prüfen, ob der Hinweis da ist, und ihn nicht abschalten — wer die Kennzeichnung entfernt, verändert das System wesentlich und wird nach Artikel 25 selbst zum Anbieter.
• Bot vom Dienstleister gebaut, unter dem Namen des Betriebs in Betrieb genommen: Nach dem Wortlaut ist der Betrieb Anbieter — er hat das System „entwickeln lassen" und nimmt es unter eigenem Namen in Betrieb. Der Dienstleister schuldet die Konstruktion vertraglich; die Pflicht aus Absatz 1 trifft den Betrieb.
• Selbst gebauter Bot aus einem Sprachmodell, einer Wissensbasis und einer Oberfläche: Der Betrieb ist Anbieter und Betreiber zugleich.

In den beiden letzten Fällen liegt die Pflicht direkt beim Betrieb — und mit ihr die Bußgeldstufe des Artikels 99 Absatz 4 Buchstabe g. Die Einordnung im Einzelfall gehört zu einem Anwalt; die technische Beschreibung, die er dafür braucht, liefert das Inventar.

/03Absatz 2: Maschinenlesbare Kennzeichnung erzeugter Inhalte

Absatz 2 verpflichtet Anbieter von Systemen, die Audio, Bild, Video oder Text erzeugen — ausdrücklich auch Systeme mit allgemeinem Verwendungszweck —, die Ausgaben „in einem maschinenlesbaren Format" zu kennzeichnen und als künstlich erzeugt erkennbar zu machen. Die Lösung muss wirksam, interoperabel, robust und zuverlässig sein, „soweit technisch machbar", unter Berücksichtigung von Kosten und Stand der Technik. Ausgenommen sind Systeme, die eine unterstützende Funktion bei Standardbearbeitung haben oder die Eingaben des Betreibers nicht wesentlich verändern.

Der Omnibus hat hier die einzige Übergangsfrist des Artikels gesetzt: Nach dem neuen Artikel 111 Absatz 4 müssen Anbieter von Systemen, die vor dem 2. August 2026 auf dem Markt waren, Absatz 2 bis zum 2. Dezember 2026 erfüllen. Für Systeme, die danach auf den Markt kommen, gilt die Pflicht sofort. Was als maschinenlesbare Kennzeichnung ausreicht, sollen Verhaltenskodizes nach Absatz 7 klären; die Kommission kann per Durchführungsrechtsakt nachlegen, wenn die Kodizes nicht genügen. Bei Redaktionsschluss lag kein verabschiedeter Kodex vor.

Für einen Betrieb, der ein Open-Weight-Modell im eigenen Haus mit vLLM betreibt und damit Texte erzeugt, ist Absatz 2 die unbequemste Stelle: Das Modell liefert die Kennzeichnung nicht mit, der Betrieb ist Anbieter. In der Praxis heißt das heute: Metadaten in erzeugten Dateien (Bilder, Audio), sichtbare Kennzeichnung bei Text, und ein Nachweis, dass der Stand der Technik geprüft wurde. Eine belastbare Textkennzeichnung, die Kopieren und Umformulieren übersteht, gibt es nach unserem Kenntnisstand nicht; genau das meint die Formulierung „soweit technisch machbar".

/04Absatz 4: Deepfakes und veröffentlichte Texte — die Betreiberpflicht

Absatz 4 richtet sich an Betreiber und hat zwei Teile. Erstens: Wer mit einem KI-System Bild-, Audio- oder Videoinhalte erzeugt, die eine Deepfake darstellen, muss offenlegen, dass sie künstlich erzeugt oder verändert sind — bei erkennbar künstlerischen oder satirischen Werken in einer Form, die den Genuss des Werks nicht beeinträchtigt. Zweitens: Wer KI-erzeugten Text veröffentlicht, „um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren", muss das offenlegen — es sei denn, der Text hat eine menschliche Prüfung oder redaktionelle Kontrolle durchlaufen und eine natürliche oder juristische Person trägt die redaktionelle Verantwortung.

Für den Mittelstand bedeutet der zweite Teil: Ein Blogartikel, den ein Sprachmodell entworfen und ein Mitarbeiter geprüft und verantwortet hat, braucht keinen Hinweis nach Absatz 4. Ein automatisch erzeugter Text, den niemand gelesen hat, braucht ihn — wenn er die Öffentlichkeit informiert. Produktbeschreibungen im Webshop fallen nach unserer Lesart nicht darunter; ein Newsbereich, der Branchenmeldungen zusammenfasst, schon. Wie wir das auf der eigenen Website entschieden haben, steht in In eigener Sache: Warum über unseren Artikeln ein KI-Hinweis steht — dort haben wir uns für den Hinweis auch da entschieden, wo die Ausnahme greifen würde.

Der erste Teil ist für Marketingabteilungen relevant, die mit Bildgeneratoren arbeiten: Ein erzeugtes Bild einer realen Person — des Geschäftsführers, eines Kunden — ist eine Deepfake im Sinne der Verordnung und offenzulegen. Ein erzeugtes Bild eines fiktiven Produkts in einer fiktiven Halle ist es nicht.

/05Absatz 5: Klar, unterscheidbar, beim ersten Kontakt, barrierefrei

Absatz 5 legt die Form fest, und jede seiner vier Anforderungen schließt eine gängige Umsetzung aus. Klar: kein Fachbegriff, keine Umschreibung wie „digitaler Assistent" oder „virtueller Mitarbeiter". Das Wort KI oder „automatisiertes System" muss vorkommen. Unterscheidbar: Der Hinweis hebt sich vom übrigen Inhalt ab — nicht dieselbe Schrift, Farbe und Position wie die Chatnachrichten. Spätestens beim ersten Kontakt: bevor die Person etwas eingibt, nicht nach der ersten Antwort und nicht auf Nachfrage. Barrierefrei: Der Hinweis muss für Screenreader lesbar und bei Sprachbots hörbar sein.

Eine Umsetzung, die alle vier erfüllt, ist nicht aufwendig. Für einen Web-Chat sieht die Startnachricht bei uns so aus:

<div class="chat-start" role="status" aria-live="polite">
  <p class="ki-hinweis">
    <strong>Hinweis:</strong> Sie sprechen mit einem KI-System.
    Es beantwortet Fragen zu Bestellungen und Produkten und kann
    sich irren. Ein Mitarbeiter übernimmt jederzeit: Schreiben Sie
    „Mitarbeiter" oder rufen Sie 09571 873149 an.
  </p>
</div>

Zwei Dinge daran sind absichtlich: Die Übergabe an einen Menschen steht im Hinweis, weil sie das ist, was die Person nach dem Hinweis wissen will; und die Formulierung „kann sich irren" ist keine Pflicht aus Artikel 50, sondern Absicherung gegen die Fehlauskunft, die Artikel 50 nicht regelt. Für den Systemprompt des Modells gilt dieselbe Logik: Eine Anweisung, sich auf Nachfrage als KI zu bekennen und nie als Mensch auszugeben, gehört hinein — nicht als Ersatz für den Hinweis, sondern als zweite Sicherung, falls die Person mitten im Gespräch fragt.

/06Umsetzung je Kanal: Chat, Telefon, Mail, Agent

Der Hinweis ist je Kanal anders zu setzen, und der Telefonkanal ist der, den Betriebe am häufigsten übersehen — weil der Bot dort in der Telefonanlage steckt und nicht im Projekt „KI":

Die Zeile für den internen Assistenten überrascht viele: Beschäftigte sind natürliche Personen, und Absatz 1 macht keinen Unterschied zwischen Kunden und Belegschaft. Ein interner Bot, der so aussieht wie der Chat mit der IT-Abteilung, braucht den Hinweis genauso. Die Umsetzung ist dort einfacher, weil der Hinweis einmal beim ersten Start reicht und danach in der Oberfläche stehen kann.

/07Was „offensichtlich" heißt — und warum Sie sich nicht darauf verlassen sollten

Absatz 1 nimmt Fälle aus, in denen die KI-Natur „aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person offensichtlich" ist, unter Berücksichtigung der Umstände. Der Maßstab ist der des europäischen Verbraucherrechts: nicht der Fachmann, nicht der Arglose, sondern der durchschnittliche aufmerksame Nutzer. Die Ausnahme ist für Fälle gedacht, in denen niemand einen Menschen vermuten kann — ein Spracheingabefeld in einer App, ein Übersetzungsdienst, ein Werkzeug, das sich selbst als Software zeigt.

Ein Chatfenster mit Sprechblasen, einem Namen und einer Antwort in natürlicher Sprache ist nicht offensichtlich — es ist so gebaut, dass es wie ein Gespräch aussieht. Ein Telefonbot mit natürlicher Stimme erst recht nicht. Und ein System, das einen Vornamen und ein Porträtbild trägt, hat die Ausnahme durch sein Design verspielt. Wer sich auf „offensichtlich" beruft, trägt in einem Verfahren die Darlegungslast dafür — gegen ein Design, das er selbst gewählt hat, um menschlich zu wirken.

/08Nachweis und Betrieb: Protokoll, Versionsstand, Prüfung

Artikel 50 verlangt keine Dokumentation, aber im Streitfall muss ein Betrieb zeigen können, dass der Hinweis zu einem bestimmten Zeitpunkt da war und wie er aussah. Drei Dinge leisten das ohne Mehraufwand, wenn sie von Anfang an eingebaut sind:

• Protokoll je Sitzung. Zeitstempel, Version der Oberfläche, Version des Systemprompts, Modellversion, ob der Hinweis angezeigt wurde. Keine Gesprächsinhalte, wenn sie nicht ohnehin für den Support gespeichert werden — das ist eine Datenschutzfrage, keine Transparenzfrage.
• Versionierung der Oberfläche und des Systemprompts in einer Versionsverwaltung. Wer den Hinweis später ändert, kann belegen, was vorher stand. Wer ein ISMS betreibt, hängt den Nachweis an das Asset des Bots.
• Prüfung nach jeder Änderung. Ein automatischer Test, der eine Sitzung startet und prüft, ob der Hinweis vor der ersten Eingabe erscheint. Fünf Zeilen in der Pipeline; sie verhindern, dass ein Redesign den Hinweis stillschweigend entfernt.

Das ist derselbe Betriebsrahmen, den ein KI-System ohnehin braucht: Versionsstand, Protokolle und Tests sind keine Compliance-Zutat, sondern die Voraussetzung dafür, dass ein Bot nach dem dritten Modellwechsel noch tut, was er soll. Wie Traces und Auswertungen für Agenten aufgebaut sind, steht in Observability für KI-Agenten.

/09Wo es hakt: Grenzen und Fallstricke

Der Bot in der Telefonanlage. Viele Anlagen haben seit 2025 einen KI-Assistenten als Funktion, den jemand aktiviert hat, ohne dass die IT ihn als KI-System führt. Er interagiert mit Anrufern und braucht die Ansage. Das Inventar muss die Telefonanlage einschließen.

Der Avatar mit Namen. Ein Bot, der „Lisa" heißt und ein Gesicht hat, ist nicht verboten — aber die Kennzeichnung muss die Wirkung des Designs aufwiegen. „Lisa, Ihr KI-Assistent" in der Startnachricht ist das Minimum; ein Porträtfoto einer realen Person ist eine Deepfake-Frage nach Absatz 4 obendrein.

Die Übergabe, die niemand annimmt. Der Hinweis verspricht einen Mitarbeiter; die Anfrage landet in einem Postfach, das freitags niemand liest. Artikel 50 verlangt die Übergabe nicht — aber ein Hinweis, der etwas verspricht, was der Betrieb nicht hält, ist eine Frage des Verbraucherrechts.

Der Agent, der handelt. Ein System, das im Gespräch eine Bestellung ändert, ist mehr als ein Chatbot. Der Hinweis nach Absatz 1 bleibt, aber die eigentliche Frage ist, welche Handlungen das System ohne Freigabe ausführen darf. Freigabe durch einen Menschen vor Handlungen mit Folgen ist keine Pflicht aus Artikel 50 — sie ist Betriebspraxis, damit ein manipulierter Prompt keine Bestellung storniert.

Der Kodex, der noch fehlt. Was als maschinenlesbare Kennzeichnung nach Absatz 2 genügt, ist bis zum Verhaltenskodex nach Absatz 7 offen. Wer heute ein erzeugendes System auf den Markt bringt, muss nach Stand der Technik handeln und dokumentieren, was er geprüft hat. Das ist keine Rechtssicherheit; es ist das, was die Verordnung mit „soweit technisch machbar" verlangt.

Das Bußgeld ist real, aber nicht die erste Folge. Artikel 99 Absatz 4 Buchstabe g nennt 15 Millionen Euro oder 3 Prozent; für KMU und seit dem Omnibus auch für Small Mid-Caps gilt der niedrigere Wert. In der Praxis kommt vorher die Abmahnung eines Wettbewerbers oder die Beschwerde eines Kunden, der sich getäuscht fühlt.

/10Die Entscheidung: nachrüsten, neu bauen oder abschalten

Nachrüsten ist die richtige Wahl für jeden Bot, der seinen Zweck erfüllt und dessen Oberfläche der Betrieb kontrolliert: Hinweis in die Startnachricht, Anweisung in den Systemprompt, Übergabeweg prüfen, Protokoll ergänzen, Test in die Pipeline. Ein Nachmittag, wenn der Bot im eigenen Haus oder beim Dienstleister mit Zugriff läuft.

Neu bauen lohnt sich, wenn der Bot ein gekauftes Produkt ist, dessen Hersteller den Hinweis nicht liefert oder nicht auf den Telefonkanal ausdehnt — das ist ein Hinweis darauf, dass der Hersteller auch Absatz 2 und die Protokollierung nicht ernst nimmt. Ein Bot aus Open-Weight-Modell, Wissensbasis und eigener Oberfläche ist in dieser Größe kein Großprojekt, und der Betrieb hat danach die Kontrolle über Hinweis, Modell und Protokoll.

Abschalten ist die ehrliche Antwort für Bots, die niemand verantwortet: Der Marketing-Bot, den eine Agentur 2024 eingebaut hat, dessen Antworten niemand prüft und dessen Übergabe ins Leere läuft. Er erzeugt Pflichten nach Artikel 50 und Artikel 4 und keinen Nutzen. Wer ihn abschaltet, hat einen Eintrag weniger im Inventar und eine Sorge weniger.

Was nicht zur Wahl steht: den Hinweis wegzulassen, weil die Konkurrenz ihn auch nicht zeigt. Die Pflicht gilt seit dem 2. August 2026, und der erste Wettbewerber, der abmahnt, wird der sein, der sie selbst umgesetzt hat.

/11Häufige Fragen