AI Act seit August 2026: Was Chatbots und KI-Inhalte offenlegen müssen

Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 des europäischen AI Act. Daraus wird leicht die pauschale Vorgabe abgeleitet, KI-Inhalte müssten nun überall einen sichtbaren Hinweis tragen. Der Wortlaut trennt jedoch mehrere Pflichten, verschiedene Verantwortliche und zwei grundlegend unterschiedliche Arten von Kennzeichnung.

Für Unternehmen entscheidet deshalb nicht allein, ob in einem Prozess künstliche Intelligenz vorkommt. Maßgeblich ist, ob sie ein System als Anbieter in Verkehr bringen oder in Betrieb nehmen, es unter eigener Verantwortung einsetzen und ob Menschen unmittelbar mit dem System oder seinen Ergebnissen in Kontakt kommen. Dieser Beitrag konzentriert sich auf Chatbots und synthetische Inhalte; die ebenfalls in Artikel 50 geregelte Information bei Emotionserkennung und biometrischer Kategorisierung bleibt außerhalb dieses Schwerpunkts.

Die operative Frage lautet damit: Wo muss welches Transparenzsignal für welche Person erhalten bleiben?

Der Chatbot muss sich beim ersten Kontakt zu erkennen geben

Ein Anbieter muss ein KI-System für die direkte Interaktion so gestalten, dass die betroffene Person von Beginn der ersten Interaktion an erfährt, dass sie mit KI kommuniziert. Nur wenn dies für eine angemessen informierte und aufmerksame Person aus Situation und Kontext offensichtlich ist, greift die Ausnahme. Die Leitlinien der Europäischen Kommission legen diese Ausnahme eng aus; ein im Kleingedruckten versteckter Hinweis passt nicht zur geforderten klaren, unterscheidbaren und barrierefreien Information.

Die Pflicht betrifft echte direkte Kommunikation, etwa mit einem Chatbot, Sprachassistenten, Avatar oder interaktiven KI-Agenten. Systeme, die ausschließlich im Hintergrund arbeiten oder nur Maschinen untereinander Daten austauschen lassen, fallen nicht allein deshalb darunter. Wer ein System entwickeln lässt und unter eigenem Namen oder eigener Marke bereitstellt, kann dabei selbst Anbieter sein. Der Vertrag mit einem Modelllieferanten beantwortet diese Rollenfrage also nicht automatisch.

Eine sichtbare Kennzeichnung löst die technische Pflicht nicht

Für Systeme, die synthetische Texte, Bilder, Audios oder Videos erzeugen, adressiert Artikel 50 Absatz 2 den Anbieter und die Ausgabe selbst: Sie muss maschinenlesbar markiert und als künstlich erzeugt oder manipuliert erkennbar sein. Die technische Lösung soll, soweit technisch machbar, wirksam, interoperabel, belastbar und zuverlässig sein. Ein gut sichtbarer Satz unter einem Bild kann für Menschen hilfreich sein, ersetzt diese maschinenlesbare Ebene aber nicht. Umgekehrt verlangt das Gesetz nicht für jede KI-unterstützte Bearbeitung dieselbe Markierung. Ausgenommen sein können Standardbearbeitungen, die Eingabedaten oder deren Bedeutung nicht wesentlich verändern. Auch die Kommissionsleitlinien beschreiben eng begrenzte Konstellationen für reine Maschinenkommunikation sowie bestimmte geschlossene industrielle oder B2B-Abläufe. Ob eine konkrete Verarbeitung darunter fällt, muss am tatsächlichen Ausgabepfad geprüft werden, nicht an der Produktbezeichnung des eingesetzten Werkzeugs.

Für Systeme, die bereits vor dem 2. August 2026 in Verkehr gebracht wurden, hat die Verordnung (EU) 2026/1744 eine begrenzte Übergangsfrist ergänzt: Nur die Anbieterpflicht zur maschinenlesbaren Markierung nach Artikel 50 Absatz 2 muss bei diesen Altsystemen spätestens am 2. Dezember 2026 erfüllt sein. Die übrigen Transparenzpflichten wurden dadurch nicht pauschal verschoben.

Beim Deepfake wechselt die Verantwortung

Erzeugt oder verändert ein eingesetztes System Bild, Ton oder Video so, dass der Inhalt als Deepfake erscheint, trifft die Offenlegungspflicht den Betreiber. Der Hinweis muss spätestens bei der ersten Wahrnehmung klar und unterscheidbar sein. Eine unsichtbare Herkunftsmarkierung des Anbieters reicht dafür nach den Kommissionsleitlinien nicht aus, weil Menschen sie ohne spezielles Werkzeug weder sehen noch hören können. Nicht jede synthetische Illustration ist automatisch ein Deepfake. Der AI Act knüpft den Begriff an die Ähnlichkeit mit bestehenden oder plausibel existierenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen und an den falschen Eindruck von Echtheit oder Wahrheit. Für erkennbar künstlerische, kreative, satirische oder fiktionale Werke bleibt eine Offenlegung erforderlich, sie darf aber so erfolgen, dass sie die Wahrnehmung des Werks nicht unangemessen beeinträchtigt.

Redaktionelle Kontrolle ist mehr als Korrekturlesen

Eine weitere Betreiberpflicht betrifft KI-erzeugte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Sie sind grundsätzlich offenzulegen. Der Anwendungsbereich reicht nach der Kommissionsauslegung unter anderem von Politik und Verwaltung über öffentliche Sicherheit und Gesundheit bis zu wirtschaftlichen, wissenschaftlichen oder kulturellen Entwicklungen, die Gegenstand öffentlicher Debatten sein können. Für redigierte Texte enthält Artikel 50 eine wichtige, aber enge Ausnahme: Eine Offenlegung ist nicht erforderlich, wenn der Inhalt einen Prozess menschlicher Prüfung oder redaktioneller Kontrolle durchlaufen hat und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Bloße Rechtschreib- oder Grammatikprüfung genügt nach den Leitlinien nicht. Erforderlich ist eine inhaltliche Prüfung mit fachlichem Urteil und der tatsächlichen Befugnis, Aussagen zu ändern oder abzulehnen.

Diese Ausnahme beseitigt nicht automatisch die technische Anbieterpflicht für das generierende System. Sie entscheidet über die sichtbare Offenlegung des veröffentlichten Textes durch den Betreiber; die maschinenlesbare Markierung der Systemausgabe liegt auf einer anderen Ebene. Auch der von der EU veröffentlichte Verhaltenskodex und die bereitgestellten Kennzeichnungssymbole ändern diese Trennung nicht: Der Kodex und die Symbole sind freiwillige Hilfsmittel, Artikel 50 selbst ist verbindlich.

Die Umsetzung beginnt an den Übergaben

In der Praxis sollte zuerst der Weg einer Ausgabe durch das Unternehmen sichtbar werden: vom Modell über Anwendung, Export und Medienbearbeitung bis zur Website, App oder Kundenkommunikation. An jeder Übergabe kann eine Herkunftsmarkierung verloren gehen, eine sichtbare Kennzeichnung verdeckt werden oder aus einem internen Entwurf eine öffentliche Mitteilung werden. Eine reine Inventarliste der verwendeten KI-Produkte zeigt diese Übergänge nicht. Danach lässt sich pro Weg festlegen, welche Kontrolle an welcher Stelle trägt: ein Hinweis in der Benutzeroberfläche beim ersten direkten Kontakt, eine belastbare maschinenlesbare Markierung in der Ausgabedatei, eine sichtbare Offenlegung beim ersten Erscheinen oder eine dokumentierte fachliche Redaktion mit klarer Veröffentlichungsverantwortung. Tests sollten auch Download, Konvertierung, Weitergabe und erneutes Hochladen abdecken. Gerade dort zeigt sich, ob die vorgesehene Transparenz die technische Verarbeitung tatsächlich überlebt.

Die Bundesnetzagentur bündelt in Deutschland mit ihrem KI-Service Desk Hinweise zur Umsetzung; das deutsche KI-Marktüberwachungs- und Innovationsförderungsgesetz ordnet die nationale Aufsicht und Koordinierung. Für die einzelne Anwendung bleiben trotzdem Rolle, Inhalt, Nutzungskontext und Ausnahmevoraussetzungen gesondert zu prüfen.

 

Hinweis: Diese Einordnung ersetzt keine Prüfung des Einzelfalls.