Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 des europäischen AI Act. Sie sollen Menschen erkennen lassen, wann sie mit einem KI-System interagieren oder bestimmten künstlich erzeugten beziehungsweise manipulierten Inhalten begegnen. Für Unternehmen, Agenturen, Redaktionen und Websitebetreiber ist dabei eine Unterscheidung besonders wichtig: Der AI Act verlangt nicht pauschal, dass jedes mit KI erzeugte Bild auf jeder Website mit einem sichtbaren Hinweis versehen wird.
Die Verordnung verteilt unterschiedliche Aufgaben auf Anbieter und Betreiber von KI-Systemen. Die Europäische Kommission verwendet dafür die Begriffe „providers“ und „deployers“. Wer ein generatives KI-System entwickelt oder unter dem eigenen Namen auf den europäischen Markt bringt, kann Anbieter sein. Wer ein solches System im beruflichen oder geschäftlichen Kontext unter eigener Verantwortung einsetzt, ist regelmäßig Betreiber. Beschäftigte, Designer oder beauftragte Freelancer werden dabei nicht automatisch zu eigenständigen Betreibern, wenn sie unter der Verantwortung eines Unternehmens handeln.
Seit wann gilt Artikel 50 des EU AI Act?
Artikel 50 gilt seit dem 2. August 2026. Das bestätigen sowohl der amtliche AI Act Service Desk der EU als auch die Leitlinien der Europäischen Kommission zu den Transparenzpflichten. Ab diesem Datum müssen die jeweils erfassten Anbieter und Betreiber die für sie geltenden Vorgaben erfüllen.
Eine begrenzte Übergangsregel betrifft nach den aktuellen Informationen der Kommission ausschließlich bestimmte generative KI-Systeme, die bereits vor dem 2. August 2026 auf den Markt gebracht oder in Betrieb genommen wurden. Für deren technische Markierungs- und Erkennungspflicht nach Artikel 50 Absatz 2 ist eine Übergangsfrist bis zum 2. Dezember 2026 vorgesehen. Diese Sonderregel ist kein allgemeiner Aufschub für sichtbare Deepfake-Hinweise oder andere Pflichten von Betreibern.
Technische Markierung: Was Anbieter generativer KI leisten müssen
Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen ihre Systeme so gestalten, dass die Ausgaben in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert markiert und erkannt werden können. Die technische Lösung muss so weit wie technisch machbar wirksam, interoperabel, robust und zuverlässig sein. Dabei dürfen die Besonderheiten des jeweiligen Mediums, der Stand der Technik und die Umsetzungskosten berücksichtigt werden.
Diese Pflicht richtet sich in erster Linie an die Anbieter der generativen Systeme. Für ein Unternehmen, das ein Bild mit einem fremden Bildgenerator erstellt und anschließend auf seiner Website veröffentlicht, bedeutet das nicht automatisch, dass es selbst die technische Herkunftsmarkierung entwickeln muss. Es sollte vorhandene Metadaten, Provenienzangaben oder andere maschinenlesbare Merkmale jedoch nicht unnötig entfernen und seine Export- und Optimierungsprozesse darauf prüfen, ob solche Informationen erhalten bleiben.
Eine Ausnahme gilt, wenn das KI-System lediglich eine unterstützende Funktion für übliche Bearbeitungsschritte übernimmt oder Eingabedaten beziehungsweise deren Bedeutung nicht wesentlich verändert. Nicht jede automatische Korrektur, Rauschreduzierung oder Standardretusche wird dadurch zu kennzeichnungspflichtigem synthetischem Inhalt.
Sichtbare Kennzeichnung: Entscheidend ist der Deepfake-Begriff
Für professionelle Betreiber ist bei Bildern, Audio und Video Artikel 50 Absatz 4 zentral. Sichtbar offengelegt werden müssen Inhalte, die als Deepfake einzustufen sind. Ein Deepfake ist nach dem AI Act ein KI-generierter oder manipulierter Inhalt, der bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und für Menschen fälschlich authentisch oder wahr erscheinen könnte.
Nach den aktuellen Fragen und Antworten der Europäischen Kommission müssen dafür drei Merkmale zusammenkommen:
- Ähnlichkeit: Der Inhalt weist eine hohe Ähnlichkeit mit dem dargestellten Gegenstand oder Geschehen auf.
- Existenz oder plausible Existenz: Die simulierte Person, der Ort, das Objekt oder das Ereignis existiert, kann plausibel existieren oder hätte plausibel existieren können.
- Falscher Authentizitätseindruck: Der Inhalt kann Menschen hinsichtlich seiner Echtheit oder Wahrheit täuschen oder irreführen.
Deshalb ist nicht automatisch jedes abstrakte KI-Motiv, jede offensichtlich fantastische Illustration oder jede stilisierte Bildwelt ein kennzeichnungspflichtiger Deepfake. Umgekehrt kann ein fotorealistisches Motiv problematisch sein, wenn es wie die authentische Aufnahme eines realen Menschen, Standorts, Produkts oder Ereignisses wirkt. Maßgeblich sind unter anderem Motiv, Ähnlichkeit, Aussage, Nutzungskontext und die Erwartungen des Publikums.
Wie muss ein Deepfake-Hinweis dargestellt werden?
Die Offenlegung muss spätestens bei der ersten Wahrnehmung klar und unterscheidbar erfolgen. Sie muss ohne besondere Werkzeuge verständlich und wahrnehmbar sein, beispielsweise als sichtbares Label bei Bildern und Videos oder als hörbarer Hinweis bei Audioinhalten. Eine ausschließlich eingebettete maschinenlesbare Markierung reicht für die Betreiberpflicht nicht aus.
Die Kennzeichnung muss außerdem die geltenden Anforderungen an die Barrierefreiheit berücksichtigen. Auf Websites sollte ein Hinweis deshalb nicht nur farblich erkennbar sein. Sinnvoll sind ein gut lesbarer Text, ausreichender Kontrast, eine robuste Position innerhalb des Mediums und eine ergänzende maschinenlesbare Beschreibung für assistive Technologien.
Die EU stellt optionale Symbole für die Kennzeichnung KI-generierter Inhalte bereit. Nach Angaben der Kommission schnitten die Symbole in Nutzertests besser ab, wenn sie von einer verständlichen Textbezeichnung begleitet wurden. Die Symbole sind ein Hilfsmittel; entscheidend bleibt, dass die konkrete Offenlegung klar, unterscheidbar und für das jeweilige Medium geeignet ist.
Kreative, künstlerische und fiktionale Inhalte
Für Inhalte, die erkennbar Teil eines künstlerischen, kreativen, satirischen, fiktionalen oder vergleichbaren Werks sind, sieht der AI Act eine angepasste Regel vor. Die Offenlegung darf so erfolgen, dass sie den Genuss oder die Darstellung des Werks nicht beeinträchtigt. Das ist keine vollständige Ausnahme, sondern erlaubt eine angemessene, weniger störende Form der Kennzeichnung.
Für eine gestaltete Website kann dies beispielsweise ein dezentes Label innerhalb des Bildes, ein Hinweis in der Bildunterschrift oder eine klar zugeordnete Information in unmittelbarer Nähe sein. Welche Lösung ausreicht, hängt vom Einzelfall und davon ab, ob das Motiv als potenziell authentische Darstellung verstanden werden könnte.
Was gilt für KI-generierte Texte?
Für Texte setzt Artikel 50 Absatz 4 einen engeren Rahmen. Eine Offenlegung ist erforderlich, wenn ein KI-System einen Text erzeugt oder manipuliert, der veröffentlicht wird, die Öffentlichkeit informieren soll und ein Thema von öffentlichem Interesse betrifft. Die Kommission nennt hierzu unter anderem Politik, Verwaltung, Rechtspflege, Grundrechte, öffentliche Sicherheit und Gesundheit, Umwelt- und Verbraucherschutz sowie relevante wirtschaftliche, wissenschaftliche oder kulturelle Entwicklungen.
Die Kennzeichnungspflicht entfällt, wenn der Text einen substanziellen Prozess menschlicher Prüfung oder redaktioneller Kontrolle durchlaufen hat und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Eine reine Rechtschreibprüfung, formale Freigabe oder oberflächliche Kontrolle genügt nach den Leitlinien nicht. Erforderlich ist eine fachkundige Prüfung des Inhalts, einschließlich der Möglichkeit, Aussagen zu ändern, zurückzuweisen und Quellen zu kontrollieren.
Ein praktikabler Prozess für Websites und Content-Teams
- Rollen klären: Dokumentieren, welche KI-Systeme eingesetzt werden und ob das Unternehmen dabei Anbieter, Betreiber oder beides ist.
- Inhalte inventarisieren: KI-generierte und wesentlich KI-manipulierte Bilder, Videos, Audios und Texte in einer Medienübersicht erfassen.
- Deepfake-Risiko prüfen: Bei realistisch wirkenden Inhalten festhalten, ob sie reale oder plausibel reale Personen, Orte, Objekte oder Ereignisse darstellen und authentisch wirken könnten.
- Technische Markierungen erhalten: Prüfen, ob Bildoptimierung, CMS, Social-Media-Export oder CDN vorhandene Provenienzdaten und maschinenlesbare Markierungen entfernt.
- Sichtbare Hinweise zuordnen: Kennzeichnungen direkt am Medium platzieren, beim responsiven Zuschnitt innerhalb des sichtbaren Bereichs halten und barrierefrei beschreiben.
- Textprüfung dokumentieren: Bei Veröffentlichungen zu Themen von öffentlichem Interesse festhalten, wer die fachliche Prüfung durchgeführt, Quellen kontrolliert und die redaktionelle Verantwortung übernommen hat.
- Ausnahmen begründen: Wenn ein Inhalt als Standardbearbeitung, eindeutig kreative Darstellung oder nicht kennzeichnungspflichtig eingestuft wird, die Entscheidung kurz und nachvollziehbar dokumentieren.
- Vorhandene Inhalte priorisieren: Nach Angaben der Kommission müssen Deepfakes, die bereits vor dem 2. August 2026 erzeugt und veröffentlicht wurden, nicht rückwirkend gekennzeichnet werden; eine freiwillige Kennzeichnung wird jedoch unterstützt. Neu veröffentlichte oder neu erzeugte Inhalte sollten von Beginn an in den Prozess einbezogen werden.
Freiwilliger EU-Verhaltenskodex und mögliche Sanktionen
Der EU-Verhaltenskodex zur Transparenz KI-generierter Inhalte ist freiwillig. Die Kommission und der Europäische Ausschuss für künstliche Intelligenz haben ihn als geeignetes Instrument bewertet, um die Einhaltung der Pflichten aus Artikel 50 Absätze 2, 4 und 5 nachzuweisen. Wer den Kodex nicht unterzeichnet, bleibt an die gesetzlichen Pflichten gebunden und muss bei Bedarf auf andere Weise belegen können, dass die eigenen Maßnahmen angemessen sind.
Verstöße gegen die sonstigen Pflichten des AI Act können nach den aktuellen Kurzinformationen der Europäischen Kommission mit Geldbußen von bis zu 15 Millionen Euro oder bei Unternehmen bis zu drei Prozent des weltweiten Jahresumsatzes geahndet werden. Bei der Bemessung gelten die gesetzlichen Vorgaben zur Verhältnismäßigkeit, einschließlich der besonderen Berücksichtigung kleiner und mittlerer Unternehmen.
