ChatGPT, DALL:E oder Midjourney werden zunehmend für die Generierung von Web-Content herangezogen, sei es für Texte, Bilder oder Videos. Oft ist nicht erkennbar, dass es sich dabei um KI-generierte Inhalte handelt. In diesem Beitrag beleuchten wir die wichtigsten, rechtlichen Regelungen (Stand: Juni 2025) darauf, ob diese Inhalte entsprechend gekennzeichnet oder sogar im Impressum angegeben werden müssen.
Muss im Impressum angegeben werden, dass der Content von KI stammt?
Eine Pflicht, im Impressum auf KI-generierte Inhalte hinzuweisen, besteht derzeit nicht.
Gesetzliche Grundlage für die Impressumspflicht ist der seit Mai 2024 geltende § 5 Digitale-Dienste-Gesetz (DDG). In § 5 Abs. 1 DGG ist der Mindestumfang der Informationen in einem Impressum für Diensteanbieter geregelt. Dazu zählen u.a. der Name und die Anschrift des Diensteanbieters sowie Kontaktmöglichkeiten. KI-generierte Inhalte nennt diese Norm nicht. Die Impressumspflicht dient dem Verbraucherschutz und der Transparenz, soll aber vorwiegend zur Identifizierung des Diensteanbieter beitragen, damit ggf. Ansprüche gegen diesen geltend gemacht werden können. Auch weitergehende Informationspflichten nach § 5 Abs. 2 DGG umfassen die KI-Kennzeichnung nicht.
Gibt es eine generelle, gesetzliche Kennzeichnungspflicht für KI-generierte Inhalte?
Nach der derzeit geltenden Rechtslage ist eine solche Kennzeichnungspflicht nicht vorgesehen. Dies ändert sich jedoch unter bestimmten Bedingungen mit Geltungsbeginn des Art. 50 KI-Verordnung (KI-VO) ab dem 02.08.2026.
Nach Art. 50 Abs. 2 S. 1 KI-VO müssen Anbieter von KI-Systemen ihren Output als künstlich erzeugt oder manipuliert kennzeichnen. Gleiches gilt für Betreiber von KI-Systemen im Hinblick auf Deepfakes gemäß § 50 Abs. 4 UAbs. 1 S. 1 KI-VO. Diese Informationen müssen schließlich gemäß Art. 50 Abs. 5 S. 1 KI-VO klar und eindeutig bereitgestellt werden. Für diese Regelungen gibt es gewisse Rückausnahmen. Derzeit werden noch praktische Auslegungshinweise des AI Offices erwartet.
Muss KI-generierter Content von Social Bots von Telemedienanbietern als solcher gekennzeichnet werden?
Eine entsprechende Kennzeichnungspflicht besteht nach aktueller Rechtslage im journalistischen Bereich: § 18 Abs. 3 Medienstaatsvertrag (MStV) verpflichtet Telemedienanbieter in sozialen Netzwerken, Inhalte und Mitteilungen von sog. Social Bots als solche zu kennzeichnen.
Social Bots sind grundsätzlich Softwareprogramme, die menschliche Verhaltensweisen durch bspw. vollständig automatisiertes Verfassen von Inhalten imitieren und dadurch eine Identitätstäuschung hervorrufen. Es handelt sich dabei oft um Fake Accounts, die den Anschein erwecken, dass dahinter eine natürliche Person steht, ohne dass dies tatsächlich der Fall ist. Sie werden meist zur Meinungsmache oder für politische Zwecke eingesetzt. Diese Norm erfasst nur vollständig automatisierte Accounts.
Nach § 18 Abs. 3 S. 2 MStV muss der Hinweis gut lesbar bei- oder vorangestellt werden, dass der Inhalt bzw. die Mitteilung „unter Einsatz eines das Nutzerkonto steuernden Computerprogramms automatisiert erstellt und versandt“ wurde. Dadurch wird transparent verdeutlicht, dass der Account und die dortigen Inhalte KI-generiert sind.
Welche Kennzeichnungspflichten ergeben sich für KI-Inhalte auf Plattformen wie YouTube, X & Co. aufgrund der dortigen Richtlinien?
Plattformen schreiben meist eine Kennzeichnung von KI-generiertem Content vor.
Google verpflichtet seine Nutzer in der YouTube Policy (https://support.google.com/youtube/answer/14328491?hl=en&co=GENIE.Platform%3DAndroid), dass insbesondere Deepfakes entsprechend gekennzeichnet werden müssen. Hierzu gibt es die Einstellungsmöglichkeit „altered content“, die dann einen entsprechenden Hinweis im Video anzeigt. Sollte eine solche Kennzeichnung nicht erfolgen, hält YouTube es sich vor, selbst einen entsprechenden Hinweis anzubringen oder sogar weiterführende Schritte gegen die Konteninhaber einzuleiten, wie Löschung des Inhalts oder Demonetarisierung.
X hingegen schreibt keine generelle Kennzeichnungspflicht für KI-generierte Inhalte und keine verpflichtenden Upload-Labels vor, sondern setzt auf eine Regelung, die sich an der Authentizität des Accounts und Inhalts orientiert. Man darf laut den Rules and Policies (https://help.x.com/en/rules-and-policies/authenticity) keine „inauthentic media“ verbreiten, die für Verwirrung sorgen oder die öffentliche Sicherheit beeinträchtigen könnten. Das Teilen manipulierter (u.a. durch KI) oder kontextverzerrter Inhalte ist ausdrücklich erlaubt, sofern dies nicht irreführend ist. X knüpft dabei an die Folgen, die sich daraus ergeben können, an. Bei einem Verstoß halten sie sich mehrere Reaktionsmöglichkeiten offen, u.a. Accountsperren, Warnungen oder Einschränkung der Reichweite.
Transparenz ist bereits jetzt vor der Verpflichtung ab 2026 sinnvoll
Zusammenfassend besteht für KI-Inhalte keine Impressumspflicht, aber eine Kennzeichnungspflicht greift spätestens ab dem 02.08.2026: mit Geltungsbeginn des Art. 50 KI-VO wird europaweit die Transparenz beim Einsatz von KI gestärkt. Es sollte bereits berücksichtigt werden, welche Vorgaben die jeweiligen Plattformen im Hinblick auf die Kennzeichnung von KI-Inhalten machen. Unabhängig von rechtlichen Pflichten stärkt eine proaktive, transparente Kommunikation über den Einsatz von KI das Vertrauen der Nutzer.
Zur Unterstützung bei der Einschätzung, welche weiteren Pflichten der KI-VO ein KI-System betreffen, hilft „CAILEE“, unsere kostenlose, frei zugängliche Compliance & AI Law Evaluation Engine: https://jun.legal/cailee/