KI-Kennzeichnungspflicht: Was die Buchbranche wirklich beachten muss

Muss ein Verlag ein KI-generiertes Cover kennzeichnen? Braucht ein von KI unterstützter Klappentext einen Hinweis? Und was gilt für Buchhandlungen, die entsprechende Produkte verkaufen? Die KI-Verordnung gibt darauf differenzierte Antworten.

Eine allgemeine Pflicht, alle mit Künstlicher Intelligenz erstellten oder bearbeiteten Inhalte zu kennzeichnen, sieht die KI-Verordnung nicht vor. Für Verlage und Buchhandlungen kommt es vielmehr darauf an, welche Rolle sie beim Einsatz von KI einnehmen und um welche Art von Inhalt es geht.

Anbieter und Betreiber: Auf die Rolle kommt es an

Die KI-Verordnung unterscheidet zwischen Anbietern und Betreibern von KI-Systemen. Anbieter sind vor allem Unternehmen, die ein KI-System entwickeln und auf den Markt bringen, etwa OpenAI, Google oder Anthropic. Sie müssen dafür sorgen, dass KI-generierte Inhalte technisch in einem maschinenlesbaren Format als künstlich erzeugt oder bearbeitet erkennbar sind.

Verlage oder Buchhandlungen, die solche Systeme im beruflichen Alltag einsetzen, sind im Sinne der KI-Verordnung regelmäßig Betreiber. Wobei Betreiber nicht der ist, der ein KI-Produkt verkauft, sondern derjenige, der über den Einsatz des KI-Systems und die Verwendung seiner Ergebnisse entscheidet.

Für Betreiber greift die Kennzeichnungspflicht in zwei klar umrissenen Fällen: bei Deepfakes sowie bei KI-generierten Texten, mit denen die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informiert wird. Die EU-Kommission hat Leitlinien veröffentlicht, mit denen u.a. die Begriffe „Deepfake" und „Texte im öffentlichen Interesse" näher erläutert und mit konkreten Beispielen veranschaulicht werden. Sie sind rechtlich nicht bindend, da die verbindliche Auslegung der KI-Verordnung dem Europäischen Gerichtshof obliegt. Für die praktische Einordnung bieten sie dennoch eine wichtige Orientierung.

Der erste Fall: Deepfakes

Die erste Kennzeichnungspflicht betrifft sogenannte Deepfakes. Darunter versteht die KI-Verordnung durch KI erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die wirklichen Personen, Gegenständen, Orten oder Ereignissen ähneln, und fälschlicherweise für echt gehalten werden könnten.

Die EU-Leitlinien nennen folgende Beispiele für Deepfakes:

Ein Beispiel aus der Buchbranche ist ein realistisch wirkendes, vollständig KI-generiertes Porträt einer realen Autorin oder eines realen Autors. Ein solches Bild wird regelmäßig als Deepfake einzuordnen sein, wenn es den Eindruck erweckt, es handele sich um eine echte Aufnahme oder um eine tatsächlich stattgefundene Situation. Das Gleiche gilt für ein Werbevideo mit der synthetisch erzeugten Stimme einer bekannten Person. Solche Inhalte müssen als künstlich erzeugt oder bearbeitet gekennzeichnet werden. Unabhängig davon können zudem weitere Rechte betroffen sein, etwa Urheberrechte oder das Persönlichkeitsrecht der dargestellten oder nachgeahmten Person.

Nicht jedes mit KI erstellte Bild ist jedoch ein Deepfake. Bei der Beurteilung, ob ein Deepfake vorliegt, kommt es darauf an, ob der Inhalt einen falschen Eindruck von Echtheit vermittelt. Die EU-Leitlinien nennen folgende Gegenbeispiele:

Auf die Buchbranche bezogen, wäre daher ein erkennbar fiktionales Fantasy- oder Science-Fiction-Cover mit erfundenen Figuren und Welten kein Deepfake, auch wenn es fotorealistisch dargestellt wird.

Bei offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werken sieht die KI-Verordnung im Hinblick auf das „Wo“ der Kennzeichnung eine Besonderheit vor: Der Hinweis darf so gestaltet werden, dass er die Darstellung oder den Genuss des Werkes nicht beeinträchtigt. Er darf deshalb beispielsweise – je nach Art des Werkes – in einer begleitenden Beschreibung, im Impressum, auf der Verpackung oder am Verkaufsort erfolgen.

Zweiter Fall: Texte über Angelegenheiten von öffentlichem Interesse

Die zweite Kennzeichnungspflicht betrifft KI-generierte oder KI-manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Dazu können Themen aus Politik, Verwaltung, Recht, öffentlicher Sicherheit und Gesundheit sowie wirtschaftliche, wissenschaftliche oder kulturelle Entwicklungen gehören, die Gegenstand einer öffentlichen Debatte sind.

Entscheidend sind daher sowohl der Inhalt als auch der Zweck der Veröffentlichung. Die EU-Leitlinien nennen folgende Beispiele:

KI-generierte Romane, Erzählungen oder Gedichte fallen also nicht unter diese Regelung, wie auch die Auflistung der Gegenbeispiele der EU-Leitlinien zeigt. Nicht kennzeichnungspflichtig sind:

Klappentexte, Produktbeschreibungen, Newsletter und gewöhnliche Werbe- oder Social-Media-Beiträge fallen regelmäßig nicht unter die Kennzeichnungspflicht für Texte zu Angelegenheiten von öffentlichem Interesse. Eine gesonderte Prüfung kann aber erforderlich sein, wenn der Text beispielsweise gesundheitsbezogene, verbrauchersicherheitsbezogene oder nachhaltigkeitsbezogene Aussagen enthält oder tatsächlich die Öffentlichkeit über ein Thema von öffentlichem Interesse informieren soll.

Redaktionelle Prüfung kann eine Kennzeichnung entbehrlich machen

Die KI-Verordnung enthält bei KI-generierten Texten über Angelegenheiten von öffentlichem Interesse zudem eine weitere wichtige Ausnahmeregelung. Eine Kennzeichnung ist dann nicht erforderlich, wenn der Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt. Erforderlich ist eine inhaltliche Prüfung durch eine fachkundige Person, einschließlich eines Faktenchecks. Es genügt also nicht, wenn der Text lediglich kurz durchgesehen wurde. Ebenso muss feststehen, wer die Verantwortung für die Veröffentlichung trägt. Für Verlage und andere redaktionell arbeitende Unternehmen ist es deshalb sinnvoll, Zuständigkeiten und Freigabeprozesse nachvollziehbar festzulegen.

Zusätzlich: Kennzeichnungspflichten nach dem UWG

Neben der KI-Verordnung kann das Gesetz gegen den unlauteren Wettbewerb eine Rolle spielen. Demnach kann in besonderen Konstellationen eine Information über den KI-Einsatz erforderlich sein, wenn sie für die geschäftliche Entscheidung von Verbraucher*innen wesentlich ist. Ob eine Aufklärung erforderlich ist, hängt dabei von den Umständen des Einzelfalls ab, es gibt also auch hier keine allgemeine Kennzeichnungspflicht. Entscheidend ist deshalb nicht, ob Verbraucher*innen abstrakt Wert darauflegen, dass ein Buch von einem Menschen geschrieben wurde. Maßgeblich ist vielmehr, ob die konkrete Vermarktung des jeweiligen Buches die Erwartung weckt, dass ein Mensch das Buch verfasst hat, und ob deshalb die Information über den KI-Einsatz für die konkrete Kaufentscheidung wesentlich ist. Das dürfte insbesondere bei autobiografischen Werken, Erlebnisberichten oder Ratgebern relevant werden, die als persönliche Erfahrungsberichte präsentiert werden.

Wie soll gekennzeichnet werden: Verhaltenskodex bietet Orientierung

In Bezug auf das „Wie“ der Kennzeichnung existiert ein weiteres Dokument der EU-Kommission: Der Verhaltenskodex beschreibt freiwillige technische und organisatorische Maßnahmen zur Umsetzung der Transparenzpflichten. Dazu gehören auch Vorschläge für die Gestaltung und Platzierung von Kennzeichnungen. Unternehmen, die den Kodex unterzeichnen und einhalten, können damit die Einhaltung ihrer Pflichten leichter nachweisen. Verpflichtend ist die Unterzeichnung nicht.

Was für typische Anwendungen in Verlag und Buchhandlung gilt

Viele Anwendungen, für die Verlage und Buchhandlungen generative KI im Arbeitsalltag nutzen, lösen nach Artikel 50 der KI-Verordnung keine Kennzeichnungspflicht aus. Dazu zählen beispielsweise die Recherche, die Ideenfindung, interne Entwürfe, die Pflege von Metadaten oder die Unterstützung bei Werbetexten. Werden daraus jedoch täuschend echte Bild-, Ton- oder Videoinhalte oder Texte über Angelegenheiten von öffentlichem Interesse, ist der konkrete Einzelfall zu prüfen.

Eine davon zu unterscheidende Pflicht betrifft Chatbots und andere KI-Systeme, die direkt mit Menschen kommunizieren. Nutzerinnen und Nutzer müssen grundsätzlich darüber informiert werden, dass sie mit einem KI-System interagieren, sofern dies nicht ohnehin offensichtlich ist. Bei einem Kund*innen-Chatbot sollte deshalb zu Beginn der Kommunikation klar auf den KI-Einsatz hingewiesen werden. Diese Pflicht richtet sich in erster Linie an den Anbieter des interaktiven KI-Systems; der einsetzende Verlag oder die Buchhandlung sollte die entsprechende Umsetzung aber prüfen.

Praxishinweis: KI-Einsatz und Zuständigkeiten prüfen

Verlage und Buchhandlungen sollten zunächst erfassen, an welchen Stellen sie KI zur Erstellung oder Bearbeitung von Texten, Bildern, Audio- oder Videoinhalten einsetzen. Auf dieser Grundlage lässt sich prüfen, ob Deepfakes oder Texte über Angelegenheiten von öffentlichem Interesse entstehen können. Ebenso sollte geklärt sein, wer entsprechende Inhalte fachlich prüft und die Verantwortung für eine Veröffentlichung übernimmt.

Eine solche Bestandsaufnahme ersetzt keine rechtliche Prüfung. Bei Zweifelsfällen, insbesondere bei realistisch wirkenden Darstellungen realer Personen oder bei öffentlich zugänglichen Informationsangeboten, sollte fachkundiger Rat eingeholt werden. Weiterführende und regelmäßig aktualisierte Informationen finden Sie in den FAQ des Börsenvereins zur Künstlichen Intelligenz.

Fazit

Die KI-Verordnung knüpft die Kennzeichnung nicht allein daran, dass bei der Erstellung eines Inhalts KI eingesetzt wurde. Entscheidend sind die Rolle des Unternehmens, die Art des Inhalts und der Zweck seiner Veröffentlichung. Für Verlage und Buchhandlungen bedeutet das: Nicht der KI-Einsatz als solcher, sondern der konkrete Anwendungsfall muss betrachtet werden.

Wer die eigenen Einsatzbereiche kennt, Zuständigkeiten festlegt und besondere Fälle sorgfältig prüft, schafft eine belastbare Grundlage für den Umgang mit KI-generierten Inhalten. Hilfestellung bei der Entwicklung einer übergreifenden Haltung bietet außerdem die Handreichung zur Entwicklung einer verlagseigenen Haltung im Umgang mit KI.

Unsere Partner bieten Dienstleistungen und Beratung zu diesem Thema an:

Das könnte Sie auch interessieren: