Künstliche Intelligenz

Eine KI kann nur überzeugende Ergebnisse liefern, wenn sie zuvor mit Trainingsdaten „gefüttert“ wurde. Soweit hier urheberrechtlich geschützte Werke verwendet wurden, bedarf es nach deutschem Recht grundsätzlich der Zustimmung der Rechteinhaber, da zumindest eine Vervielfältigung stattgefunden hat. Im Rahmen der Entwicklungen der Foundation Modelle wie ChatGPT & Co. hat keine Lizenzierung stattgefunden. Es stellt sich daher die Frage, ob im deutschen Urheberrecht eine Schrankenregelung existiert, die eine Vervielfältigung zu Trainingszwecken erlaubt. In Betracht kommen hier die „Text and Data Mining“-Regelungen § 44b und § 60d UrhG.

§ 44b UrhG erlaubt unter bestimmten Voraussetzungen Text and Data Mining für kommerzielle Zwecke. § 44b UrhG geht auf Art. 4 der DSM-Richtlinie aus dem Jahr 2019 zurück. Die DSM-Richtlinie ist zu einer Zeit verabschiedet worden, als Foundation Models der Öffentlichkeit noch unbekannt waren. Unklar ist daher, ob das Trainieren von KI überhaupt unter Text and Data Mining im Sinne der Vorschrift fällt. Text und Data Mining ist die automatisierte Analyse von einzelnen oder mehreren digitalen oder digitalisierten Werken, um daraus Informationen insbesondere über Muster, Trends und Korrelationen zu gewinnen. In den Erwägungsgründen der DSM-Richtlinie wird das Trainieren von KI nicht ausdrücklich erwähnt, allerdings das Interesse von „privaten und öffentlichen Einrichtungen, große Datenmengen in verschiedenen Lebensbereichen und zu unterschiedlichen Zwecken zu analysieren, auch für staatliche Dienste, komplexe unternehmerische Entscheidungen und die Entwicklung neuer Anwendungen und Technologien“. Auf der anderen Seite hat der Richtliniengesetzgeber sicher nicht die immensen kommerziellen Auswirkungen, die das KI-Training hat, im Blick gehabt. Dennoch ist nicht auszuschließen, dass das Trainieren einer KI von einem Gericht als zulässiges Text und Data Mining im Sinne der Vorschrift angesehen werden könnte. Voraussetzung für eine zulässige Vervielfältigung ist allerdings, dass ein rechtmäßiger Zugang zu den Werken besteht. Die Werke müssen also im Internet frei zugänglich oder der Zugang hinter Bezahlschranken muss erworben worden sein. Zudem sind die Vervielfältigungen zu löschen, wenn sie nicht mehr erforderlich sind. Keinesfalls wäre es aufgrund der Vorschrift also zulässig, eine Datenbank mit urheberrechtlich geschützten Werken anzulegen, auf die eine KI permanent Zugriff hat. Die Rechteinhaber können sich zudem gegen die Verwendung Ihrer Werke unter § 44b UrhG wehren, indem sie einen Nutzungsvorbehalt erklären (siehe Frage 3 und 4).
§ 60d UrhG regelt Text und Data Mining für Forschungszwecke und wurde im Rahmen der Umsetzung der DSM-Richtlinie 2021 neu gefasst. Text und Data Mining für Forschungszwecke im Sinne des § 60d UrhG setzt voraus, dass die Forschungsorganisationen nicht-kommerzielle Zwecke verfolgen, sämtliche Gewinne in die wissenschaftliche Forschung investieren und im Rahmen eines staatlich anerkannten Auftrags im öffentlichen Interesse tätig sind. Die Zusammenarbeit mit einem privaten Unternehmen schließt die Privilegierung aus, § 60d Abs. 2 S.3 UrhG. Kommerzielle KI-Systeme können sich daher nicht auf diese Schrankenregelung berufen.

Text und Data Mining gemäß § 60d UrhG kann nicht verhindert werden. Rechteinhaber können aber in Bezug auf kommerzielles Text und Data Mining gemäß § 44b Abs. 1 und 2 UrhG ihr Opt-Out erklären. Nach der amtlichen Gesetzesbegründung muss der Nutzungsvorbehalt ausdrücklich erklärt werden und in einer Weise erfolgen, die den automatisierten Abläufen beim Text und Data Mining angemessen ist. Im Fall von online zugänglichen Werken ist der Vorbehalt deshalb gemäß § 44b Abs. 3 S. 2 UrhG nur dann wirksam, wenn er in maschinenlesbarer Form erfolgt. Er kann auch im Impressum oder in den AGB enthalten sein, sofern er dort maschinenlesbar ist. Sinn und Zweck der Regelung ist es zum einen, Rechtsinhabern die Möglichkeit zu eröffnen, die Nutzung auf Basis der gesetzlichen Erlaubnis zu untersagen. Zum anderen bezweckt die Regelung, bei online zugänglichen Inhalten sicherzustellen, dass automatisierte Abläufe, die typisches Kriterium des TDM sind, tatsächlich auch automatisiert durchgeführt werden können (BT-Drucks. 19/27426, S. 89). Möglich ist daher, auf Webseiten folgende Formulierung anzubringen: „Wir behalten uns die Nutzung sämtlicher Inhalte dieser Webseite unter der URL … und sämtlicher Unterseiten und Unterverzeichnisse für Text und Data Mining i.S.v. § 44b UrhG vor“.

Noch sicherer ist es aber, den Nutzungsvorbehalt per Web-Protokoll zu implementieren. Der europäische Verlegerverband FEP stellt mit dem TDM Reservation Protocol technische Definitionen bereit, wie ein solcher Nutzungsvorbehalt für digital zugängliche Inhalte (auf Webseiten, für EPUBs, PDFs u.ä.) erklärt werden kann, siehe TDM Reservation Protocol (TDMRep) (w3c.github.io).

Die Notwendigkeit, einen Nutzungsvorbehalt in maschinenlesbarer Form anzubringen, gilt unseres Erachtens nicht für E-Books hinter einer Bezahlschranke, sondern für Werke, die online öffentlich ohne Einschränkung zugänglich sind, d.h. in erster Linie Webseiten, Open Access-Publikationen oder z.B. Cover bzw. Leseproben („content made publicly available online“). Im Fall von rechtmäßig zugänglichen Printbüchern oder E-Books muss der Nutzungsvorbehalt daher nicht maschinenlesbar sein, sofern sie nicht offen im Netz stehen. Bei E-Books finden sich bereits Einschränkungen/Vorbehalte in den Lizenzbedingungen, bei Printbüchern auf der Impressums-Seite. Aus unserer Sicht ist dies ausreichend. Möchte ein Verlag jedoch auf Nummer Sicher gehen, so sollte er zukünftig noch folgende Formulierung aufnehmen: „Die automatisierte Analyse des Werkes, um daraus Informationen insbesondere über Muster, Trends und Korrelationen gemäß § 44b UrhG („Text und Data Mining“) zu gewinnen, ist untersagt“. 

Seit Juli 2024 kann das maschinenlesbare TDM Reservation Protocol (siehe Punkt 1.3) allerdings auch in die Metadaten von EPUB oder PDF implementiert werden, siehe https://www.w3.org/2022/tdmrep/. , damit wäre dann sogar die Maschinenlesbarkeit des Nutzungsvorbehalts im Falle von digitalen Werken hinter einer Bezahlschranke erfüllt sowie die Möglichkeit gegeben, mehrere Werke auf einer Website unterschiedlich zu behandeln.

Es gibt vermehrt Hinweise, dass die großen Foundation Modelle wie ChatGPT Webseiten gecrawlt haben, auf denen urheberrechtlich geschützte Werke illegal veröffentlicht wurden, und/oder dass das Training bereits vor Inkrafttreten der genannten Regelungen erfolgte. In diesen Fällen greift keine der oben zitierten Schranken und die Vervielfältigungen durch die Unternehmen zum Training der KI waren unzulässig. Verlagen und Urhebern stehen daher Ansprüche auf Unterlassung und Schadensersatz (§ 97 UrhG) sowie auf Auskunft (§ 101 UrhG) zu. In der rechtlichen Durchsetzbarkeit stellen sich jedoch mehrere Probleme: Bisher legen die Unternehmen nicht offen, mit welchen Daten die Modelle trainiert wurden, so dass eine Rechtsverletzung im Regelfall nicht bewiesen werden kann. Zudem fanden die Vervielfältigungen im Ausland statt. Hier besteht ein größeres Prozessrisiko, zumal in USA noch nicht geklärt wurde, ob die Nutzung von urheberrechtlich geschützten Werken unter Fair Use fällt. Es gibt jedoch bereits zahlreiche Forderungen (FEP Stellungnahme; Offener Brief der Authors Guild; IU Stellungnahme) an die KI-Unternehmen, Transparenz herzustellen, zudem bereits erste Rechtsstreitigkeiten (Sammelklage Illustratoren, Sammelklage Autoren). Die weitere Entwicklung muss beobachtet werden.

 Es gibt hierzu noch keine Rechtsprechung. Aufgrund der immensen kommerziellen Auswirkungen spricht viel dafür, dass es sich bei dem Recht zum Training von KIs um eine neue, frühestens 2023 oder 2024 bekannt gewordene Nutzungsart handelt, die nicht von den bisherigen ausdrücklich im Verlagsvertrag genannten Nutzungsarten abgedeckt ist. Viele Verlage haben sich zwar das Recht an bei Vertragsschluss noch unbekannten Nutzungsarten einräumen lassen; die Handhabung dieses Rechts ist aber aufwändig und mit Informations- und Beteiligungspflichten gegenüber den Werkberechtigten verbunden. 

Sobald eine Nutzungsart bekannt ist, muss diese in den Verlagsvertrag aufgenommen und so zum Gegenstand einer Verständigung mit den Autor*innen gemacht werden. Eine entsprechende Klausel könnte beispielsweise so lauten: 

Das Recht, das Werk oder seine Teile in eigenen oder fremden Datenbanken zu speichern oder sonst zu vervielfältigen, um mittels einer automatischen Analyse Informationen über dessen Muster und Merkmale zu gewinnen und dadurch maschinelles Lernen zu ermöglichen; dies umfasst das Training und die Nutzung von Modellen, die aufgrund der gelernten Muster und Merkmale neue Daten generieren können (generative künstliche Intelligenz).

Nicht in jedem Fall wird indes eine individuelle Lizenzierung durch einzelne Verlage an Unternehmen wie Microsoft, Google & Co. realistischerweise Aussicht auf Erfolg haben. Wenn eine solche Nutzung von Urheber*innen und Verlagen gewünscht ist, könnte eine freiwillige kollektive Lizenzierung über Verwertungsgesellschaften möglicherweise eine handhabbare Alternative sein. 

Texte, die in Zukunft unter einer CC-BY-Lizenz veröffentlicht wurden, können zum Training einer KI genutzt werden. Dies gilt jedenfalls ab dem Zeitpunkt, ab dem KI-Training als bekannte Nutzungsart gilt. Auf die Frage, ob § 44b UrhG anwendbar ist, kommt es dann nicht an. Anders sieht es bei Creative Commons-Lizenzen aus, die mit den Einschränkungen NC (keine kommerzielle Nutzung) und ND (keine Abwandlung) versehen sind oder werden.

Die meisten Verlagsverträge enthalten bereits Formulierungen wie „der Autor versichert, dass durch sein Werk“ oder „Gegenstand dieses Vertrages ist das Werk des Autors unter dem Titel…“. Damit erklärt der Autor bereits, dass er dem Verlag Nutzungsrechte an einem eigenen, von ihm selbst geschaffenen Werk einräumt. Übersendet er dem Verlag stattdessen ein durch eine KI geschriebenes Manuskript, so liegt eine Vertragsverletzung vor. Der Verlag hat – wie beim Plagiat - das Recht auf Rücktritt und Schadensersatz. Eine eigene Klausel, um sich als Verlag vor KI-Erzeugnissen zu schützen, ist daher nicht zwingend erforderlich. Zur Klarstellung wäre aber noch die folgende Ergänzung möglich: „Der Autor versichert, das Werk persönlich erstellt zu haben“.

Ja, wenn die Rechteklauseln der Verlags- und Lizenzverträge dies zulassen. Wer das „Recht der Übersetzung in andere Sprachen“ bzw. „das Recht zur Aufnahme des Werkes als Hörbuch“ ohne Einschränkung eingeräumt bekommen hat, kann grundsätzlich auch eine Maschine die Übersetzung anfertigen bzw. den Text einsprechen lassen. Allerdings hat der Verlag grundsätzlich Beeinträchtigungen des Werkes zu unterlassen, insbesondere darf das Urheberpersönlichkeitsrecht nicht verletzt werden. Dies könnte z.B. der Fall sein, wenn die Qualität des KI-Produkts schlecht ist. Im Falle einer Übersetzung ist zudem zu beachten, dass diese dann selbst nicht geschützt wäre. Sollte also nach Ablauf der Lizenzdauer ein anderer Verlag das Originalwerk lizenzieren, so kann dieser die KI-Übersetzung ungefragt übernehmen.

Die Lizenz CC-BY erlaubt generell die Vervielfältigung und Bearbeitung von Texten. Wer den bearbeiteten Text veröffentlicht, muss lediglich angeben, dass Änderungen vorgenommen worden sind und den ursprünglichen Urheber angeben. Es ist damit auch zulässig, dass ein solcher Text mit Hilfe einer KI in eine andere Sprache übersetzt und dann veröffentlicht wird. Dabei kann allerdings der unrichtige Eindruck entstehen, dass die Übersetzung von einem Menschen, z.B. demjenigen der die Veröffentlichung vorgenommen hat, angefertigt wurde. Es ist deshalb zu empfehlen, die Übersetzung als „KI-generiert“ zu kennzeichnen.  

Dies hängt vom Einzelfall bzw. den Allgemeinen Geschäftsbedingungen der einzelnen Produkte ab. Oft werden die Fragen selbst mangels Schöpfungshöhe nicht urheberrechtlich geschützt sein. Anders ist dies, wenn ganze Texte eingegeben werden, um diese z.B. sprachlich überprüfen oder – wie im Falle von DeepL – übersetzen zu lassen. DeepL erklärt in seinen AGB z.B., dass die Nutzungsrechte an den eingegebenen Inhalten zwar beim Kunden verbleiben, der Kunde DeepL aber ein nicht-exklusives weltweites Recht einräumt, die Inhalte zur Erbringung der Leistung an den Kunden zu verwenden; dies beinhaltet auch das Recht auf vorübergehende Speicherung, Bearbeitung und Übersetzung sowie Übertragung dieser Rechte an Sublizenznehmer. In der freien Version kann auch eine dauerhafte Speicherung stattfinden.  

In besonderen Konstellationen kann eine Kennzeichnungspflicht nach dem Gesetz gegen den unlauteren Wettbewerb (UWG) bestehen: Nach § 5a UWG handelt unlauter, wer einem Verbraucher eine wesentliche Information vorenthält, die dieser für eine informierte geschäftliche Entscheidung benötigt. Bisher hält die Rechtsprechung es für entscheidend, ob eine Aufklärungspflicht besteht und der Verbraucher durch das Unterbleiben der Aufklärung getäuscht wird. Da es bislang keine allgemeine gesetzliche Pflicht gibt, über den Einsatz generativer KI aufzuklären, dürfte ein Verstoß nach § 5a UWG nur in besonderen Einzelfällen in Betracht kommen.

Ab dem 2. August 2026 gelten gemäß der KI-Verordnung der EU (AI Act) jedoch zusätzlich spezifische Kennzeichnungspflichten. Für die Buchbranche sind davon in erster Linie die Regeln für Betreiber von KI-Systemen (Art. 50 Abs. 4 und 5 KI-VO) relevant. Betreiber ist, wer eine KI tatsächlich zur Erstellung oder Bearbeitung von Inhalten einsetzen. Wer KI-Inhalte lediglich vertreibt oder verbreitet (z. B. eine Buchhandlung, die ein fertiges Produkt verkauft), trifft in der Regel keine eigene Kennzeichnungspflicht.

Zur Umsetzung von Art. 50 KI-VO gibt es zwei unterschiedliche Dokumente der EU, die relevant sein können: 

• Die „Guidelines“ (Leitlinien) sind eine Auslegungshilfe der EU-Kommission: https://ec.europa.eu/commission/presscorner/detail/de/ip_26_1653. Sie erklären, wie die gesetzlichen Begriffe aus Art. 50 AI Act zu verstehen sind – zum Beispiel, was als „Deepfake“ gilt oder wann ein Text eine „Angelegenheit von öffentlichem Interesse“ betrifft. Sie sind rechtlich nicht bindend, da nur der Europäische Gerichtshof eine Verordnung verbindlich auslegen kann. Für die Praxis sind sie aber hilfreich, weil sie zahlreiche anschauliche Beispiele enthalten.
• Der „Code of Practice“ (Verhaltenskodex) richtet sich an Anbieter von KI-Systemen sowie an Betreiber und beschreibt freiwillige, aber konkrete technische und organisatorische Maßnahmen, mit denen sich Unternehmen gesetzeskonform verhalten können – etwa, wie ein Kennzeichnungs-Icon aussehen und platziert werden sollte: https://digital-strategy.ec.europa.eu/en/policies/code-practice-ai-generated-content. Wer den Code unterzeichnet und einhält, kann seine Rechtstreue leichter nachweisen.

Die Kennzeichnungspflicht bezieht sich gemäß Art. 50 Abs. 4 KI-VO zunächst auf Deepfakes. Ein Deepfake ist ein durch KI erzeugter und manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten oder anderen Einrichtungen oder Ereignissen ähnelt und von Menschen fälschlicherweise als echt oder wahrheitsgemäß angesehen werden könnte. 

Ein Beispiel ist ein realistisch wirkendes, KI-generiertes „Foto“ einer real existierenden Person (z. B. eines Autors), das es so nie gab. Gegenbeispiele wären laut EU-Leitlinien z.B. KI-generierte Fantasy- oder Science-Fiction-Coverbilder mit erfundenen Figuren, Wesen oder Welten oder KI-gestützte technische Nachbearbeitung wie Farbkorrektur, Rauschunterdrückung oder Bildoptimierung bestehender Fotos.

Ist ein Deepfake Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen Werks, so kann auf den künstlichen Inhalt auf eine Art und Weise hingewiesen werden, die den Genuss des Gesamtwerkes nicht beeinträchtigt.

Bei Texten gilt eine Kennzeichnungspflicht nur in Bezug auf Texte, mit denen die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informiert wird. Die Vorschrift ist daher nach den EU-Guidelines nicht anwendbar, wenn der Text nur einem kleinen Kreis zugänglich gemacht wird, wie bei E-Mails oder internen Unternehmensnetzwerken. Ziel der Veröffentlichung muss sein, der Öffentlichkeit Wissen, Meinungen oder Fakten zu vermitteln. Unter Angelegenheiten von öffentlichem Interesse nennen die EU-Guidelines u.a. Themen aus den Bereichen Politik, Verwaltung, Recht, öffentliche Sicherheit, öffentliche Gesundheit sowie wirtschaftliche, finanzielle, wissenschaftliche oder kulturelle Entwicklungen, die Gegenstand öffentlicher Debatten sein können. In den EU-Guidelines werden hier KI-manipulierte Teile eines Lifestyle-Website, der die Auswirkungen verschiedener Diäten auf eine bestimmte Krankheit bei Frauen mittleren Alters vergleicht, genannt sowie KI-manipulierte Unternehmensberichte auf der Unternehmens-Webseite, die Informationen für Investoren enthalten. Nicht darunter fallen KI-generierte Romane, Erzählungen oder Gedichte, aber auch KI-bearbeitete Werbe- oder Marketingtexte. 

Die Kennzeichnungspflicht entfällt zudem, wenn der Text redaktionell überprüft wurde und eine Person oder Stelle die redaktionelle Verantwortung übernimmt. Erforderlich ist dabei eine inhaltliche Prüfung durch eine fachkundige Person, einschließlich Faktencheck sowie eine tatsächliche redaktioneller Verantwortung.

Wer sich als Verlag mit dem Einsatz von generativer KI bei der Erstellung verlagseigener Produkte näher beschäftigen möchte, dem sei auch die „Handreichung zur Entwicklung einer verlagseigenen Haltung im Umgang mit KI“ empfohlen, siehe 

https://www.boersenverein.de/digitaler-wissens-hub/alle-beitraege/detail-seite/handreichung-zur-entwicklung-einer-verlagseigenen-haltung-im-umgang-mit-ki/.