KI im Buchhandel: Was rechtlich zählt - Rechtliche Fragen beim Einsatz von KI-Anwendungen im Buchhandel

Sie nutzen ChatGPT für Newsletter-Texte, lassen sich von KI bei Buchempfehlungen helfen, übersetzen Texte oder erstellen Bilder oder Videos für Social-Media-Posts? Dann stehen Sie vor zahlreichen rechtlichen Fragen: Darf ich Kundendaten in KI-Anwendungen eingeben? Welche Inhalte darf ich in eine generative KI einspeisen? Wer haftet, wenn die KI falsche Informationen liefert? 

Die rechtlichen Grundlagen

Bei der Nutzung von KI-Anwendungen sind die gleichen Gesetze und Rechte Dritter zu beachten, die auch sonst gelten: Urhebergesetz, Persönlichkeitsrechte, Datenschutz-Grundverordnung (DSGVO), Presse- und Mediengesetze sowie Arbeitsgesetze. Zusätzlich bringt die im August 2024 in Kraft getretene KI-Verordnung weitere Pflichten mit sich, etwa die Kennzeichnung KI-generierter Inhalte in bestimmten Fällen ab August 2026. Entscheidend ist: Die rechtliche Verantwortung liegt vor allem beim Unternehmen, das die Tools einsetzt, nicht nur beim KI-Anbieter.

Datenschutz: Warum kostenlose Accounts problematisch sind

Werden im Rahmen der KI-Nutzung personenbezogene Daten verarbeitet, so ist die DSGVO sowie das Bundesdatenschutzgesetz (BDSG) anwendbar. Das bedeutet, dass vor der Verarbeitung eine gültige Rechtsgrundlage bestehen muss (z.B. Einwilligung der Betroffenen oder ein berechtigtes Interesse). Die Verarbeitung sollte auf das notwendige Maß beschränkt und transparent dokumentiert werden, die Betroffenen sind zudem über die Verwendung ihrer Daten zu informieren, ihre Rechte (z.B. Auskunft oder Löschung) müssen gewahrt werden. Personenbezogene Daten dürfen nicht ohne rechtliche Gestattung an den KI-Anbieter weitergegeben werden. 

Ein praktisches Beispiel

Insofern ist es problematisch, wenn kostenlose Versionen von ChatGPT, Claude oder anderen Tools genutzt werden, denn hier ist oft unklar, was im Rahmen der kostenlosen KI-Nutzung mit den eingegebenen Daten passiert. Ein praktisches Beispiel: Sie möchten einen personalisierten Newsletter erstellen und geben der KI eine Liste mit Kundennamen und deren Buchvorlieben. Diese Daten landen auf Servern des Anbieters. Wenn Daten in ein Land außerhalb der EU/EWR gehen, braucht es zusätzliche rechtliche Absicherungen – sonst ist das sehr schnell unzulässig. Darüber hinaus ist oft unklar, wie die Daten verwendet werden, ob sie also möglicherweise auch für das Training des KI-Systems verwendet werden oder wie lange sie gespeichert werden. 

Verarbeitet ein Dritter Daten für einen Auftraggeber, so liegt gemäß DSGVO eine sogenannte Auftragsverarbeitung vor, für die ein gesonderte Vereinbarung zu treffen ist. Kostenlose Accounts bieten meist keine Vereinbarungen zur Datenverarbeitung und damit keine Garantie, dass Ihre Eingaben vertraulich und datenschutzkonform behandelt werden.

Wie geht es besser?

Pro- oder Business-Accounts hingegen bieten häufig Verträge zum Datenschutz, Informationen über die Datenverarbeitung, Speicherung sowie Löschfristen an. Dies geht datenschutzrechtlich in die richtige Richtung, muss aber im konkreten Vertrag genau geprüft werden. Was bedeutet das konkret? Wenn Sie KI für Aufgaben nutzen möchten, bei denen Kundendaten eine Rolle spielen, sollten Business- oder Enterprise-Accounts dringend erwogen werden.  Diese bieten in der Regel Datenschutzverträge, Server in Europa und die Option, dass Ihre Daten nicht für das Training verwendet werden.

Urheberrecht: Die Tücken beim Kopieren und Generieren

KI-Anwendungen können beeindruckende Texte oder Bilder erstellen, dies liegt auch daran, dass viele Tools mit urheberrechtlich geschützten Texten trainiert wurden. Die gute Nachricht ist: Rein maschinell erzeugte Inhalte sind nicht urheberrechtlich geschützt. Das bedeutet, niemand kann Ihnen verbieten, einen KI-generierten Text oder ein KI-generiertes Bild zu verwenden. Problematisch wird es aber dann, wenn der KI-generierte Output auf urheberrechtlich geschützten Vorlagen basiert und dies auch noch erkennbar ist. Es kann sein, dass dies zufällig geschieht, meist steckt aber ein bewusster Prompt hinter solchen Urheberrechtsverletzungen. 

Was bedeutet das konkret? Wenn Sie beispielsweise den Klappentext eines Bestsellers in ein KI-Tool eingeben und sich eine Variation davon erstellen lassen, riskieren Sie eine Urheberrechtsverletzung. Gleiches gilt für das Hochladen von Buchcovern oder Pressefotos als Vorlage für neue Designs. Das Hochladen von Werken in ein KI-Tool stellt zudem eine Vervielfältigung dar und ist ohne Einverständnis des Rechteinhabers unzulässig, wenn der KI-Anbieter diese Daten zum Training seiner KI nutzt. 

Wie gehen Sie praktisch damit um? Verwenden Sie für Prompts immer eigene Formulierungen statt fremder Texte. Statt den Originaltext eines Buches einzugeben, beschreiben Sie beispielsweise den Inhalt in eigenen Worten. Provozieren Sie keine Urheberrechtsverletzungen, in dem Sie die KI auffordern, ein Werk nachzuahmen. Und prüfen Sie den von der KI generierten Output kritisch und überarbeiten Sie ihn, bevor Sie ihn veröffentlichen.

Design-, Markenrecht

KI-generierter Output, der öffentlich genutzt werden soll, sollte auch daraufhin untersucht werden, ob fremdes Design oder eine fremde Marke im Output wiedergegeben wird. Die Verwendung von Logos oder geschützten Figuren kann – vor allem bei werblicher Nutzung – rechtswidrig sein. Der Output sollte daher genau geprüft werden.

Arbeitsrecht: Mitarbeitende und KI

Arbeitgeber, die KI-Anwendungen für ihre Mitarbeitende anbieten, sind gemäß Art. 4 KI-VO verpflichtet, dafür zu sorgen, dass diese über ein ausreichendes Maß an KI-Kompetenz verfügen. Welche Maßnahmen genau erforderlich sind, ist nicht definiert und hängt davon ab, wie und wo KI eingesetzt wird. Grundsätzlich kann man aber sagen, dass je nach Einsatzbereich eine Schulung erforderlich ist, die eine Mischung aus Technik, Ethik und Recht beinhaltet. Dokumentieren Sie also gerne, wenn Sie an einem Webinar / einer Schulung zum Thema KI teilnehmen. 

Es hilft auch, wenn Sie sich als Buchhandlung eigene einseitige Richtlinien für den Umgang mit KI geben. Klären Sie z.B., welche Tools für welche Zwecke genutzt werden dürfen, welche Daten nicht eingegeben werden sollen und dass eine menschliche Prüfung der Ergebnisse nach Nutzung der KI verpflichtend ist.

Pflichten nach der KI-Verordnung: Kennzeichnung und Transparenz

Die KI-Verordnung sieht nicht nur für Arbeitgeber Schulungspflichten vor, sondern regelt auch, dass ab dem 2.8.2026 in einigen Fällen Kennzeichnungspflichten bestehen. Die meisten Pflichten treffen allerdings nicht die Nutzer*innen, sondern die Anbieter von KI-Anwendungen. Diese müssen grundsätzlich sicherstellen, dass die Ergebnisse des KI-Systems, d.h. der Output, in einem maschinenlesbaren Format als künstlich erzeugt gekennzeichnet werden. 

Nutzer*innen von KI-Anwendungen müssen nur in bestimmten Fällen kennzeichnen: Im Falle von künstlich erzeugten Texten, mit denen die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informiert wird, sind die Nutzer von KI-Anwendungen zur Kennzeichnung verpflichtet. Dies gilt jedoch dann nicht, wenn eine menschliche Überprüfung des Inhalts stattgefunden hat bzw. eine Redaktion die Verantwortung übernimmt. KI-generierte Texte, die Buchhandlungen veröffentlichen, werden daher regelmäßig nicht einer Kennzeichnungspflicht unterliegen.

Im Falle von Bildern sowie Audio und Video müssen sogenannte Deepfakes von Nutzern des KI-Systems gekennzeichnet werden. Ein Deepfake ist ein durch KI erzeugter und manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten oder anderen Einrichtungen oder Ereignissen ähnelt und von Menschen fälschlicherweise als echt oder wahrheitsgemäß angesehen werden könnte. Nutzt also eine Buchhandlung auf Social Media ein KI-generiertes Bild, dass für ein echtes Foto gehalten werden kann, so muss dieses gekennzeichnet werden. Empfehlenswert ist es, sich zu überlegen, ob und wann eine freiwillige Kennzeichnung sinnvoll ist. 

Sollte eine Buchhandlung in ihrem Kundenkontakt einen Chatbot etablieren, so müssen die Nutzer darüber informiert werden, dass sie nicht mit einem Menschen, sondern mit einem KI-System kommunizieren. 

Geschäftsgeheimnisse: Was nicht in KI-Anwendungen gehört

Besonders heikel wird es, wenn vertrauliche Geschäftsinformationen in KI-Anwendungen eingegeben werden. Lieferantenkonditionen, Rabattvereinbarungen oder strategische Planungen haben in öffentlichen KI-Anwendungen nichts zu suchen. Erstellen Sie daher eine interne Liste mit Informationen, die nicht in KI-Anwendungen eingegeben werden dürfen. Schulen Sie Ihre Mitarbeiter entsprechend und erwägen Sie technische Sperren für besonders sensible Datensätze. 

Haftung: Wenn die KI Fehler macht

KI-Anwendungen machen Fehler – das ist normal. Problematisch wird es, wenn diese Fehler Schäden verursachen. Ein Beispiel aus der Praxis: Eine Buchhandlung nutzt KI zur automatischen Bestandsverwaltung. Das System empfiehlt fälschlicherweise, ein beliebtes Buch nicht nachzubestellen. Dadurch entgehen der Buchhandlung Verkäufe, und Kunden sind unzufrieden. Die Buchhandlung kann dafür in der Regel nicht den KI-Anbieter verantwortlich machen. Wichtige Entscheidungen sollten daher immer von einem Menschen überprüft werden, bevor sie umgesetzt werden.

Fazit: Rechtssicher mit KI arbeiten

KI-Anwendungen bieten Potenzial für den Buchhandel: von der Effizienzsteigerung bis zur kreativen Unterstützung. Die rechtlichen Herausforderungen sind zu bewältigen. Das bedeutet: Investieren Sie in professionelle Tools, etablieren Sie klare Prozesse für die Überprüfung KI-generierter Inhalte und schulen Sie Ihre Mitarbeiter im verantwortungsvollen Umgang mit diesen Technologien. So können Sie die Vorteile von KI nutzen, ohne rechtliche Risiken einzugehen.

---

Unsere Partner bieten Dienstleistungen und Beratung zu diesem Thema an:

Das könnte Sie auch interessieren: