Online-Vortrag »KI und Fotobranche – Herausforderungen und Strategien«
In ihrem Online-Vortrag, dem die Teilnehmenden am 8. März 2023 per Zoom folgen konnten und der nun hier abrufbar ist, beleuchtet Sabine Pallaske die rechtliche und wirtschaftliche Seite bezüglich der KI-Technologien, gibt eine Einschätzung, welche rechtlichen Fragen beim Thema »Künstliche Intelligenz in der Fotografie« entstehen, inwiefern Geschäftsmodelle betroffen sein können und welche Aufgaben auf Verbände sowie Politik zukommen.
1. Abgrenzung von Fotografie und KI-generierten Bildern
Status Quo
Unter Fotograf*innen und Fotojournalist*innen herrscht wohl Einigkeit darüber, dass eine Fotografie durch Belichtung entsteht, unerheblich ob chemischer Träger oder digitaler Sensor.
Wikipedia definiert Fotografie so: »(…) eine bildgebende Methode, bei der mit Hilfe von optischen Verfahren ein Lichtbild auf ein lichtempfindliches Medium projiziert und dort direkt und dauerhaft gespeichert (analoges Verfahren) oder in elektronische Daten gewandelt und gespeichert wird (digitales Verfahren)«.
Folglich definieren wir lediglich über KI-generierte Bilder nicht als Fotografien.
2. KI und fotografische Werke als Trainingsmaterial
Text-to-Image-KI-Anwendungen wie DALL-E, Midjourney oder Stable Diffusion werden durch Millionen von Fotograf*innen trainiert, deren Fotos im Internet auffindbar sind. Es werden dabei keine Bilder heruntergeladen, sondern nur Links auf publizierte Fotografien sowie die entsprechenden IPTC- und Metadaten gesammelt und ausgelesen. Die Informationen zum Bild nach journalistischen Standards sind dabei unabdingbar für das Training. Gerade Stockfotografien sind oft sehr umfangreich verschlagwortet und damit ideales Trainingsmaterial. Die KI lernt nicht nur, wie ein Bild aussieht, sondern auch, was auf dem Bild zu sehen ist. Anders könnte die KI im Ergebnis auch kein Bild aus einem Text generieren.
2.1 Verlinkung und Datamining, Zulässigkeit nach UrhG (Deutschland, Europa)
Wenn wir davon ausgehen, dass für das Training der KI keine Bilddaten gespeichert werden, greift erst einmal UrhG §44a:
»Zulässig sind vorübergehende Vervielfältigungshandlungen, die flüchtig oder begleitend sind und einen integralen und wesentlichen Teil eines technischen Verfahrens darstellen und deren alleiniger Zweck es ist,
1. eine Übertragung in einem Netz zwischen Dritten durch einen Vermittler
oder
2. eine rechtmäßige Nutzung eines Werkes oder sonstigen Schutzgegenstands zu ermöglichen, und die keine eigenständige wirtschaftliche Bedeutung haben.«
UrhG §44b beschreibt Data Mining (das Durchsuchen und Analysieren digitaler Daten) als eine unter bestimmten Umständen zulässige Nutzung:
»(1) Text und Data Mining ist die automatisierte Analyse von einzelnen oder mehreren digitalen oder digitalisierten Werken, um daraus Informationen insbesondere über Muster, Trends und Korrelationen zu gewinnen.
(2) Zulässig sind Vervielfältigungen von rechtmäßig zugänglichen Werken für das Text und Data Mining. Die Vervielfältigungen sind zu löschen, wenn sie für das Text und Data Mining nicht mehr erforderlich sind.
(3) Nutzungen nach Absatz 2 Satz 1 sind nur zulässig, wenn der Rechtsinhaber sich diese nicht vorbehalten hat. Ein Nutzungsvorbehalt bei online zugänglichen Werken ist nur dann wirksam, wenn er in maschinenlesbarer Form erfolgt.«
Zukünftig sollten Fotograf:innen in den xmp bzw. IPTC-Daten eindeutig hinterlegen, dass ihre Bilder nicht für Data Mining einsetzt werden dürfen (maschinenlesbarer Nutzungsvorbehalt).
In UrhG §60d erlaubt sind allerdings auch Ausnahmefällen für Data Mining ohne Zustimmung der Urheber*innen:
»(1) Vervielfältigungen für Text und Data Mining (§ 44b Absatz 1 und 2 Satz 1) sind für Zwecke der wissenschaftlichen Forschung nach Maßgabe der nachfolgenden Bestimmungen zulässig.
(2) Zu Vervielfältigungen berechtigt sind Forschungsorganisationen. Forschungsorganisationen sind Hochschulen, Forschungsinstitute oder sonstige Einrichtungen, die wissenschaftliche Forschung betreiben, sofern sie
1. nicht kommerzielle Zwecke verfolgen,
2. sämtliche Gewinne in die wissenschaftliche Forschung reinvestieren oder
3. im Rahmen eines staatlich anerkannten Auftrags im öffentlichen Interesse tätig sind.
Nicht nach Satz 1 berechtigt sind Forschungsorganisationen, die mit einem privaten Unternehmen zusammenarbeiten, das einen bestimmenden Einfluss auf die Forschungsorganisation und einen bevorzugten Zugang zu den Ergebnissen der wissenschaftlichen Forschung hat.«
2.2 Zulässigkeit von Framing auf Bild-und Textdaten ohne Speicherung der Daten selbst
Das sog. »Playboy-Urteil« des EuGH setzt sich mit der Technik auseinander:
»Das Setzen eines Hyperlinks auf eine Website zu urheberrechtlich geschützten Werken, die ohne Erlaubnis des Urhebers auf einer anderen Website veröffentlicht wurden, stellt keine „öffentliche Wiedergabe“ dar, wenn dies ohne Gewinnerzielungsabsicht und ohne Kenntnis der Rechtswidrigkeit der Veröffentlichung der Werke geschieht«.
Organisationen wie LAION sammeln die Links zu den Bildern und die dazugehörigen Metadaten und Bildinformationen, die dann von den Text-to-Image-KIs genutzt werden. Das geschieht bislang ohne Einverständnis der Urheber*innen und LAION Deutschland beruft sich auf §60d UrhG. Man sei ein gemeinnütziger Verein, verfolge wissenschaftliche Zwecke, sei nicht gewinnorientiert und die Datenbank wäre open source.
Allerdings gilt diese Begründung nur dann, wenn mit der Verlinkung keine »neues Publikum« erschlossen wird, »… an das der Inhaber des Urheberrechts nicht dachte, als er die ursprüngliche öffentliche Wiedergabe erlaubte…«.
Der Nutzung durch KI-Trainingsprogramme haben weder die Urheber*innen bei der Veröffentlichung ihrer Werke zugestimmt, noch haben sie i.d.R. entsprechende Rechte durch Lizenzverträge an ihre Kunden übertragen.
Ob und wie eigene Bilddaten zum Training genutzt wurden, lässt sich bei LAION, dem »gemeinnützigen« Datensammler und -analysten überprüfen:
Direkt bei LAION: http://laion-aesthetic.datasette.io/laion-aesthetic-6pls/images oder über die Website https://haveibeentrained.com/
2.3 Fotograf Robert Knesche vs. LAION
Fotograf Robert Kneschke erhielt von LAION e. V. auf seine Bitte, seine Bilder aus der Trainings-Datenbank zu entfernen, folgendes Schreiben von deren Anwält*innen (Auszug) »…unsere Mandantin unterhält lediglich eine Datenbank, die Links zu im Internet öffentlich abrufbaren Bilddateien enthält…. Das Bereitstellen von Links stellt nach der höchstrichterlichen Rechtsprechung auch keine Verletzung von Urheberrechten dar.
Das Bereitstellen eines Links dient lediglich dem Auffinden eines ohnehin im Internet abrufbaren Inhalts. Der hinter einem Link stehende Inhalt kann auch nur an der verlinkten Stelle und nicht andernorts abgerufen werden, sodass insbesondere keine Vervielfältigung im Sinne des Urheberrechts vorliegt …«
Zu den rechtlichen Schritten werden sich Robert Kneschke und sein Anwalt Sebastian Deubelli voraussichtlich Ende März (PICTA-Day München, Vortrag 15 Uhr) äußern.
2.4 Getty Images vs. Stability AI und Stablediffusion
Getty Images geht in zwei Klagen in USA und Großbritannien gegen Stability AI und Stablediffusion vor.
Die Klagen beziehen sich weniger auf die Bildinhalte (hier nur mit dem Hilfsmittel Reproduktion des Getty-Wasserzeichens in generierten Bildern als Verletzung des Markenrechts) als auf die Nutzung der Getty-Bilddatenbank als Verknüpfung von Text- und Bildinhalten.
Rechts wird das Logo/Wasserzeichen von Getty Images in einem KI-generierten als Bildbestandteil wiedergegeben.
Bei der Londoner Klage beruft sich Getty Images darauf, dass Stability AI durchaus hätte Lizenzen erwerben können, dies aber nicht getan hat.
Eine gesetzgeberische Initiativen dazu ist https://europeanwriterscouncil.eu/authorsgroup-aiact/
3. KI-Generiertes Bild als Werk im Urheberrechtlichen Sinne</strong>Bilddaten als Vorlage und KI als Werkzeug.
Nach der derzeitigen Gesetzeslage können nur Menschen Urheber*innen sein. Eine Maschine oder Software kann kein*e Urheber*in sein.
§ 2 (2) UrhG: »Werke im Sinne dieses Gesetzes sind nur persönliche geistige Schöpfungen«
und US Copyright Office: »to qualify as a work of `authorship‘ a work must be created by a human being.«
(https://www.federalregister.gov/documents/2023/03/16/2023-05321/copyright-registration-guidance-works-containing-material-generated-by-artificial-intelligence)
Das Urheberecht sichert in §7 UrhG dem*r Urheber*in eine angemessene Vergütung an der Nutzung seines oder ihres Werkes zu: »… Das Urheberrecht schützt den Urheber in seinen geistigen und persönlichen Beziehungen zum Werk und in der Nutzung des Werkes. Es dient zugleich der Sicherung einer angemessenen Vergütung für die Nutzung des Werkes.«
Auch nach europäischem Recht steht dem*r Urheber*in eine Vergütung zu: Richtlinie RiLi 2019/ 790 (79): »Die Vergütung der Urheber*in und ausübenden Künstler*in sollte angemessen sein und in einem ausgewogenen Verhältnis zum tatsächlichen oder potenziellen wirtschaftlichen Wert der Rechte, die erteilt oder übertragen wurden, stehen, wobei der Beitrag des/der Urheber*in oder des ausübenden Künstlers zum Gesamtwerk oder sonstigen Schutzgegenstand in seiner Gesamtheit und alle sonstigen Umstande des jeweiligen Falls zu berücksichtigen sind, etwa die Marktpraktiken oder die tatsächliche Verwertung des Werks«.
Inwieweit die Eingabe vom Prompts als Urheber*innentätigkeit gesehen werden kann, wird aktuell diskutiert.
3.1 Zulässigkeit nach »Fair-Use« (USA, Teile Commonwealth)
Die Nutzung von Werken – sei es als Link oder physikalischer Vorlage – zur Schaffung neuer Werke – werden in den USA und Teilen des Common Wealth unter »Fair use« zusammengefasst.
Die Grundsatzfrage, die im Einzelfall entschieden werden muss, wann entsteht ein neues Kunstwerk, wann ist es erkennbar um »Quellenmaterial« abgeleitet und wann wird in den Markt des ursprünglichen Urhebers eingegriffen?
3.2 Die KI als Werkzeug des Urhebers
Jede*r, der oder die mit Adobe Bilder bearbeitet, nutzt KI: Auswahlwerkzeuge, Motive selektieren, inhaltsbasiertes Füllen, Himmel austauschen, Grafikfilter u.v.a. mehr.
Jede*r, der oder die Programme in der Kamera einstellt, nutzt KI: Nachtaufnahmemodus, Gesichter/Lächeln erkennen, Picture Style Editoren, Stiching-Programme usw.
3.3 Sonderfall: KI produziert Duplikate der Ausgangswerke
Nicht nur Wasserzeichen tauchen als Bestandteile generierter Bilder auf, auch nahezu identische »Vorbilder« lassen sich durch KI generieren, wie Arbeit einer Forschungsgruppe der Berkeley AI Research zeigt:
4. Veränderung durch technische Mittel ohne aktuelle KI-Bildgeneratoren
Transformation und gleicher Markt: Zeitschriften Titelbild
Vanity Fair lizenziert 1984 bei Lynn Goldsmith ein Bild von Prince und beauftragt Andy Warhol mit einem Bild und einem Artikel zu Prince. Das von Lynn Goldsmith gemachte Bild wurde in dieser Ausgabe ausdrücklich als Quelle für die Warhol-Bearbeitung genannt.
Warhol erzeugt fünfzehn Variationen, die als »Prince-Serie« bekannt wurden und inzwischen von der Andy Warhol Foundation for the Visual Arts vertrieben und verwertet werden.
Condé Nast als Verleger von Vanity Fair lizenzierte 2016 nach dem Tod von Prince, eines der Werke bei der Andy Warhol Foundation, als Honorarempfänger und Urheber des Ausgangswerkes bliebt Lynn Goldsmith außen vor.
Weitere Informationen: https://www.law.cornell.edu/supct/cert/21-869
4.1 Transformation und anderer Markt
Der Grafiker Shepard Fairey benutzt 2008 ein Bild von Barack Obama des Fotografen Mannie Garcia (von 2006) für sein kommerziell durchaus erfolgreiches Werk »Hope«, in welchem das Foto grafisch verfremdet wurde.
Fairey bezieht sich auf Fair-Use, erzielt aber mit der ikonischen Grafik im kommerziellen Vertrieb Einnahmen von mehr als 12 Millionen Dollar Einnahmen.
Im Prozess spielte die Art der Bearbeitung/Transformation eine große Rolle – die Veränderung wurde durch Photoshop-Tools erreicht. Mannie Garcia wurde als Urheber gesehen, dessen Erlaubnis für die Bearbeitung und den Vertrieb Fairey aber hätte einholen müssen.
Die Verwendung war somit illegal und beide Parteien haben sich im Zivilprozess auf einen Ausgleich geeinigt.
Nach § 23 UrhG dürfen Bearbeitungen und anderen Umgestaltungen des Werkes nur mit Einwilligung des*r Urheber*in veröffentlicht werden.
Das Nachstellen von Vorlagen gilt als Bearbeitung, wenn nichts Neues entsteht.
Das Gleiche gilt für die Bearbeitung (s.o) – auch in anderen Techniken.
Ebenso sind »Pastiches« als Bearbeitung zu sehen: das Bild muss sich durch Sinngehalt und äußere Qualität von der »Quelle« unterscheiden, d.h. sich auf die Betrachtenden anders auswirken als das Ursprungswerk.
Auch bei Collagen aus verschiedenen Bildern muss ein Werk entstehen, das sich durch Sinngehalt und äußere Qualität von der »Quelle« unterscheidet.
Stil und Technik lassen sich nicht urheberrechtlich schützen, wenn neue Werke entstehen.
Die Ausnahmen:
– ein Werk wird unter dem Namen des Vorbildes verwertet: Fälschung
Dieser Fall dürfte wohl nur selten vorkommen und ist schnell einzuordnen.
– ein Werk kann nur wegen der Ähnlichkeit zum Vorbild verwertet werden. Auch das ist schwer zu entscheiden, ist fast immer Einzelfallentscheidung durch Gerichte.
5. KI als Werkzeug
5.1 Kunst: Projekt Homeless Gallery
KI-Experte setzt von Hinz&Künztler*innen gelieferte Stichworte in Prompts um, das Ergebnis wird visuell mit den Beteiligten abgestimmt, deren Änderungswünsche werden wiederum im Prompts umgesetzt, bis die Beteiligten zufrieden sind.
Hier entstehen Werke, die mit den Ausgangswerken des Trainingsprogramms nichts mehr zu tun haben. Eingaben wie »im Stil von« können eine Rolle gespielt haben, aber »Realität« wird nicht vorgespiegelt, ist aber auch nicht beabsichtigt.
5.2 Kunst: Boris Eldagsen
Boris Eldagsen ist Fotokünstler und hat sich früh mit der KI als Bildgenerator beschäftigt.
Am 06.03.2023 hat er in einem Zoom-Vortrag für FREELENS-Mitglieder »KI als Wissensverstärker« vorgestellt.
Boris Eldagsen bezeichnet seine Arbeit nicht als »Fotografie«, sondern als Bilder mit fotografischer Sprache.
Er kreiert mit KI als Werkzeug Bildkunst und ist Gewinner der Sony World Photography Awards 2023 in der Kategorie Creative / Open Competition. https://www.eldagsen.com/news/
Seine Serie »Ambiphilia« hat keinen Bezug zur Realität.
5.3 Werbung: Tim Tadder
Tim Tadder ist Modefotograf und »bearbeitet« seine Bilder mit diversen KI-Programmen.
Die Hashtags und Texte verweisen auf die KI als fotografisches Instrument/Experiment.
5.4 Werbung: Antti Karpinnen
Antti Karpinnen baut für seine Kunden Models in diverse »Umgebungen« ein und geht auf seiner Website offen mit KI und Bildgestaltung um. Beide Beispiele machen deutlich, in welchen Bereichen der Fotografie KI-Bearbeitung eine große Rolle spielen werden: zum einem in Bereichen mit jetzt schon hohem Anteil von Post-Produktion wie Fashion, Beauty, Automotive, zum anderem bei »Symbolbildern« z. B. zu Berufszweigen (Krankenpflege, Bauberufe, Handwerk, Tech-Berufe…) oder einfachsten Bildinhalten (Stromkosten, Blaulicht, Verkehrsstau, Jahreszeiten usw.)
5.5 Täuschung und Fälschung: Jos Avery
Jos Avery hat auf Instagram fast 30.000 Follower und beeindruckte diese seit Oktober 2022 mit Portraits von hoher Qualität. Dabei schreibt er auch über die verwendete Technik (eine Nikon D810 mit einem 24-70mm Objektiv). Tatsächlich hat er, wie er jetzt zugegeben hat, die Bilder aber nicht fotografiert, sondern mit künstlicher Intelligenz generiert.
Avery hat seine Follower lange darüber getäuscht, wie die Bilder zustande kamen, die Komplimente dafür aber sehr gerne angenommen. Avery täuscht auch über seine Hashtags hinweg, die mit Fotoindikatoren wie #blackandwhitephotography, #portrait, #portraitphotography und so weiter gefüllt sind. Gelegentlich verwendet er #AI oder #digitalart, aber sie gehen in einem Meer von Hashtags unter.
Es ist kein Problem, die Fähigkeiten von Avery im Umgang mit der KI als Bildgenerator anzuerkennen und auch dem hoheN Aufwand Respekt zu zollen. Aber es ist natürlich ein Problem, wenn suggeriert wird, dass solche Bilder authentische Fotografien seien. Zum einen wird der oder die Betrachter*in hier schlicht betrogen, zum anderen wird die Glaubwürdigkeit der Fotografie massiv untergraben.
6. Transparenz und Schutz der originären Fotografie, insbesondere journalistische Fotografie
Schon heute ist die Glaubwürdigkeit journalistischer, dokumentierender Fotografie nicht mehr immer gegeben. Fake-Bilder, Fake-Videos sind massenhaft unterwegs. Die Verfügbarkeit, die immer höhere Leistungsfähigkeit und die immer einfachere Handhabung von bildschaffender und bildbearbeitender KI auch für Laien gefährdet die Glaubwürdigkeit visueller Inhalte in großem Maß.
Die Bereitschaft der Menschen, sich der Quellen von visuellem Content zu versichern, Kontexte zu erforschen und zu beurteilen ist schon jetzt nicht sehr groß, angesichts der kurzen Aufmerksamkeitsspanne im täglichen Nachrichtenfluss bleibt zu seriöser Überprüfung wenig Zeit.
Ein Lösungsvorschlag – die Kennzeichnung von KI-generiertem bzw KI-manipuliertem Material – wird sicher dann nicht greifen, wenn dieses absichtlich zum Zwecke der Täuschung verbreitet wird.
Sinnvoller scheint daher der Schutz originärer fotografischer Bilder, der auch bei Veränderungen der Bilder erhalten bleibt.
Erste technische Ansätze dazu gibt es:
Adobe und andere arbeiten in der Content Authenticity Initiative und der Coalition for Content Provenance and Authenticity (C2PA) an einem neuen Industriestandard, der eine nachvollziehbare, verschlüsselte Weitergabe von Daten ermöglichen soll. Das könnte ein Tool werden, um Manipulationen dokumentieren zu können – wenn es denn Standard (wie IPTC / xmp) werden würde.
Der geplante Standard gibt die Einzelschritte, wie ein Bild erstellt wurde, transparent wieder – im Idealfall von der genutzten Kamera über die einzelnen Bearbeitungsschritte.
Über ein Verifizierungstool kann ein Endbenutzer sehen, wer, was und wie das Bild geändert wurde – und dann selbst beurteilen, wie authentisch dieses Bild ist.
Darüber hinaus helfen Selbstverpflichtungen und Codices (z. B. World Press Photo sowie diverser Presseverbände wie FREELENS oder Verlage), originäre Fotografie zu stärken.
Fotograf*innen selbst sind aufgefordert, ihren Kund*innen die Vorteile des originären, dokumentierende Bildes zu vermitteln.
7. Herausforderung für die Branche
KI-Trainingsprogramme bedienen sich ohne Zustimmung kostenfrei der Werke von Urheber*innen.
KI-generierte Bilder verdrängen Fotografien in bestimmten Marktsegmenten (Automotive, Fashion und Beauty, Symbolbild u. ä.).
KI-generierte bzw. KI-bearbeitete Bilder erscheinen absolut realistisch, werden beim aktuellen Tempo der Entwicklung in naher Zukunft selbst für geübte, professionelle Betrachter*innen nicht mehr über reinen Augenschein als künstlich erkannt werden können.
—
Sabine Pallaske ist ehemalige Vorsitzende der Mittelstandsgemeinschaft Fotomarketing (MFM) sowie Mitinhaberin und Geschäftsführerin der Bildagentur F1online. Pallaske ist mit allen rechtlich relevanten Themen rund um die Erstellung und Nutzung »visuellen Contents« vertraut. Zudem ist sie freie Fotografin und Bildrechtsexpertin und beschäftigt sich auf ihrem Blog »Bildgerecht« unter anderem mit den Folgen der Text-zu-Bild-Generierung durch KI.