Kulturpolitik, KI und eine Menge Fragen. Ein Beitrag von Eva Leipprand

Jahrbuch Kulturpolitik 2024:

Eva Leipprand

Kulturpolitik, KI und eine Menge Fragen

ChatGPT und die Literatur

ChatGPT hat eine Buchbesprechung geschrieben, bei literaturkritik.de. »Eindrucksvoll eindrücklich«, staunt Redaktionsleiter Jonas Heßⁱ: die Sätze ergäben ein »stimmiges Ganzes« und folgten »einem rezensionstypischen Aufbau«. Dass die KI die Textsorte Rezension nur imitiere, sei erst bei genauerem Hinsehen zu bemerken. Volle Zustimmung: Das Ergebnis des Experiments ist in der Tat erstaunlich – auf den ersten Blick. Beim zweiten allerdings drängt sich die Frage auf: Warum soll ich einen solchen Text lesen? Ich erfahre nichts Neues. Ich gewinne keine Einsicht. Da ist nichts von der Lebens- und Leseerfahrung zu spüren, die eine gute Rezension ausmacht – eine Rezension, die in der Auseinandersetzung mit anderen Standpunkten zu einer lebendigen, vielleicht auch streitbaren öffentlichen Debatte führt und im besten Falle das literarische ebenso wie das gesellschaftliche Leben einen Schritt weiterbringt. ChatGPT, zu ihrem Einfluss auf die Literatur befragt, gibt zu, dass ihre Texte »oft eher imitiert als originell« sind; sie selbst sei, gesteht sie ganz bescheiden, nur Werkzeug und Ressource. Als künstliche Intelligenz sei sie aber dennoch im Begriff, die Literatur zu verändern. Besonders stolz verweist sie auf ihre Fähigkeit, durch »die Analyse von Daten wie Lesehistorie, Bewertungen und sozialem Kontext« Leser^*innen Bücher vorzuschlagen, »die ihren Interessen und Vorlieben entsprechen«. Und bereits heute, fügt sie hinzu, würden KI-generierte Geschichten, Gedichte und Romane veröffentlichtⁱⁱ. Das freut nicht jeden. »KI müllt den Buchmarkt zu«, schimpft der Internetexperte Adrian Lobe in der NZZⁱⁱⁱ, um dann vor Bots zu warnen, die bald auch KI-generierte Bücher lesen und so in die Bestsellerlisten hieven könnten. Die möglichen Folgen: wirtschaftliche Konzentration von Konzernverlagen und weiteres Schrumpfen der Margen kleinerer Verlagshäuser.

Kulturgut Buch

Im Jahr 2016 veröffentlichte der Verband deutscher Schriftstellerinnen und Schriftsteller, dessen Vorsitzende ich damals war, zusammen mit anderen Autorenverbänden ein Manifest mit dem Titel: » ›Kulturgut Buch‹ – Schutz literarischer Texte im digitalen Zeitalter«^iv. Künstliche Intelligenz war seinerzeit noch nicht in aller Munde; doch zeichnete sich bereits ab, zu welch fundamentalen Veränderungen die Digitalisierung in der Buchbranche führen würde. Eine öffentliche Debatte war dringend notwendig; als Leitplanke bot sich der Begriff des Kulturguts an. Was macht den Charakter eines Kulturguts aus? Warum muss ein Kulturgut geschützt werden, und welche Verpflichtungen ergeben sich daraus für den Staat? Diese Fragen waren damals auch insofern brisant, als die Diskussion um das Freihandelsabkommen TTIP gezeigt hatte, dass Kulturförderung in manchen Staaten als Eingriff in das Marktgeschehen verstanden wird.

Als rechtliche Grundlage und Verpflichtung für den Eingriff des Staates in den Markt zum Zweck des Schutzes von Kulturgut werden gerne Artikel 8 und 11 der »Allgemeinen Erklärung zur kulturellen Vielfalt der UNESCO^v« von 2001 zitiert, der Magna Charta der Kulturpolitik, die den Doppelcharakter der kulturellen Werke und Dienstleistungen betont:

Artikel 8: »Angesichts des aktuellen wirtschaftlichen und technologischen Wandels, der umfassende Möglichkeiten für Kreation und Innovation eröffnet, muss der Vielfalt des Angebots an kreativer Arbeit besondere Aufmerksamkeit gewidmet werden, gleichzeitig müssen auch die Urheberrechte von Autoren und Künstlern sowie die Besonderheit kultureller Güter und Dienstleistungen anerkannt werden, die als Träger von Identitäten, Wertvorstellungen und Sinn nicht als einfache Waren und Konsumgüter betrachtet werden können.«

Artikel 11: »Die Marktkräfte allein können die Erhaltung und Förderung der kulturellen Vielfalt, die den Schlüssel zu einer nachhaltigen menschlichen Entwicklung darstellt, nicht gewährleisten. Daher muss der Vorrang der öffentlichen Politik, in Partnerschaft mit dem privaten Sektor und der Zivilgesellschaft, bekräftigt werden.«

In Kulturdebatten wird das, was die Gesellschaft von der Kultur erwartet, oft auf Wendungen verkürzt wie: die Leute wachrütteln, das System hinterfragen, der Gesellschaft den Spiegel vorhalten, die Augen öffnen für neue Sichtweisen.

Dass das Buch in unserem Land ein Kulturgut und als solches geschützt ist, manifestiert sich im Urheberrecht, der Buchpreisbindung und dem ermäßigten Mehrwertsteuersatz. Die Buchpreisbindung soll laut Börsenverein die Qualität und Vielfalt des Buchangebots sicherstellen und für dessen Verbreitung und Vermittlung durch eine große Zahl an Buchhandlungen sorgen. Das Urheberrecht benennt die Autorschaft – von wem das Werk geschaffen wurde und wer dafür die Verantwortung trägt –, dazu die Schöpfungshöhe. Wichtige Kriterien dabei sind Individualität und Originalität. Und genau daraus beziehen Autor*innen (und im Übrigen auch Kulturschaffende aller anderen Sparten) ihren Anspruch auf Förderung und ihre Würde – dass sie nicht einfach nur Ware produzieren, sondern auch Schöpfer*innen von Sinn und Werten sind. Dass sie an den Narrativen der Gesellschaft mitarbeiten, an dem Bild von der Welt, auf dem diese Gesellschaft gründet.

Nun aber die Frage: wie ist das mit einem Buch, das eine KI geschrieben hat? Ein Buch, das mit allen Instrumenten der Bestsellerproduktion gefertigt und durch Bots in den Charts hochgepuscht worden ist? Von einer KI geschrieben, die mit Werken von Autor*innen gefüttert wurde, deren Einverständnis man nie erfragt hat und deren Werke jetzt vielleicht auf den Charts nach unten rutschen? Fällt ein solches Buch auch unter den Begriff Kulturgut? Wie ist das mit einem Buch, das von vornherein auf individuelle Interessen und Vorlieben abgestimmt ist, einem Buch, das keine Lesergemeinschaft zum Gespräch am literarischen Lagerfeuer zusammenführt, sondern die Leser*innen nur in ihren jeweiligen Blasen bestätigt? Ist ein solches Buch dann nicht in der Tat auf seinen Warencharakter reduziert und kein Träger von Sinn und Werten mehr und ohne Anspruch auf den Schutz des Staates? Auch ohne KI gab und gibt es Bücher von der Stange, das ist wahr, aber sie haben immerhin Autor*innen, die dafür gradestehen müssen.

Die Deutungsmacht der Narrative

Die Künstliche Intelligenz verändert unsere Vorstellung von Schreiben und Lesen, von den uralten Kulturtechniken, die gestaltenden Einfluss auf das gesellschaftliche Zusammenleben haben. Wir Menschen verstehen uns als eine Spezies, die sich Geschichten erzählt. Mit Narrativen deuten wir uns die Welt. Einfluss auf die Narrative einer Gesellschaft zu haben bedeutet Macht. Die Frage steht im Raum: Wer wird die Narrative der Zukunft erzählen, und was für Narrative werden das sein?

Welche Wirkung diese Deutungsmacht entwickeln kann, hat uns Donald Trump mit seiner Lüge vom Wahlbetrug exemplarisch vorgeführt und damit die Axt an die Wurzeln der amerikanischen Demokratie gelegt. Inzwischen ergießt sich eine Flut von KI-generierten Fälschungen in unser aller Wahrnehmung. Gelogen wurde auch vorher schon, und auch Falschnachrichten hat es schon immer gegeben. Aber was wir jetzt erleben, hat eine neue Dimension. Ein Jens Riewa-Fake entschuldigt sich für die Lügen, die die Tagesschau in den letzten Jahren angeblich verbreitet hat. Die Tagesschau! Seit Jahrzehnten Inbegriff ebenso nüchterner wie verlässlicher Information. Schon allein die Möglichkeit, dass alles, was wir sehen oder hören oder lesen, auch eine Fälschung sein könnte, zieht der Gesellschaft den Boden unter den Füßen weg. Wie sollen wir uns da noch ein Bild von der Welt machen, ein Bild, dem wir vertrauen können? Eine Welt ohne Vertrauen, das wäre das Ende der Demokratie.

KI als Herausforderung der Kulturpolitik

Wie immer man zu Künstlicher Intelligenz stehen mag: sie ist auf jeden Fall eine enorme Herausforderung für die Kulturpolitik und auch für die Kulturpolitische Gesellschaft, in allem, was sie bisher als gesellschaftliche Relevanz des Kulturbereichs geltend gemacht hat ­– selbstverantwortliche Persönlichkeit, Autonomie der Kunst, Urheberrecht, Nachhaltigkeit, Demokratie. »Ziel der Kulturpolitischen Gesellschaft ist es, die Kulturelle Demokratie weiterzuentwickeln und die Freiheit der Künste zu schützen«, heißt es in unserem Grundsatzprogramm^vi von 2012, und ganz zentral: »Kulturpolitik ist Gesellschaftspolitik«. Was die digitale Revolution betrifft, so wird ihre Janusköpfigkeit bereits angesprochen: sie biete neue Möglichkeiten für eine »Kultur für alle und von allen« und neue Vermittlungskonzepte für Kultureinrichtungen, stelle allerdings auch grundlegende Wertbegriffe der analogen Welt in Frage, wie Urheberschaft und Eigentum, Öffentlichkeit und Privatheit, Aura und Authentizität.

Die Herbstakademie 2023 der Kulturpolitischen Gesellschaft in Augsburg stand unter dem Motto »#Systemupdate«. In diesen zwei Oktobertagen war große Begeisterung zu spüren; eine Aufbruchsstimmung angesichts der ebenso herausfordernden wie faszinierenden neuen Möglichkeiten, die sich durch Künstliche Intelligenz auftun, sei es in der Organisation und Kommunikation von Kultureinrichtungen oder in der ungeahnten Erweiterung künstlerischer Kreativität. Das Motto »#Systemupdate« gibt allerdings das kulturpolitische Dilemma, in dem wir uns befinden, nicht wieder. Es signalisiert die Akzeptanz eines vorgegebenen Systems sowie die Bereitschaft, ja Notwendigkeit, sich ihm anzupassen; nicht aber das Hinterfragen dieses Systems, was, wie oben dargelegt, zu den Aufgaben des Kulturbereichs gehört, auch und gerade angesichts einer menschheitsverändernden Entwicklung wie der Künstlichen Intelligenz. Das ist keine leichte Aufgabe. Die rasante Entwicklung und der ungeheure Veränderungsdruck überfordern alle, auch uns in der Kulturpolitischen Gesellschaft. Dennoch: Auf den KI-Zug aufspringen reicht nicht. Die Frage muss gestellt werden: wann bewegen wir uns bei der Nutzung von KI auf dem Boden unseres Grundsatzprogramms und wann sind wir dabei, eine Schwelle zu überschreiten? »Die Kunst der Demokratie«, Leitfaden unseres letzten Bundeskongresses, soll auch Leitfaden für die folgenden Überlegungen sein.

Die Kunst der Demokratie

Vorweg drei Beispiele für Versuche, das Phänomen KI einzuordnen, auch im Hinblick auf Kultur und Demokratie. Am 9. Oktober 2023 fand die diesjährige Internationale Konferenz zu Chancen und Risiken generativer künstlicher Intelligenz in Barcelona statt, ein Forum der parlamentarischen Technikfolgenabschätzung mit Wissenschaftler*innen und Abgeordneten aus ganz Europa. Unter der Überschrift »Generative AI and democracy« formuliert der (englischsprachige) Konferenzbericht^vii zunächst die Erwartung, dass die neue Technologie erweiterte Möglichkeiten zu demokratischer Teilhabe biete. In der Folge werden aber auch die Risiken benannt: durch dramatisch gesteigerte Falschinformation könnte die digitale Öffentlichkeit verwirrt und mit automatisierten manipulierten Inhalten geflutet werden, mit dem Ziel, soziale Spannungen zu erhöhen, politische Polarisierung zu verstärken sowie die Integrität demokratischer Prozesse und das Vertrauen in die Institutionen zu unterminieren.

Schon im März 2022 brachte die Deutsche Unesco-Kommission einen »Globalen Referenzrahmen für KI-Ethik«^viii heraus, der ausdrücklich auch auf kulturelle Aspekte hinweist, die durch den Einsatz von KI-Systemen berührt sein könnten. Der aktuelle Diskurs reiche von Utopien einer besseren und gerechteren Welt bis zu Dystopien einer unkontrollierbaren Superintelligenz, stellt die Präsidentin Dr. Maria Böhmer einleitend fest, um dann zu mahnen: »Noch haben wir als Menschheit die Möglichkeit, die künftige Entwicklung von KI zu lenken und in einer humanistischen, menschenrechtlichen Perspektive ethisch einzuhegen.« Dazu soll der Referenzrahmen Hilfestellung geben.

Ebenfalls große Relevanz für die Kulturpolitik hat die Stellungnahme des deutschen Ethikrates »Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz«. Leitsätze aus der Pressemitteilung vom 20. März 2023^ix: »KI-Anwendungen können menschliche Intelligenz, Verantwortung und Bewertung nicht ersetzen« und: »Die zentrale Schlüsselfrage für die ethische Beurteilung lautet: Werden menschliche Autorschaft und die Bedingungen für verantwortliches Handeln durch den Einsatz von KI erweitert oder vermindert?« Die ausführliche Stellungnahme des Ethikrates geht auch auf das Problem der Abhängigkeit von Systemen ein, die zum Teil nicht nachvollziehbar seien (Blackbox) und von Unternehmen mit monopolartigen Machtmöglichkeiten kontrolliert würden.

Schon diese drei Versuche einer Einordnung von KI machen klar: Die Kunst der Demokratie steht vor einer existentiellen Bewährungsprobe. Dabei drängt die Zeit. Während überall noch nach Orientierung gesucht wird, dreht sich das Rad der Entwicklung immer schneller. Man ringt um Regulierung; zugleich steigt die Angst, abgehängt zu werden. Dabei wird der Takt nicht von der Politik, sondern von denen vorgegeben, die hier in Wahrheit die Macht in Händen halten.

Der Mythos der Superhelden

»Die Macht- und Besitzfrage ist die eigentliche Frage, die gestellt werden muss«, erklärt Meredith Whittaker in einem Interview zu KI mit dem digitalen Magazin Republik. Meredith Whittaker ist Präsidentin der gemeinnützigen Signal-Stiftung und eine der wenigen Frauen in einer Szene, die von Männern dominiert wird. Den Hype um eine menschheitsbedrohende Superintelligenz hält sie für einen »Mythos«, der die Spannung steigern und vom Kern der Sache ablenken soll: Es gehe um nichts anderes als um »geballte unternehmerische und wirtschaftliche Power« unter Ausbeutung zahlloser schlecht bezahlter Clickworker und »ohne jede Rechenschaftspflicht gegenüber der Bevölkerung«. Ihre These: »Wer dem KI-Hype verfällt, stärkt die infrastrukturelle Macht der Big-Tech-Chefs«^x.

Mythos – der Begriff gehört ins Arbeitsfeld Kultur, wie das Narrativ. Die Helden des Silicon Valley beziehen ihre Macht aus der Gefolgschaft der vielen, die ihrem Narrativ erliegen. Es ist der Mythos des move fast and break things, der kreativen Zerstörung, die keine Rücksicht auf die Folgen für den Rest der Gesellschaft zu nehmen braucht. Vielleicht wollte man anfangs wirklich die Welt verbessern; aber inzwischen hat längst das kapitalistische Prinzip übernommen. Mit dem Reichtum kam der Rausch der Macht. Die Superhelden erheben sich über die lästigen Fesseln demokratischer Regeln, und sollten ihnen die Verhältnisse hier bei uns zu eng werden, dann erobern sie eben den Weltraum und errichten gottgleich ein eigenes Reich in fernen Galaxien.

Frage: Warum dürfen sie das? Wir leben doch in einer Demokratie. Höchste Zeit für eine Entmythologisierung. Der altruistische Zuckerguss ist ohnehin dahingeschmolzen, über der KI nicht weniger als über der Kryptowährungsbörse von Sam Bankman Fried; dieser Kaiser stand am Ende ganz ohne Kleider da, so wie die vielen, die an ihn geglaubt hatten. Angesichts der prekären Weltlage die geballte wirtschaftliche Macht in die Hände einer Handvoll rivalisierender Egomanen zu legen, die sich nicht um den Rest der Bevölkerung scheren – ist das denn wirklich die einzige Geschichte, die man derzeit erzählen kann? Fällt uns nichts Besseres ein? Jetzt ist die Gelegenheit, die Fähigkeiten des Kulturbereichs einzubringen, auf die alle so stolz sind – die Leute wachrütteln, das System hinterfragen, der Gesellschaft den Spiegel vorhalten und die Augen öffnen für neue Sichtweisen – und eine wirklich taugliche Zukunftserzählung zu entwerfen. Bausteine für eine solche Erzählung finden sich bereits im oben erwähnten Grundsatzprogramm unter der Überschrift Nachhaltigkeit: Immaterielle Werte wie Solidarität, Gemeinwohl, gesellschaftliche Teilhabe, Souveränität und Selbstverantwortung. Dazu eine neue Definition von Wohlstand, und Kriterien wie Lebensqualität und Lebensglück, und natürlich auch die Lebensgrundlagen zukünftiger Generationen. Ergänzen könnte man noch die Herausbildung einer globalen Identität als Grundlage für weltweit gemeinsames Handeln gegen den Klimawandel.

Die bessere Zukunftserzählung

Es sind gewaltige Aufgaben, die auf die Menschheit zukommen. Gut möglich, dass die neue Technologie hierbei hilfreich sein kann. Viele sehen in der Künstlichen Intelligenz ein Mittel zur Weltrettung. Aber alles hängt davon ab, in wessen Händen sich dieses Instrument befindet. Solange das die Hände der Superhelden sind, gibt es, nach allem, was bisher zu sehen war, wenig Anlass zur Hoffnung. Schon durch die Sozialen Medien wurden Demokratie und gesellschaftlicher Zusammenhalt in hohem Maße beschädigt.

Nun hat sich der Ethikrat in seiner Stellungnahme mit einer interessanten Idee hervorgewagt: nämlich »den privaten Social-Media-Angeboten im europäischen Rahmen eine digitale Kommunikationsinfrastruktur in öffentlich-rechtlicher Verantwortung zur Seite zu stellen … die eine Alternative zu kommerzbetriebenen, stark oligopolartigen Angeboten bietet« ^xi. Hier zeigt sie sich, die Kunst der Demokratie! Der Vorschlag des Ethikrats, der in seiner Kühnheit auch die KI einschließen sollte, könnte dazu beitragen, die philanthropischen Träume der Tech-Bosse (to make the world a better place) innerhalb demokratischer Formen doch noch zu verwirklichen und zu einer echten Zukunftserzählung zu machen: ein freies Internet, das allen gehört; in dem sich Kultur so entfalten könnte wie in der eingangs zitierten UNESCO-Erklärung zur kulturellen Vielfalt beschrieben, deren Artikel I, weil er so schön ist, hier wörtlich wiedergegeben werden soll:

»Im Lauf von Zeit und Raum nimmt die Kultur verschiedene Formen an. Diese Vielfalt spiegelt sich wieder in der Einzigartigkeit und Vielfalt der Identitäten, die die Gruppen und Gesellschaften kennzeichnen, aus denen die Menschheit besteht. Als Quelle des Austauschs, der Erneuerung und der Kreativität ist die kulturelle Vielfalt für die Menschheit ebenso wichtig wie die biologische Vielfalt für die Natur. Aus dieser Sicht stellt sie das gemeinsame Erbe der Menschheit dar und sollte zum Nutzen gegenwärtiger und künftiger Generationen anerkannt und bekräftigt werden.«^xii

Literatur

Heß, Jonas (2023): Eindrucksvoll eindrücklich. Eine Rezension einer Rezension von ChatGPT, [online] https://literaturkritik.de/public/rezension.php?rez_id=29758 [04.12.2023].

Heß, Jonas (2023): »Die menschliche Kreativität ist vielfältig und schwer zu reproduzieren«. Ein »Gespräch« mit der KI ChatGPT über Literatur, Literaturkritik und die Möglichkeiten von Künstlicher Intelligenz bei der kreativen Textproduktion, [online] https://literaturkritik.de/interview-chatgpt,29756.html [04.12.2023].

Lobe, Adrian: »KI müllt den Buchmarkt zu«, NZZ 14.09.2023.

»Kulturgut Buch« (2016) Schutz literarischer Text im digitalen Zeitalter. Erklärung der Autorenverbände Deutschlands, der Schweiz und Österreichs, in: Kulturpolitische Mitteilungen I/2016, Nr. 152, S. 11.

Allgemeine Erklärung zur kulturellen Vielfalt (2001), https://www.unesco.de/sites/default/files/2018-03/2001_Allgemeine_Erkl%C3%A4rung_zur_kulturellen_Vielfalt.pdf [04.12.2023].

Grundsatzprogramm der Kulturpolitischen Gesellschaft (2012), https://kupoge.de/wp-content/uploads/2019/03/kupoge_grundsatzprogramm.pdf [04.12.2023].

GENERATIVE ARTIFICIAL INTELLIGENCE. OPPORTUNITIES; RISKS AND CHALLENGES. EPTA report 2023. S. 12-13, [online] https://www.parlament.cat/document/composicio/394503200.pdf [04.12.2023].

UNESCO-Empfehlung zur Ethik Künstlicher Intelligenz. Bedingungen zur Implementierung in Deutschland, S. 8, [online] https://www.unesco.de/sites/default/files/2022-03/DUK_Broschuere_KI-Empfehlung_DS_web_final.pdf [04.12.2023].

Ethikrat: Künstliche Intelligenz darf menschliche Entfaltung nicht vermindern. Pressemitteilung 02/23. [online] https://www.ethikrat.org/mitteilungen/mitteilungen/2023/ethikrat-kuenstliche-intelligenz-darf-menschliche-entfaltung-nicht-vermindern/?cookieLevel=not-set.

Deutscher Ethikrat (Hrsg.) (2023): Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz. Stellungnahme. Berlin. S. 296-297.

Fichter, Adrienne(Text) und Chescoe, Caitlin (Bilder) (2023): Wer dem KI-Hype verfällt, stärkt die Macht der Big-Tex-Chefs, REPUBLIK, 05.07.2023. [online] https://www.republik.ch/2023/07/05/wer-dem-ki-hype-verfaellt-staerkt-die-macht-der-big-tech-chefs?utm_source=pocket-newtab-global-de-DE [04.12.2023].