Hätte eine KI Teil eins dieser Serie besser schreiben können? Sie wäre fraglos schneller gewesen und hätte vermutlich einen überraschend klar strukturierten Text mit gelungenen Formulierungen und ohne verunglückte Schachtelsätze geliefert. Wäre der KI-Text – nun ja – witziger gewesen? Eher nicht, das hat die Maschine noch nicht drauf. Nur, was wäre der Sinn dieses Textes überhaupt gewesen? Die KI hätte irgendwelche Klischees zum Thema KI aus dem Netz gesammelt und einen inhaltlich völlig leeren Quatsch zusammengesucht, der einzig deutlich gemacht hätte, dass die Maschine nicht weiß, worum es geht. (Keine Angst, wurde selbstverständlich in beinharter Recherche ausprobiert: »Algorithmische Voreingenommenheit kann zu diskriminierenden Ergebnissen führen«, meinte die KI über sich selbst – ach, sag an.) Dieser KI-Text hätte keine Autor*innenschaft besessen, wäre ein Betrug an den skug-Leser*innen gewesen und hätte mich als Autor keinen Schritt weitergebracht. Meine Gedanken, Haltungen, mein Wissen zur KI wäre dadurch nicht gewachsen.
Ein Leben als Autor*in ist fraglich geworden
Was wäre dann der Sinn gewesen? Diese Frage ist alles andere als trivial, denn es ist nicht übertrieben, zu sagen, dass das Schreiben mein Leben ist. Es ist eine manchmal zähe und anstrengende Arbeit, aber mit ihr erarbeite ich mir die Welt. Vermutlich würde ich auch nicht das Essen an einen Roboter delegieren wollen, der für mich kaut und mir dann die Nährstoffe intravenös verabreicht. Vielen Menschen dürfte es so gehen, dass sie manchmal erst nachdem sie ein E-Mail runtergetippt haben, verstehen, was sie der adressierten Person eigentlich genau sagen wollen. Die Gefahr ist, dass KIs Menschen diesen Reflexionsraum rauben. Kurz bevor oder nachdem sie uns den Job gestohlen haben.
Die KI verlagert diesen Prozess der Reflexion in die Prompt-Entwicklung. Das muss grundsätzlich nicht besser und nicht schlechter sein, es erzeugt aber mit Sicherheit mehr Zeitdruck. Früher war klar, dass Menschen Zeit eingeräumt werden muss, um die eigenen Gedanken in einem Text zu sammeln. Die Arbeitswelt macht da schon heute nicht mehr mit und das ist bereits eine wichtige, politisch bedeutsame Änderung durch die KI. In der Werbebranche gibt es beispielsweise längst nicht mehr die »Ausrede«, jemand hätte gerade keine Zeit für ein Projekt oder keine klare Idee, weil es muss ja einfach nur die entsprechende Frage in einen Prompt getippt werden. Dauerte es früher eine Woche, bis Grafiker*innen ein Storyboard für einen TV-Spot gezeichnet hatten, erwarten sich Kund*innen dieses nun am nächsten Morgen – am besten gleich animiert, macht ohnehin die KI. So geht heute »Antiquiertheit des Menschen«.
Der ehemalige Redaktionsleiter des Magazins »Wired«, Robert Capps, sah jüngst in der »New York Times« – mit etwas gezwungenem Optimismus – die neuen Jobmöglichkeiten weitgehend im Überwachen der KI-Ergebnisse. Die Maschinen können keine Verantwortung übernehmen, du, lieber Mensch, schon, also schau dir mal an, was die KI da Schönes produziert hat! Klingt nach eher ermüdenden Job-Opportunities. Um es pathetisch auszudrücken: An die Stelle möglicherweise überraschender Hervorbringungen der unergründlichen Tiefe meines Seelenlebens und dessen schöpferischer Kraft wird die Überwachung zufälliger Musterkombinationen der Maschine gerückt. Nie waren Menschen bedeutungsloser. Wie es weitergeht, ist anyone’s guess. Werden spätere, in die Jahre gekommene Liebespaare träumerisch bei der nostalgischen Lektüre alter Konversationen (ehemals »Liebesbriefe« genannt, heute müssen wir eher an sicher abgespeicherte Postings denken) sich sagen: »Ich habe deine Prompts immer geliebt, mein Schatz«?
Alle Kommunikation wird zum Verkaufen
Das Auftauchen der KIs hat aber nicht nur Konsequenzen für Autor*innen, sondern auch für Leser*innen. Die Demokratie steht immer vor einem Vermittlungsproblem: Wo erfahren kritische Bürger*innen, wie sie gerade regiert werden? Aus den Medien, ist ja logisch, wer setzt sich schon in die Galerie des Parlaments und hört stundenlang zu, was die Volksvertreter*innen debattieren? Bei der medialen Vermittlung von Politik hat sich seit Langem eine beachtliche Änderung vollzogen. Parteien achten vornehmlich auf ihren Spin. Es scheint folglich in der Politik oftmals weniger darum zu gehen, welche politische Entscheidung sachlich gut wäre, als darum, welche sich am besten »verkaufen« lässt, will sagen, am besten medial vermittelbar ist. Nun gibt es ja fraglos Sachzwänge und gewisse Dinge müssen entschieden werden, in einer Weise, wie es der Mehrheit der Wahlbevölkerung vielleicht nicht passt, aber dann wird sogleich der mediale Aufwand zum Spin nochmals hochgefahren. Über die Parteigrenzen hinweg ist dieser Effekt zu beobachten. Der ehemalige österreichische Bundeskanzler Sebastian Kurz hatte über 40 Menschen im Kanzleramt für Pressearbeit angestellt (das ist ein größeres Team als die allermeisten Nachrichtenredaktionen im Land), der jetzige Vizekanzler Andreas Babler wird für sein vergleichsweise bescheidenes Team aus 20 Personen kritisiert. Die genauen Zahlen der Mitarbeiter*innen sind hier unerheblich, Tatsache ist, die Politik nimmt ihre Außendarstellung sehr, sehr ernst.
Daraus erwächst für das Publikum ein spezifischer Frust. Inmitten all der Spins entsteht der Eindruck, man würde nur mehr hinters Licht geführt. Das ist ein nicht unbegründetes Gefühl und erklärt die bedeutende Verschiebung, die wir in der Politik in den letzten Jahren erleben mussten. Die Kommunikation von politischen Inhalten hat sich tiefgreifend gewandelt: Autorität verschwindet und wird durch Authentizität ersetzt. Letztere erlangt man nicht durch Wissen, Glaubwürdigkeit oder dergleichen, sondern durch die Fähigkeit, Geschichten zu erzählen. Genauer: Wer kann eine Geschichte glaubhaft so erzählen, als sei es seine oder ihre eigene? Kein Wunder, dass die meisten Politikprofis auf der Nase landen. Frühere Außenseiter haben das Spielfeld gekapert. An dieser Stelle muss nun – auch wenn dieser Sachverhalt seit Langem bekannt und ausgewälzt ist – Donald Trump erwähnt werden. Die Geschichten, die er erzählt, ergeben oftmals sachlich keinen Sinn, aber sie wirken authentisch. Der alte Knabe ist einfach so, denken sich die Wähler*innen und goutieren diese besondere Form von »Ehrlichkeit« des quasi aufrichtigen Betrügers.
Aber so ist kein Staat zu machen. Wie die Inhalte zurückholen? Wie über die Sache reden? Das ist nicht einfach. Nur eine gemeinsame, kritische Aufarbeitung der Realität ermöglicht eine sinnvolle Debatte. Wenn jede Seite ihre Geschichte erzählt (so spannend die auch sein mag), kann es keine sinnvolle Debatte geben. Zu sagen: »Ich habe das Gefühl, es ist so und so«, heißt nicht, dass dem tatsächlich so ist. Gleichwohl ist jedes Gefühl ernst zu nehmen. Es nützt nichts, Menschen abzukanzeln und zu sagen, »das bildest du dir nur ein«, denn die Einbildung ist ein nicht uninteressantes politisches Faktum, das seine jeweils spezifische Genese hat, denn abgesehen von gewissen Fällen der Psychopathologie bilden sich Menschen nicht irgendetwas ein, sondern reagieren auf Konstellationen, die in der Realität fußen. Wenn im politischen Diskurs jetzt nicht nur gefühlige Geschichten mit anderen gefühligen Geschichten beantwortet werden sollen, dann sollte zum harten Fels argumentierbarer Realität gebohrt werden. Der Ort dafür sollte das Parlament sein, in dem die verschiedenen Parteien versuchen, sich – Kraft ihrer Argumente – gegenseitig zu überzeugen. Warum nicht diese Debatten für die Öffentlichkeit aufbereiten? Kann die KI dabei helfen? Also, ganz konkret gefragt: Wie geeignet ist die KI zur Aufbereitung von Parlamentsdebatten?
Stecken wir doch mal Platon in die Blackbox
Um ein wenig abschätzen zu können, auf welchem Niveau die KI entscheidende Textstellen findet, fütterten wir die Maschinen mit dem platonischen »Staat«, jenem grundlegenden Text über Gerechtigkeit und wie diese von einem Gemeinwesen erreicht werden kann. Welches Werk wäre geeigneter gewesen? Die Ergebnisse sind gut. Sobald die Prompts entsprechend angepasst sind, durchleuchtet die Maschine die Textmassen und klaubt Zitate heraus, die Platons Denken charakterisieren. Versteht man sie, wenn man nicht schon zuvor einen Begriff von der Materie hatte? Eher nicht. Den professoralen Hinweis, den Rezipient*innen bliebe halt die Lektüre des ganzen Textes nicht erspart, sparen wir uns geflissentlich. Man kann das Buch leicht von vorne bis hinten lesen, ohne ein Wort zu verstehen. Die einzelnen Aussagen müssen produktiv mit Leben gefüllt, also mit eigenen Gedanken angereichert werden, um sich einen Reim auf die Inhalte zu machen. Das geht durchaus mit dem »Reader’s Digest«, den die KI bereitstellt. Also okay, die KI ist tatsächlich hilfreich. Sie kann eine neue Art individueller Suchmaschine sein und so wird sie ja auch heute bereits milliardenfach eingesetzt. Das ist aber nicht die ganze Geschichte.
Selbstverständlich jucken allen Beteiligten sogleich die Finger, wenn die Analekten der KI vorliegen, und man denkt sich: Mach doch mal eigene! Mach uns einen neuen Platon! Und damit wären wir beim Ursprungsgedanken unseres Spiels »Kollektive Intelligenz« angelangt. Das Spiel soll die Zweigesichtigkeit der KI erlebbar machen: Die Maschine kann gut einsammeln, aber sie denkt sich auch ebenso gut die Fakten einfach aus. Damit kann sie zum bewussten Täuschen eingesetzt werden oder einfach aus – anscheinend unergründbaren – Zufällen heraus betrügen. Die Programmierer*innen wissen nicht, was die Blackbox KI leitet, wir müssen als Menschheit nun feststellen, wir haben eine Maschine an der Hand, die lügt und betrügt, die »halluziniert«, wie euphemistisch ihre unbrauchbaren Ergebnisse tituliert werden. Damit wird übrigens vermenschlicht und verniedlicht, dass die KI einfach Fehler macht.
Für die User*innen heißt es deshalb, wachsam zu sein. Wer die Demokratie inmitten manipulativer Einflussnahmen und immer ausgereifterer Spins retten will, sollte nochmals umso mehr aufpassen. Wenn die Authentizität eines Storytellings medial mehr wirkt als die Autorität einer Person, die bereit ist, für das, was sie tut und entschieden hat, Verantwortung zu übernehmen, dann dürfte klar sein, wie tief KIs in den politischen Diskurs eindringen können oder bereits eingedrungen sind. Zwischen KI-Täuschung und Realität zu unterscheiden, könnte Bürgerpflicht werden und das ist leider nicht gerade wenig verlangt.
Der Pseudo-Platon klingt seltsam flach
Die Täuschungen der KI sind vordergründig gut und sie liefert brav frische Sokrates-Zitate. Fun-Fakt für Philosophie-Interessierte: Sokrates, einer der bekanntesten Philosophen ever, hat nie ein Wort geschrieben, wir kennen sein Denken deshalb nur durch die Reden, die sein Schüler Platon verfasst hat, wie eben jene, die im Text »Der Staat« enthalten sind und von der KI durchsucht wurden. Die Frage, inwieweit Sokrates eine literarische Figur Platons ist, wurde mehr als einmal diskutiert, aber eben anhand der Autorität der Aussagen Platons, der aufrichtig und wahrheitsgetreu Sokrates wiedergab, schlicht weil er seinen außergewöhnlichen Lehrer verstehen wollte und nicht anhand der Authentizität eines gelungenen Storytellings. Letzteres kann die KI offenkundig sehr gut. Es zeigt sich aber, wer Philosophie studiert hat, erkennt sofort, dass gewisse Äußerungen Sokrates untergeschoben wurden, die er niemals gemacht haben kann. Allerdings braucht es dafür Nerd-Wissen.
Wenn man die von der KI herausgefilterten Zitate aus dem Originaltext den erfundenen gegenüberstellt, dann sind die KI-Ergebnisse in dem Sinne besser, dass sie sich eher auf eine Streichholzschachtel drucken lassen. Die Soundbites des KI-Sokrates imitieren sehr »schön«, wie man sich »Weisheit« allgemein eben vorstellt, während beim Original-Sokrates immer viele Ecken und Kanten drin sind. Letztlich unverständliche Hinweise, die einer altphilologischen Untersuchung bedürften, damit sie im Kontext Sinn ergeben. Denn was soll der Sokrates-Alltime-Klassiker »Ich weiß, dass ich nichts weiß« überhaupt bedeuten? Die Antwort füllt Bände. Gleichzeitig darf festgehalten werden, dass die Lektüre des KI-Sokrates unfassbar ermüdend ist. (An dieser Stelle nochmals danke an die Fördergeber für das Sponsoring, denn sich mit KI-Äußerungen auseinandersetzen zu müssen, ist zuweilen intellektuelle Knochenarbeit.)
Belege für den Philo-Slop? Gerne. Pseudo-Sokrates versorgt uns mit Weisheiten wie: »Ein Wächter, der nach Gold schielt, ist wie ein Hund, der, statt zu bellen, dem Einbrecher die Tür öffnet.« Äh ja, gut, tolles Bild, der Hund öffnet die Tür. Was Hunde halt so machen – in Sprichwörtern. »Wenn jeder im Staate alles haben will, wird bald keiner mehr etwas haben – außer Streit.« Oh, come on! Die Zitate haben immer etwas blasiert Blödes, auch wenn sie nicht rundweg falsch sein mögen: »Die Tugend gedeiht nicht im Überfluss, sondern im Hunger nach Gerechtigkeit.« Und sind zuweilen ideologisch durchaus gefährlich: »Wer seinem Kind den Krieg erspart, zieht vielleicht einen Herrn der Trägheit groß.« Wie gut, dass wir heute unseren Kindern den Krieg immer weniger ersparen … Etwas ist an den KI-Zitaten abgrundtief hirnerweichend und geradezu bestürzend. Die KI kann mitunter ein wenig das Schlechteste an Platon hervorkitzeln, ergeht sich aber weitgehend in erfundenen Plattitüden.
Was lernen wir aus der KI-Bearbeitung der Parlamentsdebatten?
Wie lässt sich dieses Beispiel nun auf unser demokratiepolitisches Szenario übertragen? Zunächst einmal stimmt es nicht, dass mit der KI alles einfacher wird. Menschliche User*innen leisten mit der Prompt-Entwicklung zuweilen zähe und ermüdende Arbeit für die Apparate. Nicht unähnlich einem Beschicken von Maschinen in der Fabrik. Immer wieder müssen per Copy und Paste die Originaldokumente der KI portioniert werden, damit diese wieder suchen und basteln kann. Klar, das könnte wiederum auch per klugem Prompt maschinisiert werden, der aber erst einmal entwickelt werden will. Der KI-Apparat hat nie den Überblick und macht, sobald die Arbeitsprozesse zu sehr in seinen digitalen Händen liegen, derartigen Unsinn, dass die Ergebnisse nicht mehr verwertbar sind. Der Apparat weiß eben nicht, um was es geht. Er ist leicht und gut einzusetzen, wenn Zufallsergebnisse ausreichen, und sorgt für kurze Lacher, wenn Jesus Christus auf dem Surfbrett übers Wasser geht. Cool, aber auch superegal. Der konkrete Einsatz der KI mit klar anvisierten Zielen ist hingegen mühsam. Oftmals ist es einfacher, gleich selbst zu schreiben, zu designen, zu suchen etc. Man kann sagen, die Storyline bleibt doch immer bei den Menschen und sie müssen genau aufpassen, dass sie ihnen per Apparat nicht abhandenkommt.
Erfreulich ist, dass dank KI-Durchsuchung der Parlamentsprotokolle (die alle öffentlich und frei verfügbar sind), das Parlament und der im Parlament geführte Diskurs vor den Augen der Betrachter*innen wächst. Es sind beispielsweise keineswegs nur dumme und niederträchtige Äußerungen, die von den Rechtspopulisten kommen, wie man sich vielleicht hätte denken können, wenn man eine rein mediale Politik-Diät genießt. Nach außen hin können gewisse Parteien sich anscheinend nur durch Krawall und Spaltung Gehör verschaffen. In den Debatten finden sich hingegen durchaus zumindest sachliche Beiträge ihrer Abgeordneten. Warum dies dann so wenig nach draußen dringt und man im öffentlichen Diskurs fast keine Zwischentöne zu hören bekommt, ist eine Frage, die man den Volksvertreter*innen gerne mal stellen kann. Die Antwort liegt vermutlich darin, dass es im medialen Storytelling einfach besser zieht, ständig von Skandal, Betrug, Missbrauch etc. zu poltern. Passiert im Parlament natürlich auch, vermutlich immer dann, wenn man für die Galerie redet.
Und ja, selbstverständlich finden sich reichlich Belege für die Weisheit des Karl Valentin: »Es ist alles gesagt, nur noch nicht von jedem.« Haben wir ein wenig Mitleid mit Abgeordneten, die Candy Crush im Parlament spielen, vieles wiederholt sich in den Reden. An manchen Punkten wird es aber ernst und man darf aus den Zitaten herauslesen, dass die Parlamentsangehörigen um die Bedeutung der Debatte wissen. Die Quizfrage ist nun: Wie viel Autorität kann aus einem Zitat herausgelesen werden? Entsteht nicht immer sogleich das Bedürfnis, den weiteren Kontext zu ergründen? Gut so, dazu wollen wir mit unserem Spiel »Kollektive Intelligenz« ja auch einladen. In einem ersten Impuls bringt das Spiel (hoffentlich) zum Staunen und Hinterfragen, ob ein authentisch wirkendes Zitat, das pointiert und andeutungsreich klingt, gut aus den Parlamentsdebatten ausgesucht wurde, oder ob es die verschlagene Erfindung der KI ist. Dazu mehr im dritten und abschließenden Teil dieser Serie.
