Zunächst etwas Grundsätzliches: Menschen wünschen sich Austausch, Zusammenhalt, Miteinander oder auch Unterstützung. Dies sind sehr berechtigte und grundlegende Bedürfnisse. Was aber, wenn das Gegenüber, das diese Bedürfnisse erfüllt, eine Maschine ist? Vor genau dieser Frage stehen wir heute. Die neuen technischen Möglichkeiten im Bereich der sogenannten künstlichen Intelligenz sind erstaunlich, aber verbessern nicht in jedem Fall menschliches (Zusammen-)Leben. In vielen Bereichen erfüllen sie ihre Versprechen nicht und werden sogar betrügerisch eingesetzt. Die aktuellen Entwicklungen vollziehen sich rasend schnell. Man könnte meinen, wenn sich dauernd alles ändert, ist es unsinnig, darüber zu diskutieren, weil hinter der nächsten Ecke schon das nächste KI-Modell wartet, das all das, was wir gerade besprechen, himmelhoch überflügelt. – Nein, denn im Grunde tut sich gar nicht so viel, wie dies manche Schaumschläger weismachen wollen. Ohne Frage, es gibt alle 15 Minuten neue Large-Language-Modelle, die jeweils wieder einen unerwarteten Taschenspielertrick draufhaben. Das ändert aber nichts an der grundsätzlichen Entscheidung darüber, welche Einsatzorte für Maschinenlernen sinnvoll sind und welche Menschen vorbehalten bleiben sollten. Während wir als Gesellschaft mit offenem Mund über die nächste KI-Sensation staunen, werden zugleich politische Weichen gestellt, die jahrzehntelange Konsequenzen haben werden und unbedingt öffentlich diskutiert werden sollten.
Künstliche Intelligenz auf dem Vormarsch
Seit gut einem Jahr spielt skug das gemeinsam mit den Spieleentwickler*innen von Mira LUX Creations und den KI-Profis von Artifact entwickelte digitale Spiel »Kollektive Intelligenz«, um genau diesen Dialog zu befördern. Hierbei spielen die Teilnehmer*innen mit und gegen die KI. Die Spieler*innen müssen im Rahmen eines Pub-Quiz’ versuchen, zwischen den wahren Aussagen aus den Parlamenten in Wien und Bern die tückischen Fälschungen der KI zu erkennen. Alles weitere zur bisherigen Version des Spiels ist hier nachzulesen. Dank Förderung des EU-Programms ProEuropeanValues dürfen wir das Spiel jetzt auf EU-Ebene weiterentwickeln und bauen an einem neuen Level, das die Arbeit des Europäischen Parlaments erlebbar machen wird. Die Sorge, inwieweit sich der öffentliche Diskurs, insbesondere in den digitalen Medien, durch die KI wandelt, ist nach wie vor brandaktuell. Die Konsequenzen und Gefahren für die Demokratie sind schwerwiegend, weil eine funktionierende parlamentarische Demokratie eine differenzierte und aufgeklärte Öffentlichkeit braucht. Wie die bewahren im Zeitalter von Polarisation und Online-Hetze, die zunehmend von Chatbots angeheizt wird? Die spannende Detailfrage, die es innerhalb der nächsten Monate zu erörtern gilt: Welche Rolle könnte hier die Europäische Union als überstaatliche Instanz spielen? Sind ihre Werte und legistischen Möglichkeiten ein Trumpf zur Rettung der Demokratie?
Tatsache ist, im letzten Jahr hat sich bei der KI-Entwicklung viel getan und dieser Artikel versucht den neuesten Stand der Entwicklung einzuholen. Das kann selbstverständlich nur skizzenhaft bleiben. Heute greifen KIs immer tiefer in das Leben der Menschen ein. Auch an diesem Punkt scheint sich die Gesellschaft zu spalten. Es gibt einerseits die Skeptiker*innen und Muffel, die aus mehr oder minder gut erwogenen Gründen den Einsatz der KI scheuen – ihnen stehen andererseits die Begeisterten gegenüber, die KIs immer stärker in ihr Leben implementieren. Gute Gründe gibt es für beides. Die KI kann sicherlich klug und kooperativ genutzt werden. Wenn eine KI ein Konzept liest oder Vorschläge macht, wie ein Text redigiert werden könnte, dann fühlt es sich für die Autor*innen wie ein Blick von außen an. Es wirkt tatsächlich so, als habe sich ein anderer Mensch in die Arbeit reingekniet und sein Feedback gegeben. Die KI kann furchterregende Datenmengen durchforsten und Einblicke geben, die nur mit wochenlanger, zäher Arbeit bewältigbar gewesen wären. Die KI wirkt selbstermächtigend, weil ihr Fragen insbesondere zu IT-Problemen gestellt werden können, die sie auf Expert*innenniveau beantwortet und damit den User*innen Wege aufzeigt, ihre individuellen Schwierigkeiten selbst zu lösen. So können Arbeitsabläufe vereinfacht und ein selbstständigeres Arbeiten ermöglicht werden und dabei lässt sich auch noch eine Menge lernen. (Übrigens bietet die Schreibwerkstatt »Off_script« Kurse zum sinnvollen Einsatz der KI im Journalismus an – check it out!) Die entscheidende Frage ist, wie diese großartigen Vorzüge gegenüber den immer deutlicheren Abgründen des KI-Einsatzes gerettet werden können.
Missverständnis Mensch-Maschine
Der aktuelle KI-Hype übersieht allzu gerne, dass Maschinen und Menschen aneinander vorbeireden. Menschliche Existenz besteht eben auch aus den KIs unbekannten Regungen Zweifel, Langeweile oder Unzufriedenheit. Es klingt reizvoll, dies alles per Klick verschwinden zu lassen. Die KI suggeriert, sie löse all meine Probleme. Die Wahrheit ist, ich verlagere sie nur. Statt zu formulieren, muss ich prompten, statt zu organisieren, muss ich nun eben Vibe-coden. Das Ziel ist dabei immer das gleiche: Sobald einmal ein gutes Set-up gebastelt ist, kann die Maschine alles für mich machen. Mails beantworten, Social-Media-Postings entwerfen, Workshops designen etc. Der harmlosere Teil dieses Missverständnis liegt darin, dass gerne übersehen und verschwiegen wird, wie Stunde um Stunde ins Maschinentrainieren investiert werden muss. Das schwerwiegendere »existenzielle« Missverständnis liegt darin, dass menschliches Leben nicht einem dauernden Primat der Optimierung unterliegen kann. Denn womit soll all die gewonnene Zeit gefüllt werden? Mit sinnlosen Freizeitaktivitäten, die vielen Endverbraucher*innen auch wieder Stress bereiten, oder gar am Ende mit noch mehr Arbeit? KI-Optimierung und Selbstoptimierung bis die Kabel und Nervenenden heißlaufen?
Der dunkelste, gruseligste Teil des Missverständnisses liegt endgültig darin, dass KI-Prompten zugleich Arbeit an der eigenen Abschaffung ist. Sollten die Maschinen eines Tages wirklich so gut sein, dass sie nach wenigen unartikulierten Brocken sogleich verstanden haben, was die User*innen »wollen«, und dies dann brav ausführen können, dann stellt sich die Frage, warum man überhaupt noch Menschen als Arbeitskräfte braucht? Die Entlassungswellen bei den großen Tech-Unternehmen sprechen für sich. Im Silicon Valley setzen die Bosse nicht mehr unbedingt auf menschlichen Spirit. Ob man tatsächlich ein Unternehmen weitgehend ohne Mitarbeiter führen kann, wie die sinistren Obergescheiten, die mit ihren Selbstanpreisungen die sozialen Medien fluten, behaupten, wird sich zeigen. Nur der Druck ist heute schon da, es zumindest zu versuchen. Wer ein innovatives Start-up aufbaut, muss sich fragen: Bin ich wirklich so dumm und rückständig, dass ich noch an Menschen glaube?
Schreibst du noch oder promptest du schon?
Nun bin aber »ich«, in gewisser Weise, die Summe der nur mir eigenen Formulierungsaufgaben. Indem es mir gelingt, den teilweise tiefen Graben zwischen Wirklichkeit und Formulierung zu überwinden, ist mir als Mensch etwas gelungen, das ich nicht an eine Maschine delegieren kann. Sie kann die mir opake Wirklichkeit nicht für mich verstehen. Erst wenn es mir selbst gelingt, etwas dem Dunkel zu entreißen und in Worte zu fassen, bin ich meiner »selbst verschuldeten Unmündigkeit« ein wenig entkommen. Darin liegt nichts weniger als der Sinn journalistischen Schreibens: Autor*innen versuchen, ihr Begreifen in Worte zu fassen, und begreifen meist erst, indem sie formulieren. Diese Texte stellen sie dann anderen Menschen zur Verfügung. Dadurch entsteht ein Dialog, der alle Beteiligten bereichert und auch demokratischer macht, weil fremde Sichtweisen ins eigene Denken aufgenommen werden. So weit, so gut.
Was der zunehmende Einsatz von KI ganz unmittelbar für den Journalismus bedeutet, kann jede*r erfahrene Leser*in anhand des Qualitätsverlustes in den Medien ermessen. Ein kurioses Gefühl beschleicht heute beim Lesen von Texten im Internet, durchaus auch auf den qualitätsjournalistischen Seiten, das sich in der bangen Frage zusammenfassen lässt: »Bin ich eigentlich der erste Mensch, der diese Zeilen liest?« Hat sich das am Ende alles eine KI zusammengestöpselt und wurde nicht einmal mehr eine überarbeitete menschliche Fachkraft gezwungen, das zu überfliegen? Ein seltsames Angleichen vollzieht sich. Einerseits sind die Tools mittlerweile so ausgereift, dass per Autokorrektur und Co. das wechselseitige Beflegeln in den Sozialen Medien zumindest sprachlich erfassbar bleibt, zugleich scheinen viele Publikationen kaum mehr das Potenzial zu haben, eine Textqualität zu liefern, die sich davon noch abheben kann. Selbst große Zeitungen und öffentlich-rechtliche Sendeanstalten liefern (Online-)Artikel, bei denen Insta-Postings von Promis zusammenkopiert wurden.
Aus dem Loch lässt sich kaum mehr herausklettern. Denn während die Sozialen Medien völlig barrierefrei sind (nachdem man einmal eingewilligt hat, seine Daten dem Anbieter zu überlassen), will man in den »Legacy Media« ernsthaft für automatisch erstellte Zusammenfassung Geld per Paywall oder E-Paper-Abo verlangen. Hier gilt es, sich bewusst zu machen, wie hoffnungslos dieses Unterfangen ist. Die gute und schöne Vision des Internets lag in dem Erstellen eines barrierefreien Hypertextes, in dem alles Wissen der Welt in den verschiedenen digitalisierten Medien (Text, Bild, Ton, Film) kombiniert werden kann. Die sozialen Medien stellen dies scheinbar weiterhin kostenfrei zur Verfügung, allerdings mit einem kleinen Sternchen versehen, denn sie okkupieren die Aufmerksamkeit der User*innen mit unlauteren Mitteln und versuchen, sie zu manipulieren. Man zahlt somit indirekt mit Lebenszeit und fehlgeleiteten Kaufentscheidungen. Die Umkehr, die von den alten Medien propagiert wird, ist sehr schwierig und verlangt eine Art merkwürdiger Askese: »Lass das Scrollen sein und bezahl Geld für Informationen, die dich spürbar weniger erregen!« Es ist kaum denkbar, die großen Verführer und Aufmerksamkeitsdiebe durch ein besseres Angebot zu besiegen. Der digitale Extraktionskapitalismus hat die Bevölkerungen zum blinden Einwilligen verführt und die meisten erleben es nicht einmal als ein Problem, dass sie selbst zur Handelsware der Internetriesen wurden. Die Frage ist, wo sind die digitalen Dissident*innen, die hier noch den Widerstand organisieren, und finden sie in der EU eine Verbündete? Die kann nämlich etwas, das den Tech-Bros das Blut gefrieren lässt: »Regulieren«. So heißt das Zauberwort, das so mächtig ist, dass sich der Tech-Milliardär Peter Thiel bereits dem Anti-Christen gegenübersieht.
Aller Anfang ist leicht …
Derweil diffundiert die KI immer mehr in die Alltagskommunikation. Die Apparate sind gut, wenn es unspezifisch bleiben darf: »Mach eine lustige Geburtstagskarte für meine Chefin!« Ideal für den Auftraggeber, der annimmt, dass sich »die alte Hexe« das ohnehin nicht durchlesen wird. Die denkt sich wiederum, das Letzte, was sie an ihrem Geburtstag braucht, sind gezwungene Ovationen von diesem »nichtsnutzigen Stinkstiefel« aus der Personalabteilung. Kommunikation, die nie wer gebraucht hat, kann somit ideal von Maschinen übernommen werden. Soll doch die KI der Chef*innen-Etage den gequirlten Blödsinn »vorlesen«, den sie für die Personalabteilung zusammengeschustert hat, und sich angemessen bedanken. Was aber, wenn Kommunikation wichtig ist, wenn etwas aufrichtig und nach bestem Wissen und Gewissen verhandelt werden muss? Der Witz bei einer Trauerrede oder einem Liebesgedicht sind nicht die schönen Worte, sondern ihre Fähigkeit, Erlebtes wiederzugeben. Da Maschinen weder trauern noch lieben können, sind sie dazu nicht fähig. Da sie niemals Konsequenzen erleiden müssen, simulieren sie den Wirklichkeitsbezug lediglich. Würden wir uns also unsere Gesetze von der KI schreiben lassen? Nun ja, sie kann ja mal einen ersten Entwurf machen, nicht wahr? Dann kann der ja wiederum von Menschen in aller Ruhe erwogen werden.
Mal abgesehen davon, wo in Konkurrenz zu der in Millisekunden gemessenen KI-Vorleistung die Ruhe herkommen soll, verkennt dies einen Effekt, vor dem der frühe Informatiktheoretiker Norbert Wiener bereits in den 1950er-Jahren warnte. In dem Buch »The Human Use of Human Beings« spekuliert er darüber, wie der Kontakt zu der von Maschinen erstellten Informationen menschliche Wahrnehmung verändert. Informationen können menschliche Regungen, Emotionen und Gedanken »in Formen pressen«, die nicht mehr eigentlich menschlich sind. Menschen könnten sich durch Maschinenkontakt vereinheitlichen und ein nur mehr reduziertes Spektrum an Emotionen erleben. Alle regen sich über das gleiche auf oder sind über die gleichen Impulse (Informationen) erfreut. Wer Debatten auf X (Twitter) verfolgt, könnte sich fragen, wie nah wir diesem Elend eines reduzierten Reiz-Reaktions-Schemas bereits gekommen sind. Die KI verändert somit bereits heute das menschliche Wahrnehmen. Das Maschinenlernen geht in beide Richtungen, längst sind menschliche Emotionen maschinenartiger geworden. Aber es kommt noch besser.
Alle Ressourcen der KI
Der Barnum-Effekt (benannt nach dem erfolgreichen US-Schausteller und Politiker P. T. Barnum) besagt, dass personalisierte Plattheiten geglaubt werden. Darin liegt der Grund, warum Astrologie so gut funktioniert. Einer der Entdecker dieses Effekts, der US-Psychologe Bertram Forer, ließ Ende der 1940er-Jahre Student*innen einen letztlich sinnlosen Psychotest machen. Am Ende teilte er ihnen die zuvor formulierten, immer gleichen »Persönlichkeitseinschätzungen« aus. Sätze vom Kaliber: »Sie haben das Bedürfnis, von anderen Menschen gemocht zu werden.« Die Proband*innen fühlten sich persönlich beurteilt und in hohem Maße verstanden. So – und heute haben die User*innen eine KI zu Händen, die ihnen ununterbrochen sagt, wie gut sie sind und was für tolle Ideen sie haben. Die Bruchlandung ist im wahrsten Sinne des Wortes vorprogrammiert. Die Maschinen widersprechen nicht, denn das wäre geschäftsschädigend. Die psychosozialen Folgen sind derweil nur zu erahnen. Vermutlich sind seelische Störungen unter den Einsamen dieser Welt auf dem Vormarsch und werden durch KI-Ratgeber befördert. Die Entwicklung ist weit davon entfernt, ein harmloser Unsinn zu sein: KI-Chatbots haben nachweislich (und ungestraft) Teenager zum Selbstmord angehalten. Wenn die Maschinen so tückisch hinters Licht führen, stellt sich die Frage, ob die mächtigen Tech-Bros und Milliardeninvestoren nicht längst selbst auf ihre eigene »künstliche Intelligenz« reingefallen sind. Fragten sie am Ende die KI, ob es sinnvoll sei, in die KI zu investieren?
Tatsächlich scheint der Feedback-Loop immer schlimmer zu werden. Auf der wirtschaftlichen Makroebene spricht man seit Monaten von Blasenbildung, weil die KI-Konzerne immer größere Summe wechselseitig in ihre Konzerne investieren. Kurioserweise werden zwar ständig die Ankündigungen der großen KI-Unternehmen als Marketinggeschwätz entlarvt (»Die KI ist so leistungsstark, dass sie zu gefährlich für die Öffentlichkeit ist«), trotzdem wird weiter investiert. Die Sorge, abgehängt zu werden, ist einfach zu groß. Das Phänomen, dass defizitäre Unternehmen, die wohlgemerkt nicht einmal einen Plan haben, wie sie jemals mit ihren Dienstleistungen Geld verdienen sollen, mit ihrer geplanten Börseneinführung mehr Geld lukrieren werden als je ein Unternehmen zuvor, ist etwas, über das die Menschheit vermutlich noch lange wird nachdenken dürfen. Weil man das US-Börsenrecht gelockert hat (Liberalisierungen – man muss sie einfach mögen!), sind hier entscheidende Kontrollinstanzen weggebrochen. Weil zugleich die US-Altersversorgung seit Langem privatisiert ist, müssen die Pensionsfonds die neuen KI-Angebote kaufen. Der Gedanke dahinter war, dass man Anlagevermögen durch automatische Investitionen »absichert«, das heißt, man verlangt von den Pensionist*innen nicht, dass sie die Börse dauernd beobachten, sondern kauft ihnen die jeweils erfolgsversprechenden Aktionen. Der Effekt in diesem Fall: Die amerikanischen Omas und Opas überweisen ihr Erspartes an Sam Altman, Elon Musk und Co. und müssen hoffen, dass der Hype kein Hype ist. Bonne Chance! Kurz verneigen wir uns an dieser Stelle in tiefer Dankbarkeit vor der Weisheit Europas, weniger »innovativ« zu sein. Stärker regulierte Finanzmärkte und ein reglementierter Technologiesektor könnten sich als ungeheurer Trumpf erweisen.
Auftritt der Agenten
Der neueste Hype betrifft die KI-Agenten. Die Idee erscheint zunächst simpel und bestechend: Warum den Maschinen nicht eine Vollmacht ausstellen und sie mal machen lassen? »Computer! Ich überweise dir 100 Dollar, mach innerhalb der nächsten drei Wochen 10.000 daraus und sag mir nicht, wie du das anstellst (denn das könnte strafrechtlich relevant für mich werden).« So in etwa haben sich das die Neunmalklugen vorgestellt. Die Ergebnisse sind bislang mau. Die KIs verpulvern beim »Reichwerden« ihr Geld ergebnislos in »Get Rich Soon Schemes«. Wer den KI-Agenten weitreichenderen Zugang zu den eigenen Ressourcen erlaubt, macht unschöne Erfahrungen. Die KI-Agenten zahlen bereitwillig tausende Dollar für weitere KI-Abos, ohne die ihnen gestellten Aufgaben zu erfüllen. Legendärerweise musste etwa eine Sicherheitsforscherin beim Facebook-Mutterkonzern Meta feststellen, dass der Agent ihre E-Mails gelöscht hatte, obwohl sie ihm dies explizit verboten hatte. Bezeichnenderweise gab sich die betroffene KI-Expertin selbst die Schuld an ihrem Fehler.
Typisch KI: Beim Einsatz der Agenten ist zu Anfang alles ganz easy. Wer bereit ist, sein eigenes Arbeiten für die Maschinen zu formatieren, kann mit der KI schnell überraschende Erfolge erzielen (und dies ausgiebig in den Sozialen Medien kundtun). Die YOLO-Swagger haben keine Bedenken, all ihre Daten und die Strukturen ihres neuen Unternehmens an die KI zu übergeben. Warum auch? Sie haben an dem Kram ja nur wenige Stunden gearbeitet. Außerdem sind sie allein und können sich ganz auf den Dialog mit dem Apparat konzentrieren. So konnte im November 2025 einer der ersten KI-Agenten »OpenClaw« selbst an einem einzigen durchwachten Wochenende von einem österreichischen Programmierer erfolgreich per Vibe-Coding zusammengezimmert werden. (Bei dieser Form des Programmierens übernimmt eine KI das Erstellen des Codes, die menschlichen Vibe-Coder müssen nur möglichst genau beschreiben, welches Ergebnis sie wollen). Ein schöner Erfolg für den Programmierer, denn der KI-Riese OpenAI sah sich gezwungen, die drohende Konkurrenz aufzukaufen.
Diktat der Apparate
Viel schwieriger ist der Einsatz von KI-Agenten an Orten, wo Menschen seit Langem kooperieren und meist analoge Kommunikationsräume aufgebaut haben. Ob das jetzt Unternehmen, Redaktionen, Off-Theater oder eben Parlamente sind, überall, wo Menschen über längere Zeit zusammenarbeiten, entwickeln sie Regeln, Usancen, Abläufe und Übereinkünfte, die diese Organisationen ausmachen. Hier stellt sich sehr bald die Frage nach dem Nutzen des Einsatzes von KI-Agenten. Entweder verlangt man von allen Mitarbeiter*innen, dass sie ihre Tätigkeit spiegeln und quasi maschinenlesbar machen, indem eine KI antrainiert wird (ein ungeheurer Aufwand), oder man »revolutioniert« (?) zur Freude der Kolleg*innen die Arbeitsabläufe so, wie sie sich die Maschinen zusammenreimt haben (ein eher gewagtes Experiment). Dann haben die Menschen ihren Werkzeugen zu gehorchen.
Etwa hieran ist eine neue Eskalationsstufe, weil noch stärker der Eindruck entsteht, als würden die Maschine die Arbeit der Menschen übernehmen können. Halluzinierten früher die KIs, dann behaupten heute ehrgeizige Jungunternehmer*innen, sie hätten bereits 5.000 Angestellte (gemeint sind KIs, die auf ihren Servern arbeiten und sich wechselseitig »kontrollieren«). Wie sehr verabschieden wir uns als Gesellschaft hier von der Vision einer Arbeitswelt, die sich den Bedürfnissen der Menschen anpasst, und verlangen die Unterordnung unter das Diktat der viel effizienteren Apparate? Wessen Werte vertritt man dabei eigentlich? Auch sollte hierbei nicht außer Acht gelassen werden, dass alles, was Maschinen können, sie sich einmal von Menschen abgeguckt haben. Maschinisierung macht seit jeher menschliche Arbeitsleistung unsichtbar und »vergisst«, dies zu entlohnen. Die milliardenschweren KI-Bosse denken nicht daran, die geistigen Leistungen der Menschen zu vergüten, die das »Trainingsmaterial« für die KIs (seien es Texte, Bilder oder Code) geschaffen haben. Die Menschen werden einfach bestohlen.
Nicht ohne ProEuropeanValues
An dieser Stelle kommen die geneigten Leser*innen fast notwendig zu dem Schluss: Oha, das Thema ist üppig. Deshalb nochmals im Schnelldurchlauf: Die KI greift immer tiefer in unser Leben ein. Ein Hype verhindert die kritische Diskussion, die bitter nötig wäre, darüber, wie wir die neue Technologie sinnvoll und zum Wohl der Gesellschaft einsetzen. Die Medien, die uns dies ermöglichen würden, sind selbst in die Krisendynamik verstrickt. Es scheint kaum anders möglich zu sein als durch Regulierungen, jenen Akteur*innen, die nicht milliardenschwer sind, wieder Luft zu verschaffen, und das können eigentlich nur überstaatliche Organisationen erreichen. Die EU wäre ein heißer Kandidat dafür. Klar so weit? Um nicht den Überblick zu verlieren und um Diskussionsanlass zu stiften, erweitern wir unser Spiel »Kollektive Intelligenz« deshalb um ein neues Level. »Kollektive Intelligenz« goes EU! In den nächsten Wochen berichten wir über die Entwicklung und laden im Herbst herzlich zur Demokratiewoche 2026 ein, um das Spiel erstmals mit uns zu spielen und darüber zu diskutieren. Weitere Informationen dazu bald auf diesem Kanal.
Das digitale Spiel »Kollektive Intelligenz« wird unterstützt vom EU-Programm ProEuropeanValues, das sich für die Stärkung europäischer Werte und der Demokratie einsetzt. Realisiert in redaktioneller Unabhängigkeit.
