Horx: „Im jetzigen Stadium ist die KI ein Parasit"

Ob Medizin, Kunst oder Verlagswesen, aktuell kommt keine Branche mehr um die Auseinandersetzung mit KI herum. Demgemäß beschreiben Sie die KI in Ihrem „Manifest“ auch als mächtiges Gespenst, das umgeht in der Welt, und merken an, dass wir uns möglicherweise vor den falschen Gefahren fürchten. Worin sehen Sie diese und was wären die richtigen?

Die Ängste bewegen sich ja entlang des klassischen Unterdrückungsnarrativs, das es seit Büchern wie „Brave New World“ oder George Orwells „1984“ gibt: Maschinen, die uns unterdrücken und schließlich umbringen, der Terminator und Matrix lassen grüßen. Die wirkliche Gefahr liegt aber ganz woanders: dass die künstliche Intelligenz alle Texte, Bilder, Kommunikationen und schließlich Gedanken in einen süßen Brei verwandelt wie im Grimm’schen Märchen. Und dann erinnert sich keiner mehr an das Passwort, um den Spuk abzustellen. Dass alles unfassbar banal wird, alle Texte gleich klingen, alle Filmserien ähnlich, alle Bücher gleich geschrieben sind. Es entsteht eine riesige Schwemme von schlechter Qualität, und die Wahrheit verschwindet hinter einem Vorhang von unendlich reproduzierten Banalitäten. Generative KI ist eigentlich nur ein stochastischer Papagei, der immer nur nachplappert oder nachbildet, was schon geredet, gemalt oder geschrieben wurde, also bereits existiert.

Sie sagen: „Die KI an sich hat keine Intentionen, sie wird uns nicht vernichten, sondern eher verblöden.“ Wo sehen Sie die gesellschaftspolitischen Probleme, die entstehen?

Technologien sind erst einmal eine Erweiterung von Möglichkeiten. Aber die Frage ist doch, wie wir sie anwenden. Wir sollten uns auch den Zorn leisten können, wenn sie in den falschen Händen mit falschen Intentionen entwickelt wird. KI ist mit Sicherheit ein Angriff auf die Kreativität, auf die kreative Klasse. Viele Künstler, Journalisten, Fotografen, Layouter, viele schöpferische Berufe werden ihr Geschäft verlieren. Wir haben das ja schon mal erlebt, im Aufstieg des Internets. Ich selbst habe noch vor 20 Jahren an die befreiende und emanzipative Wirkung des Internets geglaubt. Dann wurde klar, dass die großen Monopolisten von Microsoft über Google bis Meta sich die Algorithmen unter den Nagel gerissen haben. Und am Ende ging es nur noch darum, dass wir mit Werbung vollgefüllt werden. Dafür muss man mit möglichst schrillen Reizen immerzu online gehalten werden. Das trägt stark zur Verrohung und Banalisierung unserer Gesellschaft bei. Das digitale Geschäftsmodell ist ziemlich toxisch geworden.

Das Gleiche gilt für die KI ...

Die Technik hat durchaus segensreiche Möglichkeiten, aber vor allem dort, wo man sie gar nicht spektakulär als „intelligent“ empfindet, wo sie im Stillen arbeitet – Krebsmedikamente errechnet oder den Energiefluss von Millionen von Strom­paneelen koordiniert. Es ist auch nichts dagegen zu sagen, Archivsysteme „intelligenter“ zu machen, etwa in Anwaltskanzleien oder Redaktionen oder staatlichen Institutionen. Sobald die Computer sich aber direkt in die menschlichen Beziehungen einmischen, wird es fatal. Das zeigt sich ja schon mit Partnerschafts­suche im „normalen“ Internet. Das ist ein Irrsinn geworden und hat die Flirtkultur weitgehend zerstört. Es ist kein Zufall, dass alle Partnerschaftsplattformen in der Krise sind. Wenn wir irgendwann nur noch mit Bots kommunizieren, dann stirbt die menschliche Kultur. Mein ­Manifest ist ein Manifest des humanistischen Futurismus. Mein Appell ist, dass wir in allen technologischen Bereichen auch immer die Interessen, die Würde des Menschen verteidigen. Es ist ein Aufruf zur Aktion: Nutzen wir das Zeug, aber nutzen wir es in einem menschlich-intelligenten Sinne. Kämpfen wir gegen die Verblödung, bewahren wir den ­Unterschied zwischen menschlicher und maschineller Schöpfung!

Die Motivationen der Nutzung dieser „Superreligion der Gegenwart“ sind vielfältig: von der Entlastungserwartung, dass uns KI langweilige Mühseligkeiten abnimmt, bis zur Produktivitätssteigerung, worauf vor allem die Wirtschaft setzt. „Die KI ist ein Hype, der sich (auch) aus ökonomischen Hysterien speist“, lautet dazu eine weitere Ihrer Thesen.

Die großen KI-Systeme werden ja mit dem Versprechen der radikalen Effizienzsteigerung in Unternehmen vermarktet – darin begründet sich auch der ökonomische Hype um das Thema. Man sagt den Firmen: Wenn ihr KI nutzt, könnt ihr Leute einsparen, alles wird viel produktiver. Aber das ist meistens ein Trugschluss. Wir erleben immer wieder, dass Effizienzsteigerungen nicht das ­bewirken, was sie sollen. Nehmen wir gleich ein Beispiel aus dem journalistischen Umgang mit KI: Automatisierte Effizienzlösungen schaffen nämlich ­ständig neue Schnittstellen, weil Erfahrungswissen auseinandergerissen wird. Meistens ist der Aufwand, das, was die KI macht, dauernd zu verbessern, zu ­gewichten, zu beurteilen, größer, als wenn man das durch eingespielte Teams machen lässt. Reine Funktionstexte kann man der KI überlassen. Die Frage ist aber, ob dann nicht irgendwann alles zu Funktionstexten wird, weil die KI-Schreibe unfassbar billig ist. Damit werden die Zeitungen und Medien immer schlechter. Und man hat eine Spirale nach unten: Die Inhalte werden immer seelenloser, banaler, blöder. Das führt zur Verstärkung des Effekts, dass keiner mehr irgendwas liest. Das Vertrauen schwindet. Vertrauen wir noch einer Bank, wenn sie mit ihren Kunden nur noch über freundliche, seelenlose ­Stimmen spricht, die rund um die Uhr „Finanztipps“ geben? Vertrauen wir ­einem Medium, wenn wir wissen, dass das alles aus der Maschine kommt? Die menschliche Kultur, und dazu gehört auch die Wirtschaft, ist auf das Analog-Menschliche angewiesen.

Dennoch ist das wohl der Traum vieler Unternehmer ...

Tatsächlich erleben Unternehmen, die mit KI arbeiten, zunächst einen Anstieg von Produktivität. Aber das dauert nicht lange, denn bei den verbleibenden Mitarbeitern sinkt meistens die Motivation – sie fühlen sich über­flüssig, kontrolliert, sinnlos. In der Folge stagnieren die Umsätze eines Unternehmens oftmals durch Formen innerer Kündigung. Zudem müssen KI-Systeme ständig überholt und angepasst werden, was ebenfalls die Produktivitätsfortschritte ausbremst. Am Ende verliert das Unternehmen seine Fähigkeit zur Selbstorganisation. Man kann da nur dagegensteuern, indem man die Mitarbeiter mitentscheiden und mitgestalten lässt, wie die KI eingesetzt werden soll. Ansonsten wird sich die KI als eine Art Parasit der Organisation erweisen.

Können Sie das weiter ausführen?

Es gibt grundsätzlich Technologien, die Menschen zu wunderbaren Dingen befreien und befähigen, von der Eisenbahn bis zum Auto, das eben auch Freiheit bedeutet. Es gibt aber Technologien, die wirken wie ein Parasit. Sie saugen den Wirt aus. Sie erweitern nicht unsere Fähigkeiten, sondern degenerieren sie. Das sieht man im kleinen Maßstab selbst bei einer so praktischen Anwendung wie einem Navigationssystem. Es ermöglicht uns, sehr verlässlich von A nach B zu kommen. Aber es lässt uns auch unsere Fähigkeit zur Orientierung verlieren. Menschen, die mit dem Navi aufgewachsen sind, ­können sich meist nicht mehr in Städten zurechtfinden. Sie haben nur noch Punkte im Kopf, die keine Verbindungen haben. Dennoch nutze ich mein Navi weiter, es gibt ja auch einen sogenannten Netto­vorteil von Technologien, der Verlust ist geringer als der Vorteil. Ich glaube aber, dass die KI im jetzigen Stadium eher ein Parasit ist. Sie richtet mehr Schaden an als echten Nutzen. Wir müssen lernen, sie zu zähmen. Das ist mühsam, aber oft lernen Menschen nur durch Schmerzen und schlechte Erfahrungen.

Eine der erstaunlichen Thesen Ihres ­Manifestes ist, dass die KI mit ihrer ­Perfektion immer dümmer wird. Allgemein gilt, wenn sie mit mehr Daten und präziser trainiert wird, kann sie mehr.

Das ist der systemische Effekt der „digitalen Dekadenz“. Er entsteht, weil die Ergebnisse von KI immer weiter in die KI-Systeme zurückgespeist werden. Die KI wird mit ihren eigenen Produkten überfüttert, der Inhalt immer flacher, die Halluzinationen immer größer … 

Sie sprechen auch von der Vermüllung unserer medialen Sphäre, vom Brechdurchfall der Täuschungen …

Das, was wir an Bösartigkeiten und schlechten Nebenwirkungen im Internet in den letzten 20 Jahren erlebt haben, wird durch die KI nochmals beschleunigt. Jeder Idiot kann idiotische Sachen nun noch viel schneller reproduzieren. Jeder Diktator oder Scharlatan kann scheinbar schlauere Manipulationen erzeugen, in viel größerem Ausmaß. 

Für die Maschine ist alles nur „Content“. Ein Begriff, den auch die Medien längst bereitwillig übernommen haben … 

Schon allein der Begriff Content ist eine Perversion. Hier wird ein technischer Begriff auf die menschliche Kommunikation gepfropft. „Content“ ist immer etwas Beliebiges, es ist eigentlich egal … Das gilt eigentlich auch für den Begriff der „künstlichen Intelligenz“ selbst. Das suggeriert immer einen Eigenwillen, eine „Beseelung“, die aber eine Maschine nie hat. Auch eine digitale Maschine nicht. „Intelligenz“ kann nie binär sein, sie hat ja immer etwas mit Gefühlen, mit Körperlichkeit, mit Intuition zu tun. Es gibt emotionale, sensuelle, instinktive, körperliche oder soziale und spirituelle Intelligenz. All das ist von ­Maschinen nur simulierbar. Wir sind schön blöd, wenn wir drauf hereinfallen.

Andererseits lässt die KI auch einen neuen Markt entstehen, wie Sie schreiben, weil in der radikalen Mittelmäßigkeit ­genuine Human-Kreativität wieder neu bewertet und gewürdigt werden wird. Hunger nach Echtheit?

Jeder Trend ­erzeugt immer auch einen Gegentrend. Wir spüren, dass es durch die große ­Enttäuschung, die mit den digitalen Technologien verbunden ist, eine Gegenbewegung gibt. Das Analoge, Originäre, Originelle, das Sinnliche und menschlich Erzeugte bekommt wieder einen höheren Wert. Direktbegegnungen von Mensch zu Mensch werden immer kostbarer. In ­einer „durchdigitalisierten“ Gesellschaft entsteht eine Gegenökonomie, in der es wieder um Wahrheit, Wirklichkeit, echte Begegnung und Schönheit geht. Die KI wird in einem paradoxen Effekt auch dazu führen, dass wir uns als Menschen überprüfen in unserer Menschlichkeit.

Die KI erzeugt also eine humanistische Renaissance?

Es ist ja interessant, dass immer auch alte Kulturformen wiederkehren. Bücher sind heute nach wie vor nicht ausgestorben, obwohl das oft genug prophezeit wurde. Nach zehn Jahren Übermedienkonsum greifen viele Menschen wieder zum Buch. Oft schreibt man 23.000 Mails, die immer nur neue Missverständnisse oder Unklarheiten auslösen – und irgendwann greift man einfach wieder für ein direktes Gespräch zum Telefon. „Renaissance“ heißt ja Wiederkehr, das Alte im Neuen begrüßen, es neu einordnen. Mit der KI betreiben wir ja eine Art Selbsterniedrigung, weil wir uns immer irgendwie unterlegen fühlen gegenüber der Macht des Digitalen. Da rührt sich irgend­wann der menschliche Stolz, die menschliche Würde. Wir können auch trotzig sein, und das ist ganz gut so. 

Wirklich gut funktioniert die KI im ­kriminellen Bereich. Wie kann man das in den Griff bekommen?

Das kann man gar nicht in den Griff bekommen. Das geht immer weiter. Wo immer sich eine Gelegenheit für Täuschung und Betrug ergibt, werden Menschen sie ergreifen. Und die KI ist eine regelrechte Betrugsmaschine. Das kann aber auch dazu führen, dass wir irgendwann einmal eine gesunde Allergie gegen KI ­entwickeln. 

Conclusio Ihres Manifestes ist: KI ist dort sinnvoll eingesetzt, wo sie menschliche Fähigkeiten nicht ersetzt, sondern ergänzt, im spezifischen, nicht im universalen Bereich. 

So wie der Hammer bestimmte Sachen ermöglicht hat, die vorher nicht möglich waren – aber er ­ersetzt nicht den Arm. Er muss mit ihm zusammenarbeiten. KI ist dort sinnvoll, wo eine Qualitätssteigerung erreicht werden kann. Es geht darum, dass man von blödsinnigen Arbeitsvorgängen freigestellt wird, damit man sich klügeren Vorgängen widmen kann. Einen Tumor analysieren kann die KI besser, aber wenn es darum geht, sich für eine Behandlungsmethode zu entscheiden, muss man den ganzen Menschen sehen, seine soziale wie psychologische Situation. Das zu begreifen, ist ein langer ­Prozess, aber ich bin zuversichtlich, dass wir ihn schaffen. Allerdings sind wir ­unter Zeitdruck, weil diese Entwicklung so rasend schnell verläuft. Und sie wird vorangetrieben, weil die großen Computerkonzerne unbedingt ein „Next Big Thing“ brauchen. Die sind alle unter Druck mit ihren Geschäftsmodellen, die ihnen immer wieder zwischen den ­Fingern zerlaufen.

Gibt es noch eine gute Nachricht zum Schluss, außer dass man die Welt nicht prompten kann?

Das ist ja eigentlich schon eine sehr schöne Botschaft: Dass man die Welt nicht prompten kann, heißt auch, dass man genuine Kreativität nicht wirklich maschinell ersetzen kann. Widerstand ist möglich und sinnvoll, wir müssen uns nicht alles gefallen lassen. Wenn wir gelassen auf uns selbst, auf unserer Menschlichkeit beharren, wird die KI tatsächlich zu einem Instrument, mit dem man tolle Dinge machen kann. Allerdings braucht man eine Idee, warum man das tut und in welchen Zusammenhängen – und ­wohin das führt.