In seinem kompakten Übersichtswerk zeigt Mühlhoff Zusammenhänge zwischen dem Aufstieg der neuen Rechten und der Verbreitung von KI auf. Er sieht einen neuen Faschismus aufkommen, der sich vom bisherigen durch drei Merkmale unterscheidet:

Neben der Bedrohung der Wissensgesellschaft sind auch Schäden für Demokratien absehbar. Durch Datenanalysen und KI-Technologien entstehen in der Verbindung von Tech-Konzernen und der neuen Rechten Regierungsformen, in denen der Rechtsstaat und die freiheitliche demokratische Ordnung geschwächt werden. Auf Basis algorithmischer Vorhersage streben sie ein „schlankes“ Staatswesen an.

Während der Aufstieg der neuen Rechten im Buch kein Thema ist, widmet sich Mühlhoff den ideologischen Hintergründen der Generativen KI. Dabei bezieht er sich wesentlich auf das von der Informatikerin Timnit Gebru und dem Philosophen Émile P. Torres eingeführte Akronym TESCREAL.

Diese Meta-Ideologie setzt sich aus Unterströmungen wie dem Transhumanismus (T), Effektiven Altruismus (E), Akzelerationismus (A) und Longtermismus (L) zusammen. Es dominieren „libertäre, elitistische und antiegalitäre Weltanschauungen“ – „als Fortsetzung von Eugenik, White Supremacy und Rassismus“.

Durch aktuelle Entwicklungen in den USA gewinnt die These des Buches stark an Bedeutung – nicht nur, weil sich Tech-Bros TESCREAL zugehörig fühlen und sich KI-Anwendungen ins Staatswesen „fressen“, pointiert durch das Rationalisierungsprogramm DOGE, sondern auch durch den Einsatz von KI, um Bilder zu entfernen, Geschichte umzuschreiben oder „Falschdenkende“ zu identifizieren.

Mühlhoff befürchtet ein noch engeres Zusammenwachsen von der neuen Rechten und KI – insbesondere durch deren Einsatz in staatsnahen Lebensbereichen wie der Vergabe von Wohnungen und Sozialhilfen, aber auch bei Entscheiden in Bezug auf Bildung und Gesundheit.

Er kritisiert, dass im gegenwärtigen Diskurs eine imaginäre ferne Zukunft die Probleme verdrängt, die bereits heute durch KI entstehen. Dazu gehören Diskriminierung, die Machthäufung der KI-Unternehmen, das Zusammenwachsen von wirtschaftlicher und politischer Macht („Tech-Bros“), ökologische Schäden durch den hohen Ressourcen- und Energieverbrauch zur Entwicklung und zum Betrieb von Generativer KI sowie bedenkliche Arbeitsverhältnisse jener, die im Sinne von „Ghost Work“ die KIs trainieren.

Eine weitere, wenn auch nur gestreifte Problematik ist die KI-Blase: Wie die NZZ neulich aufzeigte, handelt es sich um eine Art „Ringgeschäft“, bei dem Geld in Geschäftsmodelle fliesst, die möglicherweise weit weniger rentabel sind, als zunächst erhofft.

Zu unterscheiden sind einerseits von KI benachteiligte Randgruppen – die in den Trainingsdaten in der Regel unterrepräsentiert sind – und andererseits Gruppen, die von KI neutraler behandelt werden, in erster Linie weisse Männer. Eine zweite Trennlinie lässt sich zwischen KI-Anwendungen ziehen, deren Trainingsdaten und Mechanismen einsehbar sind, und solchen, bei denen dies nicht der Fall ist.

In Anlehnung an die zuvor gemachten Ausführungen sind weiter TESCREAL-Fans und Kritiker:innen zu unterscheiden. Allgemein gilt es, zwischen jenen zu unterscheiden, die durch KI Macht ausüben, und jenen, die dieser unterworfen sind. Interessant ist in Bezug auf soziale Gruppen noch ein weiterer Punkt:

Wie das Buch immer wieder aufzeigt, befinden wir uns vermutlich bereits in einer Zukunft, in der Wahrheit durch Wahrscheinlichkeiten ersetzt wurde. Bei algorithmischen Entscheiden gilt das Recht des Stärkeren. Eine „gesunde, optimierte und smarte“ Zukunftsgesellschaft ist also eine Gesellschaft der „Auswahl und Selektion“.

Mühlhoff plädiert für realistischere Erwartungen an KI. Nicht nur ist die ferne Zukunft nicht zu erfassen, es gibt auch mehr als genug Probleme, welche die Partys zur Einführung neuer Versionen von OpenAI & Co stören. Gefragt wäre eine nüchterne Diskussion über die KI-Zukunft.

Nun aber trübt das Amalgam zwischen den neuen Rechten und den Tech-Bros die sachliche Argumentation. So belohnen etwa die KI-gesteuerte Plattformen. emotionale und primitivere Reaktionen wie Liken und Sharen während sie das nüchterne Sammeln und kritische Hinterfragen stören. Das verstärkt ganz nebenbei die Polarisierung der Nutzer:innen. Zudem präferiert das KI-Amalgam auf allen Ebenen der digitalen Gesellschaft Lösungen, die effizient und ökonomisch ergiebig sind. Das verdrängt – insbesondere im Falle einer Vereinnahmung der KI durch die neue Rechte – Argumente, die eher auf Nachhaltigkeit und soziale Gerechtigkeit abzielen. Wer sich mit „Reflexion, Kritik oder Regulierung“ befasst, gilt als „Schmarotzer“.

Wer nicht mitmachen will, hat nur eine Option: den „free exit“. Er oder sie wird also genötigt, die Plattformen – und weitergedacht den Staat – zu verlassen. Die Nutzerin, der Mitarbeiter, die Bürgerin werden zu machtlosen Followern.