Ein Gespräch über Rainers Beruf, Jugend und akademischen Werdegang, seine Zeit in der Unternehmensberatung, Vernunft und Mathematik, den Begriff künstliche Intelligenz vs. Sprachmodelle vs. maschinelles Lernen, AI vs. AGI, Faschismus und Herrschaft, endliche Ressourcen und ihre Verteilung, Daten und Datenschutz, rechte Diskursverschiebung und den Aufstieg des neuen Faschismus, destruktive Übernahme des politischen Apparats, "Opfer bringen" und die Auslagerung von gruseligen Entscheidungen, Demokratie, Rechtsstaat und Machtbegrenzung, Solutionismus, Longterminismus, Eugenik und Singularität, White Supremacy und die "Manosphere" uvm.
Einige Zeitmarken
- Persönlicher Hintergrund: Werdegang vom Mathematiker zum Philosophen [00:32].
- KI-Kritik & Hype: Warum KI oft überschätzt wird und welche wirtschaftlichen Interessen dahinterstehen [02:12].
- Gesellschaftliche Auswirkungen: Ausbeutung, Ungleichheit und die Veränderung der Arbeitswelt [01:34, 09:11].
- Politischer Fokus: Die Gefahr von „Technofaschismus“ und die Rolle des Rechtsstaates [03:54:59, 03:56:52].
Das Gespräch bewegt sich von den mathematischen Grundlagen der KI über soziotechnische Auswirkungen bis hin zur politischen Theorie des „Technofaschismus“.
1. Der KI-Hype und die „KI-Differenz“
Mühlhoff analysiert, dass zwischen der öffentlichen Wahrnehmung (dem Hype) und der technologischen Realität eine massive Kluft besteht.
- KI als Heilsversprechen: Die Politik und Industrie präsentieren KI oft als Lösung für komplexe soziale Probleme (z. B. Pflegenotstand, Klimawandel), was Mühlhoff als Ablenkungsmanöver kritisiert.
- Die Realität der Statistik: Er betont seinen Hintergrund als Mathematiker: KI ist im Kern Mustererkennung auf Basis von Trainingsdaten (Statistik), kein „Verstehen“ oder „Denken“. Fehler wie „sechs Finger auf KI-Bildern“ entstehen, weil das Modell lediglich Wahrscheinlichkeiten von Pixel-Kombinationen berechnet.
2. Daten-Ausbeutung und digitale Ungleichheit
Ein zentrales Thema ist die materielle Basis der KI, die oft unsichtbar bleibt.
- Klick-Arbeit: KI-Systeme funktionieren nur durch die massive Vorarbeit von Menschen (oft im globalen Süden), die Daten für Hungerlöhne kategorisieren und labeln.
- Daten-Extraktivismus: Mühlhoff vergleicht die Datengewinnung mit dem Bergbau. Große Tech-Konzerne extrahieren Daten von Nutzern, um daraus Kapital zu schlagen, während die Nutzer kaum profitieren und oft sogar durch algorithmische Sortierung benachteiligt werden.
3. Algorithmische Diskriminierung und Prädiktion
KI-Systeme sind laut Mühlhoff nicht objektiv, sondern zementieren bestehende Machtstrukturen.
- Prädiktive Analytik: Wenn Versicherungen oder Banken KI einsetzen, um Risiken zu bewerten, geschieht dies oft auf Basis von Gruppenmerkmalen. Das führt dazu, dass Individuen aufgrund ihres Umfelds diskriminiert werden (z. B. höhere Versicherungsprämien für Bewohner bestimmter Stadtteile).
- Soziotechnische Systeme: KI sollte nicht isoliert betrachtet werden, sondern als System aus Software, Daten und menschlichen Entscheidungsprozessen, die oft Vorurteile (Bias) enthalten.
4. Technofaschismus: Die politische Gefahr
Gegen Ende des Gesprächs erläutert Mühlhoff seine These zum „Technofaschismus“, die er in seinem Buch vertieft.
- Vom Überwachungskapitalismus zum Autoritarismus: Er warnt davor, dass die Infrastrukturen der großen Tech-Plattformen perfekt geeignet sind, um von autoritären Regimen zur Kontrolle und Unterdrückung genutzt zu werden.
- Automatisierte Ausgrenzung: Faschismus im digitalen Zeitalter bedeutet für ihn die automatisierte Identifikation und Marginalisierung von „Abweichlern“ oder Minderheiten durch Algorithmen.
- Resilienz des Rechtsstaates: Mühlhoff betont, dass der Rechtsstaat hier keine Kompromisse eingehen darf. Demokratische Politik basiere zwar auf Kompromissen, doch die Grundprinzipien des Rechtsstaates müssten gegenüber technologischen Übergriffen absolut geschützt werden.
5. Kritik an der „Ethik-Debatte“
Mühlhoff steht der gängigen „KI-Ethik“ skeptisch gegenüber.
- Ethik-Washing: Viele Unternehmen nutzen Ethik-Beiräte als Marketinginstrument, um harte gesetzliche Regulierungen zu verhindern.
- Statt Ethik mehr Machtkritik: Er fordert einen Wechsel der Perspektive: Weg von abstrakten ethischen Richtlinien hin zu einer konkreten Analyse von Machtverhältnissen und Eigentumsstrukturen in der Digitalwirtschaft.
Fazit der 4 Stunden
Das Gespräch ist ein Plädoyer für eine kritische Philosophie der KI. Mühlhoff fordert dazu auf, KI nicht als magische Technologie zu bestaunen, sondern als politisches und ökonomisches Werkzeug zu begreifen, das derzeit vor allem zur Akkumulation von Kapital und Macht dient. Er sieht die Gesellschaft an einem Wendepunkt, an dem die demokratische Kontrolle über diese Infrastrukturen entscheidend für die Freiheit des Einzelnen ist.
