Wie „intelligent“ sind Chatbots wirklich und wo fangen ihre Gefahren an?
Sozioinformatikerin Prof. Katharina Zweig spricht über die Grenzen von KI, die Illusion des „Reasoning“ und darüber, warum wir Algorithmen niemals echte Urteilskraft zuschreiben sollten.
Zweig erklärt, warum sogenannte Reasoning-Tests in der Informatik nur sehr enge mathematische Aufgaben abprüfen und wie daraus im Marketing der Mythos entstand, KI könne „denken“. Sie zeigt, was Large Language Models wirklich tun: Wahrscheinlichkeiten für das nächste Wort berechnen, ohne Verständnis für Kontext, Publikum oder Folgen.
Im Gespräch geht es um:
✨ Sozioinformatik: Warum Software immer als sozio-technisches System aus Menschen, Regeln, Gesetzen und Technik gedacht werden muss.
✨ Reasoning vs. Denken: Wieso LLMs in Benchmarks glänzen – aber an einfachen Alltagsaufgaben, gesundem Menschenverstand und der „reversal curse“ scheitern.
✨ Ethische Grenzen von KI: Weshalb maschinelles Lernen zwar Muster findet, aber keine moralischen Urteile fällen kann – und warum „ethische KI“ ohne menschliche Verantwortung eine Illusion bleibt.
✨ Einsamkeit und „empathische“ Chatbots: Was passiert, wenn Menschen ihre intimsten Probleme mit einer Maschine besprechen – von Beziehungsfragen bis hin zu Suizidgedanken.
✨ Demokratie, Öffentlichkeit und Gemeinschaft: Warum wir lokale Gemeinschaften, gute Schulen und faire Chancen für Kinder brauchen, statt uns von KI-Systemen immer weiter vereinzeln zu lassen.
KI-Agenten taugen nicht als autonome Entscheider – vor allem dort nicht, wo es um Sicherheit, Gesundheit, Recht und Moral geht. Gleichzeitig plädiert Katharina Zweig für europäische KI-Systeme, klare Regeln, digitale Signaturen für echte Menschen im Netz und massive Investitionen in Bildung, Kinder und Jugendliche.
Zeitstempel
0:00 👉 Vorstellung Katharina Zweig
0:37 👉 Künstliche Intelligenz und Moral
