Weiß die KI, dass sie nichts weiß?
Wofür wir Chatbots und KI-Agenten nutzen sollten, wo sie sich irren und wo wir aufpassen müssen. ChatGPT und Co. einfach erklärt
Warum wir ChatGPT und Co. nicht unsere Kreditkarten überlassen sollten
Schon bald sollen wir alle lästigen Aufgaben von intelligenten Chatbots wie ChatGPT und Co. in Form von KI-Agentensystemen erledigen lassen können. Doch wie genau funktionieren die Sprachmodelle? Haben sie intellektuelle Fähigkeiten, die denen von uns Menschen ähneln oder sie gar übersteigen?
Katharina Zweig, vielfach ausgezeichnete Informatikprofessorin und Deutschlands führende KI-Erklärerin, zeigt, was ChatGPT und Co. wirklich können und was nicht.
Denn Sprachmodelle können weder im menschlichen Sinne zusammenfassen, vergleichen, analysieren noch bewerten, auch wenn es oft so aussieht. Katharina Zweig zeigt, wie wichtig es ist, menschliche und maschinelle Leistungen nicht zu verwechseln und warnt eindrücklich vor spektakulären, vielleicht sogar fatalen Misserfolgen beim Einsatz von KI-Agentensystemen, die auf Sprachmodellen basieren.
Wikipedia (DE): Turing-Test
Wikipedia (DE): ELIZA
Pressestimmen
»Zweigs interdisziplinärer Zugang ermöglicht dabei den Ansatz einer Vogelperspektive, die in der täglichen Diskussion oft fehlt.« Frankfurter Allgemeine Zeitung, Patrick Schlereth
»Das Buch liefert Orientierung in einem Feld, das gleichermaßen Hype und Angst erzeugt, und macht klar: Nur wer die Grenzen kennt, kann den Nutzen voll entfalten. Das unterscheidet das Buch wohlwollend von denen, die KI ausschließlich als Megatrend beschreiben.« Handelsblatt
»Sie ist vielfach ausgezeichnete Informatikprofessorin und zeigt uns auf, was die Künstliche Intelligenz tatsächlich kann – und was nicht.« SWR 1 Leute, Hans Lohmann
»Die preisgekrönte Informatikprofessorin zeigt auch hier ihr Talent, hochkomplexe Zusammenhänge auf verständliche Weise zu beschreiben, ohne zu sehr zu vereinfachen.« Markt und Mittelstand, Thorsten Giersch
»Zweigs interdisziplinärer Zugang ermöglicht dabei den Ansatz einer Vogelperspektive, die in der täglichen Diskussion oft fehlt.« Frankfurter Allgemeine Zeitung, Patrick Schlereth, 09.02.2026
»Das Buch liefert Orientierung in einem Feld, das gleichermaßen Hype und Angst erzeugt, und macht klar: Nur wer die Grenzen kennt, kann den Nutzen voll entfalten. Das unterscheidet das Buch wohlwollend von denen, die KI ausschließlich als Megatrend beschreiben.« Handelsblatt, 05.09.2025
»Die KI Erklärerin schlechthin« Ö1 Kontext, 12.12.2025
»Die preisgekrönte Informatikprofessorin zeigt auch hier ihr Talent, hochkomplexe Zusammenhänge auf verständliche Weise zu beschreiben, ohne zu sehr zu vereinfachen.« Markt und Mittelstand, Thorsten Giersch, 03.11.2025
»Sie ist vielfach ausgezeichnete Informatikprofessorin und zeigt uns auf, was die Künstliche Intelligenz tatsächlich kann – und was nicht.« SWR 1 Leute, Hans Lohmann, 01.10.2025
"Katharina Zweig gehört zu den profiliertesten Wissenschaftlerinnen Deutschlands im Bereich künstliche Intelligenz." DER SPIEGEL
"Die Informatikerin Katharina Zweig sagt: Es liegt in unserer Hand, zu steuern, wo Algorithmen sinnvoll sind - und wo nicht. Denn auch Maschinen machen Fehler." SÜDDEUTSCHE ZEITUNG
