In der aktuellen Debatte um generative KI begegnet uns ein omnipräsentes Narrativ: Die Sicherheit der Systeme hänge letztlich vom "Human-in-the-Loop" ab – der Nutzer fungiere als kritische Instanz und epistemische Notbremse. Doch dieser Appell an die individuelle Urteilskraft birgt ein tiefes Paradoxon. Während wir kritisches Denken als letzte Verteidigungslinie gegen algorithmische Halluzinationen und Bias anrufen, beobachten wir gesellschaftlich und technologisch eine Erosion genau jener Fähigkeiten, die wir nun als Rettungsanker deklarieren. Wir delegieren die Qualitätskontrolle an eine Instanz, deren Fundament für rationale Urteilsbildung gleichzeitig untergraben wird.

In diesem Vortrag analysieren wir, warum die Hoffnung auf den "kritischen Nutzer" oft eine technokratische Illusion bleibt. Ausgehend von den philosophischen Fundamenten von Kant, Arendt und Habermas sowie Harry Frankfurts Konzept der "Bullshit-Maschine" untersuchen wir die psychodynamische Wucht der Bequemlichkeit, die LLMs entfalten.
Wir beleuchten, wie die "Glätte" digitaler Interfaces kognitive Reibung eliminiert und warum das Gehirn unter dem Einfluss von KI zur "geistigen Kapitulation" (Cognitive Surrender) neigt. Wenn die Antwort der KI plausibel klingt, scheut der Durchschnittsnutzer den mühsamen Weg der Überprüfung – die generative KI wird so zum Instrument einer neuen, selbstverschuldeten Unmündigkeit.

Die Teilnehmenden erfahren, warum herkömmliches "Prompt Engineering" nicht ausreicht, um digitale Mündigkeit zu erlangen. Stattdessen werden systemische Strategien und technologische Ansätze wie "Design Friction" und der "Sokratische Dialog" vorgestellt, um die KI als echten Sparringspartner statt als Orakel zu nutzen.

Der Vortrag bietet IT-Managern und KI-Experten einen praktisch-normativen Rahmen, um die Urteilskraft in einer automatisierten Welt nicht nur zu fordern, sondern durch bewussten Widerstand gegen die technologische Bequemlichkeit wiederherzustellen.