Epistemische Autonomie & LLM-unterstützte Deliberation

Zusammenfassung

Das Aufkommen LLM-basierter KI-Systeme (LKS) bringt verschiedene Herausforderungen mit sich. Dieser Beitrag konzentriert sich auf eine vergleichsweise weniger berücksichtigte Fragestellung: wie LKS unser Verständnis personaler epistemischer Autonomie – was es heißt, wirklich eigene Überzeugungen zu haben – herausfordern. Im ersten Teil werde ich die spezifische Natur dieser Herausforderung skizzieren und sie von Fragen der epistemischen Zeugenschaft (testimony) und des Vertrauens (trust) abgrenzen: Der umfassende Einsatz von LKS in epistemischen Kontexten hat das Potenzial, etablierte deliberative Praktiken tief zu verändern, und führt dabei zu einer Spannung. Einerseits scheint die Aussicht auf eine künstliche Verbesserung der Deliberation (und der kognitiven Verarbeitung allgemein) in epistemisch relevanten Dimensionen die personale epistemische Autonomie zu verbessern. Indem Personen sich auf sprachbasierte deliberative Interaktionen mit LKS einlassen, können sie ihre epistemischen Ziele besser verfolgen, diese Ziele reflektieren und bekräftigen sowie die relevanten Gründe in der Deliberation umfassender berücksichtigen und würdigen. Andererseits können sprachbasierte deliberative Interaktionen mit LKS personale epistemische Autonomie auch verringern: Wie bei allen wechselseitigen epistemischen Interaktionen mit Gesprächspartner:innen, die epistemisch (in einem bestimmten Bereich) zumindest gleichgestellt sind, besteht das Risiko, dass man die sprachliche Formulierung eines Gedankens durch die Gesprächspartner:innen vorschnell als eigene Überzeugung übernimmt (d. h. die Formulierung des anderen allzu früh als diejenige akzeptiert, die „wirklich den eigenen Gedanken ausdrückt“ oder „besser ausdrückt, was man eigentlich sagen möchte“). Zusätzlich besteht das Risiko, Framing, Nudging oder manipulative Effekte, die in die sprachliche Interaktion eingebettet sind, nicht zu erkennen, oder epistemischen Verzerrungen zu erliegen, die durch sprachliche Wiederholung erzeugt werden, welche gut untersuchte Biases (z. B. illusory truth effect, bandwagon effect) ausnutzen. Diese Risiken werden verstärkt, wenn einseitige Anfragen an Wörterbücher, Datenbanken oder Suchmaschinen zunehmend durch wechselseitige epistemische Interaktionen ersetzt werden und wenn kognitive Aufgaben (wie Übersetzung, Zusammenfassung oder Konzeptualisierung), die integraler Bestandteil der Bildung einer eigenen Überzeugung und der Meinungsbildung darüber sind, was man wirklich denkt und glaubt, zunehmend ausgelagert werden. Diese Spannung wirft die Frage auf: Was bedeutet es überhaupt, innerhalb von epistemischen Praktiken, die durch die weit verbreitete Nutzung von LKS geprägt sind, eine Überzeugung zu (erlangen und zu) haben, die wirklich die eigene ist? Dieser Frage widme ich mich im zweiten Teil des Beitrags, der dazu auf einen Ansatz personaler praktischer Autonomie zurückgreift, der drei Fähigkeiten umfasst: die Fähigkeit, (1) seine eigenen (epistemischen) Angelegenheiten zu regeln, (2) sich gegen externe (epistemische) Einmischung zur Wehr zu setzen und (3) in gemeinschaftlichen (epistemischen) Unternehmungen, die einen selbst betreffen, mitzureden.Indem ich diesen Ansatz im Kontext von LLM-unterstützter Deliberation ausarbeite, werde ich untersuchen, wie diese Fähigkeiten abhängen von (a) der Fähigkeit, ein intrapersonales Überlegungsgleichgewicht herzustellen, und von (b) einer Reihe konzeptueller Fähigkeiten (zu Disambiguierung, Differenzierung und sprachlichem Ausdruck). Diese Explikation klärt die anfängliche Spannung und hilft zu verstehen, wie die Nutzung von LKS die epistemische Autonomie vermindern oder steigern kann, und zwar durch Praktiken, die genau jene Fähigkeiten beeinträchtigen oder verbessern, die die epistemische Autonomie einer Person ausmachen. Die Explikation liefert auch Ansatzpunkte, um epistemische Autonomie – sowohl von Akteuren, die LKS einsetzen, als auch von LKS selbst – zu operationalisieren.

Datum
25 Sept. 2026
Veranstaltung
XIII. Tagung für Praktische Philosophie
Ort
Universität Passau