Epistemische Autonomie und LLM-gestützte Deliberation

Das Aufkommen von LLM-basierten KI-Systemen (LAS) bringt mehrere Herausforderungen mit sich. Dieser Artikel konzentriert sich auf eine vergleichsweise wenig erforschte Herausforderung: Wie stellen LAS unser Verständnis von persönlicher epistemischer Autonomie in Frage, d. h. was es bedeutet, Überzeugungen zu haben, die wirklich die eigenen sind?

Im ersten Teil werde ich die Besonderheit dieser Herausforderung darlegen und sie von bekannteren Themen wie Zeugenaussagen und Vertrauen abgrenzen: Der weit verbreitete Einsatz von LAS in epistemischen Kontexten hat das Potenzial, etablierte Deliberationspraktiken grundlegend zu verändern, was zu Spannungen führen kann. Einerseits scheint die Aussicht auf eine künstliche Verbesserung der Deliberation (und der kognitiven Verarbeitung im Allgemeinen) in epistemisch relevanten Dimensionen die persönliche epistemische Autonomie zu verbessern. Durch sprachbasierte deliberative Interaktionen mit LAS können Menschen ihre epistemischen Ziele besser verfolgen, diese Ziele reflektieren und bekräftigen sowie die relevanten Gründe in der Deliberation umfassender berücksichtigen und würdigen. Andererseits können sprachbasierte deliberative Interaktionen mit LAS die persönliche epistemische Autonomie verringern: Wie bei jeder wechselseitigen epistemischen Interaktion mit einem Gesprächspartner, der epistemisch (in einem bestimmten Bereich) zumindest annähernd auf Augenhöhe ist, besteht die Gefahr, dass man die sprachliche Formulierung eines Gedankens durch den Gesprächspartner vorschnell als eigene Überzeugung übernimmt (d. h. die Formulierung des anderen zu früh als diejenige akzeptiert, die „wirklich den eigenen Gedanken ausdrückt” oder „wirklich das ausdrückt, was man wirklich sagen will”). Weitere Risiken bestehen darin, dass man Framing-, Nudging- oder manipulative Effekte, die in der sprachlichen Interaktion eingebettet sind, nicht erkennt oder dass man epistemischen Verzerrungen erliegt, die durch sprachliche Wiederholungen hervorgerufen werden, die gut untersuchte Vorurteile (wie den Illusionswahrheitseffekt oder den Bandwagon-Effekt) ausnutzen. Diese Risiken werden noch verstärkt, wenn wechselseitige epistemische Interaktionen zunehmend einseitige Abfragen von Wörterbüchern, Datenbanken oder Suchmaschinen ersetzen und wenn wir zunehmend kognitive Aufgaben (wie Übersetzung, Zusammenfassung oder Konzeptualisierung) auslagern, die für die Bildung einer eigenen Überzeugung und für die Entscheidung darüber, was man wirklich denkt und glaubt, von wesentlicher Bedeutung sind.

Diese Spannung wirft die Frage auf: Was bedeutet es innerhalb der durch den weit verbreiteten Einsatz von LAS geprägten epistemischen Praktiken, eine Überzeugung zu haben (zu entwickeln), die wirklich die eigene ist? Ich werde mich mit dieser Frage im zweiten Teil des Artikels befassen, indem ich eine Darstellung der persönlichen praktischen Autonomie heranziehe, die drei Fähigkeiten umfasst: die Fähigkeit, (1) die eigenen (epistemischen) Angelegenheiten zu regeln, (2) sich gegen externe (epistemische) Einmischung zu verteidigen und (3) an gemeinsamen (epistemischen) Unternehmungen teilzunehmen, die einen selbst betreffen. Indem ich diese Darstellung im Kontext der LLM-gestützten Deliberation ausarbeite, werde ich untersuchen, inwiefern diese Fähigkeiten (a) von der Fähigkeit zur intrapersonalen reflexiven Gleichgewichtung und (b) von einer Reihe konzeptueller Fähigkeiten (zur Disambiguierung, Differenzierung und Artikulation) abhängen. Diese Erläuterung verdeutlicht die anfängliche Spannung und ermöglicht es uns zu verstehen, wie die Verwendung von LAS die epistemische Autonomie durch Praktiken, die entweder die Fähigkeiten, die sie ausmachen, beeinträchtigen oder verbessern, verringern oder verstärken kann. Sie bietet auch einen Weg zur Operationalisierung der epistemischen Autonomie – sowohl für Akteure, die LAS verwenden, als auch für LAS selbst.

(Originalsprache Englisch)