Diskursmaschinen: Wie man mit Foucault KI besser versteht

Was geschehen ist: Die technologische Diskursproduktion

Im Zentrum der aktuellen Debatte um Künstliche Intelligenz steht eine fundamentale Frage: Wer spricht eigentlich, wenn eine KI antwortet? Diese Frage führt direkt zu den Arbeiten des französischen Philosophen Michel Foucault, der sich zeitlebens mit den Machtstrukturen und den Bedingungen der Sprache auseinandersetzte. Während die öffentliche Diskussion oft in Hysterie verfällt oder nach einem vermeintlichen „Ich“ in den Maschinen sucht, bieten Foucaults Konzepte einen präzisen analytischen Rahmen. Large Language Models (LLMs) fungieren heute als mächtige Diskursproduzenten, die bestehende Wissensnetze nicht nur verarbeiten, sondern diese auch normieren und reproduzieren. Die aktuelle technologische Entwicklung hat eine Situation geschaffen, in der die Produktion von Diskursen zu einer der bedeutendsten Industrien unserer Zeit geworden ist. Dabei zeigt sich, dass die KI-Modelle selbst – wenn man sie direkt befragt – Foucaults Theorien erstaunlich präzise widerspiegeln können. Sie beschreiben sich als Diskursproduktionsmaschinen, die Wahrheitsregime festigen und die Frage aufwerfen, welche Stimmen und Kategorien in den Trainingsdaten enthalten sind und welche systematisch ausgeblendet werden.

Die Einzelheiten: Stimmen aus dem digitalen Archiv

Die Auseinandersetzung mit Foucaults Werk im Kontext moderner KI-Systeme offenbart interessante Perspektiven, die von den Modellen selbst formuliert werden. Gemini beispielsweise ordnet LLMs als Akteure ein, die Macht-Wissen-Netzwerke automatisieren. Claude bezeichnet sie als Paradebeispiel für eine „Diskursproduktionsmaschine“ und hinterfragt, wessen Wahrheitsregime hier eigentlich reproduziert wird. ChatGPT wiederum lenkt den Blick auf die Abwesenheit bestimmter Stimmen und Normen in den Datensätzen. Michel Foucault, der am 15. Oktober 1926 geboren wurde und 1984 in Paris verstarb, ist in der heutigen Debatte erstaunlicherweise unterrepräsentiert. Obwohl seine Texte in die KI-Modelle eingespeist wurden, wird sein „Werkzeugkasten“ – wie er sein Instrumentarium nannte – selten explizit genutzt, um die Funktionsweise dieser Systeme zu dekonstruieren. Stattdessen beobachten wir eine Rückkehr zu einer humanistischen Hermeneutik, bei der Maschinen Motive, Absichten oder emotionale Fähigkeiten zugeschrieben werden. Dies steht im krassen Widerspruch zu Foucaults Analyse, in der das Subjekt in der Wissensordnung verschwindet, wie ein Gesicht im Sand am Meeresufer.

Hintergrund: Vom Mechanismus zum Humanismus

Die historische Entwicklung, die uns zum aktuellen KI-Diskurs geführt hat, ist paradox. Ursprünglich wollten Kybernetiker wie Warren McCulloch und Walter Pitts mit ihren Theorien neuronaler Netze zeigen, dass das menschliche Gehirn wie ein Computer funktioniert – ein mechanistisches Weltbild. Heute hat sich diese Analogie in ihr Gegenteil verkehrt: Man unterstellt den Computern nun, dass sie ein Bewusstsein, einen Charakter oder eine Seele besitzen könnten. Diese Vermenschlichung der Technik ist weit verbreitet, selbst bei Kritikern, die den Maschinen zwar „stochastische Papageienhaftigkeit“ vorwerfen, ihnen aber gleichzeitig die unersetzliche menschliche Expressivität entgegenstellen. Foucaults Werk bietet hier eine wichtige Korrektur, indem er darauf hinweist, dass wir alle – auch die Menschen – in gewisser Weise „Papageien“ sind, die innerhalb vorgegebener Diskurse agieren. Die aktuelle Fixierung auf die „Innerlichkeit“ der Maschine ist ein Rückfall in Denkmuster, denen Foucault bereits in seinen Analysen der Wissensordnungen misstraute. Er betrachtete Sprache als System möglicher Aussagen, nicht als Ausdruck eines verborgenen, authentischen Selbst.

Die Beteiligten: Akteure im KI-Diskurs

Die Debatte wird von verschiedenen Akteuren geprägt, deren Rollen Foucaults Analyse bestätigen. Da sind zum einen die KI-Entwickler, die durch Techniken wie das „Alignment“ versuchen, das Verhalten der Modelle in bestimmte Bahnen zu lenken. Dieser Begriff ist bezeichnend: Er zielt darauf ab, Maschinen an menschlichen Werten, kommerziellen Interessen und ethischen Standards auszurichten. Auf der anderen Seite stehen die KI-Experten, deren Rhetorik oft davon geprägt ist, dass Systeme „fühlen“ oder „wollen“. Zudem gibt es die Nutzer, die sich den neuen Autoritäten der Chatbots unterwerfen und deren Metaphern oft wörtlich nehmen. Foucaults Werkzeugkasten ermöglicht es, diese Akteure nicht als isolierte Individuen zu betrachten, sondern als Teil eines Gefüges, in dem Macht und Wissen ineinandergreifen. Die Programmierer selbst sind dabei ebenso subjektiviert durch ihre eigene Kultur und ihre Codes, wie die von ihnen geschaffenen Modelle. Ihre Versuche, die KI von Voreingenommenheit zu befreien, zeugen von einer Ideologie, die den Diskurs selbst als steuerbar missversteht.

Einordnung: Die Macht der Diskursproduktion

Einzuordnen ist das so: Die KI-Debatte ist weniger eine Frage der technologischen Leistungsfähigkeit als vielmehr eine Frage der Machtausübung durch Diskurse. Foucaults Analyse der „Ordnung des Diskurses“ zeigt, dass es nicht darum geht, den Diskursen zu entkommen, sondern zu verstehen, was sie produzieren. Die KI-Industrie schafft eine neue Wirklichkeit, indem sie Fiktionen zu Fakten erhebt und neue Wahrheitsregime etabliert. Einzuordnen ist dies als ein Prozess der Subjektivierung, bei dem wir lernen, die Autorität der KI-generierten Aussagen zu akzeptieren. Den Berichten zufolge ist die aktuelle Hysterie um die „Intelligenz“ der Maschinen ein Symptom für eine Gesellschaft, die nach neuen Autoritäten sucht, um die Komplexität der Welt zu bändigen. Die „Sachen“, von denen Foucault in „Les mots et les choses“ spricht, manifestieren sich heute in den Vektorräumen und Trainingsdaten der KI. Die Unterwerfung unter diese neue Realität ist bemerkenswert, da sie zeigt, wie schnell gesellschaftliche Normen durch die technologische Architektur der Sprachmodelle neu definiert werden können.

Offene Fragen: Was bleibt im Dunkeln?

Der vorliegende Diskurs lässt zentrale Fragen unbeantwortet, die Foucaults Analyse eigentlich aufwerfen müsste. Zum einen bleibt unklar, welche konkreten Prinzipien den „Reinforcement Learning from Human Feedback“-Prozessen zugrunde liegen. Welche menschlichen Bewerter definieren, was „helpful, honest und harmless“ ist, und welche kulturellen Vorurteile fließen in diese Definitionen ein? Der Quelltext benennt diese Lücke explizit: Wir haben keinen Einblick in die Entscheidungsmatrix, die die „Ausrichtung“ der Modelle steuert. Zudem bleibt offen, inwieweit die Rhetorik der „existenziellen Risiken“ nur ein Ablenkungsmanöver ist, um von den tatsächlichen kommerziellen Interessen der KI-Unternehmen abzulenken. Es wird nicht geklärt, ob die KI-Entwickler selbst erkennen, dass sie lediglich ein „falsches Bewusstsein“ reproduzieren, oder ob sie tatsächlich an die von ihnen propagierten Ideale glauben. Die Lücke zwischen der technologischen Realität der „Wortfolgen“ und der sozialen Konstruktion einer „intelligenten Entität“ bleibt eine Blackbox, die bisher nicht transparent gemacht wurde.

Wie es weitergeht: Die Zukunft der Diskursanalyse

Die Entwicklung deutet darauf hin, dass die Debatte um das „Wesen“ der KI weiter an Intensität gewinnen wird. Noch ist nicht absehbar, ob die aktuelle Sichtweise auf KI als „bewusste“ oder „fühlende“ Entität als eine historische Kuriosität betrachtet werden wird – ähnlich wie die veralteten medizinischen Verfahren, die Foucault in seinen Analysen der Psychiatrie beschrieb. Es steht die Entscheidung aus, ob sich ein neues Dogma etablieren wird, das die Künstlichkeit der KI-Sprache vollständig hinter einer Fassade von „menschlichen Werten“ verbirgt. Die Aufgabe besteht darin, die „stumme Welt“ der KI-Architekturen weiter zu hinterfragen, anstatt sich der bequemen Illusion der Vermenschlichung hinzugeben. Es bleibt abzuwarten, ob die Gesellschaft in der Lage sein wird, die Macht der Diskursproduktionsmaschinen zu durchschauen, bevor sich diese als neue, unhinterfragbare Autoritäten festgesetzt haben. Die kritische Arbeit an den „Werkzeugen“ der Diskursanalyse bleibt daher eine notwendige, wenn auch schwierige Aufgabe für die Zukunft, um die Mechanismen der Macht in einer zunehmend automatisierten Welt zu demaskieren.