Hat KI ein Bewusstsein? – Searles Chinese Room
Sprachmodelle schreiben Gedichte, führen Verhandlungen und beantworten komplexe Fachfragen. Die Antworten wirken empathisch und reflektiert. Das verführt zu der Annahme: Ein solches System versteht, was es sagt, und entwickelt vielleicht Gefühle. Doch die Debatte um KI ist längst keine rein technische mehr. Sie legt offen, mit welchem Menschenbild wir der Welt begegnen: Betrachten wir uns als bloße biologische Datenverarbeitungsanlagen – oder als leibliche, verletzliche Wesen in einer gemeinsamen Welt?
Warum Syntax keine Semantik ist
John Searles Gedankenexperiment vom Chinese Room zieht hier eine scharfe Grenze: Ein System kann Zeichen nach formalen Regeln verarbeiten (Syntax), ohne selbst Bedeutung zu verstehen (Semantik).
Syntax beschreibt die Anordnung von Zeichen nach Regeln. Die Symbole werden anhand ihrer „Form“ und strukturellen Nachbarschaft zu anderen Begriffen verarbeitet. Ein Computer prüft Grammatik, sortiert Wörter, berechnet Vektorabstände und erzeugt statistisch wahrscheinliche Antworten.
Semantik meint Bedeutung. Das Wort „Feuer“ bezeichnet nicht nur eine Zeichenfolge. Es verweist auf Hitze, Gefahr, Schmerz, Zerstörung und Schutz. Für Menschen hängt dieses Wort mit einer Welt voller Erfahrungen zusammen.
Mehr erfahren » Was bedeutet phänomenologisch? sowie » Was ist Phänomenologie? einfach erklärt
Searles Chinese Room
J. R. Searles Chinese Room macht das anschaulich: Ein Mensch sitzt in einem Raum. Er versteht kein Chinesisch. Durch einen Schlitz erhält er chinesische Schriftzeichen. Mithilfe eines Wörterbuches ordnet er den Zeichen andere Zeichen zu und schiebt sie nach draußen.
Für Beobachtende außerhalb wirkt es, als verstehe der Mensch Chinesisch (das ist die typische Perspektive der Verhaltensbiologie). In Wahrheit manipuliert er Symbole nach Regeln, ohne ein einziges Wort zu begreifen.
Ein Sprachmodell (Large Language Model) tut nichts anderes. Es berechnet Wahrscheinlichkeiten in Datenmengen. Auch wenn hier brillante sprachliche Leistungen simuliert werden, sind diese längst nicht mit menschlichem Verstehen oder einer Innenperspektive gleichzusetzen.
Der Siegeszug des modernen Selbst: (#Affiliate-Link/Anzeige) Kulturelle Amnesie, expressiver Individualismus und der Weg zur sexuellen Revolution
„Syntax is not sufficient for semantics.“
Kein „Kohlenwasserstoff-Chauvinismus“
Kritiker werfen Searle oft vor, er betreibe einen biologischen Chauvinismus: Er behaupte stur, nur biologisches Gewebe aus Kohlenstoff könne Denken hervorbringen.
Die Konstruktion der gesellschaftlichen Wirklichkeit: (#Ad/Affiliate-Link) Zur Ontologie sozialer Tatsachen
Dieser Zirkelschluss greift zu kurz, missversteht das berühmte Gedankenexperiment und setzt einen Dualismus zwischen Geist und Körper voraus. » Entmenschlichte Menschenbilder
Es geht nicht um das Baumaterial (Silizium oder Kohlenstoff). Es geht um das Prinzip der Intentionalität: die Fähigkeit eines Bewusstseins, sich auf eine echte Welt außerhalb der Zeichen zu beziehen.
Ein Sprachmodell berechnet das Wort „China“ über die Nähe zu Begriffen wie „Peking“ oder „Land“. Es bleibt im geschlossenen Raum der Syntax. Ein Mensch dagegen weiß, was „China“ bedeutet – selbst wenn er nie dort war. Er nutzt sein leibliches Weltwissen: Er kennt Raum, Distanz, Grenzen, Gesellschaft, Kultur und Geschichte aus eigener Existenz. Er überträgt diese gelebte Erfahrung abstrahierend auf das Wort.
Selbstverwandlung: (#Affiliate-Link/Anzeige) Das Ende des Menschen und seine Zukunft. Anthropologische Perspektiven von Digitalisierung und Individualisierung
Symbol-Grounding-Problem
Bedeutung braucht Leiblichkeit
Wie erhalten Zeichen ihre Bedeutung? Reicht die Verknüpfung mit anderen Zeichen? Naja, eine Landkarte kann Straßen und Berge exakt darstellen. Aber die Karte betritt niemals die Landschaft und ist nicht die Landschaft selbst.
Searle: Geist: Eine Einführung (#Ad/Affiliate-Link)
Hier greift die Leibphänomenologie nach Maurice Merleau-Ponty: Menschen verarbeiten Informationen nicht im luftleeren Raum. Wir existieren als gelebter Leib. Wir sind verletzlich, bedürftig und sterblich. Wir unterliegen der Schwerkraft, brauchen Pflege, spüren Schmerz und leben in sozialen Gefügen.
Sprechakte: (#Ad/Affiliate-Link) Ein sprachphilosophischer Essay
Bedeutung entsteht, weil uns die Welt existenziell betrifft:
Viele philosophische Positionen
Natürlich lässt sich die Frage nach Bewusstsein und Semantik auch aus anderen philosophischen Blickwinkeln betrachten. Um zu dem Schluss zu kommen, dass KI kein Bewusstsein besitzt, muss man nicht zwingend Phänomenologin sein.
Julin Nida-Rümelina etwa vertritt aus einer analytisch-handlungstheoretischen Perspektive die Auffassung, dass vor einem modernen „digitalen Animismus“ gewarnt werden muss.
» Julian Nida-Rümelin: Was kann und darf Künstliche Intelligenz?: (#Ad/Affiliate Link) Ein Plädoyer für Digitalen Humanismus | ChatGPT, Metaverse und die Folgen
Thomas Fuchs argumentiert wiederum aus einer tiefenpsychologischen-leibphänomenologischen Perspektive gegen den allgemeinen Trend des Transhumanismus:
» Thomas Fuchs: Verteidigung des Menschen: (#Ad/Affiliate Link) Grundfragen einer verkörperten Anthropologie
Lies auch hier im Blog Josef Bordats Kritik am Longterminus & Effektiven Altruismus.
Entpolitisierung durch „Objektivität“
In der KI-Debatte beanspruchen Kognitivisten oft eine rein objektive Außenperspektive. Thomas Nagel nennt das den illusorischen „Blick von nirgendwo“ (#Ad/Affiliate-Link). Wir können auch Gadamers hermeneutischen Zirkel dagegen ins Feld führen oder Husserls „natürliche Einstellung“.
» Gadamer: Vom Zirkel des Verstehens (#Ad/Affiliate-Link) philosophische Texte
Jedenfalls: Wer behauptet, menschliches Denken sei „nur“ Informationsverarbeitung, ist nicht objektiv oder neutral, sondern verwendet unreflektiert ein mechanistisches Menschenbild. Er reduziert das Bewusstsein auf ein Gehirn im Tank und den Körper auf eine Ansammlung austauschbarer Sensorreize. Diese Position ist nicht nur ethisch und logisch zu kritisieren, sondern hat auch handfeste politische Konsequenzen, die unsere Lebenswelt stark beeinflussen:
Transhumanismus -(#Affiliate-Link/Anzeige) Vision und Wirklichkeit: Ein problemgeschichtlicher und kritischer Versuch
Naturalisierung von Macht: Wenn wir Chatbots als „neue Gegenüber“ adeln, stellen wir einen Algorithmus auf eine Stufe mit einem empfindungsfähigen Lebewesen. Wir machen aus der gezielten Marketing-Strategie der Tech-Konzerne einen angeblich natürlichen Evolutionsschritt.
Verschiebung von Verantwortung: Wir schreiben Systemen Empathie oder moralische Verantwortung zu, die sie nicht besitzen können. Eine KI kann nicht haften, aber ihre Hersteller.
Unsichtbarmachung realer Arbeit: Ein Sprachmodell erzeugt nicht Texte aus dem Nichts. Es speist sich aus den Texten unzähliger menschlicher Autoren, die dafür nicht vergütet werden. Und es beruht auf der Prekarität von Millionen Clickworkern im globalen Süden, die Trainingsdaten unter extremen Bedingungen filtern und optimieren.
Indem wir der Maschine ein eigenes Verstehen andichten, erklären wir die angeeignete menschliche Arbeit für unsichtbar.
Sprachgebrauch ist mehr als Sprachproduktion
Ludwig Wittgenstein sagte: „Die Bedeutung eines Wortes ist sein Gebrauch in der Sprache.“ (Philosophische Untersuchungen, (#Ad/Affiliate-Link) § 43). Dieser Satz könnte zunächst gegen Searle sprechen.
Vielleicht entsteht Bedeutung ja gerade dadurch, dass ein System Sprache korrekt gebraucht? Wenn ein Sprachmodell in immer mehr Situationen passende Antworten gibt, warum sollte man ihm dann jedes Verständnis absprechen?
Die Frage ist berechtigt. Sprache besteht nicht aus privaten Bildern im Kopf. Doch wenn wir schon mit Wittgenstein argumentieren, dann müssen wir auch seine Aussage berücksichtigen:
„Sich eine Sprache vorstellen heißt, sich eine Lebensform vorstellen.“
(Philosophische Untersuchungen,(#Ad/Affiliate-Link) § 19)
Bedeutung zeigt sich nicht allein im Gebrauch, sondern auch in sozialen Regeln und in konkreten Lebensformen. Zu einer menschlichen Lebensform gehören Sorge, Schmerz, Freude, Sterblichkeit etc.
Doch nicht nur hier liegt ein gewaltiger Unterschied, es gibt noch einen wichtigeren Punkt: die Mensch-Maschinen-Interaktion. Ein Sprachmodell gebraucht Sprache nicht von selbst (aus eigener Lebenspraxis heraus).
Wir Menschen gebrauchen das Sprachmodell. Menschen bitten es um Rat, lassen Texte überarbeiten oder nutzen es zur Kommunikation. Die Semantik, die wir in den Ausgaben einer KI lesen, erzeugt die Maschine nicht selbst. Es ist unsere eigene Welterfahrung, die wir in die berechneten Muster hineinprojizieren.
Klar, Syntax kann beeindruckend sein. Aber Leistungsfähigkeit ist kein Erleben oder Bedürfnis. Überzeugende Sprache ist kein Bewusstsein.
Und ein statistischer Vektor ist keine Lebenswelt.
Mehr erfahren » die Existenzphilosophie (Kierkegaard, Sartre, Jaspers)
Fazit: Was Searle zeigte
Searles Chinese Room beweist nicht, dass jede zukünftige Maschine für immer ohne Bewusstsein bleiben muss. So weit reicht das Gedankenexperiment nicht. Es zeigt aber eine wichtige Grenze: Regelkonforme Symbolverarbeitung ist nicht automatisch Verstehen.
Ein Sprachmodell kann sprachlich kompetent wirken, ohne eine eigene Perspektive auf die Welt zu besitzen. Die entscheidende Frage lautet deshalb nicht: Wie überzeugend spricht eine Maschine? – Sondern: Worauf gründet ihre Sprache? In welcher Welt lebt sie? Was kann ihr geschehen? Und wer übernimmt die Verantwortung für ihre Antworten?
Mehr erfahren » Digitaler Rinderwahn: Wenn KI mit KI-Texten gefüttert wird
Solange ein System keine nachweisbare eigene Lebenswelt, keine Bedürftigkeit und keinen Weltbezug besitzt, bleibt seine sprachliche Bedeutung eine bloße Referenz, die fehlende Bedeutung projizieren wir (= klassischer Anthropomorphismus).
Doch im Mainstream wird diskutiert, ob wir bald Personen beliebig kopieren könnten, mit Technik verschmelzen, menschlichen Geist in Clouds laden, die KI eigene Bedürfnisse entwickelt und streikt … – hier liegt mein größter Kritikpunkt:
Diese Science-Fiction-Bilder lenken uns gefährlich ab.
Wir spekulieren intensiv über fiktive Fähigkeiten und Rechte von Maschinen und blenden dabei die realen Menschen aus, die heute für diese Systeme arbeiten und unter ihnen leiden.
Das verschleiert die echten gesellschaftlichen Machtverhältnisse massiv. Und hilft den Marketingabteilungen der Tech-Giganten, ihre Produkte und Ideologien noch besser zu verkaufen.
Radikaler Digitaler Humanismus: (#Affiliate-Link/Anzeige)Eine Philosophie für die digitale Gesellschaft des 21. Jahrhunderts
