Zum Inhalt springen

Landkarte der Philosophie · Kann eine Maschine für mich denken?

Kann etwas richtige Antworten geben, ohne zu verstehen?

Situation

Du überarbeitest den Entwurf und fragst die künstliche Intelligenz, warum sie einen Satz so formuliert hat. Die Erklärung überzeugt dich, und trotzdem fragst du dich, ob sie weiß, was der Satz bei deinem Kunden auslöst.

Was sich am Fall ändert: Neu ist, dass du nicht mehr fragst, ob du die Antworten von denen eines Menschen unterscheiden kannst, sondern ob dahinter ein Verstehen steht.

Dein eigener Gedanke

Reicht dir eine überzeugende Erklärung, um zu sagen, dass die Maschine versteht, was sie schreibt?

Freiwillig. Keine Antwort ist richtig oder falsch, deine Wahl wird nicht bewertet und nirgends gespeichert. Du kannst direkt weiterlesen.

Eine Antwort

John Searle stellte sich 1980 vor, er sitze in einem Zimmer, verstehe kein Chinesisch und gebe mithilfe eines Regelbuchs richtige chinesische Antworten auf Zeichen, die von draußen hereinkommen. Er versteht dabei kein Wort, und ein Computer, der nur ein Programm ausführt, tut nach Searle nichts anderes: Er verarbeitet die Form der Zeichen und nicht ihre Bedeutung. Die Systemantwort, die unter anderem Ned Block und Daniel Dennett vertraten, hält dagegen, dass nicht die Person im Zimmer verstehen müsse, sondern das ganze System aus Person, Regelbuch und Ablage verstehen könnte.

Der stärkste Einwand

Searle erwidert auf die Systemantwort, die Person könne das ganze System verinnerlichen, also alle Regeln auswendig lernen und im Kopf rechnen. Dann wäre sie selbst das ganze System und verstünde trotzdem kein Chinesisch. Dagegen wenden Cole und Block ein, dass dabei eher zwei Personen in einem Kopf entstünden, von denen die eine Chinesisch versteht, auch wenn die andere davon nichts merkt.

Zwischenfazit

Sichtbar wird der Unterschied zwischen richtigen Antworten und dem Verstehen ihrer Bedeutung. Dazu kommt die Frage, wem ein Verstehen zukäme, einem Teil oder dem Ganzen.

Die nächste Frage

Offen bleibt, was dem Zimmer fehlt, und eine verbreitete Vermutung lautet: der Kontakt zur Welt.

Nächste Frage: Braucht Verstehen einen Körper und eine Situation, oder war Denken schon immer auf Werkzeuge verteilt?

Quellen dieser kurzen Fassung

Ausführlich: Begründungen, Einwände, QuellenDie ganze Station mit allen Positionen, Beispielen, Einwänden und Belegen. Für den Weg brauchst du sie nicht.

Du überarbeitest den Entwurf und fragst die künstliche Intelligenz, warum sie einen Satz so formuliert hat. Die Erklärung klingt schlüssig, und sie nennt sogar Gründe, an die du selbst nicht gedacht hast. Trotzdem fragst du dich, ob sie weiß, was dieser Satz bei deinem Kunden auslösen wird, oder ob sie nur Wörter ordnet, die in solchen Mails üblich sind.

Selbst nachdenken

Wann würdest du sagen, dass jemand eine Erklärung wirklich verstanden hat und nicht nur wiedergibt?

Freiwillig. Du kannst direkt weiterlesen.

Turings Spiel hat dir gezeigt, woran du Denken von außen erkennen könntest. Es lässt aber offen, ob hinter den Antworten ein Verstehen steht oder ob sie nur gut gebaut sind. Schwierig ist das, weil du in beiden Fällen dieselben Antworten bekommst und deshalb nicht an ihnen allein ablesen kannst, was dahinter geschieht.

Wer hier antwortet und wie die Antworten zusammenhängen

Hervorgehoben sind die Personen dieser Station. Die Linien zeigen ihre Beziehungen; „Warum?“ führt zur Begründung.

John Searle, Daniel Dennett, Alan Turing, Ned Block, Douglas Hofstadter, Jack Copeland antworten hier auf die Frage: Kann etwas richtige Antworten geben, ohne zu verstehen? Daniel Dennett kritisiert John Searle. John Searle kritisiert Alan Turing.TuringSearleDennettNed BlockDouglas HofstadterJack CopelandkritisiertWarum?kritisiertWarum?

Als Text

Antwort aus der Sicht: John Searle · Historische Information

Ein Programm, das Zeichen nur nach Regeln umformt, versteht nichts

Einfach gesagt

John Searle stellte 1980 ein Gedankenexperiment vor: Du sitzt in einem Zimmer, verstehst kein Chinesisch und hast ein Regelbuch, das dir sagt, welche chinesischen Zeichen du auf Zeichen von draußen zurückgeben sollst. Deine Antworten sind richtig, aber du verstehst kein Wort. Genauso versteht nach Searle ein Computer nichts, der nur ein Programm ausführt.[1][2][3]

Wie das begründet wird

Searle geht davon aus, dass ein Computerprogramm nur mit der Form von Zeichen arbeitet, der Syntax, und nicht mit ihrer Bedeutung, der Semantik. Du dagegen reagierst auf Wörter wegen dessen, was sie bedeuten. Aus der Form allein ergibt sich nach Searle keine Bedeutung. Das Zimmer soll das zeigen, denn du kannst darin alles tun, was ein Programm tut, ohne dass dabei Verstehen entsteht.[1][2]

Ein Beispiel

Übertragen auf heute (das ist unsere Anwendung, Searle schrieb 1980 und nicht über heutige Sprachmodelle, also Programme, die Texte erzeugen): Die künstliche Intelligenz erklärt dir, warum sie einen Satz so formuliert hat, und die Erklärung überzeugt dich. Nach Searles Gedankengang folgt daraus nicht, dass sie weiß, was der Satz bei deinem Kunden auslöst, denn sie könnte wie die Person im Zimmer nur Zeichen nach Regeln umformen. Ob das für heutige Sprachmodelle zutrifft, ist in der Fachwelt umstritten.[1]

Eine heutige Übertragung, nicht das Beispiel der Person selbst.

Was diese Antwort gut erklärt

Searle trennt, was du von außen siehst, nämlich richtige Antworten, von dem, was Verstehen ausmacht, nämlich einem Zeichen eine Bedeutung zuzuordnen. Damit erklärt die Position, warum ein perfektes Gespräch allein noch nicht beweist, dass jemand versteht.

Genauer betrachtet: Starke künstliche Intelligenz

Searle richtet sich gegen die Ansicht, die er „starke künstliche Intelligenz“ nennt: dass ein passend programmierter Computer Sprache wirklich versteht. Die bescheidenere Behauptung, Computer seien nützliche Werkzeuge, um Geist und Sprache zu erforschen, greift er nicht an. Er sagt auch nicht, dass keine Maschine denken kann, denn Gehirne sind für ihn Maschinen, und sie denken. Bestritten wird nur, dass das Ausführen eines Programms allein genügt, um zu verstehen.[1][2]

Häufiges Missverständnis

Das Zimmer beweist nicht, dass Maschinen nie denken können, und es sagt nichts darüber, wie gut ein Programm antwortet. Es soll nur zeigen, dass die Ausführung eines Programms allein kein Verstehen garantiert. Das Beispiel mit dem Entwurf kommt an seine Grenze, weil Searle vor allem Programme wie die des Forschers Schank vor Augen hatte, die von Hand gebaut waren, während heutige Sprachmodelle aus riesigen Textmengen gebildet werden; ob sein Argument auch sie trifft, ist umstritten.[1]

Wo diese Antwort an ihre Grenze kommt

  • Einwand aus der Sicht: Ned Block

    Die Erwiderung, die Searle selbst die wohl häufigste nannte, lautet, dass nicht die Person im Zimmer verstehen müsse, sondern das ganze System aus Person, Regelbuch, Notizzetteln und Ablage. Die Person sei nur ein Teil, ähnlich dem Rechenwerk eines Computers, und dass ein Teil etwas nicht versteht, heiße nicht, dass das Ganze es nicht versteht.[1]

    Eine mögliche Antwort darauf: Searle entgegnet, die Person könne alles auswendig lernen und im Kopf rechnen. Dann wäre sie selbst das ganze System und würde trotzdem kein Chinesisch verstehen, sie wüsste zum Beispiel nicht, was das chinesische Wort für Hamburger bedeutet.

  • Ein Einwand, der in der Forschung diskutiert wird

    Searle verbindet Verstehen eng mit Bewusstsein. Wer das nicht annimmt, kann sagen, dass ein Programm versteht, ohne bewusst zu sein. Außerdem fragt sich, ob sich echtes Verstehen überhaupt noch feststellen lässt, wenn ein System Sprache in jeder Lage genauso gut verwendet wie Menschen.[1]

In der Forschung umstritten: Reicht es für Verstehen, dass ein Programm richtig mit Zeichen umgeht, oder braucht Verstehen mehr als Zeichenverarbeitung?

Noch nicht sicher belegt

  • Searles Aufsatz von 1980 wurde nicht selbst gelesen.
  • Die Aussage zu heutigen Sprachmodellen ist redaktionell; die Stanford Encyclopedia diskutiert sie in 4.6, ohne zu entscheiden.
  • In der Darstellung des Zimmers weichen die Quellen in Einzelheiten ab: Die Stanford Encyclopedia und Wikipedia (englisch) lassen die Person auf Fragen antworten, Wikipedia (deutsch) beschreibt zusätzlich Geschichten und eine Wissensdatenbank. Dieser Eintrag folgt der gemeinsamen Kernfassung.
Woher wir das wissen · Satz für Satz gegen die Quellen geprüft (2026-10-22)

Antwort aus der Sicht: Ned Block, Daniel Dennett, Douglas Hofstadter und Jack Copeland · Historische Information

Nicht die Person im Zimmer versteht, sondern das ganze System

Einfach gesagt

Die Systemantwort gibt Searle recht, dass die Person im Zimmer kein Chinesisch versteht. Sie hält die Person aber nur für einen Teil eines größeren Ganzen, zu dem auch das Regelbuch, die Notizzettel und die Datenbank gehören. Verstehen käme nach ihr dem ganzen System zu und nicht einem einzelnen Teil.[1][2][3]

Wie das begründet wird

Der Grundgedanke lautet, dass aus dem Nichtkönnen eines Teils nicht folgt, dass auch das Ganze etwas nicht kann. Die Person im Zimmer entspricht dem Rechenwerk eines Computers, und dass sie nichts von Chinesisch versteht, zeigt noch nicht, dass das System als Ganzes nichts versteht. Jack Copeland nennt den Schluss vom Teil auf das Ganze einen Fehlschluss.[1]

Ein Beispiel

Übertragen auf heute (das ist unsere Anwendung, die Vertreter der Systemantwort haben nicht über heutige Sprachmodelle geschrieben): Du fragst nicht, ob ein einzelner Rechenschritt in der künstlichen Intelligenz deinen Kunden versteht, sondern ob das ganze System aus Programm, Daten und Rechnern die Lage erfasst. Ob du diese Frage bejahen kannst, hängt dann davon ab, was du zu dem System zählst.

Eine heutige Übertragung, nicht das Beispiel der Person selbst.

Was diese Antwort gut erklärt

Die Antwort nimmt Searles Gedankenexperiment ernst und findet trotzdem eine Lücke darin. Searle schließt vom Nichtverstehen der Person im Zimmer auf das Nichtverstehen des ganzen Systems, und gerade dieser Schritt vom Teil zum Ganzen ist nach Copeland nicht zwingend.[1]

Genauer betrachtet: Was zählt zum System?

Sorgfältigere Fassungen fragen genauer, was als das verstehende System gelten soll, etwa das laufende Programm. Die Antwort vom virtuellen Geist geht noch weiter: Ein laufendes Programm könnte einen eigenen Verstehenden hervorbringen, der weder die Person im Zimmer noch das gesamte System ist. Welche Fassung gemeint ist, wird in der Fachwelt unterschiedlich beantwortet.[1][2]

Häufiges Missverständnis

Die Systemantwort sagt nicht, dass die Person im Zimmer doch Chinesisch versteht, denn sie gesteht Searle zu, dass sie es nicht tut. Sie legt in ihrer einfachen Form auch nicht fest, was genau das System ist, und das Beispiel mit der künstlichen Intelligenz kommt hier an seine Grenze, weil unklar bleibt, wo bei einem heutigen Programm das System aufhört.[1]

Wo diese Antwort an ihre Grenze kommt

  • Einwand aus der Sicht: John Searle

    Searle erwidert, die Person könne das ganze System verinnerlichen: alle Regeln und die Datenbank auswendig lernen und alles im Kopf rechnen. Dann sei sie selbst das ganze System und verstehe trotzdem kein Chinesisch, sie wüsste zum Beispiel nicht, was das chinesische Wort für Hamburger bedeutet. Aus der Form von Zeichen allein entstehe keine Bedeutung.[1][3]

    Eine mögliche Antwort darauf: Die Kritiker Cole und Ned Block halten dagegen, dass dabei nicht Searle mit dem System gleichgesetzt würde, sondern eher zwei Personen in einem Kopf entstünden, eine, die nur Englisch versteht, und eine, die nur Chinesisch versteht. Dass die englischsprechende Person nichts von den Bedeutungen weiß, zeige dann nicht, dass die chinesischsprechende sie nicht versteht.

  • Einwand aus der Sicht: John Searle

    Searle hält die einfache Fassung für unbefriedigend, weil sie ein Häufchen gewöhnlicher Dinge, nämlich die Person mit ihren Zetteln, zu einem verstehenden Wesen erklärt, ohne zu erklären, wie das geschehen soll. Sie setze außerdem voraus, dass Bewusstsein aus bloßer Informationsverarbeitung entstehen kann, und das sei gerade die Streitfrage.[2]

In der Forschung umstritten: Versteht das ganze Zimmer, wenn die Person darin es nicht tut, oder verschiebt die Antwort die Frage nur?

Noch nicht sicher belegt

  • Die Zuordnung der Träger (Block, Dennett, Hofstadter, Copeland) folgt der Aufzählung der Stanford Encyclopedia; ihre eigenen Texte wurden nicht gelesen.
  • Searles Urteil über die einfache Fassung gibt Wikipedia (englisch) zugespitzt wieder; hier steht es nur sinngemäß.
  • Die genaue Fassung der Systemantwort bei einzelnen Vertretern unterscheidet sich; die Seite gibt die Grundform wieder.
Woher wir das wissen · Satz für Satz gegen die Quellen geprüft (2026-10-22)

Was historisch zusammenhängt

Hier geht es um tatsächliche Bezüge: wer wen gelesen, gekannt oder kritisiert hat.

  • Searle trug das Gedankenexperiment 1980 vor, als manche Forscher behaupteten, Computer verstünden bereits ein Stück natürliche Sprache. Er wandte sich damit auch gegen Turings Test: Ein Programm könne ihn bestehen, indem es Zeichen verarbeitet, die es nicht versteht, und verstehe dann trotzdem nichts. belegt

Verbindungen an dieser Station

  • Daniel Dennett kritisiert John Searle. belegt

    Warum diese Verbindung?

    Dennett gehört zu den Vertretern der Systemantwort, die hier Searles Chinesischem Zimmer gegenübersteht.

    Dennett gehört zu den Vertretern der Systemantwort auf das Chinesische Zimmer: Der Mensch im Zimmer versteht nicht, aber das ganze System versteht.

    Art der Verbindung: Kritik. Kritik an einer bestimmten These. Gemeint ist die Sache. Ob daraus auch ein persönlicher Bruch wurde, steht jeweils in der Erklärung.

  • John Searle kritisiert Alan Turing. belegt

    Warum diese Verbindung?

    Das Chinesische Zimmer richtet sich gegen die Annahme, richtige Antworten im Gespräch zeigten schon Verstehen.

    Searle folgert aus dem Chinesischen Zimmer, dass der Turing-Test als Maßstab für Verstehen nicht ausreicht: Der Mensch im Zimmer bestünde ihn, ohne Chinesisch zu verstehen.

    Art der Verbindung: Kritik. Kritik an einer bestimmten These. Gemeint ist die Sache. Ob daraus auch ein persönlicher Bruch wurde, steht jeweils in der Erklärung.

Ein Vergleich von Antworten auf dieselbe Frage. Die Reihenfolge ist eine redaktionelle Erzählstruktur, keine historische Entwicklung und kein wissenschaftlicher Konsens, und eine spätere Antwort ist nicht automatisch die bessere. Wo eine Position auf heutige Sprachmodelle übertragen wird, ist das unsere Anwendung. Prüfstand dieser Station: Satz für Satz gegen die Quellen geprüft (2026-10-22).

Quellen dieser Station

  1. [1]The Chinese Room Argument, Abschnitt 1 · Stanford Encyclopedia of Philosophy
  2. [2]Chinese room · Wikipedia
  3. [3](deutsch), Chinesisches Zimmer · Wikipedia, abgerufen 2026-10-22