Zum Inhalt springen

Landkarte der Philosophie · Kann eine Maschine für mich denken?

Zurückblicken: Kann eine Maschine für mich denken?

Was du jetzt unterscheiden kannst

  • Ob du Denken an den Antworten erkennst oder ob Denken etwas ist, das hinter den Antworten liegt. Alan Turing schlug vor, eine Maschine nach ihrem Verhalten in einem Gespräch zu beurteilen, in dem eine Fragerin immer wieder nachhakt, so wie du auch andere Menschen nur von außen kennst. Die Erfahrung mit dem Programm ELIZA zeigte, dass manche Menschen ein Verstehen unterstellen, wo nur Stichwörter umgeformt werden.
  • Ob richtige Antworten schon Verstehen sind. John Searle meint, ein Programm verarbeite nur die Form von Zeichen und nicht ihre Bedeutung. Die Systemantwort hält dagegen, dass vielleicht nicht ein Teil, sondern das ganze System versteht. Searle erwidert, dass auch jemand, der das ganze System im Kopf hat, kein Chinesisch versteht, und Kritiker antworten, dann entstünden eher zwei Personen in einem Kopf, von denen eine Chinesisch versteht.
  • Ob Verstehen an einem Körper in einer Lage hängt oder ob Denken über Kopf und Hilfsmittel verteilt sein kann. Hubert Dreyfus betont das Hintergrundwissen, das sich nicht vollständig in Regeln fassen lässt. Andy Clark und David Chalmers sehen ein Notizbuch, das für jemanden dieselbe Rolle spielt wie das Gedächtnis, als Teil seines Denkens.
  • Ob ein Werkzeug dir nur Arbeit abnimmt oder dir auch die Übung nimmt. Günther Anders beschreibt ein Gefälle zwischen dem, was Menschen herstellen, und dem, was sie sich noch vorstellen und fühlen können. Shannon Vallor fragt, welche moralischen Fähigkeiten verkümmern, wenn die Gelegenheit zum Üben fehlt. Dagegen lässt sich einwenden, dass Werkzeuge Fähigkeiten schon immer verlagert haben: In Platons „Phaidros“ lässt Sokrates einen ägyptischen König voraussagen, die Schrift werde Vergessen schaffen, und trotzdem nutzen wir sie selbstverständlich.
  • Ob eine Maschine etwas ausführen kann oder ob man es ihr übertragen sollte. Joseph Weizenbaum unterscheidet das Entscheiden, das sich berechnen lässt, vom Wählen, das aus Urteil und Werten entsteht.

Was offen bleibt

Offen bleibt, wie die beiden Fragen dieses Wegs zusammenhängen: ob eine Maschine versteht, was sie schreibt, und was du ihr überlassen solltest. Turing, Searle, die Systemantwort, Dreyfus sowie Clark und Chalmers ziehen die Grenze des Verstehens an verschiedenen Stellen, und keiner von ihnen hat die Frage für alle entschieden. Anders, Vallor und Weizenbaum zeigen, dass die zweite Frage auch dann zählt, wenn die erste offen bleibt, denn was du übst und was du wählst, hängt nicht allein davon ab, ob die Maschine versteht.

Noch einmal die Situation vom Anfang

Eine künstliche Intelligenz schreibt deine Mail an einen schwierigen Kunden. Sie klingt besser als du, und trotzdem zögerst du beim Absenden.

Denk noch einmal an die Mail an den schwierigen Kunden. Mit Turing kannst du fragen, ob dir der Text als Antwort genügt oder ob du wissen willst, was hinter ihm steckt. Mit Searle und der Systemantwort kannst du fragen, wer hier etwas versteht: das Programm, das ganze System aus Programm, Daten und Rechnern oder nur du. Mit Dreyfus und mit Clark und Chalmers kannst du fragen, ob das Programm deine Lage mit diesem Kunden kennt oder ob es zu deinem Denken gehört wie ein Notizbuch. Mit Anders und Vallor kannst du fragen, was du nicht mehr übst, wenn du schwierige Mails immer abgibst. Mit Weizenbaum kannst du die Rechenarbeit abgeben und die Wahl behalten, was du diesem Kunden sagen willst. Würdest du die Mail jetzt so absenden, und warum?

Zurück zur Mail: Nach Weizenbaum gibst du vor allem das Formulieren ab und behältst die Wahl, ob dieser Ton zu diesem Kunden und zu dir passt, und damit die Verantwortung für das, was du absendest. Mit Searle und Dreyfus kannst du außerdem fragen, ob der Text von etwas stammt, das deine Lage kennt, und mit Vallor, was du verlernst, wenn du immer so absendest. Welche dieser Fragen für dich schwerer wiegt, entscheidet der Weg nicht für dich.

Dein Rückblick

Vier freiwillige Fragen. Du kannst sie im Kopf beantworten, aufschreiben oder einfach überspringen. Nichts davon ist nötig, um den Weg abzuschließen.

Deine Notizen bleiben nur in diesem Browser. Sie werden erst gespeichert, wenn du „In diesem Browser speichern“ wählst, liegen dann im lokalen Speicher dieses Geräts und gehen nicht an uns. Du brauchst kein Konto und keine Mailadresse, und du kannst sie jederzeit löschen.

Im Team besprechen (etwa zehn Minuten)

Welche Texte und Entscheidungen geben wir im Team an Programme ab, und welche behalten wir bewusst?

Zwei Maßstäbe zum Prüfen

  • Ob eine Aufgabe sich berechnen lässt oder ein Urteil verlangt (übertragen nach Weizenbaum)
  • Ob wir eine Fähigkeit verlernen, die wir noch brauchen (übertragen nach Vallor)

So geht ihr vor

Weizenbaum schrieb darüber, was man Computern übertragen sollte, und Vallor über Technik und Tugenden; im Team sind beide Maßstäbe eine Übung und keine Anwendung dieser Theorien. Nehmt euch etwa zehn Minuten. Jede Person nennt freiwillig eine Aufgabe, bei der sie schon ein Programm nutzt, und sagt in einem Satz, ob dabei ein Urteil gefragt ist. Dann fragt ihr gemeinsam, ob ihr diese Fähigkeit noch übt und ob ihr sie braucht. Haltet zum Schluss fest, wo ihr gern abgebt und wo ihr bewusst selbst schreibt.

Wie es weitergehen kann

  • Warum ändert sich nichts, obwohl alle es wollen?

    Auf diesem Weg ging es auch darum, was du verlernst, wenn ein Werkzeug dir die Übung abnimmt. Der Weg „Warum ändert sich nichts, obwohl alle es wollen?“ fragt, warum Menschen in Gruppen an ihren Gewohnheiten festhalten, obwohl sie etwas anderes beschlossen haben. Dort begegnest du unter anderem Gregory Bateson, der an den Konferenzen teilnahm, auf denen die Kybernetik entstand, eine Forschung, die Rückkopplung bei Lebewesen und Maschinen miteinander verglich.

  • Woher weiß ich, was wahr ist?

    Turing schlägt vor, Denken an Antworten zu erkennen, die du nur von außen siehst. Der Weg „Woher weiß ich, was wahr ist?“ fragt allgemeiner, woher du wissen kannst, was stimmt, etwa ob du glauben darfst, was andere dir berichten, ohne es selbst prüfen zu können, und wie Menschen gemeinsam Behauptungen prüfen.

  • Geist, Maschine und Technik

    Die Hauptpersonen dieses Wegs, von Turing bis Weizenbaum, stehen mit vielen weiteren im Kapitel „Geist, Maschine und Technik“, geordnet in vier Teilbereiche. Heidegger, Merleau-Ponty und Platon, die hier nur im Hintergrund vorkommen, findest du in anderen Kapiteln.

Zum Vertiefen

  • Alan Turing: Profil zu Turingmaschine und Imitationsspiel.
  • John Searle: Profil zum Chinesischen Zimmer und zur Sprechakttheorie.
  • Hubert Dreyfus: Profil zu Dreyfus' Kritik an der künstlichen Intelligenz mit Heidegger und Merleau-Ponty.