Kann eine Maschine für mich denken? Der Weg im Überblick

Eine künstliche Intelligenz schreibt deine Mail an einen schwierigen Kunden. Sie klingt besser als du, und trotzdem zögerst du beim Absenden. Dieser Überblick zeigt in fünf Schritten, wie verschiedene Antworten auf die Frage, ob eine Maschine für dich denken kann, diesen Fall jeweils anders ansehen. Die Reihenfolge folgt dem Gedankengang und nicht der Geschichte, und eine spätere Antwort ist nicht automatisch die bessere. Wo eine Position auf heutige Sprachmodelle übertragen wird, ist das unsere Anwendung.

Nur die Antworten?: Du liest den Entwurf zum ersten Mal, und er klingt besser, als du ihn selbst geschrieben hättest. Alan Turing schlug 1950 vor, die Frage nach dem Wesen des Denkens zu umgehen und ein Gespräch zu prüfen: Bleibt eine Maschine für eine Fragerin, die nachhakt und weiß, dass eine Maschine im Spiel ist, unerkannt, gibt das gute Gründe, ihr Intelligenz zuzuschreiben, so wie du auch bei anderen Menschen nur von außen urteilst. Ein einzelner gelungener Text reicht dafür nicht. Das Programm ELIZA, das Joseph Weizenbaum Mitte der 1960er Jahre entwickelte, formte nur Stichwörter um, und doch hielten es manche Nutzer für ein Gegenüber, das sie versteht. John Searle hält äußeres Verhalten grundsätzlich nicht für ausreichend, um zu zeigen, ob eine Maschine wirklich denkt.

Antworten ohne Verstehen?: Du fragst das Programm, warum es einen Satz so formuliert hat, und die Erklärung überzeugt dich. John Searle stellte sich 1980 vor, er sitze in einem Zimmer, verstehe kein Chinesisch und gebe mithilfe eines Regelbuchs trotzdem richtige chinesische Antworten. Ein Computer, der nur ein Programm ausführt, verarbeitet nach ihm ebenso nur die Form der Zeichen und nicht ihre Bedeutung. Die Systemantwort, die unter anderem Ned Block und Daniel Dennett vertraten, hält dagegen, dass das ganze System aus Person, Regelbuch und Ablage verstehen könnte. Searle erwidert, die Person könne alle Regeln auswendig lernen und verstünde trotzdem kein Chinesisch, und Kritiker antworten, dann entstünden eher zwei Personen in einem Kopf.

Körper oder Werkzeug?: Am Abend vor dem Absenden hörst du den gereizten Tonfall des Kunden im Ohr und weißt, dass ein Satz ihn treffen wird, den das Programm für unauffällig hält, und zugleich hat es dir Zahlen zusammengesucht, die du nicht mehr im Kopf hattest. Hubert Dreyfus meinte, dass Verstehen davon abhängt, dass du mit Körper, Zielen und Kultur schon in eine Lage eingebunden bist, und dass sich dieses Hintergrundwissen nicht vollständig in Regeln fassen lässt. Andy Clark und David Chalmers halten dagegen, dass Denken nicht an der Schädelgrenze endet: Spielt ein Notizbuch für Otto, der an Alzheimer leidet, dieselbe Rolle wie für andere das Gedächtnis, gehört es zu seinem Denken. Gegen Dreyfus wird eingewandt, dass seine Kritik vor allem Programme mit ausdrücklichen Regeln trifft. Gegen Clark und Chalmers wird eingewandt, dass ein Notizbuch keinen ursprünglichen Inhalt hat oder nur ein Hilfsmittel eines Denkens ist, das im Kopf stattfindet.

Was verlernst du?: Kurz vor dem Absenden merkst du, dass du in dieser Woche schon den dritten schwierigen Satz nur abgenickt hast. Günther Anders beschreibt ein Gefälle zwischen den immer vollkommeneren Geräten und dem Menschen, dessen Vorstellen und Fühlen hinter dem zurückbleibt, was er herstellen kann. Shannon Vallor fragt enger, welche moralischen Fähigkeiten verkümmern, wenn Technik die Gelegenheiten zum Üben wegnimmt. Sigurd Hovd bezweifelt, dass solche Fähigkeiten nur in genau der Lage entstehen, die wegfällt. Außerdem haben Werkzeuge Fähigkeiten schon immer verlagert, wie ein redaktioneller Vergleich mit Platons „Phaidros“ zeigt: Dort erzählt Sokrates, ein ägyptischer König habe vorausgesagt, die Schrift werde Vergessen schaffen.

Was behältst du?: Der Cursor steht über dem Absenden-Knopf, und die Mail enthält ein Angebot, das Geld kostet. Joseph Weizenbaum unterscheidet das Entscheiden, eine Rechentätigkeit, die sich programmieren lässt, vom Wählen, das aus Urteil und menschlichen Werten entsteht. Ob ein Computer eine Aufgabe ausführen kann, ist nach ihm eine andere Frage als die, ob man sie ihm übertragen sollte. John McCarthy, einer der Gründer der Forschung zur künstlichen Intelligenz, warf ihm vor, moralisierend zu sein, und Pamela McCorduck entgegnete, in manchen Lagen würde sie als Frau einen unparteiischen Computer vorziehen.

Offen bleibt, wo die Grenze zwischen dem verläuft, was du abgeben kannst, und dem, was du behalten solltest. Jede Antwort sieht etwas, das den anderen leicht entgeht, und du kannst dich fragen, was du deiner Mail nach diesem Weg noch hinzufügst, bevor du sie absendest.