Joseph Weizenbaum

Informatiker · 1923–2008 · Berlin, Cambridge (Massachusetts)

Kapitel: Geist und Technik (redaktionell, keine Schulzugehörigkeit)
Kants Fragen: Was soll ich tun? · Was ist der Mensch? (Deutung)
Lebensdaten: belegt gilt für Name, Lebenszeit und Orte

Zum Einstieg

Nur weil ein Computer eine Entscheidung treffen kann, soll er sie dann auch treffen?

Position: Weizenbaum antwortet, dass die Machbarkeit keine Rolle spielt. Aufgaben festzulegen und Kriterien dafür zu wählen sei ein schöpferischer Akt, der auf menschlichen Werten beruht, die ein Computer nicht liefern kann. Deshalb muss die eigentliche Entscheidungsgewalt nach der deutschen Wikipedia in menschlicher Hand bleiben.
Einwand: Aus den abgerufenen Quellen ist kein ausdrücklicher Einwand mit Urheber belegt. Offen bleibt, wie scharf sich Entscheiden und Wählen trennen lassen, wenn Programme lernen.
Verbindung: Weizenbaums Verantwortungsfrage steht neben Günther Anders' Warnung vor einer Technik, die den Menschen überholt, und Vallors Frage nach der Pflege moralischer Fähigkeiten.

Redaktionell zusammengefasst, keine Zitate. Die Quellen stehen am Ende der Seite.

Kommt in diesen Denkwegen vor

Deutsch-amerikanischer Informatiker, der mit ELIZA ein frühes Gesprächsprogramm schrieb und danach zu einem der bekanntesten Kritiker leichtfertiger Computergläubigkeit wurde.

Weizenbaum ist hier der Informatiker, der die Folgen seiner eigenen Arbeit kritisch bewertet. Er ergänzt Turing und Simon um die Frage nach Verantwortung; redaktionell lässt er sich damit neben Günther Anders und Hans Jonas stellen.

Kernidee

Weizenbaum unterscheidet zwischen Entscheiden und Wählen. Entscheiden ist eine Rechentätigkeit, die sich programmieren lässt. Wählen entsteht aus Urteilskraft und beruht auf menschlichen Werten. Deshalb fragt er nicht, ob Computer eine Aufgabe ausführen können, sondern ob sie sie ausführen sollen.

Biografischer Moment

Belegter Einfluss Die Quellen belegen, dass dieses Erlebnis das Denken beeinflusst hat.

Die deutsche Wikipedia schreibt, dass Weizenbaum durch das Erlebnis, wie ernst viele Menschen sein einfaches Programm ELIZA nahmen, zum Kritiker der gedankenlosen Computergläubigkeit wurde. Die englische Wikipedia nennt seinen Schock darüber und vermerkt, dass die Deutung von ELIZA als Vorläufer denkender Maschinen seiner Ansicht nach ein Missverständnis war.^[2]^[1]^[3]

Fundstelle: Abschnitt Leben Abschnitt Psychology simulation at MIT

Bekannt für

Man kennt Weizenbaum für ELIZA, das 1966 veröffentlicht wurde und ein Gespräch mit einem Psychotherapeuten nachahmte, und für sein Buch von 1976. Übertragen auf heute: Ein Alltagsbeispiel ist der Chatbot, dem Menschen persönliche Dinge anvertrauen, obwohl sie wissen, dass er ein Programm ist.

Theorien mit Alltagsbeispiel

ELIZA und die Reaktion der Nutzer

ELIZA wandte Mustererkennungsregeln auf Sätze an und antwortete so wie ein Gesprächspartner, der offene Fragen stellt. Weizenbaum war erschüttert, dass viele Nutzer das Programm ernst nahmen und ihm Persönliches erzählten. Übertragen auf heute: Du kennst das, wenn du einem Automaten im Kundendienst Dinge schreibst, die du einem Menschen vielleicht nicht sagen würdest.

Entscheiden und Wählen

Nach Weizenbaum ist Entscheiden eine Rechentätigkeit, Wählen dagegen das Ergebnis von Urteilskraft. Wer einen Computer Entscheidungen treffen lässt, die vorher Menschen trafen, hat selbst eine Wahl getroffen, die auf Werten beruht und Folgen für andere hat. Übertragen auf heute: In einer Firma kann das die Auswahl von Bewerbungen durch ein Programm sein.

Sollen statt Können

Ob Computer eine Aufgabe übernehmen können, ist für Weizenbaum nicht die entscheidende Frage. Entscheidend ist für ihn, ob sie sie übernehmen sollen, weil die Festlegung von Aufgaben und Kriterien ein schöpferischer Akt ist, der auf menschlichen Werten beruht. Übertragen auf heute: Vor jeder Automatisierung kannst du prüfen, wer die Kriterien festlegt und wer dafür gerade steht.

Begriffe

ELIZA
Entscheiden und Wählen
Urteilskraft
Verantwortung
Computergläubigkeit

Lehrer, Schüler und weitere Verbindungen

2 Verbindungen im Netz (Prüfstand: 2 Deutung). Jede hat ihre eigene Begründung und ihren eigenen Prüfstand.

Was der Prüfstand bedeutet

belegt: Mit Quelle belegt.
Deutung: Redaktionelle Deutung auf Grundlage der Quellen.
überliefert: Überliefert, aber historisch nicht gesichert.
ungeprüft: Noch nicht einzeln gegen Quellen geprüft. Lies sie als Hinweis, nicht als Tatsache.

Im Vergleich

Redaktioneller Vergleich ähnlicher Gedanken, keine historische Beziehung.

Alan TuringPrüfstand: Deutung
Redaktioneller Vergleich: Weizenbaums Programm ELIZA wird in der Debatte über Turings Test als Beispiel angeführt, wie leicht Menschen einem Programm Verstehen unterstellen, das nur Stichwörter umformt; Weizenbaum hat ELIZA nicht als Antwort auf Turing angelegt.
Günther AndersPrüfstand: Deutung
Redaktioneller Vergleich: Beide fragen, was Menschen an Maschinen abgeben und was sie dabei verlieren; Anders spricht vom Gefälle zwischen Mensch und Gerät, Weizenbaum davon, dass Computer Aufgaben, die Urteil verlangen, nicht übernehmen sollen. Ein Einfluss ist nicht belegt.

Kontext

Was das Denken geprägt oder verzerrt haben könnte: Geld, Abhängigkeit, Biografie.

Biografie belegt
Weizenbaum wurde in Berlin geboren und floh mit seiner jüdischen Familie 1936 vor den Nationalsozialisten in die Vereinigten Staaten.^[2]
Zeitgeschehen belegt
Weizenbaum warnte davor, dass beschönigende Wörter wie „Verteidigung“ die Wirklichkeit militärischer Handlungen verdecken. Er hielt sich selbst nicht für einen Pazifisten.^[1]

Kritik

Aus den abgerufenen Quellen ist keine Kritik an Weizenbaums Thesen mit benanntem Urheber belegt. Wikipedia vermerkt, dass viele ELIZA als Vorläufer denkender Maschinen feierten, was Weizenbaum für eine Fehldeutung hielt.

Wirkung heute

ELIZA gilt nach dem Nachruf des Massachusetts Institute of Technology als vielleicht erstes Beispiel dessen, was man heute Chatbot nennt. Übertragen auf heute: Seine Frage, wer Kriterien für maschinelle Entscheidungen festlegt, stellt sich auch bei automatisierten Auswahlverfahren und Sprachmodellen.

Brücke zu Führung und Coaching

Übertragen auf heute: Wenn ein Werkzeug in deinem Team Vorauswahlen trifft, kannst du fragen, wer die Kriterien dafür gesetzt hat und ob du die Wahl selbst verantworten willst. Das ist eine Übertragung von Weizenbaums Unterscheidung und kein Zitat von ihm zu Führung.

Lebensstationen

1923Geburt am 8. Januar in Berlin
1936Emigration mit der Familie in die Vereinigten Staaten
1963Wechsel an das Massachusetts Institute of Technology als außerordentlicher Professor (nach dem Nachruf der Hochschule zunächst als Gast)
1966ELIZA wird veröffentlicht
1976„Computer Power and Human Reason“ erscheint
2008Tod am 5. März in Berlin

Werke

ELIZA — A Computer Program for the Study of Natural Language Communication between Man and Machine (1966)
Ersterscheinung: Communications of the Association for Computing Machinery, Band 9 (1966), Seiten 36 bis 45.
Computer Power and Human Reason: From Judgment to Calculation (1976)
Ersterscheinung: W. H. Freeman, San Francisco, 1976. Deutsche Ausgabe: „Die Macht der Computer und die Ohnmacht der Vernunft“ (1977).

Anekdote überliefert

Als Weizenbaum seine Sekretärin beim Benutzen von ELIZA beobachtete, bat sie ihn nach Wikipedia, den Raum zu verlassen, obwohl sie wusste, dass es nur eine Simulation war.^[1]

Lesetipps

Einstieg: Joseph Weizenbaum, Die Macht der Computer und die Ohnmacht der Vernunft (Suhrkamp, 1977); die deutsche Ausgabe seines Buches von 1976.
Vertiefung: Wikipedia (de), „Joseph Weizenbaum“, Abschnitt Leben, als Überblick

Noch nicht sicher belegt

Das Erscheinungsjahr 1977 der deutschen Ausgabe steht nur in der deutschen Wikipedia.
Eine belegte Verbindung zu einer anderen Person der Landkarte fehlt noch.

Wege durchs Netz

1. Berechnen und Steuern
Weizenbaum schrieb mit ELIZA ein frühes Gesprächsprogramm und warnte danach vor leichtfertiger Computergläubigkeit.

Herkunft der Daten: Kapitel Geist, Maschine und Technik. Prüfstand der Lebensdaten: belegt. Verbindungen, Kontext und Anekdote haben jeweils einen eigenen Prüfstand.

Quellen zu Weizenbaum

Zurück zur Landkarte · Suche