Was gibst du ab, wenn du die Mail absendest, und was behältst du?

Antwort aus der Sicht: Joseph Weizenbaum · Historische Information

Ein Programm kann entscheiden, aber wählen musst du, und manche Aufgaben sollten Menschen behalten

Einfach gesagt

Joseph Weizenbaum unterscheidet zwischen Entscheiden und Wählen. Entscheiden ist eine Rechentätigkeit, die sich programmieren lässt, während eine Wahl aus Urteil und nicht aus Rechnung entsteht. Deshalb hängt es nach ihm nicht nur davon ab, ob ein Computer eine Aufgabe ausführen kann, sondern auch davon, ob er sie ausführen soll.^[1]

Wie das begründet wird

In seinem Buch „Computer Power and Human Reason“ von 1976 schreibt Weizenbaum, dass die Festlegung einer Aufgabe und die Auswahl der Maßstäbe für ihre Erledigung ein schöpferischer Akt ist, der auf menschlichen Werten beruht, und diese können nicht von Computern kommen. Wer einen Computer Entscheidungen treffen lässt, die früher Menschen trafen, hat selbst eine Wahl getroffen, die Folgen für die Betroffenen hat. Als Stellen, die Achtung und Fürsorge verlangen und in denen Menschen nicht ersetzt werden sollten, nannte er nach Wikipedia unter anderem den Kundendienst, die Pflege alter Menschen, Richter, Polizisten, Soldaten und Therapeuten, weil Menschen von jemandem in solchen Rollen echtes Mitgefühl brauchen. Die eigentliche Entscheidungsgewalt müsse in menschlicher Hand bleiben, auch wenn Programme als Hilfsmittel dienen.^[1][3][2][4]

Was diese Antwort gut erklärt

Die Unterscheidung verschiebt die Frage von „Kann die Maschine das?“ zu „Soll sie es?“ und macht sichtbar, dass auch das Übergeben einer Aufgabe eine Wahl mit Folgen ist. Sie hilft damit, die Verantwortung dort zu behalten, wo die Werte liegen.

Häufiges Missverständnis

Weizenbaum hielt nicht jede Übergabe an Maschinen für falsch, und die Quellen beschreiben ihn als zwiespältig gegenüber der Computertechnik. Sein Einwand gilt bestimmten Aufgaben, vor allem solchen, die Achtung und Fürsorge verlangen. Auf der Liste, die Wikipedia wiedergibt, steht auch der Kundendienst; ob Weizenbaum damit auch eine einzelne Mail an einen Kunden meinte, sagt die Quelle nicht, und das Beispiel zeigt deshalb vor allem, wie sich Rechnen und Wählen in einer Alltagsaufgabe mischen.^[3][4][1]

Wo diese Antwort an ihre Grenze kommt

• Einwand aus der Sicht: John McCarthy

  John McCarthy, einer der Gründer der Forschung zur künstlichen Intelligenz, bemängelte den moralisierenden Ton von Weizenbaums Kritik. Wo das Moralisieren zugleich heftig und unbestimmt sei, lade es zu autoritärem Missbrauch ein.^[3]

• Einwand aus der Sicht: Pamela McCorduck

  Pamela McCorduck hält dagegen, dass es Lagen gibt, in denen ein Automat ohne eigene Interessen vorzuziehen wäre, und sie sprach dabei ausdrücklich für Frauen und Minderheiten. Andere erinnern allerdings daran, dass solche Systeme nur so gut sind wie die Daten, mit denen sie trainiert wurden, und frühere Vorurteile festschreiben können.^[3]

In der Forschung umstritten: Hängt es nur davon ab, ob eine Maschine eine Aufgabe gut erledigen kann, oder sollten manche Aufgaben unabhängig davon Menschen vorbehalten bleiben?