Geist, Maschine und Technik

Zeit und Umfeld

Viele Personen in diesem Kapitel sind keine Philosophinnen und Philosophen im engeren Sinn, sondern Mathematiker, Informatiker, Anthropologinnen, Soziologen oder Wirtschaftswissenschaftlerinnen. Sie stehen auf dieser Karte wegen ihres Beitrags zu philosophischen Fragen: was Denken ist, ob eine Maschine verstehen kann, wo der Geist endet und wer für Technik verantwortlich ist. Ihre Fachbezeichnung steht jeweils im Profil. Das Umfeld reicht von der frühen Rechentechnik und der Kybernetik der 1940er Jahre über die Forschung zur künstlichen Intelligenz bis zu den Plattformen und Sprachmodellen der Gegenwart.

Personen (20)

• Norbert Wiener1894–1964Amerikanischer Mathematiker, der mit der Kybernetik eine Lehre von Steuerung und Kommunikation bei Lebewesen und Maschinen begründete.Richtung: Kybernetik (belegt)
• Günther Anders1902–1992Deutsch-österreichischer Philosoph und Journalist, der mit der „Antiquiertheit des Menschen“ eine Philosophie des Menschen im Zeitalter der Technik und der Atombombe entwarf.Richtung: Phänomenologie (belegt)
• Alan Turing1912–1954Britischer Mathematiker, der mit der Turingmaschine erklärte, was Berechnen heißt, und mit dem Imitationsspiel die Frage stellte, wann man einer Maschine Denken zusprechen sollte.
• Herbert A. Simon1916–2001Amerikanischer Wissenschaftler, der erforschte, wie Menschen in Organisationen mit begrenztem Wissen entscheiden, und der mit Allen Newell frühe Programme für künstliche Intelligenz schrieb.Richtung: Systemtheorie (Deutung)
• Joseph Weizenbaum1923–2008Deutsch-amerikanischer Informatiker, der mit ELIZA ein frühes Gesprächsprogramm schrieb und danach zu einem der bekanntesten Kritiker leichtfertiger Computergläubigkeit wurde.
• Hubert Dreyfus1929–2017Amerikanischer Philosoph, der mit Gedanken von Heidegger und Merleau-Ponty die Annahme angriff, menschliches Denken lasse sich als Regelverarbeitung durch Computer nachbauen.Richtung: Phänomenologie (belegt)
• John Searle1932–2025Amerikanischer Philosoph der Sprache und des Geistes, der mit dem Chinesischen Zimmer bestreitet, dass ein Programm allein Verstehen erzeugen kann.Richtung: Analytische Philosophie (belegt)
• Lucy SuchmanGeburtsjahr nicht belegtAmerikanische Anthropologin, die beschreibt, dass Menschen Pläne nicht einfach ausführen, sondern ihr Handeln in der Situation immer wieder neu herstellen, und die daraus Kritik an Modellen der künstlichen Intelligenz entwickelte.
• Shannon VallorGeburtsjahr nicht belegtAmerikanische Technikphilosophin, die die klassische Tugendethik auf das Leben mit digitaler Technik überträgt und vor dem Verlernen moralischer Fähigkeiten warnt.
• Thomas Nagelgeboren 1937Amerikanischer Philosoph, der mit der Frage „Wie ist es, eine Fledermaus zu sein?“ zeigt, dass die Innenseite des Erlebens sich nicht einfach durch Beschreibungen von außen erklären lässt.Richtung: Analytische Philosophie (Deutung)
• Daniel Dennett1942–2024Amerikanischer Philosoph und Kognitionswissenschaftler, der Bewusstsein und Überzeugungen als Ergebnis physischer Vorgänge im Gehirn erklärt und dabei vom Standpunkt der Zuschreibung (intentionale Einstellung) ausgeht.Richtung: Analytische Philosophie (Deutung)
• Patricia Churchlandgeboren 1943Kanadisch-amerikanische Philosophin, die mit der Neurophilosophie fordert, den Geist über das Gehirn zu erforschen, und alltagspsychologische Begriffe für überarbeitungsbedürftig hält.Richtung: Analytische Philosophie (belegt)
• Donna Harawaygeboren 1944Amerikanische Wissenschaftshistorikerin und Philosophin, die mit der Figur des Cyborgs die Grenzen zwischen Mensch, Tier und Maschine hinterfragt.
• Bruno Latour1947–2022Französischer Philosoph, Anthropologe und Soziologe, der mit der Akteur-Netzwerk-Theorie auch Dingen eine Rolle im Gewebe des Sozialen zuspricht.
• Shoshana Zuboffgeboren 1951Amerikanische Sozialpsychologin und Wirtschaftswissenschaftlerin, die den Begriff des Überwachungskapitalismus geprägt hat.
• Andy Clarkgeboren 1957Britischer Philosoph, der mit Chalmers die These vertritt, dass der Geist über Gehirn und Körper hinaus in Werkzeuge und Umwelt reichen kann.
• Thomas Metzingergeboren 1958Deutscher Philosoph des Geistes, der das Selbst als ein vom Gehirn erzeugtes Modell beschreibt und die Ethik von Bewusstseinsforschung und künstlicher Intelligenz untersucht.
• Luciano Floridigeboren 1964Italienisch-britischer Philosoph der Information, der die Informationsumgebung des Menschen (Infosphäre) und die Ethik der Information und der künstlichen Intelligenz untersucht.
• David Chalmersgeboren 1966Australischer Philosoph und Kognitionswissenschaftler, der das „harte Problem“ des Bewusstseins formuliert hat und mit Andy Clark die These vom erweiterten Geist vertritt.
• Nick Bostromgeboren 1973Schwedischer Philosoph, der die Risiken einer künstlichen Intelligenz untersucht, die den Menschen in fast allen Bereichen übertrifft.

Begriffe

Imitationsspiel

: Das Spiel, das Alan Turing 1950 beschrieb: Eine Fragerin schreibt mit einem Menschen und mit einer Maschine und soll herausfinden, welche Seite die Maschine ist. Es wird heute meist Turing-Test genannt.

Starke künstliche Intelligenz

: Die Ansicht, dass ein passend programmierter Computer Sprache wirklich versteht und einen Geist im selben Sinn hat wie ein Mensch. Searle wendet sich gegen diese Ansicht. Die schwache Variante behauptet nur, dass Computer als Werkzeuge nützlich sind, um den Geist zu erforschen.

Syntax und Semantik

: Syntax ist die Form von Zeichen und die Regeln, nach denen sie zusammengesetzt werden. Semantik ist ihre Bedeutung. Searle meint, dass ein Programm nur mit der Form arbeitet und dass aus der Form allein keine Bedeutung folgt.

Erweiterter Geist

: Die These von Andy Clark und David Chalmers, dass Denken nicht an der Grenze von Kopf oder Körper endet: Hilfsmittel wie ein Notizbuch können zum denkenden System gehören, wenn sie dieselbe Rolle spielen wie ein Vorgang im Kopf.

Paritätsprinzip

: Der Grundsatz der Befürworter des erweiterten Geistes: Wenn ein Teil der Welt bei einer Aufgabe so arbeitet, dass wir ihn zum Denken zählen würden, falls er im Kopf stattfände, dann zählt er auch außerhalb des Kopfes dazu.

Prometheisches Gefälle

: Günther Anders' Wort für das Missverhältnis zwischen dem unvollkommenen Menschen und den immer vollkommeneren Maschinen, und zwischen dem, was der Mensch herstellen, und dem, was er sich vorstellen und innerlich verarbeiten kann.

Moralisches Verlernen

: Shannon Vallors Begriff (englisch moral deskilling) dafür, dass moralische Fähigkeiten verkümmern können, wenn Technik die Gelegenheiten wegnimmt, sie in der Praxis zu üben.

Entscheiden und Wählen

: Joseph Weizenbaums Unterscheidung: Entscheiden ist eine Rechentätigkeit, die sich programmieren lässt. Wählen ist das Ergebnis eines Urteils, in das menschliche Werte eingehen.

Verbindungen innerhalb des Kapitels

24 Verbindungen, jede als Satz mit Begründung. „Im Vergleich“ heißt: ähnliche Gedanken, ohne dass sich die beiden beeinflusst haben müssen.

• David Chalmers baut auf Thomas Nagel aufbelegt

  Chalmers beschreibt den subjektiven Aspekt der Erfahrung mit Nagels Formel, dass es etwas gibt, wie es ist, ein bewusstes Wesen zu sein.

• Luciano Floridi baut auf Alan Turing aufbelegt

  Floridi schreibt Turing die vierte Revolution des menschlichen Selbstverständnisses zu: Wir sind nicht mehr im Zentrum der Welt der Information. Searle bestreitet in seiner Antwort, dass sich diese Sicht bei Turing findet.

• Andy Clark und David Chalmers kannten sich persönlichbelegt

  Clark und Chalmers sind Mitautoren von „The Extended Mind“ (1998); Chalmers war zuvor Postdoktorand in Clarks Programm in St. Louis.

• David Chalmers und Thomas Metzinger kannten sich persönlichbelegt

  Chalmers und Metzinger gehören beide zu den Gründungsmitgliedern der Association for the Scientific Study of Consciousness, einer Fachgesellschaft für die Erforschung des Bewusstseins; ein Einfluss ist damit nicht behauptet.

• Daniel Dennett und Thomas Nagel kannten sich persönlichbelegt

  Dennett nahm Nagels Aufsatz in den Sammelband „The Mind's I“ auf, den er mit Hofstadter herausgab, und nannte ihn das meistzitierte und einflussreichste Gedankenexperiment zum Bewusstsein, obwohl er in einigen Punkten scharf widerspricht.

• Hubert Dreyfus und John Searle kannten sich persönlichbelegt

  Dreyfus war Searles Kollege in Berkeley; die Stanford Encyclopedia of Philosophy nennt seine Kritik an der frühen künstlichen Intelligenz einen Vorläufer von Searles Argument des Chinesischen Zimmers.

• Luciano Floridi und Thomas Metzinger kannten sich persönlichbelegt

  Floridi und Metzinger gehörten 2018 beide zur Hochrangigen Expertengruppe für künstliche Intelligenz der Europäischen Kommission.

• Luciano Floridi und Shannon Vallor kannten sich persönlichbelegt

  Vallor schrieb 2014 den Beitrag „Armed Robots and Military Virtue“ für den von Floridi und Taddeo herausgegebenen Band „The Ethics of Information Warfare“.

• Andy Clark kritisiert John Searlebelegt

  Nach der Stanford Encyclopedia of Philosophy gibt Clark in „Microcognition“ Searle für Programme mit festen Regeln recht, hält ihm aber entgegen, dass sein Argument konnektionistische Modelle, also künstliche neuronale Netze, nicht trifft.

• David Chalmers kritisiert Daniel Dennettbelegt

  Chalmers hält in seinem Aufsatz von 1995 Dennetts Modell der mehrfachen Entwürfe für eine Erklärung der Berichtbarkeit, die das harte Problem nicht erreicht; Dennett antwortete im Journal of Consciousness Studies.

• Daniel Dennett kritisiert Nick Bostrombelegt

  Nach der englischen Wikipedia vertrat Dennett in „From Bacteria to Bach and Back“ (2017) eine Gegenposition zu Bostrom und hielt eine Überintelligenz für fern und für weniger dringlich als andere Probleme.

• Daniel Dennett kritisiert John Searlebelegt

  Dennett gehört zu den Vertretern der Systemantwort auf das Chinesische Zimmer: Der Mensch im Zimmer versteht nicht, aber das ganze System versteht.

• Hubert Dreyfus kritisiert Herbert A. Simonbelegt

  Dreyfus kritisiert Simons Vorhersagen und das Modell des Denkens als Informationsverarbeitung nach Regeln, das Newell und Simon vertraten.

• Luciano Floridi und John Searle kritisieren sich gegenseitigbelegt

  Searle besprach „The Fourth Revolution“ kritisch in der New York Review of Books, und Floridi wies die Rezension in einem Brief als oberflächlich zurück.

• Patricia Churchland kritisiert John Searlebelegt

  Die Churchlands antworteten 1990 in Scientific American auf Searle: Das Chinesische Zimmer versteht zwar nicht, doch das Argument nutze unsere Unkenntnis aus (Gleichnis vom Leuchtraum).

• John Searle kritisiert Alan Turingbelegt

  Searle folgert aus dem Chinesischen Zimmer, dass der Turing-Test als Maßstab für Verstehen nicht ausreicht: Der Mensch im Zimmer bestünde ihn, ohne Chinesisch zu verstehen.

• Lucy Suchman kritisiert Herbert A. Simonungeprüft

  Suchman antwortete 1993 in Cognitive Science auf Vera und Simons „Situated Action: A Symbolic Interpretation“ und kritisierte das Planungsmodell der künstlichen Intelligenz.

• Andy Clark wird verglichen mit Donna HarawayDeutung

  Redaktioneller Vergleich: Beide denken Mensch und Technik als Verbindung, Haraway mit der Figur des Cyborgs, Clark in „Natural-Born Cyborgs“ und im erweiterten Geist; ein Einfluss wird nicht behauptet.

• David Chalmers wird verglichen mit Thomas MetzingerDeutung

  Redaktioneller Vergleich: Beide fragen nach dem Erleben, Chalmers mit dem harten Problem, Metzinger mit einer Theorie des Selbstmodells; ein Einfluss wird nicht behauptet.

• Daniel Dennett wird verglichen mit Patricia ChurchlandDeutung

  Redaktioneller Vergleich: Churchland und Dennett vertreten beide einen naturalistischen Zugang zum Geist und widersprechen Searle auf unterschiedlichen Wegen; ein Einfluss oder persönlicher Austausch wird nicht behauptet.

• Hubert Dreyfus wird verglichen mit Lucy SuchmanDeutung

  Redaktioneller Vergleich: Beide kritisieren das Bild, menschliches Handeln folge Regeln und Plänen, Dreyfus philosophisch, Suchman mit Beobachtungen der Arbeitspraxis; ein Einfluss wird nicht behauptet.

• Günther Anders wird verglichen mit Joseph WeizenbaumDeutung

  Redaktioneller Vergleich: Beide fragen, was Menschen an Maschinen abgeben und was sie dabei verlieren; Anders spricht vom Gefälle zwischen Mensch und Gerät, Weizenbaum davon, dass Computer Aufgaben, die Urteil verlangen, nicht übernehmen sollen. Ein Einfluss ist nicht belegt.

• Donna Haraway wird verglichen mit Bruno LatourDeutung

  Redaktioneller Vergleich: Haraway und Latour lösen beide die feste Trennung von Natur und Kultur bzw. Gesellschaft auf; ein Einfluss wird nicht behauptet.

• Alan Turing wird verglichen mit Joseph WeizenbaumDeutung

  Redaktioneller Vergleich: Weizenbaums Programm ELIZA wird in der Debatte über Turings Test als Beispiel angeführt, wie leicht Menschen einem Programm Verstehen unterstellen, das nur Stichwörter umformt; Weizenbaum hat ELIZA nicht als Antwort auf Turing angelegt.

Nachbarn unter den Kapiteln

• Baut auf: Analytische Philosophie und WissenschaftstheorieLogik, Sprachphilosophie und Funktionalismus (Wittgenstein, Ryle, Putnam) sind der Hintergrund vieler Debatten über Geist und Maschine
• Baut auf: Phänomenologie und ExistenzialismusHeidegger und Merleau-Ponty prägen Dreyfus' Kritik an der künstlichen Intelligenz
• Verwandt mit: System, Organisation und LernenKybernetik und die Macy-Konferenzen verbinden beide Kapitel; Herbert Simon und Lucy Suchman stehen in beiden

Wege durchs Netz

Kurze Erzählungen über mehrere Personen.