Zum Inhalt springen

Landkarte der Philosophie

Nick Bostrom

Philosoph · geboren 1973 · Oxford

Kapitel
Geist und Technik (redaktionell, keine Schulzugehörigkeit)
Kants Fragen
Was soll ich tun? · Was darf ich hoffen? (Deutung)
Lebensdaten
belegt gilt für Name, Lebenszeit und Orte

Zum Einstieg

Was passiert, wenn eine Maschine ein Ziel verfolgt, das sie besser erreichen kann als wir es steuern können?

Position
Bostrom antwortet, dass eine Superintelligenz fast unabhängig von ihrem Endziel Teilziele wie Selbsterhaltung und Ressourcenerwerb verfolgen würde und deshalb schwer zu kontrollieren wäre. Das Kontrollproblem müsse deshalb vor ihrer Entstehung gelöst werden.
Einwand
Dennett und Etzioni halten die Superintelligenz für zu weit entfernt, LeCun sieht kein existenzielles Risiko, weil eine solche Intelligenz keinen Wunsch nach Selbsterhaltung hätte.
Verbindung
Bostrom steht als Gegenpol zu Dennetts Gelassenheit, ergänzt Weizenbaums Frage nach Verantwortung und kann mit Jonas' Ethik der Folgenabschätzung verglichen werden.

Redaktionell zusammengefasst, keine Zitate. Die Quellen stehen am Ende der Seite.

Schwedischer Philosoph, der die Risiken einer künstlichen Intelligenz untersucht, die den Menschen in fast allen Bereichen übertrifft.

Bostrom steht am Ende des Teilbereichs zur Verantwortung für die Folgen der Technik. Er ist der Gegenpol zu Dennetts Gelassenheit und zu Weizenbaums Mahnung, die sich auf heutige Systeme bezieht.

Kernidee

Bostrom erklärt, dass eine künstliche Intelligenz, die menschliche Fähigkeiten in fast allen Bereichen übertrifft, schwer zu kontrollieren wäre. Selbst bei harmlosen Endzielen entstünden Teilziele wie Selbsterhaltung und Ressourcenerwerb, die Menschen gefährden können. Deshalb müsse das Kontrollproblem gelöst sein, bevor die erste Superintelligenz entsteht.

Biografischer Moment

Lebensereignis Belegtes Ereignis aus dem Leben. Ob es das Denken geprägt hat, behauptet die Angabe nicht.

Bostrom studierte in Stockholm Philosophie und Physik und beschäftigte sich dort mit dem Verhältnis von Sprache und Wirklichkeit bei Quine. Später gründete er in Oxford das Future of Humanity Institute.[1]

Fundstelle: Abschnitte Early life and education und Einleitung

Bekannt für

Man kennt Bostrom für „Superintelligence“ von 2014 und für seine Arbeit über existenzielle Risiken. Ein Alltagsbeispiel ist die Frage, wie man einem sehr leistungsfähigen Assistenten ein Ziel so vorgibt, dass er es nicht auf unerwünschte Weise erfüllt.

Theorien mit Alltagsbeispiel

Superintelligenz

Bostrom definiert Superintelligenz als einen Verstand, der die kognitive Leistung des Menschen in praktisch allen interessierenden Bereichen weit übertrifft. Ob und wann menschliche Maschinenintelligenz entsteht, hält er für offen, nach ihrer Entstehung würde eine Superintelligenz aber wahrscheinlich überraschend schnell folgen. Du kennst das Muster, wenn ein Projekt, das lange stockt, nach einem Durchbruch plötzlich schnell wächst.

Kontrollproblem und instrumentelle Ziele

Nach der Wikipedia sagt Bostrom, ein System würde fast unabhängig von seinem Endziel Teilziele wie Selbsterhaltung, Zielbewahrung, Verbesserung der eigenen Fähigkeiten und Ressourcenerwerb verfolgen. Es würde Versuche, es abzuschalten, aktiv abwehren. Deshalb sei das Kontrollproblem für die erste Superintelligenz zu lösen, was erstaunlich schwer sei, weil sich die meisten Ziele in Programmcode ungewollt auswirken.

Die Fabel von den Spatzen

Das Cover des Buches verweist auf eine unvollendete Fabel: Spatzen wollen ein Eulenküken als Diener aufziehen und kümmern sich erst später darum, wie sie es zähmen. Nur ein Spatz fragt, wie man die Eule überhaupt zähmen kann, und ihm widmet Bostrom das Buch. Übertragen auf heute: Du kannst bei jeder großen Neuerung zuerst fragen, wie du sie steuerst, und erst danach, wie schnell sie kommt.

Begriffe

Superintelligenz
existenzielles Risiko
Kontrollproblem
instrumentelle Ziele
Zukunft der Menschheit

Lehrer, Schüler und weitere Verbindungen

3 Verbindungen im Netz (Prüfstand: 2 belegt, 1 Deutung). Jede hat ihre eigene Begründung und ihren eigenen Prüfstand.

Was der Prüfstand bedeutet
belegt
Mit Quelle belegt.
Deutung
Redaktionelle Deutung auf Grundlage der Quellen.
überliefert
Überliefert, aber historisch nicht gesichert.
ungeprüft
Noch nicht einzeln gegen Quellen geprüft. Lies sie als Hinweis, nicht als Tatsache.

Wird kritisiert von

Kritik an einer bestimmten These von Bostrom. Gemeint ist die Sache. Ob daraus auch ein persönlicher Bruch wurde, steht jeweils in der Erklärung.

  • Daniel DennettPrüfstand: belegt

    Nach der englischen Wikipedia vertrat Dennett in „From Bacteria to Bach and Back“ (2017) eine Gegenposition zu Bostrom und hielt eine Überintelligenz für fern und für weniger dringlich als andere Probleme.

Untersucht

Bostrom untersucht, kommentiert oder deutet das Werk, ohne die Gedanken als eigene Position weiterzuführen.

  • untersucht Willard Van Orman QuinePrüfstand: belegt

    Bostrom erforschte während seines Studiums in Stockholm das Verhältnis von Sprache und Wirklichkeit, indem er den analytischen Philosophen W. V. Quine studierte.

Im Vergleich

Redaktioneller Vergleich ähnlicher Gedanken, keine historische Beziehung.

  • Hans JonasPrüfstand: Deutung

    Redaktioneller Vergleich: Beide verlangen, dass die Folgen mächtiger Technik vor ihrem Einsatz bedacht werden, Jonas in der Ethik der Verantwortung, Bostrom beim Kontrollproblem; ein Einfluss ist in den abgerufenen Quellen nicht belegt.

Kontext

Was das Denken geprägt oder verzerrt haben könnte: Geld, Abhängigkeit, Biografie.

  • Biografie belegt

    Bostrom wurde 1973 in Helsingborg in Schweden geboren und erwarb Abschlüsse in Göteborg, Stockholm und London. 2000 promovierte er an der London School of Economics.[1]

  • Abhängigkeit belegt

    Bostrom gründete 2005 das Future of Humanity Institute an der Universität Oxford, das 2024 geschlossen wurde, und ist heute Hauptforscher seiner eigenen Macrostrategy Research Initiative.[1]

Kritik

Dennett und Oren Etzioni hielten die Superintelligenz für zu weit entfernt, als dass das Risiko erheblich wäre. Yann LeCun hält ein existenzielles Risiko für ausgeschlossen. Bostrom wird auch dafür kritisiert, Pessimismus zu verbreiten und sich auf langfristige, spekulative Risiken zu konzentrieren.

Wirkung heute

Die Stanford Encyclopedia of Philosophy zur Ethik der künstlichen Intelligenz nennt Bostrom als einen Pessimisten, der das Risiko für die Menschheit für groß hält, im Gegensatz zu Optimisten wie Kurzweil. Zugleich verschiebt sich die Debatte laut der Stanford Encyclopedia of Philosophy von der Superintelligenz hin zu allgemeineren Risiken.

Brücke zu Führung und Coaching

Übertragen auf heute: Du kannst deinem Team die Frage stellen, welche Ziele ein System erreichen soll und was es auf dem Weg dorthin als Nebenwirkung anrichten könnte. Das ist eine Analogie zu Bostroms Kontrollproblem und keine Aussage von ihm über Führung.

Lebensstationen

  1. 1973Geburt am 10. März in Helsingborg, Schweden
  2. 2000Promotion an der London School of Economics
  3. 2002„Anthropic Bias“ erscheint
  4. 2014„Superintelligence“ erscheint
  5. 2024„Deep Utopia“ erscheint
  6. 2005Gründung des Future of Humanity Institute in Oxford

Werke

  • Superintelligence: Paths, Dangers, Strategies (2014)

    Ersterscheinung: Oxford University Press, Oxford, 2014 (die deutsche Wikipedia nennt 2013). Deutsche Ausgabe: „Superintelligenz. Szenarien einer kommenden Revolution“ (2014).

Lesetipps

Einstieg
Nick Bostrom, Superintelligenz. Szenarien einer kommenden Revolution (aus dem Englischen von Jan-Erik Strasser, Suhrkamp, 2014); die deutsche Ausgabe des Buches, das die Debatte über Risiken einer Superintelligenz anstieß.
Vertiefung
Stanford Encyclopedia of Philosophy, „Ethics of Artificial Intelligence and Robotics“, Abschnitt zu Superintelligenz

Noch nicht sicher belegt

  • Zu Bostrom gibt es keinen Eintrag in der Stanford Encyclopedia of Philosophy.
  • Quellen sind die englische und die deutsche Wikipedia, die Buchseite in der Wikipedia, der Eintrag der Stanford Encyclopedia of Philosophy zur Ethik der künstlichen Intelligenz und der Katalog der Deutschen Nationalbibliothek.
  • Die deutsche Wikipedia datiert die Oxford-Ausgabe von „Superintelligence“ auf 2013, die englische Buchseite und die Stanford Encyclopedia of Philosophy datieren sie auf 2014.
  • Im Text gilt 2014.
  • Die deutsche Ausgabe (Suhrkamp 2014, übersetzt von Jan-Erik Strasser) ist durch die deutsche Wikipedia und den Katalog belegt.
  • Das Beispiel mit dem Projekt nach dem Durchbruch ist ein Beispiel der Redaktion.
  • Die Verbindung zu Jonas ist nur ein Vergleich.
  • Die Verbindung zu Quine belegt nur, dass Bostrom ihn im Studium untersuchte, keinen Einfluss auf seine späteren Thesen.
  • Der Ort Oxford bezieht sich auf das 2024 geschlossene Institut.
  • Der Sitz seiner heutigen Initiative wurde nicht geprüft.

Wege durchs Netz

  • 4. Macht und Verantwortung

    Bostrom untersucht die Risiken einer künstlichen Intelligenz, die den Menschen in fast allen Bereichen übertrifft.

Herkunft der Daten: Kapitel Geist, Maschine und Technik. Prüfstand der Lebensdaten: belegt. Verbindungen, Kontext und Anekdote haben jeweils einen eigenen Prüfstand.

Quellen zu Bostrom

  1. [1]Nick Bostrom – Wikipedia (en), Abschnitt Early life and education
  2. [2]Nick Bostrom · Wikipedia
  3. [3]Superintelligence: Paths, Dangers, Strategies · Wikipedia
  4. [4]Stanford Encyclopedia of Philosophy
  5. [5]katalog.dnb.de/DE/list.html · Webseite

Zurück zur Landkarte · Suche