Effektiver Altruismus: ArtikelJuly 05, 202300:22:0915.24 MB

Das wichtigste Jahrhundert: Sämtliche möglichen Ansichten über die Zukunft der Menschheit sind verrückt

von Holden Karnofsky

Zusammenfassung:

  • Dieser Beitrag ist der Auftakt zu einer Reihe, in der ich darlegen werde, dass unsere Zivilisation im 21. Jahrhundert Technologien entwickeln könnte, die eine schnelle Ausbreitung in unserer derzeit menschenleeren Galaxie ermöglichen. Mit der Folge,  dass dieses Jahrhundert die gesamte Zukunft der Galaxie für zehn Milliarden Jahre oder länger bestimmen könnte.
  • Diese Ansicht scheint „verrückt“ zu sein: Wir sollten jeder Ansicht, wonach wir in einer ganz besonderen Zeit leben, skeptisch gegenüberstehen. Ich illustriere dies mit einer Timeline der Galaxie. (Aus meiner persönlichen Sicht ist diese „Verrücktheit“ wahrscheinlich der wichtigste Grund, warum ich den in dieser Reihe vorgebrachten Argumenten viele Jahre lang mit Skepsis begegnet bin. Solche Äußerungen über die Sonderstellung unserer Zeit scheinen „verrückt“ genug, um verdächtig zu sein.)
  • Allerdings bezweifle ich , dass es überhaupt möglich ist, eine nicht „verrückte“ Meinung zu diesem Thema zu haben. Ich diskutiere Alternativen zu meiner Ansicht: eine „konservative“ Sichtweise, nach der die von mir beschriebenen Technologien zwar möglich sind, jedoch, entgegen meiner persönlichen Einschätzung, erst in ferner Zukunft Realität werden, und eine „skeptische“ Sichtweise, in der eine Expansion im galaktischen Maßstab niemals stattfinden wird. Jede dieser Ansichten scheint auf ihre eigene Weise „verrückt“ zu sein.
  • Letztlich scheint es, wie das Fermi-Paradoxon andeutet, dass sich unsere Spezies einfach in einer „verrückten“ Situation befindet.

Bevor ich fortfahre, möchte ich festhalten, dass ich nicht glaube, dass eine pangalaktische Ausbreitung der Menschheit (oder eines digitalen Nachkommen der Menschheit) zwangsläufig etwas Gutes wäre – vor allem, wenn dadurch verhindert wird, dass jemals andere Lebensformen entstehen. Ich denke, es ist ziemlich schwierig, eine feste Meinung darüber zu haben, ob dies gut oder schlecht wäre. Ich möchte den Fokus auf die Idee legen, dass unsere Situation „verrückt“ ist. Ich plädiere nicht für Begeisterung oder Jubel über die Aussicht auf eine Expansion in der Galaxie. Ich plädiere für Ernsthaftigkeit angesichts des enormen Potenzials.

Meine Sichtweise

Dies ist der erste Teil einer Beitragsreihe über die Hypothese, dass wir im für die Menschheit wichtigsten Jahrhundert leben.

In dieser Reihe werde ich darlegen, dass die Chancen einer Produktivitätsexplosion bis zum Jahr 2100 gut stehen, was schnell zu einer „technologisch ausgereiften“ Zivilisation1 führen könnte. Das würde Folgendes bedeuten:

  • Wir wären in der Lage, Raumfahrzeuge in die gesamte Galaxie und darüber hinaus zu schicken.
  • Diese Raumfahrzeuge könnten Rohstoffe abbauen, Roboter und Computer bauen und sehr robuste, langlebige Siedlungen auf anderen Planeten errichten, Solarenergie von den Sternen nutzen und eine große Anzahl von Menschen (und/oder unsere „digitalen Nachkommen“) versorgen.
    • Siehe „Die Unendlichkeit in sechs Stunden“ (Originaltitel: Eternity in Six Hours) für eine faszinierende, kurze, wenn auch technische, Erklärung dazu, wie die Umsetzung eines solchen Vorhabens aussehen könnte.
    • In zukünftigen Beiträgen (die jetzt hier und hier verfügbar sind) werde ich auch argumentieren, dass die Gefahr eines „Value Lock-in“ besteht: Wer auch immer den Prozess der Expansion steuert, könnte die Entscheidungsgewalt darüber haben, welche menschlichen Gruppen die Siedlungen leiten und welche Art von gesellschaftlichen Werten diese Gruppen vertreten, und zwar auf eine Weise, die über viele Milliarden Jahre hinweg stabil bleibt.2

Wenn das der Fall sein sollte, kann man sich die Geschichte unserer Galaxie3 wie folgt vorstellen. Ich habe die wichtigsten Meilensteine auf dem Weg von „kein Leben“ zu „intelligentem Leben, das seine eigenen Computer baut und den Weltraum bereist“, markiert.

Mein Dank gilt Ludwig Schubert für die Visualisierung. Viele Daten sind sehr näherungsweise und/oder anfällig für Beurteilungen und/oder einfach aus Wikipedia gezogen (Quellen hier), aber plausible Änderungen würden das Gesamtbild nicht verändern. Die ~1,4 Milliarden Jahre bis zur vollständigen Ausdehnung des Weltraums basieren auf der Entfernung zum äußeren Rand der Milchstraße, geteilt durch die Geschwindigkeit eines schnellen, existierenden von Menschen gebauten Raumschiffs (Details in der gerade verlinkten Tabelle); dies ist wahrscheinlich eine massive Überschätzung der Zeit, die es braucht, um sich durch die gesamte Galaxie auszudehnen. Siehe Fußnote, warum ich keine logarithmische Achse verwendet habe.4

???  Das ist doch verrückt! Aus meiner Sicht besteht eine gute Chance, dass wir ganz am Anfang des winzigen Zeitfensters leben, in dem unsere bislang nahezu leblose  Galaxie zu einem weitgehend bevölkerten Raum wird. Dass wir von einer unvorstellbar großen Zahl von Menschen, die jemals existieren werden, zu den ersten gehören. Und dass von Hunderten von Milliarden von Sternen in unserer Galaxie ausgerechnet unserer die Wesen hervorbringen wird, die diesen Raum füllen.

Ich weiß, was viele Leser jetzt denken: „Die Wahrscheinlichkeit, dass wir in einer so bedeutsamen Zeit leben könnten, scheint verschwindend gering zu sein; die Wahrscheinlichkeit, dass es Größenwahn ist (im Namen der gesamten Erde, aber trotzdem Größenwahn), scheint viel größer zu sein.“5

Dagegen spricht:

Die „konservative“ Sichtweise

Nehmen wir mal an, man stimmt mit mir darin überein, wohin sich die Menschheit schließlich entwickeln könnte — dass wir irgendwann die Technologie haben werden, um robuste, stabile Siedlungen in unserer Galaxie und darüber hinaus zu schaffen. Aber man glaubt, es wird viel länger dauern, als ich es hier behaupte.

Eine wichtige Prämisse meiner Ansicht (über die ich später mehr schreiben werde) ist, dass wir in diesem Jahrhundert äußerst fortschrittliche KI entwickeln könnten, die das Potenzial hat, eine Produktivitätsexplosion auszulösen. Sagen wir, Du lehnst diese Prämisse ab.

  • Du gehst davon aus, dass ich die grundlegenden Limitationen bisheriger KI-Systeme unterschätze.
  • Du glaubst weiterhin, dass es einer enormen Anzahl neuer wissenschaftlicher Durchbrüche bedarf, um eine KI zu entwickeln, die wirklich so gut denken kann wie der Mensch.
  • Und selbst wenn wir diesen Schritt meistern, wäre es noch ein langer und steiniger Weg bis zur Ausbreitung in der gesamten Milchstraße.

Du rechnest nicht damit, dass irgendetwas davon in diesem Jahrhundert geschieht — Du glaubst, dass es vielleicht etwa 500 Jahre dauern wird. Das ist das 5- bis 10-fache der Zeit, die vergangen ist, seit wir begonnen haben, Computer zu bauen. Das ist mehr Zeit, als vergangen ist, seit Isaac Newton den ersten glaubwürdigen Versuch unternommen hat, physikalische Gesetze aufzustellen. Es ist ungefähr so viel Zeit wie seit  dem Beginn der wissenschaftlichen Revolution vergangen ist.

Nein, werden wir sogar noch konservativer. Du bist überzeugt, dass unser wirtschaftlicher und wissenschaftlicher Fortschritt stagnieren wird. Die heutigen Zivilisationen werden zerfallen und viele, viele weitere Zivilisationen werden Fall und Aufstieg erleben. Sicher, irgendwann werden wir die Fähigkeit erlangen, uns im Universum auszubreiten. Aber das wird 100.000 Jahre dauern. Das ist das 10-fache der Zeit, die vergangen ist, seit die menschliche Zivilisation in der Levante ihren Anfang nahm.

Hier ist Deine Version des Zeitstrahls:

Der Unterschied zwischen Deiner und meiner Timeline ist nicht einmal ein Pixel, so dass er in der Darstellung nicht auftaucht. Im Großen und Ganzen sind diese „konservative“ Ansicht und meine Ansicht identisch.

Es stimmt, dass die „konservative“ Sichtweise nicht die gleiche Dringlichkeit für unsere spezifische Generation hat. Aber wir gehören immer noch zu einer winzigen Gruppe von Menschen, die in einem unglaublich bedeutenden Zeitabschnitt leben.  Und es wirft immer noch die Frage auf, ob die Dinge, die wir tun, um die Welt zu verbessern — selbst wenn sie nur eine winzige Auswirkung auf die Welt in 100.000 Jahren haben — in einem galaktisch-historischen Maß verstärkt werden könnten und damit vergleichsweise einzigartige Einflussmöglichkeiten auf den Lauf der Dinge darstellen.

Die skeptische Sichtweise

Die „skeptische Sichtweise“ würde im Wesentlichen bedeuten, dass sich die Menschheit (oder ein Nachkomme der Menschheit, auch ein digitaler) niemals in der Galaxie ausbreiten wird. Es gibt viele Gründe, warum dies nicht der Fall sein könnte:

  • Vielleicht ist etwas an der Raumfahrt – und/oder der Einrichtung von Bergbaurobotern, Sonnenkollektoren usw. auf anderen Planeten – tatsächlich unmöglich, so dass dieser Punkt selbst durch weitere 100.000 Jahre menschlicher Zivilisation nicht erreichbar wäre.6
  • Oder vielleicht ist es technologisch machbar aber wird aus irgendeinem anderen Grund nicht passieren (weil niemand es tun will, weil diejenigen, die es nicht tun wollen, diejenigen, die es wollen, blockieren usw.)
  • Vielleicht ist es möglich, in die gesamte Galaxie zu expandieren, aber aus irgendeinem Grund nicht möglich, Milliarden von Jahren auf vielen verschiedenen Planeten präsent zu sein.
  • Vielleicht ist die Menschheit dazu bestimmt, sich selbst zu zerstören, bevor sie dieses Stadium erreicht.
    • Aber beachte: Wenn wir uns durch eine unkontrollierbare KI7 selbst zerstören, wäre es möglich, dass die KI ihre eigene Technologie entwickelt und sich in der gesamten Galaxis verbreitet, was immer noch im Einklang mit dem Geist der oben genannten Abschnitte zu stehen scheint. Tatsächlich unterstreicht diese Möglichkeit, dass die Art und Weise, wie wir in diesem Jahrhundert mit KI umgehen, Auswirkungen auf viele Milliarden Jahre haben könnte. Also müsste die Menschheit auf eine Weise aussterben, die kein anderes intelligentes Leben (oder intelligente Maschinen) zurücklässt.
  • Vielleicht wird sich eine außerirdische Spezies vor uns in der Galaxie ausbreiten (oder ungefähr zur gleichen Zeit).
    • Es ist jedoch zu beachten, dass dies in den ~13,77 Milliarden Jahren seit Beginn des Universums nicht geschehen zu sein scheint, und meinen Ausführungen in den obigen Abschnitten zufolge verbleiben nur noch etwa 1,5 Milliarden Jahre, bevor wir selbst uns über die gesamte Galaxie ausbreiten.
  • Vielleicht hat sich eine außerirdische Spezies bereits erfolgreich in unserer Galaxie ausgebreitet, und aus irgendeinem Grund sehen wir sie nur nicht. Vielleicht verstecken sie ihre Anwesenheit absichtlich, aus dem einen oder anderen Grund, während sie bereit sind, uns davon abzuhalten, uns zu weit auszubreiten.
    • Das würde bedeuten, dass sie sich dafür entscheiden, keine Energie von den Sternen zu schöpfen, die wir sehen können, zumindest nicht so, dass wir es sehen können. Das würde wiederum bedeuten, dass sie auf den Gewinn einer sehr großen Menge an Energie verzichten, die sie nutzen könnten, um zu tun, was auch immer sie tun, einschließlich der Verteidigung gegen Spezies wie die unsere.
  • Vielleicht ist das alles ein Traum. Oder eine Simulation.
  • Vielleicht auch etwas anderes, was mir nicht einfällt.

Das ist eine ganze Reihe von Möglichkeiten, auch wenn viele davon auf ihre eigene Weise ziemlich „verrückt“ erscheinen. In der Summe würde ich diesen Szenarien eine Eintrittswahrscheinlichkeit von über 50 % geben ... aber es würde mir sehr seltsam vorkommen, zu behaupten, dass sie insgesamt überwältigend wahrscheinlich seien.

Letztendlich fällt es mir sehr schwer einen Grund dagegen zu nennen, dass so etwas zumindest einigermaßen wahrscheinlich ist: „Wir werden letztendlich langlebige, stabile Siedlungen in unserer Galaxie und darüber hinaus schaffen.“ Es scheint, als würde ein Nein zu dieser Aussage ein „verrücktes“ Vertrauen in unumstößliche Grenzen der Technologie und/oder in langfristige Entscheidungen der Menschen und/oder in die Unvermeidbarkeit des Aussterbens der Menschheit und/oder in Außerirdische oder Simulationen voraussetzen.

Ich kann mir vorstellen, dass diese Behauptung für viele Leser intuitiv ist, aber nicht für alle. Sie eingehend zu verteidigen steht im Moment nicht auf meiner Agenda, könnte aber im Falle einer wachsenden Nachfrage zu einer Priorität werden.

Warum alle möglichen Sichtweisen „verrückt“ sind: das Fermi-Paradoxon

Ich behaupte, dass es „verrückt“ wäre zu denken, dass wir die Möglichkeit einer galaktischen Expansion sicher ausschließen können, aber es  ebenso „verrückt“ wäre zu denken, dass wir eine gute Chance haben, uns in der Galaxie zu verbreiten.

Mit anderen Worten: Ich bezeichne jede mögliche Überzeugung zu diesem Thema als „verrückt“. Ich tue dies, weil ich denke, dass wir uns in einer verrückten Situation befinden.

Hier sind einige alternative Situationen, in denen wir uns hätten wiederfinden können, die ich nicht als so „verrückt“ ansehen würde:

  • Wir könnten in einer Galaxie leben, die größtenteils bevölkert ist, sei es von unserer Spezies oder von einer Reihe von außerirdischen Spezies. Wir würden uns in einer dicht bevölkerten Region des Weltraums befinden, umgeben von bevölkerten Planeten. Vielleicht sollten wir die Geschichte unserer Zivilisation lesen. Wir würden wissen (aus der Geschichte und aus dem Mangel an leeren Sternen), dass wir keine ungewöhnlich frühen Lebensformen waren, die ungewöhnliche Chancen vor sich hatten.
  • Wir könnten in einer Welt leben, in der die Art von Technologien, die ich hier erörtert habe, niemals möglich wären. Wir hätten keine Hoffnung, in den Weltraum zu reisen, unser eigenes Gehirn zu erforschen oder unseren eigenen Computer zu bauen … Vielleicht könnten wir irgendwie Leben auf anderen Planeten aufspüren, aber wenn wir das täten, würden wir feststellen, dass es ihnen an dieser Art von Technologie ebenso mangelt.

Tatsächlich  scheint die Ausdehnung in den Weltraum jedoch machbar und unsere Galaxie ist leer. Diese beiden Umstände stehen augenscheinlich in einem Spannungsverhältnis. Ein ähnliches Spannungsverhältnis – die Frage, warum wir keine Anzeichen von Außerirdischen sehen, obwohl es in der Galaxie so viele mögliche Sterne gibt, aus denen sie hervorgehen könnten — wird oft unter dem Begriff Fermi-Paradoxon diskutiert.

Wikipedia hat eine Liste möglicher Auflösungen des Fermi-Paradoxons. Viele davon entsprechen den Möglichkeiten der skeptischen Sichtweise. Einige scheinen für diesen Beitrag weniger relevant zu sein. (Es gibt zum Beispiel verschiedene Gründe, warum Außerirdische anwesend sein könnten, aber nicht entdeckt werden. Aber ich denke, dass jede Welt, in der Außerirdische unsere Spezies nicht an der galaktischen Expansion hindern, am Ende „verrückt“ ist, selbst wenn die Außerirdischen da sind).

Meines Erachtens spricht die beste heute verfügbare Analyse des Fermi-Paradoxons für die Erklärung, dass intelligentes Leben extrem selten ist: Irgendetwas an der Entstehung von Leben oder der Entwicklung von Gehirnen ist so unwahrscheinlich, dass es in vielen (oder allen) anderen Teilen der Galaxie nicht stattgefunden hat.8

Das würde bedeuten, dass die schwierigsten und unwahrscheinlichsten Schritte auf dem Weg zur galaktischen Ausdehnung die Schritte sind, die unsere Spezies bereits unternommen hat. Und das wiederum bedeutet, dass wir in einer seltsamen Zeit leben: extrem früh in der Geschichte eines extrem ungewöhnlichen Sterns.

Wenn wir anfangen würden, anderswo in der Galaxie Anzeichen intelligenten Lebens zu finden, würde ich das als ein großes Update weg von meiner derzeitigen „verrückten“ Sichtweise betrachten. Es würde bedeuten, dass das, was andere Spezies von der Expansion abgehalten hat, auch uns aufhalten wird.

Dieser blassblaue Punkt könnte eine große Sache sein

Die Erde als einen winzigen Punkt auf einem Foto aus dem All beschreibend, wählen Ann Druyan und Carl Sagan folgende Worte:

Die Erde ist eine sehr kleine Bühne in einer riesigen kosmischen Arena. Denken Sie an die Ströme von Blut, die von all den Generälen und Kaisern vergossen wurden, damit sie in Ruhm und Triumph vorübergehend Herr über einen Bruchteil eines Punktes werden konnten … Unsere Anmaßungen, unsere eingebildete Selbstherrlichkeit, die Illusion, dass wir eine privilegierte Stellung im Universum einnehmen, werden durch diesen blassen Lichtpunkt in Frage gestellt … Es heißt, Astronomie sei eine einen demütig werdende und charakterbildende Erfahrung … Es gibt wohl keinen besseren Beweis für die Torheit menschlicher Einbildungen als dieses ferne Bild unserer kleinen Welt.

Dies ist eine weit verbreitete Ansicht – wenn man unser Leben im Kontext von Milliarden von Jahren und Milliarden von Sternen betrachtet, erkennt man, wie unbedeutend all die Dinge sind, die uns heute am Herzen liegen.

Doch hier beziehe ich die entgegengesetzte Position.

Es sieht ganz danach aus, als hätte unser „winziger Punkt“ eine echte Chance, der Ursprung einer galaxisweiten Zivilisation zu sein. Es scheint absurd, ja wahnhaft, an diese Möglichkeit zu glauben. Aber angesichts unserer Beobachtungen erscheint es ebenso seltsam, sie zu verwerfen.

Und wenn das stimmt, könnten die Entscheidungen, die in den nächsten 100.000 Jahren – oder gar in diesem Jahrhundert  getroffen werden, darüber entscheiden, ob diese Zivilisation in der Galaxis existieren wird und welche Werte sie über Milliarden von Sternen und Milliarden von Jahren hinweg hat.

Wenn ich also in die unendlichen Weiten des Weltraums blicke, denke ich nicht: „Ach, letztlich ist das alles unwichtig.“ Ich denke: „Nun, einiges von dem, was wir tun, spielt wahrscheinlich keine Rolle. Aber manches von dem, was wir tun, könnte wichtiger sein als alles andere jemals wieder ... Es wäre wirklich gut, wenn wir den Ball im Auge behalten könnten …[*Schluck*]

1 Oder Kardaschow Typ III.

2 Wenn wir im Stande sind sogenannte Mind Uploads zu kreieren oder detaillierte Simulationen von Personen, die sich so wie wir ihrer selbst bewusst sind, könnte es möglich sein sie in virtuellen Umgebungen zu platzieren, die automatisch neu starten oder anderweitig die Umgebung „korrigieren“, wann immer sich die Gesellschaft sonst auf bestimmte Weisen ändern würde (zum Beispiel wenn eine bestimmte Religion dominant wird oder Dominanz verliert). Das könnte den Designern dieser „virtuellen Umgebungen“ die Fähigkeit geben, bestimmte Religionen, Herrscher etc. einzurasten. Ich werde dies in künftigen Texten weiter diskutieren (nun verfügbar hier und hier).

3 Ich habe mich einigermaßen willkürlich auf die „Galaxie“ fokussiert. Sich durch das gesamte zugängliche Universum auszubreiten würde deutlich länger dauern als sich durch die Galaxie auszubreiten und bis wir das tun, ist es noch vorstellbar, dass eine Spezies von außerhalb unserer Galaxie die „stabile Zivilisation galaktischer Größe“ stören wird, aber ich denke, dass es ein gutes Bisschen Komplexität bedeuten würde, diesem Umstand korrekt Rechnung zu tragen, ohne das Gesamtbild zu ändern. Vielleicht werde ich das aber in einem künftigen Beitrag adressieren.

4 Eine logarithmische Version schaut nicht weniger komisch aus, denn die Distanzen zwischen den „mittleren“ Meilensteinen sind winzig verglichen mit sowohl den Zeitspannen vor als auch nach diesen Meilensteinen. Im Grunde genommen geht es darum, wie bemerkenswert es ist, in den wichtigsten [wenigen] Jahren von [vielen] Jahren zu sein – das lässt sich am besten auf einer linearen Achse darstellen. Es ist oft der Fall, dass seltsam aussehende Diagramme mit logarithmischen Achsen vernünftiger aussehen, aber in diesem Fall denke ich, dass das Diagramm seltsam aussieht, weil die Situation seltsam ist. Die wahrscheinlich am wenigsten seltsam aussehende Version dieses Diagramms wäre, wenn die x-Achse so etwas wie der Logarithmus des zeitlichen Abstands zum Jahr 2100 wäre, aber das wäre eine gewaltige Prämisse für mein Diagramm – das würde im Grunde mein Argument, dass unsere Zeit eine besondere ist, in den Aufbau des Diagramms integrieren.

5 Das ist die Art von Gedanken, die mich viele Jahre skeptisch sein ließ hinsichtlich der Argumente über mögliche Folgen und das Timing von fortschrittlichen Technologien, die ich im Rest dieser Beitragsreihe darlegen werde. Sich damit auseinanderzusetzen, wie fast unbestreitbar „verrückt“ unsere Situation ist, war zentral für mich.