Die Demokratie ist die schlechteste aller Staatsformen, ausgenommen alle anderen. Winston Churchill

„Perfektion ist kein gutes Konzept“

Der Statistiker und Philosoph Nick Bostrom leitet das Oxford Future of Humanity Institute. Mit Martin Eiermann sprach er über existenzielle Bedrohungen, genetische Manipulationen und die Bedeutung der Moral für technologischen Fortschritt.

innovation genetik gesellschaft ethik technologie fortschritt risiko krankheit

The European: Ich würde gerne mit einem Zitat von Ihrer Webseite beginnen. Sie schreiben: “Wenn wir uns in die falsche Richtung bewegen, brauchen wir alles außer weiterem Fortschritt.” Können wir denn feststellen, dass wir in die falsche Richtung marschieren, ohne uns weiter zu bewegen?
Bostrom: Das ist eine gute Frage. Wahrscheinlich müssen wir vorsichtige Schritte machen. Aber sie müssen klein und abgewogen sein, wenn wir verstehen wollen, ob die Richtung stimmt.

The European: Also die Idee der praktischen Klugheit: Wir müssen Fehler machen, um uns weiter zu entwickeln.
Bostrom: Wenn wir unsere kognitiven Fähigkeiten weiter entwickeln und die Welt besser verstehen lernen – das müssen wir tun, wenn wir herausfinden wollen, was richtig ist – dann wird das auch Auswirkungen auf die Geschwindigkeit von Veränderungen haben. Je besser wir unsere Technologien verstehen, desto eher werden wir neue Technologien entwickeln. Dieses praktische Wissen ist also ein sehr wichtiger Teil von Innovation.

The European: Eine wichtige Aufgabe ist also, die Grenzen des Machbaren zu definieren?
Bostrom: Ich glaube, das ist ein wichtiger Aspekt, wenn wir uns Gedanken über die richtige Herangehensweise an technologischen Fortschritt machen wollen. Hier ist ein konkretes Beispiel: Stellen wir uns vor, dass wir darüber nachdenken, mehr in Richtung synthetischer Biologie zu forschen. Das bietet Chancen und beinhaltet auch Risiken. Um jetzt eine kluge Entscheidung zu treffen, müssen wir diese Risiken verstehen. Wir würden dann vielleicht feststellen, dass das Missbrauchspotential sehr hoch ist, dass wir eine neue Generation biologischer Waffen einläuten oder anderen schädlichen Entwicklungen Vorschub leisten. Mit diesem Wissen haben wir schon den ersten Schritt getätigt, um synthetische Biologie in eine ganz bestimmte Richtung zu lenken und genau diese Risiken zu minimieren. Man muss immer abwägen: Wir wollen potenzielle Gefahren im Detail verstehen, aber wir wollen uns dabei nicht zu weit vor wagen. Wenn wir zu viele Experimente durchführen und zu viele Informationen über die Risiken sammeln, werden sie möglicherweise plötzlich zu realen Bedrohungen.

The European: Welche Risiken muss eine Gesellschaft denn tolerieren können?
Bostrom: Mein Fokus liegt auf dem Gebiet der existenziellen Risiken, also am extremen Ende der Bedeutsamkeitsskala. Ein solches Risiko ist etwas, dass entweder die Auslöschung intelligenten Lebens oder die permanente Zerstörung von Möglichkeiten der Weiterentwicklung verursachen könnte. Es wäre das Ende der menschlichen Geschichte. Daher ist es natürlich wichtig, dass wir diese existenziellen Risiken soweit möglich verringern.

“Die größten Risiken sind vom Menschen gemacht”

The European: Woher kommen diese Risiken?
Bostrom: Es können natürliche Risiken sein, wie zum Beispiel Vulkanausbrüche oder Asteroiden, oder auch menschengemachte Risiken. Diese zweite Kategorie ist besonders wichtig; wir nennen sie anthropogene Risiken. Die größten dieser Risiken werden meiner Meinung nach aus dem technologischen Fortschritt resultieren: Künstliche Intelligenz oder fortschrittliche Formen der Nanotechnologie, die für neue Waffensysteme verwendet werden können. Es kann auch sein, dass es biotechnologische Bedrohungen gegen wird oder dass neue Formen der Überwachung und der Kontrolle unserer Gedanken zu globalem Totalitarismus führen. Und es wird auch Risiken geben, die wir noch gar nicht auf dem Schirm haben.

The European: Kann die ethische Diskussion mit der Entwicklung neuer Technologien Schritt halten? Oder, um es anders zu formulieren: Denken wir wirklich genug über die möglichen Konsequenzen und Risiken des Fortschritts nach?
Bostrom: Die ethischen Diskussionen fangen gerade erst an. Ich habe das Konzept des existenziellen Risikos erst im Jahr 2001 entwickelt. Der technologische Fortschritt ist dagegen ein Jahrtausende altes Phänomen. Wir starten also mit Verspätung, aber ich hoffe, dass wir schnell aufholen werden. Wir müssen auf der Ebene der Moral darüber nachdenken, wie wir uns als Spezies verhalten.

The European: Apokalyptische Gedanken gibt es ebenfalls seit tausenden von Jahren. Bisher waren die Vorhersagen zum Glück immer falsch. Warum sollten wir jetzt plötzlich anfangen, uns Sorgen zu machen?
Bostrom: Historisch gesehen waren die Vorhersagen inhaltslos. Sie wurden nicht auf Basis wissenschaftlicher Erkenntnisse oder sorgfältiger Analysen erstellt, sonder basierten auf religiösen Prophezeiungen. Bisher hat uns schlicht die Fähigkeit gefehlt, um selbst auszurotten, vielleicht ist das sogar immer noch der Fall. Sogar zu Zeiten des Kalten Krieges hätte ein nuklearer Erstschlag die Menschheit nicht ausgerottet.

The European: Warum nimmt das anthropogene Risiko jetzt auf einmal zu?
Bostrom: Unser bisheriges Überleben – den modernen Menschen gibt es seit etwa 100,000 Jahren – lässt die Schlussfolgerung zu, dass natürliche Risiken eher gering sind. Da sie die Existenz des Menschen bisher nicht beendet haben, werden sie es wahrscheinlich auch in naher Zukunft nicht tun. Das ist eine statistische Feststellung. Die Risiken, um die wir uns sorgen sollten, ergeben sich also aus dem technologischen Fortschritt. Er bringt neue Faktoren und statistische Unsicherheit ins Spiel – wir können uns nicht sicher sein, dass die Risiken kontrollierbar sein werden. Heute ist das menschliche Potenzial, Gutes oder Böses zu tun, größer als jemals zuvor. Wir können das globale System verändern. Wir können in wenigen Stunden um die Welt reisen. Wir können das Klima beeinflussen. Zwei Weltkriege haben wir bereits durchlebt. Es ist absehbar, dass wir in diesem Jahrhundert neue Technologien entwickeln, die unsere Macht über die Natur und über uns selbst noch vergrößern. Wir werden vielleicht sogar in der Lage sein, die Natur des Menschen zu verändern.

The European: Wir haben auch einmal geglaubt, dass Geschwindigkeiten über 50 km/h uns verrückt machen würden, oder dass Atombomben die Atmosphäre entzünden könnten, oder dass wir in Teilchenbeschleunigern unkontrollierbare schwarze Löcher erzeugen würden…
Bostrom: Die Frage nach Geschwindigkeit ist keine Frage eines existenziellen Risikos. Im Fall der Atomwaffen ist das anders. Das ist unter Umständen das erste anthropogene existenzielle Risiko. Und die Wahrscheinlichkeit einer Katastrophe wurde als groß genug angesehen, damit sich einer der Wissenschaftler des Manhattan-Projekts intensiv damit beschäftigt hat und eine Studie angefertigt hat. Er ist dann zum Ergebnis gekommen, dass die Atomsphäre nicht explodieren würde. Das war korrekt, wie wir jetzt wissen. Je größer das Potential eines existenziellen Risikos, desto vorsichtiger müssen wir sein und die möglichen Konsequenzen von Innovationen untersuchen.

The European: Sie haben bereits davon gesprochen, dass wir die Natur des Menschen verändern könnten. Wenn wir über das menschliche Potential nachdenken, definieren wir das oftmals im Bezug auf unsere kognitiven Fähigkeiten: Wir sind rational begabte Wesen, anders als Tiere. Ist diese Beschreibung ausreichend?
Bostrom: Nein, sie ist unvollständig. Unsere kognitiven Fähigkeiten sind aber der wichtigste Unterschied zwischen Mensch und Tier; sie haben uns dazu befähigt, Sprachen zu lernen, komplexe soziale Organisationsstrukturen zu entwickeln und uns mit Kultur, Wissenschaft und Technologie zu beschäftigen. Ein paar kleine Unterschiede in der Architektur unseres Gehirns haben zu einer Situation geführt, in der eine Spezies zunehmend die Kontrolle über alle anderen Arten auf der Erde hat.

“Es gibt immer ein Besser und ein Schlechter”

The European: Wenn wir über die Manipulation des menschlichen Erbguts reden, schwingt immer auch die Idee von Perfektion mit: Wir wollen das Negative minimieren und einen möglichst perfekten Menschen schaffen. Aber was heißt das überhaupt: Perfektion?
Bostrom: Ich glaube nicht, dass Perfektion ein nützliches Konzept ist. Es gibt nicht nur eine Vorstellung eines optimalen Lebens, Perfektion mag für andere Menschen ganz anders aussehen als für mich. Aber die Unmöglichkeit einer Definition sollte uns nicht blind machen für die Tatsache, dass es immer ein Besser und ein Schlechter gibt. Es ist ein Zeichen von gesundem Menschenverstand, dass wir lieber gesund als krank sind. Und wir glauben auch, dass wir die intellektuelle und körperliche Entwicklung unserer Kinder unterstützen sollten. Wir nutzen das Bildungssystem, um unsere kognitiven Fähigkeiten zu verbessern. Wir machen Sport. Wir verbieten Bleirohre, weil die Gifte aus dem Blei unser Gehirn schädigen. Dieses Instrumentarium wird durch den technologischen Fortschritt noch erweitert. Ich glaube nicht, dass es einen grundsätzlichen moralischen Unterschied zwischen alten und neuen Formen der Verbesserung unseres Lebens gibt.

The European: Sie haben diese Eigenschaften – ein langes Leben, Gesundheit, soziale Einbindung – als “inhärent wertvoll” bezeichnet. Sie sind der Anker der ethischen Rechtfertigung von genetischen Manipulationen. Wie können wir sicherstellen, dass weiterer Fortschritt nicht dazu führt, dass wir Eigenschaften verändern, die entweder schlecht sind oder nur unter bestimmten Bedingungen hilfreich?
Bostrom: Wir müssen zwischen positionellen und nicht-positionellen Werten unterscheiden. In der Wirtschaftstheorie ist ein positioneller Wert nur wertvoll, weil manche ihn nicht besitzen. Körpergröße ist ein solcher relativer Wert: Wenn alle anderen sechs Zentimeter größer sind als ich, nutzt mir auch eine objektiv hohe Körpergröße nichts. Attraktivität ist ein weiteres Beispiel: Hübsch sein hilft wenig, wenn alle anderen hübscher sind. Der Gewinn einer Person impliziert also den Verlust des Wertes für eine andere Person. Ein Wert wie Gesundheit ist dagegen nicht-positional. Es ist immer gut, gesund zu sein – auch wenn andere ebenfalls gesund sind. Kognitive Veränderungen sind ein komplexes Feld, aber es gibt zumindest einige Aspekte, die nicht-positional sind: Es ist inhärent gut, wenn wir die Welt verstehen können. Argumente gegen positionale Werte sind keine Argumente gegen genetische Verbesserungen.

The European: Das Dammbruchargument ist eine Antwort auf ihren Optimismus – wenn wir erst einmal beschlossen haben, uns der Genetik zu öffnen, wird es schwer sein, Grenzen zu setzen und den Fortschritt zu lenken. Wie schützen wir uns gegen ungewollte Konsequenzen?
Bostrom: Ja, wir müssen mit diesen Konsequenzen rechnen. Momentan wird zum Beispiel viel im Bereich der Kosmetik geforscht. Schönheit ist höchstens ein positionaler Wert, trotzdem investieren wir viel Zeit und Geld in die Forschung. Es gibt aber keine moralischen Gründe, warum wir unsere Haut pflegen sollten. Auf der anderen Seite beschäftigen wir uns kaum mit Verbesserungen unserer kognitiven Fähigkeiten. Das hat teilweise mit den regulatorischen Rahmenbedingungen zu tun. Medizin wird bisher immer als Heilung einer Krankheit verstanden. Wenn sie ein neues Medikament entwickeln wollen, müssen sie zeigen, dass es eine Krankheit effektiv behandelt. Das ist doch pervers: Wenn sie die Fähigkeiten unseres Gehirns verbessern wollen, müssen sie zeigen, dass unser Gehirn aktuell krank und verkümmert ist. Sie können nicht sagen: “Wir wollen das einfach besser machen”. Dieses Stigma müssen wir ablegen.

The European: Der Philosoph Michael Sandel schreibt, dass es wertvoll an sich ist, die biologische Lotterie zu akzeptieren. Wir sollten demütig bleiben und unsere evolutionären Geschenke annehmen, anstatt sie durch Erziehung oder genetische Manipulationen auszuhebeln.
Bostrom: Die Idee der Akzeptanz von Geschenken macht Sinn, wenn es jemanden gibt, der Sie beschenkt. Wenn man dann ein Geschenk nicht akzeptiert, kann man Menschen vor den Kopf stoßen. Aber wir reden doch von natürlichen Begebenheiten wie etwa der Anfälligkeit für Krebs oder Malaria. Ich glaube, dass wir solche “Geschenke” auf jeden Fall ablehnen sollten.

The European: Die Konsequenz wäre, dass jeder einen bestimmten Standard an Talent für sich beanspruchen würde, als gäbe es ein Anrecht auf Intelligenz oder gute Gene.
Bostrom: Ich habe kein Problem damit, wenn mehr Menschen ein Anrecht auf ein gutes Leben haben. Wir sollten das fördern.

“Es ist nicht klar, dass wir verantwortungsbewusst mit neuen Technologien umgehen können”

The European: Francis Fukuyama hat den Transhumanismus als “größte Bedrohung der Menschheit” bezeichnet. Warum der Kulturpessimismus?
Bostrom: Von manchen Technologien gehen enorme Gefahren aus. Es ist nicht klar, dass wir verantwortungsbewusst damit umgehen können. Das ist ein Teil der Erklärung. Aber ich sehe da auch viele doppelte Standards: Wir akzeptieren die Erfindungen und Innovationen der Vergangenheit, aber wir sind oftmals kritischer gegenüber neuen Entwicklungen. Wenn Sie sich die Medizingeschichte ansehen, gibt es viele Dinge, die zum Zeitpunkt ihrer Erfindung sehr kritisch gesehen wurden. Herztransplantationen waren einmal als unmoralisch verpönt – wie könnte man auf die Idee kommen, den Brustkorb eines Menschen zu öffnen und sein Herz in den Körper eines anderen zu setzen? Oder nehmen Sie Betäubung während der Geburt: Als man das eingeführt hat, gab es biokonservative Stimmen, die argumentiert haben, eine Frau müsse beim Kinderkriegen leiden. Und es gab diejenigen, die gegen die Befruchtung von Eizellen im Reagenzglas waren, weil die Kinder angeblich nicht mit dem Wissen um die eigene, künstliche Herkunft klarkommen würden. Es gibt also diese instinktive Gegenreaktion, wenn wir neue biomedizinsche Verfahren einführen. Normalerweise verflüchtigt sich das aber, wenn wir uns mit den neuen Technologien vertraut machen.

The European: Aber noch einmal: Wie können wir Fortschritt von wünschenswerten Fortschritt unterscheiden?
Bostrom: Wir müssen untersuchen, welche Sorgen auf irrationalen Vorurteilen basieren und welche nicht. Das müssen wir dann abwägen gegen mögliche Vorteile. Wir müssen uns überlegen, was praktisch machbar und politisch durchsetzbar ist und Prioritäten festsetzen.

The European: Welche Ansätze für die Manipulation der menschlichen Natur sehen Sie als besonders vielversprechend an? Welche konkreten Schritte sollten wir angehen?
Bostrom: Ich fände es fantastisch, wenn wir leichte kognitive Verbesserungen erreichen könnten, die uns mehr mentale Energie geben oder Krankheiten wie Alzheimer entgegenwirken. Es ist aber so, dass wir die Schwierigkeiten dieser Manipulationen gerne unterschätzen. Der Mensch ist ein sehr komplexer Organismus. Wenn wir damit herumexperimentieren und nicht genau wissen, was wir eigentlich machen, dann werden wir wahrscheinlich Schäden anrichten, deren Nebenwirkungen vielleicht erst viel später offensichtlich werden.

The European: Und das vergrößert dann unter Umständen die Wahrscheinlichkeit eines existenziellen Risikos?
Bostrom: Die falsche Art von Manipulationen stellt eine existenzielle Bedrohung dar. Bei kognitiven Verbesserungen glaube ich, dass die Summe der Effekte eindeutig positiv ist. Wir vergrößern vielleicht die Geschwindigkeit von Innovationen, aber wir verbessern auch unsere Fähigkeit, darüber nachzudenken. Wenn ich diesen Optimismus nicht hätte, müsste ich konsequent sein und sagen, dass mir auch Blei im Trinkwasser egal ist. Es gibt einfach keinen Grund anzunehmen, dass unsere aktuellen kognitiven Fähigkeiten optimal sind.

Hat Ihnen das Interview gefallen? Lesen Sie auch ein Gespräch mit Vinton Cerf: „In 100 Jahren ist das Internet ein alter Hut“

Leserbriefe

comments powered by Disqus

Mehr zum Thema: Innovation, Genetik, Gesellschaft

Kolumne

Medium_97a379b628
von Bernd Westermeyer
05.09.2016

Kolumne

Medium_eaab4c14d5
von Christoph Butterwegge
16.11.2015

Debatte

Der Unsinn des Andreas Kern

Medium_66992fa75f

Burn-out im Hamsterrad?

Entfaltung für alle, statt sinnlose 40-Stunden-Woche im Büro: Jan Korte vom „transform“-Magazin antwortet auf Andeas Kern. weiterlesen

Medium_b78ecafd9b
von Jan Korte
30.05.2015
meistgelesen / meistkommentiert