Die Bürger halten es schon aus, wenn man ihnen reinen Wein einschenkt. Wolfgang Schäuble

„Informationen sind billig, Deutungen sind teuer“

Er wuchs auf am Institute for Advanced Study in Princeton, baute Kajaks in Kanada und forscht seit den 80er-Jahren zur Zukunft des Internets. Martin Eiermann sprach mit dem Wissenschaftshistoriker George Dyson über die Katalogisierung des Internets, künstliche Intelligenz und die Definition des Lebens.

The European: Sie haben einmal gesagt, ein Computer sei „ein einfacher Geist mit einem Willen aber nur zwei Ideen“. Ist es sinnvoll, technische Geräte mit den Worten der Psychologie zu beschreiben?
Dyson: Das Zitat stammt ursprünglich von der Illustration eines Schaltkreises, die Lewis Fry Richardson in den 30er-Jahren angefertigt hat. Die Worte waren sehr prophetisch. Richardson zeichnete das Diagramm eines unbestimmten Schaltkreises, bei dem man nie vorhersagen konnte, in welchem Zustand er sich befinden würde. Vielleicht ist das der Ursprung des Geistes: Ein unvorhersagbarer Schaltkreis. Was an Richardsons Idee so wegweisend war, ist die Tatsache, dass er mit der Annahme aufräumte, dass Computer deterministisch sein müssten. Das hat einfach keinen Sinn, weil es im Universum nur sehr wenige Determinismen gibt. Alan Turing hat das so ausgedrückt: Das menschliche Gehirn ist nicht deterministisch und fehlerfrei. Warum wollen wir also, dass Computer fehlerfrei sind?

The European: Die Evolution ist vielleicht der ultimative ergebnisoffene Prozess auf der Erde. Sie braucht keinen Input von außen und keine vordefinierten Regeln, sie erwächst aus sich selbst heraus.
Dyson: Biologische Evolution ist ein Prozess, der sich von unten entwickelt. Natürlich können wir das nicht direkt mit der Evolution von Computern vergleichen, aber es gibt Gemeinsamkeiten. In beiden Fällen bilden sich mit der Zeit immer komplexere Strukturen heraus. Nils Aall Barricelli hat das bereits in den 50er-Jahren erkannt. Er versuchte, die Ursprünge des genetischen Codes zu verstehen und das dann auf die Entwicklung neuer Computer anzuwenden. Die Frage war, ob es möglich sein würde, einen Zuwachs an systemischer Komplexität durch dauerhaftes Rechnen zu erzielen. Heute ist es gang und gäbe, dass sich Computercodes frei verändern können – nicht durch Zufall, sondern durch Kreuzung und Symbiose, genau wie Barricelli es vorhergesagt hatte.

The European: Doch die Essenz liegt immer noch vor der Existenz, um Sartre zu zitieren. Wir bauen Computer heute immer noch, um bestimmte Dinge zu tun. Die Ausgangsannahmen sind in den Code einzementiert. Die Natur kann deutlich freier agieren: Wenn eine Umgebung kein kohlenstoffbasiertes Leben zulässt, kann vielleicht Leben auf Schwefelbasis entstehen. Chemische und biologische Prozesse führen dazu, dass aus toter Materie erst RNS und später DNS werden konnte. In anderen Worten: Die Blaupause selbst verändert sich.
Dyson: Ich glaube, dass wir die Unterschiede nicht überschätzen sollten. Biologisch hat sich irgendwann einmal das DNS-basierte System als Basis des Lebens herausgebildet und verhindert, dass andere Lebensformen entstehen konnten. Genauso ist das auch im Fall von Codes: Natürlich gibt es eine Beschränkung durch die zugrunde liegenden Annahmen, aber jenseits davon ist alles sehr offen. Und die Evolution von Computercodes läuft sehr viel schneller ab als die biologische Evolution.

„Wir wissen gar nicht, wie wir mit außerirdischem Leben umgehen würden“

The European: Das bringt uns zur Gretchenfrage: Was ist Leben? Biologie, Philosophie und Religion haben sehr unterschiedliche Antworten darauf …
Dyson: Ja, das ist eine sehr grundlegende und komplexe Frage. Ich glaube nicht, dass wir uns je auf eine Antwort einigen können. Ob etwas lebendig ist oder nicht, hängt schließlich von der Definition des Lebens ab. Es gibt einige eindeutige Beispiele für lebendige Organismen: Eine spielende Katze lebt, und ein erwachsener Mensch ist ein intelligentes Lebewesen. Aber wir kommen sehr schnell in Bereiche, in denen die Antworten nicht unbedingt eindeutig sind.

The European: Wie gehen wir mit dieser Unsicherheit um?
Dyson: Das hängt von unserem Urteilsvermögen ab. Barricelli hat sich für eine sehr breite Definition des Lebens eingesetzt. In den 50er-Jahren hatten wir gerade erst begonnen, den Weltraum zu erobern. Zum ersten Mal war es realistisch, dass wir eines Tages vielleicht Leben außerhalb unseres Planeten entdecken würden. Und Barricelli sorgte sich, dass wir es vielleicht aufgrund unserer engen Definition des Lebens übersehen würden.

The European: Die Antwort auf die Frage nach dem Leben hat direkte Auswirkungen auf unsere Umwelt. PID, Abtreibung oder genetische Manipulationen verlangen alle nach ethischen Standards. Es scheint mir also, als ob wir bei aller Unsicherheit bestimmte verbindliche Richtlinien definieren müssen, an denen sich Politik und Wissenschaft orientieren können.
Dyson: Unsere ethischen Standards lassen sich auf menschliches Leben anwenden und immer häufiger auch auf Tiere. Doch für andere Lebensformen existieren sie nicht. Wir wissen gar nicht, wie wir mit außerirdischem Leben umgehen würden. Genauso wie die Rechtsprechung müssen wir ethische Maximen also Schritt für Schritt weiterentwickeln. Sie können nicht einfach ein Gesetz verabschieden, das alle Straftaten abdeckt. Und genauso wenig können Sie eine ethische Norm definieren, die dann in allen Situationen und in alle Ewigkeit ihre Gültigkeit behält.

The European: Verändert sich unsere ethische Landkarte durch technologische Innovationen?
Dyson: Wir forschen an den Grenzen der Ethik – nicht nur bei Computern, sondern oftmals im Bereich der biologisch-technologischen Innovationen. Wem gehört unsere DNS? Was passiert, wenn jemand den DNS-Code entziffert? Dürfen wir genetische Informationen verkaufen und Handel damit treiben? Das sind sehr wichtige ethische Fragen. Auf einer höheren Ebene sind wir alle Teil des gleichen Universums. Heißt das, dass wir eine Verbundenheit mit anderen Lebensformen haben? Wir haben in der Geschichte mehrfach gesehen, wohin fehlende Empathie führen kann. Ich hoffe einfach, dass wir die Fehler der Vergangenheit nicht wiederholen.

The European: Welche Antworten kann die Wissenschaft auf diese ontologischen Fragen liefern?
Dyson: Ich bin der Sohn eines Physikers, vertrauen Sie mir also nicht zu sehr. Ich bin aufgewachsen mit der Idee, dass die Physik der Philosophie einiges voraushatte. Die Forscher, die in meiner Kindheit am Institute for Advanced Study in Princeton arbeiteten, waren ihrer Zeit weit voraus. Sie sahen die Dinge am Horizont, bevor sie passierten. In den 1950ern haben sie bereits über moderne Computertechnologie nachgedacht und konzeptionell an Ideen gearbeitet, die erst Jahrzehnte später realisiert wurden. Die Arbeit war sehr theoretisch, weil die praktische Umsetzung zur damaligen Zeit einfach unmöglich war. Und die Arbeit war auch sehr offen für moralphilosophische Argumente, weil manche der Ideen enormes Potenzial hatten, im Guten wie im Bösen. Gerade aufgrund dieser Unvorhersagbarkeit war es wichtig, sich mit der Moral zu befassen.

The European: Kernspaltung ist das klassische Beispiel dafür.
Dyson: Genau. Die Entwicklung von Atomwaffen – und vor allem von thermonuklearen Waffen – war mehr als ein physikalisches Projekt. Diese Waffen konnten zum ersten Mal alles Leben auf der Erde auslöschen. Wollen wir diese Macht? Und wie gehen wir mit ihr um, wenn wir sie haben? Ähnliche Debatten wurden über die synthetische Biologie geführt. Sobald bewiesen war, dass wir genetische Codes lesen und auch manipulieren können, gab es Anhörungen im US-Kongress, um die ethischen Implikationen auszuleuchten.

„Der komplizierte Teil ist, eine Karte des Internets zu zeichnen“

The European: Sie argumentieren, dass Google unsere Idee eines Computers nachhaltig verändert hat: Weg vom arithmetischen Modell, das auf der Verfügbarkeit aller notwendigen Informationen aufbaut. Und hin zu einem Wahrscheinlichkeitsmodell, das Netzwerke und Informationsmuster analysiert.
Dyson: Es gibt viele Formen der computergestützten Berechnung. Die klassische deterministische Rechenweise ist nur eine mögliche Form. Statistische Rechenweisen haben den Vorteil, dass sie deutlich robuster sind, weil nicht alle Informationen zur richtigen Zeit am richtigen Ort sein müssen. Aber die Entwicklung ist so schnell, dass wir hier wahrscheinlich schon wieder hinterherhinken. Wir verharren immer noch in den Denkmustern des 20. Jahrhunderts. Und wenn wir uns umsehen, ist plötzlich alles anders.

The European: Ist das einer der Gründe, warum Sie schreiben: „Es ist immer einfacher, Antworten zu finden. Schwierig ist es, die richtigen Fragen zu stellen.“?
Dyson: Der komplizierte Teil ist heute, eine Karte zu zeichnen, um die jeweiligen Antworten mit den richtigen Fragen zu verbinden. Google hat das gemacht: Sie haben die relativ unbegrenzte Rechenkraft ihrer Computer benutzt, um das Internet zu crawlen und zu indizieren. Und dann haben sie darauf gesetzt, dass die Menschen ihre kostbare Zeit darauf verwenden, Fragen zu stellen. Googles Aufgabe war es dann, die Verbindung herzustellen. Das ist ein kluger Ansatz für ein Problem, das ansonsten unvorstellbar kompliziert wäre.

The European: Googles Problem war nicht das Sammeln der Informationen, sondern die sinnvolle Kontextualisierung?
Dyson: Genau. Wir leben in einer Welt, in der Informationen potenziell endlos sind. Informationen sind billig, Deutungen sind teuer. „Was heißt das?“ ist heute die zentrale Frage. Das können nur Menschen beantworten, keine Computer. Wir interpretieren Informationen vor dem Hintergrund unserer eigenen Intelligenz und unserer Leben.

The European: Das bringt uns zurück zur Unvorhersagbarkeit des menschlichen Geistes. Kann ein Computer das jemals reproduzieren?
Dyson: Es könnte passieren. Im 15. Jahrhundert hatten die Menschen die archaische Vorstellung, dass der menschliche Geist auf der einen Seite des Intelligenzspektrums existierte, und Gott auf der anderen. Dazwischen war nichts außer vielleicht einigen Engeln. Ich finde diese Idee nicht sehr überzeugend; jede andere Hierarchie in der Natur hat sehr viele verschiedene Ebenen. Ich halte es für wahrscheinlicher, dass es auch in Bezug auf Intelligenz sehr viele Ebenen gibt. Schauen Sie aus dem Fenster: Dort laufen die Menschen herum und sind ganz automatisch Teil eines großen Rechennetzwerks – sie machen das, was ihr iPhone ihnen sagt. Meistens kommen wir mit dieser Form der Beeinflussung ganz gut klar.

The European: Ich bin noch skeptisch. Wie kann ein Computer die Kreativität und Vorstellungskraft des menschlichen Wesens spiegeln? Bisher ist auch das beste Smartphone vor allem ein Rechenwerkzeug.
Dyson: Sie haben durchaus recht, wir müssen die weitere Entwicklung abwarten. Aber ich bin mir nicht so sicher, ob Computer nur noch Werkzeuge sind. Wenn Sie auf dem iPhone Google Maps aufrufen, fragen Sie dann das Handy nach dem Weg? Oder diktiert das Handy Ihnen, wohin Sie zu gehen haben? Es gibt keine eindeutige Linie zwischen aktivem und passivem Informationsaustausch. Wenn jetzt eine außerirdische Lebensform auf die Erde käme und uns beobachten würde, dann wäre es vielleicht sehr einleuchtend, unser Verhalten ganz anders zu erklären. Die Aliens sähen vielleicht eine körperlose Form der Intelligenz, die ihren einzelnen Drohnen sagt, ob sie an der Kreuzung links oder rechts gehen sollen. Die Symbiose zwischen Mensch und Computer kann in verschiedene Richtungen interpretiert werden.

The European: Vergrößert sich unser Innovationspotenzial durch das Internet?
Dyson: Es ist sehr einfach, ein Pessimist zu sein. Es gibt heute keine gute Musik mehr, keine guten Filme. Aber vielleicht müssen wir uns einfach bewusst machen, dass Innovation sehr unterschiedliche Ergebnisse liefern kann. Vielleicht stimmt es, dass wir kollektiv unsere Zeit auf Facebook vergeuden. Aber genauso wahrscheinlich ist es, dass das nicht der Fall ist und unsere Kreativität davon profitieren kann.

The European: Ich habe eine andere Antwort von Ihnen erwartet. Immerhin bedienen wir uns jetzt nicht nur unserer eigenen Intelligenz, sondern wir nutzen auch computerbasierte Rechenleistung. Man könnte also davon ausgehen, dass sich unser Innovationspotenzial deutlich vergrößert.
Dyson: Ja und nein. Die Gefahr ist nicht, dass Maschinen sich nicht mehr weiterentwickeln. Aber wir müssen aufpassen, dass wir dabei nicht unsere eigene Intelligenz einbüßen. Auf einer sehr fundamentalen Ebene müssen wir uns fragen: Brauchen wir menschliche Intelligenz? Und was passiert, wenn wir sie nicht mehr trainieren, sondern alles auf Computer auslagern?

„Wir müssen unsere Intelligenzautarkie verteidigen“

The European: Die Frage ist also, welcher Fortschritt auch wirklich guter Fortschritt ist.
Dyson: Genau. Wie können wir die Vielfalt des Geistes erhalten? Es wäre doch schade, wenn wir etwas aufgeben, was sich über Jahrmillionen hinweg unter großen Schwierigkeiten herausgebildet hat. Ich habe einen Großteil meiner Zeit in der Wildnis verbracht und Kajaks gebaut. Ich glaube, dass wir unsere Intelligenzautarkie verteidigen müssen – damit wir auch in einer Umgebung ohne Computer überleben könnten. Sehr wenige Menschen leben heute noch autark. Das muss nicht unbedingt schlecht sein, aber wir sollten trotzdem aufpassen, dass wir uns nicht in ein technologisches Abhängigkeitsverhältnis begeben. Ich bin ein Wissenschaftshistoriker, ich glaube daran, die Vergangenheit zu bewahren.

The European: Welche Vorhersagen für die Zukunft können wir aufgrund der Erfahrungen der Vergangenheit treffen?
Dyson: Das Universum ist ein Raum der Möglichkeiten, in dem Mögliches real wird. In den letzten fünfzig Jahren haben wir Formen der künstlichen Intelligenz entwickelt, die in Zusammenarbeit mit Menschen in der Lage sind, diesen Raum unvorstellbar schnell zu durchsuchen. Aber wir können immer noch nicht vorhersagen, was als Nächstes passieren wird. Vielleicht müssen wir uns von der Idee der Arten und Gattungen verabschieden. Darwin hat sein Buch im 19. Jahrhundert noch „Die Entstehung der Arten“ genannt. Aber die Evolution ist nicht auf Arten begrenzt. Der nächste Schritt könnte also ohne Weiteres in Richtung symbiotischer Lebensformen gehen.

The European: Befinden wir uns an einem evolutionären Scheideweg? Oder ist es das alte Problem, dass die Dinge viel kritischer und revolutionärer erscheinen, als sie es letztendlich sind? Vor einer Diktatur der Maschinen wird immerhin bereits seit dem 19. Jahrhundert gewarnt …
Dyson: Die Geschwindigkeit und die Tragweite der technologischen Veränderungen sind heute so groß, dass sich wirklich radikal etwas verändern könnte. Barricelli hat bereits 1953 geschrieben, dass Computer unsere Vorstellung von Evolution über Jahrzehnte hinweg nachhaltig beeinflussen würden. Ich glaube nicht, dass er die Bedeutung des Fortschritts überschätzt hat. Als Samuel Butler 1863 sein Werk „Darwin Among The Machines“ geschrieben hat, gab es eine einzige Telegrafenverbindung, die elf Meilen lang war. Es hat hundert Jahre gedauert, bis wir uns am Übergang ins Computerzeitalter befanden. Aber hundert Jahre sind ein evolutionärer Augenblick. In den letzten dreißig Jahren allein haben wir den Grundstein gelegt für Veränderungen, die heute noch gar nicht abzusehen sind.

The European: Unsere Aufgabe ist es jetzt, diesen rasanten Fortschritt zu lenken?
Dyson: Wenn Sie zu einer unbekannten Insel aufbrechen, haben Sie keine konkreten Erwartungen, Sie sind offen für das Unbekannte. Ich glaube nicht, dass wir besonders gut darin sind, Entscheidungen zu treffen. Die meisten Dinge passieren einfach. Und dazwischen gibt es immer wieder einzelne kluge Köpfe, bei denen der Funke überspringt und den Fortschritt ankurbelt. Die Geschichte ist ein chaotischer Prozess, daher ist es enorm wichtig, dass wir immer flexibel bleiben. Sowohl Evolution als auch Innovation funktionieren ähnlich wie das Immunsystem des Menschen: Es gibt eine scheinbar unendlich lange Liste an potenziellen Gefahren und möglichen Antworten auf diese Gefahren. Der menschliche Körper versucht nicht, Vireninfektionen vorherzusehen. Er ist so aufgestellt, dass er mit jeder unerwarteten Gefahr umgehen kann.

Hat Ihnen das Interview gefallen? Lesen Sie auch ein Gespräch mit Luisa Maffi: „Kultur ist kein Ausstellungsstück“

Leserbriefe

comments powered by Disqus

Mehr zum Thema: Philosophie, Google, Internet

Kolumne

Medium_63973e8231
von Alexander Görlach
05.11.2015

Kolumne

Medium_57ff04dfa7
von Aleksandra Sowa
31.07.2015

Gespräch

Medium_c93d3a5f3e
meistgelesen / meistkommentiert