Mit Verlaub, Herr Präsident, Sie sind ein Arschloch. Joschka Fischer

„Es ist gut, wenn jeder von uns ein kleines Mysterium bleibt“

Noch nie gab es so viele Daten über unseren Alltag wie heute. Martin Eiermann sprach mit dem Mathematiker Stephen Wolfram über künstliche Intelligenz, die Möglichkeit Computer aus Molekülen herzustellen und die Suchmaschine WolframAlpha.

The European: Vorigen Monat wäre Alan Turing 100 Jahre alt geworden. In den vergangenen Jahren ist Turing von einem obskuren Forscher zum Star der Computerwissenschaft geworden. Was ist heute noch relevant an seiner Arbeit?
Wolfram: Turing war ziemlich unbekannt, als ich in den 70er-Jahren zum ersten Mal von ihm gehört habe. Nachdem Andrew Hodges dann 1992 eine Biografie über ihn veröffentlicht hat, ist Turing immer stärker ins Rampenlicht gerückt. Heute merken wir, dass die Computerwissenschaft sich genau in die Richtung entwickelt, über die Turing vor 70 Jahren schon nachgedacht hat. Und ich habe gemerkt, dass ich mich für genau die gleichen Dinge interessiere, an denen auch Turing gearbeitet hat. Sein wichtigster Beitrag war, dass er abstrakt über die Idee eines Computers nachgedacht hat. Irgendwann ist er dann von anderen Dingen abgelenkt worden und hat nie versucht, diese abstrakte Idee zu simulieren. Das war dann meine Aufgabe. Ich habe einen Großteil meines Lebens damit verbracht, über Computer und Berechnungen nachzudenken. Eine interessante Entdeckung ist, dass es nicht unbedingt komplizierter Maschinen bedarf, um automatische Berechnungen durchzuführen. Wir haben vor ein paar Jahren die einfachste universelle Turing-Maschine identifiziert – also ein Berechnungsmodell, das jedes theoretisch vorkommende Computerprogramm schrittweise simulieren kann. Von der Struktur her ist diese Turing-Maschine so einfach, dass sie theoretisch auch in der Natur vorkommen könnte!

The European: Turing hat sich auch bereits für künstliche Intelligenz interessiert – vor dem Zweiten Weltkrieg und lange bevor wir die dafür notwendigen Technologien entwickeln konnten.
Wolfram: Es passiert so oft, dass wir über computerwissenschaftliche Fragen nachdenken und plötzlich merken: Turing ist uns zuvorgekommen! Ein Beispiel: Wir haben vor ein paar Jahren ein Poster machen wollen, auf dem die Riemann-Zeta-Funktion abgebildet war. Das ist eine komplexe mathematische Funktion, deren wissenschaftlicher Hintergrund seit 150 Jahren bekannt aber nicht wirklich verstanden ist. Und auf einmal ist mir bewusst geworden, dass es Alan Turing war, der lange Zeit den Rekord für die beste Lösung der Funktion innehatte und die meisten Kurven errechnen konnte. Turing hatte sich einen bizarren Computer mit Zahnrädern gebaut, um das Problem zu lösen. Turing war jemand, der ständig an neuen Dingen interessiert war und keine langfristigen Projekte verfolgt hat. In gewisser Hinsicht ist das eine beneidenswerte Begabung.

„Neue Arten entstehen quasi nebenbei“

The European: Sie argumentieren, dass sehr einfache Programme sehr komplexe Resultate produzieren können. Und manche dieser Programme sind sogar so einfach, dass sie beispielsweise in die DNA eines einfachen Organismus eincodiert sein könnten.
Wolfram: Unsere Intuition sagt uns, dass komplizierte Dinge viel Aufwand erfordern. Aber wir wissen auch, dass die Natur enorm kompliziert ist, ohne dass dafür besonders viel Aufwand nötig wäre. Alle evolutionären Prozesse funktionieren ohne viel Aufwand; neue Arten entstehen quasi nebenbei. Das hat mich schon immer verwundert. Vor ein paar Jahren habe ich dann überlegt, ob einfache Programme zu komplexen Resultaten führen könnten, etwa so wie in der Natur. Das Ergebnis: Ja, viele Programme funktionieren genau so, wie wir es in der Natur erwarten würden.

The European: Der Trend geht in eine andere Richtung: Mehr Rechenpower pro Chip, um damit immer komplexere Operationen durchführen zu können.
Wolfram: Es gibt ein Prinzip, dass ich „Irreduzibilität von Berechnungen“ nenne. Die Bahn eines Planeten um die Sonne ist aus mathematischer Sicht ziemlich einfach zu berechnen: Wir müssen nur die richtigen Zahlen in die richtige Formel eingeben und können dann die Position des Planeten zu einem beliebigen Zeitpunkt vorhersagen. Viele mathematische Berechnungen lassen sich aber nicht auf Formeln reduzieren – nach ein paar Schritten werden sie so komplex, dass wir wirklich eine Simulation ablaufen lassen müssen, um herauszufinden, was passieren wird. Dafür brauchen wir viel Rechenpower. Aber es ist ein Trugschluss, zu glauben, dass unsere derzeitige Vorstellung von Computern die einzige mögliche Variante ist. Wir können viele Materialien benutzen, um Computer zu bauen, nicht nur Transistoren. Warum ist das eine wichtige Erkenntnis? Ich sage es Ihnen: Weil es damit theoretisch möglich wird, Computer zum Beispiel aus Molekülen herzustellen. Dafür wird einiges an Technologien benötigt, die wir heute noch nicht haben. Aber die Vorstellung ist verlockend: Anstatt komplizierte Technologien immer kleiner und kompakter zu machen, können wir auf molekularer Ebene mit relativ simplen Bausteinen arbeiten.

The European: Vielleicht können Sie erklären, was genau Sie mit den Begriffen „Computer“ und „Berechnung“ meinen? Unsere Vorstellung ist schließlich, dass es wichtige Unterschiede gibt zwischen lebenden Organismen und Maschinen.
Wolfram: Ein Computer ist ein System, dass in irgendeinem Status anfängt, knirsch-knirsch-knirsch macht und dann ein Ergebnis ausspuckt. Ein Computerprogramm ist ein Algorithmus, der dem Computer mitteilt, was er zu tun hat. Die Frage ist, ob jeder Computer mit den Maschinen vergleichbar ist, mit denen wir heute arbeiten. Die Antwort ist nein. Wenn man sich eine zufällig generierte Auswahl möglicher Programme anschaut, dann erinnern viele davon in ihrer Struktur an Prozesse, die auch in der Natur zu finden sind. Heute sind wir so weit, dass wir in unserer Forschung einen Prozess namens „active algorithm discovery“ verwenden: Wir schauen uns alle theoretisch möglichen Algorithmen an und überlegen dann, welche davon wir eventuell verwenden können. Dabei merken wir, wie ähnlich sich viele zelluläre Prozesse und Computerprogramme sind. Bei beiden geht es darum, sich von einem Zustand zu einem anderen Zustand zu bewegen.

„Wir können nicht auf Formeln reduziert werden“

The European: Wenn wir Natur und Technologie auf eine Stufe stellen, kommen wir nicht um einige komplizierte Fragen herum: Was ist die Definition von Leben? Was ist freier Wille oder Intelligenz? Kann ein Mathematiker Antworten darauf geben?
Wolfram: Lassen Sie uns zuerst über den freien Willen sprechen. Das Problem ist, dass unser Gehirn von deterministisch ablaufenden chemischen Prozessen bestimmt wird, aber dass wir gleichzeitig nicht deterministisch agieren. Dieses Paradox ist der Kern der ganzen Debatten um die Existenz eines freien Willens. Wir glauben nämlich normalerweise, dass deterministische Regeln auch zu deterministischem Verhalten führen müssen – daher agieren die Roboter in Science-Fiction-Filmen immer extrem logisch und dumm. Doch das ist ein Irrglaube. Deterministische Prozesse können zu sehr chaotischen Ergebnissen führen, die uns dann als zufällig erscheinen. Irreduzibilität ist ein zentraler Aspekt des Lebens: Wir können nicht auf Formeln reduziert werden, wir können uns von den deterministischen Regeln unseres Organismus lösen! Ich glaube, dass das Konzept der Irreduzibilität die Antwort auf die philosophische Debatte der letzten zweitausend Jahre ist. Philosophie ist immer ein paar Schritte vom wirklichen Leben entfernt; viele Fragen zur Natur des Menschen können daher am besten von der Wissenschaft beantwortet werden.

The European: Und Intelligenz?
Wolfram: Das ist eine interessante Frage. Wie können wir Intelligenz abstrakt definieren? Nach welchen Kriterien entscheiden wir, ob etwas intelligent ist oder nicht? Das gleiche Problem haben wir, wenn wir überlegen, ob etwas lebendig ist oder nicht. Im Laufe der Zeit haben wir verschiedene Definitionen ausprobiert. Die antiken Griechen zum Beispiel glaubten, dass etwas lebendig ist, wenn es sich eigenständig fortbewegen kann. Na ja, es gibt alle möglichen Maschinen, die sich selbst fortbewegen können – also ist das eine schlechte Definition. Doch auch für jede andere Definition auf Basis chemischer Kriterien oder im Hinblick auf die Fähigkeit zur Fortpflanzung können wir Beispiele liefern, die von den meisten Menschen nicht als „lebendig“ angesehen würden. Es ist sehr schwer, über Intelligenz oder Leben abstrakt nachzudenken.

The European: Es scheint, als ob wir unsere Definitionen auch eher aus der eigenen Erfahrung heraus aufstellen. In fast jedem Science-Fiction-Film sehen Aliens sehr humanoid aus, weil wir eben ein ganz konkretes Beispiel für intelligentes Leben im Kopf haben: Uns selbst.
Wolfram: Als die ersten Raumsonden zum Mars geschickt wurden, war das große Rätsel, ob wir dort Anzeichen für Leben finden würden. Und manche der vorgeschlagenen Tests waren aus heutiger Sicht ziemlich lächerlich: „Packt Zucker auf die Fundstelle und schaut, was passiert.“ Auf der Erde ist es relativ einfach, eine Definition zu finden, weil alle Organismen eine gemeinsame Geschichte und eine gemeinsame RNA haben. Wir wissen daher einfach nicht, wie eine abstrakte Definition von Leben oder Intelligenz aussehen könnte. Vielleicht sagen wir: „Dieses Objekt hier ist nicht intelligent, weil es nur klick-klick-klick machen kann.“ Aber wo liegt dann die Grenze für Verhalten, das komplex genug ist, um als intelligent zu gelten? Das bringt uns zum Prinzip der „Äquivalenz von Berechnungen“. Es besagt, dass ein System entweder offensichtlich simpel oder hochkomplex ist. Alle Algorithmen, die nicht auf den ersten Blick einfach erscheinen, liefern wahrscheinlich sehr komplizierte Resultate. Das bedeutet auch, dass viele Systeme ähnlich komplex sind und daher alle als intelligent oder nicht intelligent gelten müssten. Der einzige Weg, eine Entscheidung zu treffen, ist ein Rückgriff auf unsere Erfahrungen und die gemeinsame Geschichte des Lebens auf der Erde. Und für mich hat diese Feststellung noch eine andere Relevanz: Wir müssen kein künstliches Gehirn bauen, um künstliche Intelligenz zu erhalten, sondern können mit relativ einfachen Programmen anfangen.

The European: Und was machen wir im Fall außerirdischen Lebens?
Wolfram: In der Vergangenheit haben wir oftmals angenommen, dass komplexe Signale aus dem Kosmos von Zivilisationen stammen müssen, die ähnlich fortgeschritten sind wie wir. Das Äquivalenzprinzip sagt uns, dass das nicht der Fall sein muss. Sehr einfache Phänomene können sehr komplexe Signale produzieren. Die Wissenschaftler Marconi und Tesla haben im frühen 20. Jahrhundert Radiosignale aufgefangen, die sie sich nur als Signale vom Mars erklären konnten. Das Radio war gerade erst erfunden worden und die beiden haben den Fehler gemacht, das als wichtige Hemmschwelle für die Kommunikation mit außerirdischem Leben anzusehen. Später hat sich herausgestellt, dass die Signale sich mit der Magnetohydrodynamik der Atmosphäre erklären lassen. Und als deutlich später extrem getaktete Signale aus dem Weltall aufgefangen wurden, hat man auch zuerst gedacht, dass sie keinen natürlichen Ursprung haben könnten – bis dann Pulsare entdeckt wurden. Wir sollten also vorsichtig sein, vorschnell auf Basis unserer Erfahrungen über außerirdisches Leben zu urteilen.

„Wir können ganz verrückte Dinge machen“

The European: Im Magazin der „New York Times“ war kürzlich ein Porträt von Craig Venter abgedruckt, dem Forscher, der das menschliche Genom mit seinem Team entschlüsselt hat. Zwei interessante Aussagen von ihm: Erstens, die große Herausforderung ist nicht das Vorstoßen in neue Sphären, sondern die Möglichkeit, Innovationen für alle Menschen auf der Welt zugänglich zu machen. Zweitens, das beste Vehikel dafür ist nicht die Universität, sondern die Privatwirtschaft. Was halten Sie davon?
Wolfram: Ich war einige Zeit an der Uni, aber ich habe gemerkt, dass ich sehr gerne an konkreten Projekten arbeite. Ich habe also versucht, mir einen effizienten Mechanismus zu schaffen, um Ideen realisieren zu können. Momentan erscheinen mir Unternehmen als der beste Ansatz. Wenn ich mir meine Freunde anschaue, die noch an Universitäten unterrichten, dann denke ich mir: „Leute, bei euch hat sich in 25 Jahren kaum etwas bewegt!“ Wenn wir Akademiker bei „WolframAlpha“ einstellen, dann sind die immer überrascht, mit welchem Tempo wir vorangehen. Wir setzen uns zusammen und eine Stunde später haben wir eine Entscheidung getroffen, ohne sie vorher von einem Komitee absegnen zu lassen. Wir können ganz verrückte Dinge machen! Das ist auch notwendig, wenn man die Welt beeinflussen will.

The European: Ist das Ihr Antrieb – die Welt zu beeinflussen?
Wolfram: Ich bin daran interessiert, komplexe Projekte voranzutreiben und für jedermann zugänglich zu machen. Das ist cool und gibt mir ein warmes Gefühl im Bauch. Unser Ansatz bei WolframAlpha ist: Wenn eine Frage von einem Experten beantwortet werden kann, dann wollen wir diese Antwort automatisieren, damit jeder von überall her auf das Wissen zugreifen kann. Als ich klein war, musste ich immer erst mit dem Fahrrad zur Uni-Bibliothek fahren, um mir dort Bücher auszuleihen. Ich musste Rechnungen auf Papier aufschreiben oder jemanden finden, der sie mir erklären konnte. Heute läuft das automatisch und in Echtzeit ab. Eine Lektion der letzten zehn Jahre ist es, dass wir Dinge deutlich häufiger tun, wenn sie automatisiert sind. Als Google noch klein war, haben einige Leute gefragt: „Wer interessiert sich denn dafür, einen Katalog mit Links zu durchsuchen? Es gibt deshalb so wenige Bibliothekare, weil die Nachfrage nach solchem Wissen gering ist!“ Das ist natürlich komplett falsch. Wenn man die Sucharbeit automatisiert, interessiert sich plötzlich jeder dafür. Wir sind heute in der Lage, bessere Entscheidungen zu treffen, weil wir Zugang zu mehr Wissen haben. Das ist guter Fortschritt.

„Sergey Brin war einmal Praktikant bei uns“

The European: Was ist der Unterschied zwischen einer Suchmaschine wie Google und einer semantischen Suchmaschine wie WolframAlpha?
Wolfram: Bei einer klassischen Suchmaschine gibt man einen Begriff ein und versucht dann, die passenden Ergebnisse zu finden. Das ist so, wie wenn man in eine Bibliothek geht und sich die zehn besten Bücher über ein Thema geben lässt. Wir versuchen dagegen, zugeschnittene Antworten auf spezifische Fragen zu errechnen. Es ist okay, wenn niemand sich vorher für diese Frage interessiert hat – denn vielleicht können wir aus vorhandenen Daten eine Antwort errechnen. Dafür sind menschliche Experten notwendig. Die Leute aus der Welt der Suchmaschinen argumentieren oftmals, dass wir vor allem bessere Algorithmen brauchen, die frei skalierbar sind. Aber uns geht es um Wissen, nicht um Skalierung. Ich finde es daher auch interessant, dass Googles Suchmaschinen-Abteilung ihren Namen kürzlich in „Knowledge Division“ geändert hat. Der Google-Gründer Sergey Brin war einmal ein Praktikant bei uns; und ich hoffe, dass unsere vielen Diskussionen etwas mit der Namensänderung zu tun haben. Wikipedia ist ein interessanter Ansatz, aber letztendlich eben auch bloß ein Container für zufällige Texte, die zu zufälligen Zeitpunkten von zufälligen Autoren geschrieben werden. Das können wir besser, vor allem, wenn man weitere Schichten auf diesem Wissen aufbauen will und auf verlässliche Informationen angewiesen ist. Die Datenmenge innerhalb von WolframAlpha ist heute schon vergleichbar mit der Menge an Text im gesamten Internet. Viel davon kommt direkt von Primärquellen, die online gar nicht verfügbar sind.

The European: Im Gegensatz zu Google oder Facebook haben Sie momentan nichts mit persönlichen Daten zu tun – aber die Entwicklung geht in diese Richtung. Vor welche Herausforderungen stellt Sie das?
Wolfram: Wir wissen, dass wir erschreckend genaue Profile von Menschen errechnen können. Wenn Sie im Internet nach einer Person suchen, sind die Suchergebnisse nicht besonders genau. Aber wenn wir verschiedene Datenquellen zusammenführen – vor allem in den USA, wo diese Daten zum Großteil öffentlich zugänglich sind – dann können wir sehr genaue Informationen über eine Person liefern. Momentan haben wir uns entschlossen, das nicht zu machen. Die Nachteile sind zu groß, und ich fühle mich nicht gut dabei. Wahrscheinlich wird das irgendwann trotzdem passieren, aber das ist kein Thema, bei dem ich ein Vorreiter sein möchte.

The European: Das ist eine Reaktion, die viele von uns zeigen: Es ist technologisch möglich und wirtschaftlich profitabel, aber irgendetwas stimmt nicht mit dieser erzwungenen Transparenz.
Wolfram: Wir geben ja heute schon sehr viel über uns auf Facebook preis, aber immerhin ist das zu einem gewissen Grad unsere eigene Entscheidung. Wenn man aber beispielsweise nachsehen kann, wer welches Haus wann zu welchem Preis gekauft hat, dann sind diese Daten ohne die Zustimmung des Betroffenen veröffentlicht worden. Diese Schlacht will ich nicht schlagen. Ich glaube, dass es ganz gut ist, wenn jeder von uns ein kleines Mysterium bleibt. Eine andere Frage ist es, ob wir Daten analysieren sollten, die Menschen aus freien Stücken ins Netz stellen. Das halte ich für sehr interessant! Wenn ich beispielsweise mein komplettes E-Mail-Archiv einsehen kann und das dann mit einem „Augmented Reality“-System verbinde, kann ich durch die Stadt laufen und bekomme auf Basis meiner E-Mails oder anderer Datenquellen angezeigt, welche Restaurants Freunde mir empfohlen haben oder ob ich schon einmal an einem bestimmten Ort war. Das ist eine wichtige Entwicklung, weil wir damit in der Lage sind, bessere Entscheidungen zu treffen.

The European: Es gibt also Limits für die Entwicklung von neuen Technologien, zum Beispiel aus Sorge um die Privatsphäre. Gibt es auch ähnliche Limits in Bezug auf die Automatisierung von Prozessen – beispielsweise, weil wir Intuition oder Kreativität wertschätzen?
Wolfram: Interessant, dass Sie Kreativität erwähnen. Wir haben vor ein paar Jahren ein Experiment gemacht, bei dem wir zufällige Musiksequenzen generiert haben. Einige davon klangen gar nicht so schlecht! Ich habe von Komponisten gehört, die unsere Webseite als Inspiration benutzen – das ist genau das Gegenteil von dem, was ich erwartet hätte. Aber Ihre Frage bleibt weiterhin bestehen: Was machen wir Menschen eigentlich, wenn alles automatisch abläuft? Ich glaube, dass wir uns dann Gedanken darüber machen, was wir eigentlich machen sollten. Als Menschen und als Individuen haben wir bestimmte Zwecke oder Bestimmungen, die wir zu erreichen versuchen und die sich nicht automatisieren lassen. Künstliche Intelligenz lässt sich eventuell so programmieren, dass sie einen Selbstzweck hat – aber sie kann keine Antwort auf die Frage liefern, ob das denn der richtige Zweck sei. Im Laufe der Geschichte haben wir unterschiedliche Antworten auf diese Frage geliefert: Der Zweck des Menschen sei die Religion, oder die Maximierung von Glück, oder die Maximierung von Reichtum. Manche der heutigen Zwecke dürften unseren Vorfahren reichlich bizarr erscheinen: Stellen Sie sich vor, ein Urzeitmensch sähe jemanden, der zum Zweck der Fitnesssteigerung in einem geschlossenen Raum auf dem Laufband läuft.

„Ich will Dinge bauen, die niemand erwartet hat“

The European: Lassen sich diese Debatten denn von der Frage trennen, was technologisch möglich ist? Der Traum vom Fliegen ist beispielsweise Alltagsrealität geworden.
Wolfram: Der technologische Fortschritt hat einen Einfluss darauf, was wir wertschätzen. Ich glaube, dass die Menschen der Zukunft sich wieder auf alte Weisheiten besinnen werden. Die heutige Zeit markiert das erste Mal in der Geschichte des Menschen, dass wir immense Datenmengen über unseren Alltag aufzeichnen. Künftige Generationen können also das frühe 21. Jahrhundert untersuchen und sagen: „Die Menschen hatten eine endliche Lebenszeit und mussten schwere Entscheidungen treffen. Vielleicht können uns diese Entscheidungen helfen bei der Überlegung, was den Menschen so einzigartig macht oder welche Art von Fortschritt wir anstreben sollten.“

The European: Ist das Ihr Zweck, das Nachdenken über den Fortschritt?
Wolfram: Lassen Sie mich etwas Verrücktes sagen: Ich bin fasziniert von Alien-Technologie. Ich will Dinge bauen, die niemand erwartet hat und die wahrscheinlich ohne mich auch nicht gebaut würden. Das finde ich spannender als die Verbesserung von Sachen, die es ohnehin schon gibt, auch wenn es etwas egoistisch klingt. Normalerweise fängt das mit einer großen Idee an und dann arbeite ich mich bis zum Knackpunkt vor, bis zum Goldklumpen im Kern dieser Idee. Das macht mir Spaß.

Hat Ihnen das Interview gefallen? Lesen Sie auch ein Gespräch mit Nick Bostrom: „Perfektion ist kein gutes Konzept“

Leserbriefe

comments powered by Disqus

Mehr zum Thema: , Datenschutz, Suchmaschine

Kolumne

Medium_57ff04dfa7
von Aleksandra Sowa
11.04.2016

Kolumne

Medium_57ff04dfa7
von Aleksandra Sowa
14.12.2015

Kolumne

Medium_57ff04dfa7
von Aleksandra Sowa
20.10.2015
meistgelesen / meistkommentiert