Menschlichem Erkennen sind Grenzen gesetzt. Jede Intelligenz, auch wenn sie weit höher entwickelt wäre als die humane, grenzt an ein ihr unzugängliches Dunkel. Je weiter wir den Lichtkreis unseres Erkenntnisvermögens ausdehnen, desto grösser die uns umgebende Finsternis.
Einer heute verbreiteten Hypothese gemäss ist unsere Intelligenz ein «nicht vorgesehenes» Selektionsereignis – für die einen ein Glücksfall, für die anderen ein Unfall. So oder so verdanken wir es einer Menge von unwahrscheinlichen Zufällen, gerade mit der richtigen kognitiven Apparatur ausgestattet zu sein, um die Geheimnisse des Universums zu enträtseln.
Ob sich daraus ein «kosmisches Mandat» herausdeuten lässt, sei dahingestellt. Könnten aber die Ameisen nicht dasselbe von sich sagen: Welch ein Wunder, dass uns die Natur mit Pheromonen ausgestattet hat, um das Universum anhand von Parfüms zu enträtseln. Der Vergleich mag albern anmuten. Wirklich albern ist der Anspruch auf Alleinstellung, der in Elogen auf das menschliche Erkenntnisvermögen immer wieder anklingt.
Das Tierreich ist voller kognitiver «Aliens». Die Zoologen berichten von erstaunlichen Speziesfähigkeiten, die ein ausgeklügeltes biologisches Design erfordern; vom Navigieren durch die Umgebung anhand von Lichtsignalen, über die Abwehr einer Vielzahl mikrobischer Attacken, bis zum Herausfiltern spezieller Information aus dem Schwall gleichzeitiger Schallwellen («Cocktailparty-Effekt»). Wer weiss, welche Seltsamkeiten noch auf uns warten? «Meiner Ansicht nach ist das Universum nicht nur sonderbarer («queerer») als wir es uns vorstellen, sondern sonderbarer als wir es uns vorstellen können», schrieb der britische Biologe J. B. S. Haldane.
Er meinte damit nicht, dass das Universum das Verständnis der Wissenschaft zu einem bestimmten Zeitpunkt, sondern generell übersteigt. Er rückte so unseren kognitiven Apparat in den Fokus, der uns ermöglicht, uns die Dinge vorzustellen. Um etwas zu begreifen, muss man einen Begriff davon haben. Und um einen Begriff zu haben, braucht man einen hinreichend raffinierten kognitiven Apparat, der Sprache ermöglicht. Nun ist dieser Apparat ja selber ein Produkt der Natur, letztlich des Universums, und aus seiner Begrenztheit folgt auch die Begrenztheit der Naturerkenntnis.
* * *
Es wäre falsch, daraus einen negativen Bescheid herzuleiten. Denn nur wo Grenzen sind, kann man sie auch überschreiten – oder zumindest daran denken, sie zu überschreiten. Die kognitive Begrenztheit markiert also eigentlich eine Schwelle, den Anfang einer neuen Geschichte, der Geschichte der Post-Evolution. Schon menschliche Sprache und Kultur sind eine solche Überschreitung. Wenn aber unserem Verständnis natürliche Grenzen – durch unsere artspezifische Konstitution – gesteckt sind, warum den Verstand nicht artunspezifisch erweitern, verbessern? Postbiologisches und posthumanes Enhancement?
Eigentlich ist Technik immer solches Enhancement unserer angeborenen Fähigkeiten gewesen. Und heute hat sie das Stadium der künstlichen – sprich: post-evolutionären – Intelligenz erreicht. Sie macht enorme Fortschritte, und ihre Gurus überbieten sich in Visionen einer Zukunft, in der sich der Mensch mit ebenbürtigen, wenn nicht überlegenen kognitiven Prothesen ausrüstet. Die lernenden aktuellen KI-Systeme leisten schon heute unentbehrliche Dienste auf datenintensiven Forschungsgebieten.
* * *
Aber wenn wir der menschlichen Intelligenz Grenzen attestieren, warum dann nicht auch der künstlichen? Wir kennen spätestens seit Gödel, Turing, Komolgorov oder Chaitin Grenzen der Berechenbarkeit und algorithmischen Lösbarkeit von komplexen Problemen. Heute charakterisiert man Komplexität vorzugsweise anhand der Mindestzeit, die ein Programm zur Lösung einer Aufgabe benötigt. Dabei zeigt sich immer klarer, dass viele Probleme auch vom potentesten Algorithmus nicht in «vernünftiger» Zeit gelöst werden können.
Eine Begründung dieses Befundes entpuppt sich als überraschend trivial: Jedes System ist endlich, und produziert folgedessen sein eigenes Jenseits. Das gilt auch für ein künftiges superintelligentes System. Ein Programm mag ausserhalb unseres Verständnishorizonts liegen, aber kein Programm kann wiederum Wahrheiten jenseits des Horizonts seines eigenen Codes entdecken.
* * *
In einem berühmten Aufsatz aus dem Jahr 1960 wunderte sich ein Pionier der Quantentheorie, Eugene Wigner, darüber, warum die Mathematik in den Naturwissenschaften so «unvernünftig leistungsfähig» («unreasonably effective») sei. Vielleicht muss man sich gar nicht so sehr wundern. Entgegen Galileis bekanntem Postulat ist nicht die Natur in mathematischen Zeichen geschrieben – sondern die Sprache der Naturwissenschaft. Wer sagt uns denn, ob sie das angemessenste Mittel sei, die Natur bis in alle entlegendsten Tiefen und Nischen zu beschreiben? Beschreibt Mathematik nicht das, was sich mathematisieren lässt, nämlich bloss eine dünne Schicht der Realität? Dass sie sich hier als leistungsfähig erweist, ist so gesehen eine Tautologie.
Die Überlegung liesse sich auf unser ganzes kognitives Instrumentarium übertragen, mit dem wir die Welt erklären. Erklärt es bei all seiner beeindruckenden Leistungsfähigkeit etwa auch «nur» eine dünne Schicht der Natur? Was, wenn die Natur eine Tiefenstruktur aufwiese, die wir mit den gegenwärtig besten Konzepten nicht erfassen, ja, mit unserem beschränkten kognitiven Apparat gar nicht erfassen können?
* * *
Die Frage drückt, wie gesagt, keinen Fortschrittspessimismus aus, denn wir entwickeln und verbessern unsere Konzepte fortlaufend und mit grossem Erfolg. Es gilt vielmehr, diesen Fortschritt besser zu verstehen. Das heisst, es gibt in der Wissenschaft einen fundamentalen Hiatus zwischen Diesseits und Jenseits. Wie weit wir auch die Grenze ins Unbekannte hinausschieben, wir befinden uns stets auf unserer Seite der Grenze. Das hat Ludwig Wittgenstein klar im Vorwort des «Tractatus» festgehalten: «... um dem Denken eine Grenze zu ziehen, müssten wir beide Seiten dieser Grenze denken können (wir müssten also denken können, was sich nicht denken lässt)».
Die Wissenschaft kreiert starke theoretische Laternen, in deren Lichtkreis wir nach den Schlüsseln zu den Geheimnissen des Universums suchen. Womöglich liegen diese im Dunkel. Also muss man den Lichtkreis vergrössern und wenn wir Glück haben, finden wir ein paar Schlüssel. Aber wir können die Welt nicht aus der Perspektive jenseits des Lichtkreises verstehen. Das Dunkel bleibt. Es vergrössert sich mit dem Lichtkreis. Zum Glück. In dem Moment, in dem wir die Welt «im vollen Licht» sehen würden, gäbe es sie – und uns – nicht mehr.