Regeln können den Menschen die Verantwortung abnehmen, oder sie können den Menschen Verantwortlichkeit zuschreiben. Im zweiten Fall sind sie flexibel, im ersten nicht. Das Vordringen von Maschinenlogiken eliminiert mit der Flexibilität auch die menschliche Verantwortung.
Wir leben alle in einem Netz von Regeln. Sie unterstützen oder behindern unser Handeln. Sie regulieren Arbeitstag, Schulferien, Verkehrsfluss, Sport, Politik, Militär, Markt, Kunst, Rechtsprechung, Wissenschaft, Diplomatie, Parlamentsdebatten, Gebrauch des Akkusativs, Form eines Sonnetts, Anstand … die Liste ist vermutlich unendlich.
Dünne und dichte Regeln
Es gibt explizite und implizite Regeln. Juristische Regeln zum Beispiel sind explizit und niedergeschrieben, Anstandsregeln implizit und ungeschrieben. Man spricht auch von Gesetz und Sitte. Das Gesetz sagt «Du sollst» oder «Du sollst nicht»; die Sitte zeigt eher stillschweigend: Wir machen das so.
Vorschreiben und Zeigen definieren zwei Haupttypen von Regeln: Rezepte – Algorithmen – und Musterbeispiele – Paradigmen. Die Wissenschaftshistorikerin Lorraine Daston nennt sie, einem Sprachgebrauch in der Ethnologie folgend, «dünn» und «dicht». (1) Eine dünne Regel ist klar, unzweideutig, keine Ausnahme duldend. Sie sagt nicht: «Parken verboten, es sei denn, du musst notfallmässig einen Patienten ins Spital bringen». Sie sagt: «Parken verboten». Punkt.
Dichte Regeln wie Sitte und Anstand lernt man im Zusammenleben. Eltern lehren ihre Kinder, was sich geziemt und was nicht, von Fall zu Fall. Das Verfahren ist kasuistisch. Sowohl Lektion wie Sanktion sind individuell. Einem Kind, das auf diese «normale» Weise in eine Gesellschaft und Kultur hineinwächst, braucht man nicht ständig explizite Anweisungen zu geben, was es tun und lassen soll. Unser Verhalten ist mehr oder weniger in ein solches Regelwerk eingewoben. Und das Handeln einer Person wird «dichter» in dem Mass, in dem sie lernt, die Regeln veränderlichen Umständen anzupassen.
Wir sprechen dann von Erfahrung. Sie zeigt sich im Sinn für Uneindeutigkeit, für die Ausnahme von der Regel. Der unerfahrene Novize hält sich an Regeln, er kennt wenige Ausnahmen. Und je mehr Ausnahmen er kennt, desto sicherer und beweglicher wird sein Umgang mit Regeln. Es wächst seine Expertise.
Eine erfahrene Juristin wendet das Gesetz nicht buchstabengetreu an, sie kennt dessen Elastizität aufgrund von Präzendenzen in der Urteilspraxis. Der erfahrene Arzt verlässt sich nicht einfach auf einen diagnostischen Kanon, sondern begutachtet ein Symptom anhand von Fallstudien. Beide halten es mit Wittgenstein: Die Welt ist alles, was der Fall – und nicht, was die Regel – ist.
Regeltreue heisst Abgabe von Verantwortung
Gegner von Regulierungen reiben sich gerne an deren Einschränkungscharakter. Sie führen vollmundig das Wort «Freiheit» ins Treffen, meinen damit aber nicht selten bloss «meine Freiheit». Zum Beispiel die Freiheit einer Grossbank. Dieser Trotz war auch und besonders in der Pandemie unüberhörbar. Aber Regeln sind janusgesichtig. Sie bieten – so streng sie auch sein mögen – jederzeit die Gelegenheit des verdeckten oder offenen Bruchs, oder zumindest des Erwägens eines Bruchs.
Meist tut man dies im Namen der Eigenverantwortung. Regeltreue heisst Abgabe von Verantwortung, also kann Eigenverantwortung durchaus Regelbruch – zum Beispiel zivilen Ungehorsam – bedeuten. Aber wann? Wir alle kennen solche Fälle. Der banalste: Ich fahre Velo auf dem Trottoir, weil weit und breit kein Passant in Sicht ist. Ich achte die Regel durchaus, aber ich sehe, dass die Umstände es erlauben, sie zu brechen. Und jener, der das Nichtbefolgen der Corona-Massnahmen mit dem Hinweis auf Eigenverantwortung begründet? Überblickt er die Umstände, die ihm den Regelbruch erlauben?
Ein dilemmatisches Paar
Hier wird das Problem delikat. Regeln und Anwendungsumstände bilden ein untrennbares dilemmatisches Paar. Das eine Horn: Zuviele Regeln – quasi ein «embarras de règles». Das andere Horn: Zuviele Einzelfälle, auf die keine Regel zugeschnitten erscheint. Aber selbst wenn Regel und Anwendungsfall gut passen, so tun sie dies nie perfekt. Sie sind in konkreten Situationen immer auszutarieren. Eigenverantwortung ist gut, kann aber in Eigenwillen und Eigennutz kippen, also letztlich in Unverantwortlichkeit. Wer Regeln einfach stur befolgt, gibt Verantwortung ab. Wer Regeln besonnen bricht, nimmt Verantwortung, ja, sogar Schuld auf sich. Zum Beispiel die klima-aktivistischen Asphalt-Kleber.
Besonnenheit ist eine uralte Tugend. Aristoteles nannte sie die «rechte Mitte». Besonnenheit bedeutet, zwischen der gnadenlosen Regelkonformität des Blockwarts und der infantilen Regelmissachtung des Hallodris hindurch zu navigieren. Ohnehin aber beschränken Regeln, recht besehen, die Freiheit nicht, sondern ermöglichen sie. Denn der «Zwang» der Regel wirkt nur, weil man ihr folgen wollen kann. Aus Einsicht. Es handelt sich also beim Zwang der Regel um ein Paradox: die Freiheit, sich zu unterwerfen. In der normativen Autorität der Regel spiegelt sich mein Wille – der Wille eines freien Individuums unter anderen freien Individuen.
Ein Unfall in Phoenix
Dünne Regeln entlasten mich von der Deliberation: vom Abwägen, Urteilen, Bedenken. Rote Ampel heisst: Denk nicht, halte einfach an! Die dünnsten Regeln, die wir heute kennen, sind die Algorithmen. Sie sind entworfen für eine «dünne» Welt, in der alles möglichst eindeutig und voraussehbar abläuft. Ein selbstfahrendes Auto braucht eine «dünne» Verkehrswelt. Man trainiert es auf eine abrufbare Anzahl von bekannten Situationen. Und was passiert in einer neuen Situation?
2018 ereignete sich in Phoenix, Arizona, ein tödlicher Unfall. Ein selbstfahrendes Uber-Auto kollidierte mit einer Frau, die eine Strasse überquerte und dabei ihr Velo schob. Die Software sah nicht die Ausnahmesituation voraus, dass Menschen Strassen auch an nicht «regulären» Stellen überqueren. Natürlich können die Designer entgegenhalten, die Software habe inzwischen gelernt, auch diese Ausnahmesituation in die Maschinenregel aufzunehmen. Aber das ist eine Ausflucht. Selbst wenn das Auto noch so viele Eventualitäten lernt, so hat es keine Einsicht in «dichte» Regeln des Verkehrsverhaltens.
Die Regulierungen der KI
Man muss den Unfall als Fanal sehen. Es geht nicht bloss um den automatisierten Strassenverkehr. Die algorithmische Regulierung unserer technisierten Lebensform schreitet unaufhaltsam voran. Schon heute hilft jedenfalls eine Unzahl miteinander kommunizierender künstlicher Systeme unsere wichtigen und weniger wichtigen Probleme zu lösen, ohne dass wir uns mit der Frage beschäftigen müssen, ob sie intelligent sind oder nicht. Die dichte Vernetzung all dieser Apps spinnt einen Kokon aus Maschinencode, aus der wir uns kaum noch lösen können.
Ludwig Wittgenstein schrieb einmal: «Die Menschen sind im Netz der Sprache verstrickt und wissen es nicht.» Heute liesse sich sagen: Die Menschen sind im Netz intelligenter Dinge verstrickt, und sie wissen es nicht. In der eifrigen Diskussion über die Regulierung der KI geht vergessen, dass die KI unsere Verhaltensweisen schon längst reguliert. Selbstfahrende Autos, vollautomatisierte Supermarktkassen, Kommunikation via Plattformen, Beratung über Hotlines. Der Code der KI-Systeme sinkt ein in unsere Psyche. Und er führt dazu, dass wir uns auch immer mehr wie Maschinen benehmen.
Verhaltensökonomik und «Ausdünnung» der Welt
Ein Autorenteam um Daniel Kahnemann, den Verhaltensökonomiker, schrieb 2016 einen wegweisenden Artikel mit dem Titel«Noise: Wie man die hohen verborgenen Kosten inkonsistenten Entscheidens vermeidet». Noise, oder Rauschen, kennzeichnet jegliches menschliche Urteil. Menschen, so die Autoren, «sind unzuverlässige Entscheidungsträger. Ihre Urteile sind stark von irrelevanten Faktoren beeinflusst, wie der herrschenden Mode, der Zeit seit dem letzten Essen oder dem Wetter. Wir nennen diese zufälligen Schwankungen des Urteils «Noise».
Kahneman und seine Mitautoren sehen die Ursache primär im Störcharakter der Umgebung, also, wie wir jetzt sagen könnten, in ihrer «Dichtheit». Und sie schlagen vor, Commonsense-inspirierte Algorithmen in die Entscheidungsfindungen einzuführen: «Das radikalste Rezept wäre, das menschliche Urteil durch Algorithmen zu ersetzen. Anders als Menschen liefern Algorithmen immer den gleichen Output auf einen gegebenen Input, und wie die Forschung zeigt, sind ihre Voraussagen und Entscheide oft präziser als jene von Experten.»
Das ist eine höchst dubiose Aussage. Aus der Geschäftsperspektive mag es durchaus seine Plausibilität haben, Entscheide von individuellen Launen unabhängig zu machen. Noise-Vermeidung aber ist das Postulat einer «dünnen» Welt, die mit den «irrelevanten Faktoren» letztlich den Menschen ausmerzt. Gegen Kahnemann et alia empfehle ich daher eine kleine Übung in Anarchie: Mindestens einmal täglich eine Regel besonnen brechen. Die Übung kann unseren Verantwortungssinn stärken. Und sie erinnert uns daran, was es heisst, Mensch zu sein: nämlich «irrelevant» und «inkonsistent».
Oder mit Günter Eich («Seid Sand, nicht Öl im Getriebe der Welt»), leicht abgewandelt: Seid der Widerspruch, nicht die Regel im Getriebe der logischen Systeme.
(1) Lorraine Daston : Rules. A Short History of What We Live By; Princeton, 2022