Was ein 240 Jahre altes Moralgesetz über KI übersieht – und wie eine kleine Anpassung alles verändert
Hier ist eine Regel, der Sie Ihr ganzes Leben lang gefolgt sind, ohne sie je aussprechen zu müssen: Gib kein Versprechen, das du nicht zu halten gedenkst.
Nun kommt die Frage, die fast niemand stellt: Wann genau ist diese Regel wahr? Heute Morgen? Für immer? War sie schon wahr, bevor Sie geboren wurden?
Sie möchten vermutlich antworten: immer. Genau dieser Instinkt ist das Problem, um das es in diesem Beitrag geht. Die berühmteste Moralregel, die je geschrieben wurde, hat denselben Instinkt. Und genau dieser Instinkt macht sie still und leise untauglich für die Maschinen, die wir gerade bauen.
Lassen Sie mich Ihnen den Riss zeigen. Und dann die Korrektur. Es wird zwei Formeln geben. Sie sind freundlicher, als sie aussehen. Beide sind Pointen, keine Hausaufgaben.
Der ehrgeizigste Satz der Philosophie
1785 schrieb ein berühmt pünktlicher Deutscher namens Immanuel Kant einen einzigen Test nieder, von dem er glaubte, dass er richtiges von falschem Handeln trennen könne. Er heißt der kategorische Imperativ, und seiner formalen Gewänder entkleidet besagt er dies:
Handle nur nach einer Regel, von der du wollen könntest, dass alle ihr folgen.
Das ist die ganze Maschine. Bevor Sie handeln, stellen Sie sich vor, alle würden nach derselben Regel handeln. Ergibt die Welt dann immer noch einen Sinn, besteht die Regel den Test. Bricht die Welt in einen Widerspruch zusammen, fällt sie durch.
Das Lügen fällt sofort durch. Würde jeder lügen, wann immer es bequem wäre, verlöre schon die Idee, jemandem etwas zu sagen, ihre Kraft. Es bliebe kein Vertrauen mehr übrig, das man ausnutzen könnte. Das Lügen würde die Bedingung zerstören, die das Lügen erst möglich macht. Die Regel frisst sich selbst auf. Test nicht bestanden.
Es ist eine schöne Maschine. Man füttert sie mit einer vorgeschlagenen Regel, dreht an der Kurbel, und heraus kommt ein Urteil. Philosophen drehen an dieser Kurbel seit zweieinhalb Jahrhunderten.
Aber achten Sie darauf, was die Maschine nie fragt.
Die fehlende Frage
Der Test macht eine Momentaufnahme. Er friert die Welt ein, stellt sich vor, alle handelten zugleich, und prüft dieses eine eingefrorene Bild auf Widerspruch.
Eine Momentaufnahme hat kein Vorher und kein Nachher. Für manche Regeln ist das in Ordnung. „Du sollst nicht lügen“ sieht am Dienstag genauso aus wie im nächsten Jahrhundert.
Aber richten Sie nun dieselbe Maschine auf ein modernes Problem.
Ein Krankenhaus installiert ein KI-System, das Scans liest und gefährliche Fälle für einen Arzt markiert. Jemand muss die Regel dafür schreiben, wann die KI allein entscheiden darf und wann sie einen Menschen hinzuziehen muss. Angenommen, die Regel lautet so: Die KI entscheidet die Routinefälle; der Arzt entscheidet die schwierigen.
Lassen Sie sie heute durch Kants Maschine laufen. Könnten alle dieser Regel folgen? Ja. Sie ist vernünftig. Sie ist fair. Sie besteht. Momentaufnahme bewilligt.
Dann tut die Zeit, was die Zeit eben tut.
Im ersten Jahr prüfen die Ärzte die schwierigen Fälle der KI scharf, weil sie noch viele davon sehen. Bis zum dritten Jahr hat sich die KI still und leise verbessert. Der Stapel der „schwierigen“ Fälle ist geschrumpft. Die Ärzte sehen nun weniger schwierige Fälle und beginnen, genau bei jenen Fällen aus der Übung zu kommen, die die Regel ihnen weiterhin zuweist. Die Fertigkeit, von der die Regel abhängt, ist ausgedünnt, weil die Regel langsam aufgehört hat, sie zu nähren.
Niemand hat die Regel gebrochen. Die Regel hat sich selbst gebrochen, indem sie lief.
Das ist der unangenehme Teil. Die Momentaufnahme war nie falsch. Am ersten Tag bestand die Regel tatsächlich. Das Versagen lebte in keinem einzelnen Bild. Es lebte in der Bewegung zwischen den Bildern. Und eine Momentaufnahme kann per Definition keine Bewegung sehen.
Das ist der Riss. Kant baute ein Gesetz für Dinge, die sich bewegen, gab ihm aber einen Test, der nur Dinge sieht, die stillstehen. Eine Regel über das Handeln, das Wollen und das Streben wird von einer Fotografie beurteilt.
Die Korrektur ist kleiner, als Sie denken
Der verlockende Schritt ist, Kant über Bord zu werfen und zu etwas zu greifen, das die Zeit liebt: „Maximiere einfach die guten Ergebnisse auf lange Sicht.“ Widerstehen Sie diesem Schritt. Er tauscht ein Problem gegen ein anderes und wirft das eine weg, das der kategorische Imperativ genau richtig macht: Er bindet Sie, unabhängig davon, was Sie gerade wollen.
Die Korrektur ist kleiner und seltsamer. Wir ändern nicht das Gesetz. Wir ändern das, was wir hineingeben.
Statt eine Regel zu testen, testen wir eine Regel, die Anweisungen über ihre eigene Zukunft mit sich trägt.
Stellen Sie sich eine Maxime vor, die von einem flachen Satz zu einem kleinen dreiteiligen Paket aufgewertet wird:
was ich jetzt tue → was daraus folgen darf → woraus es entstanden ist
(Inhalt) (Fortsetzung) (Herkunft)Das ist der ganze Trick. Eine Regel ist keine eingefrorene Aussage mehr. Sie wird zu einem Glied in einer Kette, das die Regel davor und die Regel danach an der Hand hält.
Und warum genau drei Teile? Nicht weil drei ordentlich ist. Sondern weil ein Augenblick in der Zeit genau drei Nachbarn hat und nicht mehr: eine Gegenwart, eine Zukunft und eine Vergangenheit. Es gibt keine vierte Richtung, in die die Zeit gehen könnte. Die Struktur ist keine Designentscheidung. Die Zeit reicht sie Ihnen.
Die Regel, die nicht stillsitzen will
Sobald eine Regel ihre eigene Zukunft berücksichtigen muss, wachsen dem berühmten Test zwei neue Klauseln. Kants Original überlebt unberührt als die erste:
Eins. Ihre Regel besteht jetzt, in diesem Moment, den alten Momentaufnahme-Test. (Könnten alle das heute tun?)
Zwei. Jede Regel, die aus Ihrer hervorgehen könnte, besteht ebenfalls und gibt dieselbe Anforderung an alles weiter, was aus ihr hervorgeht. (Lässt das Befolgen dem Nächsten die Möglichkeit, es ebenfalls zu befolgen?)
Drei. Ihre Regel kann zeigen, dass sie ein rechtmäßiger Nachfahre dessen ist, was vor ihr kam. (Bin ich auf ehrlichem Weg hierhergekommen?)
Falten Sie alle drei zusammen, und Sie erhalten den aufgewerteten Imperativ:
Handle so, dass deine Regel ein Glied in einer Kette sein könnte, die ihre eigene Fairness durch die Zeit hindurch weiterträgt.
Lassen Sie nun das Krankenhaus erneut durchlaufen. Klausel eins besteht am ersten Tag immer noch, genau wie zuvor. Aber Klausel zwei löst einen Alarm aus, den das Original nie auslösen konnte. Eine Regel, die still und leise die Fertigkeit der Ärzte aushöhlt, ist eine Regel, die ihre eigene Zukunft schwerer einzuhalten macht. Sie sägt den Ast ab, auf dem sie sitzt. Der aufgewertete Test erfasst im Voraus die langsame Fäulnis, die die Momentaufnahme erst bemerkte, als der Schaden bereits angerichtet war.
Derselbe Geist wie bei Kant. Eine neue Fähigkeit: Er kann in der Zeit sehen.
Und hier ist der elegante Teil. Der alte kategorische Imperativ ist jetzt nicht falsch. Er ist lediglich herangezoomt. Er ist die neue Regel, betrachtet durch ein einzelnes eingefrorenes Bild – Klausel eins, mit den beiden anderen weggeschnitten. So wie sich die klassische Physik als Einsteins Physik für langsam bewegte Dinge herausstellt, erweist sich Kants Momentaufnahme als der Bewegtfilm, angehalten bei einem einzigen Bild.
Eine Formel, und es ist eine gute
Logiker haben eine saubere Art, „die Regeln, die ihr eigenes Versprechen für immer halten“ aufzuschreiben. Hier ist sie. Zucken Sie nicht zusammen:
\[\mathcal{M}_{\text{good}} = \nu X.\ \Psi(X)\]
Lesen Sie sie als Satz. \(\Psi\) ist eine Sortiermaschine: Geben Sie ihr einen Haufen Regeln, und sie behält nur jene, deren jeder mögliche Zukunftszug ebenfalls schon im Haufen ist. Das Symbol \(\nu\), „der größte Fixpunkt“, benennt einfach das Ergebnis: die größte Sammlung von Regeln, die das Durchlaufen dieser Maschine überlebt und unverändert wieder herauskommt. Ein selbsterhaltender Klub, in dem die Mitgliedschaft verlangt, dass auch all Ihre Nachfahren Mitglieder sind.
Nun der wirklich interessante Teil.
Sie hätten vielleicht gern eine ordentliche Prüfliste, die in einer endlichen Anzahl von Schritten entscheidet, ob eine gegebene Regel zum guten Klub gehört. Mathematiker können beweisen, dass keine solche Prüfliste existieren kann. Die Frage der Mitgliedschaft hat keine allgemeine Abkürzung. Niemals.
Falls das nach einem Fehler klingt, schauen Sie noch einmal hin. Eine Ziellinie, die Sie tatsächlich überschreiten könnten, würde bedeuten, dass moralische Anstrengung eine Pflicht ist, die man erledigt und dann ablegt, wie die Wäsche. Dass der gute Klub keine Mitgliedschafts-Prüfliste hat, ist die Mathematik, die still und leise auf etwas besteht, das Menschen immer schon geahnt haben: Gut zu sein ist kein Kästchen, das man ankreuzt. Es ist eine Richtung, in die man weitergeht. Die „unmögliche“ Formel ist bloß Ehrlichkeit über einen Weg, der kein Ende hat.
Das eine, was die Formel nicht kann – und genau darum geht es
Wir haben einer 240 Jahre alten Regel beigebracht, in der Zeit zu sehen. Wir haben sie in einer einzigen Zeile Mathematik aufgeschrieben. Reizen wir also unser Glück und bitten die Formel um eine letzte Aufgabe: Sagt uns, wer verantwortlich ist, wenn die Kette weiterrollt.
Sie kann es nicht. Und der Grund, warum sie es nicht kann, ist der wichtigste Satz dieses Beitrags.
Damit der Imperativ einen Willen bindet und nicht bloß eine Maschine antreibt, muss er Raum für eine echte Wahl lassen. Würde die Regel mechanisch genau einen nächsten Zug erzwingen, gäbe es nichts mehr zu wählen, und man kann einen fallenden Stein nicht für sein Fallen verantwortlich machen. Also tut der Test etwas Sorgfältiges. Er verengt Ihre Optionen auf jene, die erlaubt sind, und dann hält er inne. Welcher dieser erlaubten Züge tatsächlich geschieht, ist eine Frage, deren Beantwortung die Mathematik höflich verweigert.
Diese Verweigerung ist keine Lücke, die auf eine cleverere Gleichung wartet. Sie ist ein reservierter Platz.
Versuchen Sie, ihn zu füllen, und Sie scheitern jedes Mal auf lehrreiche Weise. Die Regel zwingen, für Sie zu wählen? Dann hat niemand gewählt, und die Verantwortung verflüchtigt sich zusammen mit der Wahl. Eine höhere Regel hinzufügen, um unter den Wahlen zu wählen? Nun brauchen Sie eine Regel für jene Regel, und Sie fallen eine endlose Treppe hinab, während unten immer noch eine offene Wahl wartet. Das System einen Namen neben jede Entscheidung protokollieren lassen, eine Unterschrift auf der gepunkteten Linie? Eine Unterschrift hält fest, dass jemand gewählt hat. Sie sagt nichts darüber, warum, und das Warum ist das Einzige, woraus Verantwortung gemacht ist. Das Logbuch beweist, dass ein Knopf gedrückt wurde. Es kann nicht für das Drücken einstehen.
Also bleibt der leere Platz leer, ganz gleich, wie gut die Mathematik wird. Und der leere Platz hat eine genaue Form. Es ist die Stelle, an der die Frage „Warum dies und nicht das?“ zur Ruhe kommt. Eine Maschine kann den Zug ausführen, den Zug aufzeichnen, sogar die Ursachen des Zuges aufsagen. Aber fragen Sie sie warum, und sie kann die Frage nur weiterreichen, weil sie keinen Ort hat, an dem das Weiterreichen aufhört.
In einem Menschen hört das Weiterreichen auf. Das ist keine Tatsache darüber, wie clever Maschinen dieses Jahr zufällig sind. Es ist das, was das Wort Verantwortung die ganze Zeit über bedeutet hat: der Ort, an dem das „Warum?“ endlich auf eine Antwort trifft statt auf eine Weiterleitungsadresse.
Wir begannen damit, eine Regel aufzuwerten, damit sie die Zeit endlich sehen konnte. Wir enden an einem Ort, der seltsamer und besser ist. Das Strengste, was die Mathematik uns sagen kann, ist die genaue Lage ihres eigenen Randes: der Platz, den sie ausgehauen hat, aber nicht füllen kann. Und auf diesem Platz, mit der einen Frage in der Hand, die keine Formel Ihnen je abnehmen wird, sitzen Sie.
Dieser Beitrag ist Teil der Reihe „Denkende Maschinen, denkende Menschen“. Die Idee einer KI, die weiß, wann sie innehalten und einen Menschen fragen muss, wird in „Wann KI ‚Ich weiß es nicht‘ sagen sollte“ erkundet. Die tiefere Maschinerie, einschließlich der fünf Dimensionen, die messen, wann eine Entscheidung menschliches Urteilsvermögen erfordert, wird in der vollständigen Arbeit über die Zusammenarbeit von Mensch und KI entwickelt.