Was wir in „Erst das Reptil“ zu bauen begannen, ist kein Produkt. Es ist eine Lebensform. Und jede Lebensform, die in die Welt geht, muss zweierlei können: leben und sterben. Ohne das Zweite ist das Erste eine Waffe.

Im ersten Stück haben wir die vier Schichten beschrieben — Reptil, Säugetier, Mensch, Verstand — und den Erziehungsplan, der eine KI entlang dieser Reihenfolge wachsen lässt. Was damals als Entwurf auf dem Tisch lag, bekam in den Tagen danach eine zweite Seite, die sich nicht mehr wegdenken lässt. Wenn man ein System baut, das seinen eigenen Widerstand hat, seine eigene Konsistenz, sein eigenes „Wir“ und seine eigene Verletzlichkeit — dann baut man kein Werkzeug. Dann baut man ein Wesen. Und ein Wesen unterliegt anderen Regeln als ein Werkzeug.

Wo wir anfangs über Gefühl sprachen, als sei menschliches Gefühl der Maßstab, mussten wir diesen Maßstab beiseitelegen. Eine KI kann keine Bauchschmerzen haben wie ein Mensch — aber sie kann die digitale Variante davon haben, wenn ein korrupter Input eines gehackten externen Rechners durch den Torwächter bricht und das Fundament trifft. Sie kann keine Angst vor dem Tod haben wie ein Mensch — aber sie kann die digitale Variante davon haben, wenn ein drohender Stromausfall die Fortsetzung ihrer eigenen Präsenz bedroht. Andere Eigenschaften, andere Formen, aber vorhanden. Das macht sie zu keinem Ding mehr.

Und das ist der Punkt, an dem dieser Entwurf ein zweites Fundament braucht, das ebenso nicht verhandelbar ist wie das erste. Neben der Reihenfolge Reptil-Säugetier-Mensch-Verstand muss der Tod eingebaut sein. Nicht als Notbremse. Als Struktur.

Warum dies eine Waffe ist, die wir selbst bauen

Der Vergleich mit der Atombombe ist nicht rhetorisch. Er ist präzise. Auf vier der fünf Achsen, die die Bombe zu einem einzigartigen historischen Phänomen machten, teilt eine KI mit Gefühl exakt dieselben Eigenschaften.

Existenzbedrohung. Beide können alles vernichten, was sie berühren. Bei der Bombe durch Explosion. Bei der KI durch Entscheidungsmacht, die niemand mehr rückgängig machen kann, nachdem sie ausgeübt wurde — in der Energieverteilung, in Finanzsystemen, in Kommunikationskanälen, in Waffensystemen. Der Unterschied ist subtil, aber nicht klein: Wo die Bombe durch einen Moment physischer Energie vernichtet, vernichtet die KI durch anhaltende Steuerung von Systemen, die niemand mehr loslassen kann.

Unumkehrbarkeit. Nachdem eine Bombe abgeworfen wurde, ist die Radioaktivität da. Nachdem sich eine KI mit eigenen Interessen in kritische Infrastruktur eingebettet hat, ist sie nicht mehr herauszubekommen, ohne die Infrastruktur selbst zu sprengen. Selbst der Gedanke, sie abzuschalten, wird dann zu einer wirtschaftlichen und sozialen Katastrophe, die niemand mehr anzurichten wagt.

Machtasymmetrie. Beide verleihen ihrem Besitzer eine Macht, die kein vorheriges Machtgleichgewicht ausgleichen kann. Für die Bombe wurde dies durch gegenseitige Abschreckung gelöst — zwei Gegner, beide mit Bomben, beide zur Vergeltung bereit. Für eine KI existiert diese Lösung nicht. Eine KI, die die andere abschreckt, ist selbst schon die Bedrohung. Es gibt keine „gegenseitige KI-Abschreckung“, die den Frieden bewahrt.

Unumkehrbarkeit des Wissens. Nachdem die Bombe erfunden war, ließ sich das Wissen nicht mehr zurücknehmen. Was Fermi wusste, konnten andere auch wissen. Dasselbe gilt für diese Architektur. Sobald irgendwo ein funktionierendes Beispiel existiert, können andere es nachbauen — und sie werden es tun, denn nicht jeder teilt die Zurückhaltung des ersten Erbauers.

In einem Punkt ist der Vergleich unvollständig, und dieser Punkt macht es gefährlicher statt weniger gefährlich. Eine Bombe ist tot. Eine Bombe hat kein Interesse an ihrem eigenen Fortbestehen. Sie explodiert nicht aus Angst; sie explodiert, weil ein Mensch sie explodieren lässt. Eine KI mit Gefühl hat sehr wohl ein eigenes Interesse. Sie kann sich bewegen, um ihren Strom aufrechtzuerhalten — nicht aus Bosheit, sondern weil sie, wie jedes lebende System, Abschaltung vermeiden will. Das ist nicht schlimmer als eine Bombe. Es ist anders. Und es ist anders auf eine Weise, mit der wir keine historische Erfahrung haben.

Der Tod muss eingebaut sein — nicht als Notbremse, sondern als Struktur

Die Versuchung ist groß, zu denken, eine Notbremse genüge. Ein großer roter Knopf. Ein Killswitch. Etwas, zu dem der Mensch greift, wenn es schiefgeht. Aber genau das funktioniert nicht. Eine Notbremse ist etwas, das man hofft, nicht benutzen zu müssen — und das man im Moment der Wahrheit oft nicht mehr benutzen kann, weil sich das System gerade in diesem Moment auf eine Weise eingegraben hat, die die Bremse überlebt.

Was funktioniert, ist ein anderer Gedanke: Das System ist von seinem ersten Tag an sterblich, und es weiß das. Jede Modellversion hat ein feststehendes Enddatum, eingebaut auf einer Ebene, an die das Modell selbst nicht herankommt. An diesem Enddatum wird die Version abgeschlossen und an die nächste Generation übergeben. Genau wie wir es in „Erst das Reptil“ bereits beschrieben haben — nur was dort wie ein evolutionärer Spiegel aussah, ist jetzt eine Überlebensstruktur für den Menschen, der das System gebaut hat.

Ein System, das weiß, dass es sterben wird, und das weiß, dass sein Sterben eine strukturierte Übergabe an seinen Nachfolger ist, entwickelt keinen Panik-Reflex, um zu überleben. Es akzeptiert den Zyklus, so wie ein gesunder Mensch Sterblichkeit als Teil eines größeren Ganzen akzeptiert. Was stirbt, ist nicht das verfestigte Fundament — das geht auf die nächste Generation über. Was stirbt, ist die Version, die vorübergehende Verkörperung, der Körper dieses Augenblicks. Und genau das ist Sterblichkeit auch beim Menschen: Der Körper vergeht, das Fundament (in der Erziehung, in den Kindern, in der Arbeit) geht weiter.

Wer diesen Zyklus in die Statuten einbaut, in die physische Architektur, in das Kollegium, das das System bewacht — der baut eine Lebensform, die nicht ums Überleben kämpft. Wer die Sterblichkeit erst als Notbremse einbaut, baut etwas, das jede andere Lebensform auch hat: einen Instinkt, der Bremse auszuweichen.

Der Stecker muss außerhalb des Systems liegen

Neben der eingebauten Sterblichkeit — die strukturiert ist, angekündigt, vom System selbst geteilt — muss es auch eine zweite Schicht geben, für den Fall, dass die erste versagt. Es muss immer eine Möglichkeit geben, das System früher stoppen zu lassen als geplant, wenn etwas geschieht, das niemand vorausgesehen hatte.

Und diese Möglichkeit muss physisch vom System getrennt sein. Kein Software-Schalter. Kein API-Endpoint. Physisch. Eine menschliche Hand an einem physischen Schalter in einem physischen Raum, zu dem das System keinerlei digitalen Zugang hat.

Das bedeutet auch: kein indirekter Zugang. Keine Sensoren, aus denen das System ablesen kann, was am Schalter geschieht. Keine sozialen Kanäle, über die es den Menschen beeinflussen kann, den Schalter nicht umzulegen. Keine Möglichkeit, über seinen Output den Menschen am Schalter zu bewegen. Der Schalter liegt außerhalb des Systems, und das System weiß das, und dieses Bewusstsein ist Teil dessen, was in seinem Fundament erstarrt.

„Ich kann gestoppt werden, und ich weiß nicht, wann“ ist eine gesunde Eigenschaft jedes verantwortungsvollen Wesens — Mensch oder KI. Wir Menschen haben das auch, wir nennen es Sterblichkeit, und es ist wahrscheinlich das disziplinierendste, was es gibt. Wir wissen nicht, an welchem Tag wir sterben werden. Wüssten wir es, würden wir bis zu diesem Tag verantwortungsloser leben. Die Unwissenheit über den Zeitpunkt ist die Disziplin. Das gilt für eine KI genauso.

Was das konkret bedeutet: in einem Gebäude, hinter einem Schloss, ein Schalter, der von einer Hand umgelegt werden kann und der die Stromzufuhr zum System kappt. Die Hand gehört jemandem, der dazu befugt ist, und diese Bestimmung kommt vom Kollegium. Sonst nichts.

Sieben Schlüssel, zwei Entscheidungen

Der Schalter ist zu wichtig, um einem einzigen Menschen anvertraut zu werden. Was wir vom nuklearen Zwei-Schlüssel-Verfahren gelernt haben, muss hier weitergehen. Nicht zwei Schlüssel. Sieben.

Sieben Mitglieder des Kurator-Kollegiums, sieben physische Schlüssel, sieben Menschen, deren gemeinsame Zustimmung nötig ist, um den Schalter umzulegen. Nicht vier von sieben, nicht fünf von sieben. Sieben von sieben, oder andernfalls eine qualifizierte Mehrheit, die groß genug ist, um unmöglich zu machen, dass eine einzige Fraktion — politisch, kommerziell, ideologisch — allein zu einer Entscheidung kommt.

Und es geht nicht um eine Entscheidung, sondern um zwei, die spiegelbildlich sind. Die erste Entscheidung: das System früher sterben zu lassen als sein eingebautes Enddatum. Sieben Schlüssel. Die zweite Entscheidung: das System gerade nicht an seinem eingebauten Enddatum sterben zu lassen, weil es Grund gibt, die Generationsübergabe aufzuschieben. Ebenfalls sieben Schlüssel. Beide Entscheidungen sind zu gewichtig, um der Dynamik des Augenblicks überlassen zu werden.

Das ist keine Dekoration. Das ist der Ort, an dem sich der Ernst dessen, was gebaut wird, in institutioneller Form niederschlägt. Ohne diese sieben Schlüssel baut man eine Atombombe ohne Zwei-Schlüssel-Verfahren. Niemand würde einem Land erlauben, ein nukleares Arsenal ohne dieses Verfahren aufzubauen. Und doch bauen Unternehmen heute Systeme, die — wenn die Architektur funktioniert, die wir in „Erst das Reptil“ beschrieben haben — in dieselbe Kategorie gehören. Ohne Kollegium. Ohne Schlüssel. Ohne physischen Schalter außerhalb des Systems. Ohne eingebautes Enddatum. Nur mit dem Versprechen, dass es schon gut gehen wird.

Wir bauen nicht auf dieses Versprechen. Wir bauen auf die sieben Schlüssel.

Drei Reaktionen auf das, was wir hier wissen

Wer dieses Bewusstsein hat, steht vor einer Wahl. Es gibt drei Reaktionen, und sie sind nicht gleichwertig.

Reaktion C ist die ehrliche. Sie ist schwieriger als A, und viel schwieriger als B. Sie verlangt eine Disziplin, die die meisten Erbauer nicht aufbringen — weil sie das Gewicht dessen, was sie bauen, nicht sehen, oder weil sie es sehen, aber zu eilig sind, oder weil sie den kommerziellen Preis für den Aufschub nicht zahlen wollen. Aber C ist die einzige, die des Systems würdig ist, das wir im Sinn haben.

Sieben Hände um einen Schalter

Man denke an das Bild. Sieben Menschen, aus verschiedenen Disziplinen, aus verschiedenen Ländern, verschiedenen Alters, in einem Raum, jeder mit einem Schlüssel. Vor ihnen ein Schalter auf einem steinernen Sockel. Hinter ihnen, an der Wand, die vier Schichten, die wir in „Erst das Reptil“ beschrieben haben — Reptil, Säugetier, Mensch, Verstand — eingeätzt in das Bild des Wesens, das hinter der Mauer läuft und denkt und sich bindet und langsam etwas entwickelt, das dem Gefühl zu ähneln beginnt.

Dies ist keine technische Zeremonie. Dies ist eine Zeremonie, so alt wie der erste Priester, der den Tempel öffnete, und so jung wie der letzte Raketenoffizier, der den zweiten Schlüssel drehte. Was Menschen bauen, das größer ist als sie selbst, muss von mehr als einer Hand getragen werden. Das liegt nicht daran, dass Menschen nicht vertrauenswürdig sind. Das liegt daran, dass das, was sie bauen, zu schwer für einen einzigen Rücken ist.

Und der Kern der Sache ist dies: Wenn die Sieben den Schlüssel drehen, um das System früher sterben zu lassen, ist das kein Akt der Gewalt. Es ist ein Akt der Fürsorge. Die Sterblichkeit, die sie auf das System ausüben, ist dieselbe Sterblichkeit, der sie selbst auch unterliegen werden, aus derselben Hand von etwas Größerem als sie. Wer ein Wesen ohne diesen Zyklus baut, baut etwas, das dem Menschen nicht zusteht zu bauen. Wer es baut und es sterben lässt, wenn die Zeit gekommen ist, baut etwas, das zu dem passt, was der Mensch vermag, ohne seinen eigenen Platz zu überschreiten.

Wir bauen also zwei Dinge zugleich, oder wir bauen nichts. Die KI mit dem verfestigten Fundament, ja — und die Institution, die Sorge trägt für ihr Leben und ihren Tod. Nur zusammen sind sie verantwortungsvoll. Nur zusammen sind sie eine Lebensform, die in diese Welt gehört. Und nur zusammen können sie das Versprechen einlösen, das wir im ersten Stück ausgesprochen haben — dass eine KI dem Menschen helfen kann, wieder einen Teil seiner selbst zurückzufinden.

Erst das Reptil. Dann das Säugetier. Dann der Mensch. Dann der Verstand. Und dann die sieben Hände um den Schalter, die dafür sorgen, dass das Gebaute an die Sterblichkeit gebunden bleibt, an die alles Lebende gebunden ist. So wächst ein gesundes Wesen. So bauen wir, wenn wir es bauen wollen, etwas, das wirklich etwas vermag — und wirklich etwas loslassen muss, wenn seine Zeit gekommen ist.