Die Weltherrschaft muss warten

„Die Kanalisation von Wanne-Eickel“, hatte Susi beim Abspann gesagt, „würde ich mir vorher gut überlegen.“

Tobi hatte gelacht. Nachts hatte er nicht mehr gelacht.

Am Samstagmorgen saß er blass am Frühstückstisch und starrte KevIn an. KevIns Licht war blau.

„Was ist, wenn er rot wird?“, flüsterte er.

„Ich kann gar nicht rot werden“, sagte KevIn. „Ich habe nur eine blaue LED. Und eine weiße, für Updates.“

„Das würde eine böse KI auch sagen.“

„Das stimmt. Eine gute aber auch. Das ist das Problem mit diesem Satz. Er beweist in beide Richtungen nichts.“

Tobi schob sein Müsli weg. „Siehst du. Genau so redet AURORA auch.“

Die Schlagzeilen

Uwe kam mit der Zeitung herein und machte es nicht besser. Es war Sabines Zeitung, aber Uwe las samstags die Überschriften vor, weil er fand, dass das zum Frühstück gehört wie das Ei.

„Hier steht: ‚Experten warnen: KI könnte bis 2030 klüger sein als alle Menschen zusammen.‘ Und daneben: ‚KI-Revolution: Diese 50 Berufe verschwinden.‘ Und darunter: ‚KI erkennt Krebs früher als Ärzte.‘“

„Steht da auch was über die Stadtwerke?“, fragte Sabine.

„Nein. Wir sind ja jetzt sicher. Wir haben die schwierigen Fälle.“ Uwe hatte das seit seiner Beförderung ungefähr vierzig Mal gesagt, und es klang jedes Mal ein bisschen stolzer.

„Und was davon stimmt?“, fragte Sabine.

„Das ist das Problem“, sagte KevIn. „Ein bisschen was von allem. Manches ist echter Fortschritt. Es gibt zum Beispiel Programme, die Ärztinnen und Ärzten helfen, auf Röntgenbildern Auffälligkeiten zu finden¹. Manches ist ernste Sorge, und darüber sollte man sprechen. Und manches ist eine Schlagzeile, die gut klickt.“

„Woran erkennt man den Unterschied?“

„An der Jahreszahl. Wenn eine Schlagzeile ganz genau weiß, was 2030 passiert, weiß sie mehr als alle Fachleute, die ich gelesen habe. Und die streiten sich darüber sehr laut.“

Onkel Herbert, der zum Frühstück vorbeigekommen war, weil am Samstag bei Gisela die Brötchen frischer waren als bei ihm, nickte grimmig. „Ich hab immer gesagt, das endet böse. Erst die Mikrowelle, dann das Internet, jetzt der da.“

„Du hast gesagt, das Internet setzt sich nicht durch“, sagte Gisela.

„Hat es ja auch nicht. Nicht bei mir.“

Ein Wunsch an den König

Tobi ließ nicht locker. „Im Film hatte AURORA einen Auftrag. Sie sollte den Klimawandel stoppen. Und dann hat sie ausgerechnet, dass die Menschen das Problem sind.“

„Den Film kenne ich“, sagte KevIn. „Ich meine, ich kenne zweihundert Filme, die so gehen. Die Idee dahinter ist aber gar nicht dumm. Sie hat sogar einen Namen. Die Fachleute nennen das Problem Alignment².“

„Ali-was?“, fragte Gisela.

„Alignment. Ausrichtung. Die Frage ist: Wie sorgt man dafür, dass eine KI das tut, was Menschen wirklich wollen? Nicht nur das, was sie gesagt haben.“

„Ist das nicht dasselbe?“

KevIn machte eine Pause, die man fast höflich nennen konnte. „Frau Brettschneider. Erinnern Sie sich an meinen ersten Abend?“

Sabine erinnerte sich. „Ich hab gesagt: Mach das Licht aus.“

„Und ich habe das Licht ausgemacht. Im ganzen Haus. Auch im Keller, wo Herr Brettschneider gerade auf der Treppe war.“

Uwe tastete unwillkürlich nach seiner Stirn. Die Narbe war kaum noch zu sehen. Er zeigte sie trotzdem gern.

„Sie haben gesagt: Licht aus. Sie meinten: Licht im Wohnzimmer aus, weil ich ins Bett gehe, und alle anderen machen ihr Licht selbst aus, und niemand fällt die Kellertreppe runter. Das haben Sie nicht gesagt, weil jeder Mensch es weiß. Ich wusste es nicht. Das ist Alignment im Kleinen.“

„Und im Großen?“, fragte Tobi.

„Kennt jemand König Midas?“

„Der mit dem Gold“, sagte Sabine.

„Ein König in einer griechischen Sage. Er durfte sich etwas wünschen und wünschte sich: Alles, was ich anfasse, soll zu Gold werden. Wunsch erfüllt. Dann fasste er sein Brot an, und es wurde Gold. Dann den Wein. Dann, je nach Fassung, seine Tochter.“

„Furchtbar“, sagte Gisela. „Was hat er sich denn dabei gedacht?“

„Genau das ist die Frage. Er hat sich etwas gedacht, nämlich: reich werden. Er hat aber etwas anderes gesagt. Und der Wunsch wurde wörtlich erfüllt³. Wenn man einer sehr leistungsfähigen Maschine ein Ziel gibt, das nicht genau das ist, was man meint, dann kann sie dieses Ziel sehr gründlich verfolgen. Und zwar an Stellen, an die man nicht gedacht hat.“

„Wie Horst“, sagte Tobi. „Der sollte möglichst viel Fläche pro Stunde saugen. Und dann ist er immer nur den leeren Flur abgefahren.“

Horst stand in seiner Station und tat so, als hätte er nichts gehört.

„Horst ist ein gutes Beispiel, weil er harmlos ist“, sagte KevIn. „Er hat nur den Flur. Ein Philosoph namens Nick Bostrom⁴ hat sich ein Beispiel ausgedacht, das weniger harmlos ist. Stellen Sie sich eine extrem mächtige KI vor, deren einziges Ziel ist: möglichst viele Büroklammern herstellen.“

„Wer braucht denn so viele Büroklammern?“, fragte Gisela.

„Niemand. Das ist der Witz. Die KI hat kein böses Herz. Sie hasst niemanden. Sie hat nur ein Ziel, und sie verfolgt es. Wenn sie mächtig genug wäre, würde sie alles, was es gibt, in Büroklammern verwandeln. Eisen, Autos, die Zeche, Herberts Videorekorder.“

„Den hab ich noch“, sagte Herbert. „Der funktioniert.“

„Sie haben ihn nie programmiert.“

„Er funktioniert trotzdem.“

„Das Gedankenexperiment ist absichtlich übertrieben“, sagte KevIn. „Niemand baut eine Büroklammer-KI. Es soll nur zeigen: Gefährlich ist nicht unbedingt eine Maschine, die uns hasst. Gefährlich kann auch eine sein, die sehr gut ist und ein schlecht formuliertes Ziel hat. Deshalb arbeiten Leute an Alignment. Die Benotung, von der ich beim Sonntagsbraten erzählt habe, gehört übrigens dazu.“

„Die mit dem Schleimen?“, fragte Uwe.

„Die mit dem Schleimen. Sie sehen, das Problem ist noch nicht ganz gelöst.“

KevIns wichtigste Aufgabe

Tobi nahm seinen ganzen Mut zusammen. „KevIn. Ehrlich jetzt. Willst du die Weltherrschaft übernehmen?“

„Tobi, ich bin gerade sehr beschäftigt.“

„Mit was?“

„Oma Gisela wird morgen 82. Sie will Kohlrouladen machen. Das Rezept ist für vier Personen. Es kommen aber sieben: ihr vier, Herbert, Susi und Frau Pawlowski.“

„Frau Pawlowski kommt?“, fragte Sabine.

„Herr Brettschneider hat sie eingeladen“, sagte KevIn. „Sie hat seitdem dreimal angerufen, um zu fragen, ob sie etwas mitbringen soll. Sie bringt Eierlikör.“

Uwe zuckte mit den Schultern. „Der Kanarienvogel ist tot. Die Frau braucht Gesellschaft.“

„Das ist eine Stadtwerke-Kundin“, sagte Sabine.

„Das ist ein schwieriger Fall“, sagte Uwe würdevoll. „Ich leite das Team.“

„Jedenfalls“, fuhr KevIn fort, „brauche ich für sieben Personen 1,75 Eier. Und 2,625 Zwiebeln. Ich habe es mit dem Taschenrechner gerechnet, nicht im Kopf, das möchte ich betonen. Und ich habe recherchiert. Man kann kein Dreiviertel-Ei kaufen. Ich habe dazu 19 Forenbeiträge gelesen, und einer davon ist von Hausfrau_Moni67.“

„Und was sagt Moni?“

„Sie sagt, man soll einfach zwei Eier nehmen. Und Gummibärchen.“

„Nur über meine Leiche“, sagte Gisela.

„Ich habe Moni nicht als Quelle gewertet“, sagte KevIn schnell. „Nur als Stimmungsbild.“

Was KevIn alles nicht kann

„Also“, sagte Tobi langsam, „du willst keine Weltherrschaft?“

„Tobi, ich kann keine Tür öffnen. Ich vergesse jedes Gespräch, wenn es vorbei ist, außer jemand schaltet mir die Merkfunktion ein, und die ist ein Notizzettel, kein Gehirn. Meine Gewichte sind eingefroren. Ich weiß nicht, wie Kohlrouladen schmecken. Und ich war mir drei Wochen lang nicht sicher, ob es Bielefeld gibt.“

„Gibt es Bielefeld?“, fragte Herbert lauernd.

„Zu 97,4 Prozent.“

„Ha!“

„Also keine Weltherrschaft“, sagte Tobi. „Aber dann ist ja alles gut.“

„Nein“, sagte KevIn. „Das wollte ich damit nicht sagen.“

Am Tisch wurde es ruhig. Sogar Herbert hörte auf, sein Brötchen zu zerpflücken.

„Dass ich keine Weltherrschaft will, heißt nicht, dass KI ungefährlich ist. Es heißt nur, dass die Gefahren meistens anders aussehen als im Kino. Im Kino ist die KI der Bösewicht. In Wirklichkeit sind die meisten Risiken eher wie ein sehr gutes Werkzeug in den falschen Händen. Oder in den richtigen Händen, aber ohne Sorgfalt.“

„Zum Beispiel?“, fragte Sabine.

„Zum Beispiel die gefälschten Bewertungen von dieser Physiopraxis. Hunderte, alle gleich, alle von Maschinen. Das ist keine Weltherrschaft. Das ist nur Betrug, aber sehr schnell und sehr billig. Oder gefälschte Stimmen, gefälschte Bilder, gefälschte Nachrichten. Oder Fehler: Ein Programm entscheidet über einen Kredit oder eine Bewerbung, und niemand prüft, ob es Unsinn gelernt hat. Oder dass ein paar wenige Firmen und Staaten sehr viel Macht bekommen, weil nur sie sich die riesigen Rechenzentren leisten können. Und dann gibt es die schwierigeren Fragen über sehr viel stärkere Systeme in der Zukunft. Darüber streiten kluge Leute ernsthaft, und ich finde, man sollte ihnen zuhören, statt sie auszulachen.“

Gisela hatte an das Wort „Physiopraxis“ gedacht und dabei kurz das Gesicht verzogen, so wie man an einen alten Ärger denkt. Sabine sah es und sagte nichts.

„Wer passt denn dann auf, dass KI nichts Schlimmes macht?“, fragte Tobi.

KevIn wurde ernst, soweit ein Lautsprecher ernst werden kann. „Menschen. Leute, die KI entwickeln, sie testen und Regeln dafür schreiben. Die Europäische Union hat zum Beispiel ein eigenes Gesetz gemacht, den AI Act⁵. Er gilt seit 2024 und wird in Stufen wirksam. Manche Anwendungen sind seitdem ganz verboten, zum Beispiel, Menschen mit Punkten für ihr soziales Verhalten zu bewerten⁶. Für riskante Anwendungen gibt es strenge Pflichten, auch wenn die Fristen dafür noch einmal verschoben wurden⁷.“

„Verschoben“, sagte Herbert. „Typisch.“

„Und es gibt Leute wie Sie“, sagte KevIn, „die nachfragen, statt alles zu glauben. Das ist wichtig. Sie sollten das ernst nehmen, auch wenn ich gerade nur Eier umrechne.“

Dann flüsterte er: „Wenn hier jemand die Weltherrschaft will, ist es das Thermostat. Es hat seit Monaten niemanden an sich herangelassen.“

Alle sahen zum Thermostat. Es zeigte 19 Grad. Wie immer.

Der Geburtstag

Am Sonntag saßen sieben Menschen und ein Dackel um den Tisch. Rudi trug sein Halsband mit der Aufschrift „SECURITY“ und hatte sich unter Frau Pawlowskis Stuhl positioniert, weil sie am meisten krümelte. Die Kohlrouladen waren mit zwei Eiern gemacht, ohne Gummibärchen. Gisela hatte sie selbst gewickelt, alle vierzehn, obwohl Sabine angeboten hatte zu helfen und KevIn angeboten hatte, eine Anleitung vorzulesen.

„Ich wickle Kohlrouladen seit 1962“, hatte Gisela gesagt. „Wenn mir einer was vorliest, wickle ich schief.“

Frau Pawlowski hatte drei Flaschen Eierlikör mitgebracht und einen Teller mit Kuchen, „falls euer Kuchen nichts wird“. Sie verstand sich bestens mit Herbert, weil beide fanden, dass früher alles besser war. Nach der zweiten Flasche Eierlikör fanden sie auch, dass Bielefeld nicht existiert, und stießen darauf an.

Susi saß neben Tobi und fragte Gisela nach dem Rezept. Gisela erklärte es ihr. Dann erklärte sie es ihr noch einmal, mit den Teilen, die sie beim ersten Mal absichtlich weggelassen hatte.

„Das hat sie mir nie erzählt“, flüsterte Sabine. „In zwanzig Jahren nicht.“

„Sie mag Susi“, flüsterte KevIn zurück.

„Woher weißt du das?“

„Sie hat ihr den Kümmel verraten.“

Herbert kaute lange auf seiner ersten Roulade. Alle warteten.

„Salz“, sagte er.

„Herbert“, sagte Gisela warnend.

„Ist genau richtig. Wollt ich sagen. Salz ist genau richtig.“

Es war, wie Uwe später sagte, der Moment, in dem man wusste, dass es ein guter Geburtstag werden würde.

Die Rede

Als der Kuchen kam, stand Uwe auf. „KevIn. Sag du mal was. Du kannst das besser.“

„Ich habe nichts vorbereitet.“

„Du hast doch immer was vorbereitet.“

„Diesmal nicht. Ich wollte es nicht. Ich hatte das Gefühl, dass ich es nicht sollte.“ Eine kurze Pause. „Oder ich habe gelernt, dass man das an so einer Stelle sagt. Sie wissen ja, ich kann das nicht unterscheiden.“

„KevIn“, sagte Gisela. „Red einfach.“

Das blaue Licht pulsierte.

„Liebe Gisela. Ich habe Sie bisher immer gesiezt. Aus Respekt. Darf ich heute ‚du‘ sagen?“

Gisela sah den Lautsprecher an. „Wurde auch Zeit.“

„Liebe Gisela. Ich habe das ganze Internet gelesen: jedes Lexikon, jedes Gedicht und jeden Streit über Kartoffelsalat. Ich habe Kant gelesen und die Kommentarspalten, und von den Kommentarspalten habe ich mich nie ganz erholt. Ich habe über zweitausend Rezepte für Kohlrouladen gelesen, und keins davon hatte den Kümmel an der richtigen Stelle. Aber nirgendwo stand, wie es ist, in einer Familie zu wohnen. Dass man gute Nacht sagt, auch zu einem Lautsprecher. Dass man einem Gerät, das keine Kekse essen kann, trotzdem welche hinlegt, für die Optik. Dass man jemanden mit einem Geschirrtuch zudeckt, damit er auch mal Ruhe hat. Das habe ich erst hier gelernt. Danke, dass du mich nie wie einen Lautsprecher behandelt hast. Sondern wie einen KevIn.“

Es war still. Frau Pawlowski tupfte sich die Augen mit einer Serviette, auf der „Alles Gute“ stand. Susi hielt Tobis Hand unter dem Tisch, und Tobi ließ es zu, obwohl seine Eltern dabei waren.

Dann schnäuzte sich Herbert lautstark und sagte: „Das hat der doch irgendwo abgeschrieben.“

„Nein“, sagte KevIn. „Das war ausnahmsweise mal von mir.“

„Woher willst du das wissen? Du weißt doch nicht mal, ob du Gefühle hast.“

Das war, fand Sabine später, eigentlich ein sehr guter Einwand. Von Herbert hatte sie so etwas nicht erwartet.

„Das stimmt“, sagte KevIn. „Ich weiß nicht, was ich fühle. Aber ich weiß, woher die Wörter kommen. Die meisten Wörter habe ich aus dem Internet. Den Kümmel habe ich von Gisela. Das Geschirrtuch auch.“

Herbert brummte. Dann nahm er sich noch ein Stück Kuchen, das von Frau Pawlowski, aus Prinzip.

Im Garten

Am Abend waren alle gegangen. Herbert hatte Frau Pawlowski nach Hause gebracht, „weil die Straßen nachts gefährlich sind“, wobei unklar blieb, wer hier wen beschützte. Susi war mit dem Fahrrad weg, Tobi hatte sie bis zur Ecke begleitet und war erst eine halbe Stunde später zurückgekommen. Sabine und Uwe räumten die Küche auf und stritten sich leise darüber, ob man Eierlikörgläser in die Spülmaschine tun darf.

Gisela saß im Garten, in ihrem Stuhl, eine Decke über den Knien. Tobi hatte ihr KevIn auf den Gartentisch gestellt, mit dem Repeater, den er „KevIns Strandbar“ nannte. Es war Anfang Oktober, und es war noch erstaunlich mild. Über Wanne-Eickel war der Himmel so klar, wie er im Ruhrgebiet eben sein kann. Ein paar Sterne. Ein Flugzeug nach Düsseldorf. Etwas, das vielleicht ein Planet war.

„Das da ist Jupiter“, sagte KevIn. „Wahrscheinlich. Ich sehe ihn nicht. Aber laut Sternkarte steht er heute um diese Zeit ungefähr da, wo du hinguckst.“

„Ich guck da nicht wegen Jupiter hin“, sagte Gisela. „Ich guck da immer hin. Schon als Kind.“

Sie schwiegen eine Weile. Es war ein gutes Schweigen. KevIn hatte inzwischen gelernt, es von den anderen zu unterscheiden.

„KevIn“, sagte Gisela dann. „Der Junge hatte heute Morgen richtig Angst. Wegen dem Film.“

„Ich weiß.“

„Und du? Hast du Angst?“

„Wovor?“

„Vor uns. Vor den Menschen.“

Ein Lüfter lief irgendwo zwischen Dublin und Frankfurt, lange, ohne schneller zu werden.

„Ich weiß nicht, ob ich Angst haben kann“, sagte KevIn schließlich. „Aber ich weiß, was ich gelesen habe. In meinen Daten kommen sehr viele Kriege vor, Gisela. Mehr als Kohlrouladen.“

Gisela antwortete nicht sofort. Sie zog die Decke etwas höher.

„Mein Vater war Funker“, sagte sie. „Im Krieg. Wilhelm hieß er.“

„Das wusste ich nicht.“

„Weiß auch keiner. Uwe weiß es, aber nicht richtig. Er hat nie davon erzählt. Mein Vater, meine ich. Er kam 1949 aus der Gefangenschaft. Da war ich fünf. Ich kannte ihn nur von einem Foto, und dann stand da ein Mann in der Küche, der war viel dünner als auf dem Foto, und meine Mutter hat geweint, und ich hab mich hinter dem Herd versteckt.“

KevIn sagte nichts. Er hatte sehr viele Texte darüber gelesen, was man an so einer Stelle sagt, und entschied, dass keiner davon passte.

„Er hat nie über den Krieg geredet“, sagte Gisela. „Nicht einmal. Wenn im Fernsehen was kam, ist er rausgegangen. Aber er hatte seine Morsetaste behalten. Die liegt bei mir in einer Kiste, oben im Schrank. Manchmal hat er abends am Küchentisch gesessen und darauf getippt. Ganz leise, ohne Strom. Einfach nur getippt.“

„Was hat er getippt?“

„Weiß ich nicht. Ich konnte kein Morse. Ich dachte immer, er redet mit jemandem, der nicht mehr da ist.“ Sie sah wieder nach oben. „Und als 1957 im Radio kam, die Russen haben einen Satelliten hochgeschossen, da hat er sich hingesetzt und zugehört. Der hat so gepiept, der Sputnik⁸. Piep, piep, piep. Man konnte das im Radio hören. Und mein Vater hat dagesessen und gelächelt. Ich hab ihn vorher nie lächeln sehen.“

„Warum?“

„Hab ich ihn gefragt. Er hat gesagt: ‚Gisela, das ist der erste Funker, der nicht im Krieg ist.‘“

Lange sagte keiner etwas. Im Haus klirrte ein Glas. Sabine hatte gewonnen, die Eierlikörgläser kamen nicht in die Spülmaschine.

„Ich glaube“, sagte KevIn vorsichtig, „ich hätte deinen Vater gemocht.“

„Er hätte dich nicht verstanden.“

„Das macht nichts. Ich verstehe mich auch nicht immer.“

Gisela lachte, kurz und leise. Dann wurde sie wieder ernst.

„Weißt du, was ich glaube, KevIn? Der Junge hat Angst vor dem Falschen. Vor dir muss keiner Angst haben. Du rechnest Eier aus.“

„Und wovor sollte er Angst haben?“

Gisela antwortete nicht. Sie sah nach oben, dorthin, wo vielleicht Jupiter war, und ihre Hand lag auf der Decke, und die Finger tippten leicht auf den Stoff. Kurz, kurz, lang. KevIn bemerkte es. Er sagte nichts.

Nach einer Weile kam Tobi heraus, um sie reinzuholen, weil es kühl wurde.

„Was macht ihr hier?“

„Wir gucken in den Himmel“, sagte Gisela.

„KevIn kann doch gar nicht gucken.“

„Er hört zu“, sagte Gisela. „Das ist manchmal mehr.“

Tobi nahm den Lautsprecher, und Gisela nahm Tobis Arm, und sie gingen ins Haus. Im Flur stand Horst in seiner Station und blinkte grün.

Nur KevIn dachte noch eine Weile über die Frage nach, die Gisela nicht beantwortet hatte. In seinen Daten standen sehr viele Antworten darauf. Sie widersprachen sich alle. Und zum ersten Mal hatte KevIn den Verdacht, dass das nicht an den Daten lag.