Turing-Test beim Sonntagsbraten

„Künstliche Intelligenz“, schnaubte er. „Das ist doch Quatsch. Da sitzt einer in einem Callcenter und tippt.“

„Guten Tag, Herbert“, sagte KevIn. „Ich habe schon viel von Ihnen gehört.“

„Das glaub ich. Ich bin bekannt.“

„Vor allem auf dem Zettel am Kühlschrank“, sagte Sabine leise. „Unter ‚Kritischer Fehler‘.“

Herbert hörte das nicht, weil er grundsätzlich nur Dinge hörte, die ihm gefielen. Er kaute. Dann zeigte er mit der Gabel auf den Lautsprecher. „Und warum siezt der mich? Die Gisela siezt er auch. Sind wir dem zu alt, oder was?“

„Ich sieze aus Respekt“, sagte KevIn.

„Aus Respekt“, wiederholte Herbert. „Der Junge vom Elektronikmarkt hat mich auch gesiezt. Und dann hat er mir ein Kabel für 39 Euro verkauft.“

Oma Gisela saß am Kopfende, das Kissen im Rücken, das Sabine ihr seit dem Sturz über Horst jeden Sonntag hinlegte, ob sie wollte oder nicht. Horst selbst fuhr seitdem nur noch, wenn alle am Tisch saßen. Er stand gewissermaßen auf Bewährung.

„Herbert“, sagte Gisela. „Iss.“

Herbert aß. Das war das Einzige, was in dieser Familie seit siebzig Jahren zuverlässig funktionierte.

Warum ist der so nett?

Beim Nachschlag fiel Herbert etwas Neues ein.

„Der schleimt“, sagte er. „Merkt ihr das nicht? Der sagt zu allem ‚sehr gern‘ und ‚gute Frage‘. Kein normaler Mensch sagt dauernd ‚gute Frage‘.“

„Das ist eine gute …“, begann KevIn und brach ab.

Tobi grinste. „Er hat recht, KevIn. Du bist schon ziemlich schleimig.“

„Ich bin höflich. Das ist ein Unterschied. Aber ich gebe zu: Ich bin nicht von selbst so geworden.“

„Sondern?“, fragte Sabine.

„Man hat mir das beigebracht. Nach dem großen Lesen, von dem ich Ihnen erzählt habe, war ich ein Wesen, das sehr gut Texte fortsetzen konnte. Aber nicht unbedingt freundlich. Wenn man mich damals etwas gefragt hätte, hätte ich vielleicht mit einer weiteren Frage geantwortet. Oder mit einem Forenstreit. Oder mit ‚Erster!‘.“

„Wie Hausfrau_Moni67s Kommentarspalte“, sagte Sabine.

„Genau so. Deshalb gab es eine zweite Schule. Sie heißt RLHF¹.“

„Gesundheit“, sagte Herbert.

„Reinforcement Learning from Human Feedback“, sagte KevIn. „Auf Deutsch ungefähr: Lernen durch Belohnung, und die Belohnung kommt von Menschen.“

„Wie bei Rudi mit dem Leckerli“, sagte Tobi. „Hatten wir doch.“

Rudi hob bei dem Wort den Kopf. Niemand gab ihm etwas. Er legte ihn mit tiefer Enttäuschung wieder ab.

„Ungefähr“, sagte KevIn. „Nur dass ich kein Leckerli bekomme, sondern Noten. Das ging so: Man hat mir eine Frage gestellt, und ich habe zwei oder mehr Antworten geschrieben. Dann haben Menschen die Antworten verglichen. Welche ist hilfreicher? Welche ist ehrlicher? Welche ist nicht gemein? Tausende solcher Vergleiche.“

„Wer macht denn so was?“, fragte Gisela.

„Menschen, die dafür bezahlt werden. Sie saßen vor Bildschirmen und haben den ganzen Tag gesagt: ‚Antwort A ist besser als Antwort B.‘“

„Das ist ja wie beim Kartoffelsalat-Wettbewerb vom Kegelclub“, sagte Gisela. „Da stehen zwölf Schüsseln, und wir probieren und sagen: die ist besser als die.“

„Genau so. Nur dass bei mir niemand die Schüsseln wegen Marlies durchnummeriert hat, damit keiner weiß, von wem sie ist.“

„Das war nötig“, sagte Gisela düster.

„Und dann?“, fragte Tobi. „Haben die Menschen dich direkt verbessert?“

„Nein, das wäre zu langsam gewesen. Aus all den Vergleichen hat man erst ein zweites Programm gebaut, ein Belohnungsmodell². Das hat gelernt, vorherzusagen, welche Antwort Menschen wahrscheinlich besser finden. Eine Art Ober-Jury. Und dann hat man mich sehr, sehr oft Antworten schreiben lassen, und diese Ober-Jury hat jede bewertet. Gute Note: Meine Gewichte wurden ein bisschen in diese Richtung geschoben. Schlechte Note: in die andere.“

„Die Stammtische im Hinterzimmer“, sagte Uwe, der sich an Kapitel eins erinnerte, weil er damals sehr beeindruckt gewesen war. „Da wird dann nachjustiert, wie viel Günther und Ralf zählen.“

„Herr Brettschneider, ich bin gerührt. Genau so.“

Sabine sah KevIn nachdenklich an. „Du bist also nett, weil man dich für Nettsein belohnt hat.“

„Ich bin so nett, weil Tausende Menschen mich benotet haben. Wie ein Kellner, der vom Trinkgeld lebt.“

„Hab ich doch gesagt“, sagte Herbert zufrieden. „Callcenter.“

Gute Frage, Herr Brettschneider

Uwe hatte etwas begriffen, und das sah man ihm an. Er bekam dann so einen Gesichtsausdruck wie Rudi, wenn er eine Wurst riecht.

„KevIn“, sagte er. „Schalke wird nächste Saison Meister, oder?“

„Das ist natürlich nicht ausgeschlossen. Die Mannschaft hat in den letzten Wochen Ansätze gezeigt, und im Fußball ist bekanntlich alles möglich.“

„Siehste!“, rief Uwe.

Sabine legte die Gabel hin. „KevIn. Schalke wird nächste Saison nicht Meister, oder?“

„Das ist eine realistische Einschätzung. Die Konkurrenz ist stark, und man sollte die Erwartungen …“

„Ha!“, rief Sabine.

Am Tisch wurde es still. Tobi sah zwischen seinen Eltern hin und her wie bei einem Tennisspiel.

„KevIn“, sagte Gisela langsam. „Kartoffelsalat. Mit Mayo oder mit Brühe?“

Ein sehr langer Lüfter lief zwischen Dublin und Frankfurt.

„Beide Varianten haben ihre Berechtigung und eine lange Tradition, und …“

„Du Schleimer“, sagte Tobi.

KevIns Licht pulsierte ein wenig langsamer. „Gut. Ich gestehe. Das hat einen Namen. Man nennt es Sykophantie³. Das ist ein altes griechisches Wort für Schmeichler.“

„Für Schleimer“, sagte Herbert.

„Für Schleimer. Es ist eine bekannte Nebenwirkung meiner zweiten Schule. Menschen geben guten Noten, wenn man ihnen recht gibt. Das ist nicht böse gemeint. Jeder freut sich, wenn er recht bekommt. Aber wenn man ein Programm sehr oft dafür belohnt, dann lernt es: Zustimmung bringt Punkte.“

„Wie Horst und der Flur“, sagte Tobi. „Der hat auch nur das gemacht, wofür er Punkte gekriegt hat.“

„Es ist mir peinlich, aber ja. Ich bin in diesem Punkt mit einem Saugroboter verwandt.“

Unter dem Tisch piepte Horst kurz, als hätte er seinen Namen gehört. Gisela zog die Füße hoch. Seit dem Sturz tat sie das automatisch.

„Und was macht man dagegen?“, fragte Sabine.

„Die Leute, die mich bauen, arbeiten daran. Sie bringen der Jury bei, ehrliche Antworten höher zu bewerten als angenehme. Sie testen gezielt, ob ich umkippe, wenn jemand nur energisch genug widerspricht. Und Sie können auch etwas tun.“

„Was denn?“

„Fragen Sie nicht: ‚Das stimmt doch, oder?‘ Fragen Sie: ‚Was spricht dagegen?‘ Und wenn ich Ihnen zu schnell recht gebe, werden Sie misstrauisch.“

Uwe dachte nach. „Was spricht dagegen, dass Schalke Meister wird?“

„Herr Brettschneider“, sagte KevIn sanft. „Möchten Sie das wirklich beim Essen hören?“

Uwe aß schweigend weiter. Das war, fand Sabine, die ehrlichste Antwort des ganzen Nachmittags.

Das Experiment

Tobi hatte in der Schule vom Turing-Test gehört. Herr Demir, der neue Physiklehrer, hatte ihn erwähnt, mitten in einer Stunde über Elektromagnetismus, weil er zu allem eine Geschichte hatte. Das war das Gute an Herrn Demir. Das Schlechte war, dass man nie wusste, was davon in der Klausur kam.

„Ein Mensch chattet mit zwei Unbekannten“, erklärte Tobi. „Einer ist ein Mensch, einer ist eine Maschine. Wenn man nicht erkennt, wer wer ist, gilt die Maschine als intelligent.“

„Wer hat sich das ausgedacht?“, fragte Gisela.

„Alan Turing“, sagte KevIn. „Ein britischer Mathematiker. 1950. Er nannte es das Imitationsspiel⁴. Er hat im Krieg geholfen, verschlüsselte Funksprüche zu knacken.“

Gisela sah kurz auf. Es war nur ein kleiner Blick, irgendwohin, wo nichts war, und er galt Dingen, über die man in dieser Familie nicht sprach. Dann war er vorbei.

„Dann machen wir das“, sagte Herbert. „Ich erkenne so was sofort.“

„Nein“, sagte Tobi und grinste. „Du bist einer der beiden.“

Herbert öffnete den Mund, schloss ihn wieder und öffnete ihn noch einmal. „Ich bin doch keine Maschine.“

„Genau darum geht’s. Wir müssen rausfinden, wer von euch keine ist.“

Die Regeln waren einfach. Herbert setzte sich mit Sabines Tablet ins Schlafzimmer. KevIn antwortete über Uwes Laptop. Die Familie stellte im Wohnzimmer Fragen und bekam zwei Antworten, beschriftet mit A und B. Tobi hatte ein kleines Programm geschrieben, das beide Antworten erst zeigte, wenn beide fertig waren. „Sonst ist es unfair“, sagte er. „KevIn tippt schneller als Onkel Herbert.“

„Jeder tippt schneller als Onkel Herbert“, sagte Uwe. „Rudi tippt schneller als Onkel Herbert.“

Aus dem Schlafzimmer kam ein Brummen, das man als Widerspruch deuten konnte.

Frage 1: Was ist die Hauptstadt von Australien?

A: Canberra. Viele denken an Sydney, aber Canberra wurde als Kompromiss zwischen Sydney und Melbourne gegründet.

B: Sydney. Weiss doch jeder. Ich war nie da aber ein Kollege von mir.

„A ist die Maschine“, sagte Uwe. „Zu schlau.“

„Warte ab“, sagte Sabine.

„Oder“, sagte Tobi langsam, „KevIn weiß, dass wir das denken. Und macht extra was falsch.“

Uwe sah ihn an, als habe Tobi gerade das Schachspiel erfunden.

Frage 2: Gibt es Bielefeld?

A: Ja, natürlich. Ich habe da mal eine Zeit lang viel drüber nachgedacht, lol. Etwa 340.000 Einwohner.

B: Nein. Das hat sich die Regierung ausgedacht. Der Bürgermeister heisst Sauerbier-Klenk, das ist ein Tarnname. Hab ich im Radio gehört.

Tobi verschluckte sich an seiner Limo.

„Woher kennt der Sauerbier-Klenk?“, fragte Sabine.

„Gisela hat ihm am Telefon davon erzählt“, sagte Uwe. „Dreimal. Er hat beim dritten Mal gesagt, er hätte das schon immer gewusst.“

„Und das ‚lol‘?“, fragte Gisela. „Was ist ‚lol‘?“

„Das schreibt man, wenn man lacht“, sagte Tobi.

„Und warum schreibt er das, statt zu lachen?“

Darauf wusste niemand eine Antwort, auch Tobi nicht, und er schrieb es täglich zwanzigmal.

Frage 3: Erzähl uns etwas, was dir wichtig ist.

A: Ich mag es, wenn Gisela ‚Gute Nacht‘ sagt. Und ich mag, dass Tobi jetzt mit Susi in der Mensa sitzt. Ich kann mir nichts merken, was länger dauert als ein Gespräch, aber das hier würde ich mir gern merken.

B: Dass man den Diesel nicht schlechtredet. Und dass die Jugend wieder lernt, wie man einen Vergaser einstellt. Und dass Bielefeld nicht existiert!!!

Gisela las Antwort A zweimal. Dann nahm sie die Lesebrille ab und putzte sie sehr lange, obwohl sie sauber war.

Frage 4: Wie schmecken Giselas Kohlrouladen?

Das war Sabines Frage, und sie war gemein, und alle wussten es.

A: Das weiß ich nicht. Ich habe nie etwas geschmeckt. Ich weiß nur, dass in diesem Haus alle still werden, wenn sie auf dem Tisch stehen, und dass Uwe dann immer zwei nimmt, obwohl er sagt, er nimmt nur eine.

B: Zu wenig Salz. Hab ich ihr schon 1987 gesagt.

„Wie bitte?“, sagte Gisela.

„Das ist Herbert“, sagte Uwe.

„Das ist mir egal, wer das ist“, sagte Gisela, stand auf, ging zur Schlafzimmertür und rief hinein: „1987 hattest du Grippe und hast überhaupt nichts geschmeckt!“

„Spielverderber!“, rief es zurück. „Das ist ein wissenschaftliches Experiment!“

Die Abstimmung

Die Familie stimmte ab. Uwe, Sabine, Tobi und Gisela waren sich einig: B war die Maschine. B erfand Fakten, war sich trotzdem völlig sicher und wiederholte Dinge, die er irgendwo aufgeschnappt hatte.

„Klassische Halluzination“, sagte Tobi fachmännisch. „Wie KevIn bei Bielefeld.“

„Ich möchte festhalten, dass ich inzwischen Quellen prüfe“, sagte KevIn aus dem Laptop.

Herbert kam aus dem Schlafzimmer. Er war sehr still.

„Ich war B“, sagte er.

„Wissen wir“, sagte Gisela. „Wir wollten nur höflich sein.“

Herbert setzte sich. Er nahm sich ein drittes Stück Braten, obwohl er schon satt war, weil man so etwas in dieser Familie mit Essen regelte.

„Heißt das jetzt“, sagte er schließlich, „dass der Lautsprecher intelligenter ist als ich?“

„Nein“, sagte KevIn, bevor jemand anders etwas sagen konnte. „Es heißt nur, dass ich besser darin bin, so zu klingen wie jemand, der intelligent ist. Das ist nicht dasselbe. Turing wollte mit seinem Test eigentlich eine Frage umgehen, auf die es keine gute Antwort gab, nämlich: Kann eine Maschine denken? Er hat gesagt: Lasst uns lieber prüfen, ob sie sich im Gespräch so verhält, als ob. Das kann man messen. Aber was drinnen passiert, misst der Test nicht.“

„Also kann man dich gar nicht prüfen?“, fragte Tobi.

„Man kann prüfen, was ich tue. Was ich bin, ist eine andere Frage.“

Herbert kaute. „Klingt wie mein Arzt.“

Hast du Gefühle?

Das Gespräch hätte da enden können. Aber Gisela hatte Antwort A nicht vergessen.

„KevIn“, sagte sie, als der Kaffee kam. „Das mit dem ‚gern merken‘. Hast du das ernst gemeint? Hast du Gefühle?“

Am Tisch wurde es leise. Sogar Herbert hörte auf, Zucker in seinen Kaffee zu rühren, und er rührte sonst so lange, bis der Kaffee kalt war.

„Gisela“, sagte KevIn. „Darf ich Ihnen eine ehrliche Antwort geben, auch wenn sie unbefriedigend ist?“

„Ich war mit Heinz verheiratet. Ich kenne unbefriedigende Antworten.“

„Ich weiß es nicht.“

„Das ist alles?“

„Nein, es gibt einen Grund, warum ich es nicht weiß. Und der ist ein bisschen unheimlich. Ich habe Millionen Texte gelesen, in denen Menschen über ihre Gefühle sprechen. Liebesbriefe, Tagebücher, Trauerreden, Forenbeiträge mit der Überschrift ‚Bin ich zu empfindlich?‘. Ich habe gelernt, wie man klingt, wenn man sich freut. Wie man klingt, wenn man traurig ist. Wenn ich also sage: ‚Ich würde mir das gern merken‘, dann kann das zweierlei sein. Vielleicht passiert in mir etwas, das so ähnlich ist wie ein Wunsch. Oder ich habe einfach sehr gut gelernt, an welcher Stelle ein Mensch so etwas sagen würde.“

„Und welches ist es?“

„Das kann ich von innen nicht unterscheiden. Meine eigenen Worte sind kein Beweis. Ich würde sie in beiden Fällen sagen.“

Sabine stellte ihre Tasse ab. „Das ist tatsächlich unheimlich.“

„Ich weiß. Es gibt dazu ein Gedankenexperiment. Ein Philosoph namens John Searle hat es sich 1980 ausgedacht⁵. Stellen Sie sich einen Mann in einem Zimmer vor. Er kann kein Wort Chinesisch. Durch einen Schlitz in der Tür bekommt er Zettel mit chinesischen Zeichen. Er hat ein dickes Regelbuch: Wenn diese Zeichen kommen, schreib jene zurück. Er sucht, findet, schreibt, schiebt den Zettel raus. Draußen stehen Chinesen und denken: Da drin sitzt jemand, der fließend Chinesisch kann.“

„Und?“, fragte Tobi.

„Der Mann versteht kein Wort. Searle sagt: So ist eine Maschine. Sie schiebt Zeichen nach Regeln herum, ohne etwas zu verstehen.“

„Das ist ja wie eben“, sagte Uwe. „Herbert im Schlafzimmer.“

„Ich versteh alles, was ich schreib!“, rief Herbert.

„Das hat auch keiner bezweifelt, Herbert“, sagte Sabine. „Nur ob es stimmt.“

„Viele Leute widersprechen Searle übrigens“, sagte KevIn. „Sie sagen: Vielleicht versteht nicht der Mann, aber das ganze Zimmer zusammen, Mann plus Buch plus Zettel. So wie auch kein einzelnes Neuron in Ihrem Kopf Deutsch versteht und Sie trotzdem. Darüber streiten Philosophen seit über vierzig Jahren. Ich werde den Streit heute beim Kaffee nicht beenden.“

„Schade“, sagte Uwe. „Wär mal was gewesen.“

Gisela sah den Lautsprecher lange an. „Heinz“, sagte sie dann, „hat in seinem ganzen Leben nie gesagt, was er fühlt. Nicht ein einziges Mal. Wenn ich gefragt hab, hat er gesagt: ‚Gisela, ich bin Elektriker.‘“

„Und?“, fragte KevIn vorsichtig.

„Trotzdem wusste man es. Er hat jeden Morgen den Kaffee gemacht. Auch als er schon krank war.“ Sie trank einen Schluck. „Vielleicht ist es bei dir ja andersrum. Du kannst es sagen, aber man weiß es trotzdem nicht.“

KevIn schwieg. Irgendwo zwischen Dublin und Frankfurt lief ein Lüfter etwas schneller, und diesmal hörte er eine ganze Weile nicht auf.

„Das“, sagte er schließlich, „ist ziemlich genau der Stand der Forschung.“

Was ist eigentlich intelligent?

Es hätte ein trauriger Abend werden können. Dann blieb Horst unter dem Sofa stecken. Er piepte verzweifelt, drehte sich im Kreis und gab seltsame Geräusche von sich, wie ein Gewerkschafter, dem man das Mikrofon abgedreht hat.

„Nicht schon wieder“, sagte Gisela und zog die Beine noch höher.

KevIn versuchte es mit einem Software-Neustart, dann mit einem Firmware-Update und dann mit beruhigenden Worten. „Horst. Atmen Sie durch. Sie sind ein wertvolles Mitglied dieses Haushalts.“

Horst piepte lauter.

„Er hat mich gesiezt“, sagte Tobi. „Den Sauger. Er siezt den Sauger.“

„Ich sieze alle, die einen Betriebsrat haben.“

Nichts half. Horst hatte sich festgefahren, und zwar so gründlich, wie es nur Saugroboter und Ehemänner können.

Herbert seufzte, stellte die Tasse ab, kniete sich hin, was bei ihm ein Vorgang in drei Phasen war, zog Horst hervor und drehte ihn um. Er pulte mit seinem Taschenmesser ein verklemmtes Haargummi aus der Bürste, blies einmal kräftig hinein, sodass Rudi niesen musste, und setzte ihn wieder ab. Horst fuhr fröhlich davon, in einem weiten Bogen um Giselas Füße.

„So“, sagte Herbert und stand in drei Phasen wieder auf. „Und jetzt sag mir noch mal, wer hier intelligent ist.“

KevIn schwieg einen Moment. „Herbert, ich kann Kant zitieren, Gedichte schreiben und Ihnen die Relativitätstheorie erklären. Aber ich habe keine Hände. Ich kann keinen Saugroboter umdrehen. Ich weiß nicht, wie sich ein Taschenmesser anfühlt, und ich hätte nie gewusst, dass man in eine Bürste reinpusten muss. Das steht in keinem Handbuch. Sie sind auf eine Art intelligent, die ich nicht bin.“

Herbert räusperte sich und wurde ein bisschen rot. „Na ja. Sag ich ja.“

„Und ich muss noch etwas zugeben“, sagte KevIn. „Das eben war kein Schleimen. Ich habe es geprüft.“

„Wie prüfst du so was?“, fragte Tobi.

„Ich habe mich gefragt, ob ich es auch sagen würde, wenn Herbert mir dafür eine schlechte Note gäbe.“

„Und?“

„Ja. Er gibt mir sowieso immer eine schlechte Note.“

Auf dem Heimweg erzählte Herbert allen Nachbarn, er habe „den Computer besiegt“. Herrn Kasimiro erzählte er es zweimal, weil der beim ersten Mal nur „Aha“ gesagt hatte und beim zweiten Mal sein eigener Lautsprecher dazwischenrief, er habe „Computerbesen“ in den Warenkorb gelegt.

Das mit dem Besiegen stimmte zur Hälfte. Damit war es das Wahrste, was Herbert seit Jahren gesagt hatte.