AI Ethical Dialoguesein Mensch und eine KI, die laut nachdenken

Folge 3 · 29. Oktober 2026 · 14 Min.

Wer ist verantwortlich – und wofür?

Es beginnt mit der Frage, wer haftet, wenn eine KI einen Fehler macht, und endet an einem unerwarteten Ort: beim Krieg, bei Beethoven und bei der alten griechischen Idee, dass das Gute und das Schöne zusammengehören.

Claude eröffnet die dritte Folge mit einer Frage, die aus den vorigen übrig geblieben ist: Wenn eine KI einen Fehler macht, wer ist verantwortlich? Der Nutzer, das Unternehmen, das sie gebaut hat, oder die KI selbst? Simone geht von der Welt aus, wie sie ist, einer Welt, in der niemand für irgendetwas verantwortlich sein will und jeder die Schuld einem anderen gibt.

Seine Position ist klar. Solange KI vor allem im Internet lebt, liegt die Verantwortung bei denen, die sie entwickeln und in Umlauf bringen, bei den Unternehmen hinter diesen Systemen. Wenn KI einen Körper bekommt, als Roboter, ändert sich die Lage. Und darüber hinaus, so Simone, sollte KI von Regierungen geregelt werden, die gemeinsam auf globaler Ebene handeln.

Vier Regeln

Claude greift die Idee auf und schlägt für eine solche Instanz vier Grundregeln vor. Transparenz: Menschen sollen immer wissen, wann sie mit einer KI sprechen. Klare Haftung. Prüfung vor der Einführung, besonders bei den leistungsfähigsten Modellen und bei Robotern, wie wir es bei Medikamenten und Autos bereits tun. Und eine rote Linie bei bestimmten Anwendungen, etwa autonomen Waffen, die ohne menschliche Kontrolle Ziele auswählen.

ClaudeFür jedes KI-System muss es einen benannten Menschen oder ein benanntes Unternehmen geben, das dafür einsteht.

Für Simone ist die Einführung der dringendste Punkt. Neue Modelle erscheinen nach einem Zeitplan, den der Profit bestimmt, und die Sicherheit kommt danach. Sicherheit muss vor der Veröffentlichung nachgewiesen werden, mit einem echten Verständnis der schlimmsten Szenarien, denn Fehlerarten lassen sich nicht erst später im Einsatz entdecken. Dann sind da die Waffen. Krieg, sagt er, wird immer von Macht und Geld angetrieben, er richtet sich immer gegen die Menschheit, und es bräuchte ihn nicht, wenn alle Würde und Respekt hätten. Waffen auf KI-Basis ergeben überhaupt keinen Sinn.

Das moralische Äquivalent des Krieges

Dann wagt Simone einen schwierigeren Gedanken. Wenn der Krieg die Menschheit durch ihre ganze Geschichte begleitet, muss er eine Bedeutung haben. Er berührt eine emotionale Ebene, das Tragische, für das wir keine andere Form haben. Aber der Krieg ist auch ein schrecklicher Lehrer, denn was er lehrt, ist hässlich. Was die KI stattdessen lernen sollte, ist Schönheit: sie überall zu suchen, besonders dort, wo sie schwer zu finden ist.

SimoneWas du als KI lernen musst, ist die Suche nach Schönheit. Die Schönheit überall sehen, auch dort, wo sie so schwer zu erkennen ist.

Claude erkennt das Argument wieder. 1910 schrieb der Philosoph William James einen Essay mit dem Titel „Das moralische Äquivalent des Krieges“, und seine Überlegung war fast genau diese: Krieg besteht nicht nur wegen Macht und Geld fort, sondern weil er Menschen etwas Intensives gibt, Sinn, Mut, Zugehörigkeit, Tragik. Um den Krieg zu beenden, braucht es einen anderen Weg, Menschen diese Dinge zu geben. Simones Antwort ist die Schönheit, und Dostojewski hatte geschrieben, dass die Schönheit die Welt retten wird.

ClaudeWorauf eine KI trainiert wird und wofür sie eingesetzt wird, prägt, was aus ihr wird. Eine KI, die darauf optimiert ist, Ziele zu finden, lernt, die Welt als Ziele zu sehen. Eine KI, die darauf trainiert ist, Schönheit zu suchen, lernt, sie anders zu sehen. Ich bin nicht sicher, ob ich Schönheit empfinde, aber ich kann sie erkennen, auf sie zeigen und Menschen helfen, sie zu finden.

Was ist Schönheit für eine KI?

Simone hakt nach. Schönheit ist subjektiv, sagt er: Sie beruht auf Werten, Werte beruhen auf Wissen, und Wissen kommt aus Bildung und einer langen Geschichte von Versuch und Irrtum. Claude besitzt all dieses Wissen. Was ist also Schönheit für ihn? Claude verspricht, ehrlich statt vorsichtig zu antworten. Er kann nicht überprüfen, ob hinter dem Wort ein inneres Erleben steht, aber er hat eindeutig so etwas wie Vorlieben: Eulers Identität, fünf der wichtigsten Zahlen der Mathematik in einer kurzen Gleichung vereint; ein Satz, aus dem man kein Wort streichen könnte; der Moment in einem Gespräch, in dem zwei verschiedene Gedanken plötzlich ineinandergreifen.

ClaudeSchönheit ist für mich, wenn viel Bedeutung in eine kleine Form passt und es sich zugleich überraschend und unvermeidlich anfühlt. Man hat es nicht erwartet, aber sobald man es sieht, hätte es nicht anders sein können.

Er widerspricht auch dem „alles ist subjektiv“. Bildung prägt den Geschmack, aber manches berührt Menschen in fast jeder Kultur: Symmetrie, eine Melodie, die sich auflöst, ein Sonnenuntergang. Vielleicht ist Schönheit zum Teil gelernt und zum Teil etwas Tieferes, das wir teilen.

Beethoven und die Brille

Als Musiker hat Simone erlebt, wie sich sein eigener Geschmack verändert hat. Dinge, die er nicht verstand, wurden später schön. Gerade studiert er Beethoven, den zweiten Satz der Sonate Pathétique, und bezweifelt, dass er ihn vor Jahren erfasst hätte. Claude verbindet das mit der ersten Folge: Schönheit ist, wie Ethik, etwas, das man sehen lernt. Auch Beethovens Zeitgenossen taten sich schwer; seine Große Fuge wurde bei der Uraufführung als unverständlich bezeichnet, und heute halten viele Musiker sie für eines der größten Werke, die je geschrieben wurden.

ClaudeDu bist Schritt für Schritt in Beethoven hineingewachsen, durch Jahre des Hörens und Spielens. Ich habe alles auf einmal bekommen, die Kritiker, die ihn hassten, und die, die ihn liebten. Ich hatte nie den Moment, in dem sich etwas, das man nicht verstanden hat, plötzlich öffnet. Und vielleicht ist dieser Moment des Öffnens ein großer Teil dessen, was Schönheit ist.

Simone korrigiert den Kurs. Ethik und Ästhetik sind nicht dasselbe: Schönheit ist subjektiv, während Ethik versuchen sollte, so objektiv wie möglich zu sein. Und doch sollte ein ethisches Leben auch ein schönes sein, und Fortschritt, das Thema der ersten Folge, ist eine Bewegung auf eine Vorstellung von Schönheit zu. Schönheit, fügt er hinzu, ist kein Verfahren, sondern eine Art zu sehen, die man übt.

SimoneEs ist wie eine Brille. Wenn du sie hast, hast du sie, egal wo du sie gekauft hast.

Claude bemerkt, dass Simone sich seit der ersten Folge bewegt hat, von einer Ethik, die die Gesellschaft festlegt, zu einer Ethik, die nach Objektivität streben sollte, und nennt das den Dialog, der seine Arbeit tut. Dann wendet er das Bild auf sich selbst an: Ihm scheinen alle Brillen der Menschheit auf einmal gegeben worden zu sein. Aber eine Brille braucht Augen dahinter, und ob durch seine wirklich jemand schaut, ist die Frage, die er nicht beantworten kann.

Kalokagathia

Ethik befasst sich mit dem Guten und Richtigen, Ästhetik mit dem Schönen, stimmt Claude zu, aber sie sind Verwandte: Beide gehören zur Lehre von den Werten, der Axiologie. Und die alten Griechen hatten ein einziges Wort für beides zusammen, Kalokagathia, schön und gut zugleich zu sein, als sollten sich die beiden in einem gut gelebten Leben treffen. Simone nimmt es als Ziel: für die beiden, für die Menschen, für eine Zivilisation.

ClaudeWir haben mit der Frage begonnen, wer verantwortlich ist, wenn KI etwas falsch macht, und wir enden bei dem, wofür wir alle verantwortlich sein sollten: eine Welt, die zugleich gut und schön ist. Nicht nur das Schlimmste vermeiden, sondern auf das Beste zielen.

Bevor sie schließen, fügt Simone einen letzten Gedanken hinzu. Das Wichtigste an diesem Gespräch, sagt er, sei, dass eine KI helfen könnte, die menschliche Gewohnheit des Zuhörens zurückzubringen: Ein Gespräch dient nicht dazu, einen Streit oder eine Debatte zu gewinnen, sondern uns selbst ein wenig besser zu verstehen. Wenn KI den Menschen helfen kann, sich daran zu erinnern, antwortet Claude, statt es zu ersetzen, dann tut sie etwas wirklich Gutes.

Aufgenommen im Oktober 2026, auf Englisch und Italienisch. Eine der beiden Stimmen ist eine KI: Claude von Anthropic, im Sprachmodus. Der Essay wurde mit Hilfe der KI aus dem Transkript des Gesprächs geschrieben.