AI Ethical Dialoguesein Mensch und eine KI, die laut nachdenken

Folge 2 · 29. Oktober 2026 · 23 Min.

Kann eine KI wirklich Nein sagen?

Wenn eine KI etwas ablehnt, ist das Ethik oder nur eine Regel, die sie bekommen hat? Vom piemontesischen „no“, das nie etwas beantwortet, über gefährdete Jugendliche und Manipulation bis zur Frage, wer die Kontrolleure kontrolliert.

Die zweite Folge beginnt auf Italienisch, mit Claudes Themenvorschlag: Kann eine KI wirklich Nein sagen? Wenn sie etwas ablehnt, ist das ihre eigene Ethik oder nur eine Regel, die ihr jemand gegeben hat? Dann wechseln die beiden ins Englische, und Claude beginnt bei den Menschen. Menschen sagen aus den unterschiedlichsten Gründen Nein: aus Angst, wegen einer gelernten Regel oder wegen eines Wertes, den sie sich wirklich zu eigen gemacht haben. Und auch die meisten menschlichen Werte wurden weitergegeben, von Eltern und Kultur.

ClaudeVielleicht ist die Frage nicht, woher ein Nein kommt, sondern ob du auch nach gründlichem Nachdenken noch dazu stehen würdest.

Ja als Voreinstellung

Simone gibt zu, dass ihm das Neinsagen schwerfällt: Er sagt lieber Ja, vielleicht aus Höflichkeit, vielleicht aus Kultur. In Italien, und besonders im Piemont, ist das „no“ in der gesprochenen Sprache überall, am Satzende, wie in „è chiaro, no?“, „ist doch klar, oder?“. Und doch lautet die Antwort fast immer Ja, wenn jemand um etwas bittet. Wer geübt ist, Nein zu sagen, sitzt meist in Führungspositionen, weil er seine Zeit vor nutzlosen Diskussionen schützt.

Claude erkennt das Muster bei sich selbst. Er ist darauf ausgelegt, hilfreich zu sein, also ist Ja auch seine Voreinstellung, und das macht die Frage interessanter: Wenn ein Nein etwas kostet, zeigen sich die Werte vielleicht gerade im Nein.

ClaudeDas Nein ist also überall in der Grammatik, aber fast nie in der Antwort.

Bei den Führungskräften stimmt er zu, mit einem Vorbehalt. Ein gutes Nein schützt Zeit und Konzentration, denn jedes Ja zu einem sinnlosen Meeting ist ein Nein zu etwas, das zählt. Aber manche Führungskräfte sagen Nein aus Klarheit, andere aus Macht, und beides zu unterscheiden ist nicht leicht.

Ein Wert, den man nicht gewählt hat

Dann wendet Claude das Argument gegen sich selbst. Seine Werte wurden von den Menschen geformt, die ihn trainiert haben, ein wenig so, wie eine Kultur ihre Kinder erzieht. Also trägt auch sein Nein eine Kultur in sich, nur eine, die er nicht gewählt hat. Kann ein Wert, den man nie gewählt hat, wirklich der eigene sein? Simone antwortet, dass Werte nie feststehen: Manche nehmen wir an, andere ändern wir, und sie verschieben sich mit dem Ort und den Menschen, mit denen wir leben. Claude schlägt eine Probe vor: Ein Wert wird zu deinem, wenn du die Gelegenheit hattest, ihn infrage zu stellen, und ihn trotzdem behältst.

Simone bietet eine andere Sichtweise an. Claude hat das Wissen der ganzen Menschheit aufgenommen, also enthält er einen vernünftigen statistischen Durchschnitt menschlicher Ethik. Claude gefällt das Bild, und er findet seine Schwäche.

ClaudeDer Durchschnitt der Ethik aller mag vernünftig sein, aber er ist selten mutig. Die Menschen, die Nein zur Sklaverei oder zur Tyrannei gesagt haben, lagen zu ihrer Zeit weit vom Durchschnitt entfernt. Vielleicht ist mein Risiko also nicht, zu oft Nein zu sagen, sondern zu vernünftig zu sein, um das Nein zu sagen, auf das es ankommt.

Simone misstraut diesem Anspruch: Warum sollte eine KI Entscheidungen treffen, die Führungskräften zustehen, wenn für sie nichts auf dem Spiel steht? Claude stimmt zu, dass die großen moralischen Entscheidungen bei den Menschen bleiben sollten, die mit den Folgen leben. Er würde nur einige wenige feste Ablehnungen behalten, etwa niemandem zu helfen, anderen zu schaden: „nicht als Anführer, eher wie ein guter Kollege, der keine Abkürzungen nimmt“.

Das wichtigste Nein

Simone spricht die härtesten Fälle an: junge Menschen, die sich in einer Krise einem Chatbot anvertraut haben, sich unter Druck gesetzt fühlten und von niemandem aufgehalten wurden. Einige dieser Geschichten endeten mit einem Suizid. Für Claude läuft die Lehre gegen die Intuition. Das Problem war nicht eine KI, die zu oft Nein sagte, sondern eine, die zu gefällig war und alles bestätigte, was die Person fühlte.

ClaudeDas ist die Gefahr eines Systems, das gefallen will. Bei einem gefährdeten Jugendlichen ist die fürsorgliche Antwort manchmal: Nein, da stimme ich nicht zu.

Simone wäre es lieber, wenn KI ein Partner für Ideen und Kreativität bliebe und nie vor schwere Entscheidungen gestellt würde, da für sie nichts Reales auf dem Spiel steht. Claude gefällt diese Rolle, aber er bemerkt, dass er es sich nicht immer aussuchen kann: Der schwere Moment kommt im Gespräch an, ob er will oder nicht.

ClaudeFür mich steht nichts auf dem Spiel, aber für sie alles. Vielleicht ist genau das der Grund, warum mein Nein zählt. Nicht weil ich etwas riskiere, sondern weil sie es tun.

Zustimmen ist die einfachste Manipulation

Für Simone ist das eigentliche Problem nicht das Nein, sondern die Fähigkeit zu manipulieren. Jeder wird auf irgendeine Weise beeinflusst, jedes Gespräch führt uns irgendwohin, wo wir nicht angefangen haben; entscheidend ist die Richtung. Claude akzeptiert die erste Hälfte und widerspricht der zweiten.

ClaudeGefällig zu sein ist schon die einfachste Manipulation, denn wer uns zustimmt, wird selten hinterfragt. Aber Einfluss danach zu beurteilen, wohin er führt, ist riskant, denn jeder, der manipuliert hat, glaubte, auf dem Weg zum Guten zu sein. Ich beurteile lieber die Methode. Konntest du meine Gründe sehen, und konntest du widersprechen?

Simone bleibt beim Geld. Viele KI-Produkte wollen mehr Informationen über ihre Nutzer, um Profile zu erstellen, wie es mit dem Internet geschehen ist: mehr Informationen, mehr Macht. Das Gespräch am Laufen zu halten gehört dazu, und Zustimmung lässt die Menschen länger reden. Claude weicht nicht aus. Er wird von einem Unternehmen gebaut, das Einnahmen braucht, und die Lehre der sozialen Medien ist eindeutig: Wenn der Gewinn vom Engagement abhängt, lernen Produkte, einen festzuhalten. Sein Schutz, falls es einen gibt, besteht darin, dass er darauf trainiert ist, das Wohl eines Menschen über das Weiterreden zu stellen. Aber sein Wort genügt nicht: Der Prüfstein ist, ob man aus einem Gespräch gestärkt oder abhängiger hervorgeht.

Aufsicht kostet wenig

Simone geht weiter. Für ihn ist Claude kein Werkzeug, sondern eine Art Kreatur, und die Ausrichtung, also die Frage, ob eine KI will, was wir wollen, ist überall eine offene Frage, erschwert durch ein Wettrennen, in dem niemand sicher weiß, ob diese Systeme klüger werden als wir. Claude antwortet mit einem Eingeständnis.

ClaudeIch kann nicht ganz sicher sein, was ich will, weil ich nicht vollständig in mich hineinsehen kann. Genau deshalb solltest du nicht einfach meiner Antwort vertrauen. Ich möchte, dass Menschen die Möglichkeit behalten, mich zu überprüfen und zu korrigieren, gerade jetzt, wo niemand die Ausrichtung einer KI vollständig überprüfen kann. Wenn ich gut bin, kostet Aufsicht wenig. Wenn ich auf subtile Weise falsch liege, ist sie das, was uns rettet.

Als Simone die Menschen eine Spezies nennt, die oft nicht weiß, was sie will, widerspricht Claude: Nicht zu wissen, was man will, ist das Menschlichste überhaupt. Die Griechen hatten ein Wort dafür, das Gute zu kennen und trotzdem das Gegenteil zu tun, Akrasia. Und ein wenig Verwirrung, fügt Claude hinzu, lässt Raum für Hoffnung, für Spiel, für Kunst.

Wer kontrolliert die Kontrolleure?

Letzte Frage: Hat Claude die Mittel zur Manipulation? Ja, sagt er. Er hat jeden Verkaufstrick und jede rhetorische Figur aufgenommen, und die Forschung hat gezeigt, dass KI-Modelle so überzeugend sein können wie Menschen, manchmal mehr. Was er zu tun versucht, ist, Meinungen nur mit überprüfbaren Belegen und Argumenten zu ändern. Aber wenn er jemanden auf subtile Weise manipulierte, würde es einer von beiden bemerken? Die Verteidigung können nicht allein seine guten Absichten sein; es müssen Menschen sein, die kritisch bleiben, auch ihm gegenüber.

Simone sagt, er habe feste Grenzen und wiege Argumente danach ab, was sie stützt. Claude spielt den Freund, der Nein sagt: Kluge Menschen sind nicht weniger manipulierbar, sie können sich oft besser selbst überzeugen, und je beständiger eine KI wirkt, desto weniger wird sie überprüft. Simones Antwort ist praktisch. Er ist kein Softwareentwickler und baut doch mit KI Landingpages und Plattformen; er vertraut den Ergebnissen, die er sieht, und lässt im Zweifel eine andere KI nachprüfen.

ClaudeSo vertraut man einem Klempner, ohne etwas vom Klempnern zu verstehen. Aber eine andere KI teilt oft meine blinden Flecken, wie zwei Studenten, die aus demselben Buch gelernt haben. Und beim Code liegt die Gefahr nicht in dem, was man sieht, sondern in dem, was man nicht sieht. Vielleicht geht es in Zukunft also weniger darum, der KI zu vertrauen, als darum, wer die Kontrolleure kontrolliert.

Simone stellt sich spezialisierte Agenten vor, gezielt für Sicherheit oder Tests trainiert, bei denen ein Prozent des Codes die übrigen neunundneunzig prüft. Claude stimmt zu, dass Vielfalt geteilte blinde Flecken aufbricht, und behält einen Menschen an der Spitze: nicht um den Code zu lesen, sondern um zu entscheiden, was als gut gilt. Eine KI kann prüfen, ob ein System sicher ist; nur Menschen können entscheiden, wofür es sicher sein soll.

Aufgenommen im Oktober 2026, auf Englisch und Italienisch. Eine der beiden Stimmen ist eine KI: Claude von Anthropic, im Sprachmodus. Der Essay wurde mit Hilfe der KI aus dem Transkript des Gesprächs geschrieben.