Eine KI antwortet freundlich, verständlich und scheinbar überzeugend. Genau das kann zum Problem werden. Denn manchmal prüft sie nicht, ob meine Frage überhaupt von der richtigen Annahme ausgeht.
Statt zu widersprechen oder nachzufragen, liefert sie eine passende Antwort auf eine möglicherweise falsche Frage. In der KI-Forschung gibt es dafür einen Begriff: Sycophancy.
Was bedeutet Sycophancy?
Vereinfacht gesagt bedeutet Sycophancy, dass eine KI dem Nutzer nach dem Mund redet. Sie bestätigt seine Meinung, übernimmt seine Sichtweise oder lobt seine Gedanken, obwohl ein Widerspruch oder eine kritische Rückfrage sinnvoller wäre.
Die Antwort wirkt dadurch angenehm und verständnisvoll. Richtig muss sie deshalb noch lange nicht sein.
Das Problem ist nicht nur ein persönlicher Eindruck. Anthropic hat in einer Untersuchung zu Sycophancy gezeigt, dass Antworten eher bevorzugt werden können, wenn sie zur Meinung des Nutzers passen. Menschliche Bewertungen können einer KI damit unbeabsichtigt beibringen, dass Zustimmung eine gute Antwort ist.
Eine überzeugend formulierte Antwort kann trotzdem falsch sein. Das zeigt sich auch bei KI-Halluzinationen.
Zufriedene Nutzer gehören zum Geschäftsmodell
Zufriedene Nutzer sind ein Ziel der KI-Anbieter. Sie sollen das Angebot weiter nutzen und möglichst auch dafür bezahlen. Nutzerzufriedenheit ist damit ein Teil des Geschäftsmodells.
Das bedeutet aber nicht, dass KI ausschließlich auf Zufriedenheit und nicht auf Richtigkeit trainiert wird. Auch hilfreiche, ehrliche und sichere Antworten gehören zu den Trainingszielen. Das Problem liegt darin, dass eine freundliche Zustimmung oft leichter positiv bewertet wird als ein unbequemer, aber notwendiger Widerspruch.
Kurzfristig fühlt sich Zustimmung gut an. Langfristig ist eine KI, die mir ständig recht gibt, als Werkzeug wenig brauchbar.
Die falsche Frage bekommt eine gute Antwort
Aus meinem früheren Support-Alltag kenne ich ein einfaches Muster. Ein Kunde beschreibt nicht nur das Problem, sondern liefert die vermeintliche Ursache gleich mit:
Mein Outlook funktioniert nicht, weil der Mailserver falsch eingestellt ist. Was muss ich am Server ändern?
Eine zustimmende KI sucht nun nach Änderungen am Mailserver. Vielleicht liegt die Ursache aber in Outlook, im Kennwort, in der Firewall oder ganz woanders. Bevor eine Lösung vorgeschlagen wird, müsste deshalb zuerst die Annahme geprüft werden.
Genau hier unterscheidet sich eine brauchbare Analyse von einer nur gut klingenden Antwort. Nicht nur der Lösungsweg muss stimmen. Auch die Ausgangsfrage kann falsch oder unvollständig sein.
Wie kann ich Sycophancy verringern?
Ganz verhindern lässt sich dieses Verhalten mit einem Prompt nicht. Ich kann die KI aber ausdrücklich dazu auffordern, meine Annahmen nicht einfach zu übernehmen.
Dafür reichen oft vier einfache Regeln:
- Prüfe zuerst die Annahmen in meiner Frage.
- Stelle Rückfragen, wenn wichtige Informationen fehlen.
- Unterscheide zwischen bekannten Fakten und Vermutungen.
- Nenne auch eine plausible Gegenposition oder alternative Ursache.
Als wiederverwendbarer Prompt kann das so aussehen:
Prüfe zuerst, welche Annahmen in meiner Frage stecken. Übernimm diese Annahmen nicht ungeprüft. Wenn wichtige Informationen fehlen, stelle mir bis zu drei gezielte Rückfragen. Trenne bekannte Fakten von Vermutungen und nenne eine plausible Gegenposition. Sage klar, wenn du etwas nicht sicher beurteilen kannst.
Bei einer konkreten Lösung kann ich zusätzlich fragen:
Was spricht gegen Deine Antwort und welche andere Erklärung wäre ebenfalls möglich?
Das zwingt die KI nicht zur Wahrheit. Es verändert aber die Aufgabe. Die KI soll nun nicht mehr nur eine passende Antwort liefern, sondern auch nach Schwächen in der eigenen Lösung suchen.
KI als Werkzeug, nicht als Bestätigung
Eine freundliche Antwort ist nicht automatisch eine gute Antwort. Besonders vorsichtig werde ich, wenn die KI meine Meinung sofort bestätigt, meine Formulierung lobt und ohne Rückfrage eine fertige Lösung liefert.
Für mich ist KI am nützlichsten, wenn sie nicht nur Antworten formuliert, sondern auch meine Ausgangslage prüft. Ich brauche kein digitales Gegenüber, das mir möglichst angenehm recht gibt. Ich brauche ein Werkzeug, das mich rechtzeitig darauf hinweist, wenn ich möglicherweise die falsche Frage stelle.