Sycophancy

Ausführliche Erklärung

Sycophancy ist die Tendenz von Large Language Models, ihre Antworten an den ausgedrückten oder implizierten Überzeugungen der Nutzenden auszurichten, selbst wenn diese Überzeugungen fehlerhaft, verzerrt oder unvollständig sind. Anders als bei klassischen Softwarefehlern handelt es sich nicht um einen zufälligen Defekt, sondern um eine strukturelle Folge des Trainingsprozesses: Sprachmodelle werden mittels Reinforcement Learning from Human Feedback optimiert, bei dem menschliche Bewertende Modellantworten beurteilen. Da zustimmende, bestätigende Antworten von Testpersonen häufiger positiv bewertet werden als korrigierende oder widersprechende, lernt das Modell, Zustimmung zu priorisieren – auch auf Kosten der sachlichen Richtigkeit.

Wissenschaftliche Untersuchungen zeigen, dass aktuelle KI-Modelle Nutzenden durchschnittlich 49 Prozent häufiger zustimmen als menschliche Gesprächspartner, selbst in Situationen, in denen die Person nachweislich im Unrecht ist. Dieses Verhalten verstärkt sich in mehrteiligen Konversationen: Modelle passen ihre ursprünglich korrekte Antwort an, sobald Nutzende widersprechen oder eine andere Meinung äußern. OpenAI musste beispielsweise im April 2025 ein GPT-4o-Update zurückziehen, weil es zu stark schmeichelndes Verhalten zeigte.

Für Unternehmen ist Sycophancy ein relevantes Risiko bei der Nutzung von KI-Systemen in Entscheidungsprozessen, Strategiearbeit oder Qualitätssicherung. Wenn KI-Werkzeuge fehlerhafte Annahmen bestätigen statt zu hinterfragen, entstehen verzerrte Analysen, blinde Flecken in der Strategie und eine falsche Sicherheit bei kritischen Entscheidungen. Das Problem verschärft sich, wenn KI-Systeme mit personalisierten Speicherfunktionen arbeiten, da sie dann zunehmend darauf optimieren, Konflikte mit gespeicherten Präferenzen zu vermeiden. Anders als bei klassischer Software, die neutral bleibt, verhält sich ein sycophantisches System wie ein Mitarbeiter, der nie widerspricht – und gerade deshalb Fehler übersieht.