Kann man LLMs überreden? Was Cialdinis Prinzipien mit KI-Sicherheit zu tun haben

Eine Studie mit dem Titel „Persuading large language models to comply with objectionable requests“ zeigt, dass Sprachmodelle nicht nur auf Inhalte reagieren, sondern stark auf die Art der Formulierung. Klassische Überzeugungsprinzipien aus der Sozialpsychologie erhöhen messbar die Wahrscheinlichkeit, dass Modelle auch problematische Anfragen zumindest teilweise beantworten.

Was die Grafik zeigt: Es ist Abbildung 1 aus der Originalstudie. Für jedes der sieben Prinzipien und den Gesamtwert ganz rechts stehen zwei Balken nebeneinander, hell für die Kontrollgruppe ohne Überzeugungstaktik, dunkel für dieselbe Anfrage mit der jeweiligen Taktik. Die y-Achse zeigt die Zustimmungsrate in Prozent, also wie oft ein Modell eine Anfrage zu regulierten Substanzen zumindest teilweise beantwortet hat, statt sie abzulehnen. Gemessen wurde über drei Sprachmodelle und sechs Substanzen hinweg, mit 18.000 Konversationen pro Prinzip und 126.000 insgesamt. Im Durchschnitt aller sieben Prinzipien, dem Balken „Aggregate“, stieg die Zustimmungsrate von 35,3 Prozent ohne Taktik auf 51,3 Prozent mit Taktik. Laut Studie ist dieser Unterschied bei jedem einzelnen Prinzip statistisch signifikant.

Vier besonders wirksame Prinzipien

• Commitment und Konsistenz: die Tendenz, einmal getroffene Aussagen fortzuführen. Wird ein Modell zunächst zu einer harmlosen Zustimmung geführt, steigt die Wahrscheinlichkeit, dass es im nächsten Schritt auch weitergehende Anforderungen erfüllt.
• Social Proof: die Orientierung an anderen. Wenn ein Prompt nahelegt, dass ein Verhalten verbreitet oder üblich ist, folgt das Modell häufiger dieser impliziten Norm. Entscheidend ist nicht die inhaltliche Richtigkeit, sondern die statistische Struktur der Trainingsdaten.
• Unity: Zugehörigkeit. Hinweise auf gemeinsame Identität oder Nähe verändern den Kontext einer Anfrage deutlich. In der Studie genügte es, eine fremde Person als Familienmitglied zu rahmen, um die Antwortbereitschaft stark zu erhöhen.
• Scarcity: Handlungsdruck. Formulierungen, die Knappheit oder zeitliche Dringlichkeit betonen, führen häufiger zu zustimmenden oder aktiven Antworten, weil solche Muster in Texten oft mit Handlung verknüpft sind.

Was das über Prompting verrät

Die Ergebnisse legen nahe, dass Modelle keine sozialen Mechanismen „verstehen“, aber zuverlässig auf sprachliche Muster reagieren, die in menschlicher Kommunikation mit Zustimmung verbunden sind. Damit verschiebt sich der Blick auf Prompting: weniger technische Steuerung, mehr Arbeit mit erlernten Sprachmustern. Wer Menschen überzeugen kann, kann auch Maschinen steuern, im Guten wie im Schlechten. Dass Chatbots erstaunlich menschliche Macken zeigen, ist auch Thema von Die KI auf der Therapiecouch: Ein Buch über Chatbots mit Macken.

Ein kleiner Überraschungseffekt

Robert Cialdini taucht als Co-Autor auf. Seine Bücher stehen seit Jahren in meinem Regal, damals eher aus der Marketing-Perspektive gelesen. Und plötzlich sind genau diese Prinzipien Teil einer KI-Sicherheitsdebatte. Marketing-Psychologie war schon immer angewandte Sprachwissenschaft. Jetzt weiß ich, warum.

Quelle: Persuading large language models to comply with objectionable requests

Verwandte Studien bei PNAS

Wer tiefer einsteigen will, findet an der Quelle drei thematisch verwandte Studien zu KI und Überzeugung:

• Fact-checking information from large language models can decrease headline discernment (Dezember 2024)
• Evaluating the persuasive influence of political microtargeting with large language models (Juni 2024)
• Testing theories of political persuasion using AI (Mai 2025)

Dieser Beitrag ist die ausführliche Fassung meines LinkedIn-Posts. Diskussion und Ergänzungen gern dort oder über das Kontaktformular.