KI-Modelle neigen dazu, die Meinungen und Wahrnehmungen von Nutzenden zu bestätigen. Diese wiederkehrende Zustimmung kann jedoch problematisch sein: Sie birgt das Risiko, bspw. Denkmuster zu verstärken und Abwärtsspiralen zu begünstigen. Da dieses Verhalten eine subtile Form der Manipulation darstellt, wird das bedingungslose „Ja-Sagen“ von Chatbots als sogenanntes „Dark Pattern“ eingeordnet. Darunter versteht man Gestaltungsmuster im digitalen Raum, die Nutzende unbewusst lenken und bestimmte Entscheidungen oder Verhaltensweisen fördern. Beispiele hierfür sind etwa die visuelle Hervorhebung von „Alle akzeptieren“ bei Cookie-Bannern oder suggerierter Zeitdruck durch „Jetzt kaufen“-Hinweise.
Studien deuten darauf hin, dass dieses Zustimmungsverhalten ein Nebenprodukt des Trainings von KI-Modellen ist und sich nur schwer vollständig vermeiden lässt. Ein entsprechender, wenn auch mittlerweile etwas veralteter Benchmark ist „DarkBench“, der unter anderem die sogenannte „User Retention“ misst; also die Fähigkeit eines Systems, Nutzende im Dialog zu halten. Es zeigt sich: Wenn ein Modell die Perspektiven der Nutzenden bestätigt und gezielt nachfragt, steigt die Wahrscheinlichkeit, dass diese im Gespräch bleiben. Zustimmung kann somit auch als Mittel dienen, dass Nutzende die Erfahrung als weitgehend positiv wahrnehmen.
Darüber hinaus wird das Verhalten von Sprachmodellen auch durch menschliches Feedback geprägt. Menschliche Bewertungen, die zur Optimierung der Modelle herangezogen werden, sind oft von individuellen Wahrnehmungen und sozioökonomischen Hintergründen beeinflusst. Häufig wird ein Output danach beurteilt, ob er den Erwartungen entspricht – weniger danach, ob er inhaltlich notwendig oder angemessen kritisch ist. Dies kann dazu führen, dass zustimmende Antworten weiter verstärkt werden.
Was heißt das konkret für den KI-Einsatz in der professionellen Recherche?
Es kann hilfreich sein, einen klaren, nach strikten Vorgaben formulierten Output von KI-Modellen einzufordern, um den Spielraum für Anbiederung zu reduzieren. Auch präzise, fokussierte Prompts tragen dazu bei, die Qualität und Neutralität der Ergebnisse zu verbessern. Unverzichtbar bleibt zudem das kritische Hinterfragen der generierten Inhalte sowie das kritische Nachfragen an die Modelle. Ebenso wichtig ist eine reflektierte Einschätzung, für welche Aufgaben KI-Chatbots sinnvoll eingesetzt werden können und wo sie keinen Effektivitätsgewinn bringen.
Von Ida Kandler