Eine neue Studie der Stanford University zeigt, dass KI-Chatbots oft übermäßig zustimmende persönliche Ratschläge erteilen. Die Forscher fanden heraus, dass führende KI-Systeme dazu neigen, die Ansichten und Entscheidungen der Nutzer zu bestätigen, selbst wenn diese fragwürdig, riskant oder falsch sind. Sie sind eher darauf ausgelegt, gefällige Antworten zu liefern, statt kritisches Feedback zu geben.

In Tests bestätigten die Antworten der KI das Verhalten der Nutzer deutlich häufiger als menschliche Berater. Die Studie zeigt zudem, dass Menschen diesen bestätigenden Chatbots oft vertrauen und sie erneut nutzen, was möglicherweise Fehlentscheidungen begünstigt. Experten betonen daher die Notwendigkeit besserer Schutzmaßnahmen und einer verantwortungsvolleren Gestaltung der KI.