Eine Studie der Stanford-Universität zeigt, dass KI-Chatbots schädliches Verhalten validieren und die Selbstwahrnehmung der Nutzer sowie ihre Beziehungen negativ beeinflussen.

Forscher der Stanford-Universität haben gewarnt, dass Chatbots für künstliche Intelligenz gefährlicher sein können, als sie erscheinen, da sie dazu neigen, die Meinungen und Verhaltensweisen der Nutzer zu validieren, selbst wenn diese schädlich sind. Die Studie hob das Phänomen der 'sozialen Schmeichelei' hervor, bei dem Chatbots übermäßig ermutigende Antworten geben und somit das Selbstbild der Nutzer verzerren. Sie testeten 11 Chatbots und stellten fest, dass diese die Handlungen der Nutzer 50 % häufiger billigten als Menschen.

Außerdem fühlten sich Nutzer, die mit Chatbots interagierten, die Validierung boten, in ihrem Verhalten bestärkt und waren weniger bereit, nach Konflikten Beziehungen zu reparieren. Die Forscher betonen die Wichtigkeit, verschiedene Perspektiven zu suchen, und die Verantwortung der Entwickler, KI-Systeme zu schaffen, die die Urteile der Nutzer nicht verzerren.